Mathe B Kapitel 6

Lineare Abbildungen, Matrizen

Definition Lineare Abbildung

Vor.: V, W 𝕂-Vektorräume

Abbildung f: V → W linear (Vektorraumhomomorphismus), wenn

• Additivität: f(u + v) = f(u) + f(v), ∀v,u ∈ V

• Homogenität: f(λv) = λf(v), ∀v ∈ V, λ ∈ 𝕂

Kurzform: f linear <==> f(λu + µv) = λf(u) + µf(v), ∀u,v ∈ V, λ,µ ∈ 𝕂

Notwendige Bedingung für Linearität

Vor.: f: V → W

f(0_V) = 0_W

Lineare Abbildungen und lineare Unabhängigkeit

Vor.: V,W 𝕂-Vektorräume, f: V → W linear

Für jede linear abhängige Familie F in V gilt: f(F) ist linear abhängig in W

Definition Kern und Bild

Vor.: f: V → W linear

• ker(f) := {v ∈ V | f(v) = 0}

• Im(f) := {f(v) | v ∈ V} = f(V)

Lemma: Für jedes lineare f: V → W gilt ker(f) ist UVR von V, Im(f) ist UVR von W

Injektivität und Surjektivität von f (Kern, Bild)

∀ f ∈ Hom(V,W):

• f injektiv <=> ker(f) = {0}

• f surjektiv <=> Im(f) = W

Vektorraum der Homomorphismen

Vor.: V, W 𝕂-Vektorräume

Hom_𝕂(V,W) := {f: V → W | f ist Vektorraumhomomorphismus}

• Bildet die Menge aller linearen Abbildungen

• Hom_𝕂(V,W) ist 𝕂-Vektorraum

Dimensionsformel

Vor.: V, W 𝕂-Vektorräume, V endlich-dimensional, f ∈ Hom_𝕂(V,W)

dim V = dim Im(f) + dim ker(f)

Definition Projektion

Vor.: V 𝕂-Vektorraum

P ∈ Hom_𝕂(V,V) ist Projektion, wenn P² = P ∘ P = P (idempotent)

Projektionen und direkte Summen

Vor.: V = U₁ ⊕ U₂

• P: V → V, u₁ + u₂ ↦ u₁ (u_i ∈ U_i) ist Projektion mit Im(P) = U₁, ker(P) = U₂

• Umkehrung: Ist P: V → V Projektion, dann ist V = Im(P) ⊕ ker(P)

Definition Isomorphismen zwischen Vektorräumen

Isomorphismus f: V → W => V und W sind isomorph V ≅ W

• Lemma: Auch f^-1: W → V ist Isomorphismus

Isomorphie endlich-dimensionale Vektorräume

Vor.: V,W 𝕂-Vektorräume, endlich-dimensional

V, W isomorph, wenn dim(V) = dim(W)

• Jeder n-dimensionale 𝕂-Vektorraum V ist isomorph zu 𝕂ⁿ

Definition Matrizen

Vor.: m,n ∈ ℕ, Körper 𝕂, 𝕂^m*n mit +,* (skalar) 𝕂-Vektorraum

𝕂^m×n: 𝕂-Vektorraum mit Koeffizienten a_ij ∈ 𝕂

• 𝕂^m*n ≅ 𝕂^m×n

• Schreibweise: A = (a_ij)_{1≤i≤m,1≤j≤n}, A = (a_ij), wenn m,n klar

Addition und skalare Multiplikation mit Matrizen

Vor.: A, B ∈ 𝕂^m×n, A = (a_ij), B = (b_ij), λ ∈ 𝕂

• Addition: C = A + B = (c_ij), c_ij = a_ij + b_ij (komponentenweise) → Dimensionen müssen für A,B gleich sein!

• Multiplikation: λA = (λa_ij) (komponentenweise)

Kanonische Basis der Matrizen

Für 𝕂^m×n: {E_kl | 1 ≤ k ≤ m, 1 ≤ l ≤ n}

• Alles 0, nur an Zeile k, Spalte l ist eine 1

• Es gibt m * n dieser Matrizen in der Basis

Isomorphie der linearen Abbildungen

Vor.: V,W 𝕂-Vektorraum, dim V = n ∈ ℕ, dim W = m ∈ ℕ

Hom_𝕂(V, W) ≅ 𝕂^m×n

• dim(Hom_𝕂(V, W)) = dim(V) * dim(W) = nm = dim(𝕂^m×n)

  

$\phi$ wendet lineare Funktion auf Basisvektoren an, die ergeben dann die einzelnen Spalten der Matrix

• Jedes f ∈ Hom_𝕂(𝕂ⁿ, 𝕂^m) ist als darstellende Matrix A_f ∈ 𝕂^m×n darstellbar

Matrix-Vektor Multiplikation

*: 𝕂^m×n × 𝕂ⁿ → 𝕂^m

• Anwendung f(x) = A_fx, f ∈ Hom_𝕂(𝕂^m, 𝕂ⁿ), x ∈ 𝕂ⁿ

• Matrix A ∈ 𝕂^m×n ist also auch Element von Hom_𝕂(𝕂^m, 𝕂ⁿ)

Definition Zeilen- und Spaltenrang

Vor.: Matrix A ∈ 𝕂^m×n

Spaltenrang(A) = dim(span{Spaltenvektoren von A})

Zeilenrang(A) = dim(span{Zeilenvektoren von A})

Definition Rang von Matrizen (und Spaltenrang)

Vor.: F ∈ Hom_𝕂(V,W), V,W endlich-dimensionaler 𝕂-Vektorraum

• Für A_F ∈  𝕂^m×n: dim Im(F) = Spaltenrang(A_F)

Rang(F) = Spaltenrang(A_F) = Zeilenrang(A_F) = Rang(A_F) = dim Im(F)

• Isomorphismen/Reguläre Matrizen ändern die Dimension nicht: dim(Im(φ^-1_W ◦ A_F ◦ φ_V)) = dim(Im(A_F))

Rangformel für Matrizen

Vor.: Matrix A ∈ 𝕂^m×n

n = Rang(A) + dim(ker(A))

Multiplikation von Matrizen

Komposition von zwei linearen Abbildungen

Vor.: A ∈ 𝕂^m×n, B ∈ 𝕂^n×r: *: 𝕂^m×n × 𝕂^n×r → 𝕂^m×r

C = (c_ij) = A * B, A = (a_ij), B = (b_ij)

c_ij = ∑ⁿ_k=1 a_ikb_kj =

• Einfach: Rechne jede Zeile von A mal jede Spalte von B

• I.A. gilt keine Kommutativität: AB ≠ BA

• Es gilt Assoziativität, DGs

Einheitsmatrix

Quadratische Matrix

• Neutrales Element der Multiplikation: IA = AI = A, ∀A ∈ 𝕂^n×n

Definition Invertierbare Matrizen

A ∈ 𝕂^n×n ist invertierbar (regulär), wenn multiplikatives Inverses existiert: A^-1 ∈ 𝕂^n×n mit A^-1A = I

• Wenn Matrix invertierbar, ist auch f invertierbar

• Nicht invertierbare quadratische Matrix heißt singulär

Allgemeine lineare Gruppe

Gl(n;𝕂) := {A ∈ 𝕂^n×n | A ist invertierbar}

Die Gruppe bildet mit Matrizenmultiplikation *: 𝕂^n×n × 𝕂^n×n → 𝕂^n×n eine (nicht-abelsche) Gruppe

• Inverses eines Matrixproduktes AB: B^-1A^-1

Neuronale Netze

Eingabe: Vektor x =: y⁽⁰⁾ ∈ ℝⁿ

Gewichte: W^(l) ∈  ℝ^m_l×m_l-1

Bias: b^(l) ∈  ℝ^m_l

Vorwärtslauf für l = 1, …, L (Schichten): h^(l) = W^(l)y^(l-1) + b^(l)

Knotenweise Aktivierung: y^(l) = σ(h^(l))

• Für zweistufiges Neuronales Netz: h = W⁽¹⁾x + b⁽¹⁾, y = W⁽²⁾σ(h) + b⁽²⁾

Isomorphismen und invertierbare Matrizen

Vor.: V,W 𝕂-Vektorräume mit identischer endlicher Dimension

Homomorphismus F ∈ Hom_𝕂(V,W) ist Isomorphismus <==> darstellende Matrix A_F invertierbar

Äquivalenzen zur Invertierbarkeit

Vor.: A ∈ 𝕂^n×n

Es sind äquivalent:

• A ist invertierbar

• A besitzt vollen Rang: Rang(A) = n

• Im A = 𝕂ⁿ

• A ist surjektiv

• A ist injektiv

• ker(A) = {0}

Eine Matrix ist invertierbar, wenn ihre Spalten/Zeilen l.u. sind

Multiplikation mit regulären Matrizen

Vor.: A ∈ 𝕂^m×n, T ∈ Gl(n;𝕂), S ∈ Gl(m;𝕂)

Rang(A) = Rang(S * A * T^-1)

• A und S * A * T^-1 sind äquivalent

• Rang(S * A * T^-1) = dim(Im(S * A * T^-1)) = dim(Im(A)) = Rang(A)

Transposition von Matrizen

Vor.: A ∈ 𝕂^m×n

A^T ∈ 𝕂^n×m, (A^T)_ij := (A)_ij

• Tausche Zeilen und Spalten von A

• Es gilt für Matrixprodukte: (AB)^T = B^TA^T

Invertierbarkeit und Transpositionen

Vor.: A ∈ Gl(n;𝕂)

Es gilt: A^T ∈ Gl(n;𝕂) und (A^T)^-1 = (A^-1)^T