Theorie Kansrekening en Statistiek

Gegevens kunnen gemeten worden op verschillende types schalen: welke?

• Nominale schaal: categoriseert zonder volgorde of rangorde (bv. attributen, namen,…)

• Ordinale schaal: categoriseert met duidelijk volgorde of rangorde zonder afstand tussen de categorieën (bv. heel goed ←→ heel slecht)

• Intervalschaal: ordinale schaal met een betekenisvolle en constante afstand tussen de meetwaarden (optellen en aftrekken) zonder absoluut nulpunt (bv. iq-score, °C←→°F)

• Verhoudingsschaal: intervalschaal met een absoluut nulpunt en vermenigvuldiging tussen de meetwaarden (bv. K—>°C)

Wat zijn de verschillende soorten statistiek?

• Verzamelende statistiek: het verzamelen van gegevens

• Beschrijvende statistiek: ordenen van gegevens, ze grafisch voorstellen en samenvatten aan de hand van statistische grootheden

• Verklarende statistiek: met behulp van de resultaten uit de beschrijvende statistiek uitspraken doen over de hele populatie

Welke kengetallen ken je om de spreiding van de gegevens in een steekproef weer te geven. Definieer ze.

• Range: R, hoogste waarde - laagste waarde

• Variantie: geeft aan hoe ver getallen uit een lijst uit elkaar liggen

  • Populatie: σ² = (Σ[X_i - µ]²) / N

  • Steekproef: s² = (Σ[x_i - x̄]²) / (n-1)

• Standaardafwijking: wortel uit de variantie

• Gemiddelde absolute afwijking: geeft aan hoe ver de getallen in een dataset gemiddeld bij het centrale gemiddelde vandaan liggen

• Mediaan absolute afwijking: maatstaf voor de spreiding van een groep getallen (robust)

Hoe maak je een boxplot?

Welke kengetallen ken je om de centrale tendens van de gegevens in een steekproef weer tegeven. Definieer ze.

→ Geven het midden of typische waarden weer van een dataset

• Gemiddelde: …

• Mediaan: middelste waarden van een geordende dataset

• Modus: meeting met hoogste frequentie

• Midrange: gemiddelde van de kleinste en grootste waarde van een dataset

• Gewogen gemiddelde: gemiddelde waarbij sommige waarden zwaarder meetellen dan andere

Indien je over een steekproef beschikt, wat is dan de relatieve en de cumulatieve frequentie ?

Hoe kun je ze grafisch voorstellen (eventueel op meerdere manieren) ?

Wat is een empirische verdelingsfunctie ?

• Relatieve frequentie = welk procent van de steekproef een bepaalde waarde heeft

• cumulatieve frequentie = opgetelde frequentie tot een bepaalde waarde

• empirische verdelingsfunctie: geeft per waarde aan hoe groot het deel van de waarnemingen is dat gelijk is aan of kleiner is dan die waarde

  • F_n(x) = #metingen / n

Geef de definities van universum, gebeurtenis en het begrip kans. Wat is een voorwaardelijke kans?

• Universum (Ω) = de verzameling van alle mogelijke uitkomsten van een experiment

• Gebeurtenis = deelverzameling van het universum

• kans = een functie waarbij met elke gebeurtenis A van een universum Ω een reëel getal P(A) geassocieerd wordt envoldoetr aan volgende regels:

  • 0 ≤ P(A) ≤ 1

  • P(∅) = 0 en P(Ω) = 1

  • Als A ∩ B = ∅ dan is P(A ∪ B) = P(A) + P(B)

• voorwaardelijke kans:

Formuleer de wet van de totale kans en de regel van Bayes. Illustreer beiden met de hulp van een figuur.

• Wet van de totale kans:

• Regel van Bayes:

• illustratie:

Wat betekent het indien twee of meerdere gebeurtenissen onafhankelijk zijn ? Geef één gevolg.

Twee gebeurtenissen A en B heten (stochastisch) onafhankelijk als het voor de kans A niet uitmaakt of B al dan niet gebeurd is

• Beschreven als: P(A) = P(A | B) = P(A | B^c)

• Gevolgen:

  • P(A | B) = P(A)

  • P(A | B) < P(A)

  • P(A | B) > P(A)

Wat is een stochastische variabele? Geef tevens de definitie van een verdelingsfunctie en van een dichtheidsfunctie. Bestaat de laatste altijd ?

• Stochastische variabele = Een stochastische variabele is een variabele die aan elke mogelijke uitkomst van een toevalsexperiment een getalwaarde toekent: X: Ω → R : ω → X(ω)

• verdelingsfunctie = beschrijft de kans dat een X een waarde aanneemt die kleiner of gelijk is aan een bepaalde waarde x: F(x) = P(X≤x)

• dichtheidsfunctie = de afgeleide van de verdelingsfuntie en beschrijft de verdeling van X

  • Bestaat enkel als de verdelingsfunctie afleidbaar is

Wat zijn onafhankelijke stochastische variabelen ? Indien twee stochastische variabelen onafhankelijk zijn, wat weet je dan over de verwachtingswaarde van hun product en de variantie van hun som ?

• Onafhankelijk stochastische variabele = twee stochastische variabelen X en Y heten onafhankelijk als de gebeurtenissen {a₁<X≤b₁} en {a₂<Y≤b₂} onafhankelijk zijn voor alle a_i, b_i in R(i=1, 2), of equivalent als: P({a₁<X≤b₁} ⋂ {a₂<Y≤b₂}) = P(a₁<X≤b₁) P(a₂<Y≤b₂)

  • Verwachtingswaarde product: E[XY] = E[X]*E[Y]

  • Variantie som: Var[X±Y] = E[X] + E[Y]

X en Y zijn 2 stochastische variabelen. Hoe zijn we tot de definitie van het begrip covariantie van X en Y gekomen ? Geef tevens de definitie van de correlatie van X en Y. Zijn twee ongecorreleerde stochastieken altijd onafhankelijk ?

• Covariantie = maatstaaf die aangeeft aan hoe twee variabelen samen veranderen

  • beschreven als: Cov(X,Y) = E[ (X - E[X]) * (Y - E[Y]) ] = E[XY] - E[X]*E[Y]

    • Cov(X,Y) > 0: positieve samenhang

    • Cov(X,Y) = 0: geen lineaire samenhang

    • Cov(X,Y) < 0: negatieve samenhang

• Correlatie = gestandaardiseerde covariantie

  • beschreven als: ρ_x,y = Cov(X,Y) / (σ_Xσ_Y)

    • -1 ≤ ρ_x,y ≤ 1

• Nee; de covariantie kijkt enkel naar lineaire verbanden en dus betekent Cov = 0 niet perse dat ze ongecorreleerd zijn

Men zegt dat een geometrisch verdeelde stochastische variabele geen geheugen heeft. Wat betekent dit? Ken je nog een andere verdeling, die geen geheugen heeft?

• Geheugenloos = de kans op succes hangt niet van het aantal voorgaande mislukten pogingen: P(X > s+t | X > s) = P(X > t)

  • exponentiele verdeling

Geef de centrale limietstelling. Illustreer hoe je deze stelling kunt gebruiken bij het benaderen van een Poissonverdeling en de binomiaalverdeling

• Centrale limietstelling = het gemiddelde van een voldoende grote steekproef zal altijd bij benadering normaal verdeeld zijn: n ≥ 30, np ≥ 5 en nq ≥ 5

  • Poissonverdeling: N(λ,λ)

  • Binomiaalverdeling: N(np,npq)

Geef de definitie van een statistiek, van een schatter en van een zuivere schatter. Geef tevens een zuivere schatter voor de populatievariantie en geef de verdeling van deze schatter.

• Statistiek = een stochastische variabele, die alleen een functie is van de steekproef en niet van de onbekende parameters (zoals µ en σ)

• Schatter = een statistiek die gebruikt wordt om een onbekende parameter te benaderen en is zuiver als de verwachtingswaarde van de schatter gelijk is aan de gezochte parameter

  • populatievariantie: Var(X̄_n) = σ² / n

  • verdeling: X̄_n ~ N( µ, (σ² / n) )

Je neemt een eerste steekproef van grootte n uit een normaal verdeelde populatie met gemiddelde μ₁ en variantie σ². Je neemt nadien een tweede steekproef van grootte m uit een andere normaal verdeelde populatie met gemiddelde μ₂ en een variantie σ². Geef de verdeling van het verschil van de 2 steekproefgemidddelden. Gebruik deze verdeling om een toets af te leiden voor het toetsen van de gelijkheid van de twee populatiegemiddeldes ? Wat kan je doen indien beide populatievarianties verschillend zijn ?

• Verdelingen: X̄_n ~ N( µ₁, (σ² / n) ) en Ȳ_m ~ N( µ₂, (σ² / m) )

• Toets: X̄_n - Ȳ_m ~ N( µ_X-µ_Y, (σ_X² / n)+(σ_Y² / m) )

• Indien σ² verschillend: t-toets

Leid een betrouwbaarheidsinterval af voor het populatiegemiddelde indien de populatievariantie gekend is (de populatie is normaal verdeeld). Welke factoren bepalen de lengte van dit interval ? Wat verandert er aan de uitdrukking voor dit interval indien de populatievariantie niet gekend is ?

• lengte interval:

  • grote betrouwbaarheidsinterval

  • steekproefgrootte (met eenzelfde niveau α)

• variantie niet gekend: t-verdeling

Leid een betrouwbaarheidsinterval af voor de populatievariantie als de populatie normaal verdeeld is.

Wat zijn de verschillende stappen bij het toetsen van hypothesen ? Illustreer dit aan de hand van een toets voor het gemiddelde indien de variantie ongekend is.

1. opstellen van een theoretisch model: X=… ; E[X] = µ₁

2. Hypothese:

   • Nulhypothese: H₀: µ = µ₁

   • Alternatieve hypothese: H_A: µ ≠, < of > µ₁

3. Keuze van toetsingsgrootheid: T = (X̄_n - µ) / (S_n / sqrt(n)) ~ t_n-1

4. Beslissingscriterium::

Wat zijn de verschillende stappen bij het toetsen van hypothesen ? Illustreer dit aan de hand van een toets voor de variantie.

1. opstellen van een theoretisch model: X=… ; E[X] = µ₁

2. Hypothese:

   • Nulhypothese: H₀: σ² = σ₀²

   • Alternatieve hypothese: H_A: σ² ≠, < of > σ₀²

3. Keuze van toetsingsgrootheid: (n-1)S_n² / σ₀² ~ χ²_(n-1)

4. Beslissingscriterium:

Welke toetsen ken je om gemiddeldes van 2 verschillende populaties met elkaar te vergelijken? Geef een kort overzicht. Vermeld tevens wanneer je welke toets gebruikt.

Bij het toetsen van hypothesen werden begrippen als kritisch punt, significantieniveau α en een p-waarde geïntroduceerd. Wat betekenen deze begrippen ? Illustreer dit aan de hand van een toets voor het vergelijken van varianties in 2 verschillende normaal verdeelde populaties.

• Kritisch punt = de grenswaarde die bepaalt of de nulhypothese verwopren of bouden wordt

• significantieniveau = kans op type I fout

• p-waarde = kans dat de waarde toevallig is

• F-toets:

  1. opstellen van een theoretisch model: X=… ; E[X] = µ₁

  2. Hypothese:

     • Nulhypothese: H₀: σ₁² = σ₂²

     • Alternatieve hypothese: H_A: σ₁² ≠, < of > σ₂²

  3. Keuze van toetsingsgrootheid: f = s₁² / s₂² → F_{m-1, n-1}

  4. Beslissingscriterium:

Definieer de correlatiecoëfficiënt van 2 steekproeven en van 2 stochastische variabelen. Beschrijf de toets die je kunt uitvoeren om te testen of de correlatie significant is. Wat betekent dit ?

• correlatiecoëfficiënt:

  • 2 steekproeven =

  • 2 stochastische variabelen =

• significant:

Welke toetsen ken je om op basis van een steekproef uit je populatie na te gaan of je populatie uniform verdeeld is? Beschrijf ze en geef hun voor- en nadelen.

• Chi-kwadraat toets = vergelijkt geobserveerde frequenties met gepostuleerde frequenties

  • voordelen: algemeen bruikbaar

  • nadelen: data moet in klassen zijn opgedeeld

• P-P en Q-Q plot vergelijken respectievelijk cumulatieve kansen en kwantielen

  • voordelen: visueel gemakkelijk

  • nadelen: subjectief

• Kolmogorov-Smirnov toets = vergelijkt de empirische verdelingsfunctie F_n​(x) van een steekproef rechtstreeks met de theoretische verdelingsfunctie F(x) van de verdeling die men wil testen

  • voordelen: geen klassen nodig

  • nadelen: alleen bruikbaar bij weinig data

Wat is een kruistabel ? Leid een toets af waarmee je de onafhankelijkheid van de kolom- en de rijvariabele kunt nagaan ?

• kruistabel = tabel van 2 categorische vairabelen (kwalitatieve data)

• toets: χ² = Σ[ (O_ij - E_ij)² / E_ij ] met E_ij = (R_tot * K_tot) / tot

Welke types fouten heb je bij het toetsen van hypothesen. Wat is de macht van een toets ? Welke factoren bepalen deze grootheid ? Schets dit.

• Macht van een toets = kans dat je de nulhypothese H₀ correct verwerpt wanneer er in werkelijkheid een effect of afwijking bestaat: 1-β

  • invloeden: significantie niveau, µ_diff

Aan welke voorwaarden moet er voldaan zijn om de kleinste kwadraten toe te passen.

(residu = het verschil tussen een werkelijke (geobserveerde) waarde en de voorspelde waarde van een model)

1. voor elke x_i is het residu een trekking uit een normaal verdeelde stochastiek met gemiddelde nul

2. de residus zijn onafhankelijk

3. de residues bij verschillende waarden van x_i hebben dezelfde variantie (homoscedasticiteit)

Hoe kun je het lineaire kleinste kwadraten model verifiëren? Leg uit.

• Residuele plots:

  

  
  

• variantieanalyse (F-toets): determinatie coëfficiënt:

• t-toets op rico = 0:

Wat is de determinatiecoëfficiënt bij lineaire regressie ? Hoe kun je de significantie van je regressie toetsen ?

• determinatiecoëfficiënt = (correlatiecoëfficiënt)² = de proportie van de variatie in de data y_i die door je rechte verklaard wordt

  • beschreven als: (SS=sum of squares)

• F-toets

In dien je een lineair model fit, krijg je soms te maken met outliers. Wat zijn dit ? Welk effect hebben ze ? Wat kun je doen ?