Statistiek 3 – Week 2: GLM, Regressie & ANOVA

Vocabulaire-flashcards ter voorbereiding op het tentamen Statistiek 3. Elke kaart bevat een kernbegrip uit de hoorcollege-stof van week 2 (regressie, ANOVA, meervoudig toetsen) met een korte uitleg in het Nederlands.

Generalized Linear Model (GLM)

Overkoepelend kader waarin OLS-regressie, ANOVA en ANCOVA worden ondergebracht.

Ordinary Least Squares (OLS)

Schattingsmethode die de som van gekwadrateerde residuen minimaliseert.

Bivariate regressie

Regressiemodel met één afhankelijke en één onafhankelijke (kwantitatieve of dichotome) variabele.

Intercept (b₀)

Voorspelde Y-waarde wanneer X gelijk is aan nul.

Slope (b)

Verandering in de voorspelde Y per éénheid toename in X.

Residueel (foutterm)

Verschil tussen geobserveerde en voorspelde waarde (Y − Ŷ).

Totale variatie (SStotal)

Som van (Y − Ȳ)²; kan worden opgesplitst in SSregression en SSresidual.

R-kwadraat (R²)

Proportie verklaarde variantie: SSregression / SStotal.

Standaardfout van de schatting (SEest)

Gemiddelde omvang van de residuen; maat voor voorspellingsfout.

Lineair verband

Aanname dat de relatie tussen X en Y lineair is in regressie-analyse.

ANOVA (Analysis of Variance)

Techniek om gemiddelden van drie of meer groepen te vergelijken op een kwantitatieve afhankelijke variabele.

Omnibus F-test

Globale toets die nagaat of ten minste één groepsgemiddelde afwijkt.

F-ratio

Verhouding van MSbetween tot MSwithin; basis van de F-test.

Assumptie: gelijke varianties

Voor ANOVA moeten de groepsvarianties gelijk zijn (homoscedasticiteit).

Levene-test

Statistische toets voor gelijkheid van varianties tussen groepen.

Kruskal-Wallis H-test

Niet-parametrisch alternatief voor éénweg-ANOVA bij schending van normaliteit.

Welch-test

Alternatieve ANOVA wanneer de assumptie van gelijke varianties wordt geschonden.

Between-groups variatie (SSbg)

Variatie tussen groepsgemiddelden; verklaarde variatie.

Within-groups variatie (SSwg)

Variatie binnen groepen; onverklaarde variatie.

Eta-kwadraat (η²)

Effectgrootte voor ANOVA: SSbg / SStotal, analoog aan R².

Meervoudig toetsen

Uitvoeren van meerdere hypothesetoetsen waardoor de kans op type-I-fout oploopt.

Tukey's post-hoc test

Procedure die alle paargewijze groepsvergelijkingen test met controle van type-I-fout.

Studentized range (q-verdeling)

Verdeling gebruikt in Tukey-tests; dikkere staarten naarmate het aantal groepen toeneemt.

Honestly Significant Difference (HSD)

Minimale groepsverschil dat significant is volgens Tukey.

Games-Howell test

Post-hoc test geschikt bij ongelijke varianties en ongelijke groepsgroottes.

Contrast

A-priori vergelijking van (gewogen) groepsgemiddelden waarvan de gewichten optellen tot nul.

Eenvoudig contrast

Vergelijking tussen twee specifieke groepen, bv. (+1, −1).

Complex contrast

Vergelijking waarbij meer dan twee groepen of samengestelde gemiddelden betrokken zijn.

Orthogonale contrasten

Onafhankelijke contrasten waarbij de som van de kruisproducten van de gewichten nul is.

Bonferroni-correctie

Conservatieve methode: αaangepast = α / aantal vergelijkingen.

Dummy-variabele

Indicator (0/1) die een categorie representeert in regressie-analyse.

Type-I-fout

Ten onrechte verwerpen van een ware nulhypothese (false positive).

Type-II-fout

Ten onrechte niet verwerpen van een onware nulhypothese (false negative).

Harmonisch gemiddelde (nₕ)

Gemiddelde groepsgrootte gebruikt in Tukey-Kramer-correctie bij ongelijke n’s.

Adjusted R-square

R² gecorrigeerd voor steekproefgrootte en aantal parameters.

Standaardiseerd Beta

Regressiecoëfficiënt uitgedrukt in SD-eenheden, vergelijkbaar over variabelen.

Exploratieve vs confirmatieve analyse

Post-hoc (achteraf) tests zijn exploratief; a-priori contrasten zijn confirmatief.

Independence of observations

Aanname dat elke meting onafhankelijk is van andere metingen.

Eenweg-ANOVA

ANOVA met één onafhankelijke (categorische) variabele.

F-verdeling

Verdeling van de F-ratio; bepaald door df₁ = k − 1 en df₂ = N − k.

Stap-voor-stap plan ANOVA

1) Verken data & aannames 2) Voer ANOVA uit 3) Post-hoc/contrasten 4) Interpreteer.