Randomized Complete Block Designs (RCBD): Fixed Effects versus Mixed Models bij Gebalanceerde en Ongebalanceerde Data
Principes van het Randomized Complete Block Design (RCBD)
Variabiliteit tussen experimentele eenheden:
- In experimentele designs, zoals het Completely Randomized Design (CRD) en Repeated Measures Designs, is er vaak sprake van substantiële variabiliteit tussen experimentele eenheden onderling.
- Zelfs wanneer experimentele eenheden exact dezelfde behandeling ontvangen, kunnen er aanzienlijke biologische of fysieke verschillen optreden.
- Er moet een strikt onderscheid worden gemaakt tussen observationele eenheden en experimentele eenheden: men kan meerdere observationele eenheden per experimentele eenheid meten om een zo nauwkeurig mogelijke evaluatie van de experimentele eenheid te verkrijgen, maar dit lost de variabiliteit tussen experimentele eenheden zelf niet op.
- Grote variabiliteit tussen eenheden bemoeilijkt het aantonen van een statistisch significant behandelingseffect (zoals het verschil tussen een actief medicijn en een placebo), omdat het waargenomen verschil altijd wordt afgewogen tegen de achtergrondvariabiliteit (foutvariantie).
Blokvorming (Blocking):
- Blokvorming houdt in dat experimentele eenheden worden samengenomen in homogene groepen (blokken).
- Eenheden binnen hetzelfde blok vertonen een grotere onderlinge gelijkenis en zijn daardoor aanzienlijk minder variabel ten opzichte van elkaar dan eenheden uit verschillende blokken.
- Door deze opzet kan een substantieel deel van de totale variatie worden toegeschreven aan en verklaard door verschillen tussen de blokken.
- Het verklaren van deze variatie reduceert de residuele foutenmassa in het statistische model, waardoor het onderscheidend vermogen (power) toeneemt en de kans op het aantonen van een significant behandelingseffect stijgt.
Structuur van het Randomized Complete Block Design (RCBD):
- Het RCBD is de meest elementaire vorm van een geblokt proefopzetontwerp.
- Voorwaarde voor een compleet blokontwerp: elk blok bevat exact evenveel experimentele eenheden als er factorniveaus (behandelingen) zijn, aangeduid met het aantal .
- Randomisatieprocedure: binnen elk afzonderlijk blok wordt elk van de behandelingen op volstrekt willekeurige wijze toegekend aan precies één experimentele eenheid.
Conceptuele interpretaties van RCBD:
- Vergelijking binnen homogene eenheden: Doordat alle behandelingen binnen elk blok voorkomen, worden de behandelingen vergeleken tussen eenheden die sterk op elkaar lijken, wat leidt tot een zuiverdere en eerlijkere vergelijking.
- Variantie-allocatie: Een expliciet deel van de totale spreiding in de data wordt geïsoleerd als 'blok-tot-blok variabiliteit', waardoor de onverklaarde toevallige foutvariantie krimpt.
- Gouden regel: Indien een experiment is opgezet met blokken, moet de blokfactor altijd expliciet worden opgenomen in de statistische analyse. Wordt de blokfactor weggelaten, dan gaat het statistische voordeel volledig verloren en worden foutentermen onterecht opgeblazen.
De TT4-Studie en Wiskundige Modelspecificaties
Casusbeschrijving (TT4-studie bij honden):
- Onderzoek naar het gehalte van het schildklierhormoon TT4 bij in totaal honden.
- Er zijn behandelingsniveaus (): Acetylsalicylzuur (), Ketoprofen () en Placebo ().
- Gewicht van de hond heeft vermoedelijk een sterke invloed op de TT4-spiegel en introduceert ongewenste variatie.
- Er worden blokken gevormd op basis van gewicht ():
- Blok 1 (): bevat de lichtste honden.
- Blok 6 (): bevat de zwaarste honden.
- Tussenliggende blokken ( tot en met ) worden oplopend gerangschikt naar gewicht.
- Binnen elk van de blokken ontvangt telkens één willekeurig toegewezen hond behandeling , één hond behandeling , en één hond behandeling .
- Door deze blokkering wordt het verstorende effect van gewicht op de responsvariabele TT4 uitgeschakeld of drastisch geminimaliseerd.
Factor-effecten Model:
- In statistische software zoals R wordt standaard het factor-effecten model gehanteerd.
- Ten opzichte van het Completely Randomized Design (CRD) wordt een additionele term toegevoegd voor het blokeffect.
Specificatie als Fixed Effects Model:
- Wiskundige vergelijking:
Y_{ij} = ̴̵̶̷̸̡̢̧̨̛̖̗̘̙̜̝̞̟̠̣̤̥̦̩̪̫̬̭̮̯̰̱̲̳̹̺̻̼͇͈͉͍͎̀́̂̃̄̅̆̇̈̉̊̋̌̍̎̏̐̑̒̓̔̽̾̿̀́͂̓̈́͆͊͋͌̕̚ͅ͏͓͔͕͖͙͚͐͑͒͗͛ͣͤͥͦͧͨͩͪͫͬͭͮͯ͘͜͟͢͝͞͠͡ͰͱͲͳʹ͵Ͷͷͺͻͼͽ;Ϳ΄΅Ά·ΈΉΊΌΎΏΐμ + τ_i + β_j + ϵ_{ij}
waarbij:
- het algehele gemiddelde voorstelt.
- het vaste effect is van behandeling ().
- het vaste effect is van blok ().
- de residuele toevallige fout is, met .
- Parameters en restricties: Zowel behandelings- als blokeffecten worden aangeduid met Griekse letters, wat aangeeft dat het vaste, constante populatieparameters betreft. Om overparameterisatie op te lossen, legt R standaard 'corner point constraints' op: Hierdoor fungeert de combinatie van het eerste behandelingsniveau en het eerste blok als referentiecategorie.
- Wiskundige vergelijking:
Y_{ij} = ̴̵̶̷̸̡̢̧̨̛̖̗̘̙̜̝̞̟̠̣̤̥̦̩̪̫̬̭̮̯̰̱̲̳̹̺̻̼͇͈͉͍͎̀́̂̃̄̅̆̇̈̉̊̋̌̍̎̏̐̑̒̓̔̽̾̿̀́͂̓̈́͆͊͋͌̕̚ͅ͏͓͔͕͖͙͚͐͑͒͗͛ͣͤͥͦͧͨͩͪͫͬͭͮͯ͘͜͟͢͝͞͠͡ͰͱͲͳʹ͵Ͷͷͺͻͼͽ;Ϳ΄΅Ά·ΈΉΊΌΎΏΐμ + τ_i + β_j + ϵ_{ij}
waarbij:
Specificatie als Mixed Effects Model:
- Wiskundige vergelijking:
waarbij:
- en vaste parameters zijn.
- het random blokeffect is van blok , aangeduid met een Latijnse letter om aan te geven dat het een stochastische variabele is en geen vaste constante.
- Verdelingsaannames: De blokeffecten worden verondersteld een aselecte steekproef te zijn uit een normale populatie van blokken:
- Onafhankelijkheidsaanname: Alle random variabelen ( en alle toevallige fouten ) zijn onderling volledig onafhankelijk van elkaar.
- Restricties in het mixed model: Omdat de blokeffecten via een verdeling met gemiddelde worden gemodelleerd, is er géén restrictie nodig op . Er is slechts één restrictie vereist voor het fixed behandelingseffect, namelijk:
- Wiskundige vergelijking:
waarbij:
Statistische Analyse in R bij Gebalanceerde Data
Datavoorbereiding en Typeconsistentie:
- Datasetbestand:
rcbd.dat, bestaande uit observaties van honden, ingedeeld in blokken met TT4-metingen voor de behandelingen , en . - Cruciale waarschuwing: Zowel de variabele 'behandeling' als de variabele 'blok' moeten expliciet als factor worden gedefinieerd in R met behulp van de functie
factor(). - Indien een numeriek gecodeerd blok (bijvoorbeeld ) niet wordt omgezet naar een factor, interpreteert R de variabele als een continue covariabele. Het model fit dan een lineaire regressielijn over de bloknummers in plaats van afzonderlijke niveaus, wat de analyse methodologisch ongeldig maakt.
- Datasetbestand:
Fitten van het Fixed Effects Model:
- Functie:
lm(tt4 ~ factor(behandeling) + factor(blok), data = rcbd.dat). - Het resultaat wordt opgeslagen in een object, bijvoorbeeld
res.rcbd. - Schattingen: De output levert afzonderlijke geschatte constanten voor elk blokniveau ( tot en met , waarbij ) en voor de behandelingen ( en , waarbij als referentie fungeert).
- Hypothesentoetsing: Een globale toets voor behandelingseffecten kan worden uitgevoerd via meervoudige vergelijkingen (zoals Dunnett ten opzichte van controle) of via
anova(res.rcbd). - Zowel het behandelingseffect als het blokeffect blijken statistisch significant.
- Hoewel het blokeffect primair dient als correctiefactor, toont de significantie ervan aan dat blokkering op gewicht effectief was en in toekomstige experimenten gehandhaafd moet worden.
- Functie:
Fitten van het Mixed Effects Model:
- De standaardfunctie
lm()ondersteunt geen random effecten. Daarom wordt de functielmer()uit het packagelme4gebruikt. - Syntaxis voor random blokken:
lmer(tt4 ~ factor(behandeling) + (1 | blok), data = rcbd.dat). - De notatie
(1 | blok)instrueert de functie om een random intercept per blok te fitten. - Het model wordt weggeschreven naar het object
res.rcbd.mixed. - Parameterschattingen uit
summary(res.rcbd.mixed):- Vaste effecten: enkel het algehele niveau (intercept/gemiddelde ), en .
- Variantiecomponenten: er worden geen individuele fixed effecten voor elk blok gerapporteerd, maar varianties geschat:
- Variantie tussen blokken: .
- Residuele variantie: .
- De standaardfunctie
Hypothesentoetsing via ANOVA in Mixed Models en de
lmerTest-bibliotheek:- Om een ANOVA-tabel met correcte -waarden voor vaste effecten uit een
lmer-model te verkrijgen, moet het R-packagelmerTestworden geïnstalleerd en geactiveerd vialibrary(lmerTest). - Belangrijke valkuil: Het activeren van
lmerTestoverschrijft de standaardanova()-functie van R door een gespecialiseerde versie die vrijheidsgraden berekent (bijvoorbeeld via de Satterthwaite-benadering). Men gebruikt altijd de functie van het laatst geladen package; zonderlmerTesttoontanova()geen -waarden voorlmer-objecten. - Resultaat van
anova(res.rcbd.mixed): levert voor het behandelingseffect een -waarde van exact: - Dit is exact dezelfde -waarde als verkregen uit het fixed effects model.
- Om een ANOVA-tabel met correcte -waarden voor vaste effecten uit een
Equivalentie bij Gebalanceerde Gegevens:
- Bij volledig gebalanceerde data (elke behandeling komt in elk blok exact even vaak voor en er ontbreken geen waarnemingen) leveren het fixed effects model en het mixed model mathematisch identieke resultaten op voor de behandelingseffecten, inclusief identieke teststatistieken, -waarden en paarsgewijze vergelijkingen.
Ongebalanceerde Data: Vergelijking Fixed vs. Mixed Model
Oorzaken en Gevolgen van Ongebalanceerde Data:
- In de praktijk vallen proefdieren regelmatig uit studies door ziekte of complicaties, waardoor ontbrekende waarden (missing values) ontstaan.
- Zodra niet elk blok een complete set waarnemingen voor alle behandelingen bevat, is het design ongebalanceerd.
- Bij ongebalanceerde gegevens divergeren het fixed effects model en het mixed model en produceren zij verschillende schattingen en standaardfouten.
Vereenvoudigde Dataset ter Illustratie:
- Dataset met behandelingen in plaats van : Acetylsalicylzuur () en Placebo (), verdeeld over blokken:
- Blok 1: bevat enkel een observatie voor Placebo (); de waarde voor Acetylsalicylzuur ontbreekt.
- Blok 2: bevat enkel een observatie voor Acetylsalicylzuur (); de hond met Placebo is uitgevallen.
- Blokken 3 tot en met 6: bevatten volledige waarnemingen voor zowel als .
- Dataset met behandelingen in plaats van : Acetylsalicylzuur () en Placebo (), verdeeld over blokken:
Werking van het Fixed Effects Model bij Ongebalanceerde Data:
- In het fixed effects model moeten zowel het vaste blokeffect als het vaste behandelingseffect worden geschat.
- In blok 1 is er slechts één getal () beschikbaar om twee onbekende fixed parameters (het effect van blok 1 en het effect van Placebo) te identificeren; dit is wiskundig niet identificeerbaar.
- Gevolg: het fixed effects model negeert en verwijdert de incomplete blokken (blok 1 en blok 2) volledig uit de analyse.
- Slechts de volledige blokken (blok 3 tot en met 6) worden gebruikt om het behandelingseffect te bepalen.
De Within-Block Schatter ():
- Het fixed effects model berekent het verschil tussen Placebo en Acetylsalicylzuur () uitsluitend via gepaarde verschillen binnen de complete blokken: waarbij de index '' staat voor 'within-block'.
- Observaties per blok ( versus ):
- Blok 3:
- Blok 4 tot en met 6 leveren de overige verschillen op.
- Het rekenkundig gemiddelde van deze vier paarsgewijze verschillen bedraagt:
- In de R-output van
lm()(waarbij met als referentie wordt vergeleken) resulteert dit in een schatting voor behandeling van exact .
Wiskundige Afleiding van de Variantie van :
- Rekenregel voor lineaire combinaties: Voor onderling onafhankelijke stochastische variabelen met homogene variantie geldt:
- Toepassing op de within-block schatter: Binnen elk blok heffen de vaste parameters en blokeffecten elkaar op in het verschil , waardoor enkel de toevallige fouten overblijven:
- De variantie van één enkel blokverschil bedraagt:
- Voor de gemiddelde schatter over blokken geldt:
- De noemer representeert hierbij het aantal complete blokken met informatieve paren.
Numerieke Uitwerking van de Fixed Effects Fout:
- De geschatte residuele variantie uit de
lm-output is gebaseerd op de residuele standaardfout van : - De geschatte variantie van de within-block schatter bedraagt:
- De standaardfout (Standard Error, SE) is de vierkantswortel hieruit:
- Deze waarde van komt exact overeen met de gerapporteerde
Std. Errorvoor de behandelfactor in delm-samenvatting.
- De geschatte residuele variantie uit de
De Between-Block Schatter en Varianties in het Mixed Model
Benutting van Onvolledige Blokken door het Mixed Model:
- In het mixed model worden blokeffecten gemodelleerd als aselecte trekkingen uit een normale verdeling () in plaats van afzonderlijk te schatten vaste constanten.
- Hierdoor hoeven er geen individuele blokparameters te worden geschat en gaan de incomplete blokken (blok 1 en blok 2) niet verloren.
- Het mixed model extraheert een tweede, onafhankelijke informatiebron over het behandelingsverschil: de vergelijking tussen de blokken.
De Between-Block Schatter ():
- Omdat blok 1 uitsluitend een meting heeft voor Placebo () en blok 2 uitsluitend voor Acetylsalicylzuur (), levert het verschil tussen deze twee blokken een directe schatting voor : waarbij de index '' staat voor 'between-block'.
Variantiecomponenten van het Mixed Model:
- Bij het fitten van
lmerop de gereduceerde, ongebalanceerde dataset worden de volgende variantiecomponenten geschat:- Variantie tussen blokken:
- Residuele toevallige foutvariantie:
- Bij het fitten van
Wiskundige Afleiding van de Variantie van :
- Uitschrijven van de stochastische termen via de mixed model vergelijking:
- Het verschil bedraagt:
- Aangezien alle random effecten () onderling onafhankelijk zijn, sommeren hun varianties:
- Invullen van de geschatte variantiecomponenten ( en ): (Inclusief numerieke afrondingen rapporteert de analyse hiervoor een waarde van ).
Vergelijking van de Varianties van Beide Schatters:
- De variantie van de between-block schatter () is aanzienlijk groter dan die van de within-block schatter ().
- Dit grote verschil wordt verklaard door twee structurele oorzaken:
- Hoeveelheid informatie: De within-block schatter is gebaseerd op observaties uit blokken, terwijl de between-block schatter slechts gebaseerd is op observatiepaar uit blokken.
- Aanwezigheid van blokvariabiliteit: Binnen een blok vallen de blokeffecten weg (). Bij het vergelijken tussen verschillende blokken blijft de blok-tot-blok variabiliteit () integraal aanwezig in de variantie van de schatter.
De Gecombineerde Gewogen Schatter in het Mixed Model
Synthese van Informatie via Gewogen Gemiddelde:
- Het mixed model combineert de within-block schatter () en de between-block schatter ( tot één finale puntschatting.
- De combinatie geschiedt via een gewogen gemiddelde waarbij de gewichten omgekeerd evenredig zijn aan de respectievelijke varianties (precisieweging: hoe groter de onzekerheid/variantie van een schatter, hoe lager het toegekende gewicht).
Formulering van de Gewichten:
- Gewichten worden gedefinieerd als:
- De gecombineerde schatter is:
- Numerieke uitkomst: Het invullen van de waarden levert op:
- Deze waarde ligt noodzakelijkerwijs tussen de twee afzonderlijke schatters ( en ) in, maar ligt substantieel dichter bij omdat de within-block schatter een veel groter gewicht heeft gekregen vanwege zijn veel lagere variantie.
Wiskundige Afleiding van de Variantie van de Gecombineerde Schatter:
- Definieer de constante factor als de inverse van de som van de gewichten:
- Hierdoor kan de gecombineerde schatter compact worden geschreven als:
- Aangezien en zijn berekend op basis van verschillende, onafhankelijke blokken, zijn ze onderling stochastisch onafhankelijk. Berekening van de variantie:
- Omdat per definitie geldt dat , vereenvoudigt dit direct tot:
Numerieke Uitwerking en Conclusie:
- Invullen van de varianties levert voor de variantie van de gecombineerde mixed model schatter:
- De standaardfout (SE) van de gecombineerde schatter bedraagt:
- Vergelijking van precisie: De standaardfout in het mixed model () is kleiner dan de standaardfout in het fixed effects model ().
- Doordat het mixed model via de between-block informatiebron ook de onvolledige blokken benut in plaats van ze weg te gooien, bereikt het model een hogere statistische efficiëntie en levert het een nauwkeurigere schatting met een kleinere foutenmarge op.