3.2 Model rovnoběžnosti

3.2.1 Podmínky platnosti
Jak již bylo řečeno, musí se před vypočtením účinnosti ověřit použitelnost modelu (viz kapitola 3.1 - požadavek splnění tří podmínek). I když dodržení požadavku náhodnosti výběru v jedné zkoušce nezpůsobuje velké problémy, při provádění většího počtu paralelních zkoušek najednou je nutné zajistit, aby se série náhodných čísel nebo permutace neopakovaly.
Po získání všech odpovědí je nutno provést jejich kontrolu. Musí se zkontrolovat normalita jejich rozložení a v případě pochyb testem Shapiro-Wilk. Dále by se měla ověřit shoda variability v jednotlivých ošetřených skupinách. K tomu slouží testy, které navrhli například Bartlett8) nebo Hartley9). Kritické hodnoty pro použití Hartleyova testu pro podíl největšího a nejmenšího rozptylu ve skupinách jsou v tabulce 3.2.1-I.
Již v kapitole 3.1 bylo zmíněno, že použitá transformace odpovědí se nemůže měnit bez dostatečného odůvodnění toho, že porušení podmínek 2 a/nebo 3 je podstatné, a nikoliv nahodilé.
Pokud je dostatečně zajištěno splnění podmínek 1, 2 a 3 kapitoly 3.1, může se přistoupit k provedení analýzy rozptylu a k ověření předpokladů 4A a 5A, (viz kapitola 3.2.4). Účinnost testovaného přípravku pak může být vypočtena pouze za předpokladu, že výsledky analýzy rozptylu jsou uspokojivé.
Tab. 3.2.1-I Kritické hodnoty podílu maximálního a minimálního rozptylu pro test homogenity rozptylů v k skupinách stejného rozsahu, každá s f stupni volnosti pro P = 0,95 (v závorkách pro P = 0,99) -Hartleyův test

f/k46891012
420,629,537,541,144,651,4
49698997106120
513,718,722,924,726,529,9
283846505460
610,413,716,317,518,620,7
19,12530323437
78,4410,812,713,514,315,8
14,518,422232427
87,189,0310,511,111,712,7
11,714,516,917,918,921
96,317,808,959,459,9110,7
9,912,113,914,715,316,6
105,676,927,878,288,669,34
8,610,411,812,412,913,9

Podmínka 2 (normalita) je velmi důležitá, obzvláště při nízkém počtu pokusných jednotek na dávku. V některých výjimečných případech obzvlášť přesných zkoušek je možné tolerovat malou odchylku od podmínky 4A (nelinearitu). Odchylka může být způsobena:
- výjimečnými okolnostmi;
- malou variabilitou odpovědí na jednotlivé dávky.
Na druhé straně podmínka 5A (rovnoběžnost) a opačné zakřivení u standardu a testovaného přípravku musí být striktně kontrolovány. Nedodržení některé z těchto podmínek ve zkoušce znamená, že srovnávané přípravky není možno považovat za různá ředění aktivní složky v neaktivním rozpouštědle, takže relativní účinnost nelze stanovit.
Jsou-li rozdíly mezi výběrovými rozptyly ve skupinách náhodné, překročí vypočtená hodnota F kritickou hodnotu s pravděpodobností P = 0,05, s pravděpodobností P = 0,95 ji nepřekročí10). Kritické hodnoty v závorkách mají tentýž význam pro P = 0,01.

3.2.2 Zkušební plány
Přiřazení pokusných jednotek jednotlivým ošetřením může být provedeno různým způsobem.

3.2.2.1 Úplné znáhodnění
Pokud je soubor pokusných jednotek (zvířat, zkumavek apod.) dostatečně homogenní a pokud nelze předem nalézt části souboru s menší variabilitou odpovědí, může být ošetření jednotlivým pokusným jednotkám přiřazeno náhodně, například pomocí tabulky náhodných permutací.
Když jsou podskupiny jednotek homogennější než celek, například vlivem tělesného stavu nebo pokusného dne, může být přesnost zkoušky zvýšena zavedením dalších omezení v pokusném plánu. Pečlivé vyvážení plánu s ohledem na tyto okolnosti zajistí eliminaci vedlejších zdrojů variability.

3.2.2.2 Náhodné bloky
Pomocí tohoto plánu se mohou vyloučit známé zdroje variability, jako například rozdíl mezi jednotlivými vrhy pokusných zvířat nebo rozdíl mezi jednotlivými Petriho miskami v složitých mikrobiologických zkouškách. Tento plán vyžaduje, aby počty všech ošetření v jednotlivých blocích (vrzích, Petriho miskách) byly stejné a tak velké, aby jednotlivé bloky mohly zahrnout všechna ošetření.
V tabulce 3.2.3-IV jsou vzorce pro plán náhodných bloků, v nichž se každé ošetření aplikuje jednou v každém bloku (plán náhodných bloků bez opakování). Použití je předvedeno v příkladu 3.2.8.2. Může se použít také plán úplných bloků s opakováním. Vzorce a příklady náhodných bloků s opakováním stejného ošetření v každém bloku se najdou v publikacích o biologických zkouškách. Takovýto plán pokusuje užitečný k určení reziduálního rozptylu s vyloučením vlivu interakce mezi různými faktory a k prokázání případné existence těchto interakcí. Pokud jsou významné rozdíly mezi replikacemi úplné skupiny ošetření uvnitř stejného bloku, je nutné použít jiný plán, v němž se jako samostatné berou bloky obsahující každé ošetření pouze jednou.

3.2.2.3 Křížová zkouška
Tento plán je užitečný, je-li možné pokus rozdělit do bloků, z nichž každý obsahuje pouze dvě ošetření, například blok tvoří jedna pokusná jednotka ošetřená dvakrát při různých podnětech. Tento plán pokusu sleduje zvýšení přesnosti omezením vlivu rozdílu mezi pokusnými jednotkami tím, že vyvažuje efekt rozdílu odpovědí na oba podněty.
Pokus, v kterém se testují dvě dávky standardu proti dvěma dávkám přípravku, se nazývá dvoudávkový křížový pokus a podobně pro test se třemi dávkami obou podnětů se používá název třídávkový křížový pokus.
Pokus je rozdělen do dvou vhodných časových intervalů. Pokusné jednotky jsou rozděleny do čtyř (případně šesti) skupin a ošetřeny nejprve jednou ze čtyř (šesti) dávek a později jsou tytéž jednotky ošetřeny tak, že ty jednotky, které byly ošetřeny menší dávkou, budou ošetřeny dávkou větší a naopak. U jednotlivých pokusných jednotek se též zamění aplikace standardu za přípravek a naopak. Rozložení dávek je zobrazeno v tabulce 3.2.2-I.
Tab. 3.2.2-I Rozdělení jednotlivých dávek v křížovém pokusu

Dvoudávkový křížový pokusTřídavkový křížový pokus
Skupina jednotekČas IČas IIČas IČas II
1s1u2s1u3
2s2u1s2u2
3u1s2s3u1
4u2s1u1s3
5--u2s2
6--u3s1

3.2.2.4 Latinské čtverce
Tento plán experimentu je vhodný, ovlivňují-li odpověď dva různé rušivé vlivy nabývající k různých úrovní. Například zkouška antibiotik se provádí na destičce rozdělené do k x k polí tak, že každé z k ošetření je právě jednou v každém sloupci a v každém řádku destičky. Tento plán pokusuje použitelný při stejném počtu sloupců, řádků i ošetření.
Výsledky jsou zaznamenávány do tabulky k x k, nazývané latinský čtverec. Variabilita odpovědi způsobená rozdíly v poloze ošetření na destičce (mezi k sloupci a k řádky) je rovnoměrně rozdělena a tím je tedy snížena chyba.
V tabulce 3.2.3-V jsou uvedena schémata latinských čtverců, ve kterých se každé ošetření objevuje v každém řádku a každém sloupci právě jednou. Použití je popsáno v příkladu 3.2.8.3. Vzorce a příklady pro opakované latinské čtverce jsou popsány v publikacích textu o biologických zkouškách.
Instrukce pro náhodný výběr latinského čtverce se najde v tabulkách (viz Statistical Tables for Biological, Agricultural and Medical Research, R. A. Fisher and F. Yates, Oliver and Boyd). Při každém použití tohoto plánu by měl být výběr pokusných jednotek do bloků proveden náhodně a pokusné jednotky by měly být vystaveny stejným podmínkám před i během pokusu.

3.2.3 Analýza rozptylu
Bez ohledu na některé úpravy chybového členu je základ analýzy výsledků zkoušek stejný pro všechny výše zmíněné plány experimentu. Tato kapitola obsahuje vzorce pro provedení analýzy a v příkladech kapitoly 3.2.8 je podrobněji objasněna interpretace výsledků analýzy. Vzorce jsou přizpůsobeny provádění jednoduchých zkoušek porovnávajících jeden přípravek (U) se standardem (S) a vícenásobných zkoušek s několika testovanými přípravky (U... Z). Vzorce pro vyhodnocení křížových pokusů nelze plně schematizovat, analýza jednoho takovéhoto pokusuje obsažena v příkladě 3.2.8.4.
Vezmou-li se v úvahu body diskutované v kapitole 3.1 a v případě potřeby se transformují odpovědi, mohou se hodnoty y sečíst pro každé ošetření a každý přípravek, jak je to patrné v tabulkách 3.2.3-I, 3.2.3-II a 3.2.3-III. Dále se může stanovit lineární kontrast, který odpovídá sklonu přímky vyjadřující závislost odpovědi na logaritmu dávky. V modelu se třemi dávkami se dá testovat nelinearita tohoto vztahu pomocí kvadratického kontrastu.
Celková variabilita odpovědí, kterou způsobují různá ošetření, se rozkládá na složky uvedené v tabulce 3.2.3-IV. Součty čtverců se vypočtou z hodnot v tabulkách 3.2.3-I, 3.2.3-II nebo 3.2.3-III.
Reziduální chyba zkoušky se získá odečtením složek variability tvořených modelem od celkové variability odpovědi (tabulka 3.2.3-V). V této tabulce Σy2 představuje součet čtverců všech odpovědí ve zkoušce. Součet čtverců pro ošetření je roven součtu čtverců v tabulce 3.2.3-IV přes všechny zdroje variability. Pro latinské čtverce je počet opakovaných odpovědí (n) stejný jako počet řádků, sloupců a ošetření (k).
Tab. 3.2.3-I Vzorce pro zkoušky s dvěma dávkami přípravků

Standard (S)1. testovaný přípravek (U)(h - 1) testovaný přípravek (Z)
celková odpověď - nízká dávkaS1U2Z1
celková odpověď - vysoká dávkaS2U2Z2
celková odpověď pro přípravekS1+S2=SU1+U2=UZ1+Z2=Z
lineární kontrastS2-S1=LSU2-U1=LUZ2-Z1=LZ

Tab. 3.2.3-II Vzorce pro zkoušky s třemi dávkami přípravků
Standard (S)1. testovaný přípravek (U)(h - 1) testovaný přípravek (Z)
celková odpověď - nízká dávkaS1U2Z1
celková odpověď - střední dávkaS2U2Z2
celková odpověď - vysoká dávkaS3U3Z3
celková odpověď pro přípravekS1+S2+S3=SU1+U2+U3=UZ1+Z2+Z3=Z
lineární kontrastS3-S1=LSU3-U1=LUZ3-Z1=LZ
kvadratický kontrastS1-2S2+S3=QSU1-2U2+U3=QUZ1-2Z2+Z3=QZ

Tab. 3.2.3-III Vzorce pro zkoušky se čtyřmi dávkami přípravků
Standard (S)1. testovaný přípravek (U)(h -1) testovaný přípravek (Z)
celková odpověď - nízká dávkaS1U1Z1
celková odpověď - 2. dávkaS2U2Z2
celková odpověď - 3. dávkaS3U3Z3
celková odpověď - 4. dávkaS4U4Z4
celková odpověď pro přípravekS1+S2+S3+S4=SU1+U2+U3+U4=UZ1+Z2+Z3+Z4=Z
lineární kontrast3S4+S3-S2-3S1=LS3U4+U3-U2-3U1=LU3Z4+Z3-Z2-3Z1=LZ
kvadratický kontrastS1-S2-S3+S4=QSU1-U2-U3+U4=QUZ1-Z2-Z3+Z4=QZ
kubický kontrast3S2-S1+S4-3S3=JS3U2-U1+U4-3U3=JU3Z2-Z1+Z4-3Z3=JZ

Tab. 3.2.3-IV Testy validity
Zdroj variabilityStupně volnosti (f)Součet čtverců u zkoušky
2dávkové3dávkové4dávkové
přípravkyh - 1S2+U2++Z22n-KS2+U2++Z23n-KS2+U2++Z24n-K
lineární regrese1LS+LU++LZ22nh=ELS+LU++LZ22nh=ELS+LU++LZ220nh=E
nerovnoběžnosth - 1LS2+LU2++LZ22n-ELS2+LU2++LZ22n-ELS2+LU2++LZ220n-E
kvadratická regresenelzeQS+QU++QZ26nh=QQS+QU++QZ24nh=Q
diference kvadratických členůh - 1nelzeQS2+QU2++QZ26n-QQS2+QU2++QZ24n-Q
nelinearitah (3 dávky)
2h (4 dávky)
h = K
nelzeQS2+QU2++QZ26nQS2+QU2++QZ24n+JS2+JU2++JZ220n

Tab. 3.2.3-V Odhad reziduální chyby
Součet čtverců
Zdroj variabilityStupně volnosti (f)Úplně náhodný plánPokus v náhodných blocích bez opakováníPokus v latinském čtverci
ošetřeník - 1S12+S22+Zd2n-RS12+S22+Zd2n-RS12+S22+Zd2n-R
bloky (řádky)n -1nelzeR12+R22+Rn2k-RR12+R22+Rn2k-R
bloky (sloupce)n - 1nelzenelzeC12+C22+Cn2k-R
reziduální chybaodečtením***
celkemN - 1y2-Ry2-Ry2-R

* Získá se odečtením všech ostatních součtů od součtu celkového.

3.2.4 Testy validity
K ověření významnosti zdrojů variability v tabulce 3.2.3-IV je nutné každý součet čtverců v tabulce dělit odpovídajícím počtem stupňů volnosti, čímž se získá průměrný čtverec.
Průměrný čtverec reziduální chyby (s2) je stejný podíl odvozený z odpovídajícího řádku tabulky 3.2.3-V.
Průměrný čtverec pro každou testovanou veličinu se dělí s2. Významnost takto získaných hodnot (nazývaných podíly F) se posoudí porovnáním s kritickými hodnotami F-rozdělení, které jsou uvedeny v tabulce 3.2.4-I. Kritické hodnoty F pro pravděpodobnost chyby 0,05 a 0,01 jsou ve sloupci, který odpovídá počtu stupňů volnosti testované veličiny (f1), a řádku, který odpovídá počtu stupňů volnosti reziduálního rozptylu s2 (f2). Je-li vypočtená hodnota F větší než odpovídající tabelovaná hodnota, pokládá se testovaný zdroj variability za statisticky významný na hladině významnosti (0,05 nebo 0,01).
Pokud se nenajdou odpovídající počty stupňů volnosti f (f1, f2) v tabulce kritických hodnot, použije se největší uvedený počet stupňů volnosti menší než f. Pokud je vypočtená hodnota F větší než tato tabelovaná kritická hodnota, považuje se test poměru rozptylů za statisticky významný. Je-li vypočtená hodnota F menší než tabelovaná kritická hodnota, použije se kritická hodnota pro nejmenší uvedený počet stupňů volnosti větší než f. Je-li vypočtená hodnota testovací statistiky F menší, považuje se test podílu rozptylů za statisticky nevýznamný. Pokud však tento postup nevede k rozhodnutí, je nutno použít podrobnější tabulky.
Zkouška se pokládá za "statisticky validní" při těchto výsledcích testů:
Významnost odchylky od rovnoběžnosti ve vícenásobných zkouškách může být způsobena zahrnutím zkoušeného přípravku s jiným sklonem regresní přímky, než mají ostatní přípravky. V tomto případě by se měly počítat testovací statistiky t’ zvlášť pro každý přípravek U, ..., Z:
t'=LS-LU2ns2. (3.2.4-1)
Tab. 3.2.4-I Tabulka kritických hodnot testu poměru rozptylů (F)

Stupně volnosti f1 v čitateli
f2

ve

j
m
e
n
o
v
a
t
e
l
i
1234567820
124,75
(9,33)
3,89
(6,93)
3,49
(5,95)
3,26
(5,41)
3,11
(5,06)
3,00
(4,82)
2,91
(4,64)
2,85
(4,50)
2,54
(3,86)
2,30
(3,36)
154,54
(8,68)
3,68
(6,36)
3,29
(5,42)
3,06
(4,89)
2,90
(4,56)
2,79
(4,32)
2,71
(4,14)
2,64
(4,00)
2,33
(3,37)
2,07
(2,87)
204,35
(8,10)
3,49
(5,85)
3,10
(4,94)
2,87
(4,43)
2,71
(4,10)
2,60
(3,87)
2,51
(3,70)
2,45
(3,56)
2,12
(2,94)
1,84
(2,42)
254,24
(7,77)
3,38
(5,57)
2,99
(4,68)
2,76
(4,18)
2,60
(3,86)
2,49
(3,63)
2,40
(3,46)
2,34
(3,32)
2,01
(2,70)
1,71
(2,17)
304,17
(7,56)
3,32
(5,39)
2,92
(4,51)
2,69
(4,02)
2,53
(3,70)
2,42
(3,47)
2,33
(3,30)
2,27
(3,17)
1,93
(2,55)
1,62
(2,01)
404,08
(7,31)
3,23
(5,18)
2,84
(4,31)
2,61
(3,83)
2,45
(3,51)
2,34
(3,29)
2,25
(3,12)
2,18
(2,99)
1,84
(2,37)
1,51
(1,80)
604,00
(7,08)
3,15
(4,98)
2,76
(4,13)
2,53
(3,65)
2,37
(3,34)
2,25
(3,12)
2,17
(2,95)
2,10
(2,82)
1,75
(2,20)
1,39
(1,60)
3,84
(6,63)
3,00
(4,61)
2,60
(3,78)
2,37
(3,32)
2,21
(3,02)
2,10
(2,80)
2,01
(2,64)
1,94
(2,51)
1,57
(1,88)
1,00
(1,00)

Při náhodné odchylce rozptylů s pravděpodobností překročení hodnoty tabelované na horním řádku 0,05 je pravděpodobnost nepřekročení této hodnoty 0,95. Pravděpodobnost překročení hodnoty v dolním řádku je rovna 0,01, takže s pravděpodobností 0,99 překročena nebude.
Pro čtyřdávkové zkoušky se tʹ počítá:
LS-LU210ns2.
Každá vypočtená hodnota t’ se porovná s kritickou hodnotou z tabulky 3.2.4-II, kde f1 = h - 1 a f2 je počet stupňů volnosti s2. Pokud je některá z hodnot t´ statisticky významná, je nutno příslušný přípravek vyloučit ze zkoušky a znovu vyhodnotit.
Ve zkouškách s neobvykle velkou reziduální chybou může být vysoká významnost F-statistiky způsobena špatným odhadem předpokládané účinnosti. Pokud je tomu tak, může se získaný odhad účinnosti použít k stanovení předpokládané účinnosti pro další zkoušky tohoto přípravku.
V testech rovnoběžnosti a linearity se může nahodile vyskytnout hodnota F menší než 1. Pokud se však objevuje opakovaně, ukazuje to na odchylku od předpokladů platnosti modelu, která by se měla později vyšetřit. Pokud je potvrzena platnost modelu, může být vypočtena účinnost a její meze spolehlivosti. Postup je popsán v následující kapitole.
Tab. 3.2.4-II Kritické hodnoty t' dvoustranného testu porovnání h - 1 přípravků a standardu
f1 = (h - 1) = počet zkoušených přípravků
f2123456789
52,573,033,293,483,623,733,823,903,97
62,452,863,103,263,393,493,573,643,71
72,362,752,973,123,243,333,413,473,53
82,312,672,883,023,133,223,293,353,41
92,262,612,812,953,053,143,203,263,32
102,232,572,762,892,993,073,143,193,24
112,202,532,722,842,943,023,083,143,19
122,182,502,682,812,902,983,043,093,14
132,162,482,652,782,872,943,003,063,10
142,142,462,632,752,842,912,973,023,07
152,132,442,612,732,822,892,953,003,04
162,122,422,592,712,802,872,922,973,02
172,112,412,582,692,782,852,902,953,00
182,102,402,562,682,762,832,892,942,98
192,092,392,552,662,752,812,872,922,96
202,092,382,542,652,732,802,862,902,94
242,062,352,512,612,702,762,812,862,90
302,042,322,472,582,662,722,772,822,86
402,022,292,442,542,622,682,732,772,81
602,002,272,412,512,582,642,692,732,77
1201,982,242,382,472,552,602,652,692,73
1,962,212,352,442,512,572,612,652,69

Dunnett, C. W.: Biometrics, 20, 1964, 482-491.
Při náhodné odchylce porovnávaných přípravků je pravděpodobnost překročení hodnoty tabelované na horním řádku rovna 0,05 as pravděpodobností 0,95 tedy tato hodnota překročena nebude.

1. Lineární složka variability je silně významná, tj. příslušná vypočtená hodnota F je větší než kritická hodnota pro P = 0,01. Tento test prokazuje, že sklon lineární závislosti odpovědí na logaritmu dávky je dostatečně různý od 0 (odpověď závisí na dávce podnětu).

2. Nelineární složky variability nejsou statisticky významné, tj. vypočtená hodnota F je menší než kritická hodnota pro P = 0,05. Tento test kontroluje splnění podmínky 4A z kap. 3.1.

3. Nerovnoběžnost není statisticky významná (viz podmínka 5A kapitoly 3.1).

3.2.5 Odhad účinností a její meze spolehlivosti
Nejprve se vypočtou průměry odpovědí (yS¯,yU¯,...yZ¯) pro každý přípravek:
yS¯=SNS, (3.2.5-1)
a podobně pro ostatní přípravky (viz graf 3.2.5-I).
Jestliže je I rozdíl logaritmů sousedních dávek každého přípravku, pak společný sklon (b) všech d-dávkových zkoušek je:
b=LS+LU++LZd-1Inh. (3.2.5-2)
Pro čtyřdávkové zkoušky se b počítá:
b=LS+LU++LZ10Inh.
Logaritmus relativní účinnosti R̕̕U zkoušeného přípravkuU pak je:
M'U=yU¯-yS¯b. (3.2.5-3)

Obr. 3.2.4-III Vývojový diagram testu validity rutinní zkoušky
Vývojový diagram ukazuje jednotlivé kroky analýzy výsledků zkoušky. Pokud se tento vývojový diagram použije pro vytvoření počítačového programu, musí být pro konečné rozhodnutí o přijetí, zamítnutí nebo modifikaci zkoušky vzaty v úvahu i výsledky jednotlivých kroků tohoto algoritmu.
Vypočtená účinnost je odhadem "skutečné účinnosti" zkoušeného přípravku. Interval spolehlivosti, který s 95% pravděpodobností obsahuje skutečnou hodnotu účinnosti, se vypočte jako antilogaritmus výrazu:
CM'U±stCb1NS+1NU+y¯S-y¯U2E-s2t2, (3.2.5-4)
kde:
C=EE-s2t2, (3.2.5-5)
E se najde v tabulce 3.2.3-IV, s2 je podíl reziduálního součtu čtverců (tabulka 3.2.3-V) a odpovídajícího počtu stupňů volnosti; t je kritická hodnota t-rozdělení z tabulky 6.1 se stejným počtem stupňů volnosti pro pravděpodobnost 0,95.
Pro vyvážené zkoušky se dá tento vzorec zjednodušit na:
CM'U±C-1CM'U2+2H, (3.2.5-6)
kde:
H=Eb2dn
C je míra významnosti regrese. Ve zkouškách s dobře vymezeným sklonem je hodnota C velmi blízká jedné. Záporná hodnota C indikuje statisticky nevýznamnou závislost.
Odhadovaná účinnost (RU) a odpovídající meze spolehlivosti se vypočtou z hodnot získaných pomocí vzorců 3.2.5-3 a 3.2.5-6 buď vynásobením číslem Au po odlogaritmování, nebo přičtením logaritmu Au před odlogaritmováním. Na základě předpokládané účinnosti A se testuje shoda odpovědí na tři dávky u1, u2 a u3 testovaného přípravku s odpovědí na příslušné dávky standardu s1, s2 a s3. Protože je uvažována lineární závislost na logaritmu dávky, má osa dávek logaritmické měřítko.
Rozdíl logaritmů sousedních dávek I je konstantní:
lns2-lns1=lns3-lns2,
kde:
yS - průměrná odpověď standardu,
yU - průměrná odpověď neznámého přípravku.
Svislé úsečky představují rozmezí naměřených odpovědí na danou dávku, b je společný sklon rovnoběžných přímek proložených průměrnými hodnotami odpovědí standardu (yS) a přípravku (yU).

Obr. 3.2.5-I Model rovnoběžnosti pro trojdávkovou zkoušku 3 + 3

3.2.6 Chybějící hodnoty
Ve vyvážených zkouškách se může přihodit, že v souvislosti s ošetřením dojde ke ztrátě jedné nebo více odpovědí, například tak, že některá zvířata uhynou. Úplná statistická analýza je pak mnohem složitější. Nicméně pokud je prokazatelné, že výskyt chybějící hodnoty nijak nesouvisí s přidělením pokusných jednotek do jednotlivých skupin, může být zachována jednoduchost vyhodnocení vyváženého plánu experimentu tak, že se nahradí chybějící hodnota hodnotou vypočtenou na základě ostatních pozorovaných hodnot. Ztráta informace se pak vezme v úvahu zmenšením počtu stupňů volnosti celkového a reziduálního součtu čtverců o jeden a použitím vzorce pro výpočet chybějící hodnoty.
Pokud chybí více než jedno pozorování, může se použít stejný vzorec. Postup je takový, že se hrubě odhadnou všechny chybějící hodnoty kromě jedné, a ta se vypočte podle uvedeného vzorce ze všech ostatních hodnot, včetně těch hrubě odhadnutých. Vypočtená hodnota se vezme za pozorovanou a pokračuje se stejným postupem pro všechny další chybějící hodnoty. Po vypočtení všech chybějících hodnot tímto postupem se provede cyklus znovu od začátku, přičemž se místo hrubých odhadů použijí posledně vypočtené hodnoty pro všechny chybějící odpovědi. To vše se opakuje několikrát, až se získají ve dvou po sobě následujících cyklech stejné hodnoty. Konvergence tohoto postupu je obvykle rychlá.
Pokud je počet nahrazovaných hodnot relativně malý v porovnání s celkovým rozsahem zkoušky (řekněme menší než 5 %), je použitá aproximace chybějících hodnot a redukce stupňů volnosti o počet chybějících hodnot obvykle uspokojivá. Nicméně výsledky by se měly interpretovat velmi opatrně, obzvláště pokud chybějící hodnoty v některém ošetření nebo bloku převažují. Pak by měl biometr uvážit, zda nepůsobily v průběhu zkoušky nějaké další nežádoucí vlivy. Nahrazení chybějících hodnot ve zkoušce bez jejího opakování je vždy choulostivé.
Úplné znáhodnění
Při úplném znáhodnění se za odhad chybějící hodnoty bere aritmetický průměr všech ostatních odpovědí daného ošetření.
Plán náhodných bloků
Chybějící hodnota (y´) se vypočte podle vzorce:
y'=nB'+kT'-G'n-1k-1, (3.2.6-1)
kde B´ je součet odpovědí v bloku obsahujícím příslušné chybějící pozorování, T´ součet odpovědí při příslušném ošetření a G´ součet všech odpovědí ve zkoušce.
Jako příklad nechť chybí odpověď u1 v prvém bloku zkoušky antibiotik (příklad 3.2.8.2).

= 1050
= 869
= 7189
= 174
k= 6
n= 6

Místo hodnoty 174 = u1 v tabulce odpovědí se získá podle vzorce (3.2.6-1) odhad 173. Hodnocení zkoušky bude stejné jako v příkladu 3.2.8.2, ale počet stupňů volnosti pro reziduální chybu bude roven 24 a pro celkový součet čtverců 34.
Latinské čtverce
Chybějící hodnota (y´) se nahradí podle vzorce:
y'=kB'+C'+T'-2G'k-1k-2, (3.2.6-2)
kde B´ a C´ jsou součty odpovědí v řádce a sloupci s chybějícím pozorováním. V tomto případě je k = n. Když v příkladu 3.2.8.3 chybí hodnota 165 v sedmém sloupci a v šestém řádku, dostane se její odhad 169 podle vzorce (3.2.6-2) z hodnot:
= 1582
= 1663
= 1355
= 15956
k= 9

Stupně volnosti reziduální chyby budou redukovány na 55 a celkového součtu čtverců na 79.
Dvoudávková křížová zkouška
Když se chybějící pozorování vyskytne v dvoudávkové křížové zkoušce, je důležité konzultovat situaci se statistikem, protože vyhodnocení závisí na konkrétní kombinaci ošetření.

3.2.7 Částečně vyvážená zkouška
Liší-li se předpokládaná účinnost testovaného přípravku výrazně od skutečné účinnosti, může se stát, že nejvyšší dávka poskytuje již jen nejvyšší možnou odpověď, nebo naopak, že odpověď na nejnižší dávkuje minimální možná. Tyto odpovědi neleží v lineární části regresní křivky, testy validity indikují odchylku od linearity nebo nerovnoběžnost ve vztahu standardu a testovaného přípravku.
V daném případě se může odpověď na nejnižší nebo nejvyšší dávku ze zkoušky vyloučit. Ze zbývajících dat se vypočte provizorní odhad relativní účinnosti. Tento odhad účinnosti umožňuje vhodnější volbu dávek standardu a zkoušeného přípravku v nové zkoušce.
Logaritmus relativní účinnosti se získá ze vzorce:
M'U=y-U-y-Sb±I2, (3.2.7-1)
který je velmi podobný vzorci 3.2.5-3, pouze jedna polovina rozdílu logaritmů sousedních dávek se odčítá při vypuštění nejnižší dávky nebo přičítá při vypuštění dávky nejvyšší.
Průměrné odpovědi yU a yS se získají stejně jako v úplně vyvážené zkoušce (rovnice 3.2.5-1), ale vzhledem k plánu zkoušky je nutné poněkud modifikovat výpočet sklonu (b).
Ve vícenásobné zkoušce, původně se dvěma dávkami pro každý přípravek, se dají vypočítat všechny lineární kontrasty, (LS...LZ) s výjimkou kontrastu LU. (Při vyloučení jedné z dávek u1 nebo u2 není možné vypočíst kontrast LU).
Sklon se získá vypočtením průměru L a vydělením In:
b=LS++LZInh-1. (3.2.7-2)
Ve zkoušce pouze jednoho přípravku je:
b=LSIn. (3.2.7-3)
Ve vícenásobných třídávkových zkouškách se získá LU z tabulky 3.2.3-I a všechny ostatní lineární kontrasty z tabulky 3.2.3-II. Vzorec pro výpočet sklonu je:
b=2LS++LZ+LUIn4h-3. (3.2.7-4)
Při testování pouze jediného přípravku se vzorec redukuje na:
b=2LS+LU5In. (3.2.7-5)

3.2.8 Příklady
Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.
Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.
Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.
Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.
Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.
Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.
Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná
Stanovení účinnosti kortikotropinu podkožním podáním krysám
Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin

Standard SPřípravek UPřípravek Z
s1s2u1u2z1z2
300289310230250236
310221290210268213
330267360280273283
290236341261240269
364250321241307251
328231370290270294
390229303223317223
360269334254312250
342233295216320216
306259315235265265
průměr332,0248,4323,9244,0282,2250,0
rozptyl (vari)1026,7483,8725,0718,7854,6784,7
ln rozptylu6,93416,18176,58626,57746,75066,6653

Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.
Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:
a = 0,366
q = -3,26
m = 1,47
Dále se vypočte hodnota V:
V=lnv-a1-v=ln0,956-0,3661-0,956=2,60
a odtud H= -3,26 + (1,47. 2,60) = 0,56.
Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).
Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)
PořadíSeřazené odpovědi
yi
Koeficient ai
(tab. 3.1.1-I)
Součin
aiyi
1290-0,574-166,46
2300-0,329-98,70
3306-0,214-65,48
4310-0,122-37,82
5328-0,040-13,12
6330+0,04013,20
7342+0,12241,72
8360+0,21477,04
9364+0,329119,76
10390+0,574223,86
průměry¯=332,0Součetaiyi=94,00
yi-y-2=9240,00
s2=yi-y-2n-1=1026,67
v=aiyi2yi-y-2=8836,009240,00=0,956

Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)
s1s2u1u2z1z2
Σaiyi94,0063,6378,6078,2882,9081,96
Σyi-y¯29240,004354,406524,906468,007991,607062,00
v0,9560,9300,9470,9470,893
0,95
1
V2,602,092,392,391,592,48
H0,56-0,190,250,25-0,920,39

Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:
t=0,56-0,19++0,396=0,342,45=0,14.
Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.
Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:
t=0,153 ΣH=0,375.
Bartlettův test neprokázal ani nehomogennost rozptylů.
Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:
χ2=3kf2klnvarik-lnvari3kf+k+1.
Pro k = 6 a f = 9 vyjde:
χ2=14581696ln 765,58 - 39,6953=1,28.
Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.
Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)
Standard S_Přípravek U_Přípravek Z_Součet
nízká dávkaS1 = 3320U1 = 3239Z1 = 2822
vysoká dávkaS2 = 2484U2 = 2440Z2 = 2500
přípravek celkemS = 5804U = 5679Z = 5322y=16805
lineární kontrastLS = -836LU= -799LZ = -322L=-1957

Tab. 3.2.8.1-V Analýza rozptylu
Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
přípravky26256,63128,3
regrese163 830,863 830,883,4< 0,01
nerovnoběžnost28218,24109,15,4< 0,01
ošetření578 305,7
reziduální chyba5441 340,9765,6
součet59119 646,6

Korekční člen K:
K=y2N=16805260=4 706 800,42;y2=4 826 447.
Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.
Přípravky=S2+U2+Z220-K=6 256,63
Regrese=LS+LU+LZ260=63 830,87=E
Nerovnoběžnost=LS2+LU2+LZ220-E=8 218,233
Ošetření = S12+S22+U12+U22+Z12+Z2210-K=78 305,68
Celkový=y2-R=119 646,58
Reziduální chyba = Celkový - Ošetření = 41 340,90
Validita zkoušky
Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f1 = 1 a f2 = 54.
Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:
t'=LS-LP2ns2,
kde s2 = reziduální rozptyl, tj. 765,6, a LP je lineární kontrast testovaného přípravku P.
Pro přípravek P = U:
t'=-836 --799210.765,6=-37175,0=-0,21.
Pro přípravek P = Z:
t'=-836 --322210.765,6=-514175,0=-2,94.
Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f1 =2 a f2= 54 (f1 = počet testovaných přípravků).
Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).
Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z
Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
přípravky1390,6390,6
regrese166 830,6066 830,690,5< 0,01
nerovnoběžnost134,234,20,05> 0,05
ošetření367 255,5
reziduální chyba3626 587,3738,5
součet3993 842,8

Korekční člen K:
K=y2N=11483240=3 296 482,225;
y2=3 390 325.
Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.
Výpočet účinnosti a jejích mezí spolehlivosti
Po vyloučení přípravku Z se vypočte pouze jedna účinnost.
y¯S=SNS=580420=290,2
y¯U=UNU=283,95
Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.
b=LS+LUInh=-163520I=-58,970
M'=y¯U-y¯Sb=0,1060=logaritmus relativní účinnosti přípravku U.
MU=M'U+1ndeklarovaná účinnost přípravkuU.
Protože přípravek byl deklarován jako 1 jednotka na miligram,
MU=M'U+0=0,1060.
Účinnost získáme odlogaritmováním MU, je tedy MU = 1,11 jednotek na miligram.
C=EE-s2t2=66830,666830,6-738,5t2=1,0477
H=Eb2dn=66830,6-58,9702.2.10=0,9609108
1n (meze spolehlivosti) vypočteme:C-1CM'U2+2H=0,04770,01177 + 1,9218=0,09223
lndeklarovaná účinnost přípravkuU_+CM'U±0,09223=0+0,1110±0,3037.
Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.
Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování
Stanovení účinnosti antibiotik na Petriho miskách
Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti AU = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku U_. Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.
Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)
Standard S_Přípravek U_Součet v bloku
miskas1s2s3u1u2u3
1176205235174202232R1 = 1224
2178208238175206234R2 = 1239
3178207237177203236R3 = 1238
4175205235173201232R4 = 1221
5176206235174204231R5 = 1226
6174204236170202229R6 = 1215
průměr176,2205,8236,0173,8203,0232,3
rozptyl2,62,21,65,43,25,9

Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)
Standard S_Přípravek U_Součet
nízká dávkaS1 = 1057U1 = 1043
střední dávkaS2 = 1235U2 = 1218
vysoká dávkaS3 = 1416U3 = 1394
přípravek celkemS = 3708U = 3655Σy = 7363
lineární kontrastLS = 359LU = 351ΣL = 710
kvadratický kontrastQS = 3QU= 1ΣQ = 4

Tab. 3.2.8.2-III Analýza rozptylu
Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
přípravky178,0378,03
regrese121 004,1721 004,1718 737< 0,01
nerovnoběžnost12,672,672,4> 0,05
kvadratická regerese10,220,220,2> 0,05
odchylka kvadratických členů10,060,060,05> 0,05
521 085,14
ošetření575,8015,1613,5< 0,01
bloky (misky)2528,031,121
reziduální chyba3521 188,97
součet

Korekční člen K:
K=y2N=7363236=1 505 938,03;y2=1 527 127.
Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Přípravky =S2+S218-K=78,026
Lineární rgrese =LS+LU224=21004,167=E
Nerovnoběžnost =LS2+LU212-E=2,666
Kvadratická regrese =QS+QU272=0,222=Q
Odchylka kvadratických členů =QS2+QU236-Q=0,056
Ošetření =S12+S22+S32+U12+U22+U326-K=21085,137
Bloky =R12+R22+R32+R42+R52+R626-K=75,803
Celkový =y2-K=21 188,97
Reziduální = Celkový - Ošetření - Bloky = 28,03
Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s2, což by vedlo k širším mezím spolehlivosti.
Validita zkoušky
Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku U_ a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.
Výpočet účinnosti a mezí spolehlivosti
y¯U-y¯S=U-S3n=-5318
Podíl sousedních dávek byl 2,0, takže:
I=ln2=0,69315.
Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.
b=LS+LU2Inh=71024I=42,6797
M'=y¯U-y¯Sb=-0,0690
Logaritmus relativní účinnosti přípravku U_ je tedy:
M=M'+1nAU=-0,0690+1n1500=7,2442.
Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:
C=EE-s2t2=21004 ,1721004 ,17-1,121 t2=1,0002,
H=Eb2dn=21 004,1742,67972.3.6=0,640605,
C-1CM'2+2H=0,00020,00476+1,28121=0,00026.
Logaritmy mezí spolehlivosti se vypočtou jako:
lnAU+CM'±0,000026=7,2442±0,0160.
Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.
Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:
C = 1,000227
C-1CM'2+2H=0,00029128.
Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.
Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování
Zkouška antibiotik na pravoúhlé plotně
Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků U_ a Z_, AU= 2000 a AZ= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.
Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)
Sloupce
Řádky123456789
1u1z1u2s2z2z3u3s1s3
2s2u3u1z3s1u2s3z1z2
3s1s2u3u1z1z2z3s3u2
4z2s3s1z1u3u1u2s2z3
5z3z2s2s1u2s3z1u3u1
6u2z3s3z2s2u3s1u1z1
7z1u2z2u3s3s1u1z3s2
8s3s1z3u2u1z1s2z2u3
9u3u1z1s3z3s2z2u2s1

Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)
Sloupce
Řádky123456789řádkové součty
1164171194206211237237172224R1 = 1816
2188224178236180210237180210R2 = 1843
3168203230175175209236238207R3 = 1841
4182214162175227171194201225R4 = 1751
5220186192169205230169237167R5 = 1775
6183217223200195228165171165R6 = 1747
7163195203229230175179233196R7 = 1803
8218163228200167175207199233R8 = 1790
9218163162216233194204199166R9 = 1755
sloupcovéC1 =C2 =C3 =C4=C5 =C6 =C7 =C8 =C9 =
součty170417361772180618231829182818301793

Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky
Standard S_Přípravek U_Přípravek Z_
s1s2s3u1u2u3z1z2z3
průměr168,9198,0225,6170,6198,6229,2170,6200,4229,4
ošetření
rozptyl34,6143,0077,0334,0367,7836,9439,03105,7854,28
(vari)
ln (vari)3,54423,76124,34423,52724,21623,60943,66434,66133,9942

vari=492,48
lnvari=35,3222
Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:
χ2=3kf2k lnvarik-ln vari3kf+k+1.
To se pro k = 9, f = 8 redukuje na:
χ2=17282269ln54,72-35,3222=5,34.
Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.3-IV Součty odpovědí a kontrasty
Standard SPřípravek UPřípravek zSoučet
nízká dávkaS1 = 1520U1 = 1535Z1 = 1535
střední dávkaS2 = 1782U2 = 1787Z2 = 1804
vysoká dávkaS3 = 2030U3 = 2063Z3 = 2065
přípravek celkemS = 5332U = 5385Z = 5404Σy = 16 121
lineární kontrastLS = 510LU = 528LZ = 530ΣL = 1568
kvadratický kontrastQS = -14QU = 24QZ = -8ΣQ = 2

Tab. 3.2.8.3-V Analýza rozptylu
Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
přípravky2103,1451,57
lineární regrese145 530,0745 530,072921< 0,01
nerovnoběžnost213,496,750,43> 0,05
kvadratická regerese10,020,020,00> 0,05
odchylka kvadratických členů215,467,730,50> 0,05
ošetření (celkem)845 662,17
řádky81229,06153,639,86< 0,01
sloupce81837,95229,7414,74< 0,01
reziduální chyba56872,7715,585
celkem8049 601,95

Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Korekční člen K=y2N=16 121281=3 208 477,05;y2=3 258 079
Přípravky =S2+U2+Z227-K=103,135
Lineární regrese =LS+LU+LZ254=45 530,07=E
Nerovnoběžnost =LS2+LU2+LZ218-E=13,486
Kvadratická regrese =QS+QU+QZ2162=0,0247=Q
Odchylka kvadratických členů =QS2+QU2+QZ254-Q=15,457
Ošetření =S12+S22+S32++Z329-K=45 662,17
Řádky =R12+R22++R929-K=1229,06
Sloupce =C12+C22++C929-K=1837,95
Celkem =y2-K=49601,95
Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77
Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.
Validita zkoušky
Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.
Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.
y¯S=S27,y¯U=U27,y¯Z=Z27,

b=LS+LU+LZ2Inh=156854I=41,891.
MU=y¯U-y¯Sb=0,04686=logaritmus relativní účinnosti přípravkuU
MU=lnAU+M'U=ln2000+0,04686=7,6478
Odhad účinnosti, získaný odlogaritmováním MU, je tedy 2096 jednotek na mililitr.
C=EE-s2t2=45 530,0745 530,07-15,585 t2=1,0014
H=Eb2dn=45 530,0741,8912.3.9=0,96093
C-1CM'U2+2H=0,00140,00220+1,92186=0,00269
Logaritmy mezí spolehlivosti se vypočtou jako:
lnAU+CM'U±0,00269=7,6478±0,0519.
Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.
Užitím stejného postupu pro přípravek Z_ se dostane:
M'Z=0,06366;MZ=7,8877.
Odhad účinnosti je 2664 jednotek na mililitr.
C-1CM'Z2+2H=0,00270
Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.
Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.
Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.
Příklad 3.2.8.4 Dvoudávková křížová zkouška
Stanovení účinnosti insulinu na králících podkožním podáním
Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (AU= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.
Tab. 3.2.8.4-I Uspořádání ošetření
Skupina králíků
1234
den Is1s2u1u2
den IIu2u1s2s1

Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h
Skupina 1Skupina 2Skupina 3Skupina 4
s1u2s2u1u1s2u2s1
112104216657213710591196118144262
1261122381161602768367150119149268
6258120737214512567192425193
86631494793140564510164107171
525310588113201928417693117210
11011322363711341015615773128201
11691207506511566551213987126
101681695510015591681593171102
průměr95,682,869,693,389,966,672,4106,8
rozptyl709,7627,9525,11012,5479,6230,61214,31215,1

Hartleyovým testem nebyla nalezena významná neshoda rozptylů.
Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.
Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.
Tab. 3.2.8.4-III Součty odpovědí a kontrasty
Standard SPřípravek USoučet
Den I
nízká dávkaS1I = 765U1I = 719
vysoká dávkaS2I = 557U2I = 579
součetS1 = 1322U1 = 1298D1 = 2620
Den II
nízká dávkaS1II = 854U1II = 746
vysoká dávkaS2II = 533U2II = 662
součetS1 = 1387U1 = 1408DII = 2795
Přípravky celkemS = 2709U = 2706y = 5415
Lineární kontrasty
den ILSI = -208LUI = -140LI = -348
den IILSII = -321LUII = -84LII = -405
celkemLS = -529LU = -224L = -753

Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.
Díky opakování v každé skupině obsahuje analýza tři "interakce":
dny x přípravky, dny x regrese, dny x rovnoběžnost.
Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.
Tab. 3.2.8.4-IV Analýza rozptylu
Zdroj variabilityStupně volnostiSoučet čtvercůPrůměrný čtverecFP
nerovnoběžnost11453,51453,51,06> 0,05
dny x přípravky131,631,60,02> 0,05
dny x regrese150,850,80,04> 0,05
reziduální chyba mezi králíky2838 258,81366,4
bloky (králíci)3139 794,71283,7
přípravky10,10,10,00> 0,05
regrese18859,58859,564,5< 0,01
dny1478,5478,53,48> 0,05
dny x nerovnoběžnost1446,3446,33,25> 0,05
reziduální chyba"uvnitř"králíků283844,1137,3
součet6353 423,2

Korekční člen =K=y2N=5415264=458 159,77;mm
y2=511 583.
Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.
V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.
Přípravky=S2+U232-K=0,14,
Regrese =LS+LU264=8859,52=E,
Nerovnoběžnost =LS2+LU232-E=1453,51,
Bloky =Bi22-K=39 794,73,
kde Bi je celková odpověď králíka z tabulky 3.2.8.4-II.
Dny =DI2+DII232-K=478,51,
kde DI a DII jsou celkové odpovědi pro každý den.
Dny x Přípravky =SI-SII-UI+UII2N=31,64,
Dny x Regrese=LSII-LSI+LUII-LUI2N=50,77,
Dny x Nerovnoběžnost =LSII-LSI-LUII+LUI2N=446,27,
y2-K=53 423,23.
Reziduální chyba mezi králíky = Bloky - Nerovnoběžnost - (Dny x Přípravky) - (Dny x Regrese) = 38 258,81.
Reziduální chyba "uvnitř" králíků = Celkem - Bloky - Dny - Přípravky - Regrese - (Dny x Nerovnoběžnost) = 3 844,06.
Validita zkoušky
Analýza potvrzuje, že data splňují podmínky nutné pro použití zkoušky:
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, tedy I = ln 2 = 0,69315. Podle tabulky 6.1 je t = 2,05 pro 28 stupňů volnosti (P = 0,95).
y¯U-y¯S=U-S2n=-332
b=LS+LU2nI=75332I=-33,948
M'=y¯U-y¯Sb=0,00276 = logaritmus relativní pčinnosti přípravkuU
M=M'+lnAU=0,00276+ln40=3,6916.
Odhad účinnosti se získá odlogaritmováním M. Účinnost je tedy 40,1 jednotek na mililitr.
C=EE-s2t2=8859,58859,5-137,3t2=1,0697
H=Eb2dn=8859,5-33,9482.2.16=0,24023
C-1CM2+2H=0,06970,0000081+0,48045=0,033488
Pro logaritmy mezí spolehlivosti se dostane:
lnAU+CM'±0,033498=3,6918±0,1830.
Meze spolehlivosti jsou tedy 33,4 až 48,2 jednotek na mililitr.

1. významnost regrese: testovací statistika pro regresi (64,5) vypočtená s použitím rozptylu tvořeného rozdíly mezi králíky je větší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,01 s f1 = 1 a f2 = 28;

2. odchylka od rovnoběžnosti regresních přímek: test rovnoběžnosti v křížovém pokusu není příliš citlivý. Je totiž založen na reziduální chybě mezi králíky a ta závisí na variabilitě mezi nimi. Testovací statistika (1,06) je menší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,05 s f1 = 1 a f2 = 28;

3. žádná z interakcí není statisticky významná, jednotlivé hodnoty F jsou 0,02, 0,04 a 3,25.