3.2 Model rovnoběžnosti
3.2.1 Podmínky platnosti
Jak již bylo řečeno, musí se před vypočtením účinnosti ověřit použitelnost modelu (viz kapitola 3.1 - požadavek splnění tří podmínek). I když dodržení požadavku náhodnosti výběru v jedné zkoušce nezpůsobuje velké problémy, při provádění většího počtu paralelních zkoušek najednou je nutné zajistit, aby se série náhodných čísel nebo permutace neopakovaly.
Po získání všech odpovědí je nutno provést jejich kontrolu. Musí se zkontrolovat normalita jejich rozložení a v případě pochyb testem Shapiro-Wilk. Dále by se měla ověřit shoda variability v jednotlivých ošetřených skupinách. K tomu slouží testy, které navrhli například Bartlett8) nebo Hartley9). Kritické hodnoty pro použití Hartleyova testu pro podíl největšího a nejmenšího rozptylu ve skupinách jsou v tabulce 3.2.1-I.
Již v kapitole 3.1 bylo zmíněno, že použitá transformace odpovědí se nemůže měnit bez dostatečného odůvodnění toho, že porušení podmínek 2 a/nebo 3 je podstatné, a nikoliv nahodilé.
Pokud je dostatečně zajištěno splnění podmínek 1, 2 a 3 kapitoly 3.1, může se přistoupit k provedení analýzy rozptylu a k ověření předpokladů 4A a 5A, (viz kapitola 3.2.4). Účinnost testovaného přípravku pak může být vypočtena pouze za předpokladu, že výsledky analýzy rozptylu jsou uspokojivé.
Tab. 3.2.1-I Kritické hodnoty podílu maximálního a minimálního rozptylu pro test homogenity rozptylů v k skupinách stejného rozsahu, každá s f stupni volnosti pro P = 0,95 (v závorkách pro P = 0,99) -Hartleyův test
| f/k | 4 | 6 | 8 | 9 | 10 | 12 |
|---|---|---|---|---|---|---|
| 4 | 20,6 | 29,5 | 37,5 | 41,1 | 44,6 | 51,4 |
| 49 | 69 | 89 | 97 | 106 | 120 | |
| 5 | 13,7 | 18,7 | 22,9 | 24,7 | 26,5 | 29,9 |
| 28 | 38 | 46 | 50 | 54 | 60 | |
| 6 | 10,4 | 13,7 | 16,3 | 17,5 | 18,6 | 20,7 |
| 19,1 | 25 | 30 | 32 | 34 | 37 | |
| 7 | 8,44 | 10,8 | 12,7 | 13,5 | 14,3 | 15,8 |
| 14,5 | 18,4 | 22 | 23 | 24 | 27 | |
| 8 | 7,18 | 9,03 | 10,5 | 11,1 | 11,7 | 12,7 |
| 11,7 | 14,5 | 16,9 | 17,9 | 18,9 | 21 | |
| 9 | 6,31 | 7,80 | 8,95 | 9,45 | 9,91 | 10,7 |
| 9,9 | 12,1 | 13,9 | 14,7 | 15,3 | 16,6 | |
| 10 | 5,67 | 6,92 | 7,87 | 8,28 | 8,66 | 9,34 |
| 8,6 | 10,4 | 11,8 | 12,4 | 12,9 | 13,9 |
Podmínka 2 (normalita) je velmi důležitá, obzvláště při nízkém počtu pokusných jednotek na dávku. V některých výjimečných případech obzvlášť přesných zkoušek je možné tolerovat malou odchylku od podmínky 4A (nelinearitu). Odchylka může být způsobena:
- výjimečnými okolnostmi;
- malou variabilitou odpovědí na jednotlivé dávky.
Na druhé straně podmínka 5A (rovnoběžnost) a opačné zakřivení u standardu a testovaného přípravku musí být striktně kontrolovány. Nedodržení některé z těchto podmínek ve zkoušce znamená, že srovnávané přípravky není možno považovat za různá ředění aktivní složky v neaktivním rozpouštědle, takže relativní účinnost nelze stanovit.
Jsou-li rozdíly mezi výběrovými rozptyly ve skupinách náhodné, překročí vypočtená hodnota F kritickou hodnotu s pravděpodobností P = 0,05, s pravděpodobností P = 0,95 ji nepřekročí10). Kritické hodnoty v závorkách mají tentýž význam pro P = 0,01.
3.2.2 Zkušební plány
Přiřazení pokusných jednotek jednotlivým ošetřením může být provedeno různým způsobem.
3.2.2.1 Úplné znáhodnění
Pokud je soubor pokusných jednotek (zvířat, zkumavek apod.) dostatečně homogenní a pokud nelze předem nalézt části souboru s menší variabilitou odpovědí, může být ošetření jednotlivým pokusným jednotkám přiřazeno náhodně, například pomocí tabulky náhodných permutací.
Když jsou podskupiny jednotek homogennější než celek, například vlivem tělesného stavu nebo pokusného dne, může být přesnost zkoušky zvýšena zavedením dalších omezení v pokusném plánu. Pečlivé vyvážení plánu s ohledem na tyto okolnosti zajistí eliminaci vedlejších zdrojů variability.
3.2.2.2 Náhodné bloky
Pomocí tohoto plánu se mohou vyloučit známé zdroje variability, jako například rozdíl mezi jednotlivými vrhy pokusných zvířat nebo rozdíl mezi jednotlivými Petriho miskami v složitých mikrobiologických zkouškách. Tento plán vyžaduje, aby počty všech ošetření v jednotlivých blocích (vrzích, Petriho miskách) byly stejné a tak velké, aby jednotlivé bloky mohly zahrnout všechna ošetření.
V tabulce 3.2.3-IV jsou vzorce pro plán náhodných bloků, v nichž se každé ošetření aplikuje jednou v každém bloku (plán náhodných bloků bez opakování). Použití je předvedeno v příkladu 3.2.8.2. Může se použít také plán úplných bloků s opakováním. Vzorce a příklady náhodných bloků s opakováním stejného ošetření v každém bloku se najdou v publikacích o biologických zkouškách. Takovýto plán pokusuje užitečný k určení reziduálního rozptylu s vyloučením vlivu interakce mezi různými faktory a k prokázání případné existence těchto interakcí. Pokud jsou významné rozdíly mezi replikacemi úplné skupiny ošetření uvnitř stejného bloku, je nutné použít jiný plán, v němž se jako samostatné berou bloky obsahující každé ošetření pouze jednou.
3.2.2.3 Křížová zkouška
Tento plán je užitečný, je-li možné pokus rozdělit do bloků, z nichž každý obsahuje pouze dvě ošetření, například blok tvoří jedna pokusná jednotka ošetřená dvakrát při různých podnětech. Tento plán pokusu sleduje zvýšení přesnosti omezením vlivu rozdílu mezi pokusnými jednotkami tím, že vyvažuje efekt rozdílu odpovědí na oba podněty.
Pokus, v kterém se testují dvě dávky standardu proti dvěma dávkám přípravku, se nazývá dvoudávkový křížový pokus a podobně pro test se třemi dávkami obou podnětů se používá název třídávkový křížový pokus.
Pokus je rozdělen do dvou vhodných časových intervalů. Pokusné jednotky jsou rozděleny do čtyř (případně šesti) skupin a ošetřeny nejprve jednou ze čtyř (šesti) dávek a později jsou tytéž jednotky ošetřeny tak, že ty jednotky, které byly ošetřeny menší dávkou, budou ošetřeny dávkou větší a naopak. U jednotlivých pokusných jednotek se též zamění aplikace standardu za přípravek a naopak. Rozložení dávek je zobrazeno v tabulce 3.2.2-I.
Tab. 3.2.2-I Rozdělení jednotlivých dávek v křížovém pokusu
| Dvoudávkový křížový pokus | Třídavkový křížový pokus | |||
|---|---|---|---|---|
| Skupina jednotek | Čas I | Čas II | Čas I | Čas II |
| 1 | s1 | u2 | s1 | u3 |
| 2 | s2 | u1 | s2 | u2 |
| 3 | u1 | s2 | s3 | u1 |
| 4 | u2 | s1 | u1 | s3 |
| 5 | - | - | u2 | s2 |
| 6 | - | - | u3 | s1 |
3.2.2.4 Latinské čtverce
Tento plán experimentu je vhodný, ovlivňují-li odpověď dva různé rušivé vlivy nabývající k různých úrovní. Například zkouška antibiotik se provádí na destičce rozdělené do k x k polí tak, že každé z k ošetření je právě jednou v každém sloupci a v každém řádku destičky. Tento plán pokusuje použitelný při stejném počtu sloupců, řádků i ošetření.
Výsledky jsou zaznamenávány do tabulky k x k, nazývané latinský čtverec. Variabilita odpovědi způsobená rozdíly v poloze ošetření na destičce (mezi k sloupci a k řádky) je rovnoměrně rozdělena a tím je tedy snížena chyba.
V tabulce 3.2.3-V jsou uvedena schémata latinských čtverců, ve kterých se každé ošetření objevuje v každém řádku a každém sloupci právě jednou. Použití je popsáno v příkladu 3.2.8.3. Vzorce a příklady pro opakované latinské čtverce jsou popsány v publikacích textu o biologických zkouškách.
Instrukce pro náhodný výběr latinského čtverce se najde v tabulkách (viz Statistical Tables for Biological, Agricultural and Medical Research, R. A. Fisher and F. Yates, Oliver and Boyd). Při každém použití tohoto plánu by měl být výběr pokusných jednotek do bloků proveden náhodně a pokusné jednotky by měly být vystaveny stejným podmínkám před i během pokusu.
3.2.3 Analýza rozptylu
Bez ohledu na některé úpravy chybového členu je základ analýzy výsledků zkoušek stejný pro všechny výše zmíněné plány experimentu. Tato kapitola obsahuje vzorce pro provedení analýzy a v příkladech kapitoly 3.2.8 je podrobněji objasněna interpretace výsledků analýzy. Vzorce jsou přizpůsobeny provádění jednoduchých zkoušek porovnávajících jeden přípravek (U) se standardem (S) a vícenásobných zkoušek s několika testovanými přípravky (U... Z). Vzorce pro vyhodnocení křížových pokusů nelze plně schematizovat, analýza jednoho takovéhoto pokusuje obsažena v příkladě 3.2.8.4.
Vezmou-li se v úvahu body diskutované v kapitole 3.1 a v případě potřeby se transformují odpovědi, mohou se hodnoty y sečíst pro každé ošetření a každý přípravek, jak je to patrné v tabulkách 3.2.3-I, 3.2.3-II a 3.2.3-III. Dále se může stanovit lineární kontrast, který odpovídá sklonu přímky vyjadřující závislost odpovědi na logaritmu dávky. V modelu se třemi dávkami se dá testovat nelinearita tohoto vztahu pomocí kvadratického kontrastu.
Celková variabilita odpovědí, kterou způsobují různá ošetření, se rozkládá na složky uvedené v tabulce 3.2.3-IV. Součty čtverců se vypočtou z hodnot v tabulkách 3.2.3-I, 3.2.3-II nebo 3.2.3-III.
Reziduální chyba zkoušky se získá odečtením složek variability tvořených modelem od celkové variability odpovědi (tabulka 3.2.3-V). V této tabulce Σy2 představuje součet čtverců všech odpovědí ve zkoušce. Součet čtverců pro ošetření je roven součtu čtverců v tabulce 3.2.3-IV přes všechny zdroje variability. Pro latinské čtverce je počet opakovaných odpovědí (n) stejný jako počet řádků, sloupců a ošetření (k).
Tab. 3.2.3-I Vzorce pro zkoušky s dvěma dávkami přípravků
| Standard (S) | 1. testovaný přípravek (U) | (h - 1) testovaný přípravek (Z) | |
|---|---|---|---|
| celková odpověď - nízká dávka | S1 | U2 | Z1 |
| celková odpověď - vysoká dávka | S2 | U2 | Z2 |
| celková odpověď pro přípravek | |||
| lineární kontrast |
Tab. 3.2.3-II Vzorce pro zkoušky s třemi dávkami přípravků
| Standard (S) | 1. testovaný přípravek (U) | (h - 1) testovaný přípravek (Z) | |
|---|---|---|---|
| celková odpověď - nízká dávka | S1 | U2 | Z1 |
| celková odpověď - střední dávka | S2 | U2 | Z2 |
| celková odpověď - vysoká dávka | S3 | U3 | Z3 |
| celková odpověď pro přípravek | |||
| lineární kontrast | |||
| kvadratický kontrast |
Tab. 3.2.3-III Vzorce pro zkoušky se čtyřmi dávkami přípravků
| Standard (S) | 1. testovaný přípravek (U) | (h -1) testovaný přípravek (Z) | |
|---|---|---|---|
| celková odpověď - nízká dávka | S1 | U1 | Z1 |
| celková odpověď - 2. dávka | S2 | U2 | Z2 |
| celková odpověď - 3. dávka | S3 | U3 | Z3 |
| celková odpověď - 4. dávka | S4 | U4 | Z4 |
| celková odpověď pro přípravek | |||
| lineární kontrast | |||
| kvadratický kontrast | |||
| kubický kontrast |
Tab. 3.2.3-IV Testy validity
| Zdroj variability | Stupně volnosti (f) | Součet čtverců u zkoušky | ||
|---|---|---|---|---|
| 2dávkové | 3dávkové | 4dávkové | ||
| přípravky | h - 1 | |||
| lineární regrese | 1 | |||
| nerovnoběžnost | h - 1 | |||
| kvadratická regrese | nelze | |||
| diference kvadratických členů | h - 1 | nelze | ||
| nelinearita | h (3 dávky) 2h (4 dávky) h = K | nelze | ||
Tab. 3.2.3-V Odhad reziduální chyby
| Součet čtverců | ||||
|---|---|---|---|---|
| Zdroj variability | Stupně volnosti (f) | Úplně náhodný plán | Pokus v náhodných blocích bez opakování | Pokus v latinském čtverci |
| ošetření | k - 1 | |||
| bloky (řádky) | n -1 | nelze | ||
| bloky (sloupce) | n - 1 | nelze | nelze | |
| reziduální chyba | odečtením | * | * | * |
| celkem | N - 1 | |||
* Získá se odečtením všech ostatních součtů od součtu celkového.
3.2.4 Testy validity
K ověření významnosti zdrojů variability v tabulce 3.2.3-IV je nutné každý součet čtverců v tabulce dělit odpovídajícím počtem stupňů volnosti, čímž se získá průměrný čtverec.
Průměrný čtverec reziduální chyby (s2) je stejný podíl odvozený z odpovídajícího řádku tabulky 3.2.3-V.
Průměrný čtverec pro každou testovanou veličinu se dělí s2. Významnost takto získaných hodnot (nazývaných podíly F) se posoudí porovnáním s kritickými hodnotami F-rozdělení, které jsou uvedeny v tabulce 3.2.4-I. Kritické hodnoty F pro pravděpodobnost chyby 0,05 a 0,01 jsou ve sloupci, který odpovídá počtu stupňů volnosti testované veličiny (f1), a řádku, který odpovídá počtu stupňů volnosti reziduálního rozptylu s2 (f2). Je-li vypočtená hodnota F větší než odpovídající tabelovaná hodnota, pokládá se testovaný zdroj variability za statisticky významný na hladině významnosti (0,05 nebo 0,01).
Pokud se nenajdou odpovídající počty stupňů volnosti f (f1, f2) v tabulce kritických hodnot, použije se největší uvedený počet stupňů volnosti menší než f. Pokud je vypočtená hodnota F větší než tato tabelovaná kritická hodnota, považuje se test poměru rozptylů za statisticky významný. Je-li vypočtená hodnota F menší než tabelovaná kritická hodnota, použije se kritická hodnota pro nejmenší uvedený počet stupňů volnosti větší než f. Je-li vypočtená hodnota testovací statistiky F menší, považuje se test podílu rozptylů za statisticky nevýznamný. Pokud však tento postup nevede k rozhodnutí, je nutno použít podrobnější tabulky.
Zkouška se pokládá za "statisticky validní" při těchto výsledcích testů:
Významnost odchylky od rovnoběžnosti ve vícenásobných zkouškách může být způsobena zahrnutím zkoušeného přípravku s jiným sklonem regresní přímky, než mají ostatní přípravky. V tomto případě by se měly počítat testovací statistiky t’ zvlášť pro každý přípravek U, ..., Z:
Tab. 3.2.4-I Tabulka kritických hodnot testu poměru rozptylů (F)
| Stupně volnosti f1 v čitateli | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| f2 ve j m e n o v a t e l i | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 20 | ∞ | |
| 12 | 4,75 (9,33) | 3,89 (6,93) | 3,49 (5,95) | 3,26 (5,41) | 3,11 (5,06) | 3,00 (4,82) | 2,91 (4,64) | 2,85 (4,50) | 2,54 (3,86) | 2,30 (3,36) | |
| 15 | 4,54 (8,68) | 3,68 (6,36) | 3,29 (5,42) | 3,06 (4,89) | 2,90 (4,56) | 2,79 (4,32) | 2,71 (4,14) | 2,64 (4,00) | 2,33 (3,37) | 2,07 (2,87) | |
| 20 | 4,35 (8,10) | 3,49 (5,85) | 3,10 (4,94) | 2,87 (4,43) | 2,71 (4,10) | 2,60 (3,87) | 2,51 (3,70) | 2,45 (3,56) | 2,12 (2,94) | 1,84 (2,42) | |
| 25 | 4,24 (7,77) | 3,38 (5,57) | 2,99 (4,68) | 2,76 (4,18) | 2,60 (3,86) | 2,49 (3,63) | 2,40 (3,46) | 2,34 (3,32) | 2,01 (2,70) | 1,71 (2,17) | |
| 30 | 4,17 (7,56) | 3,32 (5,39) | 2,92 (4,51) | 2,69 (4,02) | 2,53 (3,70) | 2,42 (3,47) | 2,33 (3,30) | 2,27 (3,17) | 1,93 (2,55) | 1,62 (2,01) | |
| 40 | 4,08 (7,31) | 3,23 (5,18) | 2,84 (4,31) | 2,61 (3,83) | 2,45 (3,51) | 2,34 (3,29) | 2,25 (3,12) | 2,18 (2,99) | 1,84 (2,37) | 1,51 (1,80) | |
| 60 | 4,00 (7,08) | 3,15 (4,98) | 2,76 (4,13) | 2,53 (3,65) | 2,37 (3,34) | 2,25 (3,12) | 2,17 (2,95) | 2,10 (2,82) | 1,75 (2,20) | 1,39 (1,60) | |
| ∞ | 3,84 (6,63) | 3,00 (4,61) | 2,60 (3,78) | 2,37 (3,32) | 2,21 (3,02) | 2,10 (2,80) | 2,01 (2,64) | 1,94 (2,51) | 1,57 (1,88) | 1,00 (1,00) | |
Při náhodné odchylce rozptylů s pravděpodobností překročení hodnoty tabelované na horním řádku 0,05 je pravděpodobnost nepřekročení této hodnoty 0,95. Pravděpodobnost překročení hodnoty v dolním řádku je rovna 0,01, takže s pravděpodobností 0,99 překročena nebude.
Pro čtyřdávkové zkoušky se tʹ počítá:
Každá vypočtená hodnota t’ se porovná s kritickou hodnotou z tabulky 3.2.4-II, kde f1 = h - 1 a f2 je počet stupňů volnosti s2. Pokud je některá z hodnot t´ statisticky významná, je nutno příslušný přípravek vyloučit ze zkoušky a znovu vyhodnotit.
Ve zkouškách s neobvykle velkou reziduální chybou může být vysoká významnost F-statistiky způsobena špatným odhadem předpokládané účinnosti. Pokud je tomu tak, může se získaný odhad účinnosti použít k stanovení předpokládané účinnosti pro další zkoušky tohoto přípravku.
V testech rovnoběžnosti a linearity se může nahodile vyskytnout hodnota F menší než 1. Pokud se však objevuje opakovaně, ukazuje to na odchylku od předpokladů platnosti modelu, která by se měla později vyšetřit. Pokud je potvrzena platnost modelu, může být vypočtena účinnost a její meze spolehlivosti. Postup je popsán v následující kapitole.
Tab. 3.2.4-II Kritické hodnoty t' dvoustranného testu porovnání h - 1 přípravků a standardu
| f1 = (h - 1) = počet zkoušených přípravků | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| f2 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 |
| 5 | 2,57 | 3,03 | 3,29 | 3,48 | 3,62 | 3,73 | 3,82 | 3,90 | 3,97 |
| 6 | 2,45 | 2,86 | 3,10 | 3,26 | 3,39 | 3,49 | 3,57 | 3,64 | 3,71 |
| 7 | 2,36 | 2,75 | 2,97 | 3,12 | 3,24 | 3,33 | 3,41 | 3,47 | 3,53 |
| 8 | 2,31 | 2,67 | 2,88 | 3,02 | 3,13 | 3,22 | 3,29 | 3,35 | 3,41 |
| 9 | 2,26 | 2,61 | 2,81 | 2,95 | 3,05 | 3,14 | 3,20 | 3,26 | 3,32 |
| 10 | 2,23 | 2,57 | 2,76 | 2,89 | 2,99 | 3,07 | 3,14 | 3,19 | 3,24 |
| 11 | 2,20 | 2,53 | 2,72 | 2,84 | 2,94 | 3,02 | 3,08 | 3,14 | 3,19 |
| 12 | 2,18 | 2,50 | 2,68 | 2,81 | 2,90 | 2,98 | 3,04 | 3,09 | 3,14 |
| 13 | 2,16 | 2,48 | 2,65 | 2,78 | 2,87 | 2,94 | 3,00 | 3,06 | 3,10 |
| 14 | 2,14 | 2,46 | 2,63 | 2,75 | 2,84 | 2,91 | 2,97 | 3,02 | 3,07 |
| 15 | 2,13 | 2,44 | 2,61 | 2,73 | 2,82 | 2,89 | 2,95 | 3,00 | 3,04 |
| 16 | 2,12 | 2,42 | 2,59 | 2,71 | 2,80 | 2,87 | 2,92 | 2,97 | 3,02 |
| 17 | 2,11 | 2,41 | 2,58 | 2,69 | 2,78 | 2,85 | 2,90 | 2,95 | 3,00 |
| 18 | 2,10 | 2,40 | 2,56 | 2,68 | 2,76 | 2,83 | 2,89 | 2,94 | 2,98 |
| 19 | 2,09 | 2,39 | 2,55 | 2,66 | 2,75 | 2,81 | 2,87 | 2,92 | 2,96 |
| 20 | 2,09 | 2,38 | 2,54 | 2,65 | 2,73 | 2,80 | 2,86 | 2,90 | 2,94 |
| 24 | 2,06 | 2,35 | 2,51 | 2,61 | 2,70 | 2,76 | 2,81 | 2,86 | 2,90 |
| 30 | 2,04 | 2,32 | 2,47 | 2,58 | 2,66 | 2,72 | 2,77 | 2,82 | 2,86 |
| 40 | 2,02 | 2,29 | 2,44 | 2,54 | 2,62 | 2,68 | 2,73 | 2,77 | 2,81 |
| 60 | 2,00 | 2,27 | 2,41 | 2,51 | 2,58 | 2,64 | 2,69 | 2,73 | 2,77 |
| 120 | 1,98 | 2,24 | 2,38 | 2,47 | 2,55 | 2,60 | 2,65 | 2,69 | 2,73 |
| ∞ | 1,96 | 2,21 | 2,35 | 2,44 | 2,51 | 2,57 | 2,61 | 2,65 | 2,69 |
Dunnett, C. W.: Biometrics, 20, 1964, 482-491.
Při náhodné odchylce porovnávaných přípravků je pravděpodobnost překročení hodnoty tabelované na horním řádku rovna 0,05 as pravděpodobností 0,95 tedy tato hodnota překročena nebude.
1. Lineární složka variability je silně významná, tj. příslušná vypočtená hodnota F je větší než kritická hodnota pro P = 0,01. Tento test prokazuje, že sklon lineární závislosti odpovědí na logaritmu dávky je dostatečně různý od 0 (odpověď závisí na dávce podnětu).
2. Nelineární složky variability nejsou statisticky významné, tj. vypočtená hodnota F je menší než kritická hodnota pro P = 0,05. Tento test kontroluje splnění podmínky 4A z kap. 3.1.
3. Nerovnoběžnost není statisticky významná (viz podmínka 5A kapitoly 3.1).
3.2.5 Odhad účinností a její meze spolehlivosti
Nejprve se vypočtou průměry odpovědí pro každý přípravek:
a podobně pro ostatní přípravky (viz graf 3.2.5-I).
Jestliže je I rozdíl logaritmů sousedních dávek každého přípravku, pak společný sklon (b) všech d-dávkových zkoušek je:
Pro čtyřdávkové zkoušky se b počítá:
Logaritmus relativní účinnosti R̕̕U zkoušeného přípravku pak je:
Obr. 3.2.4-III Vývojový diagram testu validity rutinní zkoušky
Vývojový diagram ukazuje jednotlivé kroky analýzy výsledků zkoušky. Pokud se tento vývojový diagram použije pro vytvoření počítačového programu, musí být pro konečné rozhodnutí o přijetí, zamítnutí nebo modifikaci zkoušky vzaty v úvahu i výsledky jednotlivých kroků tohoto algoritmu.
Vypočtená účinnost je odhadem "skutečné účinnosti" zkoušeného přípravku. Interval spolehlivosti, který s 95% pravděpodobností obsahuje skutečnou hodnotu účinnosti, se vypočte jako antilogaritmus výrazu:
kde:
E se najde v tabulce 3.2.3-IV, s2 je podíl reziduálního součtu čtverců (tabulka 3.2.3-V) a odpovídajícího počtu stupňů volnosti; t je kritická hodnota t-rozdělení z tabulky 6.1 se stejným počtem stupňů volnosti pro pravděpodobnost 0,95.
Pro vyvážené zkoušky se dá tento vzorec zjednodušit na:
kde:
C je míra významnosti regrese. Ve zkouškách s dobře vymezeným sklonem je hodnota C velmi blízká jedné. Záporná hodnota C indikuje statisticky nevýznamnou závislost.
Odhadovaná účinnost (RU) a odpovídající meze spolehlivosti se vypočtou z hodnot získaných pomocí vzorců 3.2.5-3 a 3.2.5-6 buď vynásobením číslem Au po odlogaritmování, nebo přičtením logaritmu Au před odlogaritmováním. Na základě předpokládané účinnosti A se testuje shoda odpovědí na tři dávky u1, u2 a u3 testovaného přípravku s odpovědí na příslušné dávky standardu s1, s2 a s3. Protože je uvažována lineární závislost na logaritmu dávky, má osa dávek logaritmické měřítko.
Rozdíl logaritmů sousedních dávek I je konstantní:
,
kde:
yS - průměrná odpověď standardu,
yU - průměrná odpověď neznámého přípravku.
Svislé úsečky představují rozmezí naměřených odpovědí na danou dávku, b je společný sklon rovnoběžných přímek proložených průměrnými hodnotami odpovědí standardu (yS) a přípravku (yU).
Obr. 3.2.5-I Model rovnoběžnosti pro trojdávkovou zkoušku 3 + 3
3.2.6 Chybějící hodnoty
Ve vyvážených zkouškách se může přihodit, že v souvislosti s ošetřením dojde ke ztrátě jedné nebo více odpovědí, například tak, že některá zvířata uhynou. Úplná statistická analýza je pak mnohem složitější. Nicméně pokud je prokazatelné, že výskyt chybějící hodnoty nijak nesouvisí s přidělením pokusných jednotek do jednotlivých skupin, může být zachována jednoduchost vyhodnocení vyváženého plánu experimentu tak, že se nahradí chybějící hodnota hodnotou vypočtenou na základě ostatních pozorovaných hodnot. Ztráta informace se pak vezme v úvahu zmenšením počtu stupňů volnosti celkového a reziduálního součtu čtverců o jeden a použitím vzorce pro výpočet chybějící hodnoty.
Pokud chybí více než jedno pozorování, může se použít stejný vzorec. Postup je takový, že se hrubě odhadnou všechny chybějící hodnoty kromě jedné, a ta se vypočte podle uvedeného vzorce ze všech ostatních hodnot, včetně těch hrubě odhadnutých. Vypočtená hodnota se vezme za pozorovanou a pokračuje se stejným postupem pro všechny další chybějící hodnoty. Po vypočtení všech chybějících hodnot tímto postupem se provede cyklus znovu od začátku, přičemž se místo hrubých odhadů použijí posledně vypočtené hodnoty pro všechny chybějící odpovědi. To vše se opakuje několikrát, až se získají ve dvou po sobě následujících cyklech stejné hodnoty. Konvergence tohoto postupu je obvykle rychlá.
Pokud je počet nahrazovaných hodnot relativně malý v porovnání s celkovým rozsahem zkoušky (řekněme menší než 5 %), je použitá aproximace chybějících hodnot a redukce stupňů volnosti o počet chybějících hodnot obvykle uspokojivá. Nicméně výsledky by se měly interpretovat velmi opatrně, obzvláště pokud chybějící hodnoty v některém ošetření nebo bloku převažují. Pak by měl biometr uvážit, zda nepůsobily v průběhu zkoušky nějaké další nežádoucí vlivy. Nahrazení chybějících hodnot ve zkoušce bez jejího opakování je vždy choulostivé.
Úplné znáhodnění
Při úplném znáhodnění se za odhad chybějící hodnoty bere aritmetický průměr všech ostatních odpovědí daného ošetření.
Plán náhodných bloků
Chybějící hodnota (y´) se vypočte podle vzorce:
kde B´ je součet odpovědí v bloku obsahujícím příslušné chybějící pozorování, T´ součet odpovědí při příslušném ošetření a G´ součet všech odpovědí ve zkoušce.
Jako příklad nechť chybí odpověď u1 v prvém bloku zkoušky antibiotik (příklad 3.2.8.2).
| B´ | = 1050 |
| T´ | = 869 |
| G´ | = 7189 |
| y´ | = 174 |
| k | = 6 |
| n | = 6 |
Místo hodnoty 174 = u1 v tabulce odpovědí se získá podle vzorce (3.2.6-1) odhad 173. Hodnocení zkoušky bude stejné jako v příkladu 3.2.8.2, ale počet stupňů volnosti pro reziduální chybu bude roven 24 a pro celkový součet čtverců 34.
Latinské čtverce
Chybějící hodnota (y´) se nahradí podle vzorce:
kde B´ a C´ jsou součty odpovědí v řádce a sloupci s chybějícím pozorováním. V tomto případě je k = n. Když v příkladu 3.2.8.3 chybí hodnota 165 v sedmém sloupci a v šestém řádku, dostane se její odhad 169 podle vzorce (3.2.6-2) z hodnot:
| B´ | = 1582 |
| C´ | = 1663 |
| T´ | = 1355 |
| G´ | = 15956 |
| k | = 9 |
Stupně volnosti reziduální chyby budou redukovány na 55 a celkového součtu čtverců na 79.
Dvoudávková křížová zkouška
Když se chybějící pozorování vyskytne v dvoudávkové křížové zkoušce, je důležité konzultovat situaci se statistikem, protože vyhodnocení závisí na konkrétní kombinaci ošetření.
3.2.7 Částečně vyvážená zkouška
Liší-li se předpokládaná účinnost testovaného přípravku výrazně od skutečné účinnosti, může se stát, že nejvyšší dávka poskytuje již jen nejvyšší možnou odpověď, nebo naopak, že odpověď na nejnižší dávkuje minimální možná. Tyto odpovědi neleží v lineární části regresní křivky, testy validity indikují odchylku od linearity nebo nerovnoběžnost ve vztahu standardu a testovaného přípravku.
V daném případě se může odpověď na nejnižší nebo nejvyšší dávku ze zkoušky vyloučit. Ze zbývajících dat se vypočte provizorní odhad relativní účinnosti. Tento odhad účinnosti umožňuje vhodnější volbu dávek standardu a zkoušeného přípravku v nové zkoušce.
Logaritmus relativní účinnosti se získá ze vzorce:
který je velmi podobný vzorci 3.2.5-3, pouze jedna polovina rozdílu logaritmů sousedních dávek se odčítá při vypuštění nejnižší dávky nebo přičítá při vypuštění dávky nejvyšší.
Průměrné odpovědi yU a yS se získají stejně jako v úplně vyvážené zkoušce (rovnice 3.2.5-1), ale vzhledem k plánu zkoušky je nutné poněkud modifikovat výpočet sklonu (b).
Ve vícenásobné zkoušce, původně se dvěma dávkami pro každý přípravek, se dají vypočítat všechny lineární kontrasty, (LS...LZ) s výjimkou kontrastu LU. (Při vyloučení jedné z dávek u1 nebo u2 není možné vypočíst kontrast LU).
Sklon se získá vypočtením průměru L a vydělením In:
Ve zkoušce pouze jednoho přípravku je:
Ve vícenásobných třídávkových zkouškách se získá LU z tabulky 3.2.3-I a všechny ostatní lineární kontrasty z tabulky 3.2.3-II. Vzorec pro výpočet sklonu je:
Při testování pouze jediného přípravku se vzorec redukuje na:
3.2.8 Příklady
Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.
Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.
Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.
Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.
Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.
Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.
Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná
Stanovení účinnosti kortikotropinu podkožním podáním krysám
Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin
| Standard S | Přípravek U | Přípravek Z | ||||
|---|---|---|---|---|---|---|
| s1 | s2 | u1 | u2 | z1 | z2 | |
| 300 | 289 | 310 | 230 | 250 | 236 | |
| 310 | 221 | 290 | 210 | 268 | 213 | |
| 330 | 267 | 360 | 280 | 273 | 283 | |
| 290 | 236 | 341 | 261 | 240 | 269 | |
| 364 | 250 | 321 | 241 | 307 | 251 | |
| 328 | 231 | 370 | 290 | 270 | 294 | |
| 390 | 229 | 303 | 223 | 317 | 223 | |
| 360 | 269 | 334 | 254 | 312 | 250 | |
| 342 | 233 | 295 | 216 | 320 | 216 | |
| 306 | 259 | 315 | 235 | 265 | 265 | |
| průměr | 332,0 | 248,4 | 323,9 | 244,0 | 282,2 | 250,0 |
| rozptyl (vari) | 1026,7 | 483,8 | 725,0 | 718,7 | 854,6 | 784,7 |
| ln rozptylu | 6,9341 | 6,1817 | 6,5862 | 6,5774 | 6,7506 | 6,6653 |
Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.
Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:
a = 0,366
q = -3,26
m = 1,47
Dále se vypočte hodnota V:
a odtud H= -3,26 + (1,47. 2,60) = 0,56.
Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).
Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)
| Pořadí | Seřazené odpovědi yi | Koeficient ai (tab. 3.1.1-I) | Součin aiyi |
|---|---|---|---|
| 1 | 290 | -0,574 | -166,46 |
| 2 | 300 | -0,329 | -98,70 |
| 3 | 306 | -0,214 | -65,48 |
| 4 | 310 | -0,122 | -37,82 |
| 5 | 328 | -0,040 | -13,12 |
| 6 | 330 | +0,040 | 13,20 |
| 7 | 342 | +0,122 | 41,72 |
| 8 | 360 | +0,214 | 77,04 |
| 9 | 364 | +0,329 | 119,76 |
| 10 | 390 | +0,574 | 223,86 |
Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)
| s1 | s2 | u1 | u2 | z1 | z2 | |
|---|---|---|---|---|---|---|
| 94,00 | 63,63 | 78,60 | 78,28 | 82,90 | 81,96 | |
| 9240,00 | 4354,40 | 6524,90 | 6468,00 | 7991,60 | 7062,00 | |
| v | 0,956 | 0,930 | 0,947 | 0,947 | 0,893 | |
| 0,95 | ||||||
| 1 | ||||||
| V | 2,60 | 2,09 | 2,39 | 2,39 | 1,59 | 2,48 |
| H | 0,56 | -0,19 | 0,25 | 0,25 | -0,92 | 0,39 |
Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:
Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.
Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:
Bartlettův test neprokázal ani nehomogennost rozptylů.
Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:
Pro k = 6 a f = 9 vyjde:
Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.
Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)
| Standard | Přípravek | Přípravek | Součet | |
|---|---|---|---|---|
| nízká dávka | S1 = 3320 | U1 = 3239 | Z1 = 2822 | |
| vysoká dávka | S2 = 2484 | U2 = 2440 | Z2 = 2500 | |
| přípravek celkem | S = 5804 | U = 5679 | Z = 5322 | |
| lineární kontrast | LS = -836 | LU= -799 | LZ = -322 |
Tab. 3.2.8.1-V Analýza rozptylu
| Zdroj variability | Stupně volnosti | Součet čtverců | Průměrný čtverec | F | P |
|---|---|---|---|---|---|
| přípravky | 2 | 6256,6 | 3128,3 | ||
| regrese | 1 | 63 830,8 | 63 830,8 | 83,4 | < 0,01 |
| nerovnoběžnost | 2 | 8218,2 | 4109,1 | 5,4 | < 0,01 |
| ošetření | 5 | 78 305,7 | |||
| reziduální chyba | 54 | 41 340,9 | 765,6 | ||
| součet | 59 | 119 646,6 |
Korekční člen K:
Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.
Reziduální chyba = Celkový - Ošetření = 41 340,90
Validita zkoušky
Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f1 = 1 a f2 = 54.
Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:
kde s2 = reziduální rozptyl, tj. 765,6, a LP je lineární kontrast testovaného přípravku P.
Pro přípravek P = U:
Pro přípravek P = Z:
Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f1 =2 a f2= 54 (f1 = počet testovaných přípravků).
Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).
Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z
| Zdroj variability | Stupně volnosti | Součet čtverců | Průměrný čtverec | F | P |
|---|---|---|---|---|---|
| přípravky | 1 | 390,6 | 390,6 | ||
| regrese | 1 | 66 830,60 | 66 830,6 | 90,5 | < 0,01 |
| nerovnoběžnost | 1 | 34,2 | 34,2 | 0,05 | > 0,05 |
| ošetření | 3 | 67 255,5 | |||
| reziduální chyba | 36 | 26 587,3 | 738,5 | ||
| součet | 39 | 93 842,8 |
Korekční člen K:
Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.
Výpočet účinnosti a jejích mezí spolehlivosti
Po vyloučení přípravku Z se vypočte pouze jedna účinnost.
Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.
Protože přípravek byl deklarován jako 1 jednotka na miligram,
Účinnost získáme odlogaritmováním MU, je tedy MU = 1,11 jednotek na miligram.
Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.
Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování
Stanovení účinnosti antibiotik na Petriho miskách
Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti AU = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku . Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.
Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)
| Standard | Přípravek | Součet v bloku | |||||
|---|---|---|---|---|---|---|---|
| miska | s1 | s2 | s3 | u1 | u2 | u3 | |
| 1 | 176 | 205 | 235 | 174 | 202 | 232 | R1 = 1224 |
| 2 | 178 | 208 | 238 | 175 | 206 | 234 | R2 = 1239 |
| 3 | 178 | 207 | 237 | 177 | 203 | 236 | R3 = 1238 |
| 4 | 175 | 205 | 235 | 173 | 201 | 232 | R4 = 1221 |
| 5 | 176 | 206 | 235 | 174 | 204 | 231 | R5 = 1226 |
| 6 | 174 | 204 | 236 | 170 | 202 | 229 | R6 = 1215 |
| průměr | 176,2 | 205,8 | 236,0 | 173,8 | 203,0 | 232,3 | |
| rozptyl | 2,6 | 2,2 | 1,6 | 5,4 | 3,2 | 5,9 | |
Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)
| Standard | Přípravek | Součet | |
|---|---|---|---|
| nízká dávka | S1 = 1057 | U1 = 1043 | |
| střední dávka | S2 = 1235 | U2 = 1218 | |
| vysoká dávka | S3 = 1416 | U3 = 1394 | |
| přípravek celkem | S = 3708 | U = 3655 | Σy = 7363 |
| lineární kontrast | LS = 359 | LU = 351 | ΣL = 710 |
| kvadratický kontrast | QS = 3 | QU= 1 | ΣQ = 4 |
Tab. 3.2.8.2-III Analýza rozptylu
| Zdroj variability | Stupně volnosti | Součet čtverců | Průměrný čtverec | F | P |
|---|---|---|---|---|---|
| přípravky | 1 | 78,03 | 78,03 | ||
| regrese | 1 | 21 004,17 | 21 004,17 | 18 737 | < 0,01 |
| nerovnoběžnost | 1 | 2,67 | 2,67 | 2,4 | > 0,05 |
| kvadratická regerese | 1 | 0,22 | 0,22 | 0,2 | > 0,05 |
| odchylka kvadratických členů | 1 | 0,06 | 0,06 | 0,05 | > 0,05 |
| 5 | 21 085,14 | ||||
| ošetření | 5 | 75,80 | 15,16 | 13,5 | < 0,01 |
| bloky (misky) | 25 | 28,03 | 1,121 | ||
| reziduální chyba | 35 | 21 188,97 | |||
| součet |
Korekční člen K:
Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Reziduální = Celkový - Ošetření - Bloky = 28,03
Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s2, což by vedlo k širším mezím spolehlivosti.
Validita zkoušky
Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek byl 2,0, takže:
Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.
Logaritmus relativní účinnosti přípravku je tedy:
Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:
Logaritmy mezí spolehlivosti se vypočtou jako:
Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.
Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:
C = 1,000227
Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.
Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování
Zkouška antibiotik na pravoúhlé plotně
Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků a , AU= 2000 a AZ= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.
Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)
| Sloupce | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Řádky | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 |
| 1 | u1 | z1 | u2 | s2 | z2 | z3 | u3 | s1 | s3 |
| 2 | s2 | u3 | u1 | z3 | s1 | u2 | s3 | z1 | z2 |
| 3 | s1 | s2 | u3 | u1 | z1 | z2 | z3 | s3 | u2 |
| 4 | z2 | s3 | s1 | z1 | u3 | u1 | u2 | s2 | z3 |
| 5 | z3 | z2 | s2 | s1 | u2 | s3 | z1 | u3 | u1 |
| 6 | u2 | z3 | s3 | z2 | s2 | u3 | s1 | u1 | z1 |
| 7 | z1 | u2 | z2 | u3 | s3 | s1 | u1 | z3 | s2 |
| 8 | s3 | s1 | z3 | u2 | u1 | z1 | s2 | z2 | u3 |
| 9 | u3 | u1 | z1 | s3 | z3 | s2 | z2 | u2 | s1 |
Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)
| Sloupce | ||||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| Řádky | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | řádkové součty |
| 1 | 164 | 171 | 194 | 206 | 211 | 237 | 237 | 172 | 224 | R1 = 1816 |
| 2 | 188 | 224 | 178 | 236 | 180 | 210 | 237 | 180 | 210 | R2 = 1843 |
| 3 | 168 | 203 | 230 | 175 | 175 | 209 | 236 | 238 | 207 | R3 = 1841 |
| 4 | 182 | 214 | 162 | 175 | 227 | 171 | 194 | 201 | 225 | R4 = 1751 |
| 5 | 220 | 186 | 192 | 169 | 205 | 230 | 169 | 237 | 167 | R5 = 1775 |
| 6 | 183 | 217 | 223 | 200 | 195 | 228 | 165 | 171 | 165 | R6 = 1747 |
| 7 | 163 | 195 | 203 | 229 | 230 | 175 | 179 | 233 | 196 | R7 = 1803 |
| 8 | 218 | 163 | 228 | 200 | 167 | 175 | 207 | 199 | 233 | R8 = 1790 |
| 9 | 218 | 163 | 162 | 216 | 233 | 194 | 204 | 199 | 166 | R9 = 1755 |
| sloupcové | C1 = | C2 = | C3 = | C4= | C5 = | C6 = | C7 = | C8 = | C9 = | |
| součty | 1704 | 1736 | 1772 | 1806 | 1823 | 1829 | 1828 | 1830 | 1793 | |
Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky
| Standard | Přípravek | Přípravek | |||||||
|---|---|---|---|---|---|---|---|---|---|
| s1 | s2 | s3 | u1 | u2 | u3 | z1 | z2 | z3 | |
| průměr | 168,9 | 198,0 | 225,6 | 170,6 | 198,6 | 229,2 | 170,6 | 200,4 | 229,4 |
| ošetření | |||||||||
| rozptyl | 34,61 | 43,00 | 77,03 | 34,03 | 67,78 | 36,94 | 39,03 | 105,78 | 54,28 |
| (vari) | |||||||||
| ln (vari) | 3,5442 | 3,7612 | 4,3442 | 3,5272 | 4,2162 | 3,6094 | 3,6643 | 4,6613 | 3,9942 |
Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:
To se pro k = 9, f = 8 redukuje na:
Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.3-IV Součty odpovědí a kontrasty
| Standard S | Přípravek U | Přípravek z | Součet | |
|---|---|---|---|---|
| nízká dávka | S1 = 1520 | U1 = 1535 | Z1 = 1535 | |
| střední dávka | S2 = 1782 | U2 = 1787 | Z2 = 1804 | |
| vysoká dávka | S3 = 2030 | U3 = 2063 | Z3 = 2065 | |
| přípravek celkem | S = 5332 | U = 5385 | Z = 5404 | Σy = 16 121 |
| lineární kontrast | LS = 510 | LU = 528 | LZ = 530 | ΣL = 1568 |
| kvadratický kontrast | QS = -14 | QU = 24 | QZ = -8 | ΣQ = 2 |
Tab. 3.2.8.3-V Analýza rozptylu
| Zdroj variability | Stupně volnosti | Součet čtverců | Průměrný čtverec | F | P |
|---|---|---|---|---|---|
| přípravky | 2 | 103,14 | 51,57 | ||
| lineární regrese | 1 | 45 530,07 | 45 530,07 | 2921 | < 0,01 |
| nerovnoběžnost | 2 | 13,49 | 6,75 | 0,43 | > 0,05 |
| kvadratická regerese | 1 | 0,02 | 0,02 | 0,00 | > 0,05 |
| odchylka kvadratických členů | 2 | 15,46 | 7,73 | 0,50 | > 0,05 |
| ošetření (celkem) | 8 | 45 662,17 | |||
| řádky | 8 | 1229,06 | 153,63 | 9,86 | < 0,01 |
| sloupce | 8 | 1837,95 | 229,74 | 14,74 | < 0,01 |
| reziduální chyba | 56 | 872,77 | 15,585 | ||
| celkem | 80 | 49 601,95 |
Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77
Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.
Validita zkoušky
Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.
Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.
Odhad účinnosti, získaný odlogaritmováním MU, je tedy 2096 jednotek na mililitr.
Logaritmy mezí spolehlivosti se vypočtou jako:
Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.
Užitím stejného postupu pro přípravek se dostane:
Odhad účinnosti je 2664 jednotek na mililitr.
Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.
Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.
Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.
Příklad 3.2.8.4 Dvoudávková křížová zkouška
Stanovení účinnosti insulinu na králících podkožním podáním
Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (AU= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.
Tab. 3.2.8.4-I Uspořádání ošetření
| Skupina králíků | ||||
|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |
| den I | s1 | s2 | u1 | u2 |
| den II | u2 | u1 | s2 | s1 |
Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h
| Skupina 1 | Skupina 2 | Skupina 3 | Skupina 4 | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| s1 | u2 | ∑ | s2 | u1 | ∑ | u1 | s2 | ∑ | u2 | s1 | ∑ | |
| 112 | 104 | 216 | 65 | 72 | 137 | 105 | 91 | 196 | 118 | 144 | 262 | |
| 126 | 112 | 238 | 116 | 160 | 276 | 83 | 67 | 150 | 119 | 149 | 268 | |
| 62 | 58 | 120 | 73 | 72 | 145 | 125 | 67 | 192 | 42 | 51 | 93 | |
| 86 | 63 | 149 | 47 | 93 | 140 | 56 | 45 | 101 | 64 | 107 | 171 | |
| 52 | 53 | 105 | 88 | 113 | 201 | 92 | 84 | 176 | 93 | 117 | 210 | |
| 110 | 113 | 223 | 63 | 71 | 134 | 101 | 56 | 157 | 73 | 128 | 201 | |
| 116 | 91 | 207 | 50 | 65 | 115 | 66 | 55 | 121 | 39 | 87 | 126 | |
| 101 | 68 | 169 | 55 | 100 | 155 | 91 | 68 | 159 | 31 | 71 | 102 | |
| průměr | 95,6 | 82,8 | 69,6 | 93,3 | 89,9 | 66,6 | 72,4 | 106,8 | ||||
| rozptyl | 709,7 | 627,9 | 525,1 | 1012,5 | 479,6 | 230,6 | 1214,3 | 1215,1 | ||||
Hartleyovým testem nebyla nalezena významná neshoda rozptylů.
Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.
Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.
Tab. 3.2.8.4-III Součty odpovědí a kontrasty
| Standard S | Přípravek U | Součet | |||||
|---|---|---|---|---|---|---|---|
| Den I | |||||||
| nízká dávka | S1I = 765 | U1I = 719 | |||||
| vysoká dávka | S2I = 557 | U2I = 579 | |||||
| součet | S1 = 1322 | U1 = 1298 | D1 = 2620 | ||||
| Den II | |||||||
| nízká dávka | S1II = 854 | U1II = 746 | |||||
| vysoká dávka | S2II = 533 | U2II = 662 | |||||
| součet | S1 = 1387 | U1 = 1408 | DII = 2795 | ||||
| Přípravky celkem | S = 2709 | U = 2706 | ∑y = 5415 | ||||
| Lineární kontrasty | |||||||
| den I | LSI = -208 | LUI = -140 | LI = -348 | ||||
| den II | LSII = -321 | LUII = -84 | LII = -405 | ||||
| celkem | LS = -529 | LU = -224 | ∑L = -753 | ||||
Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.
Díky opakování v každé skupině obsahuje analýza tři "interakce":
dny x přípravky, dny x regrese, dny x rovnoběžnost.
Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.
Tab. 3.2.8.4-IV Analýza rozptylu
| Zdroj variability | Stupně volnosti | Součet čtverců | Průměrný čtverec | F | P |
|---|---|---|---|---|---|
| nerovnoběžnost | 1 | 1453,5 | 1453,5 | 1,06 | > 0,05 |
| dny x přípravky | 1 | 31,6 | 31,6 | 0,02 | > 0,05 |
| dny x regrese | 1 | 50,8 | 50,8 | 0,04 | > 0,05 |
| reziduální chyba mezi králíky | 28 | 38 258,8 | 1366,4 | ||
| bloky (králíci) | 31 | 39 794,7 | 1283,7 | ||
| přípravky | 1 | 0,1 | 0,1 | 0,00 | > 0,05 |
| regrese | 1 | 8859,5 | 8859,5 | 64,5 | < 0,01 |
| dny | 1 | 478,5 | 478,5 | 3,48 | > 0,05 |
| dny x nerovnoběžnost | 1 | 446,3 | 446,3 | 3,25 | > 0,05 |
| reziduální chyba"uvnitř"králíků | 28 | 3844,1 | 137,3 | ||
| součet | 63 | 53 423,2 |
Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.
V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.
kde Bi je celková odpověď králíka z tabulky 3.2.8.4-II.
kde DI a DII jsou celkové odpovědi pro každý den.
Reziduální chyba mezi králíky = Bloky - Nerovnoběžnost - (Dny x Přípravky) - (Dny x Regrese) = 38 258,81.
Reziduální chyba "uvnitř" králíků = Celkem - Bloky - Dny - Přípravky - Regrese - (Dny x Nerovnoběžnost) = 3 844,06.
Validita zkoušky
Analýza potvrzuje, že data splňují podmínky nutné pro použití zkoušky:
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, tedy I = ln 2 = 0,69315. Podle tabulky 6.1 je t = 2,05 pro 28 stupňů volnosti (P = 0,95).
Odhad účinnosti se získá odlogaritmováním M. Účinnost je tedy 40,1 jednotek na mililitr.
Pro logaritmy mezí spolehlivosti se dostane:
Meze spolehlivosti jsou tedy 33,4 až 48,2 jednotek na mililitr.
1. významnost regrese: testovací statistika pro regresi (64,5) vypočtená s použitím rozptylu tvořeného rozdíly mezi králíky je větší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,01 s f1 = 1 a f2 = 28;
2. odchylka od rovnoběžnosti regresních přímek: test rovnoběžnosti v křížovém pokusu není příliš citlivý. Je totiž založen na reziduální chybě mezi králíky a ta závisí na variabilitě mezi nimi. Testovací statistika (1,06) je menší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,05 s f1 = 1 a f2 = 28;
3. žádná z interakcí není statisticky významná, jednotlivé hodnoty F jsou 0,02, 0,04 a 3,25.