3 Zkoušky závislé na kvantitativní odpovědi

3.1 Statistické modely
Biologické zkoušky obsažené v lékopise jsou založeny na principu "ředění". O neznámém testovaném přípravku se předpokládá, že obsahuje stejnou aktivní složku jako standardní přípravek, ale s jiným poměrem aktivní a neúčinné složky. Teoreticky je v tomto případě neznámý přípravek pouze ředěním standardního přípravku pomocí nějaké neúčinné látky. Má-li se ověřit, zda se konkrétní právě prováděná zkouška řídí tímto modelem, je nutné vyzkoušet závislost odpovědi na ředění standardu. Pokud se v prováděné zkoušce výrazně liší průběh závislosti na dávce standardního a neznámého přípravku, není model pro tuto konkrétní zkoušku použitelný.
Aby bylo možno lépe analyzovat vliv ředění na biologickou odpověď, je vhodné transformovat tuto závislost na lineární. Pro statistickou analýzu biologických zkoušek jsou určeny dva modely: model rovnoběžnosti a model poměru sklonů.
Jejich použití je závislé na následujících podmínkách:
Podmínku 1 lze splnit správným použitím návodu z kapitoly 2. Pokud je podezření na odchylku od normality, může se použít Shapiro-Wilk test. Tento test je krátce popsán v kapitole 3.1.1. Pokud je podezření na porušení podmínek 2 a/nebo 3, může pomoci ke splnění těchto podmínek některá z transformací odpovědi y: ln (y), √y nebo 1/y. V učebnicích statistiky se najdou ještě další transformace.
Experimentátor by se měl při zavedení metody v laboratoři rozhodnout pro typ transformace přiměřený biologické zkoušce. Pokud nejsou později při rutinním provádění biologické zkoušky splněny podmínky 2 a/nebo 3, neměla by být použita jiná transformace. Ke změně transformace může experimentátor přistoupit až po ověření, že nesplnění požadavků není náhodné, ale je způsobeno systematickou změnou experimentálních podmínek. V tomto případě by se měl znovu provést předběžný test transformace, která se bude dále pro tuto biologickou zkoušku rutinně používat.
Zvláštní kategorii tvoří zkoušky, v nichž odpověď nelze měřit na jednotlivých experimentálních jednotkách, ale ve kterých se zjišťuje pouze podíl jednotek reagujících na ošetření. Tyto zkoušky se nazývají kvantální a metodě jejich hodnocení je věnována kapitola 4. Při použití této metody se předpokládá splnění podmínek 2 a 3.
Dvě další podmínky závisí na zvoleném statistickém modelu:
Zředí-li se přípravek faktorem 2, zmenší se hodnota X v uvedeném vztahu o hodnotu ln 2 a vztah nabude tvaru:
$Y=a+bX-\text{ln 2}=a-\text{b ln 2}+\mathrm{bX}=a\text{'}+\mathrm{bX}.$
Všechny odpovědi se zmenší o hodnotu b ln 2, tj. přímka závislosti odpovědi na logaritmu dávky se posune rovnoběžně. Aby se tedy mohla zkouška analyzovat pomocí tohoto modelu, musí být splněny následující podmínky:
Podmínka 4A se dá ověřit pouze ve zkouškách, ve kterých jsou použita nejméně tři ředění přípravku. Zkoušky, které používají pouze dvě ředění, vycházejí z předpokladu, že předchozí studie splnění této podmínky prokázaly.

A. Model rovnoběžnosti (viz obr. 3.2.5-I) předpokládá lineární vztah mezi odpovědí Y a logaritmem X dávky D:
$Y=a+\mathrm{bX},\text{(3.1.-.1)}$
kde: Y je očekávaná odpověď,
X= ln dávky = ln D,
a a b jsou dvě konstanty.

B. Model poměru sklonů (viz obr. 3.3.5-I) je založen na lineární závislosti odpovědi y na dávce D.
$y=a+\mathrm{bD},\text{(3.1-2)}$
kde a a b jsou opět dvě neznámé konstanty. Ředění přípravku faktorem 2 zde vede ke vztahu:
$y=a+b0,5D=a+0,5D=a+b\text{'}D.$
V tomto případě se objeví jiná konstanta sklonu b’ na rozdíl od modelu rovnoběžnosti, v němž se mění konstanta a (průsečík s osou y). Nezávisle na ředění se pro D = 0 vztah změní na:
$Y=a.\text{(3.1-3)}$
Pro model skloňuje tedy nutno splnit kromě podmínek 1, 2 a 3 ještě tyto dvě podmínky:
Pokud některá z pěti podmínek (1 až 3 a buď 4A a 5A, nebo 4B a 5B) není splněna, nejsou zde popsané metody vhodné, a je nutno použít jiných speciálních technik.
Potvrdí-li se použitelnost některého z uvedených modelů, počítá se obvykle účinnost zkoušeného přípravku vzhledem k standardu jako podíl dávek se stejným účinkem nebo se vyjadřuje množstvím jednotek, například mezinárodních jednotek. Pro obojí lze též vypočítat meze spolehlivosti.
Použití jednoduchých, dále popsaných statistických postupů vyžaduje při plánování zkoušek splnění následujících požadavků:

a) testované přípravky i standard se musí zkoušet se stejným počtem ředění. Obvykle se používají dvě nebo tři ředění;

b) v modelu rovnoběžnosti musí být poměr sousedních ředění stejný pro všechna ošetření.
V modelu poměru sklonů musí být rozdíl sousedních dávek stejný pro všechna ošetření;

c) všechna ošetření se musí provést na stejném počtu pokusných jednotek.
Testy založené na modelu rovnoběžnosti jsou popsány v kapitole 3.2.6, 3.3.6 a na modelu poměru sklonů v kapitole 3.2.7.

4B. Závislost odpovědi na dávce musí být lineární v oboru dávek použitých ve zkoušce pro každý přípravek.

5B. Pro všechny zkoušené přípravky musí regresní přímky protínat osu y ve stejném bodě jako přímka standardního přípravku (tj. přímky odpovědí všech zkoušených přípravků i standardu se musí protínat ve stejném bodě).

1. pokusným jednotkám jsou náhodně přidělena jednotlivá ošetření,

3.1.1 Test normality rozložení Shapiro-Wilk
Test, který navrhli Shapiro a Wilk, se osvědčil jako velmi dobrý obecný test pro společné potvrzení normality odpovědí nebo chyby měření v několika nezávislých, malých vzorcích, vybraných náhodně z populací s přibližně stejným rozdělením, ale s různými průměry nebo směrodatnými odchylkami. Tento test je dále popsán pro skupiny o rozsahu 7 a více. Použití testu na menších skupinách je složitější⁷).
Testovací statistika pro k nezávislých skupin o rozsahu n, vybraných náhodně z k populací, je definována jako:
$t=\frac{\sum H}{\sqrt{k}}.\text{(3.1.1-1)}$
Má Studentovo t-rozdělení s ∞ stupni volnosti. Jeho kritické hodnoty jsou v tabulce 6.1. Veličina H se počítá pro každé ošetření zvlášť.
Nejprve se vypočte pro každou ošetřovanou skupinu:
$v=\frac{{\sum a_i{y}_i}^2}{\sum {y-\stackrel{-}{y}}^2},\text{(3.1.1-2)}$
kde jmenovatel je stejný jako čitatel ve výrazu (1.2-1) a čitatel se získá pomocí tabulky 3.1.1-I. Před výpočtem součinu a_iy_i je nutno seřadit hodnoty y_i od nejmenší k největší a pak vynásobit y_i postupně hodnotami a_i z tabulky ve stejném pořadí.
Mají-li dvě měření stejnou hodnotu, tj. y_i = y_i+b vynásobí se obě průměrem odpovídajících koeficientů, tj.:
$\frac{a_i+a_{i+1}}{2}.$
Získaná hodnota v se použije k výpočtu:
$V=\ln \frac{v-a}{1-v},\text{(3.1.1-3)}$
kde a je koeficient z tabulky 3.1.1-II pro rozsah n příslušné skupiny. Pro výpočet H se dále použijí koeficienty m a q z téže tabulky:
$H=q+\mathrm{mV}.\text{(3.1.1-4)}$
Použití tohoto testuje popsáno v příkladu 3.2.8.1 (dvoudávková úplně znáhodněná mnohonásobná zkouška o rozsahu k = 6 a n = 10).
Tab. 3.1.1-I Koeficienty a_i pro test normality Shapiro-Wilk

i/n	7	8	9	10	11	12	13	14	15	16	17	18	19	20
1	-0,623	-0,605	-0,589	-0,574	-0,560	-0,548	-0,536	-0,525	-0,515	-0,506	-0,497	-0,489	-0,481	-0,473
2	-0,303	-0,316	-0,324	-0,329	-0,332	-0,332	-0,332	-0,332	-0,331	-0,329	-0,327	-0,325	-0,323	-0,321
3	-0,140	-0,174	-0,198	-0,214	-0,226	-0,235	-0,241	-0,246	-0,250	-0,252	-0,254	-0,255	-0,256	-0,256
4	0,000	-0,056	-0,095	-0,122	-0,143	-0,159	-0,171	-0,180	-0,188	-0,194	-0,199	-0,203	-0,206	-0,208
5	0,140	0,056	0,000	-0,040	-0,070	-0,092	-0,110	-0,124	-0,135	-0,145	-0,152	-0,159	-0,164	-0,169
6	0,303	0,174	0,095	0,040	0,000	-0,030	-0,054	-0,073	-0,088	-0,100	-0,111	-0,120	-0,127	-0,133
7	0,623	0,316	0,198	0,122	0,070	0,030	0,000	-0,024	-0,043	-0,059	-0,072	-0,084	-0,093	-0,101
8		0,605	0,324	0,214	0,143	0,092	0,054	0,024	0,000	-0,020	-0,036	-0,050	-0,061	-0,071
9			0,589	0,329	0,226	0,159	0,110	0,073	0,043	0,020	0,000	-0,016	-0,030	-0,042
10				0,574	0,332	0,235	0,171	0,124	0,088	0,059	0,036	0,016	0,000	-0,014
11					0,560	0,332	0,241	0,180	0,135	0,100	0,072	0,050	0,030	0,014
12						0,548	0,332	0,246	0,188	0,145	0,111	0,084	0,061	0,043
13							0,536	0,332	0,250	0,194	0,152	0,120	0,093	0,071
14								0,525	0,331	0,252	0,199	0,159	0,127	0,101
15									0,515	0,329	0,254	0,203	0,164	0,133
16										0,506	0,327	0,255	0,206	0,169
17											0,497	0,325	0,256	0,208
18												0,489	0,323	0,256
19													0,481	0,321
20														0,473

Tab. 3.1.1-II Koeficienty a, q a m pro test normality Shapiro-Wilk

n	a	q	m
7	0,453	-2,36	1,24
8	0,419	-2,70	1,33
9	0,390	-2,97	1,40
10	0,366	-3,26	1,47
11	0,345	-3,48	1,52
12	0,327	-3,73	1,57
13	0,311	-3,94	1,61
14	0,297	-4,16	1,66
15	0,284	-4,37	1,70
16	0,273	-4,57	1,72
17	0,262	-4,71	1,74
18	0,253	-4,88	1,77
19	0,244	-5,02	1,79
20	0,236	-5,15	1,80

2. odpověď každého ošetření má normální rozdělení,

3. směrodatná odchylka odpovědi uvnitř každé skupiny stejně ošetřené není závislá na střední hodnotě odpovědi v této skupině.

4A. Závislost odpovědi na logaritmu dávky musí být lineární v celém rozsahu použitých dávek.

5A. Pro zkoušený přípravek musí být přímka závislosti na logaritmu dávky rovnoběžná s přímkou závislosti standardu.

3.2 Model rovnoběžnosti

3.2.1 Podmínky platnosti
Jak již bylo řečeno, musí se před vypočtením účinnosti ověřit použitelnost modelu (viz kapitola 3.1 - požadavek splnění tří podmínek). I když dodržení požadavku náhodnosti výběru v jedné zkoušce nezpůsobuje velké problémy, při provádění většího počtu paralelních zkoušek najednou je nutné zajistit, aby se série náhodných čísel nebo permutace neopakovaly.
Po získání všech odpovědí je nutno provést jejich kontrolu. Musí se zkontrolovat normalita jejich rozložení a v případě pochyb testem Shapiro-Wilk. Dále by se měla ověřit shoda variability v jednotlivých ošetřených skupinách. K tomu slouží testy, které navrhli například Bartlett⁸) nebo Hartley⁹). Kritické hodnoty pro použití Hartleyova testu pro podíl největšího a nejmenšího rozptylu ve skupinách jsou v tabulce 3.2.1-I.
Již v kapitole 3.1 bylo zmíněno, že použitá transformace odpovědí se nemůže měnit bez dostatečného odůvodnění toho, že porušení podmínek 2 a/nebo 3 je podstatné, a nikoliv nahodilé.
Pokud je dostatečně zajištěno splnění podmínek 1, 2 a 3 kapitoly 3.1, může se přistoupit k provedení analýzy rozptylu a k ověření předpokladů 4A a 5A, (viz kapitola 3.2.4). Účinnost testovaného přípravku pak může být vypočtena pouze za předpokladu, že výsledky analýzy rozptylu jsou uspokojivé.
Tab. 3.2.1-I Kritické hodnoty podílu maximálního a minimálního rozptylu pro test homogenity rozptylů v k skupinách stejného rozsahu, každá s f stupni volnosti pro P = 0,95 (v závorkách pro P = 0,99) -Hartleyův test

f/k	4	6	8	9	10	12
4	20,6	29,5	37,5	41,1	44,6	51,4
	49	69	89	97	106	120
5	13,7	18,7	22,9	24,7	26,5	29,9
	28	38	46	50	54	60
6	10,4	13,7	16,3	17,5	18,6	20,7
	19,1	25	30	32	34	37
7	8,44	10,8	12,7	13,5	14,3	15,8
	14,5	18,4	22	23	24	27
8	7,18	9,03	10,5	11,1	11,7	12,7
	11,7	14,5	16,9	17,9	18,9	21
9	6,31	7,80	8,95	9,45	9,91	10,7
	9,9	12,1	13,9	14,7	15,3	16,6
10	5,67	6,92	7,87	8,28	8,66	9,34
	8,6	10,4	11,8	12,4	12,9	13,9

Podmínka 2 (normalita) je velmi důležitá, obzvláště při nízkém počtu pokusných jednotek na dávku. V některých výjimečných případech obzvlášť přesných zkoušek je možné tolerovat malou odchylku od podmínky 4A (nelinearitu). Odchylka může být způsobena:
- výjimečnými okolnostmi;
- malou variabilitou odpovědí na jednotlivé dávky.
Na druhé straně podmínka 5A (rovnoběžnost) a opačné zakřivení u standardu a testovaného přípravku musí být striktně kontrolovány. Nedodržení některé z těchto podmínek ve zkoušce znamená, že srovnávané přípravky není možno považovat za různá ředění aktivní složky v neaktivním rozpouštědle, takže relativní účinnost nelze stanovit.
Jsou-li rozdíly mezi výběrovými rozptyly ve skupinách náhodné, překročí vypočtená hodnota F kritickou hodnotu s pravděpodobností P = 0,05, s pravděpodobností P = 0,95 ji nepřekročí¹⁰). Kritické hodnoty v závorkách mají tentýž význam pro P = 0,01.

3.2.2 Zkušební plány
Přiřazení pokusných jednotek jednotlivým ošetřením může být provedeno různým způsobem.

3.2.2.1 Úplné znáhodnění
Pokud je soubor pokusných jednotek (zvířat, zkumavek apod.) dostatečně homogenní a pokud nelze předem nalézt části souboru s menší variabilitou odpovědí, může být ošetření jednotlivým pokusným jednotkám přiřazeno náhodně, například pomocí tabulky náhodných permutací.
Když jsou podskupiny jednotek homogennější než celek, například vlivem tělesného stavu nebo pokusného dne, může být přesnost zkoušky zvýšena zavedením dalších omezení v pokusném plánu. Pečlivé vyvážení plánu s ohledem na tyto okolnosti zajistí eliminaci vedlejších zdrojů variability.

3.2.2.2 Náhodné bloky
Pomocí tohoto plánu se mohou vyloučit známé zdroje variability, jako například rozdíl mezi jednotlivými vrhy pokusných zvířat nebo rozdíl mezi jednotlivými Petriho miskami v složitých mikrobiologických zkouškách. Tento plán vyžaduje, aby počty všech ošetření v jednotlivých blocích (vrzích, Petriho miskách) byly stejné a tak velké, aby jednotlivé bloky mohly zahrnout všechna ošetření.
V tabulce 3.2.3-IV jsou vzorce pro plán náhodných bloků, v nichž se každé ošetření aplikuje jednou v každém bloku (plán náhodných bloků bez opakování). Použití je předvedeno v příkladu 3.2.8.2. Může se použít také plán úplných bloků s opakováním. Vzorce a příklady náhodných bloků s opakováním stejného ošetření v každém bloku se najdou v publikacích o biologických zkouškách. Takovýto plán pokusuje užitečný k určení reziduálního rozptylu s vyloučením vlivu interakce mezi různými faktory a k prokázání případné existence těchto interakcí. Pokud jsou významné rozdíly mezi replikacemi úplné skupiny ošetření uvnitř stejného bloku, je nutné použít jiný plán, v němž se jako samostatné berou bloky obsahující každé ošetření pouze jednou.

3.2.2.3 Křížová zkouška
Tento plán je užitečný, je-li možné pokus rozdělit do bloků, z nichž každý obsahuje pouze dvě ošetření, například blok tvoří jedna pokusná jednotka ošetřená dvakrát při různých podnětech. Tento plán pokusu sleduje zvýšení přesnosti omezením vlivu rozdílu mezi pokusnými jednotkami tím, že vyvažuje efekt rozdílu odpovědí na oba podněty.
Pokus, v kterém se testují dvě dávky standardu proti dvěma dávkám přípravku, se nazývá dvoudávkový křížový pokus a podobně pro test se třemi dávkami obou podnětů se používá název třídávkový křížový pokus.
Pokus je rozdělen do dvou vhodných časových intervalů. Pokusné jednotky jsou rozděleny do čtyř (případně šesti) skupin a ošetřeny nejprve jednou ze čtyř (šesti) dávek a později jsou tytéž jednotky ošetřeny tak, že ty jednotky, které byly ošetřeny menší dávkou, budou ošetřeny dávkou větší a naopak. U jednotlivých pokusných jednotek se též zamění aplikace standardu za přípravek a naopak. Rozložení dávek je zobrazeno v tabulce 3.2.2-I.
Tab. 3.2.2-I Rozdělení jednotlivých dávek v křížovém pokusu

	Dvoudávkový křížový pokus		Třídavkový křížový pokus
Skupina jednotek	Čas I	Čas II	Čas I	Čas II
1	s1	u2	s1	u3
2	s2	u1	s2	u2
3	u1	s2	s3	u1
4	u2	s1	u1	s3
5	-	-	u2	s2
6	-	-	u3	s1

3.2.2.4 Latinské čtverce
Tento plán experimentu je vhodný, ovlivňují-li odpověď dva různé rušivé vlivy nabývající k různých úrovní. Například zkouška antibiotik se provádí na destičce rozdělené do k x k polí tak, že každé z k ošetření je právě jednou v každém sloupci a v každém řádku destičky. Tento plán pokusuje použitelný při stejném počtu sloupců, řádků i ošetření.
Výsledky jsou zaznamenávány do tabulky k x k, nazývané latinský čtverec. Variabilita odpovědi způsobená rozdíly v poloze ošetření na destičce (mezi k sloupci a k řádky) je rovnoměrně rozdělena a tím je tedy snížena chyba.
V tabulce 3.2.3-V jsou uvedena schémata latinských čtverců, ve kterých se každé ošetření objevuje v každém řádku a každém sloupci právě jednou. Použití je popsáno v příkladu 3.2.8.3. Vzorce a příklady pro opakované latinské čtverce jsou popsány v publikacích textu o biologických zkouškách.
Instrukce pro náhodný výběr latinského čtverce se najde v tabulkách (viz Statistical Tables for Biological, Agricultural and Medical Research, R. A. Fisher and F. Yates, Oliver and Boyd). Při každém použití tohoto plánu by měl být výběr pokusných jednotek do bloků proveden náhodně a pokusné jednotky by měly být vystaveny stejným podmínkám před i během pokusu.

3.2.3 Analýza rozptylu
Bez ohledu na některé úpravy chybového členu je základ analýzy výsledků zkoušek stejný pro všechny výše zmíněné plány experimentu. Tato kapitola obsahuje vzorce pro provedení analýzy a v příkladech kapitoly 3.2.8 je podrobněji objasněna interpretace výsledků analýzy. Vzorce jsou přizpůsobeny provádění jednoduchých zkoušek porovnávajících jeden přípravek (U) se standardem (S) a vícenásobných zkoušek s několika testovanými přípravky (U... Z). Vzorce pro vyhodnocení křížových pokusů nelze plně schematizovat, analýza jednoho takovéhoto pokusuje obsažena v příkladě 3.2.8.4.
Vezmou-li se v úvahu body diskutované v kapitole 3.1 a v případě potřeby se transformují odpovědi, mohou se hodnoty y sečíst pro každé ošetření a každý přípravek, jak je to patrné v tabulkách 3.2.3-I, 3.2.3-II a 3.2.3-III. Dále se může stanovit lineární kontrast, který odpovídá sklonu přímky vyjadřující závislost odpovědi na logaritmu dávky. V modelu se třemi dávkami se dá testovat nelinearita tohoto vztahu pomocí kvadratického kontrastu.
Celková variabilita odpovědí, kterou způsobují různá ošetření, se rozkládá na složky uvedené v tabulce 3.2.3-IV. Součty čtverců se vypočtou z hodnot v tabulkách 3.2.3-I, 3.2.3-II nebo 3.2.3-III.
Reziduální chyba zkoušky se získá odečtením složek variability tvořených modelem od celkové variability odpovědi (tabulka 3.2.3-V). V této tabulce Σy² představuje součet čtverců všech odpovědí ve zkoušce. Součet čtverců pro ošetření je roven součtu čtverců v tabulce 3.2.3-IV přes všechny zdroje variability. Pro latinské čtverce je počet opakovaných odpovědí (n) stejný jako počet řádků, sloupců a ošetření (k).
Tab. 3.2.3-I Vzorce pro zkoušky s dvěma dávkami přípravků

	Standard (S)	1. testovaný přípravek (U)	(h - 1) testovaný přípravek (Z)
celková odpověď - nízká dávka	S1	U2	Z1
celková odpověď - vysoká dávka	S2	U2	Z2
celková odpověď pro přípravek	$S_1+S_2=S$	$U_1+U_2=U$	$Z_1+Z_2=Z$
lineární kontrast	$S_2-S_1=L_S$	$U_2-U_1=L_U$	$Z_2-Z_1=L_Z$

Tab. 3.2.3-II Vzorce pro zkoušky s třemi dávkami přípravků

	Standard (S)	1. testovaný přípravek (U)	(h - 1) testovaný přípravek (Z)
celková odpověď - nízká dávka	S1	U2	Z1
celková odpověď - střední dávka	S2	U2	Z2
celková odpověď - vysoká dávka	S3	U3	Z3
celková odpověď pro přípravek	$S_1+S_2+S_3=S$	$U_1+U_2+U_3=U$	$Z_1+Z_2+Z_3=Z$
lineární kontrast	${\text{S}}_3-S_1=L_S$	$U_3-U_1=L_U$	$Z_3-Z_1=L_Z$
kvadratický kontrast	$S_1-{2S}_2+S_3=Q_S$	$U_1-{2U}_2+U_3=Q_U$	$Z_1-{2Z}_2+Z_3=Q_Z$

Tab. 3.2.3-III Vzorce pro zkoušky se čtyřmi dávkami přípravků

	Standard (S)	1. testovaný přípravek (U)	(h -1) testovaný přípravek (Z)
celková odpověď - nízká dávka	S1	U1	Z1
celková odpověď - 2. dávka	S2	U2	Z2
celková odpověď - 3. dávka	S3	U3	Z3
celková odpověď - 4. dávka	S4	U4	Z4
celková odpověď pro přípravek	$S_1+S_2+S_3+S_4=S$	$U_1+U_2+U_3+U_4=U$	$Z_1+Z_2+Z_3+Z_4=Z$
lineární kontrast	${3S}_4+S_3-S_2-{3S}_1=L_S$	${3U}_4+U_3-U_2-{3U}_1=L_U$	${3Z}_4+Z_3-Z_2-{3Z}_1=L_Z$
kvadratický kontrast	$S_1-S_2-S_3+S_4=Q_S$	$U_1-U_2-U_3+U_4=Q_U$	$Z_1-Z_2-Z_3+Z_4=Q_Z$
kubický kontrast	${3S}_2-S_1+S_4-{3S}_3=J_S$	${3U}_2-U_1+U_4-{3U}_3=J_U$	${3Z}_2-Z_1+Z_4-{3Z}_3=J_Z$

Tab. 3.2.3-IV Testy validity

Zdroj variability	Stupně volnosti (f)	Součet čtverců u zkoušky
		2dávkové	3dávkové	4dávkové
přípravky	h - 1	$\frac{S^2+U^2+\dots +Z^2}{2n}-K$	$\frac{S^2+U^2+\dots +Z^2}{3n}-K$	$\frac{S^2+U^2+\dots +Z^2}{4n}-K$
lineární regrese	1	$\frac{{L_S+L_U+\dots +L_Z}^2}{2\mathrm{nh}}=E$	$\frac{{L_S+L_U+\dots +L_Z}^2}{2\mathrm{nh}}=E$	$\frac{{L_S+L_U+\dots +L_Z}^2}{20\mathrm{nh}}=E$
nerovnoběžnost	h - 1	$\frac{L_S^2+L_U^2+\dots +L_Z^2}{2n}-E$	$\frac{L_S^2+L_U^2+\dots +L_Z^2}{2n}-E$	$\frac{L_S^2+L_U^2+\dots +L_Z^2}{20n}-E$
kvadratická regrese		nelze	$\frac{{Q_S+Q_U+\dots +Q_Z}^2}{6\mathrm{nh}}=Q$	$\frac{{Q_S+Q_U+\dots +Q_Z}^2}{4\mathrm{nh}}=Q$
diference kvadratických členů	h - 1	nelze	$\frac{Q_S^2+Q_U^2+\dots +Q_Z^2}{6n}-Q$	$\frac{Q_S^2+Q_U^2+\dots +Q_Z^2}{4n}-Q$
nelinearita	h (3 dávky) 2h (4 dávky) h = K	nelze	$\frac{Q_S^2+Q_U^2+\dots +Q_Z^2}{6n}$	$\frac{Q_S^2+Q_U^2+\dots +Q_Z^2}{4n}+\frac{J_S^2+J_U^2+\dots +J_Z^2}{20n}$

Tab. 3.2.3-V Odhad reziduální chyby

Součet čtverců
Zdroj variability	Stupně volnosti (f)	Úplně náhodný plán	Pokus v náhodných blocích bez opakování	Pokus v latinském čtverci
ošetření	k - 1	$\frac{S_1^2+S_2^2+\dots Z_d^2}{n}-R$	$\frac{S_1^2+S_2^2+\dots Z_d^2}{n}-R$	$\frac{S_1^2+S_2^2+\dots Z_d^2}{n}-R$
bloky (řádky)	n -1	nelze	$\frac{R_1^2+R_2^2+\dots R_n^2}{k}-R$	$\frac{R_1^2+R_2^2+\dots R_n^2}{k}-R$
bloky (sloupce)	n - 1	nelze	nelze	$\frac{C_1^2+C_2^2+\dots C_n^2}{k}-R$
reziduální chyba	odečtením	*	*	*
celkem	N - 1	$\sum y^2-R$	$\sum y^2-R$	$\sum y^2-R$

* Získá se odečtením všech ostatních součtů od součtu celkového.

3.2.4 Testy validity
K ověření významnosti zdrojů variability v tabulce 3.2.3-IV je nutné každý součet čtverců v tabulce dělit odpovídajícím počtem stupňů volnosti, čímž se získá průměrný čtverec.
Průměrný čtverec reziduální chyby (s²) je stejný podíl odvozený z odpovídajícího řádku tabulky 3.2.3-V.
Průměrný čtverec pro každou testovanou veličinu se dělí s². Významnost takto získaných hodnot (nazývaných podíly F) se posoudí porovnáním s kritickými hodnotami F-rozdělení, které jsou uvedeny v tabulce 3.2.4-I. Kritické hodnoty F pro pravděpodobnost chyby 0,05 a 0,01 jsou ve sloupci, který odpovídá počtu stupňů volnosti testované veličiny (f₁), a řádku, který odpovídá počtu stupňů volnosti reziduálního rozptylu s² (f₂). Je-li vypočtená hodnota F větší než odpovídající tabelovaná hodnota, pokládá se testovaný zdroj variability za statisticky významný na hladině významnosti (0,05 nebo 0,01).
Pokud se nenajdou odpovídající počty stupňů volnosti f (f₁, f₂) v tabulce kritických hodnot, použije se největší uvedený počet stupňů volnosti menší než f. Pokud je vypočtená hodnota F větší než tato tabelovaná kritická hodnota, považuje se test poměru rozptylů za statisticky významný. Je-li vypočtená hodnota F menší než tabelovaná kritická hodnota, použije se kritická hodnota pro nejmenší uvedený počet stupňů volnosti větší než f. Je-li vypočtená hodnota testovací statistiky F menší, považuje se test podílu rozptylů za statisticky nevýznamný. Pokud však tento postup nevede k rozhodnutí, je nutno použít podrobnější tabulky.
Zkouška se pokládá za "statisticky validní" při těchto výsledcích testů:
Významnost odchylky od rovnoběžnosti ve vícenásobných zkouškách může být způsobena zahrnutím zkoušeného přípravku s jiným sklonem regresní přímky, než mají ostatní přípravky. V tomto případě by se měly počítat testovací statistiky t’ zvlášť pro každý přípravek U, ..., Z:
$t\text{'}=\frac{L_S-L_U}{2\sqrt{{\mathrm{ns}}^2}}.\text{(3.2.4-1)}$
Tab. 3.2.4-I Tabulka kritických hodnot testu poměru rozptylů (F)

Stupně volnosti f1 v čitateli
f2 ve j m e n o v a t e l i		1	2	3	4	5	6	7	8	20	∞
	12	4,75 (9,33)	3,89 (6,93)	3,49 (5,95)	3,26 (5,41)	3,11 (5,06)	3,00 (4,82)	2,91 (4,64)	2,85 (4,50)	2,54 (3,86)	2,30 (3,36)
	15	4,54 (8,68)	3,68 (6,36)	3,29 (5,42)	3,06 (4,89)	2,90 (4,56)	2,79 (4,32)	2,71 (4,14)	2,64 (4,00)	2,33 (3,37)	2,07 (2,87)
	20	4,35 (8,10)	3,49 (5,85)	3,10 (4,94)	2,87 (4,43)	2,71 (4,10)	2,60 (3,87)	2,51 (3,70)	2,45 (3,56)	2,12 (2,94)	1,84 (2,42)
	25	4,24 (7,77)	3,38 (5,57)	2,99 (4,68)	2,76 (4,18)	2,60 (3,86)	2,49 (3,63)	2,40 (3,46)	2,34 (3,32)	2,01 (2,70)	1,71 (2,17)
	30	4,17 (7,56)	3,32 (5,39)	2,92 (4,51)	2,69 (4,02)	2,53 (3,70)	2,42 (3,47)	2,33 (3,30)	2,27 (3,17)	1,93 (2,55)	1,62 (2,01)
	40	4,08 (7,31)	3,23 (5,18)	2,84 (4,31)	2,61 (3,83)	2,45 (3,51)	2,34 (3,29)	2,25 (3,12)	2,18 (2,99)	1,84 (2,37)	1,51 (1,80)
	60	4,00 (7,08)	3,15 (4,98)	2,76 (4,13)	2,53 (3,65)	2,37 (3,34)	2,25 (3,12)	2,17 (2,95)	2,10 (2,82)	1,75 (2,20)	1,39 (1,60)
	∞	3,84 (6,63)	3,00 (4,61)	2,60 (3,78)	2,37 (3,32)	2,21 (3,02)	2,10 (2,80)	2,01 (2,64)	1,94 (2,51)	1,57 (1,88)	1,00 (1,00)

Při náhodné odchylce rozptylů s pravděpodobností překročení hodnoty tabelované na horním řádku 0,05 je pravděpodobnost nepřekročení této hodnoty 0,95. Pravděpodobnost překročení hodnoty v dolním řádku je rovna 0,01, takže s pravděpodobností 0,99 překročena nebude.
Pro čtyřdávkové zkoušky se tʹ počítá:
$\frac{L_S-L_U}{2\sqrt{{10\mathrm{ns}}^2}}.$
Každá vypočtená hodnota t’ se porovná s kritickou hodnotou z tabulky 3.2.4-II, kde f₁ = h - 1 a f₂ je počet stupňů volnosti s². Pokud je některá z hodnot t´ statisticky významná, je nutno příslušný přípravek vyloučit ze zkoušky a znovu vyhodnotit.
Ve zkouškách s neobvykle velkou reziduální chybou může být vysoká významnost F-statistiky způsobena špatným odhadem předpokládané účinnosti. Pokud je tomu tak, může se získaný odhad účinnosti použít k stanovení předpokládané účinnosti pro další zkoušky tohoto přípravku.
V testech rovnoběžnosti a linearity se může nahodile vyskytnout hodnota F menší než 1. Pokud se však objevuje opakovaně, ukazuje to na odchylku od předpokladů platnosti modelu, která by se měla později vyšetřit. Pokud je potvrzena platnost modelu, může být vypočtena účinnost a její meze spolehlivosti. Postup je popsán v následující kapitole.
Tab. 3.2.4-II Kritické hodnoty t' dvoustranného testu porovnání h - 1 přípravků a standardu

f1 = (h - 1) = počet zkoušených přípravků
f2	1	2	3	4	5	6	7	8	9
5	2,57	3,03	3,29	3,48	3,62	3,73	3,82	3,90	3,97
6	2,45	2,86	3,10	3,26	3,39	3,49	3,57	3,64	3,71
7	2,36	2,75	2,97	3,12	3,24	3,33	3,41	3,47	3,53
8	2,31	2,67	2,88	3,02	3,13	3,22	3,29	3,35	3,41
9	2,26	2,61	2,81	2,95	3,05	3,14	3,20	3,26	3,32
10	2,23	2,57	2,76	2,89	2,99	3,07	3,14	3,19	3,24
11	2,20	2,53	2,72	2,84	2,94	3,02	3,08	3,14	3,19
12	2,18	2,50	2,68	2,81	2,90	2,98	3,04	3,09	3,14
13	2,16	2,48	2,65	2,78	2,87	2,94	3,00	3,06	3,10
14	2,14	2,46	2,63	2,75	2,84	2,91	2,97	3,02	3,07
15	2,13	2,44	2,61	2,73	2,82	2,89	2,95	3,00	3,04
16	2,12	2,42	2,59	2,71	2,80	2,87	2,92	2,97	3,02
17	2,11	2,41	2,58	2,69	2,78	2,85	2,90	2,95	3,00
18	2,10	2,40	2,56	2,68	2,76	2,83	2,89	2,94	2,98
19	2,09	2,39	2,55	2,66	2,75	2,81	2,87	2,92	2,96
20	2,09	2,38	2,54	2,65	2,73	2,80	2,86	2,90	2,94
24	2,06	2,35	2,51	2,61	2,70	2,76	2,81	2,86	2,90
30	2,04	2,32	2,47	2,58	2,66	2,72	2,77	2,82	2,86
40	2,02	2,29	2,44	2,54	2,62	2,68	2,73	2,77	2,81
60	2,00	2,27	2,41	2,51	2,58	2,64	2,69	2,73	2,77
120	1,98	2,24	2,38	2,47	2,55	2,60	2,65	2,69	2,73
∞	1,96	2,21	2,35	2,44	2,51	2,57	2,61	2,65	2,69

Dunnett, C. W.: Biometrics, 20, 1964, 482-491.
Při náhodné odchylce porovnávaných přípravků je pravděpodobnost překročení hodnoty tabelované na horním řádku rovna 0,05 as pravděpodobností 0,95 tedy tato hodnota překročena nebude.

1. Lineární složka variability je silně významná, tj. příslušná vypočtená hodnota F je větší než kritická hodnota pro P = 0,01. Tento test prokazuje, že sklon lineární závislosti odpovědí na logaritmu dávky je dostatečně různý od 0 (odpověď závisí na dávce podnětu).

2. Nelineární složky variability nejsou statisticky významné, tj. vypočtená hodnota F je menší než kritická hodnota pro P = 0,05. Tento test kontroluje splnění podmínky 4A z kap. 3.1.

3. Nerovnoběžnost není statisticky významná (viz podmínka 5A kapitoly 3.1).

3.2.5 Odhad účinností a její meze spolehlivosti
Nejprve se vypočtou průměry odpovědí $(\overline{y_S},\overline{y_U},\text{...}\overline{y_Z})$ pro každý přípravek:
$\overline{y_S}=\frac{S}{N_S},\text{(3.2.5-1)}$
a podobně pro ostatní přípravky (viz graf 3.2.5-I).
Jestliže je I rozdíl logaritmů sousedních dávek každého přípravku, pak společný sklon (b) všech d-dávkových zkoušek je:
$b=\frac{L_S+L_U+\dots +L_Z}{d-1\mathrm{Inh}}.\text{(3.2.5-2)}$
Pro čtyřdávkové zkoušky se b počítá:
$b=\frac{L_S+L_U+\dots +L_Z}{10\mathrm{Inh}}.$
Logaritmus relativní účinnosti R̕̕_U zkoušeného přípravku$\underset{—}{U}$ pak je:
$M{\text{'}}_U=\frac{\overline{y_U}-\overline{y_S}}{b}.\text{(3.2.5-3)}$

Obr. 3.2.4-III Vývojový diagram testu validity rutinní zkoušky
Vývojový diagram ukazuje jednotlivé kroky analýzy výsledků zkoušky. Pokud se tento vývojový diagram použije pro vytvoření počítačového programu, musí být pro konečné rozhodnutí o přijetí, zamítnutí nebo modifikaci zkoušky vzaty v úvahu i výsledky jednotlivých kroků tohoto algoritmu.
Vypočtená účinnost je odhadem "skutečné účinnosti" zkoušeného přípravku. Interval spolehlivosti, který s 95% pravděpodobností obsahuje skutečnou hodnotu účinnosti, se vypočte jako antilogaritmus výrazu:
${\mathrm{CM}\text{'}}_U\pm \frac{\mathrm{st}\sqrt{C}}{b}\sqrt{\frac{1}{N_S}+\frac{1}{N_U}+\frac{{{\overline{y}}_{{}_S}-{\overline{y}}_{{}_U}}^2}{E-s^2{t}^2}},\text{(3.2.5-4)}$
kde:
$C=\frac{E}{E-s^2{t}^2},\text{(3.2.5-5)}$
E se najde v tabulce 3.2.3-IV, s² je podíl reziduálního součtu čtverců (tabulka 3.2.3-V) a odpovídajícího počtu stupňů volnosti; t je kritická hodnota t-rozdělení z tabulky 6.1 se stejným počtem stupňů volnosti pro pravděpodobnost 0,95.
Pro vyvážené zkoušky se dá tento vzorec zjednodušit na:
${\mathrm{CM}\text{'}}_U\pm \sqrt{C-1{\mathrm{CM}\text{'}}_U^2+2H},\text{(3.2.5-6)}$
kde:
$H=\frac{E}{b^2\mathrm{dn}}$
C je míra významnosti regrese. Ve zkouškách s dobře vymezeným sklonem je hodnota C velmi blízká jedné. Záporná hodnota C indikuje statisticky nevýznamnou závislost.
Odhadovaná účinnost (RU) a odpovídající meze spolehlivosti se vypočtou z hodnot získaných pomocí vzorců 3.2.5-3 a 3.2.5-6 buď vynásobením číslem A_u po odlogaritmování, nebo přičtením logaritmu Au před odlogaritmováním. Na základě předpokládané účinnosti A se testuje shoda odpovědí na tři dávky u1, u2 a u3 testovaného přípravku s odpovědí na příslušné dávky standardu s1, s2 a s3. Protože je uvažována lineární závislost na logaritmu dávky, má osa dávek logaritmické měřítko.
Rozdíl logaritmů sousedních dávek I je konstantní:
$\ln s_2-\ln s_1=\ln s_3-\ln s_2$,
kde:
y_S - průměrná odpověď standardu,
y_U - průměrná odpověď neznámého přípravku.
Svislé úsečky představují rozmezí naměřených odpovědí na danou dávku, b je společný sklon rovnoběžných přímek proložených průměrnými hodnotami odpovědí standardu (y_S) a přípravku (y_U).

Obr. 3.2.5-I Model rovnoběžnosti pro trojdávkovou zkoušku 3 + 3

3.2.6 Chybějící hodnoty
Ve vyvážených zkouškách se může přihodit, že v souvislosti s ošetřením dojde ke ztrátě jedné nebo více odpovědí, například tak, že některá zvířata uhynou. Úplná statistická analýza je pak mnohem složitější. Nicméně pokud je prokazatelné, že výskyt chybějící hodnoty nijak nesouvisí s přidělením pokusných jednotek do jednotlivých skupin, může být zachována jednoduchost vyhodnocení vyváženého plánu experimentu tak, že se nahradí chybějící hodnota hodnotou vypočtenou na základě ostatních pozorovaných hodnot. Ztráta informace se pak vezme v úvahu zmenšením počtu stupňů volnosti celkového a reziduálního součtu čtverců o jeden a použitím vzorce pro výpočet chybějící hodnoty.
Pokud chybí více než jedno pozorování, může se použít stejný vzorec. Postup je takový, že se hrubě odhadnou všechny chybějící hodnoty kromě jedné, a ta se vypočte podle uvedeného vzorce ze všech ostatních hodnot, včetně těch hrubě odhadnutých. Vypočtená hodnota se vezme za pozorovanou a pokračuje se stejným postupem pro všechny další chybějící hodnoty. Po vypočtení všech chybějících hodnot tímto postupem se provede cyklus znovu od začátku, přičemž se místo hrubých odhadů použijí posledně vypočtené hodnoty pro všechny chybějící odpovědi. To vše se opakuje několikrát, až se získají ve dvou po sobě následujících cyklech stejné hodnoty. Konvergence tohoto postupu je obvykle rychlá.
Pokud je počet nahrazovaných hodnot relativně malý v porovnání s celkovým rozsahem zkoušky (řekněme menší než 5 %), je použitá aproximace chybějících hodnot a redukce stupňů volnosti o počet chybějících hodnot obvykle uspokojivá. Nicméně výsledky by se měly interpretovat velmi opatrně, obzvláště pokud chybějící hodnoty v některém ošetření nebo bloku převažují. Pak by měl biometr uvážit, zda nepůsobily v průběhu zkoušky nějaké další nežádoucí vlivy. Nahrazení chybějících hodnot ve zkoušce bez jejího opakování je vždy choulostivé.
Úplné znáhodnění
Při úplném znáhodnění se za odhad chybějící hodnoty bere aritmetický průměr všech ostatních odpovědí daného ošetření.
Plán náhodných bloků
Chybějící hodnota (y´) se vypočte podle vzorce:
$y\text{'}=\frac{\mathrm{nB}\text{'}+\mathrm{kT}\text{'}-G\text{'}}{n-1k-1},\text{(3.2.6-1)}$
kde B´ je součet odpovědí v bloku obsahujícím příslušné chybějící pozorování, T´ součet odpovědí při příslušném ošetření a G´ součet všech odpovědí ve zkoušce.
Jako příklad nechť chybí odpověď u₁ v prvém bloku zkoušky antibiotik (příklad 3.2.8.2).

B´	= 1050
T´	= 869
G´	= 7189
y´	= 174
k	= 6
n	= 6

Místo hodnoty 174 = u1 v tabulce odpovědí se získá podle vzorce (3.2.6-1) odhad 173. Hodnocení zkoušky bude stejné jako v příkladu 3.2.8.2, ale počet stupňů volnosti pro reziduální chybu bude roven 24 a pro celkový součet čtverců 34.
Latinské čtverce
Chybějící hodnota (y´) se nahradí podle vzorce:
$y\text{'}=\frac{kB\text{'}+C\text{'}+T\text{'}-2G\text{'}}{k-1k-2},\text{(3.2.6-2)}$
kde B´ a C´ jsou součty odpovědí v řádce a sloupci s chybějícím pozorováním. V tomto případě je k = n. Když v příkladu 3.2.8.3 chybí hodnota 165 v sedmém sloupci a v šestém řádku, dostane se její odhad 169 podle vzorce (3.2.6-2) z hodnot:

B´	= 1582
C´	= 1663
T´	= 1355
G´	= 15956
k	= 9

Stupně volnosti reziduální chyby budou redukovány na 55 a celkového součtu čtverců na 79.
Dvoudávková křížová zkouška
Když se chybějící pozorování vyskytne v dvoudávkové křížové zkoušce, je důležité konzultovat situaci se statistikem, protože vyhodnocení závisí na konkrétní kombinaci ošetření.

3.2.7 Částečně vyvážená zkouška
Liší-li se předpokládaná účinnost testovaného přípravku výrazně od skutečné účinnosti, může se stát, že nejvyšší dávka poskytuje již jen nejvyšší možnou odpověď, nebo naopak, že odpověď na nejnižší dávkuje minimální možná. Tyto odpovědi neleží v lineární části regresní křivky, testy validity indikují odchylku od linearity nebo nerovnoběžnost ve vztahu standardu a testovaného přípravku.
V daném případě se může odpověď na nejnižší nebo nejvyšší dávku ze zkoušky vyloučit. Ze zbývajících dat se vypočte provizorní odhad relativní účinnosti. Tento odhad účinnosti umožňuje vhodnější volbu dávek standardu a zkoušeného přípravku v nové zkoušce.
Logaritmus relativní účinnosti se získá ze vzorce:
${M\text{'}}_U=\frac{{\stackrel{-}{y}}_{{}_U}-{\stackrel{-}{y}}_{{}_S}}{b}\pm \frac{I}{2},\text{(3.2.7-1)}$
který je velmi podobný vzorci 3.2.5-3, pouze jedna polovina rozdílu logaritmů sousedních dávek se odčítá při vypuštění nejnižší dávky nebo přičítá při vypuštění dávky nejvyšší.
Průměrné odpovědi yU a yS se získají stejně jako v úplně vyvážené zkoušce (rovnice 3.2.5-1), ale vzhledem k plánu zkoušky je nutné poněkud modifikovat výpočet sklonu (b).
Ve vícenásobné zkoušce, původně se dvěma dávkami pro každý přípravek, se dají vypočítat všechny lineární kontrasty, (LS...LZ) s výjimkou kontrastu LU. (Při vyloučení jedné z dávek u1 nebo u2 není možné vypočíst kontrast LU).
Sklon se získá vypočtením průměru L a vydělením In:
$b=\frac{L_S+\dots +L_Z}{\mathrm{In}h-1}.\text{(3.2.7-2)}$
Ve zkoušce pouze jednoho přípravku je:
$b=\frac{L_S}{\mathrm{In}}.\text{(3.2.7-3)}$
Ve vícenásobných třídávkových zkouškách se získá LU z tabulky 3.2.3-I a všechny ostatní lineární kontrasty z tabulky 3.2.3-II. Vzorec pro výpočet sklonu je:
$b=\frac{2L_S+\dots +L_Z+L_U}{\mathrm{In}4h-3}.\text{(3.2.7-4)}$
Při testování pouze jediného přípravku se vzorec redukuje na:
$b=\frac{{2L}_S+L_U}{5\mathrm{In}}.\text{(3.2.7-5)}$

3.2.8 Příklady
Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.
Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.
Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.
Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.
Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.
Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.
Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná
Stanovení účinnosti kortikotropinu podkožním podáním krysám
Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin

	Standard S		Přípravek U		Přípravek Z
	s1	s2	u1	u2	z1	z2
	300	289	310	230	250	236
	310	221	290	210	268	213
	330	267	360	280	273	283
	290	236	341	261	240	269
	364	250	321	241	307	251
	328	231	370	290	270	294
	390	229	303	223	317	223
	360	269	334	254	312	250
	342	233	295	216	320	216
	306	259	315	235	265	265
průměr	332,0	248,4	323,9	244,0	282,2	250,0
rozptyl (vari)	1026,7	483,8	725,0	718,7	854,6	784,7
ln rozptylu	6,9341	6,1817	6,5862	6,5774	6,7506	6,6653

Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.
Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:
a = 0,366
q = -3,26
m = 1,47
Dále se vypočte hodnota V:
$V=\ln \frac{v-a}{1-v}=\ln \frac{\text{0,956}-\text{0,366}}{1-\text{0,956}}=\text{2,60}$
a odtud H= -3,26 + (1,47. 2,60) = 0,56.
Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).
Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)

Pořadí	Seřazené odpovědi yi	Koeficient ai (tab. 3.1.1-I)	Součin aiyi
1	290	-0,574	-166,46
2	300	-0,329	-98,70
3	306	-0,214	-65,48
4	310	-0,122	-37,82
5	328	-0,040	-13,12
6	330	+0,040	13,20
7	342	+0,122	41,72
8	360	+0,214	77,04
9	364	+0,329	119,76
10	390	+0,574	223,86
	$\text{průměr}\overline{y}=332,0$	$\text{Součet}\sum a_i{y}_i=\mathrm{94,00}$
	$\sum {y_i-\stackrel{-}{y}}^2=\mathrm{9240,00}$ $s^2=\sum \frac{{y_i-\stackrel{-}{y}}^2}{n-1}=\mathrm{1026,67}$	$v=\frac{{\sum a_i{y}_i}^2}{\sum {y_i-\stackrel{-}{y}}^2}=\frac{8836,00}{9240,00}=0,956$

Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)

	s1	s2	u1	u2	z1	z2
${\mathrm{\Sigma a}}_i{y}_i$	94,00	63,63	78,60	78,28	82,90	81,96
$\Sigma {y_i-\overline{y}}^2$	9240,00	4354,40	6524,90	6468,00	7991,60	7062,00
v	0,956	0,930	0,947	0,947	0,893
						0,95
						1
V	2,60	2,09	2,39	2,39	1,59	2,48
H	0,56	-0,19	0,25	0,25	-0,92	0,39

Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:
$t=\frac{\text{0,56}-\text{0,19}+\dots +\text{0,39}}{\sqrt{6}}=\frac{\text{0,34}}{\text{2,45}}=\text{0,14}.$
Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.
Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:
$t=\text{0,153}\mathrm{\Sigma H}=\text{0,375.}$
Bartlettův test neprokázal ani nehomogennost rozptylů.
Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:
${\chi }^2=\frac{{3\mathrm{kf}}^2\mathrm{kln}\frac{\sum {\mathrm{var}}_i}{k}-\sum \ln {\mathrm{var}}_i}{3\mathrm{kf}+k+1}.$
Pro k = 6 a f = 9 vyjde:
${\chi }^2=\frac{1458}{169}\text{6ln 765,58 - 39,6953}=\text{1,28}.$
Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.
Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)

	Standard $\underset{\_}{S}$	Přípravek $\underset{\_}{U}$	Přípravek $\underset{\_}{Z}$	Součet
nízká dávka	S1 = 3320	U1 = 3239	Z1 = 2822
vysoká dávka	S2 = 2484	U2 = 2440	Z2 = 2500
přípravek celkem	S = 5804	U = 5679	Z = 5322	$\sum y=16805$
lineární kontrast	LS = -836	LU= -799	LZ = -322	$\sum L=-1957$

Tab. 3.2.8.1-V Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	2	6256,6	3128,3
regrese	1	63 830,8	63 830,8	83,4	< 0,01
nerovnoběžnost	2	8218,2	4109,1	5,4	< 0,01
ošetření	5	78 305,7
reziduální chyba	54	41 340,9	765,6
součet	59	119 646,6

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{16805}^2}{60}=\text{4 706 800,42};\sum y^2=\text{4 826 447.}$
Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.
$\text{Přípravky}=\frac{S^2+U^2+Z^2}{20}-K=\text{6 256,63}$
$\text{Regrese}=\frac{{L_S+L_U+L_Z}^2}{60}=\text{63 830,87}=E$
$\text{Nerovnoběžnost}=\frac{L_S^2+L_U^2+L_Z^2}{20}-E=\text{8 218,233}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+U_1^2+U_2^2+Z_1^2+Z_2^2}{10}-K=\text{78 305,68}$
$\text{Celkový}=\sum y^2-R=\text{119 646,58}$
Reziduální chyba = Celkový - Ošetření = 41 340,90
Validita zkoušky
Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f₁ = 1 a f₂ = 54.
Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:
$t\text{'}=\frac{L_S-L_P}{2\sqrt{{\mathrm{ns}}^2}},$
kde s² = reziduální rozptyl, tj. 765,6, a L_P je lineární kontrast testovaného přípravku P.
Pro přípravek P = U:
$t\text{'}=\frac{\text{-836}-\text{-799}}{2\sqrt{10.765,6}}=\frac{-37}{\text{175,0}}=\text{-0,21}.$
Pro přípravek P = Z:
$t\text{'}=\frac{\text{-836}-\text{-322}}{2\sqrt{10.765,6}}=\frac{\text{-514}}{\text{175,0}}=\text{-2,94.}$
Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f₁ =2 a f₂= 54 (f₁ = počet testovaných přípravků).
Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).
Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	1	390,6	390,6
regrese	1	66 830,60	66 830,6	90,5	< 0,01
nerovnoběžnost	1	34,2	34,2	0,05	> 0,05
ošetření	3	67 255,5
reziduální chyba	36	26 587,3	738,5
součet	39	93 842,8

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{11483}^2}{40}=\text{3 296 482,225};$
$\sum y^2=\text{3 390 325}.$
Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.
Výpočet účinnosti a jejích mezí spolehlivosti
Po vyloučení přípravku Z se vypočte pouze jedna účinnost.
${\overline{y}}_{{}_S}=\frac{S}{N_S}=\frac{5804}{20}=\text{290,2}$
${\overline{y}}_{{}_U}=\frac{U}{N_U}=\text{283,95}$
Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.
$b=\frac{L_S+L_U}{Inh}=\frac{-1635}{20I}=-\mathrm{58,970}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,1060}=\text{logaritmus relativní účinnosti přípravku}\underset{–}{U}\text{.}$
$M_U={M\text{'}}_U+1n\text{deklarovaná účinnost přípravku}\underset{–}{U}.$
Protože přípravek byl deklarován jako 1 jednotka na miligram,
$M_U={M\text{'}}_U+0=\text{0,1060}.$
Účinnost získáme odlogaritmováním M_U, je tedy M_U = 1,11 jednotek na miligram.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{66830,6}}{\text{66830,6}-{\text{738,5t}}^2}=\text{1,0477}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{66830,6}}{{-58,970}^2.2.10}=\text{0,9609108}$
$\text{1n (meze spolehlivosti) vypočteme}:C-1{\mathrm{CM}\text{'}}_U^2+2H=\text{0,0477}\text{0,01177 + 1,9218}=\text{0,09223}$
$\text{ln}\text{deklarovaná účinnost přípravku}\underset{\_}{U}+{\mathrm{CM}\text{'}}_U\pm \sqrt{\text{0,09223}}=0+\text{0,1110}\pm \text{0,3037}.$
Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.
Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování
Stanovení účinnosti antibiotik na Petriho miskách
Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti A_U = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku $\underset{\_}{U}$. Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.
Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)

	Standard $\underset{\_}{S}$			Přípravek $\underset{\_}{U}$			Součet v bloku
miska	s1	s2	s3	u1	u2	u3
1	176	205	235	174	202	232	R1 = 1224
2	178	208	238	175	206	234	R2 = 1239
3	178	207	237	177	203	236	R3 = 1238
4	175	205	235	173	201	232	R4 = 1221
5	176	206	235	174	204	231	R5 = 1226
6	174	204	236	170	202	229	R6 = 1215
průměr	176,2	205,8	236,0	173,8	203,0	232,3
rozptyl	2,6	2,2	1,6	5,4	3,2	5,9

Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)

	Standard $\underset{\_}{S}$	Přípravek $\underset{\_}{U}$	Součet
nízká dávka	S1 = 1057	U1 = 1043
střední dávka	S2 = 1235	U2 = 1218
vysoká dávka	S3 = 1416	U3 = 1394
přípravek celkem	S = 3708	U = 3655	Σy = 7363
lineární kontrast	LS = 359	LU = 351	ΣL = 710
kvadratický kontrast	QS = 3	QU= 1	ΣQ = 4

Tab. 3.2.8.2-III Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	1	78,03	78,03
regrese	1	21 004,17	21 004,17	18 737	< 0,01
nerovnoběžnost	1	2,67	2,67	2,4	> 0,05
kvadratická regerese	1	0,22	0,22	0,2	> 0,05
odchylka kvadratických členů	1	0,06	0,06	0,05	> 0,05
	5	21 085,14
ošetření	5	75,80	15,16	13,5	< 0,01
bloky (misky)	25	28,03	1,121
reziduální chyba	35	21 188,97
součet

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{7363}^2}{36}=\text{1 505 938,03};\sum y^2=\text{1 527 127}.$
Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
$\text{Přípravky =}\frac{S^2+S^2}{18}-K=\text{78,026}$
$\text{Lineární rgrese =}\frac{{L_S+L_U}^2}{24}=\text{21004,167}=E$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2}{12}-E=\text{2,666}$
$\text{Kvadratická regrese =}\frac{{Q_S+Q_U}^2}{72}=\text{0,222}=Q$
$\text{Odchylka kvadratických členů =}\frac{Q_S^2+Q_U^2}{36}-Q=\text{0,056}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+S_3^2+U_1^2+U_2^2+U_3^2}{6}-K=21085,137$
$\text{Bloky =}\frac{R_1^2+R_2^2+R_3^2+R_4^2+R_5^2+R_6^2}{6}-K=\text{75,803}$
$\text{Celkový =}\sum y^2-K=\text{21 188,97}$
Reziduální = Celkový - Ošetření - Bloky = 28,03
Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s², což by vedlo k širším mezím spolehlivosti.
Validita zkoušky
Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku $\underset{\_}{U}$ a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.
Výpočet účinnosti a mezí spolehlivosti
${\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}=\frac{U-S}{3n}=\frac{-53}{18}$
Podíl sousedních dávek byl 2,0, takže:
$I=\ln 2=\text{0,69315}.$
Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.
$b=\frac{L_S+L_U}{2\mathrm{Inh}}=\frac{710}{24I}=\text{42,6797}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{-0,0690}$
Logaritmus relativní účinnosti přípravku $\underset{\_}{U}$ je tedy:
$M=M\text{'}+1{\mathrm{nA}}_U=\text{-0,0690}+1n1500=\text{7,2442}.$
Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{21004 ,17}}{\text{21004 ,17}-{\text{1,121 t}}^2}=\text{1,0002},$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{21 004,17}}{{\text{42,6797}}^2.3.6}=\text{0,640605},$
$C-1{\mathrm{CM}\text{'}}^2+2H=\text{0,0002}\text{0,00476}+\text{1,28121}=\text{0,00026}.$
Logaritmy mezí spolehlivosti se vypočtou jako:
${\mathrm{lnA}}_U+\mathrm{CM}\text{'}\pm \sqrt{0,000026}=\text{7,2442}\pm \text{0,0160}.$
Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.
Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:
C = 1,000227
$C-1{\mathrm{CM}\text{'}}^2+2H=\text{0,00029128}.$
Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.
Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování
Zkouška antibiotik na pravoúhlé plotně
Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků $\underset{\_}{U}$ a $\underset{\_}{Z}$, AU= 2000 a A_Z= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.
Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)

Sloupce
Řádky	1	2	3	4	5	6	7	8	9
1	u1	z1	u2	s2	z2	z3	u3	s1	s3
2	s2	u3	u1	z3	s1	u2	s3	z1	z2
3	s1	s2	u3	u1	z1	z2	z3	s3	u2
4	z2	s3	s1	z1	u3	u1	u2	s2	z3
5	z3	z2	s2	s1	u2	s3	z1	u3	u1
6	u2	z3	s3	z2	s2	u3	s1	u1	z1
7	z1	u2	z2	u3	s3	s1	u1	z3	s2
8	s3	s1	z3	u2	u1	z1	s2	z2	u3
9	u3	u1	z1	s3	z3	s2	z2	u2	s1

Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)

Sloupce
Řádky	1	2	3	4	5	6	7	8	9	řádkové součty
1	164	171	194	206	211	237	237	172	224	R1 = 1816
2	188	224	178	236	180	210	237	180	210	R2 = 1843
3	168	203	230	175	175	209	236	238	207	R3 = 1841
4	182	214	162	175	227	171	194	201	225	R4 = 1751
5	220	186	192	169	205	230	169	237	167	R5 = 1775
6	183	217	223	200	195	228	165	171	165	R6 = 1747
7	163	195	203	229	230	175	179	233	196	R7 = 1803
8	218	163	228	200	167	175	207	199	233	R8 = 1790
9	218	163	162	216	233	194	204	199	166	R9 = 1755
sloupcové	C1 =	C2 =	C3 =	C4=	C5 =	C6 =	C7 =	C8 =	C9 =
součty	1704	1736	1772	1806	1823	1829	1828	1830	1793

Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky

	Standard $\underset{\_}{S}$			Přípravek $\underset{\_}{U}$			Přípravek $\underset{\_}{Z}$
	s1	s2	s3	u1	u2	u3	z1	z2	z3
průměr	168,9	198,0	225,6	170,6	198,6	229,2	170,6	200,4	229,4
ošetření
rozptyl	34,61	43,00	77,03	34,03	67,78	36,94	39,03	105,78	54,28
(vari)
ln (vari)	3,5442	3,7612	4,3442	3,5272	4,2162	3,6094	3,6643	4,6613	3,9942

$\sum {\mathrm{var}}_i=\text{492,48}$
$\sum \ln {\mathrm{var}}_i=\text{35,3222}$
Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:
${\chi }^2=\frac{3{\mathrm{kf}}^2\text{k ln}\frac{\sum {\mathrm{var}}_i}{k}-\sum \ln {\mathrm{var}}_i}{3\mathrm{kf}+k+1}.$
To se pro k = 9, f = 8 redukuje na:
${\chi }^2=\frac{1728}{226}9\ln \text{54,72}-\text{35,3222}=\text{5,34}.$
Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.3-IV Součty odpovědí a kontrasty

	Standard S	Přípravek U	Přípravek z	Součet
nízká dávka	S1 = 1520	U1 = 1535	Z1 = 1535
střední dávka	S2 = 1782	U2 = 1787	Z2 = 1804
vysoká dávka	S3 = 2030	U3 = 2063	Z3 = 2065
přípravek celkem	S = 5332	U = 5385	Z = 5404	Σy = 16 121
lineární kontrast	LS = 510	LU = 528	LZ = 530	ΣL = 1568
kvadratický kontrast	QS = -14	QU = 24	QZ = -8	ΣQ = 2

Tab. 3.2.8.3-V Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	2	103,14	51,57
lineární regrese	1	45 530,07	45 530,07	2921	< 0,01
nerovnoběžnost	2	13,49	6,75	0,43	> 0,05
kvadratická regerese	1	0,02	0,02	0,00	> 0,05
odchylka kvadratických členů	2	15,46	7,73	0,50	> 0,05
ošetření (celkem)	8	45 662,17
řádky	8	1229,06	153,63	9,86	< 0,01
sloupce	8	1837,95	229,74	14,74	< 0,01
reziduální chyba	56	872,77	15,585
celkem	80	49 601,95

Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
$\text{Korekční člen}K=\frac{{\sum y}^2}{N}=\frac{{\text{16 121}}^2}{81}=\text{3 208 477,05};\sum y^2=\text{3 258 079}$
$\text{Přípravky =}\frac{S^2+U^2+Z^2}{27}-K=\text{103,135}$
$\text{Lineární regrese =}\frac{{L_S+L_U+L_Z}^2}{54}=\text{45 530,07}=E$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2+L_Z^2}{18}-E=\text{13,486}$
$\text{Kvadratická regrese =}\frac{{Q_S+Q_U+Q_Z}^2}{162}=\text{0,0247}=Q$
$\text{Odchylka kvadratických členů =}\frac{Q_S^2+Q_U^2+Q_Z^2}{54}-Q=\text{15,457}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+S_3^2+\dots +Z_3^2}{9}-K=\text{45 662,17}$
$\text{Řádky =}\frac{R_1^2+R_2^2+\dots {+R}_9^2}{9}-K=\text{1229,06}$
$\text{Sloupce =}\frac{C_1^2+C_2^2+\dots +C_9^2}{9}-K=\text{1837,95}$
$\text{Celkem =}\sum y^2-K=\text{49601,95}$
Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77
Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.
Validita zkoušky
Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.
Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.

${\overline{y}}_{{}_S}=\frac{S}{27},$

${\overline{y}}_{{}_U}=\frac{U}{27},$

${\overline{y}}_{{}_Z}=\frac{Z}{27},$

$b=\frac{L_S+L_U+L_Z}{2\mathrm{Inh}}=\frac{1568}{54I}=\text{41,891}.$
$M_U=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,04686}=\text{logaritmus relativní účinnosti přípravku}\underset{–}{U}$
$M_U={\mathrm{lnA}}_U+{M\text{'}}_U=\ln 2000+\text{0,04686}=\text{7,6478}$
Odhad účinnosti, získaný odlogaritmováním M_U, je tedy 2096 jednotek na mililitr.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{45 530,07}}{\text{45 530,07}-{\text{15,585 t}}^2}=\text{1,0014}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{45 530,07}}{{\text{41,891}}^2.3.9}=\text{0,96093}$
$C-1{\mathrm{CM}\text{'}}_U^2+2H=\text{0,0014}\text{0,00220}+\text{1,92186}=\text{0,00269}$
Logaritmy mezí spolehlivosti se vypočtou jako:
${\mathrm{lnA}}_U+{\mathrm{CM}\text{'}}_U\pm \sqrt{0,00269}=\text{7,6478}\pm \text{0,0519.}$
Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.
Užitím stejného postupu pro přípravek $\underset{\_}{Z}$ se dostane:
${M\text{'}}_Z=\text{0,06366};M_Z=\text{7,8877.}$
Odhad účinnosti je 2664 jednotek na mililitr.
$C-1{\mathrm{CM}\text{'}}_Z^2+2H=\text{0,00270}$
Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.
Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.
Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.
Příklad 3.2.8.4 Dvoudávková křížová zkouška
Stanovení účinnosti insulinu na králících podkožním podáním
Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (A_U= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.
Tab. 3.2.8.4-I Uspořádání ošetření

Skupina králíků
	1	2	3	4
den I	s1	s2	u1	u2
den II	u2	u1	s2	s1

Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h

	Skupina 1			Skupina 2			Skupina 3			Skupina 4
	s1	u2	∑	s2	u1	∑	u1	s2	∑	u2	s1	∑
	112	104	216	65	72	137	105	91	196	118	144	262
	126	112	238	116	160	276	83	67	150	119	149	268
	62	58	120	73	72	145	125	67	192	42	51	93
	86	63	149	47	93	140	56	45	101	64	107	171
	52	53	105	88	113	201	92	84	176	93	117	210
	110	113	223	63	71	134	101	56	157	73	128	201
	116	91	207	50	65	115	66	55	121	39	87	126
	101	68	169	55	100	155	91	68	159	31	71	102
průměr	95,6	82,8		69,6	93,3		89,9	66,6		72,4	106,8
rozptyl	709,7	627,9		525,1	1012,5		479,6	230,6		1214,3	1215,1

Hartleyovým testem nebyla nalezena významná neshoda rozptylů.
Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.
Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.
Tab. 3.2.8.4-III Součty odpovědí a kontrasty

					Standard S	Přípravek U	Součet
Den I
	nízká dávka				S1I = 765	U1I = 719
	vysoká dávka				S2I = 557	U2I = 579
	součet				S1 = 1322	U1 = 1298	D1 = 2620
Den II
	nízká dávka				S1II = 854	U1II = 746
	vysoká dávka				S2II = 533	U2II = 662
	součet				S1 = 1387	U1 = 1408	DII = 2795
Přípravky celkem					S = 2709	U = 2706	∑y = 5415
Lineární kontrasty
	den I				LSI = -208	LUI = -140	LI = -348
	den II				LSII = -321	LUII = -84	LII = -405
	celkem				LS = -529	LU = -224	∑L = -753

Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.
Díky opakování v každé skupině obsahuje analýza tři "interakce":
dny x přípravky, dny x regrese, dny x rovnoběžnost.
Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.
Tab. 3.2.8.4-IV Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
nerovnoběžnost	1	1453,5	1453,5	1,06	> 0,05
dny x přípravky	1	31,6	31,6	0,02	> 0,05
dny x regrese	1	50,8	50,8	0,04	> 0,05
reziduální chyba mezi králíky	28	38 258,8	1366,4
bloky (králíci)	31	39 794,7	1283,7
přípravky	1	0,1	0,1	0,00	> 0,05
regrese	1	8859,5	8859,5	64,5	< 0,01
dny	1	478,5	478,5	3,48	> 0,05
dny x nerovnoběžnost	1	446,3	446,3	3,25	> 0,05
reziduální chyba"uvnitř"králíků	28	3844,1	137,3
součet	63	53 423,2

$\text{Korekční člen =}K=\frac{{\sum y}^2}{N}=\frac{{5415}^2}{64}=\text{458 159,77};\text{mm}$
$\sum y^2=\text{511 583.}$
Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.
V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.
$\mathrm{Přípravky}=\frac{S^2+U^2}{32}-K=\text{0,14},$
$\text{Regrese =}\frac{{L_S+L_U}^2}{64}=\text{8859,52}=E,$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2}{32}-E=\text{1453,51},$
$\text{Bloky =}\frac{\sum B_i^2}{2}-K=\text{39 794,73},$
kde B_i je celková odpověď králíka z tabulky 3.2.8.4-II.
$\text{Dny =}\frac{D_I^2+D_{\mathrm{II}}^2}{32}-K=\text{478,51},$
kde D_I a D_II jsou celkové odpovědi pro každý den.
$\text{Dny x Přípravky =}\frac{{S_I-S_{\mathrm{II}}-U_I+U_{\mathrm{II}}}^2}{N}=\text{31,64},$
$\text{Dny x Regrese}=\frac{{L_{\mathrm{SII}}-L_{\mathrm{SI}}+L_{\mathrm{UII}}-L_{\mathrm{UI}}}^2}{N}=\text{50,77},$
$\text{Dny x Nerovnoběžnost =}\frac{{L_{\mathrm{SII}}-L_{\mathrm{SI}}-L_{\mathrm{UII}}+L_{\mathrm{UI}}}^2}{N}=\text{446,27},$
$\sum y^2-K=\text{53 423,23}.$
Reziduální chyba mezi králíky = Bloky - Nerovnoběžnost - (Dny x Přípravky) - (Dny x Regrese) = 38 258,81.
Reziduální chyba "uvnitř" králíků = Celkem - Bloky - Dny - Přípravky - Regrese - (Dny x Nerovnoběžnost) = 3 844,06.
Validita zkoušky
Analýza potvrzuje, že data splňují podmínky nutné pro použití zkoušky:
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, tedy I = ln 2 = 0,69315. Podle tabulky 6.1 je t = 2,05 pro 28 stupňů volnosti (P = 0,95).
${\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}=\frac{U-S}{2n}=\frac{-3}{32}$
$b=\frac{L_S+L_U}{2\mathrm{nI}}=\frac{753}{32I}=-\text{33,948}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,00276 = logaritmus relativní pčinnosti přípravku}\underset{–}{U}$
$M=M\text{'}+{\mathrm{lnA}}_U=\text{0,00276}+\ln 40=\text{3,6916}.$
Odhad účinnosti se získá odlogaritmováním M. Účinnost je tedy 40,1 jednotek na mililitr.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{8859,5}}{\text{8859,5}-137,3t^2}=\text{1,0697}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{8859,5}}{{-\text{33,948}}^2.2.16}=\text{0,24023}$
$C-1{CM’}^2+2H=\mathrm{0,0697}\mathrm{0,0000081}+\mathrm{0,48045}=\mathrm{0,033488}$
Pro logaritmy mezí spolehlivosti se dostane:
${\mathrm{lnA}}_U+\mathrm{CM}\text{'}\pm \sqrt{\text{0,033498}}=\text{3,6918}\pm \text{0,1830}.$
Meze spolehlivosti jsou tedy 33,4 až 48,2 jednotek na mililitr.

1. významnost regrese: testovací statistika pro regresi (64,5) vypočtená s použitím rozptylu tvořeného rozdíly mezi králíky je větší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,01 s f₁ = 1 a f₂ = 28;

2. odchylka od rovnoběžnosti regresních přímek: test rovnoběžnosti v křížovém pokusu není příliš citlivý. Je totiž založen na reziduální chybě mezi králíky a ta závisí na variabilitě mezi nimi. Testovací statistika (1,06) je menší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,05 s f₁ = 1 a f₂ = 28;

3. žádná z interakcí není statisticky významná, jednotlivé hodnoty F jsou 0,02, 0,04 a 3,25.

3.3 Model poměru sklonů
Tento model je vhodný například pro mikrobiologické zkoušky, v nichž je nezávisle proměnnou koncentrace.

3.3.1 Podmínky validity
Stejně jako ve zkouškách založených na modelu rovnoběžnosti by se mělo testovat splnění podmínek 1, 2 a 3 kapitoly 3.1. Po přezkoušení platnosti podmínek 4B a 5B kapitoly 3.1 se může provést analýza rozptylu popsaná dále v kapitole 3.3.3.
Použití dále uvedených jednoduchých metod statistické analýzy vyžaduje splnění následujících podmínek:

1. standard i testovaný přípravek musí být testován pomocí dvou různých ředění;

2. musí existovat pátá skupina pokusných jednotek, které jsou bez ošetření.

3.3.2 Plán pokusu
Analýza modelu poměru sklonů se dá provést (2 + 2)dávkovou nebo (3 + 3)dávkovou zkouškou. Při celkově stejném počtu pokusných jednotek se však dá zmenšit rozptyl poměru účinností vytvořením skupiny bez ošetření (blank). Je tedy např. plán pětidávkových skupin se společnou skupinou bez ošetření vhodnější než (2 + 2)dávkový plán. Má minimální počet skupin uvažující ověření linearity závislosti na dávce pro oba přípravky. Přesnost odhadu účinnosti závisí na rozdělení pokusných jednotek do dávkových skupin a na volbě dávek. Přesnost odhadu účinnosti je možno zvýšit určitým nerovnoměrným rozdělením pokusných jednotek do skupin, což však snižuje přesnost indikace odchylky od linearity. Splnění následujících tří podmínek, kladených na plán pěti skupin se společnou skupinou bez ošetření, zajišťuje uspokojivou přesnost odhadu a vyhovující schopnost odhalení nelinearity:
Podobně jako v kapitole 3.2.2 se může použít plně či po blocích náhodný plán pokusu nebo latinský čtverec. Použití kteréhokoliv z těchto plánů vyžaduje podobnou úpravu postupu pro odhad reziduálního součtu čtverců jako u modelu rovnoběžnosti. K ní se dá využít tabulka 3.2.3-V.
Dále je popsána analýza zkoušky jednoho neznámého přípravku v porovnání se standardem. Analýzu se dvěma nebo více neznámými přípravky popsali Clarke¹¹) a Barraclough¹²).

1. všech pět skupin ošetření má stejný rozsah;

2. dávka standardu s₂ je co možná nejvyšší dávkou, jejíž průměrná odpověď leží ještě v lineární části regresní křivky, nízká s₁ je rovna její polovině;

3. dávky testovaného přípravku u₁ a u₂ jsou odvozeny z jeho deklarované účinnosti R.

3.3.3 Analýza rozptylu
Tato zkouška se obvykle analyzuje pomocí modelu vícenásobné regrese:
$y=a+b_S{v}_S+b_U{b}_U,\left(\text{3.3.3-1}\right)$
kde y je odpověď a v_S, v_U jsou dávky standardu a testovaného přípravku.
Každou skupinu ošetření určují hodnoty v_S a v_U. Pro skupiny, které neobdržely dávku standardu, je v_S = 0. Stejně pro testovaný přípravek. Ruční zpracování se zjednoduší kódováním nižší a vyšší dávky standardu i přípravku hodnotami 0,45, resp. 1,0. Použije-li se toto značení (jako v tabulce 3.3.3-I), musí se nakonec provést korekce vypočtené účinnosti a regresních koeficientů. Vzorce pro výpočet jsou v tabulce 3.3.3-I. Po zkontrolování odpovědí a případné transformaci odpovědi se vypočtou jejich součty. Je třeba podotknout, že sklony regresní přímky jak pro standard, tak i pro zkoušený přípravek se počítají odděleně. Takže nejsou nezávislé, protože obě zčásti závisí na odpovědích ve skupině bez ošetření. Kontrast průsečíků (L_I) měří rozdíl odhadů odpovědí při nulové koncentraci, počítaných zvlášť pro standard i neznámý přípravek. Tímto kontrastem se testuje základní předpoklad modelu, tj. stejná odpověď při nulové dávce přípravků.
Kontrast nulové dávky (L_B) měří odchylku průměrné odpovědi na nulovou dávku od odpovědi na nulovou dávku, vypočítané pouze z odpovědí na nenulové dávky obou přípravků.
Tyto vzorce se použijí k porovnání zdrojů variability pomocí součtů čtverců popsaných v tabulce 3.3.3-II. Podobně jako dříve se vypočte korekční člen K, čtverec celkového součtu dělený počtem odpovědí a ∑y² součet čtverců všech odpovědí.
Tab. 3.3.3-I Vzorce pro pětibodovou zkoušku se společnou skupinou bez ošetření

Součet odpovědí na nulovou dávku	B
Součet odpovědí na nižší dávku standardu	S1
Součet odpovědí na vyšší dávku standardu	S2
Součet odpovědí na nižší dávku testovaného přípravku	U1
Součet odpovědí na vyšší dávku testovaného přípravku	U2
Součet součinů pro standard	$0,5S_1+S_2-\frac{3B+S_1+S_2+U_1+U_2}{10}=J_S$
Součet součinů pro testovaný přípravek	$0,5U_1+U_2-\frac{3B+S_1+S_2+U_1+U_2}{10}=J_U$
Sklon regresní přímky standardu	$\frac{-15B+S_1+{17S}_2-{6U}_1+{3U}_2}{35\frac{n}{2}}=b_S$
Sklon regresní přímky testovaného přípravku	$\frac{-15B-{6S}_1+{3S}_2+U_1+{17U}_2}{35\frac{n}{2}}=b_U$
Kontrast nulové dávky	$2B-{2S}_1+S_2-{2U}_1+U_2=L_B$1)
Kontrast průsečíků	${2S}_1-S_2-{2U}_1+U_2=L_I$1)

¹⁾ L_B a L_I se nesmí zaměňovat s L_S...L_Z.
→ Tento vývojový diagram ilustruje jednotlivé kroky analýzy výsledků zkoušky. Při použití tohoto grafu k vytvoření počítačového programu se při konečném rozhodnutí o přijetí, zamítnutí nebo modifikaci testu přihlíží k podrobnějším výsledkům, které poskytl počítač.
Tab. 3.3.3-II Validita zkoušky

Zdroj variability	Stupně volnosti	Součet čtverců
regrese	2	$b_S{J}_S+b_U{J}_U$
nulová dávka	1	$\frac{L_B^2}{14n}$
průsečík	1	$\frac{L_I^2}{10n}$
reziduální chyba	5n - 5	*
celkem	5n -1	$\sum y^2-R$

* Vypočte se odečtením všech součtů čtverců od celkového součtu čtverců.

3.3.4 Test validity
Testovací statistiky pro test závislosti na dávce, kontrastu nulové dávky a kontrastu průsečíku se vypočtou dělením příslušných součtů čtverců jejich stupni volnosti a reziduálním rozptylem s², který se získá dělením reziduálního součtu čtverců jeho stupni volnosti. Významnost těchto podílů (F-statistik) se zjistí porovnáním s kritickými hodnotami v tabulce 3.2.4-I.
Podmínky validity:

1. kontrast průsečíků nesmí být statisticky významný;

2. variabilita způsobená dávkou musí být vysoce statisticky významná (hladina významnosti musí být menší než 0,01);

3. kontrast nulové dávky nesmí být statisticky významný. Významnost tohoto kontrastu může být způsobena nelinearitou vztahu dávky a odpovědi pro velmi malé dávky. Pokud k tomu dojde při zavádění metody v laboratoři, může se zkouška vylepšit přidáním malé konstantní dávky standardu ke všem dávkám. Pro další analýzu se pak berou za dávky pouze dávky standardu a testovaného přípravku nad tímto konstantním pozadím. Dojde-li k tomu během rutinního hodnocení, měl by se analytik poradit se statistikem, jak analyzovat zkoušku po vyloučení nulové dávky. Prokáží-li příslušné testy validitu zkoušky, může být vypočtena účinnost a její meze spolehlivosti postupem popsaným v kapitole 3.3.5.

3.3.5 Odhad účinnosti a její meze spolehlivosti
Účinnost neznámého přípravku vyjádřená ve vyšší dávce standardu jako jednotce je:
$R=\frac{b_U}{b_S}.\text{(3.3.5-1)}$
Meze spolehlivosti jsou:

Obr. 3.3.4-I Vývojový diagram testů validity v rutinní zkoušce: model podílu sklonů
kde:
$CR-\frac{36t^2{s}^2}{35{\mathrm{nb}}_S^2}\pm \frac{t}{b_S}\sqrt{\frac{8s^2}{35n}8-9R+8R^2-\frac{10t^2{s}^2}{{\mathrm{nb}}_S^2}},\text{(3.3.5-2)}$
$C=\frac{35{\mathrm{nb}}_S^2}{35{\mathrm{nb}}_S^2-64t^2{s}^2}.\text{(3.3.5-3)}$
Kritická hodnota t z tabulky 6.1 má stupně volnosti reziduálního rozptylu.
Účinnost zkoušeného přípravku se získá vynásobením relativní účinnosti a jejích mezí spolehlivosti vyšší dávkou standardu v obsahových jednotkách mezinárodního systému (viz obr. 3.3.5-I).

Obr. 3.3.5-I Model podílu sklonů, plán pěti skupin se společnou nulovou skupinou
Na základě deklarované účinnosti zkoušeného přípravku jsou jeho dávky u₁ a u₂ stanoveny tak, aby byly ekvivalentní dávkám standardu s₁ a s₂ dávky s₂ a u₂ jsou označeny hodnotou 1,0, dávky s₁ a u₁ hodnotou 0,5. Svislé úsečky vyjadřují rozpětí odpovědí v jednotlivých skupinách na dávky vyznačené na vodorovné ose. V tomto modelu mají regresní přímky závislosti odpovědi na dávce standardu a testovaného přípravku sklony b_S a b_U.

3.3.6 Chybějící hodnoty
Při náhradě chybějících dat se postupuje stejně jako v kapitole 3.2.6.