3.2.8 Příklady
Příklady v této kapitole ilustrují použití vzorců vztahujících se k modelu rovnoběžnosti.
Příklady 3.2.8.1, 3.2.8.2 a 3.2.8.3 zahrnují dvou- a třídávkové zkoušky, včetně vícenásobných, a pokusné plány: úplně znáhodněný, náhodné bloky i latinské čtverce.
Příklad 3.2.8.4 ilustrující křížový dvoudávkový pokus obsahuje dosud nezavedené značení. Pro každou skupinu odpovědí ve zkoušce je zvlášť třeba vypočítat součet, lineární kontrasty a celkovou odpověď. Je potřebné znát i celkovou odpověď pro každého jedince. I když se v příkladu užívá označení den I a den II, není nutné provádět zkoušku ve dvou dnech. Podstatnou předností je, že efekt ošetření z první části křížové zkoušky se u každé pokusné jednotky vyloučí jejím ošetřením v druhé části zkoušky.
Příklad 3.2.8.1 popisuje použití Dunnettova testu validity v mnohonásobné zkoušce. Bartlettův test je použit v příkladech 3.2.8.1 a 3.2.8.1, Hartleyův test v příkladu 3.2.8.4.
Příklady mají ilustrovat především statistickou metodu výpočtů. Jejich cílem není výběr nejvhodnějšího z různých zkušebních plánů použitých v lékopisných článcích.
Při analýze provedené počítačem může větší počet desetinných míst způsobit malé odchylky ve výsledných hodnotách. Na konci některých příkladů jsou uvedeny takovéto přesnější výsledky. Odchylky ilustrují efekt zaokrouhlování.
Příklad 3.2.8.1 Dvoudávková vícenásobná zkouška úplně znáhodněná
Stanovení účinnosti kortikotropinu podkožním podáním krysám
Standard se podával v dávkách 0,25 a 1,0 jednotek na 100 g tělesné hmotnosti. Testovaly se dva přípravky, oba o předpokládané účinnosti 1 jednotka na miligram. Přípravky se tedy podávaly ve stejných dávkách jako standard. Průměry a rozptyly odpovědí ve všech ošetřovaných skupinách (tabulka 3.2.8.1-I) nenaznačují vzájemnou závislost.
Tab. 3.2.8.1-I Odpovědi y-množství kyseliny askorbové (mg) ve 100 g nadledvin

	Standard S		Přípravek U		Přípravek Z
	s1	s2	u1	u2	z1	z2
	300	289	310	230	250	236
	310	221	290	210	268	213
	330	267	360	280	273	283
	290	236	341	261	240	269
	364	250	321	241	307	251
	328	231	370	290	270	294
	390	229	303	223	317	223
	360	269	334	254	312	250
	342	233	295	216	320	216
	306	259	315	235	265	265
průměr	332,0	248,4	323,9	244,0	282,2	250,0
rozptyl (vari)	1026,7	483,8	725,0	718,7	854,6	784,7
ln rozptylu	6,9341	6,1817	6,5862	6,5774	6,7506	6,6653

Ověření normality rozložení je provedeno Shapiro-Wilk testem v nezávislých skupinách odpovědí.
Nejprve se vypočte hodnota v pro ošetření ve skupině S1 (viz tabulka 3.2.8. l-II). Hodnoty a, q a m se najdou v tabulce 3.1.1-II pro n = 10:
a = 0,366
q = -3,26
m = 1,47
Dále se vypočte hodnota V:
$V=\ln \frac{v-a}{1-v}=\ln \frac{\text{0,956}-\text{0,366}}{1-\text{0,956}}=\text{2,60}$
a odtud H= -3,26 + (1,47. 2,60) = 0,56.
Podobně se vypočtou hodnoty H pro ostatní ošetření (viz výsledky v tabulce 3.2.8.1-III).
Tab. 3.2.8.1-II Výpočet hodnoty v pro ošetření s1 (n = 10)

Pořadí	Seřazené odpovědi yi	Koeficient ai (tab. 3.1.1-I)	Součin aiyi
1	290	-0,574	-166,46
2	300	-0,329	-98,70
3	306	-0,214	-65,48
4	310	-0,122	-37,82
5	328	-0,040	-13,12
6	330	+0,040	13,20
7	342	+0,122	41,72
8	360	+0,214	77,04
9	364	+0,329	119,76
10	390	+0,574	223,86
	$\text{průměr}\overline{y}=332,0$	$\text{Součet}\sum a_i{y}_i=\mathrm{94,00}$
	$\sum {y_i-\stackrel{-}{y}}^2=\mathrm{9240,00}$ $s^2=\sum \frac{{y_i-\stackrel{-}{y}}^2}{n-1}=\mathrm{1026,67}$	$v=\frac{{\sum a_i{y}_i}^2}{\sum {y_i-\stackrel{-}{y}}^2}=\frac{8836,00}{9240,00}=0,956$

Tab. 3.2.8.1-III Výpočet hodnot H pro všechna ošetření (n = 10)

	s1	s2	u1	u2	z1	z2
${\mathrm{\Sigma a}}_i{y}_i$	94,00	63,63	78,60	78,28	82,90	81,96
$\Sigma {y_i-\overline{y}}^2$	9240,00	4354,40	6524,90	6468,00	7991,60	7062,00
v	0,956	0,930	0,947	0,947	0,893
						0,95
						1
V	2,60	2,09	2,39	2,39	1,59	2,48
H	0,56	-0,19	0,25	0,25	-0,92	0,39

Pro data z tabulky 3.2.8.1-III se vypočte testovací statistika:
$t=\frac{\text{0,56}-\text{0,19}+\dots +\text{0,39}}{\sqrt{6}}=\frac{\text{0,34}}{\text{2,45}}=\text{0,14}.$
Porovnání vypočtené hodnoty s kritickou hodnotou v tabulce 6.1 (t = 1,96) na hladině významnosti 0,95 ukazuje, že data nejsou v rozporu s nulovou hypotézou normality.
Pokud provedeme analýzu pomocí počítačového programu, získáme hodnoty:
$t=\text{0,153}\mathrm{\Sigma H}=\text{0,375.}$
Bartlettův test neprokázal ani nehomogennost rozptylů.
Testovací statistika pro k skupin rozptylů o f stupních volnosti se vypočte podle vzorce:
${\chi }^2=\frac{{3\mathrm{kf}}^2\mathrm{kln}\frac{\sum {\mathrm{var}}_i}{k}-\sum \ln {\mathrm{var}}_i}{3\mathrm{kf}+k+1}.$
Pro k = 6 a f = 9 vyjde:
${\chi }^2=\frac{1458}{169}\text{6ln 765,58 - 39,6953}=\text{1,28}.$
Tato hodnota je menší než kritická hodnota 11,07 z tabulky 5.4.2-I pro P = 0,95 a (k - 1) = 5 stupňů volnosti.
Tab. 3.2.8.1-IV Součty odpovědí a kontrasty (viz tabulka 3.2.3-I)

	Standard $\underset{\_}{S}$	Přípravek $\underset{\_}{U}$	Přípravek $\underset{\_}{Z}$	Součet
nízká dávka	S1 = 3320	U1 = 3239	Z1 = 2822
vysoká dávka	S2 = 2484	U2 = 2440	Z2 = 2500
přípravek celkem	S = 5804	U = 5679	Z = 5322	$\sum y=16805$
lineární kontrast	LS = -836	LU= -799	LZ = -322	$\sum L=-1957$

Tab. 3.2.8.1-V Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	2	6256,6	3128,3
regrese	1	63 830,8	63 830,8	83,4	< 0,01
nerovnoběžnost	2	8218,2	4109,1	5,4	< 0,01
ošetření	5	78 305,7
reziduální chyba	54	41 340,9	765,6
součet	59	119 646,6

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{16805}^2}{60}=\text{4 706 800,42};\sum y^2=\text{4 826 447.}$
Hodnoty součtů čtverců se získají z dat v tabulce 3.2.8.1-IV pomocí vzorců z tabulek 3.2.3-IV a 3.2.3-V.
$\text{Přípravky}=\frac{S^2+U^2+Z^2}{20}-K=\text{6 256,63}$
$\text{Regrese}=\frac{{L_S+L_U+L_Z}^2}{60}=\text{63 830,87}=E$
$\text{Nerovnoběžnost}=\frac{L_S^2+L_U^2+L_Z^2}{20}-E=\text{8 218,233}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+U_1^2+U_2^2+Z_1^2+Z_2^2}{10}-K=\text{78 305,68}$
$\text{Celkový}=\sum y^2-R=\text{119 646,58}$
Reziduální chyba = Celkový - Ošetření = 41 340,90
Validita zkoušky
Výpočty potvrzují významnou regresi (závislost na dávce). Hodnota F = 83,4 pro regresi je mnohem větší než interpolovaná kritická hodnota z tabulky 3.2.4-I pro P = 0,01, f₁ = 1 a f₂ = 54.
Odchylka od rovnoběžnosti je však také statisticky významná (P < 0,05). Vypočtená hodnota F = 5,4. Při podrobnějším prohlédnutí lineárních kontrastů v tabulce 3.2.8.1.-IV je zřejmé, že lineární kontrast Z je menší než kontrasty S a U. Tuto domněnku lze potvrdit Dunnettovým testem:
$t\text{'}=\frac{L_S-L_P}{2\sqrt{{\mathrm{ns}}^2}},$
kde s² = reziduální rozptyl, tj. 765,6, a L_P je lineární kontrast testovaného přípravku P.
Pro přípravek P = U:
$t\text{'}=\frac{\text{-836}-\text{-799}}{2\sqrt{10.765,6}}=\frac{-37}{\text{175,0}}=\text{-0,21}.$
Pro přípravek P = Z:
$t\text{'}=\frac{\text{-836}-\text{-322}}{2\sqrt{10.765,6}}=\frac{\text{-514}}{\text{175,0}}=\text{-2,94.}$
Z tabulky 3.2.4-II je kritická hodnota t´= 2,27 pro P = 0,05 s f₁ =2 a f₂= 54 (f₁ = počet testovaných přípravků).
Z těchto důvodů se pro nerovnoběžnost se standardem vyloučí přípravek Z. Výpočet se tedy provede znovu pouze pro přípravek U a standard (Σy = 11 486; ΣL = -1635).
Tab. 3.2.8.1-VI Analýza rozptylu s vyloučením dat o přípravku Z

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	1	390,6	390,6
regrese	1	66 830,60	66 830,6	90,5	< 0,01
nerovnoběžnost	1	34,2	34,2	0,05	> 0,05
ošetření	3	67 255,5
reziduální chyba	36	26 587,3	738,5
součet	39	93 842,8

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{11483}^2}{40}=\text{3 296 482,225};$
$\sum y^2=\text{3 390 325}.$
Výsledky analýzy rozptylu ukazují, že zkouška s vynecháním přípravku Z je validní z pohledu závislosti na dávce a rovnoběžnosti.
Výpočet účinnosti a jejích mezí spolehlivosti
Po vyloučení přípravku Z se vypočte pouze jedna účinnost.
${\overline{y}}_{{}_S}=\frac{S}{N_S}=\frac{5804}{20}=\text{290,2}$
${\overline{y}}_{{}_U}=\frac{U}{N_U}=\text{283,95}$
Podíl sousedních dávek je 4,0 a je tedy I= ln 4 = 1,3863, z tabulky 6.1 je t = 2,03 pro 36 stupňů volnosti a pravděpodobnost P = 0,95.
$b=\frac{L_S+L_U}{Inh}=\frac{-1635}{20I}=-\mathrm{58,970}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,1060}=\text{logaritmus relativní účinnosti přípravku}\underset{–}{U}\text{.}$
$M_U={M\text{'}}_U+1n\text{deklarovaná účinnost přípravku}\underset{–}{U}.$
Protože přípravek byl deklarován jako 1 jednotka na miligram,
$M_U={M\text{'}}_U+0=\text{0,1060}.$
Účinnost získáme odlogaritmováním M_U, je tedy M_U = 1,11 jednotek na miligram.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{66830,6}}{\text{66830,6}-{\text{738,5t}}^2}=\text{1,0477}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{66830,6}}{{-58,970}^2.2.10}=\text{0,9609108}$
$\text{1n (meze spolehlivosti) vypočteme}:C-1{\mathrm{CM}\text{'}}_U^2+2H=\text{0,0477}\text{0,01177 + 1,9218}=\text{0,09223}$
$\text{ln}\text{deklarovaná účinnost přípravku}\underset{\_}{U}+{\mathrm{CM}\text{'}}_U\pm \sqrt{\text{0,09223}}=0+\text{0,1110}\pm \text{0,3037}.$
Meze spolehlivosti jsou tedy od 0,82 do 1,51 jednotek na miligram.
Příklad 3.2.8.2 Třídávková metoda s náhodnými bloky bez opakování
Stanovení účinnosti antibiotik na Petriho miskách
Standardní přípravek se aplikoval v dávkách 2,4 a 8 jednotek. Na základě deklarované účinnosti A_U = 1500 jednotek na mililitr byly připraveny odpovídající dávky přípravku $\underset{\_}{U}$. Všech šest ošetření bylo najednou aplikováno na každou misku. Rozptyl všech ošetření (tabulka 3.2.8.2-I) nejeví závislost na příslušných průměrech. Není tedy důvod pochybovat o splnění podmínky 2 z kapitoly 3.1.
Tab. 3.2.8.2-I Odpovědi y: průměry inhibiční zóny (mm. 10)

	Standard $\underset{\_}{S}$			Přípravek $\underset{\_}{U}$			Součet v bloku
miska	s1	s2	s3	u1	u2	u3
1	176	205	235	174	202	232	R1 = 1224
2	178	208	238	175	206	234	R2 = 1239
3	178	207	237	177	203	236	R3 = 1238
4	175	205	235	173	201	232	R4 = 1221
5	176	206	235	174	204	231	R5 = 1226
6	174	204	236	170	202	229	R6 = 1215
průměr	176,2	205,8	236,0	173,8	203,0	232,3
rozptyl	2,6	2,2	1,6	5,4	3,2	5,9

Tab. 3.2.8.2-II Součty a kontrasty odpovědí (viz tabulka 3.2.3-II)

	Standard $\underset{\_}{S}$	Přípravek $\underset{\_}{U}$	Součet
nízká dávka	S1 = 1057	U1 = 1043
střední dávka	S2 = 1235	U2 = 1218
vysoká dávka	S3 = 1416	U3 = 1394
přípravek celkem	S = 3708	U = 3655	Σy = 7363
lineární kontrast	LS = 359	LU = 351	ΣL = 710
kvadratický kontrast	QS = 3	QU= 1	ΣQ = 4

Tab. 3.2.8.2-III Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	1	78,03	78,03
regrese	1	21 004,17	21 004,17	18 737	< 0,01
nerovnoběžnost	1	2,67	2,67	2,4	> 0,05
kvadratická regerese	1	0,22	0,22	0,2	> 0,05
odchylka kvadratických členů	1	0,06	0,06	0,05	> 0,05
	5	21 085,14
ošetření	5	75,80	15,16	13,5	< 0,01
bloky (misky)	25	28,03	1,121
reziduální chyba	35	21 188,97
součet

Korekční člen K:
$K=\frac{{\sum y}^2}{N}=\frac{{7363}^2}{36}=\text{1 505 938,03};\sum y^2=\text{1 527 127}.$
Hodnoty pro součty čtverců se získají z tabulky 3.2.8.2-II pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
$\text{Přípravky =}\frac{S^2+S^2}{18}-K=\text{78,026}$
$\text{Lineární rgrese =}\frac{{L_S+L_U}^2}{24}=\text{21004,167}=E$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2}{12}-E=\text{2,666}$
$\text{Kvadratická regrese =}\frac{{Q_S+Q_U}^2}{72}=\text{0,222}=Q$
$\text{Odchylka kvadratických členů =}\frac{Q_S^2+Q_U^2}{36}-Q=\text{0,056}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+S_3^2+U_1^2+U_2^2+U_3^2}{6}-K=21085,137$
$\text{Bloky =}\frac{R_1^2+R_2^2+R_3^2+R_4^2+R_5^2+R_6^2}{6}-K=\text{75,803}$
$\text{Celkový =}\sum y^2-K=\text{21 188,97}$
Reziduální = Celkový - Ošetření - Bloky = 28,03
Výsledky analýzy prokazují významnost (P < 0,01) rozdílu mezi jednotlivými Petriho miskami, a tedy užitečnost použití tohoto plánu experimentu. Pokud by ošetření byla rozdělena na misky náhodně, pak by rozdíly odpovědí na jednotlivých miskách způsobily zvětšení reziduálního rozptylu s², což by vedlo k širším mezím spolehlivosti.
Validita zkoušky
Významnost regrese (P < 0,01) a nevýznamnost (P < 0,05) nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku $\underset{\_}{U}$ a jejích mezí spolehlivosti. Testování validity je uvedeno v kapitole 3.2.4.
Výpočet účinnosti a mezí spolehlivosti
${\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}=\frac{U-S}{3n}=\frac{-53}{18}$
Podíl sousedních dávek byl 2,0, takže:
$I=\ln 2=\text{0,69315}.$
Podle tabulky 6.1 je t = 2,06 pro 25 stupňů volnosti a pravděpodobnost P = 0,95.
$b=\frac{L_S+L_U}{2\mathrm{Inh}}=\frac{710}{24I}=\text{42,6797}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{-0,0690}$
Logaritmus relativní účinnosti přípravku $\underset{\_}{U}$ je tedy:
$M=M\text{'}+1{\mathrm{nA}}_U=\text{-0,0690}+1n1500=\text{7,2442}.$
Odhad účinnosti získaný odlogaritmováním M je tedy 1400 jednotek na mililitr:
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{21004 ,17}}{\text{21004 ,17}-{\text{1,121 t}}^2}=\text{1,0002},$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{21 004,17}}{{\text{42,6797}}^2.3.6}=\text{0,640605},$
$C-1{\mathrm{CM}\text{'}}^2+2H=\text{0,0002}\text{0,00476}+\text{1,28121}=\text{0,00026}.$
Logaritmy mezí spolehlivosti se vypočtou jako:
${\mathrm{lnA}}_U+\mathrm{CM}\text{'}\pm \sqrt{0,000026}=\text{7,2442}\pm \text{0,0160}.$
Meze spolehlivosti jsou tedy 1378 až 1423 jednotek na mililitr.
Po vyhodnocení pomocí počítačového programu se obdrží hodnoty:
C = 1,000227
$C-1{\mathrm{CM}\text{'}}^2+2H=\text{0,00029128}.$
Meze spolehlivosti jsou 1376,3 - 1424,1 jednotek na mililitr.
Příklad 3.2.8.3 Třídávková vícenásobná zkouška latinskými čtverci bez opakování
Zkouška antibiotik na pravoúhlé plotně
Standardní přípravek se aplikoval v dávkách 3, 6 a 12 jednotek. Na základě předpokládané účinnosti přípravků $\underset{\_}{U}$ a $\underset{\_}{Z}$, AU= 2000 a A_Z= 2500 jednotek byly připraveny ekvivalentní dávky těchto přípravků. Všech devět ošetření bylo aplikováno jednou v každém sloupci a každém řádku.
Tab. 3.2.8.3-I Uspořádání ošetření na políčkách plotny (latinský čtverec)

Sloupce
Řádky	1	2	3	4	5	6	7	8	9
1	u1	z1	u2	s2	z2	z3	u3	s1	s3
2	s2	u3	u1	z3	s1	u2	s3	z1	z2
3	s1	s2	u3	u1	z1	z2	z3	s3	u2
4	z2	s3	s1	z1	u3	u1	u2	s2	z3
5	z3	z2	s2	s1	u2	s3	z1	u3	u1
6	u2	z3	s3	z2	s2	u3	s1	u1	z1
7	z1	u2	z2	u3	s3	s1	u1	z3	s2
8	s3	s1	z3	u2	u1	z1	s2	z2	u3
9	u3	u1	z1	s3	z3	s2	z2	u2	s1

Tab. 3.2.8.3-II Odpovědi y: průměr inhibiční zóny (mm . 10)

Sloupce
Řádky	1	2	3	4	5	6	7	8	9	řádkové součty
1	164	171	194	206	211	237	237	172	224	R1 = 1816
2	188	224	178	236	180	210	237	180	210	R2 = 1843
3	168	203	230	175	175	209	236	238	207	R3 = 1841
4	182	214	162	175	227	171	194	201	225	R4 = 1751
5	220	186	192	169	205	230	169	237	167	R5 = 1775
6	183	217	223	200	195	228	165	171	165	R6 = 1747
7	163	195	203	229	230	175	179	233	196	R7 = 1803
8	218	163	228	200	167	175	207	199	233	R8 = 1790
9	218	163	162	216	233	194	204	199	166	R9 = 1755
sloupcové	C1 =	C2 =	C3 =	C4=	C5 =	C6 =	C7 =	C8 =	C9 =
součty	1704	1736	1772	1806	1823	1829	1828	1830	1793

Tab. 3.2.8.3-III Průměrné hodnoty a směrodatné odchylky

	Standard $\underset{\_}{S}$			Přípravek $\underset{\_}{U}$			Přípravek $\underset{\_}{Z}$
	s1	s2	s3	u1	u2	u3	z1	z2	z3
průměr	168,9	198,0	225,6	170,6	198,6	229,2	170,6	200,4	229,4
ošetření
rozptyl	34,61	43,00	77,03	34,03	67,78	36,94	39,03	105,78	54,28
(vari)
ln (vari)	3,5442	3,7612	4,3442	3,5272	4,2162	3,6094	3,6643	4,6613	3,9942

$\sum {\mathrm{var}}_i=\text{492,48}$
$\sum \ln {\mathrm{var}}_i=\text{35,3222}$
Bartlettův test neprokázal statisticky významnou odchylku heterogenity rozptylů (i když je nutno si uvědomit, že tento test je použitelný, přísně vzato, pouze pro plně znáhodněný plán experimentu). Pro skupinu k rozptylů, každý s f stupni volnosti, test představuje výpočet:
${\chi }^2=\frac{3{\mathrm{kf}}^2\text{k ln}\frac{\sum {\mathrm{var}}_i}{k}-\sum \ln {\mathrm{var}}_i}{3\mathrm{kf}+k+1}.$
To se pro k = 9, f = 8 redukuje na:
${\chi }^2=\frac{1728}{226}9\ln \text{54,72}-\text{35,3222}=\text{5,34}.$
Tato hodnota je menší než kritická hodnota (15,51) z tabulky 6.2 pro (k - 1) stupňů volnosti a pravděpodobnost P = 0,95.
Tab. 3.2.8.3-IV Součty odpovědí a kontrasty

	Standard S	Přípravek U	Přípravek z	Součet
nízká dávka	S1 = 1520	U1 = 1535	Z1 = 1535
střední dávka	S2 = 1782	U2 = 1787	Z2 = 1804
vysoká dávka	S3 = 2030	U3 = 2063	Z3 = 2065
přípravek celkem	S = 5332	U = 5385	Z = 5404	Σy = 16 121
lineární kontrast	LS = 510	LU = 528	LZ = 530	ΣL = 1568
kvadratický kontrast	QS = -14	QU = 24	QZ = -8	ΣQ = 2

Tab. 3.2.8.3-V Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
přípravky	2	103,14	51,57
lineární regrese	1	45 530,07	45 530,07	2921	< 0,01
nerovnoběžnost	2	13,49	6,75	0,43	> 0,05
kvadratická regerese	1	0,02	0,02	0,00	> 0,05
odchylka kvadratických členů	2	15,46	7,73	0,50	> 0,05
ošetření (celkem)	8	45 662,17
řádky	8	1229,06	153,63	9,86	< 0,01
sloupce	8	1837,95	229,74	14,74	< 0,01
reziduální chyba	56	872,77	15,585
celkem	80	49 601,95

Hodnoty pro součty čtverců se získají z tabulek 3.2.8.3-II a 3.2.8.3-IV pomocí vzorců v tabulkách 3.2.3-IV a 3.2.3-V.
$\text{Korekční člen}K=\frac{{\sum y}^2}{N}=\frac{{\text{16 121}}^2}{81}=\text{3 208 477,05};\sum y^2=\text{3 258 079}$
$\text{Přípravky =}\frac{S^2+U^2+Z^2}{27}-K=\text{103,135}$
$\text{Lineární regrese =}\frac{{L_S+L_U+L_Z}^2}{54}=\text{45 530,07}=E$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2+L_Z^2}{18}-E=\text{13,486}$
$\text{Kvadratická regrese =}\frac{{Q_S+Q_U+Q_Z}^2}{162}=\text{0,0247}=Q$
$\text{Odchylka kvadratických členů =}\frac{Q_S^2+Q_U^2+Q_Z^2}{54}-Q=\text{15,457}$
$\text{Ošetření =}\frac{S_1^2+S_2^2+S_3^2+\dots +Z_3^2}{9}-K=\text{45 662,17}$
$\text{Řádky =}\frac{R_1^2+R_2^2+\dots {+R}_9^2}{9}-K=\text{1229,06}$
$\text{Sloupce =}\frac{C_1^2+C_2^2+\dots +C_9^2}{9}-K=\text{1837,95}$
$\text{Celkem =}\sum y^2-K=\text{49601,95}$
Reziduální chyba = Celkem - Ošetření - Řádky - Sloupce = 872,77
Analýza prokazuje statisticky významné (P < 0,01) rozdíly mezi řádky a mezi sloupci na plotně. Tato skutečnost ukazuje přednost plánu latinských čtverců před plně znáhodněným plánem.
Validita zkoušky
Silná významnost regrese (P < 0,01) a nevýznamnost nelinearity i odchylky od rovnoběžnosti potvrzují, že zkouška je validní, což umožňuje výpočet účinnosti přípravku.
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, takže I= ln 2 = 0,69315.
Podle tabulky 6.1 je t = 2,00 pro 56 stupňů volnosti a pravděpodobnost P = 0,95.

${\overline{y}}_{{}_S}=\frac{S}{27},$

${\overline{y}}_{{}_U}=\frac{U}{27},$

${\overline{y}}_{{}_Z}=\frac{Z}{27},$

$b=\frac{L_S+L_U+L_Z}{2\mathrm{Inh}}=\frac{1568}{54I}=\text{41,891}.$
$M_U=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,04686}=\text{logaritmus relativní účinnosti přípravku}\underset{–}{U}$
$M_U={\mathrm{lnA}}_U+{M\text{'}}_U=\ln 2000+\text{0,04686}=\text{7,6478}$
Odhad účinnosti, získaný odlogaritmováním M_U, je tedy 2096 jednotek na mililitr.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{45 530,07}}{\text{45 530,07}-{\text{15,585 t}}^2}=\text{1,0014}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{45 530,07}}{{\text{41,891}}^2.3.9}=\text{0,96093}$
$C-1{\mathrm{CM}\text{'}}_U^2+2H=\text{0,0014}\text{0,00220}+\text{1,92186}=\text{0,00269}$
Logaritmy mezí spolehlivosti se vypočtou jako:
${\mathrm{lnA}}_U+{\mathrm{CM}\text{'}}_U\pm \sqrt{0,00269}=\text{7,6478}\pm \text{0,0519.}$
Meze spolehlivosti jsou tedy 1990 až 2208 jednotek na mililitr.
Užitím stejného postupu pro přípravek $\underset{\_}{Z}$ se dostane:
${M\text{'}}_Z=\text{0,06366};M_Z=\text{7,8877.}$
Odhad účinnosti je 2664 jednotek na mililitr.
$C-1{\mathrm{CM}\text{'}}_Z^2+2H=\text{0,00270}$
Logaritmy mezí spolehlivosti jsou 7,8878 ± 0,0520.
Meze spolehlivosti jsou tedy 2530 až 2807 jednotek na mililitr.
Poznámka: Vyloučí-li se jeden přípravek z vícenásobné zkoušky uspořádané do latinského čtverce, je nutné zbytek analyzovat jako náhodné bloky.
Příklad 3.2.8.4 Dvoudávková křížová zkouška
Stanovení účinnosti insulinu na králících podkožním podáním
Standardní přípravek se aplikoval v dávkách 1 a 2 jednotky na mililitr. Na základě označené účinnosti neznámého přípravku (A_U= 40 jednotek na mililitr) byly připraveny ekvivalentní dávky přípravku. Jednotliví králíci obdrželi podkožně 0,5 ml odpovídajícího ředění podle plánu v tabulce 3.2.8.4-I. Výsledné odpovědi jsou v tabulce 3.2.8.4-II. Velký rozptyl, který je zřejmě způsoben variabilitou mezi jednotlivými zvířaty, ilustruje užitečnost křížového pokusu.
Tab. 3.2.8.4-I Uspořádání ošetření

Skupina králíků
	1	2	3	4
den I	s1	s2	u1	u2
den II	u2	u1	s2	s1

Tab. 3.2.8.4-II Odpovědi y: součty hodnot glukosy v krvi (mg/100ml) po 1 a 2 1/2 h

	Skupina 1			Skupina 2			Skupina 3			Skupina 4
	s1	u2	∑	s2	u1	∑	u1	s2	∑	u2	s1	∑
	112	104	216	65	72	137	105	91	196	118	144	262
	126	112	238	116	160	276	83	67	150	119	149	268
	62	58	120	73	72	145	125	67	192	42	51	93
	86	63	149	47	93	140	56	45	101	64	107	171
	52	53	105	88	113	201	92	84	176	93	117	210
	110	113	223	63	71	134	101	56	157	73	128	201
	116	91	207	50	65	115	66	55	121	39	87	126
	101	68	169	55	100	155	91	68	159	31	71	102
průměr	95,6	82,8		69,6	93,3		89,9	66,6		72,4	106,8
rozptyl	709,7	627,9		525,1	1012,5		479,6	230,6		1214,3	1215,1

Hartleyovým testem nebyla nalezena významná neshoda rozptylů.
Test spočívá ve výpočtu statistiky: největší odhad rozptylu/nejmenší odhad rozptylu. Tento podíl (1215,1/230,6 = 5,3) je menší než kritická hodnota 12,7 z tabulky 3.2.1-I pro P = 0,05 osm rozptylů, každý se sedmi stupni volnosti. Hartleyův test je jednodušší než Bartlettův a vyžaduje pouze výpočet jediného podílu. Ve většině případů je pro test heterogenity rozptylů postačující. Pro tato data dává Bartlettův test hodnotu testovací statistiky 6,4 při odpovídající kritické hodnotě 14,1.
Součty odpovědí a lineární kontrasty byly vypočteny odděleně pro každý den zkoušky. Výsledky jsou v tabulce 3.2.8.4-III.
Tab. 3.2.8.4-III Součty odpovědí a kontrasty

					Standard S	Přípravek U	Součet
Den I
	nízká dávka				S1I = 765	U1I = 719
	vysoká dávka				S2I = 557	U2I = 579
	součet				S1 = 1322	U1 = 1298	D1 = 2620
Den II
	nízká dávka				S1II = 854	U1II = 746
	vysoká dávka				S2II = 533	U2II = 662
	součet				S1 = 1387	U1 = 1408	DII = 2795
Přípravky celkem					S = 2709	U = 2706	∑y = 5415
Lineární kontrasty
	den I				LSI = -208	LUI = -140	LI = -348
	den II				LSII = -321	LUII = -84	LII = -405
	celkem				LS = -529	LU = -224	∑L = -753

Analýza rozptylu pro tento plán experimentu je složitější než pro jiné plány, protože složka součtu čtverců tvořená odchylkou od rovnoběžnosti není nezávislá na složce tvořené rozdíly mezi králíky. Test rovnoběžnosti regresních přímek vyžaduje výpočet dalšího reziduálního součtu čtverců "uvnitř králík", který se získá odečtením složky rovnoběžnosti a dvou "interakcí" od složky mezi králíky.
Díky opakování v každé skupině obsahuje analýza tři "interakce":
dny x přípravky, dny x regrese, dny x rovnoběžnost.
Tyto členy reprezentují náchylnost jednotlivých složek (efektu přípravku, regrese a rovnoběžnosti) měnit se den ode dne. Odpovídající F-test kontroluje platnost modelu se zřetelem na tuto skutečnost. Statisticky významné výsledky F-testu je třeba interpretovat opatrně, a pokud je to možné, zkoušku zopakovat.
Tab. 3.2.8.4-IV Analýza rozptylu

Zdroj variability	Stupně volnosti	Součet čtverců	Průměrný čtverec	F	P
nerovnoběžnost	1	1453,5	1453,5	1,06	> 0,05
dny x přípravky	1	31,6	31,6	0,02	> 0,05
dny x regrese	1	50,8	50,8	0,04	> 0,05
reziduální chyba mezi králíky	28	38 258,8	1366,4
bloky (králíci)	31	39 794,7	1283,7
přípravky	1	0,1	0,1	0,00	> 0,05
regrese	1	8859,5	8859,5	64,5	< 0,01
dny	1	478,5	478,5	3,48	> 0,05
dny x nerovnoběžnost	1	446,3	446,3	3,25	> 0,05
reziduální chyba"uvnitř"králíků	28	3844,1	137,3
součet	63	53 423,2

$\text{Korekční člen =}K=\frac{{\sum y}^2}{N}=\frac{{5415}^2}{64}=\text{458 159,77};\text{mm}$
$\sum y^2=\text{511 583.}$
Hodnoty součtu čtverců se získají z tabulky a 3.2.8.4-III pomocí vzorců v tabulce 3.2.3-IV.
V této zkoušce je celkový počet odpovědí na každé ošetření v obou dnech n = 16.
$\mathrm{Přípravky}=\frac{S^2+U^2}{32}-K=\text{0,14},$
$\text{Regrese =}\frac{{L_S+L_U}^2}{64}=\text{8859,52}=E,$
$\text{Nerovnoběžnost =}\frac{L_S^2+L_U^2}{32}-E=\text{1453,51},$
$\text{Bloky =}\frac{\sum B_i^2}{2}-K=\text{39 794,73},$
kde B_i je celková odpověď králíka z tabulky 3.2.8.4-II.
$\text{Dny =}\frac{D_I^2+D_{\mathrm{II}}^2}{32}-K=\text{478,51},$
kde D_I a D_II jsou celkové odpovědi pro každý den.
$\text{Dny x Přípravky =}\frac{{S_I-S_{\mathrm{II}}-U_I+U_{\mathrm{II}}}^2}{N}=\text{31,64},$
$\text{Dny x Regrese}=\frac{{L_{\mathrm{SII}}-L_{\mathrm{SI}}+L_{\mathrm{UII}}-L_{\mathrm{UI}}}^2}{N}=\text{50,77},$
$\text{Dny x Nerovnoběžnost =}\frac{{L_{\mathrm{SII}}-L_{\mathrm{SI}}-L_{\mathrm{UII}}+L_{\mathrm{UI}}}^2}{N}=\text{446,27},$
$\sum y^2-K=\text{53 423,23}.$
Reziduální chyba mezi králíky = Bloky - Nerovnoběžnost - (Dny x Přípravky) - (Dny x Regrese) = 38 258,81.
Reziduální chyba "uvnitř" králíků = Celkem - Bloky - Dny - Přípravky - Regrese - (Dny x Nerovnoběžnost) = 3 844,06.
Validita zkoušky
Analýza potvrzuje, že data splňují podmínky nutné pro použití zkoušky:
Výpočet účinnosti a mezí spolehlivosti
Podíl sousedních dávek je 2,0, tedy I = ln 2 = 0,69315. Podle tabulky 6.1 je t = 2,05 pro 28 stupňů volnosti (P = 0,95).
${\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}=\frac{U-S}{2n}=\frac{-3}{32}$
$b=\frac{L_S+L_U}{2\mathrm{nI}}=\frac{753}{32I}=-\text{33,948}$
$M\text{'}=\frac{{\overline{y}}_{{}_U}-{\overline{y}}_{{}_S}}{b}=\text{0,00276 = logaritmus relativní pčinnosti přípravku}\underset{–}{U}$
$M=M\text{'}+{\mathrm{lnA}}_U=\text{0,00276}+\ln 40=\text{3,6916}.$
Odhad účinnosti se získá odlogaritmováním M. Účinnost je tedy 40,1 jednotek na mililitr.
$C=\frac{E}{E-s^2{t}^2}=\frac{\text{8859,5}}{\text{8859,5}-137,3t^2}=\text{1,0697}$
$H=\frac{E}{b^2\mathrm{dn}}=\frac{\text{8859,5}}{{-\text{33,948}}^2.2.16}=\text{0,24023}$
$C-1{CM’}^2+2H=\mathrm{0,0697}\mathrm{0,0000081}+\mathrm{0,48045}=\mathrm{0,033488}$
Pro logaritmy mezí spolehlivosti se dostane:
${\mathrm{lnA}}_U+\mathrm{CM}\text{'}\pm \sqrt{\text{0,033498}}=\text{3,6918}\pm \text{0,1830}.$
Meze spolehlivosti jsou tedy 33,4 až 48,2 jednotek na mililitr.

1. významnost regrese: testovací statistika pro regresi (64,5) vypočtená s použitím rozptylu tvořeného rozdíly mezi králíky je větší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,01 s f₁ = 1 a f₂ = 28;

2. odchylka od rovnoběžnosti regresních přímek: test rovnoběžnosti v křížovém pokusu není příliš citlivý. Je totiž založen na reziduální chybě mezi králíky a ta závisí na variabilitě mezi nimi. Testovací statistika (1,06) je menší než kritická hodnota interpolovaná z tabulky 3.2.4-I pro P = 0,05 s f₁ = 1 a f₂ = 28;

3. žádná z interakcí není statisticky významná, jednotlivé hodnoty F jsou 0,02, 0,04 a 3,25.