Общие методы анализа (стр. 70 )

│Группа│1-й день опыта │2-й день опыта │"ДЕЛЬ-│d = "ДЕЛЬТА" - │ 2  │

│  │  │  │ТА"  │  ______  │d  │

│  │  │  │  │- "ДЕЛЬТА"  │  │

├──────┼───────────────┼───────────────┼──────┼───────────────┼────┤

│1  │  370│  273│- 97  │- 7  │49  │

│  │ 0  │  │  │  │  │

│  │y1  342│y2  279│- 63  │  27  │729 │

│  │ 0  │  │  │  │  │

│  │D1 = 0,1 ЕД 335│D2 = 0,4 ЕД 225│- 110 │- 20  │400 │

│  │  │Сумма  │- 270 │  0  │1178│

│  │  │Среднее  │- 90  │  │  │

│2  │  255│  313│  58  │- 8  │64  │

│  │ 0  │  │  │  │  │

│  │y2  268│y1  340│  72  │  6  │36  │

│  │ 0  │  │  │  │  │

│  │D2 = 0,4 ЕД 284│D  = 0,1 ЕД 352│  68  │  2  │4  │

│  │  │Сумма  │  198 │  0  │104 │

│  │  │Среднее  │  66  │  │  │

│3  │  310│  247│- 63  │  5  │25  │

│  │  │ 0  │  │  │  │

│  │y1  356│y2  296│- 60  │  8  │64  │

│  │  │ 0  │  │  │  │

│  │D1 = 0,1 ЕД 345│D2 = 0,4 ЕД 264│- 81  │- 13  │169 │

│  │  │Сумма  │  204 │  0  │258 │

│  │  │Среднее  │- 68  │  │  │

│4  │  276│  369│  93  │- 8  │64  │

│  │  │ 0  │  │  │  │

│  │y2  228│y1  318│  90  │- 11  │121 │

│  │  │ 0  │  │  │  │

│  │D2 = 0,4 ЕД 252│D1 = 0,1 ЕД 372│  120 │  19  │361 │

│  │  │Сумма  │  303 │  0  │546 │

│  │  │Среднее  │  101 │  │  │

└──────┴───────────────┴───────────────┴──────┴───────────────┴────┘

приложения для числа степеней свободы f = k - 1 (k - число объединяемых испытаний). В частности, когда объединяются результаты двух испытаний, то

  ┌  M1  M2  ┐

  W1W2│------ - ------ │

  2  └1 - g1  1 - g2 ┘

  "хи" = -------------------------  (II.3.23)

  W1 +  W2

  2

при f = 1, так, что "хи"  (95%, 1) = 3,84.

II.4. ПРИМЕНЕНИЕ СХЕМЫ ЛАТИНСКОГО КВАДРАТА

При биологическом испытании антибиотиков методом диффузии в агар на лотках наиболее употребительна схема латинского квадрата, позволяющая рандомизировать неоднородность бактериальной культуры по обоим направлениям поверхности питательной среды. Например, в случае испытания 2; 2 дозы могут располагаться следующим образом:

  0  0

  D1  D2  D1  D2

  0  0

  D2  D1  D2  D1

  (II.4.1)

  0  0

  D1  D2  D1  D2

  0  0

  D2  D1  D2  D1

Здесь каждая доза встречается по одному разу в каждой строке и в каждом столбце. В данном случае последовательные строки получены циклической перестановкой из предыдущих строк, но это не единственный способ построения латинского квадрата. Например, можно переставлять столбцы или строки (или и то, и другое) из приведенной выше схемы по жребию. В руководствах по планированию эксперимента можно найти и другие схемы.

Если для стандартного и испытуемого препаратов используются по три дозы, то соответствующий латинский квадрат будет иметь шесть строк и шесть столбцов и т. д. При двух дозах стандартного и двух дозах испытуемого препарата можно построить латинский квадрат 8х8, располагая дозы так, чтобы каждая встречалась по два раза в каждой строке и в каждом столбце.

  0

  Введем следующие обозначения: k - число строк в квадрате; r  и

r  -  соответственно  число  использованных  доз  стандартного  и

  0

испытуемого препаратов (например,  при размещении четырех доз  D1,

0  0

D2,  D1,  D2  в  квадрате  8х8 будет k = 8,  r = 2,  r = 2,  а для

  0

квадрата II.4.1:  k = 4,  r  = 2,  r = 2); у  - эффективность  в

  ij

ячейке  квадрата  на  пересечении  i-й  строки  и  j-го  столбца

(независимо от того,  относится эта эффективность  к  стандартному

  _  _

или  испытуемому  препарату);  у  =  SUM у  /k и у  = SUM у / k -

  i  j  ij  j  ij

средние эффективности соответственно для строки i и для столбца j;

  2  _  _

  у  =  SUM y  /k  = SUM у  /k = SUM у  / k

  i, j  i, j  i  i  j  j

- общая средняя эффективность для всего комплекса. Тогда

  2  ┌  2  2┐

  SUM d  - k │SUM d  + SUM d │

  j, i  └ i  i  j  j┘

  V = -----------------------------,  (II.4.2)

  2  0

  n(k  - 2k - r - r + 2)

  2  ┌  _  2┐  ┌  _  2┐

где  SUM d  = SUM │SUM (у  - у ) │ = SUM │SUM (у  - у ) │,

  i  └ j  i, j  i  ┘  j  └  i, j  j  ┘

  2  _  _  2  2  _  _  2

  SUM d  = SUM (у  - у ) ,  SUM d  = SUM (у  - у ) ,

  i  i  i  j  j  j

а n - число испытаний при каждой дозе стандартного или испытуемого

препарата.  Остальные расчеты производятся по формулам предыдущего

параграфа, причем t(P, f) берутся из табл. II приложения для числа

степеней свободы f = (k -1)(k - 2).

  Пример II.6.  В табл.  II.3.3 приведены результаты совместного

испытания  стандартного  и  испытуемого  препаратов  неомицина при

дозах 100 и 200 мкг в 1 мл;  активность характеризуется  диаметром

зоны  угнетения в миллиметрах.  Использован латинский квадрат вида

(II.4.1).  В  этой  же  таблице  показаны  расчеты,  приводящие  к

  2  2

величинам SUM  d  и SUM  d,  а в табл. II.4.2 показано вычисление

  i  i  j  j  2

средних дозовых эффективностей и величины SUM  d.

  i, j

  2

  Таким  образом, SUM d  = 14,00 + 28,75 + 5,00 + 8,75 = 56,50,

  i, j

  0

а так  как  в  данном случае n = 4,  k = 4,  r = 2,  r = 2,  то по

формуле II.4.2 получаем:

  56,50 - 4 x (5,125 + 2,125)

  V = --------------------------- = 1,146.

  4 x (16 - 8 - 2 - 2 + 2)

  Данное испытание относится к типу 2;2,  так что  использование

соответствующего  раздела  табл.  IV приложения вместе с формулами

II.3.4 - II.3.10 дает:

  G = 219,0 - 230,75 - 221,50 + 232,75 = - 0,50;

  ---

  V  = 4 х 1,146 = 4,584; │G│ /  / V  = 0,233 < 2,447

  G  \/  G

(t(95%, f) для f = (4 - 1)(4  -  2) = 6),  поэтому  одинаковость

наклонов двух дозовых прямых не отвергается; далее:

  Е = (- 219,0 + 230,75 - 221,50 + 232,75) / 2 = 11,50;

  F = (- 219,0 - 230,75 + 221,50 + 232,75) / 2 = 2,25;

  2

  A = V = 1,146; I = lg 200 - lg 100 = 0,301; B = V/I  = 12,65;