Пунктирными линиями указан 95% доверительный интервал для линии регрессии. Для каждой дозовой точки приведено наблюдаемое значение частоты с 95% доверительным интервалом.

Соответствующая регрессионная зависимость имеет вид:

,

где y - частота аберраций на одну клетку, x - доза облучения (Гр). Это уравнение получено методом наименьших квадратов с использованием в качестве весов величин N/y , где N - число метафаз, просмотренных при данной дозе. Значимость модели высокая: Р = 6*10-14. График этой зависимости приведен на рисунке 1. При реконструкции дозы по частоте аберраций необходимо произвести обратную операцию согласно уравнению:

Ошибка прогноза дозы складывается из ошибки регрессионной кривой и ошибки определения частоты аберраций у пациента:

Дисперсия оценки частоты аберраций у пациента зависит от числа просмотренных метафаз (N):

Дисперсия, связанная с регрессией зависит только от частоты аберраций у пациента (y) имеет вид:

В диапазоне доз 0,1 – 1,4 Гр величина слабо зависит от прогнозируемой дозы и равна примерно 0,014 Гр, что соответствует дисперсии 0,0002 Гр2. Таким образом, суммарная ошибка прогноза определяется в основном дисперсией частоты дицентриков у пациента , которая как минимум на порядок больше, чем .

В реальной ситуации для оценки дозы по частоте дицентриков вполне достаточно приближения

,

где y – частота аберраций у пациента при анализе N клеток, D - доза в Гр.

Для практических нужд можно использовать таблицу 5, в которой приведены оценки доз облучения с 95% доверительным интервалом, соответствующие различным количествам дицентриков и числу просмотренных клеток.

Таблица 5. Оценка дозы с 95% доверительным интервалом (Гр), определенная по частоте дицентриков при различных количествах посчитанных клеток

Количество выявленных дицентриков

Посчитано клеток

100

200

300

500

1000

2

0,44 (0,06 – 0,83)

0,28 (0 – 0,55)

0,20 (0 – 0,43)

0,13 (0 – 0,31)

0,06 (0 – 0,18)

3

0,57 (0,18 – 0,95)

0,37 (0,09 – 0,64)

0,28 (0,05 – 0,50)

0,19 (0,01 – 0,36)

0,10 (0 – 0,22)

4

0,68 (0,29 – 1,06)

0,44 (0,17 – 0,72)

0,34 (0,11 – 0,57)

0,24 (0,06 – 0,41)

0,13 (0 – 0,26)

5

0,77 (0,39 – 1,15)

0,51 (0,24 – 0,78)

0,39 (0,17 – 0,62)

0,28 (0,10 – 0,45)

0,16 (0,03 – 0,29)

6

0,85 (0,48 – 1,23)

0,57 (0,30 – 0,84)

0,44 (0,22 – 0,67)

0,32 (0,14 – 0,49)

0,19 (0,06 – 0,31)

7

0,93 (0,56 – 1,31)

0,62 (0,35 – 0,90)

0,49 (0,26 – 0,71)

0,35 (0,18 – 0,53)

0,21 (0,09 – 0,34)

8

1,01 (0,63 – 1,38)

0,68 (0,40 – 0,95)

0,53 (0,31 – 0,75)

0,38 (0,21 – 0,56)

0,24 (0,11 – 0,36)

9

1,07 (0,70 – 1,45)

0,72 (0,45 – 1,00)

0,57 (0,35 – 0,79)

0,41 (0,24 – 0,59)

0,26 (0,13 – 0,38)

10

1,14 (0,77 – 1,51)

0,77 (0,50 – 1,02)

0,61 (0,38 – 0,83)

0,44 (0,27 – 0,62)

0,28 (0,15 - 0,40)

·  Оценка уровня облучения пациентов по частоте транслокаций в лимфоцитах периферической крови

При построении калибровочной кривой учитывали как «полные», так и «неполные» транслокации. В таблице 6 представлены данные по частоте транслокаций с участием хромосом 1, 4 и 12, полученные при разных дозах облучения крови in vitro. На основании этих данных было получено уравнение регрессии, которое имеет следующий вид:

y = 0,00236 + 0,00698 x +0,00144 x2,

где y - частота транслокаций с участием хромосом 1, 4 и 12 на одну клетку, x - доза облучения (Гр). График этой зависимости представлен на рисунке 2. При реконструкции дозы по частоте аберраций необходимо произвести обратную операцию согласно уравнению (вычисление x по y):

Ошибка прогноза дозы будет складываться из ошибки регрессионной кривой и ошибки определения частоты транслокаций у пациента:

Дисперсия оценки частоты аберраций у пациента зависит от числа просмотренных метафаз (N):

Как и в случае дицентриков, ошибка, определяемая вариабельностью калибровочной регрессии () в диапазоне прогнозируемых доз 0.1¸1.8 Гр, слабо зависит от величины дозы. По нашим вычислениям Гр2.

Для оценки дозы облучения по частоте транслокаций можно использовать таблицу 7 и 8. Таблицу 7 можно применять в случае использования ДНК проб для хромосом 1, 4 и 12. При использовании другого набора ДНК-проб следует применять таблицу 8, для этого необходимо вычислить количество посчитанных клеток-эквивалентов Neq согласно формуле, приведенной выше.

Таблица 6.Частота транслокаций после g-облучения 60Со цельной крови in vitro

Доза, Гр

Количество посчитанных клеток

Количество транслокаций

Частота транслокаций

на 100 клеток (М ± m)

0

7090

16

0,23±0,06

0,30

6147

45

0,73±0,11

0,50

5221

40

0,77±0,12

0,75

1378

20

1,45±0,32

1,00

1333

37

2,78±0,45

2,00

2309

203

8,79±0,59

3,00

1145

131

11,44±0,94

4,00

776

241

31,06±1,66

Таблица 7. Оценка дозы с 95% доверительным интервалом (Гр), определенная по частоте транслокаций, выявленных при использовании ДНК-проб для 1, 4 и 12 хромосом, при различных количествах посчитанных клеток

Количество транслокаций

Посчитано клеток

250

500

1000

1500

2000

2

0,43 (0 – 1,03)

н. д.

н. д.

н. д.

н. д.

3

0,61 (0,03 – 1,20)

0,32 (0 – 0,78)

н. д.

н. д.

н. д.

4

0,76 (0,19 – 1,33)

0,43 (0 – 0,87)

н. д.

н. д.

н. д.

5

0,89 (0,32 – 1,46)

0,53 (0,09 – 0,97)

0,25 (0 – 0,61)

н. д.

н. д.

6

1,01 (0,44 – 1,57)

0,61 (0,18 – 1,05)

0,32 (0– 0,67)

0,17 (0 – 0,50

н. д.

7

1,11 (0,55 – 1,68)

0,69 (0,26 – 1,12)

0,37 (0,03 – 0,72)

0,23( 0 – 0,54)

0,13 (0 – 0,45)

8

1,21 (0,66 – 1,77)

0,82 (0,40 – 1,26)

0,43 (0,09 – 0,77)

0,27 (0– 0,58)

0,17 (0 – 0,47)

9

1,31 (0,75 – 1,86)

0,78 (0,43 – 1,12)

0,48 (0,14 – 0,82)

0,32 (0,01 – 0,62)

0,21 (0 – 0,42)

10

1,39 (0,84 – 1,95)

0,89 (0,46 – 1,32)

0,53 (0,18 – 0,86)

0,36 (0,05 – 0,66)

0,25 (0 – 0,53)

11

1,48 (0,92 – 2,03)

0,95 (0,53 – 1,38)

0,57 (0,23 – 0,91)

0,39 (0,09 – 0,69)

0,28 (0– 0,56)

12

1,56 (1,00 – 2,11)

1,01 (0,59 – 1,43)

0,61 (0,27 – 0,95)

0,43 (0,13 – 0,73)

0,31 (0,04 – 0,59)

13

1,63 (1,08 – 2,18)

1,06(0,64 – 1,48)

0,65 (0,31 – 0,99)

0,46 (0,16 – 0,76)

0,35 (0,07 – 0,62)

14

1,70 (1,11 –2,25)

1,11 (0,69 – 1,53)

0,69 (0,35 – 1,02)

0,49 (0,19 – 0,79)

0,37 (0,10 – 0,65)

15

1,74 (1,23 – 2,32)

1,16 (0,75 – 1,58)

0,72 (0,39 – 1,06)

0,52 (0,23 – 0,82)

0,40 (0,13 – 0,68)

н. д. – выявленная частота транслокаций не отличается достоверно от контрольного значения, p<0.05 (точный критерий Фишера)

Из за большого объема этот материал размещен на нескольких страницах:
1 2 3 4