<< Пред. стр. 31 (из 116) След. >>
s - дисперсия;s_ - стандартное отклонение среднего результата;
х
s - логарифмическое стандартное отклонение;
lg
2
s - логарифмическая дисперсия;
lg
s _ - логарифмическое стандартное отклонение среднего
lg x результата;
g
2 2 2
s , s , s - общая дисперсия и дисперсия коэффициентов
0 b а линейной зависимости;
t - критерий Стьюдента;
U - коэффициент для расчета границ среднего
результата гарантии качества анализируемого
продукта;
W - весовой коэффициент пробита;
х, y - текущий координаты в уравнении линейной
зависимости;
_
Y - активность препарата;
Xi, Yi - вычисленные, исходя из уравнения линейной
зависимости значения переменных х и у;
Y - пробит;
_ _
х, y - средние выборки (координаты центра линейной
зависимости);
х , y - i-тая варианта (i-тая пара экспериментальных
i i значений х и у);
_ _
х +/-"ДЕЛЬТА"х - граничные значения доверительного интервала
среднего результата;
х +/-"ДЕЛЬТА"х - граничные значения доверительного интервала
i результата отдельного определения;
"ДЕЛЬТА" - разность некоторых величин;
"альфа" - уровень значимости, степень надежности;
"ДЕЛЬТА"х - полуширина доверительного интервала величины;
"дельта" - относительная величина систематической ошибки;
"эпсилон", - относительные ошибки соответственно результата
_______ отдельного определения и среднего результата;
"эпсилон"
"ми" - истинное значение измеряемой величины;
SUM - знак суммирования (сумма);
2
"хи" - критерий хи - квадрат.
I. СТАТИСТИЧЕСКАЯ ОБРАБОТКА
РЕЗУЛЬТАТОВ ХИМИЧЕСКОГО ЭКСПЕРИМЕНТА
Метрологические характеристики методов и результатов,
получаемых при статистической обработке данных эксперимента,
позволяют проводить оценку и сравнение как экспериментальных
методик, так и изучаемых объектов и на этой основе решать ряд
прикладных задач, связанных с определением статистической
достоверности результатов исследования.
I.1. ОСНОВНЫЕ СТАТИСТИЧЕСКИЕ ХАРАКТЕРИСТИКИ
ОДНОРОДНОЙ ВЫБОРКИ И ИХ ВЫЧИСЛЕНИЕ
Проверка однородности выборки. Исключение выпадающих значений
вариант. Термином "выборка" обозначают совокупность статистически
эквивалентных результатов (вариант). В качестве такой совокупности
можно, например, рассматривать ряд результатов, полученных при
параллельных определениях содержания какого-либо вещества в
однородной по составу пробе.
Допустим, что отдельные значения вариант выборки объема n
обозначены через х (1 <= i <= n) и расположены в порядке
возрастания: i
х ; х ; ... х ; ... х ; х , (I.1.1)
1 2 i n - 1 n
Результаты, полученные при статистической обработке выборки,
будут достоверны лишь в том случае, если эта выборка однородна,
т.е. если варианты, входящие в нее, не отягощены грубыми ошибками,
допущенными при измерении или расчете. Такие варианты должны быть
исключены из выборки перед окончательным вычислением ее
статистических характеристик. Для выборки небольшого объема (n <
10) идентификация вариант, отягощенных грубыми ошибками, может
быть выполнена, исходя из величины размаха варьирования R
(см. уравнения I.1.12, I.1.13 а, б). Для идентификации таких
вариант в выборке большого объема (n >= 10) целесообразно
проводить предварительную статистическую обработку всей выборки,
полагая ее однородной, и уже затем на основании найденных
статистических характеристик решать вопрос о справедливости
сделанного предположения об однородности (см. выражение I.1.14).
_
В большинстве случаев среднее выборки х является наилучшей
оценкой истинного значения измеряемой величины "ми", если его
вычисляют как среднее арифметическое всех вариант:
n
SUM х
_ 1 i
х = --------- (I.1.2)
n
_
При этом разброс вариант х , вокруг среднего х характеризуется
i
величиной стандартного отклонения s. В количественном химическом
анализе величина s часто рассматривается как оценка случайной
ошибки, свойственной данному методу анализа. Квадрат этой величины
2
s называют дисперсией. Величина дисперсии может рассматриваться
как мера воспроизводимости результатов, представленных в данной
2
выборке. Вычисление величин s и s проводят по уравнениям I.1.5 и
I.1.6. Иногда для этого предварительно определяют значения
отклонений d и число степеней свободы (число независимых
i
вариант) f:
_
d = х - х ; (I.1.3.)
i i
f = n - l; (I.1.4.)
n 2 n 2 - 2
SUM d SUM х - nх
2 1 i 1 i
s = --------- = ---------------; (I.1.5.)
f f
----
/ 2
s = / s . (I.1.6.)
Стандартное отклонение среднего результата S_ рассчитывают по
по уравнению: х
s
s_ = -------. (I.1.9.)
х ---
/ n
Примечание I.1.1. При наличии ряда из g выборок с порядковыми
2
номерами k (l <= k <= g) расчет дисперсии s целесообразно
проводить по формуле:
i=n Љ i=n Ї
k=g k 2 k=g 2 k=g Ј k 2 _2 Ј
SUM SUM d SUM [(n - 1) s ] SUM Ј SUM х - n х Ј
2 k=1 i=1 ik k=1 k k k=1 ђ i=1 ik k k ‰
s = ------------- х ----------------- = ------------------------
f f f
(I.1.7.)
При этом число степеней свободы равно:
k=g
f = SUM (n - 1). (I.1.8.)
k=1 k
где х - среднее k - той выборки; n - число вариант в k-той
k k
2
выборке; х - i-тая варианта k-той выборки; s - дисперсия k-той
ik k
выборки; d - отклонение i-той варианты k-той выборки.
ik
Необходимым условием применения уравнений I.1.7 и I.1.8
является отсутствие статистически достоверной разницы между
2
отдельными значениями s . В простейшем случае сравнение крайних
k
2
значений s проводят, исходя из величины критерия F, которую
k
вычисляют по уравнению I.3.4 и интерпретируют, как указано в
разделе I.3.
Примечание I.1.2. Если при измерениях получают логарифмы
искомых вариант, среднее выборки вычисляют как среднее
геометрическое, используя логарифм вариант:
n
SUM lg х
_ 1 i
lg х = ------------ , (I.1.10)
g n
откуда
_ ------------ _
х = n / х1х2... х = antilg (lg х ). (I.1.11)
g / n g
2
Значения s , s и s_ в этом случае также рассчитывают,
х
исходя из логарифмов вариант, и обозначают соответственно через
2 _
s , s и s х .
lg lg lg g
Пример I.1.1. При определении содержания стрептоцида в образце
линимента были получены следующие данные.
Љ"""""""""""""""""'""""""""'""""""""'""""""""'""""""""'""""""""""Ї
Ј Номер опыта i Ј 1 Ј 2 Ј 3 Ј 4 Ј 5 Ј
""""""""""""""""""•""""""""•""""""""•""""""""•""""""""•""""""""""¤
Ј х , % Ј 9,52 Ј 9,55 Ј 9,83 Ј 10,12 Ј 10,33 Ј
Ј i Ј Ј Ј Ј Ј Ј
ђ"""""""""""""""""'""""""""'""""""""'""""""""'""""""""'""""""""""‰
n = 5; f = n - 1 = 5 - 1 = 4
n
SUM х 9,52 + 9,55 + 9,83 + 10,12 + 10,33
1 i
х = ------- = ---------------------------------- = 9,87.
n 5
_
d = Јx - xЈ = Јx - 9,87Ј, т.е. d1 = Ј9,52 - 9,87Ј = 0,35 и т.д.
i i i
n n 2 _2
SUM d SUM х - nх
2 1 i 1 i
s = ------- = ------------- =
f f
2 2 2 2 2 2
(9,52 + 9,55 + 9,83 + 10,12 + 10,33 ) - 5 х 9,87
= ----------------------------------------------------- = 0,1252;
4
---
/ 2 -------
s = / s = / 0,1252 = 0,3538;
s 0,3538
s_ = ------- = ------- = 0,1582.
х ---- ----
/ n / 5
2
Как было указано выше, значения х, s , s и s_ могут быть
х
признаны достоверными, если ни одна из вариант выборки не
отягощена грубой ошибкой, т. е. если выборка однородна. Проверка
однородности выборок малого объема (n < 10) осуществляется без
предварительного вычисления статистических характеристик, с этой
целью после представления выборки в виде I.1.1 для крайних вариант
х1 и x рассчитывают значения контрольного критерия Q, исходя из
n
величины размаха варьирования R:
R = [х1 - х ]; (I.1.12)
n
[х1 - х2]
Q1 = ----------; (I.1.13a)
R
[х - х ]
n n - 1
Qn = -------------; (I.1.13б)
R
Выборка признается неоднородной, если хотя бы одно из
_
вычисленных значений Q превышает табличное значение Q (Р, n),
_
найденное для доверительной вероятности Р (см. табл. 1
приложения). Варианты х1 или х , для которых соответствующее
n
_
значение Q > Q (P, n), отбрасываются, и для полученной выборки
уменьшенного объема выполняют новый цикл вычислений по уравнениям
I.1.12 и I.1.13 с целью проверки ее однородности. Полученная в
конечном счете однородная выборка используется для вычисления х,
2
s , s и s_.
х
Примечание I.1.3. При Јх1 - х2Ј < Јх2 - х3Ј и Јх - х Ј <
Ј n n - 1Ј
Јх - х Ј уравнения I.1.13 а и I.1.13 б принимают
Ј n - 1 n - 2Ј
соответственно вид:
Јх - х Ј
Јх2 - х3Ј Ј n - 1 n - 2Ј
Q1 = ------------; Qn = -----------------.
R R
Пример I.1.2. При проведении девяти (n = 9) определений
содержания общего азота в плазме крови крыс были получены