Критерий Вилкоксона
Какие гипотезы можно проверять с помощью двухвыборочного критерия Вилкоксона?
Установлено, что двухвыборочный критерий Вилкоксона (Манна-Уитни) предназначен для проверки гипотезы H0 : P(X < Y) = 1/2, где X - случайная величина, распределенная как элементы первой выборки, а Y - второй. Разобраны три примера.
В прикладной математической статистике часто рассматривают вероятностную модель двух независимых выборок числовых результатов наблюдений. Первая выборка описывается набором m случайных величин X1, X2, ... , Xm, имеющих одну и ту же функцию распределения F(x), а вторая выборка - набором n случайных величин Y1, Y2, ... , Yn, имеющих одну и ту же функцию распределения G(x), причем все эти m+n случайных величин X1, X2, ... , Xm, Y1, Y2, ... , Yn независимы в совокупности. Без ограничения общности можно считать, что m # n, в противном случае выборки можно поменять местами. Обычно предполагается, что функции F(x) и G(x) непрерывны и строго возрастают. Из непрерывности этих функций следует, что с вероятностью 1 все m+n результатов наблюдений различны. В реальных статистических данных иногда встречаются совпадения, но сам факт их наличия - свидетельство нарушений предпосылок только что описанной базовой математической модели.
Статистика S двухвыборочного критерия Вилкоксона определяется следующим образом. Все элементы объединенной выборки X1, X2, ..., Xm, Y1, Y2, ... , Yn упорядочиваются в порядке возрастания. Элементы первой выборки X1, X2, ..., Xm занимают в общем вариационном ряду места с номерами R1, R2, ..., Rm, другими словами, имеют ранги R1, R2, ..., Rm . Тогда
S = R1 + R2 + ... + Rm .
Статистика U Манна-Уитни определяется как число пар (Xi, Yj) таких, что Xi < Yj , среди всех mn пар, в которых первый элемент - из первой выборки, а второй - из второй. Как известно [1, с.160],
U = mn + m(m+1)/2 - S .
Поскольку S и U линейно связаны, то часто говорят о критерии Вилкоксона (Манна-Уитни). Не будем обсуждать здесь вопросы истории и терминологии, относящиеся к S и U.
Критерий Вилкоксона - один из самых известных инструментов непараметрической статистики (наряду со статистиками типа Колмогорова-Смирнова и коэффициентами ранговой корреляции). Свойствам этого критерия и таблицам его критических значений уделяется место во многих монографиях по математической и прикладной статистике (см., например, [1-3]).
Однако в литературе имеются и неточные утверждения относительно возможностей критерия Вилкоксона. Так, одни полагают, что с его помощью можно обнаружить различие между функциями распределения F(x) и G(x). По мнению других, этот критерий нацелен на проверку равенства медиан распределений, соответствующих выборкам. И то, и другое, строго говоря, неверно. Настоящая статья написана, чтобы внести ясность в рассматриваемый вопрос.
Ссылки на публикации с неточными и ошибочными утверждениями не приводим по нескольким причинам. Во-первых, таких публикаций слишком много. Во-вторых, некоторые из них после исключения ошибок представляют ценность для практически работающего статистика. В-третьих, зачем создавать рекламу плохим книгам. И т.п.
Введем некоторые обозначения. Пусть F-1(t) - функция, обратная к функции распределения F(x). Она определена на отрезке [0;1]. Положим L(t) = G(F-1(t)). Поскольку F(x) непрерывна и строго возрастает, то F-1(t) и L(t) обладают теми же свойствами. Важную роль в дальнейшем изложении будет играть величина a = P(X < Y) . Как нетрудно показать,
a = P(X < Y) = .
Введем также
b2 = - (1 -a)2 , g2 = - a2 .
Тогда математические ожидания и дисперсии статистик Вилкоксона и Манна-Уитни согласно [1, с.160] выражаются через введенные величины:
E(U) = mna , E(S) = mn + m(m+1)/2 - E(U) = mn(1- a) + m(m+1)/2,
D(S) = D(U) = mn [ (n - 1) b2 + (m - 1) g2 + a(1 -a) ] . (1)
Когда объемы обеих выборок безгранично растут, распределения статистик Вилкоксона и Манна-Уитни являются асимптотически нормальными (см., например, [1, гл.5 и 6]) с параметрами, задаваемыми формулами (1) .
Если выборки полностью однородны, т.е. их функции распределения совпадают, справедлива гипотеза
H0: F(x) = G(x) при всех x, (2)
то L(t) = t и a= 1/2. Подставляя в формулы (1), получаем, что
E(S) = m(m+n+1)/2, D(S) = mn(m+n+1)/ 12 (3) .
Следовательно, распределение нормированной и центрированной статистики Вилкоксона
T = ( S - m(m+n+1)/2) (mn(m+n+1)/ 12 ) - 1/2 (4)
при росте объемов выборок приближается к стандартному нормальному распределению (с математическим ожиданием 0 и дисперсией 1).
Правила принятия решений и таблица критических значений для критерия Вилкоксона строятся в предположении справедливости гипотезы полной однородности, описываемой формулой (2). А что будет, если эта гипотеза неверна? Другими словами, какова мощность критерия Вилкоксона?
Пусть объемы выборок достаточно велики, так что можно пользоваться асимптотической нормальностью статистики Вилкоксона. Тогда в соответствии с формулами (1) статистика T будет асимптотически нормальна с параметрами
E(T) = ( 12mn ) 1/2 (1/2 - a) (m+n+1) - 1/2 ,
D(T) = 12 [(n - 1) b2 + (m - 1) g2 + a(1 -a) ] (m+n+1) - 1 . (5)
Из формул (5) видно большое значение гипотезы
H01: a = P(X < Y) = 1/2 . (6)
Если эта гипотеза неверна, то, поскольку m # n, справедлива оценка
u E(T) u $ ( 12m n (2n+1) - 1) 1/2 u 1/2 - au ,
а потому u E(T) u безгранично растет при росте объемов выборок. В то же время, поскольку
b2 # # 1, g2 # # 1, a(1 -a)#1/4,
то
D(T) # 12 [(n - 1) + (m - 1) + 1/4] (m+n+1) - 1 # 12. (7)
Следовательно, вероятность отклонения гипотезы H01 , когда она неверна, т.е. мощность критерия Вилкоксона как критерия проверки гипотезы (6), стремится к 1 при возрастании объемов выборок, т.е. критерий Вилкоксона является состоятельным для этой гипотезы при альтернативе
АH01: a = P(X < Y) ё 1/2 . (8) .
Если же гипотеза (6) верна, то статистика T асимптотически нормальна с математическим ожиданием 0 и дисперсией, определяемой формулой
D(T) = 12 [(n - 1) b2 + (m - 1) g2 + 1/4 ] (m+n+1) - 1 . (9)
Гипотеза (6) является сложной, дисперсия (9), как показывают приводимые ниже примеры, в зависимости от значений b2 и g2 может быть как больше 1, так и меньше 1, но согласно неравенству (7) никогда не превосходит 12.
Приведем пример двух функций распределения F(x) и G(x) таких, что гипотеза (6) выполнена, а гипотеза (2) - нет. Поскольку
a = P(X < Y) = òF(x)dG(x) , 1 - a = P(Y < X) = òG(x)dF(x) (10) ,
и a = 1/2 в случае справедливости гипотезы (2), то для выполнения условия (6) необходимо и достаточно, чтобы
ò(F(x) - G(x)) dF(x) = 0 (11) ,
а потому естественно в качестве F(x) рассмотреть функцию равномерного распределения на интервале (-1 ; 1). Тогда формула (11) переходит в условие
ò(F(x) - G(x)) dF(x) = - 1/2 ò(G(x) - (x + 1)/2 ) dx = 0 (11) .
Это условие выполняется, если функция (G(x) - (x + 1)/2 ) является нечетной.
Пример 1. Пусть функции распределения F(x) и G(x) сосредоточены на интервале (-1 ; 1), на котором
F(x) = (x + 1)/2 , G(x) = ( x + 1 + 1/p sin px ) / 2 .
Тогда x = F-1(t) = 2t - 1, L(t) = G(F-1(t)) = (2 t + 1/p sin p(2t - 1)) / 2 = t + 1/2p sin p(2t - 1) . Условие (11) выполнено, поскольку функция (G(x) - (x + 1)/2 ) является нечетной. Следовательно, a = 1/2 . Начнем с вычисления
g2 = òt2 dL(t) - 1/4 = òt2 d(t + 1/2p sin p(2t - 1)) - 1/4 .
Поскольку d(t + 1/2p sin p(2t - 1)) = (1 + cos p(2t - 1) ) dt, то
g2 = òt2 (1 + cos p(2t - 1) ) dt - 1/4 = 1/12 + òt2 cos p(2t - 1) dt .
С помощью замены переменных t = (x +1) / 2 получаем, что
òt2cos p(2t - 1) dt = 1/8 (òx2cos px dx + 2òx cos px dx + òcos px dx) .
В правой части последнего равенства стоят табличные интегралы [4, с.71]. Проведя соответствующие вычисления, получаем, что в правой части стоит 1/8 ( - 4/ p2) = - 1/(2 p2). Следовательно,
g2 = 1/12 - 1/(2 p2) = 0,032672733...
Перейдем к b2 . Поскольку
b2 = òL2(t)dt- 1/4 = ò(t + 1/2p sin p(2t - 1))2 dt- 1/4 ,
то
b2 = 1/12 + 1/pò(t sin p(2t - 1)) dt + (1/2p)2ò sin2 p(2t - 1) dt .
С помощью замены переменных t = (x+1) / 2 переходим к табличным интегралам [4, с.65]:
b2= 1/12 + (4p)-1òx sin px dx + (4p)-1òsin px dx + (8p2)-1òsin2px dx.
Проведя необходимые вычисления, получаем, что
b2= 1/12 + (4p)-1( - 2/p) +0+ (8p2)-1 = 1/12 - 3(8p2)-1 = 0,045337893...
Следовательно, для рассматриваемых функций распределения нормированная и центрированная статистика Вилкоксона (см. формулу (4)) асимптотически нормальна с математическим ожиданием 0 и дисперсией (см. формулу (9))
D(T) = ( 0,544 n + 0,392 m + 2,064 ) (m+n+1) - 1 .
Как легко видеть, дисперсия всегда меньше 1. Это значит, что в рассматриваемом случае гипотеза полной однородности (2) при проверке с помощью критерия Вилкоксона будет приниматься чаще, чем если она на самом деле верна.
На наш взгляд, это означает, что критерий Вилкоксона нельзя считать критерием для проверки гипотезы (2) при альтернативе общего вида. Он не всегда позволяет проверить однородность - не при всех альтернативах. Точно так же критерии типа хи-квадрат нельзя считать критериями проверки гипотез согласия и однородности - они позволяют обнаружить не все различия, поскольку некоторые "скрадывает" группировка.
Обсудим теперь, действительно ли критерий Вилкоксона нацелен на проверку равенства медиан распределений, соответствующих выборкам.
Пример 2. Построим семейство пар функций распределения F(x) и G(x) таких, что их медианы различны, но для F(x) и G(x) выполнена гипотеза (6). Пусть распределения сосредоточены на интервале (0 ; 1), и на нем G(x) = x , а F(x) имеет кусочно-линейный график с вершинами в в точках (0 ; 0), ( l , 1/2 ), ( d , 3/4), (1 ; 1). Следовательно, F(x) = 0 при x < 0 ; F(x) = x / (2 l) на [0 ; l ) ; F(x) = 1/2 + (x - l ) / (4 d - 4 l) на [l ; d ) ; F(x) = 3/4 + (x - d ) / (4 - 4 d) на [ d ; 1] ; F(x) = 1 при x > 1. Очевидно, что медиана F(x) равна l, а медиана G(x) равна 1/2 .
Согласно соотношению (9) для выполнения гипотезы (6) достаточно определить d как функцию l , d = d ( l ) , из условия
òF(x) dx = 1/2 .
Вычисления дают
d = d ( l ) = 3 (1 - l ) / 2 .
Учитывая, что d лежит между l и 1, не совпадая ни с тем, ни с другим, получаем ограничения на l, а именно, 1/3 < l < 3/5 . Итак, построено искомое семейство пар функций распределения.
Пример 3. Пусть, как и в примере 2, распределения сосредоточены на интервале (0 ; 1), и на нем F(x) = x , а G(x) - функция распределения, сосредоточенного в двух точках - b и 1, т.е. G(x) = 0 при x, не превосходящем b ; G(x) = h на (b ; 1] ; G(x) = 1 при x > 1. С такой функцией G(x) легко проводить расчеты. Однако она не удовлетворяет принятым выше условиям непрерывности и строгого возрастания. Вместе с тем легко видеть, что она является предельной (сходимость в каждой точке отрезка [0 ; 1] ) для последовательности функций распределения, удовлетворяющих этим условиям, а распределение статистики Вилкоксона для пары функций распределения примера 3 является предельным для последовательности соответствующих распределений статистики Вилкоксона, полученных в рассматриваемых условиях непрерывности и строгого возрастания.
Условие P(X < Y) = 1/2 выполнено, если h = (1 - b)-1 / 2 (при b из отрезка [0 ; 1/2] ). Поскольку h > 1/2 при положительном b, то очевидно, что медиана G(x) равна b, в то время как медиана F(x) равна 1/2 . Значит, при b = 1/2 медианы совпадают, при всех иных положительных b - различны. При b = 0 медианой G(x) является любая точка из отрезка [0 ; 1].
Легко подсчитать, что в условиях примера 3 b2 = b(1- b)-1 / 4 , g2 = (1- 2b) / 4 . Следовательно, распределение нормированной и центрированной статистики Вилкоксона будет асимптотически нормальным с математическим ожиданием 0 и дисперсией
D(T) = 3 [(n-1) b(1- b)-1 + (m-1) (1-2b) + 1] (m+n+1) - 1 .
Проанализируем величину D(T) в зависимости от параметра b и объемов выборок m и n. При достаточно больших m и n
D(T) = 3 w b (1 - b)-1 + 3 (1 - w) (1 - 2 b) ,
с точностью до величин порядка (m+n)-1 , где w= n/(m+n). Значит, D(T) - линейная функция от w, а потому достигает экстремальных значений на границах интервала изменения w, т.е. при w = 0