Мощность статистического теста. Дисперсионный анализ ANOVA Занятие 3

Мощность - вероятность отвергнуть Н 0 в эксперименте, когда Н 0 действительно неверна. Мощность

Т.е., масса землероек в Заповеднике на самом деле больше, чем 90 г. Мощность – вероятность того, что проведённое нами исследование установит этот факт. H 0 H 0 : μ 90 г; H 1 H 1 : μ > 90 г Ошибка 2-го рода + мощность = 1 β + (1-β) =1 (это 2 возможных результата теста, если Н 0 не верна)

Мощность Мощность предполагаемого статистического теста - ключевой элемент планирования исследования «Реальное значение» параметра: Во всей мировой популяции землероек μ = 90 г. Пусть «реальное значение» средней массы в заповеднике = 94 г.

Мощность Нарисуем распределения выборочных средних для μ = 90 и μ = 94 (стандартное отклонение σ = 20). Размер выборки n = 25 зверей

Мощность Если мы поймаем 25 землероек в заповеднике, у нас есть вероятность лишь 24%, что мы найдём различия! Т.к. лишь в 24% случаев среднее из нашей будущей выборки попадёт в критическую область.

Мощность Как увеличить мощность? МОЩНОСТИ Большей МОЩНОСТИ критерия способствуют: 1.Большой размер выборки; 2.Большие различия между популяциями (effect size); 3.Маленькое стандартное отклонение; 4.Большой уровень значимости (α=0.05 а не α=0.01); 5.Выбор одностороннего теста вместо двустороннего

Мощность Если в действительности средняя масса землероек в заповеднике равна 98 г, мощность теста будет уже 64%.

Мощность Здесь стандартное отклонение уменьшили вдвое, и мощность теста тоже стала 64%.

Мощность При планировании исследования мы можем рассчитать размер выборки, необходимый для того, чтобы «разглядеть» предполагаемые различия между выборками. ( Реальные различия нам, очевидно, неизвестны, но можно задать минимальные, имеющие биологическое значение ). Ещё мы можем после проведения теста (в котором мы не отвергли Н 0 ) оценить вероятность ошибки (2-го рода). Пример про пациентов в больнице Как использовать понятие мощности критерия:

Расчёт мощности для двухвыборочного t- критерия для независимых выборок.

ANOVA Сравнение ДВУХ И БОЛЕЕ групп Дисперсионный анализ ANOVA (analysis of variance) Sir Ronald Aylmer FISHER

ANOVA Мы тестировали гипотезы о среднем значении для одной и двух выборок. Как быть, если выборок три или больше? Предположим, у нас 4 группы тигров, которых кормят по- разному. Различается ли средняя масса тигра в этих группах?

ANOVA Формулируем гипотезу Н 0 : Тигров кормили: 1.овощами; 2.фруктами; 3.рыбой; 4.мясом. Зависимая переменная: масса; Независимая (группирующая) – тип еды. Это сложная гипотеза (omnibus hypothesis). Она включает в себя много маленьких гипотез (для 3-х групп – 3, для 4-х – 12 …):... Парные (pairwise) нулевые гипотезы Комплексные (complex) нулевые гипотезы

НЕВЕРНО! Мы отвергаем общую Н 0 гипотезу если верна хотя бы одна из маленьких частных альтернативных гипотез (парных или комплексных)! Какая именно – ANOVA не говорит. Формулируем альтернативную гипотезу: ANOVA ? Н1:Н1: или...

(Ошибка использования критерия Стьюдента) Эффект МНОЖЕСТВЕННЫХ СРАВНЕНИЙ ( при попарном сравнении нескольких групп ). При уровне значимости α =0,05 вероятность ошибиться в хотя бы в одном из k сравнений примерно равна: Р ошибки =1-(1-0,05) k Например, для попарного сравнения 4-х групп k=6, т.е., Р ошибки =1-(1-0,05) 6 = 0,265 (Р ошибки ~0,05k) Почему бы не сравнить группы попарно t-критерием? 1. мы таким образом проверяем не все гипотезы, которые содержатся в сложной гипотезе; 2.резко увеличивается вероятность найти различия, где их нет!! (общая вероятность ошибки 1-го рода). ANOVA

Общая логика ANOVA Формируем 4 независимых случайных выборки и считаем выборочные средние для каждой из них (они оценивают популяционные средние). Если Н 0 верна, выборочные средние должны быть примерно (насколько примерно?) одинаковы. Чем дальше друг от друга отстоят средние значения в группах, тем меньше вероятность, что верна Н 0 (т.е., средние в 4-х популяциях равны) В t-тесте сходство выборочных средних оценить легко – просто посчитать разность. Но с 3-мя (4, 5...) группами так не получится!

ANOVA Пусть все группы будут одинакового размера ( для простоты объяснения ). Если Н 0 верна, то 4 наших группы получены из ОДНОЙ популяции с конкретными средним μ и дисперсией σ 2. Получим 2 независимые оценки σ 2 и сравним их! На этой идее основана АНОВА.

овощифруктымясорыба ,783144,6140,1 1. Оценка общей дисперсии по разбросу МЕЖДУ группами число групп -1 (3 - 1 = 2) средние в каждой группе общее среднее размер группы различия большие - Н 0 не верна df B = k-1 MS B – mean square between groups, оценка расстояния между средними в группах.

ANOVA 2. Оценка общей дисперсии по разбросу ВНУТРИ групп число групп сумма квадратов стандартных отклонений внутри групп статистика: df W = n G - k овощифруктымясорыба ,783144,6140,1 ANOVA

F = между оценка дисперсии между группами внутри оценка дисперсии внутри групп Статистика критерия: F Статистика = параметр выборки – параметр популяции стандартная ошибка параметра выборки Не соответствует общей формуле Приводится как, т.е., например, F 3,60

ANOVA Статистика критерия: F Принципиально ненаправленный (двусторонний) тест

ANOVA источник изменчивости SSdfMSF между SS B df B MS B F внутри SS W df W MS W общее SS T df T ANOVA table SS это суммы квадратов отклонений (sum of squares) : SS B - средних в группах от общего среднего = Effect; SS W – измерений от средних в группах = Error.

ANOVA ANOVA effect size «Практическая значимость» результата: 1. f = 0.1 – маленький эффект f = 0.25 – средний эффект f = 0.4 – большой эффект 2. «доля объяснённой изменчивости» R 2 = 0.01 – маленький эффект R 2 = 0.06 – средний эффект R 2 = 0.14 – большой эффект

ANOVA В каком случае значение F-статистики будет больше?

ANOVA В каком случае значение F-статистики будет больше?

ANOVA В каком случае значение F-статистики будет больше?

ANOVA В каком случае значение F-статистики будет больше?

У нас только одна независимая (группирующая) переменная. Такой анализ называется One-way ANOVA требования и ограничения – как в критерии Стьюдента ANOVA

One-way ANOVA

assumptions: нормальность, гомогенность

One-way ANOVA

мы отвергаем Н 0. тип еды влиял на массу тигров внутри групп между группами

ANOVA post hoc tests Сложная «омнибусная» гипотеза АНОВЫ: Похожа на стрельбу из дробовика: не нужно особенно точно целиться, НО непонятно, какая дробинка попала в какую мишень! Какая же из отдельных гипотез не верна? Ответить поможет апостериорный (post hoc) тест!

Если у нас 3 и более групп: 1.Сначала сравнить ВСЕ группы между собой с помощью ANOVA 2.Если различия есть, использовать методы множественного сравнения (группы сравнивают попарно, но вводят поправки) 3.Если различий нет, мы НЕ ИМЕЕМ ПРАВА ПРЕДПРИНИМАТЬ ДАЛЬНЕЙШИЙ АНАЛИЗ! ANOVA post hoc tests

Поправка Бонферрони Поправка Бонферрони (Bonferroni correction для небольших k) если мы хотим обеспечить уровень значимости α, то в каждом из k сравнений нужно принять уровень значимости α/k Простейшая поправка, но очень грубая! Не работает при большом числе групп – с увеличением их числа очень сильно падает мощность теста. Сегодня почти не используется. ANOVA post hoc tests

Тест Тьюки (Tukey HSD test) Наиболее распространённый и рекомендуемый в литературе тест. Рекомендуется для близких по размеру групп. Проверяет только ПАРНЫЕ (но не комплексные) гипотезы. … ?

ANOVA post hoc tests Другие апостериорные тесты Ньюмена-Кейлса 1.Критерий Ньюмена-Кейлса (Newman-Keuls test) - наименее строгий. Все средние упорядочивают по возрастанию и вычисляют критерий; начинают от сравнения наибольшего с наименьшим. 2.Критерий Шеффе (Scheffe test) – поверяет не только парные гипотезы, но и комплексные. 3.Критерий Даннетта (Dunnett test) – используется для сравнения нескольких групп с контрольной группой.

Поправки для множественных сравнений и сравнений с контрольной группой