Предисловие
Основная цель этой книги
Статистика в информационную эпоху
Структура книги
Условные обозначения, используемые в этой книге
Об авторе
Об иллюстрации на обложке
Глава 1. Основные понятия, связанные с измерениями
Типы измерений
Истинные значения и ошибки
Надежность и валидность
Смещение измерений
Упражнения
Глава 2. Теория вероятности
Основные определения
Определение вероятности
Вычисление вероятности сложных событий
Теорема Байеса
Достаточно разговоров, давайте займемся статистикой!
Упражнения
Заключительное замечание: связь между статистикой и азартными играми
Глава 3. Статистический вывод
Независимые и зависимые переменные
Генеральные совокупности и выборки
Теорема центрального предела
Проверка гипотез
Доверительные интервалы
Значения р
Z-статистика
Преобразования данных
Упражнения
Глава 4. Описательная статистика и графическое представление данных
Меры центральной тенденции
Меры разброса
Выбросы
Графические методы
Столбчатые диаграммы
Двумерные диаграммы
Упражнения
Глава 5. Категориальные данные
Распределение хи-квадрат
Тест хи-квадрат
Точный тест Фишера
Парный тест МакНемара
Пропорции: большие выборки
Корреляции для категориальных данных
Порядковые переменные
Шкала Лайкерта и шкалы семантического дифференциала
Упражнения
Глава 6. t-критерий
Одновыборочный f-критерий
f-критерий для независимых выборок
f-критерий для парных измерений
f-критерий для выборок с неравной дисперсией
Упражнения
Глава 7. Коэффициент корреляции Пирсона
Диаграмма рассеяния
Коэффициент корреляции Пирсона
Коэффициент детерминации
Упражнения
Глава 8. Введение в регрессию и дисперсионный анализ
Линейная регрессия
Расчет простой регрессии вручную
Упражнения
Глава 9. Многофакторный дисперсионный анализ и ковариационный анализ
ANCOVA
Упражнения
Глава 10. Множественная линейная регрессия
Упражнения
Глава 11. Логистическая, мультиномиальная и полиномиальная регрессия
Мультиномиальная логистическая регрессия
Полиномиальная регрессия
Переподгонка
Упражнения
Глава 12. Факторный, кластерный и дискриминантный анализы
Кластерный анализ
Дискриминантный анализ
Упражнения
Глава 13. Непараметрическая статистика
Зависимые выборки
Упражнения
Глава 14. Статистика для бизнеса и контроля качества
Временные ряды
Анализ решений
Улучшение качества
Упражнения
Глава 15. Статистика в медицине и эпидемиологии
Отношение рисков
Отношение шансов
Искажение, послойный анализ и коэффициент Мантеля-Гензеля
Анализ мощности
Вычисление размера выборки
Упражнения
Глава 16. Статистика в образовании и психологии
Стандартизированные баллы
Разработка тестов
Классическая теория тестов: модель истинных баллов
Надежность теста
Показатели внутренней непротиворечивости
Анализ заданий
Современная теория тестирования
Упражнения
Глава 17. Управление данными
Кодификатор
Прямоугольный файл данных
Электронные таблицы и реляционные базы данных
Проверка нового файла данных г
Текстовые и числовые данные
Пропущенные данные
Глава 18. Планирование исследования
Наблюдения
Квазиэкспериментальные исследования
Эксперименты
Сбор экспериментальных данных
Пример экспериментального дизайна
Глава 19. Представление статистических материалов
Глава 20. Оценка работ по статистике других авторов
Общие проблемы
Быстрая проверка
Спорные вопросы планирования исследования
Описательная статистика
Логическая статистика
Приложение А. Обзор основных математических понятий
Приложение В. Краткий обзор статистических пакетов
Приложение С. Ссылки
Приложение D. Таблицы вероятностей для распространенных типов распределений
Приложение Е. Интернет-ресурсы
Приложение F. Словарь статистических терминов
Текст
                    СТАТИСТИКА
для всех
Сара Бослаф
Як O'REILLY'


Сара Бослаф СТАТИСТИКА ДЛЯ ВСЕХ
STATISTICS IN A NUTSHELL Second Edition Sarah Boslaugh O'REILLY* Beijing • Cambridge • Farnham • Koln • Sebastopol • Tokyo
СТАТИСТИКА ДЛЯ ВСЕХ Сара Бослаф щ& Москва, 2015
УДК 311:004.9 ББК 60.6с515 Б85 Б85 Сара Бослаф Статистика для всех. / Пер. с англ. П. А. Волкова, И. М. Флямер, М. В. Ли- берман, А. А. Галицына. - М.: ДМК Дресс, 2015. - 586 с: ил. ISBN 978-5-94074-969-1 Нужно овладеть статистикой по долгу службы? Хотите получить помощь при сдаче курса статистики? «Статистика для всех» - ясное и краткое введение и руководство для всех новичков. Тщательно переработанное и расширенное, это издание поможет вам глубоко понять статистику, избегая ошеломляющей сложности многих университетских учебников. Эта книга - руководство, которое можно приспосабливать к имеющимся знаниям и нуждам отдельных читателей. Некоторые главы посвящены темам, которые часто отсутствуют в вводных книгах по статистике. Каждая глава представляет собой простые для понимания объяснения, дополненные диаграммами, формулами, задачами с решениями и взятыми из практики заданиями. Если вы хотите не ломая голову применять распространенные методы анализа данных и узнать о разнообразных подходах - эта книга для вас. УДК 311:004.9 ББК 60.6с515 Original English language edition published by O'Reilly Media, Inc., 1005 Gravcnstcin Highway North, Scbastopol, CA 95472. Copyright © 2013 Sarah Boslaugh. All rights reserved. Russian-language edition copyright © 2014 by DMK Press. All rights reserved. Все права защищены. Любая часть этой книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами без письменного разрешения владельцев авторских прав. Материал, изложенный в данной книге, многократно проверен. Но, поскольку вероятность технических ошибок все равно существует, издательство не может гарантировать абсолютную точность и правильность приводимых сведений. В связи с этим издательство пс песет ответственности за возможные ошибки, связанные с использованием книги. ISBN 978-1-449-31682-2 (англ.) ISBN 978-5-94074-969-1 (рус.) © 2013 Sarah Boslaugh. All rights reserved © Оформление, перевод па русский язык, издание, ДМК Пресс, 2015
ОГЛАВЛЕНИЕ Предисловие 9 Ну хорошо, и что же такое статистика? 9 Основная цель этой книги 12 Статистика в информационную эпоху 13 Структура книги 14 Условные обозначения, используемые в этой книге 18 Благодарности 19 Об авторе 19 Об иллюстрации на обложке 20 Глава 1. Основные понятия, связанные с измерениями 21 Измерение 22 Типы измерений 22 Истинные значения и ошибки 29 Надежность и валидность 31 Смещение измерений 36 Упражнения 40 Глава 2. Теория вероятности 43 О формулах 44 Основные определения 45 Определение вероятности 52 Вычисление вероятности сложных событий 54 Теорема Байеса '. 56 Достаточно разговоров, давайте займемся статистикой! 59 Упражнения 61 Заключительное замечание: связь между статистикой и азартными играми 65 Глава 3. Статистический вывод 67 Распределения вероятностей 68 Независимые и зависимые переменные 76 Генеральные совокупности и выборки 77 Теорема центрального предела 82 Проверка гипотез 87 Доверительные интервалы 91 Значения р 92 Z-статистика 93 Преобразования данных 96 Упражнения 99
¦Л|НННН'! Оглавление Глава 4. Описательная статистика и графическое представление данных 107 Генеральные совокупности и выборки 107 Меры центральной тенденции 108 Меры разброса 115 Выбросы 121 Графические методы 122 Столбчатые диаграммы 125 Двумерные диаграммы 136 Упражнения 142 Глава 5. Категориальные данные 146 RxC-таблицы 147 Распределение хи-квадрат 150 Тест хи-квадрат 152 Точный тест Фишера 158 Парный тест МакНемара 160 Пропорции: большие выборки 162 Корреляции для категориальных данных 164 Порядковые переменные 167 Шкала Лайкерта и шкалы семантического дифференциала 171 Упражнения 173 Глава 6. t-критерий 179 f-распределение 179 Одновыборочный f-критерий 182 f-критерий для независимых выборок 184 f-критерий для парных измерений 188 f-критерий для выборокс неравной дисперсией 191 Упражнения 192 Глава 7. Коэффициент корреляции Пирсона 196 Связь 196 Диаграмма рассеяния 198 Коэффициент корреляции Пирсона 205 Коэффициент детерминации 210 Упражнения 211 Глава 8. Введение в регрессию и дисперсионный анализ 215 Общая линейная модель 215 Линейная регрессия 217 Дисперсионный анализ (ANOVA) 228 Расчет простой регрессии вручную 235 Упражнения 237 Глава 9. Многофакторный дисперсионный анализ и ковариационный анализ 245 Многофакторный дисперсионный анализ 245 ANCOVA 254 Упражнен ия 260
Оглавление . HHHHHl^l Глава 10. Множественная линейная регрессия 265 Модели множественной регрессии 265 Упражнения 291 Глава 11. Логистическая, мультиномиальная и полиномиальная регрессия 296 Логистическая регрессия 296 Мультиномиальная логистическая регрессия 303 Полиномиальная регрессия 306 Переподгонка 310 Упражнения 312 Глава 12. Факторный, кластерный и дискриминантный анализы... 315 Факторный анализ 315 Кластерный анализ 323 Дискриминантный анализ 327 Упражнения 330 Глава 13. Непараметрическая статистика 332 Независимые выборки 333 Зависимые выборки 341 Упражнения 346 Глава 14. Статистика для бизнеса и контроля качества 349 Индексы 349 Временные ряды 354 Анализ решений 358 Улучшение качества 363 Упражнения 371 Глава 15. Статистика в медицине и эпидемиологии 376 Показатели заболеваемости 376 Отношение рисков 388 Отношение шансов 393 Искажение, послойный анализ и коэффициент Мантеля-Гензеля 396 Анализ мощности 401 Вычисление размера выборки 404 Упражнения 407 Глава 16. Статистика в образовании и психологии 411 Перцентили 412 Стандартизированные баллы 414 Разработка тестов 417 Классическая теория тестов: модель истинных баллов 420 Надежность теста 421 Показатели внутренней непротиворечивости 422 Анализ заданий 426 Современная теория тестирования 430 Упражнения 435 Глава 17. Управление данными 437 Общий подход, а не набор методов 438
¦!¦¦¦ Иерархия 439 Кодификатор 439 Прямоугольный файл данных 442 Электронные таблицы и реляционные базы данных 444 Проверка нового файла данных г 445 Текстовые и числовые данные 449 Пропущенные данные 450 Глава 18. Планирование исследования 453 Словарь основных терминов 454 Наблюдения 457 Квазиэкспериментальные исследования 459 Эксперименты 465 Сбор экспериментальных данных 467 Пример экспериментального дизайна 477 Глава 19. Представление статистических материалов 479 Общие замечания 480 Глава 20. Оценка работ по статистике других авторов 488 Оценка статьи в целом 488 Ошибки в применении статистики 490 Общие проблемы 490 Быстрая проверка 492 Спорные вопросы планирования исследования 495 Описательная статистика 498 Логическая статистика 503 Приложение А. Обзор основных математических понятий 506 Приложение В. Краткий обзор статистических пакетов 530 Приложение С. Ссылки 545 Приложение D. Таблицы вероятностей для распространенных типов распределений 559 Приложение Е. Интернет-ресурсы 571 Приложение F. Словарь статистических терминов 576
ПРЕДИСЛОВИЕ Первое издание «Статистики для всех» пользовалось оглушительным успехом, однако любую книгу можно улучшить, и я благодарна за предоставленную возможность переработать ее. Мой принцип изложения не изменился: эта книга гораздо больше предназначена тем, кто хочет размышлять и понимать результаты статистической обработки данных, чем тем, кто хочет узнать, как пользоваться конкретным статистическим пакетом программ или углубиться в математические основы при помощи статистических формул. Эта книга также несколько отличается от других изданий в этой серии «Руководств для всех» издательства О'Рейлли - она действительно находится где-то между руководством для тех, кто уже знаком со статистикой, и учебником для людей, которые только начали осваивать этот предмет. Несмотря на продолжающееся проникновение статистики во многие области нашей жизни, одна вещь осталась неизменной: сказать, что ты работаешь статистиком, - по-прежнему верный способ испортить приятную беседу на вечеринке. Почему-то оказывается, что это побуждает людей рассказать мне, как они ненавидели обязательные занятия по статистике в колледже, или заставляет их процитировать старую шутку, ставшую популярной благодаря Марку Твену, о том, что существует три вида лжецов: простые лжецы, отъявленные лжецы и статистики. Лично я нахожу статистику захватывающей и обожаю работать в этой области. Я также люблю преподавать статистику, и мне нравится думать, что я заражаю своим энтузиазмом окружающих. Хотя часто это превращается в напряженную битву; многие считают, что статистика - это не более чем набор хитростен и подтасовок для искажения реальности, которые нужны, чтобы одурачить других людей. Другие занимают противоположную позицию, полагая, что статистика - это набор волшебных приемов, которые избавят вас от необходимости размышлять над данными. Ну хорошо, и что же такое статистика? Прежде чем погрузиться в технические детали изучения и использования статистики, вернемся на минуту назад и обсудим, что можно подразумевать под словом «статистика». Не беспокойтесь, если вы сразу не поймете всю терминологию, она прояснится в ходе чтения этой книги.
¦ш Предисловие Когда люди говорят о статистике, они обычно имеют в виду один или несколько пунктов из приведенного ниже перечня: 1. Числовые данные, такие как уровень безработицы, число людей, умирающих ежегодно от пчелиных укусов, или численность жителей г. Нью-Йорк в 2006 году по сравнению с 1906 годом. 2. Числа, использованные для описания выборок, в противоположность параметрам (числам, характеризующим генеральную совокупность). Например, рекламная компания может интересоваться средним возрастом подписчиков журнала «Спорте Иллюстрейтед» (Sports Illustrated)1. Для ответа на этот вопрос компания может создать случайную выборку подписчиков, вычислить среднее значение для этой выборки (статистику) и использовать его как оценку среднего значения для всей генеральной совокупности подписчиков (параметра). 3. Определенные методы анализа данных и результаты такого анализа, такие как ^-статистика или статистика хи-квадрат. 4. Область науки, которая разрабатывает и использует математические методы для описания данных и формирования суждений о них. Тот тип статистики, о котором говорится в первом определении, не имеет прямого отношения к этой книге. Если вы просто хотите найти последние данные о безработице, здоровье или о любой из множества других тем, по которым правительство или другие организации регулярно публикуют статистические данные, вам лучше всего проконсультироваться у библиотекаря или у специалиста в данной области. Если же вы хотите узнать, как интерпретировать эти данные (понять, например, почему среднее арифметическое часто бывает плохим показателем средней тенденции, или сравнить исходные и стандартизованные показатели смертности), то «Статистика для всех» точно вам поможет. Понятия, использованные во втором определении, будут обсуждаться в главе 3, посвященной предсказательным статистикам. Однако эти термины пронизывают всю книгу. Это отчасти терминологические тонкости (статистики - это числа, которые описывают выборки, а параметры характеризуют генеральные совокупности), которые тем не менее подчеркивают ключевой момент применения статистики. Идея использования информации, полученной при изучении выборки, для формирования суждений обо всей генеральной совокупности лежит в основе всей предсказательной статистики, а предсказательная статистика - это основная тема этой книги (как и большинства других книг, посвященных статистике). Третье определение также является ключевым для большинства глав этой книги. Процесс изучения статистики до некоторой степени сводится к освоению определенных статистических методов, включая такие вопросы, как способы вычислений и их интерпретации, выбор подходящей статистики в конкретной ситуации и так далее. На самом деле многие люди, начинающие изучать статистику, держат в голове в основном это определение. Освоить статистику для них означает узнать, 1 Еженедельный иллюстрированным спортивный журнал, крупнейшее и самое популярное спортивное iшлапне в США. - Прим. пер.
Ну хорошо, и что же такое статистика? ¦НШ как выполнять набор статистических процедур. Это не столько неверный подход к статистике, сколько неполный. Умение применять ряд методов статистической обработки данных - это необходимая составляющая деятельности статистика, но это далеко не все, что нужно. Более того, с тех пор как компьютерные программы сделали применение методов статистического анализа данных существенно проще для всех вне зависимости от уровня математической подготовки, необходимость в понимании и интерпретации результатов статистического анализа значительно превысила необходимость знать, как проводить сами вычисления. Четвертое определение мне ближе всего, поскольку я избрала статистику своей профессией. Если вы уже студент или закончили вуз, вам, вероятно, знакомо это определение, поскольку в наши дни во многих университетах и колледжах или есть отдельный факультет статистики, или же статистика предлагается как одно из направлений специализации на математическом факультете. Статистика все чаще преподается и в средней школе, а в США число учащихся, выбравших классы с углубленным изучением статистики, быстро растет. Статистика в университетах - это не только курс для тех, кто решил специализироваться в этой области. На многих факультетах от студентов требуется прослушать один или несколько курсов по статистике, помимо тех предметов, на которых они специализируются. Кроме того, полезно знать, что многие важные методы современной статистики были разработаны людьми, которые изучили и использовали статистику во время своей работы в другой области знаний. Стефан Рауденбуш (Stephen Raudenbush), создатель иерархического линейного моделирования, изучал основы политического анализа и оценочных исследований в Гарварде, а Эдвард Тыофт (Edward Tufte), наверное, лучший специалист в мире по статистической графике, начинал свою карьеру как политолог: он защитил докторскую диссертацию в Йельском университете по американским движениям в защиту гражданских прав. Поскольку статистика все чаще применяется во многих специальностях и на всех уровнях от управляющих до рядовых рабочих, базовые знания в этой области необходимо получить многим людям, давно закончившим школу. Они часто недостаточно обеспечены учебниками, предназначенными для вводных университетских курсов, а эти пособия слишком специализированы, слишком много внимания уделяют вычислениям и слишком дороги. Наконец, статистику нельзя отдать на откуп статистикам, поскольку каждому из нас следует принимать участие в современной общественной жизни, в частности понимать многое из того, что вы прочли в газетах и услышали по радио или телевизору. Рабочие знания по статистике - лучшее противоядие от вводящих в заблуждение или совершенно ложных числовых данных (исходящих или от политиков, или рекламных агентов, или от реформаторов социальной сферы), которые, похоже, составляют постоянно возрастающую часть ежедневно поглощаемой нами информации. Вот почему классическая книга Дэррила Хаффа (Darryl Huff), опубликованная в 1954 г., «Как лгать при помощи статистики» ("How to Lie with Statistics") до сих пор пользуется спросом. Статистику легко использовать неправильно, стандартные способы искажения статистических данных не меняются на
|[H|f &!' Предисловие протяжении десятилетий, а лучшая защита против тех, кто хотел бы солгать при помощи статистики, - стать более образованным, чтобы быть способным выявить лжецов и немедленно остановить их. Основная цель этой книги В продаже существует уже столько книг по статистике, что вы могли бы сильно удивиться, почему я чувствую необходимость добавить еще одну книгу к этому множеству. Основная причина заключается в том, что я не нашла ни одной книги по статистике, которая отвечала бы задачам, поставленным мною в «Статистике для всех». На самом деле, если позволите на мгновение впасть в поэтическое настроение, ситуация состоит в том, что, перефразируя состояние старого морехода Кольриджа, «книги, повсюду книги, но ни одной, по которой можно научиться»2. Проблемы, которые я постаралась решить в этой книге, таковы: • нужда в книге, которая была бы посвящена использованию и пониманию статистики в контексте исследований или прикладной науки, не как отдельного набора математических методов, а как части процесса обоснования заключений при помощи цифр; • необходимость включения таких тем, как теория измерений и управление данными во введение в статистику; • необходимость в книге по статистике, которая не была бы посвящена одной конкретной области знаний. Простейшая статистика в основном одинакова для всех дисциплин (тест Стыодента работает одинаково для данных из области медицины, финансов или криминальной юстиции), так что незачем умножать тексты, представляя одну и ту же информацию немного в другом ракурсе; • нужда во введении в статистику, которое было бы компактным, недорогим и простым для понимания начинающих, избегая снисходительного тона или излишнего упрощения. Так кто же предполагаемые читатели «Статистики для всех?» Я вижу три группы читателей, для которых эта книга будет наиболее полезной: • учащиеся, которые посещают вводные курсы по статистике в средней школе, колледжах и университетах; • взрослые люди, которым нужно освоить статистику для выполнения текущих задач или для карьерного роста; • те, кому интересно узнать, что такое статистика, из любопытства. В этой книге я делаю акцент не на конкретные методы, хотя многим из них вы научитесь в процессе чтения, а на обосновании заключений при помощи статистики. Можно сказать, что цель этой книги в меньшей степени заключается в том, чтобы производить статистические вычисления, и в большей степени, - чтобы мыслить статистически. Что это значит? Мышление с использованием чисел тре- 2 Имеются в виду строки поэмы английского поэта Сэмюэла Кольриджа «Сказание о старом мореходе»: «Вода, пода, одна вода/Мы ничего не пьем» (вольный перевод Ы. С. Гумилева). - Прим. пер.
Статистика в информационную эпоху ¦¦¦а бует определенных навыков. В частности, я делаю упор на осмысление данных и использование статистики для облегчения этого процесса. Во многих главах приведены практические задания, которые задуманы как повод пересмотреть представленный материал и подумать о ключевых понятиях, введенных в данной главе, они не требуют бездумных вычислений. Весь материал «Статистики для всех» был переработан, и многие главы дополнены новыми примерами и упражнениями. В частности, добавлены примеры работы с пропорциями, а также примеры с использованием реальных наборов данных из таких источников, как Проект ООН по развитию человечества (United Nations Human Development Project) и Система слежения за факторами поведенческого риска (Behavioral Risk Factor Surveillance System). Оба этих набора данных можно бесплатно скачать из Интернета, так что студенты могут экспериментировать с ними, а также воспроизвести процедуры, описанные в этой книге. В это издание также добавлена глава 19. Я сделала это, потому что заметила, что умение доводить до сведения окружающих статистическую информацию по меньшей мере так же важно, как и способность выполнять статистические вычисления, в особенности для тех, кто учится статистике для своей профессиональной деятельности. Также добавлено несколько новых приложений, в основном для того, чтобы сделать книгу более самодостаточной и дружественной к читателю. Эти приложения включают вероятностные таблицы для самых распространенных типов распределений, перечень информационных ресурсов Интернета, словарь и таблицу статистических обозначений. Статистика в информационную эпоху Стало модным говорить, что мы живем в информационную эпоху, когда люди получают и распространяют столько сведений, что никто не может быть в курсе всего. Это клише основано на правдивом наблюдении; общество «тонет» в данных, и, похожа, эта проблема становится только острее. В этом есть свои плюсы и свои минусы. К положительным моментам можно отнести то, что широкий доступ к компьютерным технологиям и электронным средствам хранения и распространения данных облегчил доступ к информации, так что теперь у исследователей снизилась потребность в поездках в определенную библиотеку или архив для работы с печатными источниками. Тем не менее данные сами по себе ничего не значат. Они должны быть упорядочены и интерпретированы людьми, чтобы обрести смысл, так что полноценная жизнь в информационную эпоху подразумевает глубокое понимание данных, включая способы их сбора, анализа и интерпретации. И поскольку одни и те же данные могут быть часто интерпретированы разными способами для обоснования совершенно противоположных заключений, даже людям, которые сами не работают в области статистики, нужно понимать, как статистика работает и как выявить безосновательные заявления и аргументы, основанные на неправильном использовании данных.
ЯШНН1' -i Предисловие Структура книги «Статистика для всех» состоит из трех частей: вводная информация (главы 1-4), где закладывается необходимое основание для понимания последующих глав; методы предсказательной статистики (главы 5-13); специальные методы, которые используются в различных областях науки (главы 14-16), и вспомогательные темы, которые часто являются частью работы статистика, даже если они не относятся к статистике как таковой (главы 17-20). Вот более детальное содержание глав. Глава 1. Основные понятия, связанные с измерениями Обсуждаются основополагающие вопросы статистики, включая шкалы измерений, операционализацию, опосредованное измерение, случайные и систематические ошибки, надежность и валидность, а также типы смещения измерений. Глава 2. Теория вероятности Описаны основные понятия теории вероятности, включая испытания, события, независимость, взаимное исключение, правила аддитивности и перемножения, комбинации и перестановки, условную вероятность и теорему Байеса. Глава 3. Статистический вывод Введены некоторые базовые понятия статистического вывода, включая распределение вероятностей, зависимые и независимые переменные, генеральные совокупности и выборки, распространенные способы создания выборок, центральную предельную теорему, проверку гипотез, ошибки первого и второго типа, доверительные интервалы и значения р, а также преобразование данных. Глава 4. Описательные статистики и графическое представление данных Дана информация о распространенных показателях центральной тенденции и разброса, включая среднее арифметическое, медиану, моду, абсолютный размах, межквартильный размах, дисперсию и стандартное отклонение, а также обсуждаются выбросы. В этой главе рассмотрены наиболее часто используемые графические способы представления статистической информации, включая частотные таблицы, столбчатые и круговые диаграммы, диаграммы Парето, диаграммы типа «стебель с листьями», диаграммы размаха и рассеяния, а также линейные графики. Глава 5. Категориальные данные Представлен обзор концепций категориальных и интервальных данных, введено понятие таблицы сопряженности. В этой главе обсуждаются такие статистические методы, как тест хи-квадрат на независимость, тест равенства пропорций, критерий согласия, точный тест Фишера, тест МакНемара, тесты пропорций для больших выборок, а также меры сопряженности для категориальных и порядковых данных.
Структура книги ¦a Глава 6. t-критерий Обсуждается распределение Стыодента, теория и применение теста Стыо- дента для одной выборки, для двух независимых выборок, для результатов повторных измерений и в случае неравенства дисперсий. Глава 7. Коэффициент корреляции Пирсона При помощи диаграмм, демонстрирующих разную силу связи между двумя переменными, вводится понятие связи, также обсуждается коэффициент корреляции Пирсона и коэффициент детерминации. Глава 8. Введение в регрессию и дисперсионный анализ Показано отношение линейной регрессии и дисперсионного анализа к концепции обобщенной линейной модели, и обсуждаются допущения, которые принимаются при использовании этих видов анализа данных. Обсуждается и на примерах разбирается применение простой регрессии (для двух переменных), однофакторного дисперсионного анализа и апостериорного тестирования гипотез. Глава 9. Многофакторный дисперсионный анализ и ковариационный анализ Обсуждаются более сложные схемы дисперсионного анализа, включая двух- и трехфакторный дисперсионный анализ и ковариационный анализ, а также поднимается тема взаимодействия переменных. Глава 10. Множественная линейная регрессия Регрессионная модель расширяется за счет включения множественных независимых переменных. Рассмотрены связи между независимыми переменными, стандартизованные и нестандартизованные коэффициенты, фиктивные переменные, способы построения моделей, а также отклонения от допущений, принимаемых при линейной регрессии, включая нелинейность, автокорреляцию и гетероскедатичность. Глава 11. Логистическая, мультиномиальная и полиномиальная регрессия Расширяет применение регрессионного анализа до бинарных данных (логистическая регрессия), категориальных данных (мультиномиальная регрессия) и нелинейных моделей (полиномиальная регрессия), также обсуждается проблема избыточной подгонки модели. Глава 12. Факторный, кластерный и дискриминантный анализ Описаны три сложные статистические процедуры: факторный, кластерный и дискриминантный анализ, обсуждаются группы задач, для решения которых эти методы могут быть полезны. Глава 13. Непараметрическая статистика Обсуждается, когда нужно использовать непараметрическую статистику вместо параметрической, а также описаны методы для внутри- и межгрупповых сравнений, включая тесты Вилкоксона, Манна-Уитни, Краскел- Уоллиса, Фридмана, критерий знаков и медианный критерий. Глава 14. Статистика для бизнеса и контроля качества Приведены статистические методы, которые часто используются в бизнесе
Предисловие и при контроле качества. Описанные аналитические и статистические процедуры включают в себя индексы, временные серии, критерии принятия решений минимакс, максимакс и максимин, принятие решений в условиях риска, деревья решений и контрольные карты. Глава 15. Статистика в медицине и эпидемиологии Вводятся понятия и демонстрируются статистические методы, которые особенно актуальны для медицины и эпидемиологии. В главу вошли такие темы, как определение и использование отношений, пропорций и долей, показатели заболеваемости и распространения, исходные и стандартизованные данные, прямая и непрямая стандартизация, меры риска, искажающие факторы, коэффициент несогласия (простой и Мантеля-Гензеля), а также вычисления точности, мощности и объема выборок. Глава 16. Статистика в образовании и психологии - Обсуждаются концепции и статистические методы, наиболее часто используемые в образовании и психологии, такие как перцентили, стандартизованные баллы, методы создания тестов, классическая теория тестов, надежность комбинированного теста, меры внутренней согласованности, включая коэффициент альфа, а также методы анализа заданий. Также приводится обзор современной теории тестирования. Глава 17. Управление данными Обсуждаются практические вопросы управления данными, включая кодификацию, группировку данных, методы устранения ошибок в файлах, методы хранения данных в цифровом виде, текстовые и числовые данные и пропущенные значения. Глава 18. Планирование исследования Обсуждаются наблюдения и эксперименты, слагаемые хорошего планирования исследований, этапы сбора данных, типы валидности и способы ограничить или предотвратить искажение результатов. Глава 19. Представление статистических материалов Рассмотрены основные проблемы представления статистической информации различной аудитории, затем более детально обсуждается изложение результатов для специализированных журналов, для общественности и для коллег по работе. Глава 20. Оценка работ по статистике других авторов Содержит руководство по проверке правильности использования статистики, включая список контрольных вопросов, которые помогут оценить представление статистических данных, и примеры манипуляций с корректными статистическими методами для подтверждения спорных заключений. В шести приложениях приведены сведения, которые лежат в основе материала, изложенного в основной части книги, а также указаны источники дополнительной информации:
Структура книги Ш Приложение А. Обзор основных математических понятий Содержит материалы для самопроверки и обзор основ арифметики и алгебры для тех, у кого остались лишь ускользающие воспоминания о последнем курсе по математике. Обсуждаются арифметические правила, экспоненты, корни и логарифмы, методы решения уравнений и систем уравнений, дроби, факториалы, перестановки и комбинации. Приложение В. Краткий обзор статистических пакетов Представлен обзор некоторых наиболее распространенных компьютерных программ, используемых для статистических вычислений, приведены примеры простейшего анализа данных в каждой из программ, обсуждаются сильные и слабые стороны каждой из них. Рассмотрены такие программы, как Minitab, SPSS, SAS и R; также обсуждается использование Microsoft Excel (это не статистический пакет) для статистического анализа. Приложение С. Ссылки Аннотированный список литературы к каждой главе включает бумажные публикации и сайты в Интернете, которые упоминаются в тексте, и прочие источники, с которых хорошо начать углубленное изучение соответствующей темы. Приложение D. Таблицы вероятностей для распространенных типов распределений Приведены таблицы для большинства широко используемых статистических распределений - нормальное, Стьюдента, биномиальное и хи-квадрат. Даже в эпоху компьютера и Интернета стоит знать, как читать таблицы распределений, и удобно иметь их под рукой в печатном виде. Приложение Е. Интернет-ресурсы Приведен перечень лучших сайтов в Интернете, которые пригодятся тем, кто учит, использует или преподает статистику. Источники разделены на общие руководства, словари, вероятностные таблицы, калькуляторы и учебники. Приложение F. Словарь статистических терминов Сюда вошли греческий алфавит (проклятие многих начинающих статистиков), расшифровка статистических обозначений и краткий словарь для большинства статистических терминов, использованных в этой книге. Эта книга - руководство, которое можно приспосабливать к имеющимся знаниям и нуждам отдельных читателей. Некоторые главы посвящены темам, которые часто отсутствуют в вводных книгах по статистике, однако я считаю их важными. Это касается управления данными, изложения статистических результатов и чтения статистических статей, написанных другими людьми. Эти главы также послужат полезным справочным материалом для людей, которые внезапно обнаружат, что их назначили разбираться с данными по проекту, или которым было поручено, более или менее неожиданно, представить статистические данные о работе их команды. Ни один из этих сценариев, к сожалению, не слишком редок.
m Предисловие Классификация сведений на элементарные и сложные зависит от личных знаний и задач. Я написала «Статистику для всех» так, чтобы она отвечала задачам многих категорий читателей. Из-за этого невозможно расположить материал в идеальной последовательности, так, чтобы это удовлетворяло запросам каждого. Это соображение приводит нас к важному-заключению: нет никакой необходимости читать главы в том порядке, в каком они представлены здесь. В статистике есть много дилемм типа «что было раньше, яйцо или курица?». К примеру, вы не можете спланировать эксперименты, не зная, какие типы статистической обработки данных вам доступны, при этом вы не сможете понять, как применяется статистика, без каких-либо знаний о планировании исследований. Сходным образом может казаться логичным, что тот, кто занялся управлением данными, уже имеет опыт статистического анализа, однако я консультировала многих лаборантов и руководителей проектов, которым было поручено разобраться с объемными наборами данных до того, как они прослушали хотя бы один курс по статистике. Так что читайте эти главы в том порядке, который облегчает выполнение стоящих перед вами задач, и не стесняйтесь пропустить что-то и сосредоточиться па том, что отвечает вашим конкретным потребностям. Не весь материал этой книге и актуален для каждого, это наиболее очевидно для глав 14-16, которые посвящены определенным областям науки (бизнес и контроль качества, медицина и эпидемиология, образование и психология соответственно). Однако полезно быть открытым всему новому, если дело касается знания статистических методов. В данный момент вы можете быть уверенным, что вам никогда не понадобится проводить нспараметрический тест или логистический регрессионный анализ, но вы никогда не знаете, что пригодится в будущем. Также неправильно слишком четко делить методы по областям знаний; поскольку статистические методы в конечном счете имеют дело с числами, а не с содержанием; методы, разработанные в одной области знаний, часто пригождаются в другой. Например, контрольные карты (обсуждаемые в главе 14) были разработаны для производственных нужд, а теперь широко используются во многих областях от медицины до образования, тогда как коэффициент несогласия (глава 15), разработанный в эпидемиологии, теперь применяется ко всем типам данных. Условные обозначения, используемые в этой книге В этой книге принята следующая система обозначений: Обычный текст Обозначает названия пунктов меню, опций, кнопок на экране и клавишей клавиатуры (таких как Alt и Ctrl). Курсив Обозначает новые термины, названия файлов и их расширения, путь к файлам, директории и утилиты Unix.
Об авторе IDS Нижнее подчеркивание Ссылки на страницы в Интернете, адреса электронной почты. Эта пиктограмма обозначает совет, предложение или общее замечание. \М ^?***\ Эта пиктограмма обозначает предостережение. Благодарности На обложке указан только один автор, однако многие люди приложили руку к созданию этой книги. Я хотела бы поблагодарить моего агента Нейла Залкинда (Neil Salkind) за постоянные советы и поддержку; команду О'Рейлли, включая Мэри Трезелер (Магу Treseler), Сару Шнейдер (Sarah Schneider) и Меган Бланше (Meghan Blanchette), а также всех статистиков, которые помогали при техническом рецензировании текста. Я бы также хотела поблагодарить моих далеких от статистики друзей, которые постоянно требовали от меня объяснять им статистические концепции, что подтолкнуло меня к написанию этой книги, и моих коллег из центра устойчивой журналистики в государственном университете Кеннесо (Center for Sustainable Journalism at Kennesaw State University) за их терпение и снисходительность во время моего труда над переработкой этой книги. От всей души хочу поблагодарить мою бывшую коллегу Ранд Росс (Rand Ross) из университета Вашингтона в Сент-Луисе (Washington University in St. Louis) за то, что она помогала мне не сойти с ума во время написания первого издания этой книги, и моего мужа Дэна Пека (Dan Peck) за то, что он был воплощением современного супруга, готового всегда оказать поддержку. Об авторе Сара Бослаф (Sarah Boslaugh) получила докторскую степень по исследованиям и оцениванию в городском университете Нью-Йорка. В течение 20 лет она работала как статистический аналитик в различных профессиональных организациях, включая городской совет Нью-Йорка по образованию (New York City Board of Education), исследовательское отделение (Institutional Research Office) городского университета Нью-Йорка, медицинский центр Монтефиоре (Montefiore Medical Center), отдел социального обеспечения в Вирджинии (Virginia Department of Social Services), медицинская организация Магеллан (Magellan Health Services), медицинская школа при университете г. Вашингтон (Washington University School of Medicine) и организации BJC HealthCare. Она преподавала статистику в разных
шшшшв Предисловие аудиториях, а сейчас работает составителем заявок на гранты в государственном университете Кепнесоу (Kennesaw). Сара Бослаф уже опубликовала две книги: «Справочник по программированию в SPSS средней сложности: использование программного кода для управления данными» ("An Intermediate Guide to SPSS Programming: Using Syntax for Data Management", SAGE Publications, 2004) и «Вторичные источники данных в здравоохранении» ("Secondary Data Sources for Public Health", Cambridge University Press, 2007), а также редактировала «Энциклопедию эпидемиологии» ("Encyclopedia of Epidemiology" for SAGE Publications, 2007). В 2013 году издательством SAGE опубликована её новая книга, - «Системы здравоохранения во всем мире: сравнительный справочник» ("Healthcare Systems Around the World: A Comparative Guide"). Об иллюстрации на обложке На обложке книги «Статистика для всех» изображен колючий краб-паук (Maja squinado, Maja brachydactyld). Этот краб обитает в северо-восточной части Атлантического океана и в Средиземном море. Это самый крупный краб в Европе, диаметр его карапакса колеблется от 5 до 17 см. Его легко отличить от других крабов по двум похожим на рога шипам между глаз и шести, или около того, шипикам расположеным на каждой стороне панциря. Панцирь краба-паука красноватый с розовыми, коричневыми или желтыми отметинами и вся его поверхность покрыта мелкими шипами, как следует из названия животного. Крабы-пауки иногда выползают на берег, но предпочитают глубины от 30 до 180 м. Это одиночные животные, за исключением периода спаривания, когда они образуют большие скопления. В годы, когда эти крабы особенно многочисленны, они могут досаждать ловцам омаров, поскольку могут разорять ловушки. Крабы- пауки сами являются объектом промысла из-за вкусного мяса конечностей. Самцы крабов-пауков - активные хищники; их, кажущиеся слабыми конечности, на самом деле довольно мощные и могут открывать раковины небольших моллюсков, которых крабы поедают. Их конечности имеют два сочленения, так что крабы-пауки способны достать клешнями до своей спины, чтобы ущипнуть обидчика, хотя в целом безопаснее его держать за створки панциря. Клешни самок мельче и менее подвижные, поэтому они более уязвимы для нападения. Для защиты от врагов, к которым относятся омары, рыбы-губаны и каракатицы, многие виды крабов-пауков украшают свои колючие панцири водорослями, губками или грунтом, чтобы лучше замаскироваться на фоне дна. Изображение на обложке предоставлено естественно-научной библиотекой Лндекксра (Lydekker's Library of Natural History).
ГЛАВА 1. Основные понятия, связанные с измерениями Для использования статистики при решении определенной задачи необходимо преобразовать информацию об этой задаче в данные. Это значит, что вы должны разработать или применить систему присвоения значений, чаще всего чисел, ключевым для рассматриваемой проблемы объектам или понятиям. Это не скрытый от понимания непосвященных процесс, а то, что люди делают ежедневно. Например, когда вы покупаете что-нибудь в магазине, сумма, которую вы платите, - это измерение: она выражает количество денег, которое вы должны заплатить, чтобы купить что-то. Аналогичным образом, когда вы утром становитесь на весы, число, которое вы видите, - это измерение вашего веса. В зависимости от места вашего проживания это число может быть выражено в фунтах или килограммах, но принцип присвоения числа физической величине (весу) сохраняется в любом случае. Подходящие для анализа данные не обязательно должны быть числовыми. Например, понятия мужчина и женщина обычно используются в науке и повседневной жизни для классификации людей, и за этими категориями не стоит никаких чисел. Аналогично мы часто говорим о цветах объектов, таких как красный и синий, и к этим категориям также не привязано никаких чисел. (Хотя вы можете сказать, что этим цветам свойственны разные длины волны света, это знание не нужно для классификации объектов по цветам.) Этот тип категориального мышления - привычный ежедневный опыт, и нас редко раздражает тот факт, что разные категории используются в разных ситуациях. Например, художник может различать карминовый, малиновый и гранатовый, тогда как неспециалисту достаточно называть их все красным. Сходным образом социолог, собирающий информацию о семейном статусе людей, будет различать никогда не состоявших в браке, разведенных и вдовцов, тогда как для кого-нибудь человек, относящийся к любой из этих трех категорий, будет просто холостым. Здесь важно понять, что уровень детализации, используемый при классификации, должен соответствовать ситуации, исходить из цели классификации и назначения собранной информации.
шхшшт Глава 1. Основные понятия, связанные с измерениями Измерение Измерение - это процесс систематичного присвоения чисел объектам и их свойствам для облегчения использования математического аппарата при изучении и описании объектов и их взаимосвязей. Некоторые типы измерений абсолютно конкретны: например, измерения веса человека в фунтах или килограммах или его роста в футах и дюймах или метрах. Обратите внимание, что определенная система единиц измерения не так важна, как применение определенного набора правил: мы можем легко преобразовать вес, выраженный в килограммах, в вес, выраженный в фунтах, например. Хотя любая система единиц измерения может показаться необоснованной (попробуйте защитить футы и дюймы от нападок того, кто вырос, используя метрическую систему!), пока система остается постоянной по отношению к измеряемым признакам, мы можем использовать полученные результаты для вычислений. Измерения не ограничены физическими величинами, такими как рост и вес. Тесты для измерения абстрактных величин, таких как интеллект или академическая успеваемость, широко используются в образовании и психологии, а разработкой и улучшением методов исследований этих типов абстрактных конструктов занимается специальная дисциплина - психометрика. Утверждать, что определенное измерение точно и осмысленно, более трудно, если его нельзя напрямую наблюдать. Однако вы можете оценить точность одной шкалы измерений, сравнивая результаты, которые были получены при помощи другой шкалы, точность которой известна. Применимость такого подхода при измерении веса не вызывает сомнений, дело обстоит сложнее, когда вам нужно измерить такой параметр, как интеллект. В данном случае не только не существует общепризнанных метрик интеллекта, с которыми можно сравнить новую шкалу, нет даже общего согласия по поводу того, что подразумевается под интеллектом. Иными словами, трудно уверенно судить о чьем-нибудь интеллекте, поскольку не существует ясного способа его измерения и, строго говоря, нет общепринятого определения интеллекта. Эти вопросы особенно актуальны в социологии и образовании, в которых основная часть исследований сосредоточена на таких абстрактных понятиях. Типы измерений В статистике обычно выделяют четыре типа, или уровня, измерений, эти же термины могут быть отнесены и к самим данным. Уровни измерений различаются и по смыслу чисел, используемых в системе измерений, и по типу статистических процедур, которые корректно применять для обработки данных. Номинальные данные Для номинальных данных числа выступают в виде имени или ярлыка и ие имеют смысла как числа. Например, вы можете создать переменную для пола, которая принимает значение 1 для мужчин и 0 для женщин. Эти 0 и 1 не имеют смысла как
Типы измерений шшшш числа, а выступают в роли «ярлыков», сходным образом вы можете закодировать эти значения как М и Ж. Однако исследователи часто предпочитают числовую кодировку значений по нескольким причинам. Во-первых, это упрощает анализ данных, поскольку некоторые статистические программы не допускают использования нечисловых значений при определенных типах обработки данных. (Так что любые нечисловые данные придется перекодировать перед анализом.) Во-вторых, кодирование данных при помощи чисел позволяет избежать некоторых проблем при вводе данных, таких как конфликт между прописными и строчными буквами (для компьютера Мим- разные значения, однако тому, кто вводит данные, они могут показаться одинаковыми). Номинальные данные могут иметь больше двух значений. Например, если вы изучаете связь между опытом игроков в бейсбол и их зарплатой, вы можете классифицировать игроков по их основной роли, используя традиционную систему: 1 - подающий, 2 - принимающий, 3 - первый полевой игрок и так далее. Если вы не можете решить, относятся ли ваши данные к номинальному типу, задайте себе вопрос: отражают ли числа некоторое свойство так, что более высокое значение означает наличие большего количества этого свойства? Рассмотрим пример с кодировкой пола, где 0 обозначает женщину, а 1 - мужчину. Есть ли некоторое свойство пола, которым мужчина обладает в большей степени, чем женщина?1 Конечно нет, и кодировка будет работать, если обозначать женщин 1, а мужчин 0. Тот же принцип применим и к бейсбольным игрокам: нет такого качества, как «бейсбольность», которое свойственно в большей степени полевым игрокам, по сравнению с подающими. Числа - всего лишь удобный способ обозначения объектов исследования, и наиболее важно то, что каждому состоянию признака соответствует свое значение. Другое название номинальных данных - категориаль - ные} что отражает тот факт, что измерения скорее разделяют объекты на категории (мужчина или женщина, подающий или полевой игрок), а не измеряют некоторые присущие им свойства. В пятой главе обсуждаются методы анализа, подходящие для этого типа данных, и некоторые из разобранных в главе 13 непараметрическнх методов также подходят для категориальных данных. Когда данные принимают только два значения, как в случае с женщинами и мужчинами, их называют бинарными. Этот тип данных настолько распространен, что для его анализа разработаны специальные методы, включая логистическую регрессию (обсуждается в главе 11), которая применяется во многих областях науки. Многие используемые в медицине статистики, такие как отношение шансов и отношение рисков (обсуждаются в главе 15), были разработаны для описания взаимосвязи между двумя бинарными переменными, поскольку они очень часто используются в медицинских исследованиях. Порядковые данные Порядковые данные - это данные, которые можно расположить в каком-либо осмысленном порядке, так что большие значения соответствуют большему про- Неудачный пример с точки зрения биолога. - Прим. пер.
шшшт Глава 1. Основные понятия, связанные с измерениями явлению какого-либо признака, по сравнению с меньшими значениями. Например, в медицине ожоги часто характеризуются их степенью, которая выражается через объем поврежденных при ожоге тканей. Первая степень - это покраснение кожи, слабая боль и повреждение только эпидермиса (наружного слоя кожи). Вторая степень - это появление волдырей,4 при этом повреждается наружный слой дермы (слой кожи между эпидермисом и подкожными тканями). Третья степень ожога затрагивает всю дерму и характеризуется обугливанием кожи и возможным разрушением нервных окончаний. Эти категории можно расположить в логической последовательности: ожоги первой степени характеризуются наименьшим разрушением тканей, ожоги второй степени - более значительным разрушением, а третьей степени - самым серьезным. Однако не существует какого-либо метрического аналога линейки или шкалы, чтобы определить, каково расстояние между этими категориями, или определить, одинаковы ли различие между ожогами первой и второй степеней и различие между ожогами второй и третьей степеней. Многие порядковые шкалы используют ранжирование. Например, кандидаты на какую-то должность могут быть ранжированы отделом кадров по привлекательности для найма. Это ранжирование дает понять, какой кандидат наиболее предпочтителен, какой занимает второе место и так далее, но остается неясным, сходны ли на самом деле оценки первого и второго кандидатов, или первый кандидат намного более предпочтителен, чем второй. Можно также ранжировать страны мира по численности их населения, создав разумный порядок, не говоря ничего, например, о соотношении различий между 30-й и 31-й странами и различий между 31-й и 32-й странами. Числа в порядковых данных несут больше смысла, чем в номинальных, и разработано много статистических методов для полного использования информации, содержащейся в упорядоченных данных, не подразумевающих еще каких-нибудь свойств этих шкал. Например, для порядковых данных имеет смысл рассчитывать медиану (центральное значение), но не среднее арифметическое, поскольку это подразумевает равное расстояние между баллами и требует деления, для чего нужны данные, характеризующие соотношения. Интервальные данные Интервальные данные характеризуются осмысленным порядком и равными интервалами между измерениями, отражающими равновеликие изменения количества любой измеренной величины. Наиболее распространенный пример интервальных данных - это температура, измеренная по шкале Фаренгейта. Если вы измеряете температуру по этой шкале, то различие между 10 и 25 градусами (15 градусов) отражает тот же масштаб изменений температуры, что и различие между 60 и 75 градусами. Для интервальных данных сложение и вычитание имеют смысл, поскольку разница в 10 градусов характеризует одинаковую степень различий в температуре на протяжении всей шкалы. Однако у шкалы Фаренгейта нет естественного нуля, поскольку 0 на этой шкале обозначает не отсутствие температуры, а просто относительное положение этого значения на шкале. Умножение и
Типы измерений шшша деление не имеют смысла для интервальных данных, поскольку такое утверждение, как, например, «80 градусов - это в два раза жарче, чем 40 градусов» не имеет смысла (хотя разумно говорить о том, что 80 градусов - это на 40 градусов жарче, чем 40 градусов). Интервальные шкалы - это редкость, и придумать еще один распространенный пример такой шкалы сложно. По этой причине термин «интервальные данные» иногда используется для описания и интервальных данных, и данных, характеризующих отношения (обсуждаются в следующем разделе). Данные, характеризующие отношения Данные, характеризующие отношения, характеризуются всеми свойствами интервальных данных (осмысленный порядок, равные интервалы) и естественным нулем. Многие физические измерения - это данные, характеризующие отношения: например, рост, вес и возраст - все подходят. Также годится доход: конечно, вы можете заработать 0 долларов в год или иметь 0 долларов на счету в банке, и это будет обозначать отсутствие денег. Умножение и деление - осмысленные арифметические операции для этого типа данных, разумно заключить, что кто-то со $100 имеет вдвое больше денег, чем тот, у кого $50, или что человек в возрасте 30 лет втрое старше десятилетнего. Нужно отметить, что хотя многие физические измерения - это данные, характеризующие отношения, большинство психологических измерений - это порядковые данные. Это особенно справедливо для исследований ценностей или предпочтений, которые часто измеряются по шкале Лайкерта (Likert). Например, человеку можно предъявить утверждение (скажем, «правительство должно больше вкладывать в образование») и попросить его выбрать ответ из упорядоченного набора вариантов (например, абсолютно согласен, согласен, нет определенного мнения, не согласен, абсолютно не согласен). Этим вариантам ответов в некоторых случаях присваиваются числа (например, 1 - абсолютно согласен, 2 - согласен и т. д.), и это иногда создает впечатление того, что в этом случае можно применять методы анализа для интервальных данных или данных, характеризующих соотношения (например, вычисление среднего арифметического). Правильно ли это? С точки зрения статистиков - нет, но иногда вам приходится делать то, что от вас требует начальство, а не то, что вы считаете верным на основании теоретических знаний. Непрерывные и дискретные данные Другое важное различие существует между непрерывными и дискретными данными. Непрерывные данные могут принимать любое значение вообще или в определенном диапазоне. Большая часть данных,, которые измеряются в интервальной шкале или характеризуют отношения, непрерывна: например, вес, рост, расстояние и доход - это все непрерывные данные. Во время анализа данных и моделирования исследователи иногда разбивают непрерывные данные на категории или объединяют в более крупные группы. Например, вес можно разделить на интервалы по 10 фунтов или возраст, выражен-
Ш1ШШШ Глава 1. Основные понятия, связанные с измерениями ный в годах, можно анализировать по возрастным группам: 0-17 лет, 18-65 лет и старше 65 лет. С точки зрения статистики, между непрерывными и дискретными данными не существует четкой границы, что нужно учитывать при определении метода анализа. Также стоит помнить о том, что если вы регистрируете возраст в годах, вы по-прежнему разбиваете непрерывную переменную на дискретные категории. На практике применяются различные правила. Например, некоторые исследователи говорят, что если у переменной есть 10 и более значений (или, в качестве альтернативы, 16 или более значений), ее можно спокойно анализировать как непрерывную. Это решение должно быть основано на контексте, созданном из принятых стандартов в вашей области исследований и типа анализа, который предполагается применить. Дискретные переменные принимают только определенные значения, и между этими значениями существуют четкие границы. Как гласит старая шутка, у вас может быть два или три, но не 2,37 ребенка, так что переменная «число детей» - дискретная. На самом деле любая счетная переменная дискретна, считаете ли вы число книг, купленных за год, или число визитов к врачу во время беременности. Номинальные данные всегда дискретны, так же как и бинарные или порядковые. Операционализация Люди, которые только начинают заниматься наукой, часто думают, что вся сложность научного исследования заключается в основном в статистическом анализе, так что они сосредоточивают свои усилия на изучении математических формул и методов компьютерного программирования для выполнения статистических вычислений. Однако один основной аспект исследований имеет очень мало отношения и к статистике, и к математике, но полностью обусловлен вашим знанием предмета исследования и внимательным обдумыванием практических проблем измерений. Этот аспект носит название операционализация, что означает процесс определения способа описания и измерения признаков. Операционализация всегда необходима, когда интересующий нас признак не может быть измерен напрямую. Очевидный пример - это интеллект. Не существует способа прямого измерения интеллекта, так что вместо этого мы должны предложить какую-то величину, которую мы можем измерить, такую как баллы теста на IQ. Сходным образом не существует способа прямого измерения «готовности к противостоянию катастрофе» для городов, но мы можем операционализи- ровать этот показатель, составив список задач, которые должны быть выполнены. Далее мы можем присвоить каждому городу балл «готовности к противостоянию катастрофе», исходя из того, сколько задач выполнено, в какой мере и насколько разумно. В качестве третьего примера представим, что вы хотите исследовать степень физической активности людей. Если у вас нет возможности отслеживать их активное поведение напрямую, вы можете операционализовать «степени физической активности» по активности, заявленной в ходе опроса или описанной в дневнике.
Типы измерений ттшш Поскольку многие качества, изучаемые социологами, абстрактны, операцио- нализация - это распространенная тема обсуждения у представителей этой специальности. Однако эта проблема также актуальна и для других областей науки. Например, основные цели здравоохранения - уменьшение смертности и снижение страданий и тяжести заболеваний. Смертность легко определяется и измеряется, но этот показатель часто слишком груб, чтобы быть полезным, поскольку, к счастью, такой исход редок для многих заболеваний. «Тяжесть заболеваний» или «страдания», - с другой стороны, это показатели, которые важны при многих исследованиях, однако не существует способов их прямого измерения, так что эти показатели нужно операционализовать. К примерам операционализации тяжести заболевания относится определение концентрации вируса в крови у больных СПИДом. Снижение страданий или улучшение качества жизни может быть опе- рационализировано как более высокая оценка собственного здоровья, высокие баллы разработанного показателя качества жизни, улучшившееся настроение, зафиксированное в результате личной беседы, или уменьшение количества морфия, необходимого для облегчения боли. Есть мнение, что даже измерение физических величин, таких как длина, требует операционализации, поскольку существуют разные способы измерения даже конкретных свойств, таких как длина. (В одних случаях подходящим инструментом может быть линейка, в других - микрометр.) Даже если вы согласны с этой точкой зрения, кажется ясным, что проблема операционализации более существенна в социологии, где свойства интересующего нас объекта часто нельзя измерить напрямую. Опосредованное измерение Понятие опосредованное измерение обозначает процесс замены одного измерения другим. Хотя определение опосредованных измерений можно рассматривать как разновидность операционализации, в этой книге мы рассмотрим их как отдельную тему. Наиболее частое использование опосредованных измерений - это замена дешевым и простым измерением другого измерения, которое будет более сложным или дорогостоящим, если не невозможным для проведения. Другой пример - это сбор информации об одном человеке путем опроса другого, например вопрос матери о настроении ее ребенка. В качестве простого примера опосредованных измерений рассмотрим некоторые методы, которые полицейские применяют для оценки трезвости людей на месте. Без портативной медицинской лаборатории полицейские не могут измерить уровень спирта в крови и напрямую установить, является ли водитель пьяным, согласно существующим юридическим нормам. Вместо этого полицейский может использовать удобные для наблюдения признаки нетрезвости, простые тесты, которые на месте, как принято считать, позволяют оценить концентрацию спирта в крови, анализ выдыхаемого воздуха или все вышеперечисленное. К удобным для наблюдения признакам алкогольного опьянения относятся запах алкоголя, невнятная речь и покраснение кожи. При простых тестах, которые позволяют
ЕШНТ Глава 1. Основные понятия, связанные с измерениями на месте быстро оценить степень алкогольного опьянения, испытуемого обычно просят постоять на одной ноге или следить глазами за движущимся предметом. При помощи аппарата для получения пробы на алкоголь можно измерить концентрацию спирта в выдыхаемом воздухе. Ни один из этих оценочных методов не позволяет напрямую измерить содержание спирта в крови, но они считаются разумными способами приблизительной оценки, которыми можно быстро и легко воспользоваться на месте. Для знакомства с другим распространенным случаем использования опосредованных измерений рассмотрим разные методы, которые применяются в США для оценки качества здравоохранения для больниц и отдельных врачей. Трудно придумать прямой способ измерения качества здравоохранения, за исключением, возможно, прямого наблюдения за процессом лечения и его оценки согласно принятым стандартам (хотя тут также можно возразить, ч-го измерения, необходимые для подобной оценки, все равно будут операционализацией абстрактного понятия «здравоохранение»). Применение такого метода оценки будет непозволительно дорогим, при этом придется обучить большую команду оценщиков и полагаться на согласованность их мнений, и это будет вмешательством в личную жизнь пациентов. Решение, которое часто используется в качестве альтернативы, - изучать события, которые считаются показателями хорошей заботы о здоровье: например, была ли при визите к доктору правильно проведена консультация по избавлению от табачной зависимости или были ли получены необходимые медикаменты сразу после госпитализации. Опосредованные измерения наиболее полезны, если в дополнение к их относительной простоте проведения они являются хорошими индикаторами той характеристики, которая нас действительно интересует. Например, если правильное выполнение описанных выше процедур заботы о здоровье тесто связано с хорошим состоянием пациента, а плохое выполнение этих процедур или отказ от них тесно связано с плохим состоянием пациента, то качество выполнения описанных процедур - это полезное опосредованное измерение качества здравоохранения. Если такой тесной связи не существует, то применимость опосредованных измерений менее оправдана. Ни один математический тест не поможет понять, является ли один параметр хорошим опосредованным измерением для другого, хотя вычисление статистик, таких как корреляции или тесты хи-квадрат между этими показателями, поможет прояснить этот вопрос. Кроме того, у опосредованных измерений есть свои сложности. В примере с оценкой качества заботы о здоровье по проводимым процедурам предполагается, что без знания отдельных случаев можно определить, что называется правильным лечением и что доступна информация о проведенных процедурах. Как и в случае многих вопросов, связанных с измерениями, выбор хороших опосредованных измерений - субъективное решение, основанное на знании предмета исследований, традиционных для данной научной дисциплины подходов и здравом смысле.
Истинные значения и ошибки Суррогатные конечные точки Суррогатные конечные точки - это тип опосредованных измерений, используемых в клинических испытаниях в качестве замены реальных конечных точек. Например, определенный протокол лечения может быть разработан для предотвращения смерти (реальная конечная точка), но поскольку смерть при данном состоянии пациентов может быть редким событием, для более быстрого накопления данных об эффективности лечения можно использовать суррогатную конечную точку. Обычно это биологический маркер, связанный с реальной конечной точкой. Например, если лекарство должно предотвращать смерть от рака простаты, суррогатной конечной точкой может быть уменьшение размера опухоли или снижение концентрации специфичных антител. Проблема использования суррогатных конечных точек заключается в том, что хотя лечение может быть эффективным для улучшения состояния в этих конечных точках, это не обязательно значит, что оно приведет к успеху при достижении интересующего нас клинического результата. Например, мета-анализ, проведенный Стефаном Мичильсом (Stephan Michiels) с коллегами (ссылка приведена в приложении С), показал, что для местно-распространенных плоскоклеточных карцином головы и шеи коэффициент корреляции между контролем над расположением (суррогатная конечная точка) и общей выживаемостью (реальная клиническая конечная точка) колебался от 0,65 до 0,76 (если результаты были одинаковыми для обеих конечных точек, коэффициент корреляции был бы равен 1,00). Суррогатные конечные точки часто неправильно используются, будучи назначенными постфактум, замещая результат, определенный до начала испытания или в обоих этих случаях сразу. Поскольку суррогатной конечной точки легче достичь, это может привести к разработке нового лекарства с доказанной эффективностью, которое может слабо влиять на реальную конечную точку или даже быть опасным. Более подробное обсуждение общих вопросов, связанных с суррогатными конечными точками, приведено в статье Томаса Р. Флеминга (Thomas R. Fleming), ссылка на которую приведена в приложении С. Истинные значения и ошибки Мы можем с уверенностью утверждать, что абсолютно точных измерений очень мало (если они вообще существуют). Это правда не только потому, что измерения производят и записывают люди, но также потому, что процесс измерений часто подразумевает присвоение дискретных чисел непрерывным величинам. Одна из задач теории измерений состоит в осмыслении и количественном выражении ошибок, содержащихся в определенном наборе измерений, а также в выявлении источников и последствий этих ошибок. Классическая теория измерений рассматривает каждое измерение или наблюдаемое значение как сумму двух составляющих: истинного значения (Т)2 и ошибки (Е)К Это выражается в следующей формуле: Х = Т + Е, где X - наблюдаемое значение измерения, Т- истинное значение, а Е- ошибка. Например, весы могут показать, что чей-нибудь вес равен 120 фунтам, в то время 2 От англ. true - истинный. - Прим. пер. '* От англ. error - ошибка. - Прим. пер.
ЕИНН Глава 1. Основные понятия, связанные с измерениями как этот человек на самом деле весит 118 фунтов, а ошибка в два фунта происходит из-за неточности шкалы. Это можно выразить при помощи приведенной выше формулы как 120=118 + 2, что представляет собой просто математическое равенство, выражающее связь между этими тремя величинами. Однако и Г, и Е - это теоретические конструкты. В реальном мире мы редко точно знаем истинное значение и, следовательно, также не можем знать точное значение ошибки. Процесс измерений по большей части заключается в оценке величины и максимизации «истинной» составляющей и минимизации ошибки. Например, если вы делаете ряд измерений веса одного и того же человека в течение короткого промежутка времени (так что его истинный вес можно считать постоянным), используя недавно откалиброванные весы, вы можете использовать среднее арифметическое всех этих измерений как хорошую оценку истинного веса этого человека. Затем вы можете трактовать различия между отдельным измерением и средним значением как ошибку измерений, такую как небольшую неисправность весов или неточность в считывании и записи результатов. Случайная и систематическая ошибка Поскольку мы живем в реальном мире, а не в идеальной вселенной Платона, мы предполагаем, что в измерениях содержится некоторая ошибка. Однако не все ошибки имеют одинаковое происхождение, и мы можем научиться жить со случайными ошибками, но любыми способами должны избегать систематических ошибок. Случайные ошибки невозможно предсказать: у них нет какой-либо определенной закономерности, и считается, что они взаимоуничтожаются при повторных измерениях. Например, считается, что среднее арифметическое ошибок в серии измерении равно нулю. Так что если кто-нибудь взвесился 10 раз подряд на одних и тех же весах, вы можете заметить небольшие различия в зарегистрированных значениях: некоторые будут меньше истинного, а некоторые - больше. Если истинное значение веса составляет 120 фунтов, возможно, первое измерение будет равно 119 фунтам (включая ошибку в -1 фунт), второе - 122 фунтам (с ошибкой в +2 фунта), третье - 118,5 фунта (ошибка в -1,5 фунта) и т. д. Если весы точные и все ошибки случайны, то их усредненное по многим наблюдениям значение будет равно 0, а усредненное значение измеренного веса- 120 фунтам. Вы можете постараться уменьшить величину случайной ошибки, используя более точные приборы, обучив ваш технический персонал правильному их использованию и так далее, но вы не можете полностью избавиться от случайной ошибки. У случайной ошибки есть еще два свойства: она не связана с истинным значением, а се величина для одного наблюдения не связана с ее величиной для другого наблюдения. Первое свойство означает, что значение ошибки для любого измерения не связано с его истинным значением. Например, если вы взвешиваете нескол ь- ко человек, истинный вес которых различается, вы не будете ожидать, что ошибка
Надежность и валидность ЕЛ для каждого наблюдения каким-либо образом связана со значениями истинного веса этих людей. Это значит, например, что ошибка не должна быть выше при больших истинных значениях (истинном весе людей). Второе свойство означает, что ошибочная составляющая каждого измерения независима и не связана с ошибочной составляющей любого другого измерения. Например, в серии измерений величина ошибки не должна увеличиваться со временем, так чтобы более поздние измерения характеризовались бы большей ошибкой. Характеризуя первое требование, иногда говорят, что коэффициент корреляции между истинным значением и ошибкой равен 0, а второе требование иногда выражается в утверждении, что коэффициент корреляции между ошибками равен 0 (корреляция подробнее обсуждается в главе 7). В противоположность изложенному выше значения систематической ошибки имеют заметную структуру, которая формируется не случайно, а часто имеет причину или причины, которые можно выявить и устранить. Например, весы могут быть неправильно калиброваны так, что они всегда показывают на 5 фунтов больше, чем есть на самом деле, так что среднее результатов многократных взвешиваний человека с истинным весом 120 фунтов будет равно 125 фунтам, а не 120. Систематические ошибки могут объясняться человеческим фактором, например техник считывала показания весов под углом, так что она видела стрелку, указывающую на большие значения, чем на самом деле. Если закономерность значений систематической ошибки обнаружена, например ее значения увеличиваются со временем (так что ошибочная составляющая измерений случайна в начале эксперимента, а затем возрастает), это полезная информация, поскольку можно вмешаться в ход эксперимента и повторно калибровать шкалу На выявление источников систематической ошибки и разработку методов для ее обнаружения и удаления затрачивается много усилий: это подробнее обсуждается в одном из следующих разделов «Смещение измерений» на стр. 36. Надежность и валидность Существует много способов присвоения данным чисел или категорий, и не все из этих способов одинаково полезны. Для оценки способов измерений (например, опроса или теста) есть два параметра - надеясностъ и валидность. В идеале нам бы хотелось, чтобы каждый используемый нами метод был и надежным, и валидным. В реальности эти качества не абсолютны, а всегда проявляются в некоторой степени, которая обычно зависит от обстоятельств. Например, опрос, который весьма надежен для определенных возрастных групп, может быть ненадежен для другой возрастной группы. Поэтому вместо обсуждения надежности и валидности как абсолютных величин часто полезнее оценить надежность и валидность способа измерений для конкретной задачи и допустимость достигнутого уровня надежности и валидности в определенном контексте. Надежность и валидность также обсуждаются в главе 18 в контексте планирования исследования и главе 16 в контексте образовательного и психологического тестирования.
Глава 1. Основные понятия, связанные с измерениями Надежность Надежность характеризует согласованность или воспроизводимость наблюдений. Например, если мы даем одному и тому же человеку один тест дважды, будут ли результаты сходными? Если мы научили трех людей пользоваться шкалой качества социальных взаимодействий, затем показали каждому из них одну и ту лее видеосъемку взаимоотношений в группе людей и попросили оценить наблюдаемые социальные взаимодействия, будет ли результат одинаков? Если у нас есть технический работник, который взвесил одну и ту же деталь 10 раз на одних и тех же весах, будут ли результаты одинаковыми? В каждом случае, если ответ будет положительным, мы можем сказать, что тест, шкала или работник надежны. Многое в теории надежности было разработано исследователями педагогической психологии, и поэтому показатели надежности часто описываются в терминах надежности тестов. Однако вопросы надежности не ограничиваются тестированием в педагогике; те же самые концепции применимы ко многим другим типам измерений, включая исследования общественного мнения и поведения. Обсуждение в этой главе будет проведено на базовом уровне. Вычисление специализированных показателей надежности обсуждается более детально в главе 16 в контексте теории тестирования. Многие показатели надежности основаны на коэффициенте корреляции (также просто называемом корреляцией), так что начинающие статистики могут захотеть сосредоточиться на общей логике надежности и адекватности и отложить обсуждение подробностей их оценки до ознакомления с коэффициентом корреляции. Существуют три основных подхода к измерению надежности, каждый из которых полезен в своей ситуации и имеет свои достоинства и недостатки: • надежность множественных событий; • надежность множественных вариантов; • надежность внутренней непротиворечивости. Надежность множественных событий, иногда называемая надежностью повторного тестирования, характеризуется тем, насколько сходные результаты получаются при повторном использовании теста или шкалы. Из-за этого ее еще называют показателем временной стабильности, имея в виду стабильность на протяжении определенного промежутка времени. Например, один и тот же человек может дважды с интервалом в две недели характеризовать психическое состояние пациента, основываясь на видеозаписи интервью, а затем сравнить результаты. Для того чтобы этот тип оценки надежности имел смысл, необходимо, чтобы измеряемая характеристика оставалась постоянной, поэтому здесь и идет речь о видеозаписях интервью, а не о двух интервью с пациентом, психологическое состояние которого может измениться за две недели. Надежность множественных событий не может быть оценена для непостоянных характеристик, таких как настроение, или таких характеристик, которые могут измениться в промежуток между наблюдениями (например, то, как студентка владеет предметом, который она интенсивно изучает). Распространенный метод оценки надежности множественных собы-
Надежность и валидность ИЕ1 тий заключается в вычислении коэффициента корреляции между результатами каждого теста; это называется коэффициентом стабильности. Надежность множественных вариантов (также называемая надежностью параллельных форм) характеризует, насколько сходные результаты дают разные версии тестов или опросников при оценке одной и той же величины. Распространенный метод оценки надежности множественных вариантов - это расщепление выборки на две половины, при котором создается набор объектов, который считается гомогенным, затем половина объектов выполняет вариант Л, а другая половина - вариант В. Если два (или более) варианта теста предъявляются одним и тем же людям в одинаковых условиях, то корреляция между результатами для каждого варианта теста - это показатель надежности множественных вариантов. Эта корреляция иногда называется коэффициентом эквивалентности. Надежность множественных вариантов особенно важна для стандартизированных тестов, которые имеют много версий. Например, разные версии отборочного теста (SAT, используемого для оценки способностей к тому или иному разделу наук у абитуриентов американских колледжей и университетов) калиброваны таким образом, что полученные результаты равнозначны вне зависимости от варианта теста, который достался данному абитуриенту. Надежность внутренней непротиворечивости характеризует, насколько хорошо вопросы, которые составляют инструмент исследования (например, тест или анкетирование), отражают одно и то же свойство объекта. Иначе говоря, показатели внутренней непротиворечивости отражают то, насколько согласованно составляющие одного исследовательского инструмента измеряют одно и то же. В отличие от надежности множественных событий или вариантов, внутреннюю непротиворечивость можно оценить, используя один метод или одно наблюдение. Надежность внутренней непротиворечивости сложнее оценить, чем надежность множественных событий или вариантов, для этого были разработаны несколько методов; они подробно обсуждаются в главе 16. Хотя уже здесь можно отметить, что все эти методы основаны в основном на корреляции между всеми парами состояний шкалы или вопросов теста. Если такая корреляция высока, то это интерпретируется как свидетельство того, что все вопросы направлены на исследование одной и той же величины, и различные статистики, используемые для измерения надежности внутренней непротиворечивости, будут высокими. Если корреляция между ответами на разные вопросы будет низкой или непостоянной, статистики надежности внутренней непротиворечивости будут меньше, и это интерпретируется как свидетельство того, что вопросы оценивают разные вещи. Для тестов, составленных из ряда вопросов на одну тему или имеющих сходную сложность, которые будут учитываться совместно, наиболее полезны два простых показателя внутренней непротиворечивости: средний коэффициент корреляции между вопросами и средний коэффициент корреляции по всем вопросам. Для вычисления среднего коэффициента корреляции между вопросами вы вычисляете корреляцию между результатами для каждой пары вопросов и усредняете полученные значения. Для вычисления среднего коэффициента корреляции по всем вопросам вы суммируете результаты по всем вопросам и затем высчитываете кор-
ЕШ Глава 1. Основные понятия, связанные с измерениями реляцию результатов по каждому вопросу с этой суммой. Средняя корреляция по всем вопросам - это усредненные корреляции суммарного значения с результатом по каждому вопросу. Описанная выше устойчивость результатов при расщеплении выборки на две половины, - это еще один способ оценки внутренней непротиворечивости. Недостаток этого метода состоит в том, что если вопросы не гомогенны по-настоящему, разные варианты расщепления будет порождать варианты несопоставимой сложности, и коэффициент надежности для каждой пары таких вариантов будет различаться. Метод, который позволяет преодолеть эту сложность, называется альфой Кронбаха (Cronbach's alpha), или коэффициентом альфа. Он равнозначен усредненному значению для всех возможных расщеплений выборки на две половины. Более подробная информация об альфе Кронбаха, включая пример ее расчета, изложена в главе 16. Валидность Валндность характеризует, насколько хорошо тест или балльная шкала измеряют то, что планировалось измерить. Некоторые исследователи описывают валида- цшо как процесс сбора свидетельств в пользу выводов, которые предполагается сделать на основе обсуждаемых измерений. Ученые расходятся во мнениях относительно классификации типов валидности, и научный консенсус изменяется со временем, поскольку разные типы валидации объединялись под общим названием в один год и разделялись в другой. Чтобы не усложнять все, в этой книге мы будем придерживаться традиционной классификации валидности, включающей четыре категории: содержательная валидность, конструктивная валидность, совокупная валндность и предсказательная валидность. Также мы обсудим очевидную валидность, которая тесно связана с содержательной валидностыо. Эти типы валидности обсуждаются далее в главе 18 в контексте планирования исследования. Содержательная валидность характеризует, насколько хорошо измерения характеризуют ключевое содержание объекта исследований. Этот показатель особенно важен, если цель состоит в распространении результатов измерений на более обширную совокупность объектов. Например, кандидатов на должность программиста могут попросить выполнить проверочное задание, в котором требуется написать или интерпретировать программу на языках, с которыми соискатели должны будут работать. Из-за ограничений по времени подобный экзамен проверяет только часть тех умений и знаний соискателей, которые могут на самом деле им пригодиться при профессиональном программировании. Однако если подмножество знаний и умений выбрано удачно, результат подобного экзамена может быть хорошим показателем способности человека ко всем важным навыкам программирования, которые понадобятся ему в этой должности. Если это так, то мы можем сказать, что экзамен содержательно валиден. Понятие очевидной валидности тесто связано с содержательной валидностыо. Характеристика с высокой очевидной валидностыо воспринимается (представителями общественности или тем, кого предполагается оценивать при помощи этой
Надежность и валидность ¦ма характеристики) как честная оценка изучаемых качеств. Например, если тест по геометрии за курс средней школы воспринимается родителями выполняющих его учеников как справедливый тест для проверки знаний по геометрии, этот тест имеет хорошую очевидную валидность. Очевидная валидность важна для формирования доверия; если вы утверждаете, что вы оцениваете знания по геометрии, но родители учеников с вами не согласны, то они могут быть склонны игнорировать ваши суждения об уровне подготовки их детей по предмету. Кроме того, если ученики воспринимают тест по геометрии как что-то совершенно иное, они могут не быть мотивированы к сотрудничеству и старанию, так что их ответы могут не отражать адекватно их способности. Совокупная валидность отражает, насколько хорошо выводы, сделанные на основании измерений, могут использоваться для предсказания другого поведения или явления, которое измеряется примерно в то же время. Например, если результаты теста качества работы учащегося сильно связаны с его успеваемостью в это время или с результатами сходных тестов, этот тест характеризуется высокой совокупной валидностью. Предсказательная валидность - это сходное понятие, однако тут рассматривается способность делать предсказания касательно некоторого события в будущем. Продолжая предыдущий пример, если результаты теста качества работы сильно связаны со школьной успеваемостью в следующем году или с должностью, полученной в будущем, этот тест имеет высокую предсказательную валидность. Триангуляция Поскольку каждая система измерений имеет свои недостатки, исследователи часто используют несколько подходов к измерению одной и той же величины. Например, в американских университетах часто используется множество источников информации для оценки способности к обучению школьников старших классов и вероятности того, что они будут хорошо успевать в университете. К используемым в этих целях показателям относятся баллы, полученные на стандартизированных экзаменах, таких как SAT, высокие'школьные оценки, личная мотивация или эссе и рекомендации учителей. Аналогичным образом решение о приеме на работу в компанию часто основано на нескольких источниках информации, включая опыт работы соискателя, его образование, произведенное им впечатление в ходе интервью и, возможно, образец результатов его работы и один или более тестов на знания и личностные качества. Процесс объединения информации из многих источников для получения истинных или по меньшей мере более точных значений называется триангуляцией, по смелой аналогии с геометрической операцией установления положения точки по ее отношению к двум другим точкам с известным положением. Ключевая идея, лежащая в основе триангуляции, заключается в том, что хотя единичное измерение некоторого параметра может содержать слишком большую ошибку (или известного, или неизвестного типа), чтобы быть надежным или валидным само по себе, объединяя информацию по нескольким типам исследований, по крайней
ЕШ I 4 Глава 1. Основные понятия, связанные с измерениями мере некоторые характеристики которых известны, мы можем добиться приемлемого измерения неизвестной величины. Мы ожидаем, что каждое измерение имеет свою ошибку, но мы надеемся, что эти ошибки не относятся к одному типу, так что при помощи нескольких типов измерений мы можем получить разумную оценку интересующего нас количества или свойства. Разработка метода триангуляции - непростое дело. Одна исторически важная попытка этого - матрица со многими параметрами и методами (multitrait, mukiinethod matrix, MTMM), разработанная Кэмпбеллом и Фиске (Campbell, Fiske, 1959). Их основная идея состояла в отделении той составляющей измерения, которая относится к интересующему нас признаку, от той составляющей, которая характеризует используемый метод измерений. Хотя эта методология меньше используется в наши дни и ее описание выходит за рамки пособия для начинающих, упомянутая концепция остается полезной как пример одного из способа размышлений об ошибке измерений и валидности. МТММ - это корреляционная матрица для измерений нескольких параметров, каждый из которых был оценен при помощи нескольких методов. В идеале для каждого признака должен был быть использован один и тот же набор методов. Мы ожидаем, что в этой матрице разные измерения одного и того же признака будут тесно связаны; например, показатели интеллекта, полученные при помощи нескольких методов, таких как тест, выполненный при помощи карандаша и бумаги, решение практических задач и структурированное интервью, должны быть тесно связаны между собой. По той же логике, показатели, характеризующие разные параметры, которые измеряются одним и тем же способом, не должны быть тесно связаны; например, показатели интеллекта, поведения и коммуникабельности, измеренные при помощи бумажной анкеты, не должны существенно коррелировать между собой. Смещение измерений Выявление смещения измерений (measurement bias) важно почти в любой научной области, но особенно актуально для социологии. К настоящему времени обнаружено и описано много частных случаев смещения измерений. Мы не будем перечислять их все, но обсудим несколько наиболее распространенных. Многие руководства по планированию исследований очень подробно рассматривают смещение измерений и могут быть использованы как дальнейший источник информации по этой теме. Ключевая идея заключается в том, что исследователь всегда должен помнить о возможности смещения измерений, поскольку неспособность обнаружить смещение и разрешить связанные с ним проблемы может свести на нет результаты потенциально уникального исследования. Смещение измерений может произойти на двух основных этапах: во время отбора объектов для исследования или во время сбора информации об этих объектах. В любом случае ключевой признак смещения - то, что его источником служит скорее систематическая, а не случайная ошибка. В результате смещения анали-
Смещение измерений шшшшш зируемые данные закономерным образом отличаются от истинного значения, что может привести к неправильным заключениям, несмотря на применение корректных статистических методов. В следующих двух подразделах обсуждаются некоторые из наиболее распространенных типов смещения, объединенные в две крупные категории: смещение при создании выборки и смещение при сборе и регистрации информации. Смещение при создании выборки Многие исследования производятся на выборках объектов из генеральной совокупности, будь то больные лейкемией или произведенные на фабрике приборы, поскольку изучить всю генеральную совокупность было бы недопустимо дорого, если вообще возможно. Выборка должна хорошо характеризовать генеральную совокупность (на которую результаты должны распространиться), чтобы исследователь мог спокойно использовать полученные для выборки результаты для характеристики всей генеральной совокупности. Если выборка смещена (это означает, что она нерепрезентативна), выводы, сделанные на основе такой выборки, могут быть неприменимыми ко всей генеральной совокупности. Смещение выбора происходит, если некоторые объекты имеют больше шансов быть включенными в выборку. Этот термин обычно относится к смещению, которое происходит в процессе составления выборки. Например, телефонные опросы с использованием номеров из опубликованных справочников по определению удаляют из числа потенциальных респондентов людей с неопубликованными номерами или тех, кто сменил телефонный номер после выхода справочника из печати. Звонки по случайным номерам решат эту проблему, но по-прежнему не позволят опросить людей, у которых дома нет телефона. Это затрудняет исследование, поскольку если исключенные из исследования люди систематически выделяются по исследуемым свойствам (а это очень распространенная ситуация), результаты исследования будут смещенными. Например, люди, которые живут в домах без телефона, обычно беднее тех, у кого телефон есть, а люди, у которых есть только мобильный телефон, обычно моложе тех, у кого есть еще и домашний. Если уровень доходов или возраст связаны с изучаемой характеристикой, исключение таких людей из выборки приведет к смещению результатов исследования. Смещение из-за волонтеров отражает тот факт, что люди, добровольно вызывающиеся участвовать в исследованиях, обычно не типичны для генеральной совокупности. По этой причине результаты, полученные на выборках, полностью составленных из добровольцев, такие как мнения зрителей, позвонивших в студию телевизионной передачи, не подходят для решения научных задач (если только генеральная совокупность не представлена людьми, желающими участвовать в подобных опросах). В этом примере могут проявиться множественные механизмы неслучайного отбора. Например, чтобы участвовать в опросе, человек должен смотреть эту телевизионную программу. Это значит, что, скорее всего, этот человек находится дома; значит, результаты опросов, проводимых в течение рабочего дня, могут в основном иметь отношение к пенсионерам, домохозяйкам и безработным.
Глава 1. Основные понятия, связанные с измерениями Для участия в опросе человек должен иметь свободный доступ к телефону и обладать определенными личностными характеристиками, которые приведут к тому, что он снимет телефонную трубку и наберет номер с экрана. Проблемы, связанные с телефонными вопросами, уже обсуждались, и вероятность того, что личностные характеристики связаны с изучаемыми параметрами, слишком велика, чтобы ее игнорировать. Смещение из-за отсутствия ответа - это обратная сторона смещения из-за волонтеров. Так же как люди, которые добровольно хотят принять участие в исследовании, отличаются от остальных, люди, которые отказываются участвовать в исследовании, когда им предлагают это, скорее всего, отличаются от тех, кто в этом случае принимает приглашение. Вы, возможно, знакомы с людьми, которые отказываются участвовать в любых телефонных опросах (я сама такая). Представляют ли такие люди случайную выборку из генеральной совокупности? Вероятно, нет; например, объединенное исследование состояния здоровья в Канаде и США выявило не только различия в частоте ответов канадцев и американцев, но обнаружило смещение из-за отсутствия ответа почти для всех основных показателей состояния здоровья и доступности здравоохранения (результаты обобщены здесь: http://bit.lv/TfI6umy Информационное цензурирование может приводить к смещению результатов любого повторного обследования (при котором состояние объектов отмечается на протяжении временного отрезка). Утрата объектов в ходе долгосрочного исследования - обычная вещь, но настоящие проблемы начинаются, когда объекты выпадают не случайно, а по причинам, связанным с предметом исследования. Предположим, мы проводим клиническое исследование двух способов лечения хронического заболевания. При этом пациенты случайным образом распределяются по группам, и статус их заболевания отслеживается в течение пяти лет. Благодаря случайному созданию выборки наши группы полностью равнозначны. Однако со временем люди из группы с неэффективным способом лечения будут выходить из исследования, возможно, чтобы получить лечение в другом месте, что будет приводить к смещению результатов. Если на последнем этапе наша выборка будет состоять только из тех, кто участвовал в эксперименте до его окончания, и выбывшие из исследования не будут представлять собой случайную выборку из его изначальных участников, анализируемая выборка уже не будет такой абсолютно случайной, как та, с которой мы начали. Напротив, если выбывание из эксперимента связано с неэффективностью лечения, набор испытуемых на последнем этапе будет смещен в сторону людей, положительно реагировавших на проводимое лечение. Информационное смещение Даже при создании и сохранении идеальной выборки смещение результатов может произойти из-за методов сбора и записи данных. Этот тип смещения часто называется информационным, поскольку он влияет на валидность информации, на которой основано исследование, что, в свою очередь, может сделать недействительными результаты исследования.
Смещение измерений ЕЭ Когда данные собираются при личных или телефонных интервью, между интервьюером и респондентом возникает социальная связь. Характер этой связи может по-разному влиять на качество собранных данных. Если смещение вносится в собранные данные из-за позиции или поведения интервьюера, это называется смещением результатов из-за интервьюера. Этот тип смещения может быть создан непреднамеренно, если интервьюер знает цель исследования или статус респондента. Подобный тип смещения результатов может также иметь место, если интервьюер выражает свое собственное отношение или мнение, давая понять, что он отрицательно относится к исследуемому типу поведения, такому как беспорядочные сексуальные связи или употребление наркотиков, что снижает вероятность признания респондента в проявлении подобного поведения. Смещение воспоминаний вызвано тем, что люди, перенесшие тяжелое заболевание или травму, с большей вероятностью запоминают события, которые они считают связанными с этим отрицательным жизненным опытом. Например, женщины, у которых случался выкидыш, скорее всего, провели много времени, перебирая воспоминания о воздействиях или событиях, которые, с их точки зрения, могли привести к выкидышу. Женщины, у которых роды протекали нормально, могли испытывать сходные воздействия, но они не придавали им такого значения и, следовательно, не вспомнили бы о них при опросе. Смещением выявления называют тот факт, что определенные характеристики могут быть с большей вероятностью обнаружены или озвучены у одних людей по сравнению с другими. Допустим, спортсмены в некоторых видах спорта подвергаются периодическому тестированию на употребление стимулирующих физическое развитие препаратов, и результаты этих тестов доносятся до сведения общественности. Например, пловцы мирового класса периодически проходят тест на употребление анаболических стероидов, и положительные результаты тестов официально регистрируются и также часто попадают в новостные сводки. Спортсмены, которые участвуют в соревнованиях более низкого уровня или в других видах спорта, могут использовать те же препараты, но поскольку они не проходят тестов с такой регулярностью или-из-за того, что результаты тестов не доносятся до сведения широкой общественности, случаи употребления препаратов не регистрируются. Было бы неправильно предполагать, например, что поскольку случаи употребления анаболических стероидов чаще регистрируются у пловцов, чем у бейсболистов, реальная частота употребления стероидов выше в плавании, чем в бейсболе. Наблюдаемые различия могут быть вызваны более активным тестированием комитетом по плаванию и большей открытостью этих результатов. Смещение социальной желательности вызвано стремлением людей представить себя в выгодном свете. Это часто побуждает, людей давать такие ответы, которые, по их представлению, понравятся спрашивающему. Учтите, что этот тип смещения может наблюдаться даже в отсутствие корреспондента, например при заполнении бумажной анкеты. Этот тип смещения представляет особенно серьезную проблему в исследованиях, связанных с поведением или позицией, которые осуждаются в обществе, например преступное поведение, или о которых неудобно говорить,
ЦН№ - Глава 1. Основные понятия, связанные с измерениями например половая распущенность. Смещение социальной желательности также может влиять на ответы, если формулировка вопросов указывает на «правильный», то есть социально желательный ответ. Упражнения Здесь размещен обзор тем, затронутых в этой главе. Задача Каких возможных типов смещения результатов вам нужно остерегаться при следующих сценариях, и каково будет вероятное влияние на результаты? 1. По данным университета, средний годовой заработок выпускников составляет $120 000. Эти данные были получены в ходе опроса жертвователей в фонд выпускников. 2. Реализация программы, направленной на улучшение учебных достижений в средней школе, считается успешной, поскольку все 40 учеников, участвовавших в ней до конца в течение года (из 100, изначально задействованных в программе), продемонстрировали статистически значимое улучшение оценок и результатов стандартных тестов на успехи в учебе. 3. Руководитель заботится о здоровье своих подчиненных, поэтому во время обеденного перерыва он организовал цикл лекций на такие темы, как здоровое питание, важность физических упражнений и разрушительное влияние на здоровье курения и алкоголя. Он провел анонимный опрос сотрудников (при помощи бумажной анкеты) до и после цикла лекций и обнаружил, что лекции были эффективными, и привели к увеличению частоты составляющих здорового образа жизни. Решение 1. Смещение выбора и смещение из-за отсутствия ответов, - оба влияют на характеристику анализируемой выборки. Заявленная величина среднего заработка, скорее всего, завышена, поскольку в фонд выпускников жертвовали, вероятно, самые успешные из них, а люди, которые стеснялись своего низкого заработка, отвечали с меньшей вероятностью. Можно еще предположить смещение социальной желательности, которое также приведет к завышению значений годового заработка, поскольку выпускники, вероятно, имели тенденцию заявлять о более высоком заработке, чем они в реальности получали, поскольку желательно иметь высокий уровень доходов. 2. На свойства анализируемой выборки повлияет информационное цензурирование. Оценка эффективности программы для учеников средней школы, вероятно, завышена. Эта программа определенно была полезной для тех, кто закончил ее, но поскольку более половины участников выбыли по ходу, мы не можем сказать, будет ли она полезной для среднего ученика. Может оказаться так, что ученики, участвовавшие в программе до конца,
Упражнения ШНЕШ были более умными или мотивированными, чем выбывшие, или же для выбывших программа не была полезна. 3. Имеет место смещение результатов из-за социальной желательности. Это, вероятно, приведет к переоценке эффективности цикла лекций. Поскольку начальник ясно заявил, что он заботится о здоровом образе жизни подчиненных, они, скорее всего, будут докладывать о более значительном оздоровлении образа жизни, чем есть на самом деле, чтобы угодить боссу. Шкала Лайкерта Шкала Лайкерта - наверное, наиболее часто используемая в социологии шкала оценок. Этот тип шкалы был впервые описан в 1932 году Ренсисом Лайкертом (Rensis Likert, 1903-1981), индустриальным психологом, занимавшим должность директора социологического института при Мичиганском университете с 1946 по 1970 г. Вопросы с использованием шкалы Лайкерта, как правило, представлены в виде утверждения, и испытуемым предлагается выбрать свое отношение к нему из упорядоченного нечетного числа вариантов (наиболее часто пяти, но иногда семи или девяти). Ниже приведен пример. В США следует ввести национальную систему страхования здоровья. 1. Абсолютно согласен. 2. Согласен. 3. Нет определенного ответа. 4. Несогласен. 5. Абсолютно не согласен. Иногда предлагают четное число ответов, так что нейтральный вариант посередине отсутствует: это называется методом вынужденного выбора, поскольку респондента вынуждают выбрать, согласен он с данным утверждением или нет. Обычно порядок ответов меняется один или более раз на протяжении всего опросника так, что иногда 1 значит «абсолютно согласен», а иногда «абсолютно не согласен», чтобы выявить тех, кто автоматически выбирает первый или последний ответ, не читая вопроса. Данные, собранные при помощи шкалы Лайкерта, являются порядковыми, поскольку хотя варианты ответа упорядочены, нет никакого основания полагать, что различия между ними равны. Например, у нас нет способа узнать, равно ли различие между позициями «абсолютно согласен» и «согласен» различию между вариантами «согласен» и «нет определенного ответа». Дьюи побеждает Трумэна Несколько раз выборы президента США сопровождались ошибочными прогнозами результатов, основанными на смещенных выборках. Всегда забавно видеть, как ошибается уважаемое издание или организация, однако эти случаи предостерегают нас от использования результатов, полученных на смещенной выборке, для характеристики генеральной совокупности. В 1936 году журнал «Литературное обозрение» (Literary digest), в котором были угаданы результаты выборов президента США 1916, 1920, 1928 и 1932 годов, предсказал, что республиканец Элф Лэндон (Alf Landon) одержит полную победу над демократом Франклином Рузвельтом (Franklin Roosevelt). Однако мы знаем, что Рузвельт выиграл выборы 1936 года с большим отрывом. Проблема журнального прогноза заключалась в том, что хотя она была основана на большой выборке (более 2,3 млн респондентов из 10 млн получивших приглашение принять участие в опросе), эта выборка была смещенной, по-
Глава 1. Основные понятия, связанные с измерениями скольку состояла из тех, кто имел автомобиль или телефон или был подписан на «Литературное обозрение». В 1936 году доходы этих людей превышали средний уровень, и они с большей вероятностью были республиканцами. Поскольку для участия в опросе необходимо было отослать назад почтовую карточку, полученные результаты были смещены из-за добровольного участия. В 1948 году каждый серьезный опрос предрекал победу республиканца Томаса Дьюи над демократом Гарри С. Трумэном. Чикаго Трибюн (Chicago Tribune) даже вышлэ с зэ- головком нэ первой стрэнице «Дьюи побеждэет Трумэнэ». Хотя технологии опросэ стэли более совершенными, по срэвнению с 1936 годом, несколько источников смещения ре- зультэтов опросов были по-прежнему не устрэнены, что привело к неточным прогнозэм. Однэ проблемэ состоялэ в том, что результэты телефонных опросов были использовэны без стэтистической попрэвки нэ то, что телефон чэще имели богэтеи, склонные поддер- жэть Дьюи. Другой фэктор - множество не определившихся со своими предпочтения- I ми людей в дни перед выборэми, и ни один из опросов не мог определить, зэ кого эти люди в конечном счете будут голосовэть. Третья проблемэ зэключалась в том, что Дьюи пользовался большей поддержкой в восточных штатэх, по срэвнению с зэпэдными. Из-зэ рэзличий в чэсовых поясэх результэты для восточных штэтов стэли известны рэнь- ше, и в «Трибюн» решили нэпечэтэть прогноз результэтэ, основэнный нэ этих первых данных. Чего не учли в газете, так это поддержку Труманэ зэпэдными штэтэми, включэя Кэлифорнию, и это добэвило достэточно голосов для победы нэ выборэх. I
ГЛАВА 2. Теория вероятности Статистика основана на теории вероятности. Некоторые считают вероятность пугающей темой, но нет никакой причины для того, чтобы, затратив достаточно времени, не разобраться в ней насколько нужно для успешного освоения статистики. Как и в случае многих других областей науки, «продвинутые» аспекты теории вероятности могут быть очень сложными и трудными для понимания, но основные принципы вероятности интуитивно понятны и просты для освоения. Более того, многие люди уже знакомы с вероятностными утверждениями, начиная с прогноза погоды, который обещает дождь этим вечером с вероятностью 30%, заканчивая предупреждением на сигаретных пачках об увеличении вероятности развития рака легких при курении. Если, как у большинства взрослых людей, у вас есть один или несколько страховых полисов, вы уже вовлечены в инициативу, основанную на вероятностном мышлении. Если вы водите машину или обладаете ею, у вас, скорее всего, есть полис страхования автомобиля, который на самом деле следовало бы называть полисом страхования расходов на автомобиль, поскольку он защищает владельца полиса от чрезмерных расходов, которые потребовались бы при попадании в аварию. Люди не покупают страховые полисы из-за того, что они собираются во что- нибудь врезаться; скорее, они признают, что вероятность такого происшествия в будущем не равна нулю. Правительство часто требует от автовладельцев иметь полисы из этих же соображений; это требование - не признание вас плохим водителем, а констатация того факта, что аварии действительно происходят, и мало кто будет в состоянии из собственного кармана компенсировать убытки в случае серьезной аварии. В страховых компаниях работают статистики, которые высчитывают, сколько вы должны заплатить за полис, учитывая (в числе прочего) вероятность того, что вы попадете в аварию или на вас подадут иск по любой другой причине, и убыток, который такой иск принесет компании. Для понимания основ теории вероятности, изложенных в этой главе, вам не потребуется больше математических знаний, чем обычно дают в средней школе, а понимание этих концепций послужит основой для освоения статистических методов, изложенных в последующих главах. Знакомство с содержанием этой главы также даст вам возможность понять суть значительной части статистических
шш\ Глава 2. Теория вероятности методов, с которыми вы имеете шансы когда-либо иметь дело, до тех пор, пока вы не начнете выполнять «продвинутые» операции или не решите применять статистику в вашей области исследований. Кроме того, вы научитесь понимать вероятностные суждения, которые используются в повседневной речи, и оценивать правильность их использования. О формулах Люди, у которых были плохие оценки на уроках математики, часто не любят формулы, полагая, что это тайная система общения, созданная математиками в качестве барьера, который позволяет удерживать непосвященных на расстоянии, оставляя себе все выгодные вакансии. Хотя я никогда не буду утверждать, что математика и статистика - это простые предметы, представление о формулах как о барьере для понимания ложно. На самом деле формулы - это сжатый и недвусмысленный способ передачи важной информации, их можно воспринимать как набор инструкций, написанных на языке математики. Как говаривал один мой профессор вычислительной математики: «Посмотри на формулу, затем делай то, что тебе она скажет». Преимущество математических формул заключается в том, что они не зависят от языка, так что о математике могут разговаривать все люди, вне зависимости от их родного языка или национальности. Не имеет значения, в какой языковой среде вы выросли, английской, русской или фарси, если вы понимаете язык математики, вы можете общаться со своими коллегами на математические темы в некоторой степени независимо от языковых барьеров. Рассмотрим пример формулы для вычисления среднего арифметического, называемой в обычном языке усреднением набора чисел, представленной на рис. 2.1. 1 " I n_il | Рис. 2.1. Формула для вычисления среднего значения Это может выглядеть для вас как греческий (на самом деле это частично так и есть!), но на самом деле это просто набор указаний по выполнению определенных вычислений. Давайте рассмотрим ее по частям: • х - это параметр, для значений которого мы рассчитываем среднее; • символ х (читается как «х с чертой») обозначает среднее значение х, которое мы и вычисляем; • символ х. (читается как «х i-e») обозначает отдельное значение х; • п обозначает число значений х, используемых для вычисления среднего; • символ суммы Z обозначает сложение ряда значений, в данном случае всех значений х. Обозначения сверху и снизу символа суммы означают сложение всех значений х} от первого (я,) до последнего (х).
Основные определения iншка Эта формула «велит» вам вычислить среднее арифметическое, сложив все значения переменной х} затем разделив их на число наблюдений, которые вы только что просуммировали. Учтите, что умножение на \/п - это то же самое, что деление на п. Представим, что мы хотим вычислить среднее для трех чисел: 1, 3 и 5. Следуя принятым обозначениям, мы назовем их jct> х2 и хг В этом примере и = 3, поскольку у нас есть три числа, так что, согласно формуле, мы складываем все числа отх, до х, и умножаем на 1/3, как показано на рис. 2.2. *-^2*'-ч<1+3+5>-3 -* !¦! Рис. 2.2. Вычисление среднего значения для трех чисел Продолжая изучение статистики, вы познакомитесь с более сложными формулами, однако алгоритм их использования останется прежним: 1. Поймите, что значит каждый символ и какие математические операции требуются. 2. Выявите значения, которые заменят каждый символ. 3. Подставьте значения в формулу, выполните указанные операции - и вы получите нужный результат. Основные определения Здесь приведены некоторые ключевые определения, которые нужно знать при обсуждении теории вероятности. Испытания Вероятность связана с результатом испытаний, которые также называются экспериментами или наблюдениями. Какой бы термин не был использован, главное - это то, что речь идет про события, исход которых неизвестен. Если бы результат испытаний был бы в итоге известен, не было бы нужды обсуждать вероятность. Испытание может быть простым, таким как подбрасывание монетки или вытягивание карты из колоды, или таким сложным, как наблюдение за тем, останется ли человек с раком легких в живых через пять лет после постановки диагноза. Мы будем называть испытанием единичное наблюдение, такое как одно подбрасывание монетки, а экспериментом - множественные испытания, такие как результат подбрасывания одной монетки пять раз. Выборочное пространство Выборочное пространство, обозначаемое как 5, - это набор всех возможных элементарных исходов испытания. Если испытание - это однократное подбрасывание монетки, то выборочное пространство - это S = {орлы, решки} (часто сокращенно записывается как S = {о,р}), поскольку эти две альтернативы представляют
ЕЁЯНнИв Глава 2. Теория вероятности все возможные исходы данного испытания. Бросок может завершиться либо выпадением орла (о), либо выпадением решки (р). Если эксперимент заключался бы в бросании одной игральной кости с шестью гранями, выборочное пространство было бы S = {1, 2, 3, 4, 5, 6}, что соответствует шести граням кости, которые могут выпасть при одном броске. Эти элементарные исходы также называют элементами выборки. Если эксперимент состоит из множества испытаний, то все возможные комбинации исходов этих испытаний входят в выборочное пространство. Например, если испытание состоит в двукратном подбрасывании монетки, то выборочное пространство таково: S = {(о, о), (о, р), (р} о), (р, р)}, поскольку исходы могут быть следующими: орлы при обоих бросках, орел в первом броске и решка во втором, сначала решка, потом орел или решки при обоих бросках. События Событие, обычно обозначаемое как Е или любой заглавной буквой, отличной от S, - это частный случай исхода испытания, оно может состоять из единственного исхода или набора исходов. Если такой исход или набор исходов имеет место, мы говорим, что «исход удовлетворяет событию» или «событие произошло». Например, событие «выпадение орла при одном подбрасывании монетки» может быть записано как Е = {орел}, а событие «выпадение нечетного числа при броске одной игральной кости» можно записать как Е = {1, 3, 5}. Элементарное событие - это исход одного эксперимента или наблюдения, такого как однократное подбрасывание монетки. Элементарные события могут объединяться в сложные, как в приведенных ниже примерах объединения и пересечения. События можно описывать, перечисляя исходы или определяя их логически. Например, если испытание - это бросок двух игральных костей и нас интересует, как часто сумма выпадающих чисел бывает меньше шести, мы можем обозначить это как Е = {2, 3, 4, 5} или Е = {сумма меньше шести}. Обычный способ изображения вероятности событий и комбинаций событий - это диаграммы Венна, в которых прямоугольник соответствует выборочному пространству, а круги изображают определенные события. Диаграммы Венна используются на рис. 2.3-2.6. Диаграммы Венна Любой, кто вырос при новой концепции преподавания математики, возможно, помнит диаграммы Венна из учебника математики в начальной школе. Хотя желание познакомить учеников начальной школы с теорией множеств может вызывать споры, в этом точно нет вины английского математика Джона Венна (John Venn, 1834-1923) или его диаграмм. Диаграммы Венна широко используются в математике и смежных областях для изображения логических отношений между группами объектов, также они были адаптированы для использования в других дисциплинах, таких как литература. Венн провел большую часть своей сознательной жизни, преподавая в Гонвилл-энд-Киз колледже (Gonville and Caius College) Кембриджского университета, где основной областью его интересов была логика, и он опубликовал три учебника, включая «Символическую логику» (1881), в которой диаграммы Венна были введены в обиход. Современные студенты колледжа имеют перед глазами ежедневное напоминание о достижениях Венна: память
Основные определения тшшт о нем была увековечена посредством окна из цветного стекла в столовой, на котором изображена диаграмма Веннастремя пересекающимися множествами, обозначенными тремя кругами разного цвета. Объединение В результате объединения нескольких элементарных событий создается сложное событие, которое происходит, если случается хотя бы одно входящее в его состав элементарное событие. Объединение Е и F записывается как Е U F и означает «Е и/или F». Обратите внимание, что символ объединения U похож на заглавную букву U1. Объединение ? и ^соответствует заштрихованной области на диаграмме Венна в рис. 2.3. Обратите внимание на то, что на этом рисунке изображены два круга, которые частично перекрываются; это значит, что любая точка заштрихованной области (любая точка, принадлежащая Е и/или F) удовлетворяет условию Е U F. Рассматривая это на примере, предположим, что событие - это бросок игральной кости с шестью гранями и чтоЕ= {1, 3}, F= {1, 2}. Событие Е U Fпроисходит при выпадении 1, 2 или 3; также можно сказать, что Е U F= {1, 2, 3}. ( Рис. 2.3. Объединение Ей F(заштрихованная область) Пересечение Пересечение двух или более элементарных событий - это сложное событие, которое происходит, если имеют место все элементарные события. Пересечение Е и F записывается как Е П Fn обозначает «и Е} и F». Пересечение Е и ^соответствует заштрихованной области на диаграмме Венна на рис. 2.4; обратите внимание, что только точки, принадлежащие и Е} и F, удовлетворяют этому условию. Продолжая наш пример, если событие заключается в бросании игральной кости с шестью гранями и Е = {1, 3}, F= {1, 2}, то событие Е П F происходит, только если выпадает 1, поскольку это значение входит в оба набора элементарных событий, так что Е П F-{1}. От англ. union - объединение. - Прим. пер.
ЕШНК Глава 2. Теория вероятности Рис. 2.4. Пересечение Ей F(заштрихованная область) Дополнение Дополнение события - это любое событие из выборочного пространства, кроме заданного. Дополнение события ? записывают по-разному: как ~?, Ес или Ё и читают как «не Е» или «дополнение Е». Например, если Е = (числа > 0), то ~Е = (числа < 0). Продолжая наш пример, если событие заключается в бросании игральной кости с шестью гранями и Е= {1,3}, то ~Е= {2,4,5,6}. Дополнение FcooTBeTCTByeT заштрихованной области на диаграмме Венна на рис. 2.5. ~F Рис. 2.5. Дополнение F(заштрихованная область) Взаимное исключение Если события не могут происходить одновременно, они называются взаимно исключающими. Иначе говоря, если у двух наборов элементарных событий нет об-
Основные определения шшшшшт щих событий, то они взаимно исключающие. Например, событие Л = (заработок больше $100 000) и событие В = (заработок меньше или равен $100 000) - взаимно исключающие, так же как и события Л = (четные числа) и В = (нечетные числа). Взаимно исключающие события Е и F изображены на диаграмме Венна на рис. 2.6; обратите внимание на то, что у них нет общих точек. Рис. 2.6. Ей F- взаимно исключающие; у них нет общих точек Независимость Если два испытания независимы, то исход одного из них не влияет на исход другого. Иначе говоря, если испытания независимы, то информация об исходе одного из них не дает никакой информации об исходе другого. Классический пример независимости - это подбрасывание обычной монетки; если вы подбросили монетку дважды, результат первого испытания никак не влияет на результат второго испытания. Перестановки В теории вероятности перестановки - это все возможные способы упорядочивания элементов в наборе. Например, если набор состоит из элементов {а, Ь, с), тогда перестановки этого набора следующие: (я, Ь, с), (а, с, b), (b, а, с), (Ь, с, я), (с, а, Ь) и (с, Ь, а). Учтите, что в перестановках важен порядок элементов: (а, Ь} с) - это не та же перестановка, что (а, с, Ь). Можно рассчитать число перестановок любого набора уникальных элементов (это значит, что ни один элемент в наборе не повторяется), используя факториалы, которые обозначаются числом с восклицательным знаком. Во многих калькуляторах есть кнопках/для вычисления факториалов, но также их можно вычислить, перемножив все целые числа, равные или меньшие заданного, вплоть до 1. Вот пример: 3! = 3х2х 1 = 6. 3! читается как «три факториал». Для набора из трех неповторяющихся элементов существует 3! или шесть перестановок, что согласуется с результатом, который мы получили выше, выписав все возможные перестановки трех букв. Это логично,
ЕМШ Глава 2. Теория вероятности поскольку, если у вас есть три элемента, на первую позицию есть три кандидата (а} Ь, с в нашем примере), на вторую позицию - два (за исключением того элемента, который был выбран для первой позиции), на третью позицию - один (оставшийся после выбора двух предыдущих). Так что у вас есть 3><2х1=6 разных способов упорядочить эти элементы. Число перестановок растет очень быстро. Например, 5! = 120, а 10! = 3 628 800. 20! имеет настолько большое значение, что не может быть отображено большинством калькуляторов, если не записать его в экспоненциальном виде: 20! = 2.432902008Е18. Экспоненциальная запись Экспоненциальная запись используется для обозначения очень больших или очень маленьких значений. Использование экспоненциальной записи позволяет не только сэкономить место (поскольку вам не нужно выписывать множество нулей), но и повышает точность передачи информации, поскольку число со многими нулями легко прочесть неправильно. В основе экспоненциальной записи лежит идея о том, что каждое число можно записать при помощи цифры, большей или равной единице и меньшей 10 (называемой коэффициентом), умноженной на степень 10 (называемой основанием). Так что число 1234 можно записать в виде 1.234ЕЗ (Е обозначает экспоненту2), что значит 1.234х 103, то есть 1.234 х 1000. Аналогично 1.234Е-4 обозначает 1.234 х 104 или 1.234x0.0001, равное 0.0001234. Другой способ трактовки значения Е - это на сколько знаков нужно переместить десятичную точку влево или вправо. Так что 1.234ЕЗ указывает на необходимость передвинуть ее на три знака вправо, что даст нам 1234, тогда как при 1.234Е-4 нужно передвинуть ее на четыре знака влево, чтобы получить 0.0001234. Сочетания Сочетания схожи с перестановками, за одним исключением - в сочетаниях не имеет значения порядок элементов. Так что (а, Ь, с) - это то же сочетание, что и (Ь, а, с). По этой причине для набора элементов (а, Ь, с) существует только одно сочетание. Один из способов использования сочетаний и перестановок в статистике - это расчет числа способов разделения множества элементов на подмножества заданного размера, что позволяет рассчитать вероятность получения любого заданного подмножества из множества. В общем случае исходное множество не содержит повторяющихся элементов, и мы будем использовать это допущение в дальнейшем обсуждении. Есть несколько способов обозначения сочетаний и перестановок; они приведены в приложении А вместе с несколькими задачами. В этом разделе мы будем придерживаться простой системы обозначений, используя Рдля обозначения перестановок5, а С - для обозначения сочетаний1. Согласно этим обозначениям, число возможных перестановок двух элементов из трех записывается как ЗР2, а число сочетаний двух элементов из трех - как ЗС2. Продолжая ранее описанный От англ. exponent - экспонента. - Прим. пер. { От англ. permutation - перестановка. - Прим. пер. 1 От англ. combination - сочетание. - Прим. пер.
Основные определения LJ^B^I пример, для набора элементов (а, Ь, с) ЗР2 = 6, поскольку есть 6 возможных перестановок двух элементов из этого набора: (а, Ь)} (а, с), (Ь, с), (Ь, а), (с, а) и (с, Ь). Для этого набора существуют три сочетания двух элементов: ЗС2 = 3: {а, Ь), (а, с) и (Ь, с). Число перестановок для подмножества величины k, происходящего из множества величины п, вычисляется по формуле, приведенной на рис. 2.7. (п-к)\ Рис. 2.7. Формула для расчета числа перестановок Используя эту формулу, можно рассчитать число перестановок двух элементов, выбираемых из 8 элементов (рис. 2.8). 8! 8! 8/>2 ^56 (8-2)! 6! Рис. 2.8. Расчет числа перестановок 8Р2 Если вам приходится проводить вычисления вручную, нужно помнить о правиле сокращения дробей: если выразить числитель и знаменатель в виде произведения, можно сократить те множители, которые входят в состав и числителя, и знаменателя. Например: 12/6 = (2 х 2 х 3)/(2 х 3) = 2, поскольку вы можете сократить и числитель, и знаменатель на (2 * 3). В случае перестановки 8Р2 не нужно вычислять факториалы перед делением, поскольку вы можете сократить много множителей. В этом примере: 8! = 8x7x6x5x4x3x2x1 и 6! = 6x5x4x3x2x1, так что вы можете многое сократить, оставшись с таким выражением: 8Р2 = 8 х 7 = 56. Если п = k, то число сочетаний будет всегда меньше числа перестановок, поскольку разный порядок одних и тех же элементов приводит к разным перестановкам, но не сочетаниям. Это становится ясным при рассмотрении формулы сочетания, которая представляет собой деление формулы для перестановок на факториал числа выбранных объектов (рис. 2.9). п\ пРк пСк к\{п-к)\ к\ Рис. 2.9. Формула для расчета числа сочетаний
Глава 2. Теория вероятности Используя эту формулу, вы можете вычислить число сочетаний двух объектов, выбранных из 8 объектов, как показано на рис. 2.10. 8С2 = 8! 2!(8- 2)! 8Р2 2! . 56 2 = 28 Рис. 2.10. Расчет числа сочетаний 8С2 Определение вероятности Существует несколько способов охарактеризовать вероятность, но определение, используемое в статистике, гласит, что вероятность показывает, как часто происходит некоторое событие при повторении эксперимента. Например, вероятность выпадения орла при броске монетки может быть оцененй при наблюдении, сколько раз выпадет орел в серии бросков. Наверное, если нужно выбрать единственное самое важное свойство вероятности, то оно таково: вероятность события всегда находится между Out Если вероятность события равна 0, это значит, что у него нет шансов случиться, тогда как вероятность события, равная 1, означает, что оно обязательно произойдет. В математике принято выражать событие в долях единицы, поэтому мы говорим, что вероятность события находится между 0 и 1, однако так же правильно (и более обычно в повседневной речи) рассуждать в терминах процентов, так что верно будет и то, что вероятность события находится между 0% и 100%. Для перехода от долей единицы к процентам нужно умножить первые на 100 (процент означает «на сотню»), так что 0,4 - это 40% (0,4 * 100 = 40), а вероятность 0,85 можно выразить как 85%. Отрицательная вероятность и вероятность, превосходящая 100%, логически невозможны и существуют только как фигуры речи. Тот факт, что вероятность заключена между 0 и 1, имеет математическое обоснование, которое рассматривается дальше при обсуждении логистической регрессии в главе 11. Этот факт также служит полезной проверкой ваших вычислений. Если вы получили вероятность меньше 0 или больше 1, вы определенно где-то ошиблись. Более того, если кто-то говорит вам, что вы с вероятностью 200% выиграете на бирже, если будете действовать по его системе, вам, возможно, следует поискать нового консультанта по инвестициям. Еще одни полезный факт о вероятности таков: вероятность выборочного пространства всегда равна 1. Поскольку выборочное пространство - это все возможные исходы испытания, общая вероятность для выборочного пространства должна составлять 1. Это полезный факт, поскольку, хотя мы можем знать вероятность некоторых событий из выборочного пространства, там могут быть другие, информация о которых у нас отсутствует. Однако, поскольку мы знаем, что вероятность всего выборочного пространства равна 1, мы можем вычислить вероятность тех событий, о которых
Определение вероятности LijUIB у нас нет информации, основываясь на той вероятности, которая остается после вычитания вероятностей всех известных событий. Третий полезный факт, который следует из первых двух, таков: вероятность события и его дополнения всегда равна 1. Этот факт вытекает из определения дополнения: все выборочное пространство, кроме события Е, - это дополнение Е. Таким образом, Е и ~Е вместе должны составлять все выборочное пространство, и общая вероятность Е и ~Е должна быть равной 1. Это должно быть ясным из рис. 2.5: прямоугольник изображает выборочное пространство, круг - событие ?, а заштрихованная область внутри прямоугольника, но вне круга - событие ~?. Вместе Е и ~Е составляют полное выборочное пространство, и их объединение (Е U F) имеет вероятность 1. Запись вероятности события Обычно значения вероятности записывают следующим образом: Р(Е) = 0,5. Это должно читаться как «вероятность события Е равна 0,5» или «существует 50%-ная вероятность события Е» (или просто «вероятность Е равна 0,5» или «существует 50%-ная вероятность ?»). Используя этот формат, можно записать первый факт о вероятности (о том, что вероятность всегда находится между 0 и 1) как 0<Р(?)<1. Второй факт о вероятности, который следует из определения выборочного пространства S как все возможные исходы испытания, можно записать в виде: P(S) = 1. Третий факт о вероятности (вероятность события и его дополнения всегда равна 1) можно записать так: Р(?) + Р(~?)=1, что имеет для нас важное следствие: Р(~Е) = 1-Р(Е). Это окажется очень полезным при последующих вычислениях. Если мы знаем вероятность ?, то мы автоматически знаем вероятность ~?, которая составляет 1 - Р(Е). Так что если Р(Е) = 0,4, то Р(~Е) = 1 - 0,4 = 0,6. Условные вероятности Часто мы хотим знать вероятность некоторого события, при условии что произошло другое событие. Это записывается как Р(Е | F) и читается как «вероятность Е при условии F». Второе событие называется условием, а весь процесс иногда называется выполнением при условии F. Условная вероятность - важное понятие в статистике, поскольку мы часто пытаемся установить фактор, который влияет на результат, например у курильщиков чаще развивается рак легких. Влияние како-
ЮЯ|^И1Нг Глава 2. Теория вероятности го-либо фактора на исход события можно иначе выразить как то, что вероятность данного исхода различается в зависимости от наличия или отсутствия данного фактора. Тот факт, что вероятность рака легких (исход) выше у курильщиков (фактор), чем у тех, кто не курит, можно выразить при помощи символов следующим образом: Р(рак легких | курильщик) > Р(рак легких | некурящий). Условные вероятности также могут быть использованы для обозначения независимости. Говорят, что две переменные независимы, если выполняется следующее равенство: P(E\F) = P(E). Это выражение указывает на то, что вероятность Е неизменна, вне зависимости от наличия переменной F. Продолжая использованный ранее пример, выражение, которое показывает отсутствие связи между раком легких и курением, записывается как Р(рак легких | курильщик) = Р(рак легких). Вычисление вероятности сложных событий Для вычисления вероятности любого из нескольких происходящих событий (объединения нескольких событий) просуммируйте вероятности отдельных событий. Вид используемого уравнения будет зависеть от того, являются ли эти события взаимно исключающими (это значит, что они не могут произойти одновременно). Объединение взаимно исключающих событий Если события взаимно исключающие, как показано на рис. 2.6, то уравнение простое: P(EUF) = Р(Е) + P(F). В качестве практического примера представим колледж, в котором не может быть двух профильных предметов. Примем вероятность события ? (профильный предмет - английский язык) равной 0,2 и вероятность события F (профильный предмет - французский язык) равной 0,1. Эти события взаимно исключающие, поскольку ученики могут выбрать только один профильный предмет, так что вероятность события (профильный предмет - либо английский, либо французский язык) можно вычислить как P(?Uf) = 0,2 + 0,l=0,3.
Вычисление вероятности сложных событий ¦¦га Объединение не взаимно исключающих событий Часто события не взаимно исключающие. Например, в колледже, где можно выбрать два профильных предмета, события «профильный предмет - английский язык» и «профильный предмет - французский язык» не взаимно исключающие, поскольку, вероятно, один человек может выбрать в качестве профильных предметов и английский, и французский языки. В этой ситуации в уравнение для вычисления ^(профильный предмет - либо английский, либо французский язык) нужно ввести поправку на это перекрывание. Согласно рис. 2.4, перекрывание - это область, принадлежащая и кругу Е, и кругу F (их пересечение, отмеченное штриховкой). Если вы не учтете, что в колледже, где ученики могут выбрать более одного профильного предмета, могут найтись люди, специализирующиеся и в области английского, и в области французского языков, вы рискуете посчитать некоторых учеников дважды. (Те, кто специализируется и в области английского, и в области французского языков, будут посчитаны и как те, кто углубленно изучает английский, и те, кто углубленно изучает французский.) Для того чтобы учесть возможное перекрывание при подсчете вероятности одного из двух не взаимно исключающих событий, используйте следующее уравнение: Р(Е U F) = Р(Е) + P(F) - Р(Е П F). Предположим,что Р(профильный предмет - английский язык) = 0,2, Р(профильный предмет - французский язык) = 0,1 и Р(двойная специализация на английском и французском) = 0,05. Тогда вероятность специализации студента на изучении или английского языка, или французского составляет Р(Е UP) = 0,2 + 0,1 -0,05 = 0,25. Пересечение независимых событий Чтобы вычислить вероятность одновременного наступления нескольких элементарных событий (пересечение нескольких событий), перемножьте их вероятности. Конкретный вид формулы зависит от того, независимы ли эти события. Если два события Е и F независимы, то вероятность их совместного наступления вычисляется просто как P(EnF) = Р(Е) х P(F). Предположим, что вы подбрасываете правильную монету (вероятность выпадения орла равна 0,5, вероятность выпадения решки равна 0,5, результаты каждого броска независимы). Мы уже указали, что вероятность выпадения орла при любом броске равна 0,5 и что два испытания независимы, так что вероятность выпадения орлов при обоих бросках можно вычислить как Р(Е и F) = 0,5 х 0,5 = 0,25.
шшшш Глава 2. Теория вероятности Пересечение не независимых событий Если два события не независимы, то для вычисления вероятности их совместного наступления вам нужно знать их условную вероятность. Формула для расчетов такова: P(EnF) = P(E)*P(F\E). Предположим, вы вытаскиваете две карты из обычной колоды в 52 карты, не возвращая карту в колоду. Половина карт из этой колоды красной масти, а половина - черной. Эти события (выбор первой и второй карт) не независимы, поскольку вероятность свойств второй карты зависит от свойств первой. Если вас интересует вероятность вытащить две карты черной масти, можно рассчитать ее следующим образом: Р(Е) = Р(первая карта черной масти) = 26/52 = 0,5; P(F\ E) = Р{вторая карта черной масти|первая карта черной масти) = = 25/51=0,49. Обратите внимание на то, что поскольку вы не возвращаете карту в колоду, вторую карту вы тянете из колоды в 51 карту, и к этому моменту остается только 25 карт, поскольку вы уже вытащили одну карту черной масти. Используя эти знания, вы можете рассчитать вероятность вытащить две карты черной масти как (пересечение Е и F): Р(Е П F) = 0,50 х 0,49 = 0,245. Теорема Байеса Теорема Байеса, также известная как формула Байеса, - это один из наиболее распространенных способов применения условных вероятностей. Самый типичный случай применения теоремы Байеса - это расчет вероятности того, что человек с положительным результатом скринингового теста на определенное заболевание действительно им болен. В теореме Байеса также используется несколько введенных ранее базовых понятий теории вероятности, так что внимательное изучение формулы Байеса, помимо всего прочего, - хороший способ повторить содержание всей главы. Теорема Байеса для любых двух событий А и В сформулирована на рис. 2.11. I р(л I в) -Р{А пв) - Р(в'А)Р{А) I I Р(В) Р(В\А)Р(А) + Р(В\~А)Р(~А) | Рис. 2.11. Теорема Байеса Эту формулу следует использовать, если вы знаете Р(А), Р(В) и Р(В | А), а хотите знать Р(А | В). Числитель теоремы Байеса учитывает тот факт, что вероятность пересечения двух событий - это вероятность первого события, умноженная на вероятность второго события при условии первого. Например, вероятность В при
Теорема Байеса ШШШШЖ условии А умножается на вероятность Л, что дает вероятность пересечения А и В} то есть ситуации, когда Aw В происходят одновременно. В числителе использован тот же самый факт вместе со знанием о том, что событие и его дополнение составляют все выборочное пространство и имеют общую вероятность 1, так что сумма произведения вероятности В при условии А на вероятность А и произведения вероятности В при условии - А на вероятность -А даст нам вероятность В. Представьте себе, что существует скрининговый тест, который выявляет заболевших с 95%-ной вероятностью и дает отрицательный результат для здоровых с вероятностью 99%. Клиницисты сказали бы, что этот тест характеризуется 95%-ной чувствительностью и 99%-ной специфичностью. Предположим, что частота заболевания в генеральной совокупности составляет 1%. Если мы обозначим заболевание как D5, отсутствие заболевания как ~Д положительный результат теста как Т, а отрицательный результат теста как ~Г, вышеупомянутые вероятности можно записать следующим образом: Чувствительность = P(T\D) = 0,95; Специфичность = Р(~Т\ ~D) = 0,99; Вероятность заболевания в генеральной совокупности = P(D) = 0,01. Приведенные значения чувствительности и специфичности очень высоки. Многие часто используемые тесты и процедуры менее точны. Однако все тесты несовершенны, и возможно, что человек с положительными результатами теста на самом деле здоров (ложноположительный результат), а человек с отрицательными результатами теста на самом деле болен (ложноотрицательный результат). Обычно что вы действительно хотите узнать, так это то, какова вероятность того, что человек с положительным результатом теста действительно болен? Используя принятую форму записи условной вероятности, вы хотите узнать P(D \ T). Вы можете вычислить эту вероятность, используя теорему Байеса, учитывая данные о чувствительности и специфичности теста и о частоте встречаемости данного заболевания в генеральной совокупности, как это показано на рис. 2.12. I Г(р I л -P{D пт) - р(т'D)P(D) I Р(Т) P(T\D)P(D) + P(T\~D)P(~D) Рис. 2.12. Теорема Байеса, записанная с использованием наших обозначений для заболевания и результатов теста Из этой формулы ясно видно, что вероятность иметь заболевание при положительном результате теста - это просто вероятность и заболевания, и положительного результата теста, деленная на вероятность положительного результата теста (вне зависимости от наличия заболевания). Используя тот факт, что событие и его дополнение составляют все выборочное пространство и имеют общую вероятность, равную 1, вы знаете, что частота лож- ноположительных результатов - это 1 - специфичность: ' От англ. desease - заболевание. - Прим. пер.
ЦвН>. i Глава 2. Теория вероятности P(T\~D) = 1-0,99 = 0,01. По этой же причине вы знаете, что вероятность отсутствия данного заболевания в генеральной совокупности составляет 1 - вероятность наличия заболевания: P(~D) = 1 - P(D) = 1 - 0,01 = 0,99. Используя эти факты и ранее предоставленную информацию, мы можем вычислить P(D | Т), как показано на рис. 2.13. WID 2^Ш» 9Ш 0.4897 [(0.95X0.01)] + (0.01)(0.99)] 0.0095 + .00099 Рис. 2.13. Использование теоремы Байеса для вычисления вероятности наличия заболевания при положительном результате теста Этот пример демонстрирует важный и не получивший должного внимания (по крайней мере, у общественности) факт о скрининговых тестах. Даже высокоспе- цифичный и чувствительный скрининговый тест на редкое заболевание будет иметь высокую частоту ложноположительных результатов, по сравнению с частотой истинно положительных результатов. В приведенном примере ожидается, что около половины людей с положительным результатом теста на самом деле будут здоровы. Это не обязательно является поводом отказываться от теста, в особенности если заболевание имеет серьезные последствия, и существует более точный последующий тест для разделения истинных и ложных положительных результатов. Однако любое предложение организовать всеобщее обследование (будь то тест на определенное заболевание или проверка багажа в аэропорту) обязательно должно учитывать частоту ложноположительных результатов и их последствия. Нужно отметить, что частота ложноположительных результатов зависит как от частоты заболевания в генеральной совокупности, так и от чувствительности и специфичности скринингового теста. Если частота заболевания составляет 0,005, а не 0,01, меньше положительных результатов будут истинными, а больше - ложными, как это видно на примере вычислений, приведенных на рис. 2.14. п,ъ, ^ (0.95)(0.005) 0.00475 P(D IТ) = = 0.3231 [(0.95)(0.005)] + (0.01)(0.995)] 0.00475 + .00995 Рис. 2.14. Еще один пример использования теоремы Байеса для вычисления вероятности наличия заболевания при положительном результате теста; обратите внимание на снижение частоты истинно положительных результатов из-за более низкой встречаемости заболевания в генеральной совокупности В этом примере менее одной трети положительных результатов истинные.
Достаточно разговоров, давайте займемся статистикой! ¦¦EI Преподобный Томас Байес Теорема Байеса была сформулирована английским министром, преподобным Томасом Байесом (Thomas Bayes, 1702-1761). Байес изучал логику и теологию в Эдинбургском университете и зарабатывал на жизнь, занимая должность министра. Однако его нынешняя слава основана на теории вероятности, которая была разработана им в эссе, опубликованном посмертно Лондонским королевским обществом. В наши дни существует отдельная область науки, называемая байесовской статистикой. Она основана на понимании вероятности как степени уверенности, а не частоты встречаемости. Хотя не ясно, согласился бы сам Байес с таким определением, поскольку за свою жизнь он опубликовал сравнительно мало математических работ. Достаточно разговоров, давайте займемся статистикой! Статистика - это что-то, что вы делаете, а не то, про что вы читаете, так что реальная цель приведенного выше теоретического введения состояла в том, чтобы снабдить вас знаниями, необходимыми для вычисления вероятности событий и статистических обоснований. В этой главе также были введены такие понятия, как независимость, или взаимное исключение, которые понадобятся вам при использовании более сложных статистических методов. Цель приведенных ниже задач - помочь вам приобрести некоторый навык работы с базовыми понятиями теории вероятности. Если для понимания темы вы предпочитаете выполнить множество задач, то существует много прекрасных учебников с упором на теорию вероятности; ссылки на некоторые из них приведены в приложении С. Если вы впервые беретесь за задачи по теории вероятности, вам может помочь следующий план работы: 1. Определите, что является испытанием и/или экспериментом. 2. Определите выборочное пространство. 3. Определите событие. 4. Выразите необходимые вероятности и проведите вычисления. В какой-то момент вы можете почувствовать, что необходимость проходить каждый из этих этапов отпала, но этот план может пригодиться в начале работы. В некоторых случаях предлагается альтернативный способ решения, основанный на другом подходе к задаче. Монеты, игральные кости и карты Поскольку во многих примерах, приведенных в этой книге, используются монеты, игральные кости и карты, этот раздел начинается с их описания. Игральные кости Стандартная игральная кость, используемая на Западе, - это куб с шестью гранями, на которые нанесено разное число точек (от 1 до 6). Допущение, лежащее
E9HIH Глава 2. Теория вероятности в основе статистических вычислений, заключается в том, что вероятности выпадения кости каждой из граней кверху равны, так что каждый бросок кости имеет шесть равновероятных исходов: 1, 2, 3, 4, 5, 6. Используя специальную терминологию, набор исходов при броске одной кости имеет дискретное равномерное распределение, поскольку возможные исходы mojjcho пронумеровать, и каждый из них имеет одинаковую вероятность. Результаты, полученные при одновременном броске двух или более костей (или многократного подбрасывания одной и той же кости), не зависят друг от друга, так что вероятности каждой комбинации чисел вычисляются путем перемножения вероятностей каждого результата. Для полной определенности нужно отметить, что «равная вероятность выпадения каждой грани» выполняется только для костей, используемых в казино, на которых точки (кружочки, используемые для обозначения числа на каждой грани) нанесены краской. Вам могут быть больше знакомы кости, на которых точки сделаны в виде углублений, а не нанесены краской, что приводит к неравномерному распределению массы и, следовательно, разной вероятности выпадения разных граней. Однако при теоретических разговорах о вероятности этой разницей обычно пренебрегают и считают, что выпадение любой грани равновероятно. Монеты Стандартная монета, используемая в вероятностных экспериментах, имеет две стороны, орел и решка. Часто имеют в виду правильную монету, что значит равную вероятность выпадения орла и решки при каждом броске. Для любой монеты, правильной или нет, вероятность выпадения орлов и решек считается постоянной, так что результаты предыдущих бросков не влияют на результаты последующих. Как и в случае игральной кости, вероятность выпадения орлов и решек на реальной монете редко в точности составляет 50:50 по ряду физических причин, включающих дизайн монеты, ее изношенность и стиль бросков, но при выполнении вероятностных задач эти тонкости следует игнорировать, если только они не прописаны в условии. Иногда в интересах безопасности эксперименты проводят, закручивая монетку, а не подбрасывая ее (в результате меньше разящих объектов летает в переполненном классе). Хотя ожидаемое соотношение 50:50 в этом случае еще менее правдоподобно, при выполнении вычислений (а не реальном закручивании монетки и записи результатов) предположите, что это соотношение работает. Более подробную информацию по этой теме можно получить здесь: http:/Av\vw.scienccnevvs.org/articles/20040228/fob2.asp. Игральные карты Стандартная колода в наши дни состоит из 52 игральных карт четырех мастей: пики, крести, черви и бубны. Пики и крести - это черные масти, а черви и бубны - красные. Есть 13 карт каждой масти: туз, нумерованные карты от 2 до 10 и три фигуры - валет, дама и король. В экспериментах с вытаскиванием карт из колоды предполагается, что они хорошо перемешаны, то есть вероятность вытащить любую карту одинакова.
Упражнения Упражнения Задача Если я вытащу одну карту из стандартной колоды в 52 карты, какова вероятность того, что она будет красной масти? Решение 1. Испытание - это выбор одной карты из колоды. 2. Выборочное пространство - это все имеющиеся карты, вероятность вытянуть каждую из них одинакова. 3. Событие - это Е = {красная масть}. 4. Поскольку в колоде есть 52 карты и половина из них (26) красной масти, вероятность вытащить карту красной масти составляет 26/52 или 0,5. Ответ - вероятность вытащить карту красной масти из стандартной колоды составляет 50%. Задача Если я один раз брошу игральную кость, какова вероятность, что выпадет число меньше 5? Решение 1. Испытание - это один бросок игральной кости с шестью гранями. 2. Выборочное пространство - это числа (1, 2, 3, 4, 5, 6), выпадение которых равновероятно. 3. Событие - это Е = (одно из 1, 2, 3, 4), которое также можно рассматривать как объединение четырех элементарных событий, то есть Е = (Е = 1) U (?=2)U(?=3)U(?=4). 4. Четыре из шести элементарных событий, или возможных исходов, составляющих выборочное пространство, соответствуют событию ?, так что вероятность ? равна 4/6 или 0,67 (округлено). Альтернативное решение К решению этой задачи можноподойти по-другому - вычислить вероятность каждого элементарного события, которое удовлетворяет событию ?, и сложить их, поскольку эти события - взаимно исключающие. Тогда вероятность каждого элементарного события, входящего в ?, равна 1/6; это значит, что в одном случае из шести выпадет 1, в одном случае из шести выпадет 2 и так далее. В соответствии с нашим подходом вероятность Е составляет 1/6 + 1/6 + 1/6 + 1/6 или 4/6, что совпадает с полученным ранее ответом. Задача Если я подкину правильную монету дважды, какова вероятность того, что хотя бы один раз выпадет орел? Решение 1. Эксперимент заключается в двукратном подбрасывании правильной (Р = 0,5 и для решки, и для орла) монеты, то есть два независимых испытания, каждое с вероятностью 0,5. ¦¦Ш
IBhHiv- Глава 2. Теория вероятности 2. Выборочное пространство состоит из следующих исходов: {(о, о), (о, р), (р, о), (р,р)}, - каждый из которых равновероятен. 3. Интересующее нас событие - это Е = (хотя бы один орел). Три исхода из выборочного пространства удовлетворяют этому условию: (о, о), (о, р), (Р. о). 4. Вероятности всех исходов равны, и три из четырех исходов соответствуют событию Е, так что вероятность Е равна s, или 0,75. Альтернативное решение Этот результат можно также получить при помощи математических вычислений, рассчитав вероятность дополнения этого события и затем вычтя ее из 1, чтобы получить вероятность самого события. Если событие - это Е = (хотя бы один орел), его дополнение - это ~Е = (нет орлов, то есть две решки). Вы знаете, что вероятность выпадения решки при любом подбрасывании правильной монеты равна 0,5, а броски независимы, так что вероятность выпадения двух решек составляет 0,5 х 0,5, или 0,25. Согласно определению дополнения события, 1 - Р(~Е) = Р(Е), так что 1 - 0,25 = 0,75, или Р(Е). Вероятность выпадения хотя бы одного орла при двух бросках монеты равна 0,75, что совпадает с полученным ранее ответом. Задача Если я вытащу одну карту из стандартной колоды с 52 картами, какова вероятность того, что это будет фигура (валет, дама или король) черной масти (пики или трефы)? Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это 52 карты, вероятности выбора каждой из них равны. 3. Событие - это Е = (выбор фигуры черной масти); шесть карт удовлетворяют этому условию: валет, дама или король пик или треф. 4. Вероятность равна 6/52, или 0,115. Математическое решение Р(фигура) = 12/52, или 0,231 Р(черная масть) = 26/52, или 0,5 Р(фигура черной масти) = Р(фигура) * Р(черная масть) = 0,231 х 0,5 = 0,116. *у, Обратите внимание, что математическое решение возможно, поскольку веро- 0 % ятность вытащить карту черной масти и вероятность вытащить фигуру незави- *>Т Л . симы. Задача Если я выбираю одну карту из стандартной колоды с 52 картами, какова вероятность того, что она будет либо черной масти (пики или трефы), либо фигурой (валет, дама или король)?
Упражнения ¦НЕЭ Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это 52 карты, вероятности выбора каждой из них равны. 3. Событие - это Е = или карта черной масти, или фигура, - это значит, что любая из 26 карт черной масти или любая из 12 фигур подходит под условие. 4. Два типа карт, которые удовлетворяют условию, не взаимно исключающие: некоторые карты черной масти также являются фигурами, и наоборот. Есть 26 карт черной масти: от туза до короля пик (13) и от туза до короля треф (13). Есть 12 фигур: валет, дама и король, - каждая из которых может быть четырех мастей. Шесть карт принадлежат обоим категориям: валет, дама, король пик и валет, дама, король треф, так что 26 + 12 - 6 = 32 карты, которые удовлетворяют условию, и вероятность равна 32/52, или 0,615. Математическое решение Р(черной масти) = 26/52, или 0,500 Р(фигуры) = 12/52, или 0,231 Р(фигуры черной масти) = 6/52, или 0,115 Р(карты черной масти или фигуры) = 0,500 + 0,231-0,115 = 0,616. Небольшое различие в ответах (0,615 и 0,616) объясняется ошибкой округления. Задача Если я вытащила одну карту из стандартной колоды с 52 картами и она черной масти, какова вероятность, что это трефы? Решение 1. Испытание - это выбор одной карты из колоды с 52 картами. 2. Выборочное пространство - это все карты черной масти, поскольку нас интересует условная вероятность того, что карта окажется трефами, если ее масть черная. Таким образом, наше выборочное пространство ограничено 26 картами. 3. Событие - это Е = трефы \ карты черной масти. 4. Вероятность того, что карта окажется трефами, если это карта черной масти - это 13/26, или 0,5. ••л' ) Обратите внимание, что в этом примере мы вычисляем условную вероятность \ 0% i (вероятность треф при условии, что вытащили карту черной масти). Неуслов- М^ Л л ная вероятность выбора трефовой карты, если у нас нет информации о ее цве- I #|л те> составляет 13/52, или 0,25. Математическое решение Р(трефы | черная масть) = Р(трефы и черная масть) /Дчерная масть) = 0,25/0,5 = 0,5. Учтите, что трефы - это черная масть по определению.
I^lf:'^ Глава 2. Теория вероятности Задача Если порядок не имеет значения, сколько есть способов выбрать пять учеников из 20? Решение Это задача на комбинаторику, решение которой через перебор всех возможных вариантов будет слишком длинным. Вместо этого используем формулу для числа сочетаний пСк. В этом случае п = 20 и к = 5; ход вычислений приведен на рис. 2.15. 20! пСк = 15,504 5!(20-5)! Рис. 2.15. Использование формулы для числа сочетаний для определения числа способов выбрать пять человек из 20 Задача В конференции участвуют 80 учеников: 40 мальчиков и 40 девочек. Тридцать мальчиков и 20 девочек углубленно занимаются математикой. Известно, что случайно выбранный мальчик углубленно занимается математикой с вероятностью 75%. Однако вы хотите знать, какова вероятность того, что случайно выбранный углубленно занимающийся математикой ребенок окажется мальчиком. Указание: используйте теорему Байеса. Решение Р(мальчик) = 40/80 = 0,5. Р(-мальчик) = 40/80 = 0,5. ^(математика | мальчик) = 30/40 = 0,75. Р(математика | -мальчик) = 20/40 = 0,5. Ход вычислений приведен на рис. 2.16. Р{мальчик | математика) = Р(математика | мальчик) Р(мальчик) Р(математика\ мальчик) Р(мальчик) + Р(математика | девочка) Р(девочка) (0.75X0.5) "[(0.75X0.5)] + [(0.5X0.5)] 0.375 0.625 = 0.600 Рис. 2.16. Применение теоремы Байеса для вычисления вероятности того, что случайно выбранный углубленно занимающийся математикой ребенок окажется мальчиком Вероятность того, что случайно выбранный углубленно занимающийся математикой ребенок окажется мальчиком, составляет 60%.
Заключительное замечание: связь между статистикой и ... НМЕЭ Заключительное замечание: связь между статистикой и азартными играми Статистики любят иллюстрировать теорию вероятности, используя в качестве примеров монеты, игральные кости и карты, объекты, которые применяются в азартных играх (или просто играх, как их предпочитают называть в самой игорной индустрии). Одна причина заключается в том, что эти предметы знакомы большинству людей. Другая причина состоит в том, что вероятности разных исходов известны и неизменны и поэтому могут быть использованы для создания простых примеров применения основных понятий теории вероятности, включая независимость и взаимное исключение. Преимущество таких примеров заключается еще и в том, что задачи можно решить с использованием конкретных объектов (например, вытаскивая карты из колоды) с тем же успехом, что и при помощи математических уравнений. Однако тут есть и исторические причины, поскольку многие законы теории вероятности были сформулированы в связи с азартными играми и умением использовать игральные кости и карты. На самом деле азартные игры были движущей силой многих исследований вероятностей разных событий и сочетаний событий, поскольку способность игрока получить, а не потерять деньги во многом зависит от его понимания вероятности разных событий, происходящих в данной игре. Многие историки ставят у истоков современной теории вероятности Шевалье де Мере (Chevalier de Mere), джентльмена, который был игроком во Франции XVII века. Он обожал спорить о том, что у него выпадет хотя бы одна шестерка при четырех бросках одной кости: причина такого желания станет ясной из следующих абзацев. Однако он также верил, что хорошо спорить о том, что за 24 броска пары игральных костей у него выпадет хотя бы одна пара шестерок: оказалось, что это проигрышная идея. К счастью для последующих статистиков, Шевалье рассказал об этой задаче своему другу - философу Блезу Паскалю (Blaise Pascal), который обсудил это со своим другом - математиком Пьером Ферма (Pierre de Fermat). Рассмотрение вопросов такого типа привело к разработке, в числе прочих вещей, треугольника Паскаля, биномиального распределения и современной теории вероятности. Даже в дружеском споре хорошее пари - это то, когда вы, скорее всего, выиграете более чем в половине случаев. Иначе говоря, вероятность вашего выигрыша в удачном пари не меньше 0,5. Шевалье первым использовал этот принцип: вероятность выпадения хотя бы одной шестерки при четырех бросках кости составляет 0,518. Это легко вычислить, рассмотрев вероятность того, что за четыре броска не выпадет ни одной шестерки, которая составляет (5/6)1. Выпадение хотя бы одной шестерки - дополнение к выпадению ни одной шестерки, так что Р(хотя бы одна шестерка из четырех бросков) составляет 1 - (5/6)1 или 1 - 0,482, что равно 0,518. Это значит, что примерно в 52% случаев Шевалье выигрывал пари.
шш Глава 2. Теория вероятности Однако спорить, что при 24 бросках двух костей выпадет хотя бы одна пара шестерок, - глупо. Существует 36 комбинаций чисел при каждом броске двух костей, и только одна из них - это две шестерки, таким образом, вероятность невыпадения двух шестерок при каждом броске составляет 35/36. Поскольку каждый бросок костей независим, мы можем перемножить вероятности для каждого броска. Поскольку вероятности не меняются, это значит умножение (35/36) на само себя 24 раза, а это то же самое, что возвести (35/36) в степень 24. Вероятность выпадения хотя бы одной пары шестерок составляет 1 - Р(невыпадение пары шестерок), или 1 - 0,509, что составляет 0,491. Поскольку эта вероятность меньше 0,5, это проигрышное пари. Если вам интересно узнать больше о применении теории вероятностей к азартным играм, таким как рулетка, кости, двадцать одно, скачки и покер, загляните в кишу Эдварда Пэкеля «Математика, лежащая в основе азартных игр» (Edward Packel, «The Mathematics of Games and Gambling»), опубликованную американским математическим обществом, ссылка на которую приведена в приложении С.
ГЛАВА 3. Статистический вывод Статистический вывод - это методология, которая позволяет охарактеризовать генеральную совокупность или сформировать суждения о ней на основании информации о выборке, извлеченной из этой генеральной совокупности. Большая часть практической деятельности в области статистики связана именно со статистическим выводом. Для облегчения подобных предсказаний разработано множество сложных методов. Идея предсказательной статистики может показаться несколько запутанной, так что нам стоит потратить несколько минут, чтобы подумать о том, что значит использовать статистику для обоснования заключений. В интернет-словаре Мерриам-Вебстер (Merriam-Webster) есть два определения термина «вывод (рассуждение)» (inference): • Переход от одного предположения, утверждения или суждения, считаемого верным, к другому, истинность которого следует из истинности первого. • Переход от данных о статистической выборке к обобщениям (в виде значений параметров генеральной совокупности), как правило, с вычислением степени уверенности. Второе значение, которое специфично для статистики, тесно связано с первым. Логический вывод в общем случае - это способ формирования суждений о неизвестном, опираясь на уже известное. Статический вывод - это частный случай логических заключений, при которых формируются суждения о генеральной совокупности, как было сказано выше. Люди часто испытывают сложности с разграничением описательной статистики (descriptive statistics) обсуждаемой в главе 4 и статистического вывода (inferential statistics), отчасти потому, что некоторые статистические процедуры используются в обоих типах статистики, хотя могут иметь место незначительные различия в формулах, а также в интерпретации результатов. К примеру, одна и та же процедура лежит в основе вычисления среднего арифметического для набора данных, вне зависимости от того, представляют ли они генеральную совокупность или выборку: нужно суммировать все значения и разделить полученную сумму на число значений. Тем не менее есть различия в написании формулы для вычисления среднего арифметического. Для генеральной совокупности среднее обозначается греческой буквой и («лш», которую правильно называть параметром, поскольку это число характеризует генеральную совокупность), тогда как для обозначения
ЕИНН Глава 3. Статистический вывод выбочного среднего вы используете латинскую букву х, часто с чертой сверху, х, (которую правильно называть статистикой, поскольку это число характеризует выборку). В других случаях между формулами, используемыми для генеральной совокупности и выборки, существуют более важные различия. Хорошо известный пример - это формула для дисперсии. Когда вы имеете дело с генеральной совокупностью, в знаменателе стоит п (число наблюдений), но когда вы работаете с выборкой, делить нужно на п - 1 (на один меньше, чем число наблюдений). Эти формулы подробно разобраны в главе 4 (раздел «Меры разброса» на стр. 115), и если вы новичок в статистике, прочитайте ту главу целиком, прежде чем работать с этой, поскольку описательная статистика концептуально проще статического вывода. Вы можете использовать оба типа статистики в ходе работы над одним проектом (например, применять описательную статистику для характеристики выборки и затем - статистический вывод, чтобы решить исходные задачи вашего исследования), но вы должны четко понимать, какой тип статистики вы используете в ходе каждого конкретного анализа данных. Для этого полезно задуматься над целью вашего анализа данных: вы используете его, чтобы просто описать набор данных, с которым вы проводите вычисления? Или вы хотите распространить свои результаты на более обширную группу, которую вы не можете изучить напрямую? В первом случае вам следует применить описательную статистику, а во втором - статистический вывод. Вот два правила, которые содержат ту же идею, изложенную другими словами: • в тех случаях, когда вы изучаете составляющие генеральную совокупность случаев и не хотите выходить за их рамки, вам следует использовать описательную статистику; • в тех случаях, когда изучаемые вами случаи не составляют всей генеральной совокупности, и вы хотите сделать обобщения, выходящие за рамки этих случаев, вам следует использовать статистический вывод. Распределения вероятностей На практике статистические заключения настолько часто опираются па допущения о том, как распределены данные, что в статистике принято преобразовывать данные, чтобы они лучше соответствовали одному из известных типов распределения. По этой причине наш разговор о предсказательной статистике начинается с введения понятия теоретического распределения вероятностей и рассмотрения двух часто используемых распределений. Теоретическое распределение вероятностей - это выражение, которое определяет, какие значения будет принимать данный параметр и как часто будет встречаться каждое из этих значений (или, в случае непрерывного распределения, как часто будет встречаться данный диапазон значений). Теоретические распределения вероятностей также часто бывают представлены в графической форме; знаменитая колоколообразная кривая нормального распределения - один из примеров.
Распределения вероятностей шшшшт Теоретические распределения вероятностей полезны для статистического вывода, поскольку их свойства и характеристики определены. Если реальное распределение значений имеющегося набора данных близко к теоретическому, многие вычисления для анализируемых данных могут быть выполнены с использованием допущений, основанных на свойствах теоретического распределения. Кроме того, благодаря центральной предельной теореме (которая разбирается ниже в этой главе) при определенных условиях можно предположить, что выборочные средние распределены нормально, даже если значения генеральной совокупности, из которой произошли эти выборки, распределены отлично от нормального. Распределения вероятностей часто разделяют на непрерывные, если данные могут принимать любые значения внутри заданного диапазона, и дискретные, когда данные принимают только определенные значения. В данной главе в качестве примера непрерывного распределения рассмотрено нормальное, а в качестве примера дискретного распределения приведено биномиальное. Нормальное распределение Нормальное распределение - наверное, наиболее часто используемый тип распределения в статистике. Это происходит отчасти потому, что нормальное распределение адекватно отражает реальное распределение многих непрерывных переменных, от параметров производственного процесса до результатов проверки умственных способностей. Вторая причина широкого использования нормального распределения заключается в том, что при определенных условиях можно считать, что распределение выборочных статистик, таких как выборочное среднее арифметическое, будет нормальным, даже если выборки происходят из генеральной совокупности, для которой нормальное распределение не свойственно. Данная закономерность обсуждается далее в этой главе в разделе, посвященном теореме о центральном пределе. Нормальное распределение также называют ко- локолообразной кривой из-за его характерной формы, или гауссовым распределением в честь физика и математика Карла Гаусса, который жил в XVIII веке и использовал нормальное распределении при анализе астрономических данных. Существует бесконечное множество нормальных распределений, все из которых в целом имеют одну и ту же форму, но различаются из-за их среднего и (греческая буква «мю») и стандартного отклонения а (греческая буква «сигма»). Примеры трех нормальных распределений с разными средними значениями и стандартными отклонениями представлены на рис. 3.1. Нормальное распределение со средним арифметическим, равным 0, и стандартным отклонением, равным 1, известно как стандартное нормальное распределение, или Z-распределепие. Любое нормальное распределение может быть преобразовано в стандартное путем преобразования исходных значений в стандартизованные (этот процесс обсуждается далее в этой главе, а затем в главе 16). Такая процедура облегчает сравнение генеральных совокупностей с разными средними значениями и стандартными отклонениями.
Глава 3. Статистический вывод Для всех нормальных распределений вне зависимости от их среднего значения и стандартного отклонения характерны некоторые общие свойства. К ним относятся: • симметричность; • унимодальность (единственное наиболее частое значение); • непрерывность значений в диапазоне от минус бесконечности до плюс бесконечности; • общая площадь под кривой, равная единице; • равенство среднего, медианы и моды. 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 Л ix=0,cr =0.45 /\ ц,= 0fo- =2.24 I I ^=-2, а =0.71 \ / \ J \ 5-4-3-2-101234 - - Рис. 3.1. Три нормальных распределения Как было сказано выше, существует бесконечное множество нормальных распределений, но у них есть общие свойства. Для удобства мы часто описываем нормальные распределения в терминах единиц стандартного отклонения, а не характеризуем исходными числами, поскольку это позволяет нам использовать одно и то же описание для любого нормального распределения. Поскольку все нормальные распределения имеют одинаковую общую форму, мы можем сформулировать некоторые суждения о том, как распределены данные при любом нормальном распределении. Эмпирическое правило гласит, что для любого нормального распределения: • около 68% данных находятся в интервале ± одно стандартное отклонение от среднего; • около 95% данных находятся в интервале ± два стандартных отклонения от среднего; • около 99% данных находятся в интервале ± три стандартных отклонения от среднего. Это правило проиллюстрировано на рис. 3.2, где единицами измерения служат стандартные отклонения.
Распределения вероятностей Знание этих свойств нормального распределения предоставляет способ решить, насколько типично конкретное значение данных для генеральной совокупности. Такие сопоставления облегчаются преобразованием исходных значений данных (значений в исходных единицах измерения, например вес, измеренный в фунтах или килограммах) в Z-значения, которые выражают данные в единицах стандартного отклонения. Преобразование всех значений данных в Z-значения аналогично преобразованию нормально распределенной генеральной совокупности в стандартизованное нормальное распределение. По этой причине Z-значения иногда называют нормализованными значениями, процесс преобразования исходных значений в Z-значения - нормализацией, а стандартное нормальное распределение - Z-pac- пределением. Рис. 3.2. Доля данных, которые попадают в определенные интервалы нормального распределения Z-значение - это разница между заданным числом и средним арифметическим, выраженная в единицах стандартного отклонения. Формула для вычисления Z-значения для числа из генеральной совокупности с известным средним арифметическим и стандартным отклонением приведена на рис. 3.3. Z = х - /л а Рис. 3.3. Формула для вычисления Z-значения Если переменная х имеет нормальное распределение со средним арифметическим 100 и стандартным отклонением 5, что можно записать как .г ~JV(100, 5), то число 105 имеет Z-значение 1 (рис. 3.4). ^ 105-100 , ЛЛ Z 1.00 Рис. 3.4. Z-значение для числа 105 из генеральной совокупности ~Л/(100, 5)
HHI-:'^ Глава 3. Статистический вывод Это значит, что число 105 на одно стандартное отклонение больше среднего арифметического данной генеральной совокупности. Соответственно, число ПО из этой генеральной совокупности имеет Z-значение 2, а число 85 - Z-значение, равное -3. Используя ранее сформулированное эмпирическое правило, мы классифицируем число 105 как превышающее среднее значение, но не выделяющееся из генеральной совокупности (ожидается, что около 15,9% генеральной совокупности имеет большие Z-значения). Число 110 - более редкое (большие Z-значе- ния ожидаются для примерно 2,5% генеральной совокупности), а число 85 меньше среднего и встречается довольно редко (ожидается, что менее 0,5% значений генеральной совокупности будут равны ему или меньше). Одно большое преимущество Z-значений состоит в том, что они облегчают сравнение значений генеральных совокупностей с разными средними арифметическими и стандартными отклонениями. Например, рассматривая одну генеральную совокупность х ~N( 100, 5) и другую у -N(50, 10), мы не можем сразу сказать, встречается ли число 95 в первой генеральной совокупности реже или чаще числа 35 во второй генеральной совокупности. Однако такое сравнение можно легко провести при помощи Z-значсний, как это показано на рис. 3.5 и 3.6. Рис. 3.5. Z 95-100 5 -1.00 -значение для числа 95 из генеральной совокупности 35-50 10 -1.50 ~Л/(100,5) Рис. 3.6. Z-значение для числа 35 из генеральной совокупности ~Л/(50, 10) Переход к Z-зиачениям позволяет перевести обе генеральные совокупности в одну систему измерений. Теперь мы можем увидеть, что хотя оба значения ниже среднего в соответствующих генеральных совокупностях, второе значение выделяется сильнее, поскольку -1,5 дальше отстоит от 0 (среднего значения стандартного нормального распределения), чем -1,0. Биномиальное распределение Мы используем биномиальное распределение в качестве примера дискретного распределения, то есть распределения величин данных, которые могут принимать только определенные значения. Представим, что мы подбросили монетку пять раз: число выпавших орлов может принимать целые значения, такие как 0, 1,2, 3, 5, по не такие значения, как 3,2 или 4,6. Стало быть, величина «число выпадений орла при пяти подбрасываниях монетки» - дискретная. Биномиальное распределение может описывать многие типы реальных дихотомических величии данных (когда возможны только два исхода), начиная от деталей станков, которые могут быть или бракованными, или пригодными, до студентов, которые могут или сдать, или провалить экзамен.
Распределения вероятностей :. .ЮН1 События биномиального распределения происходят в результате процесса Бер- нулли. Одно испытание в процессе Бернулли называется испытанием Бернулли. Биномиальное распределение описывает число положительных исходов в п испытаниях процесса Бернулли. «Положительный исход» в данном случае не обязательно обозначает что-то хорошее, это значит только то, что событие, которое мы исследуем, произошло. Например, если мы исследуем, сколько деталей станков из выборки в 10 штук было бракованными, каждая часть будет считаться отдельным испытанием, а результат испытания будет классифицирован как положительный исход, если деталь окажется бракованной. Биномиальное распределение описывает то, с какой вероятностью определенное число деталей из выборки в 10 штук окажется бракованным, если есть некоторая оценка общей доли бракованных деталей. Данные, представленные биномиальным распределением, должны удовлетворять четырем требованиям: 1. Каждое испытание имеет два взаимоисключающих исхода. 2. Каждое испытание независимо, так что исход одного испытания не влияет на исход любого другого испытания. 3. Вероятность успешного исхода, обозначенная как р, одинакова для всех испытаний. 4. Число испытаний определено, оно обозначается как п. К примерам данных такого типа, которые можно охарактеризовать при помощи биномиального распределения, относятся число выпавших орлов при десятикратном подбрасывании монетки, число мужчин в выборке объемом пять из большой генеральной совокупности, в которой 65% мужчин (эта генеральная совокупность должна быть достаточно большой, чтобы доля мужчин заметно не изменилась при изъятии пяти человек), и число бракованных изделий из 20, принадлежащих к генеральной совокупности, в которой частота брака составляет 1%. Формула для вычисления вероятности определенного числа успехов при данном числе испытаний приведена на рис. 3.7. Рис. 3.7. Формула для биномиального распределения Формула для сочетания событий приведена на рис. 3.8. = пСк = {к к\(п-к)\ Рис. 3.8. Формула для вычисления вероятности сочетания событий Сочетание, как обсуждалось в главе 2, выражает число способов выбрать к предметов из п объектов, если порядок не важен. Учтите, что при написании формулы
El Глава 3. Статистический вывод биномиального распределения круглые скобки обозначают сочетание, чтобы сделать формулу легче для восприятия, однако значение этих скобок такое же, как у обозначения nCk, которое мы использовали в главе 2. Символ / в этом уравнении обозначает факториал: п! = (п)(п - \){п - 2) ... (1). Например, 5!=5 x4x3x2*i= 120. п - это число испытаний. Если мы подбрасываем монетку 10 раз, п = 10. к - это число успехов. Если мы хотим вычислить вероятность 5 успехов в 10 испытаниях, к = 10. /; со значениями в диапазоне между 0 и 1 - это вероятность успеха. Если мы подбрасываем симметричную монету и называем успешным исходом выпадение орла, то р = 0,5 (это означает, что вероятность выпадения орла при каждом броске - это 0,5 или 50%). Биномиальную формулу можно использовать для вычисления вероятности определенного числа успехов при известной вероятности успеха в каждом испытании и при заданном числе испытаний. Сокращенный способ записать биномиальную вероятность - это b(k;ir,p) или Р(к = к;п;р), где к - это число успехов в п испытаниях, в каждом из которых вероятность успеха равна р. Если бы мы хотели вычислить вероятность двух успехов в 20 испытаниях ср = 0,4, мы могли бы написать 6(2; 20, 0,4) или Р(к = 2; 20, 0,4). На рис. 3.9 изображены три графика биномиальных распределений (обратите внимание па то, что каждая комбинация р\\п даст свое распределение). 0.2 0.18 0.16 0.14 0.12 0.1 0.08 0.06 0.04 0.02 1 1 А / \ / X 1 \ / \ / \ - / У, ) 5 10— —i— 1 1 15 1 j ^ 20 1 1 ___^_^-. n_nc u п_тг| ~~"™——"¦ \) — U.J И II — L\J р = 0.7 и п = 20~ р = 0.5 и п = 40 i i 25 30 35 Рис. 3.9. Три биномиальных распределения С увеличением п при постоянном значении р биномиальное распределение все больше напоминает нормальное распределение. Из практического опыта следует, что если и пр, и п{\ - р) равны или больше 5, то биномиальное распределение
Распределения вероятностей может быть хорошо описано нормальным распределением. На рис. 3.9 распределение (р = 0.5, п = 40), согласно этому правилу, может считаться нормальным, поскольку пр = 40(0,5) = 20/2(1 -р) = 40(1 - 0,5) = 20. Тем не менее распределение ср = 0,1 и п = 40 не может быть аппроксимировано при помощи нормального распределения, поскольку пр = 40(0,1) = 4. Сложные вычисления на основе биномиальных распределений обычно выполняются при помощи компьютерных программ, но мы рассмотрим, как работает эта формула, на простом примере. Представьте, что мы подбрасываем правильную монету пять раз; какова вероятность того, что у нас выпадет ровно один орел? Мы обозначим выпадение орла как «успех» и используем формулу биномиального распределения для решения этой задачи. В этом примере: р = 0,5 (по определению правильной монеты орел и решка выпадают с равной вероятностью); п = 5 (потому что мы проводим пять испытаний); к = 1 (поскольку мы вычисляем вероятность ровно одного успеха). Вероятность ровно одного успеха в пяти испытаниях, при условии что вероятность успеха в каждом испытании равна 0,5, вычислена на рис. 3.10. Р(? = 1;5,0.5)= Ю.З'а-О.б)5-1 =0.16 Рис. 3.10. Вычисление Ь(1;5;0,5) На рис. 3.11 показано, как вычислить сочетание. !<\ 5! 5x4x3x2x1 \\) 1!(5-1)! 1х (4x3x2x1) = 5 Рис. 3.11. Вычисление 5С1 А на рис. 3.12 приведено все вычисление целиком. Рис. 3.12. Подробное вычисление Ь( 1 ;5;0,5) Мы также можем получить этот результат, используя биномиальную таблицу на рис. D.8, приложение D.
ЩЛ ^НHi ¦ Глава 3. Статистический вывод Независимые и зависимые переменные Существует много способов классифицировать переменные: один из наиболее распространенных - разделить их по роли, которую они играют в планировании исследования или анализе данных. В рамках этого подхода простой способ - это описывать неременные как зависимые, если они представляют собой результат исследования, и независимые, если предполагается, что они влияют на значение зависимой переменной (зависимых переменных). Во многих исследованиях есть третья категория переменных, контролируемые в исследовании управляющие переменные (control variables), которые могут влиять на зависимую переменную, но не представляют особенного интереса. Учтите, что ярлыки «независимая», «зависимая» и «управляющая» соответствуют ролям переменных в данном исследовании. Это значит, что данная переменная (например, вес) может быть независимой в одном исследовании, зависимой в другом и управляющей в третьем. В дополнение к этому для описания зависимых и независимых переменных некоторые авторы используют другие названия, предпочитая зарезервировать специальные названия для определенных типов исследований. Управляющие переменные вызывают особенные затруднения, поскольку выделено много их типов в зависимости от их отношения к исследуемым независимым и зависимым переменным, а также плана исследования. Управляющие переменные обсуждаются далее в главе 18, однако это обсуждение будет сфокусировано па независимых и зависимых переменных. Мы проиллюстрируем идею независимых и зависимых переменных на примере регрессионного уравнения. Это лишь краткое введение в тему, регрессия подробно обсуждается в главах 8, 10 и 11. В стандартной линейной модели, такой как регрессионное уравнение, основанное на методе наименьших квадратов (МНК), результирующая или зависимая переменная обычно обозначается буквой У, тогда как независимые переменные обозначаются как X. Индексы обозначают отдельные переменные: Xv Х2 и так далее. (МНК - наиболее распространенный тип регрессии; если не указано иначе, в этой книге «регрессионное уравнение» обозначает «регрессионное уравнение МНК».) Это должно стать ясным из принятой формы записи регрессионного уравнения, показанной на рис. 3.13. I Y = & + piXl+p2X2 + P3X3 + ...+e I Рис. 3.13. Регрессионное уравнение Буква е в этом уравнении обозначает «ошибку» и отражает тот факт, что мы пе предполагаем, что какое-либо регрессионное уравнение позволит предсказать значения Ус абсолютной точностью; напротив, мы ожидаем, что всегда будет наличествовать некая ошибка предсказания. Обратите внимание на то, что перед
Генеральные совокупности и выборки шлшшж каждым X в уравнении стоит р, которую называют регрессионным коэффициентом'. Pt - это регрессионный коэффициент для Xv P2 - это регрессионный коэффициент для Х2и так далее. Значения этих регрессионных коэффициентов определяются при помощи математических вычислений, которые позволяют получить лучшее уравнение из всех возможных для предсказания значений У по значениям переменных X на основе имеющегося набора данных. Из-за принятой системы обозначений зависимую переменную также называют «У-переменной», а независимые - «Х-переменными». К другим терминам, используемым для обозначения зависимой переменной, относятся результирующая переменная, переменная-отклик и объясненная переменная. Независимые переменные также называют регрессоры, предсказывающие или объясняющие переменные. Некоторые исследователи считают, что термины «независимый» и «зависимый» следует использовать только в эксперименте (например, при рандомизированном исследовании эффективности лекарств с контролем). При такой интерпретации термины «независимый» и «зависимый» подразумевают причинно-следственную связь, то есть значение зависимой переменной зависит, по крайней мере частично, от значений независимой переменной, факт, который сложно, если не вовсе невозможно, установить при наблюдении. (Различие между экспериментом и наблюдением подробно обсуждается в главе 18.) В этой книге данное правило не выполняется, поскольку вопросы причинно-следственной связи гораздо более сложны, по сравнению с разделением исследований на эксперимент к наблюдение; таким образом, мы будем использовать термин «независимая переменная» для обозначения переменных, которые отображают результат исследования, и «зависимая переменная» для переменных, которые, согласно ожиданиям, влияют на результат. Генеральные совокупности и выборки Концепция генеральных совокупностей и выборок, обсуждаемая также в главе 4, является ключевой для понимания статистического вывода. Определить, что является генеральной совокупностью, и выбрать подходящий метод получения выборки может быть довольно сложным (на самом деле многие статистики с докторскими степенями специализируются на данном типе работы) и требует большего внимания, чем может быть уделено этому вопросу здесь. Вместо этого мы обсудим базовые понятия и концепции, а читателю, которому нужна дополнительная информация по данной тематике, следует обратиться к специализированным учебным пособиям (некоторые из них перечислены в приложении С) или пройти углубленный курс теории получения выборок. Интересующая нас генеральная совокупность (называемая часто просто «генеральная совокупность») состоит из всех людей или других объектов (например, атлантических лососей или частей самолетов), которые исследователи хотели бы изучить, если бы обладали бесконечными ресурсами. Если посмотреть на это с другой стороны, то генеральная совокупность - это все множество объектов, на
Ш1ШШШ Глава 3. Статистический вывод которое исследователи хотели бы распространить свой результат. Это могут быть, например, все, кто жил в США в 2007 году, или мужчины возрастом 65-75 лет, у которых диагностирована застойная сердечная недостаточность. Выборки и переписи Почти все статистические исследования основываются на выборках из генеральной совокупности, а не на самой генеральной совокупности. Из этого правила существуют немногочисленные исключения. Результат периодического сбора данных обо всей генеральной совокупности называется переписью. Во многих странах государственные организации проводят перепись населения. Например, в США перепись населения проводится раз в десять лет и служит разным целям, включая распределение мест в палате представителей (нижней палате конгресса). Хотя предполагается, что в ходе переписи собирают информацию о каждом гражданине, на практике это редко достижимо. Некоторые люди не участвуют в переписи, а иных опрашивают дважды. Поэтому некоторые статистики считают, что параметры генеральной совокупности будет аккуратнее оценивать на основании хорошо составленной выборки, а не переписи, или же что данные переписи должны быть дополнены результатами изучения выборок. Легко читаемое обсуждение этих вопросов и хороший перечень источников более подробной информации содержится в статье Иварса Петерсона (Ivars Peterson), ссылка на которую приведена в приложении С. Детерминированные выборки Существует множество способов составления выборки. К сожалению, некоторые из самых удобных способов основаны на детерминированном отборе объектов, что делает их уязвимыми для возникновения выборочного смещения. Это значит, что существует высокая вероятность того, что выборка, составленная при помощи детерминированного отбора объектов, будет нерепрезентативной, так что сделанные па основе этой выборки выводы о генеральной совокупности будут сомнительными. Методы детерминированного отбора объектов популярны, поскольку с их помощью исследователь может избежать тягостного процесса составления вероятностной выборки, однако за это удобство приходится платить. Возможность распространения выводов, сделанных на основании такой выборки, на всю генеральную совокупность (как правило, основная цель составления выборки) будет ограниченной, поскольку репрезентативность выборки неочевидна. Распространенный тип детерминированной выборки - это выборка из добровольцев. Вот пример: ученый публикует в газете объявление о наборе испытуемых и включает в исследование всех, кто пожелал принять в нем участие. Это удобный способ набрать испытуемых, по, к сожалению, те, кто сами вызвались примять участие в исследовании, не могут представлять никакую генеральную совокупность. Использование выборки из добровольцев лучше оставить для такой ситуации, когда составить случайную выборку затруднительно, например для исследования тех, кто употребляет запрещенные наркотические вещества. Даже учитывая ограниченную возможность генерализации, на такой выборке из добровольцев можно получить полезную информацию, особенно на ранних этапах исследова-
Генеральные совокупности и выборки ¦а ния. Например, можно использовать таких добровольцев для сбора информации об использовании наркотических веществ в обществе. На основе подобной информации впоследствии можно составить опросник для работы со случайной выборкой людей. Тем не менее результаты, полученные для выборки из добровольцев, будут иметь ограниченную применимость к генеральной совокупности. Нерепрезентативпые выборки - это еще один распространенный тип детерминированных выборок. Как и в случае выборок из добровольцев, нерепрезентативные выборки можно использовать для сбора информации на ранних этапах исследования, при этом полученные результаты некорректно распространять на всю генеральную совокупность. Вот пример нерепрезентативной выборки: вы собираете информацию о покупательских привычках людей определенного географического района, опрашивая 50 человек, которые делают покупки в торговых пассажах (моллах). Проблема состоит в том, что эти 50 человек - не случайная выборка людей из данного района, нет никаких оснований считать, что их ответы будут отражать покупательские привычки всех жителей этого района. Однако вы можете использовать результаты этого опроса для составления анкеты, которую заполнят случайно выбранные жители данного района. Выборка по группам (квотная, или пропорциональная, выборка) - это метод составления детерминированных выборок, при котором сборщик данных получает инструкцию исследовать определенное число или долю объектов из каждой их группы. Например, в описанном выше случае торгового пассажа исследователь мог иметь задачу опросить 25 мужчин и 25 женщин или по меньшей мере 20 людей, не принадлежащих к европейской расе. Выборка по группам немного лучше нерепрезентативной выборки, поскольку в данном случае есть гарантия того, что будут представлены разные группы объектов. Например, без требований к квотам выборка людей из торгового пассажа может быть представлена 45 женщинами и пятью мужчинами, среди которых не будет ни одного неевроиейца. Однако, поскольку выборка по группам - это детерминированный метод, вы по-прежнему не узнаете, адекватно ли ее члены представляют генеральную совокупность. В вашей пропорциональной выборке может быть равное число мужчин и женщин, но будет ли оно равным для всех людей, которые делают покупки? Выборка по группам также подвержена одному определенному типу ошибки выборок, риск которой существует и для нерепрезентативных выборок. Сборщик данных может опрашивать людей, которые наиболее похожи на него (например, по возрасту) или которые выглядят наиболее дружелюбными или доступными, что сделает полученные результаты еще менее применимыми ко всей генеральной совокупности. Случайные выборки При получении случайных выборок каждый объект генеральной совокупности имеет заданную вероятность попадания в выборку. Случайные выборки, хотя требуют больших усилий при создании, чем детерминированные, предпочтительнее для использования, поскольку исследователь может обобщать полученные результаты на всю генеральную совокупность.
ИМ Глава 3. Статистический вывод Получение случайной выборки из генеральной совокупности требует наличия некоторого полного описания ее структуры (списка объектов генеральной совокупности). В некоторых случаях это полное описание структуры выборки очевидно. Например, если генеральная совокупность - это ученики какой-то школы, то описание структуры выборки - это список всех учащихся. В других случаях такого хорошего описания структуры выборки не существует. Например, телефонная книга или список номеров может быть использована для опросов, проводящихся по телефону. Проблема в данном случае заключается в том, что люди, не имеющие дома телефона, не будут включены в полученную таким способом выборку, хотя они и могут входить в интересующую нас генеральную совокупность. В ходе анализа данных можно использовать статистическое взвешивание и другие процедуры, чтобы сделать полученные на основе выборки результаты более применимыми ко всей генеральной совокупности. Основной тип получения случайных выборок - это простое случайное извлечение (ПСВ). В этом случае все выборки заданного размера имеют одинаковый шанс быть извлечены. Предположим, вы хотите составить случайную выборку из 50 учеников определенной школы. Вы берете список всех учащихся и случайно выбираете 50 человек, пользуясь таблицей или генератором случайных чисел. Поскольку в списке указаны все представители генеральной совокупности и выбор людей, включаемых в выборку, совершенно случаен, шансы попасть в выборку одинаковы как для каждого ученика, так и для каждой подгруппы учеников (в данном примере любая подгруппа размером в 50 испытуемых имеет равную вероятность быть отобранной для исследования). В большинстве случаев ПСВ обладают наилучшими статистическими свойствами из всех способов извлечения выборок, включая наименьшие доверительные интервалы для оценок параметров, и могут быть проанализированы при помощи простейших методов. Однако в некоторых случаях использовать ПСВ может быть невозможно или запредельно дорого. Поэтому для таких ситуаций были разработаны иные методы создания вероятностных выборок. Систематическое извлечение выборки сходно с ПСВ. Для систематического извлечения выборки нужно переписать или перенумеровать все объекты генеральной совокупности. Вы определяете желаемый размер выборки, а затем рассчитываете число п, которое определяет алгоритм составления выборки. Вычисление п происходит путем деления числа объектов в генеральной совокупности на объем выборки. Предположим, ваша генеральная совокупность состоит из 500 объектов, а вы хотите создать выборку из 25 объектов; в этом случае п = 20, поскольку 500/25 = 20. Затем вы выбираете случайное начальное значение, которое лежит в диапазоне от 1 до л, и включаете в выборку объект из генеральной совокупности, который имеет такой номер, и каждый следующий п-и объект. Предположим, что вы хотите создать случайную выборку из 100 объектов для генеральной совокупности из 1000 объектов. Шаги по созданию систематической выборки будут следующими: 1. Взять п = 10, поскольку 1000/100 = 10.
Генеральные совокупности и выборки * . ВНнИЕИ 2. Выбрать случайное число в диапазоне от 1 до 10. 3. Выбрать объект с таким номером и каждый следующий десятый объект. Если случайно выбранное число было равно 7, то выборка будет содержать объекты под номерами 7, 17, 27 и так далее до 997. Систематическое извлечение выборок особенно полезно, когда генеральная совокупность увеличивается со временем, а изначально определенного списка объектов не существует. Предположим, например, что вы хотите исследовать людей, которые будут вызваны в суд в наступающем году. В начале исследования вы не знаете, кто это будет, так что вы оцениваете размер генеральной совокупности, основываясь на числе людей, вызванных в суд в предыдущем году, определяетесь с размером выборки и вычисляете п, как это было описано выше. Затем вы ведете нумерованный список вызываемых в суд людей, выбрав случайное начальное число, и исследуете человека, попавшего в ваш список под случайным номером, и каждого п-то после него. Если у вас п = 14, а случайное стартовое число - 10, вы обследуете десятого человека, 24-го, 38-го и так далее, пока не наберете нужный размер выборки. При использовании систематической выборки нужно соблюдать одну предосторожность: вы должны убедиться в том, что данные не изменяются периодически так, что это сопряжено с вашим случайным начальным числом и значением п. Например, если определенные часы или дни работы суда зарезервированы для рассмотрения дел определенного типа и ваша комбинация начального числа и параметра п приводит к тому, что люди, рассмотрение дел которых назначено на этот период, не могут попасть в вашу выборку, она не будет случайной выборкой из всех людей, которые вызваны в суд. Существует много типов извлечения сложных случайных выборок - общее название для методов составления вероятностных выборок с дополнительными уровнями сложности, по сравнению со ПСВ. В расслоенных (стратифицированных) выборках интересующая нас генеральная совокупность разделена на непересекающиеся группы, или слои, на основании общих характеристик. Для людей такими характеристиками могут служить пол или возраст; для городов это может быть численность населения или тип управления; для больниц - тип руководства или число коек. Если сравнение групп или оценка характеристик каждой из групп - основная задача исследования, расслоенные выборки - это удачный выбор, поскольку выбор объектов можно организовать так, чтобы каждая интересующая нас группа была адекватно представлена. Например, ПСВ может не включать в себя достаточного числа пожилых людей для оценки их характеристик или для сравнения с людьми среднего возраста. Расслоенная выборка, напротив, может быть создана таким образом, чтобы чаще выбирать пожилых людей, а затем при обработке данных можно провести коррекцию на такое смещение частоты. Гнездовые (серийные, кластерные) выборки извлекаются с использованием уже имеющихся естественных группировок в генеральной совокупности. Этот подход часто используется в региональных исследованиях, которые требуют личных собеседований или отбора биологических проб (например, крови), поскольку носы-
ЕЭ^НН Глава 3. Статистический вывод лать исследователей для работы с одним человеком из городка Рукерсвиль (штат Вирджиния), одним человеком из города Чадрон (штат Небраска), одним - из Бэрроу (Аляска) и так далее было бы непозволительно дорого. Более экономно было бы разработать план создания выборки, который бы имел несколько уровней случайного отбора людей. На уровне страны нужно случайно выбрать несколько регионов, затем - случайно выбрать штаты в каждом регионе, города - в каждом штате и так далее вплоть до отдельных домов и людей в этих домах. Гнездовые выборки дают меньшую точность, поскольку объекты из одной группы (например, дома в одном городе или города в одном штате) обычно более сходны между собой, чем объекты, выбранные при ПСВ. Эта потеря точности обычно в достаточной степени компенсируется большим объемом выборки, которую можно обследовать, благодаря снижению расходов. Метод гнездовых выборок может сочетаться с методом выборок, пропорциональных численности. Например, вы можете захотеть извлечь выборку изо всех учеников начальной школы. Не существует списка всех учеников начальной школы в масштабах всей страны (по крайней мере, для США), но вы можете составить перечень всех начальных школ, а у каждой школы будет список ее учеников. Так что вы сможете случайно выбрать школы (возможно, в несколько стадий). Поскольку в разных школах число учеников неодинаково, вам может захотеться учесть это обстоятельство при составлении выборки, так чтобы число учеников из маленьких школ не было бы непропорционально большим (поскольку маленьких школ больше). Затем вы выберете разное число учеников для каждой выбранной школы, основываясь на общем числе се учащихся. Это значит, что вы выберете вдвое больше детей из школы с 400 учениками, по сравнению со школой, в которой учится всего 200 человек. При таком подходе полученная выборка будет содержать сопоставимое число учащихся из больших и маленьких школ. Теорема центрального предела Теорема центрального предела гласит, что распределение значений выборочных средних близко к нормальному вне зависимости от распределения значений генеральной совокупности при условии, что выборки достаточно велики. Этот факт позволяет нам делать статистические заключения, основанные на свойствах нормального распределения, даже если выборка происходит из популяции, распределение значений в которой отлично от нормального. Для выборочного среднего теорему о центральном пределе можно сформулировать следующим образом: Пусть X,,... Хп - это случайная выборка из некоторой генеральной совокупности со средним арифметическим// и дисперсией а2, тогда для достаточно больших п а2 X±N(ia,—)> п даже если распределение значений в генеральной совокупности отлично от нормального.
Теорема центрального предела L ¦¦13 Символ ~ значит, что «распределение близко к», а формулу можно прочесть как «распределение средних значений X близко к нормальному со средним арифметическим и и дисперсией о2/п»\ В применимости теоремы о центральном пределе на практике можно убедиться при помощи компьютерного моделирования, при котором многократно создаются выборки заданного размера из генеральной совокупности с отличным от нормального распределения значений. На рис. 3.14 изображено распределение значений генеральной совокупности из случайно сгенерированных значений, равномерно распределенных в диапазоне от 0 до 100. Щ 1Я щ 5] 0J—I—I—I—I—I—I—I—I—I—I—I—I—I—I—I—I—I 0.00 20.00 40.00 60.00 80.00 100.00 Рис. 3.14. Гистограмма для генеральной совокупности с равномерно распределенными значениями (Л/ = 100) в диапазоне от 0 до 100 Распределение данных, показанное на рис. 3.14, определенно отличается от нормального. Однако теорема о центральном пределе гласит, что если выборки достаточного размера получены из генеральной совокупности с отличным от нормального распределением значений, средние арифметические этих выборок распределены близко к нормальному. Обратите внимание, что в теореме ничего не сказано про то, какой размер выборок нужно считать достаточным. Ученые используют эмпирические правила, такие как распространенное правило, что выборка должна включать не менее 30 объектов, однако тут нет абсолютных законов, применимых во всех случаях. Для выборок из генеральной совокупности с близким к нормальному распределением значений распределение выборочных средних будет близким к нормальному всего при 10 или 15 объектах в выборке, тогда как для генеральной совокупности с очень асимметричным распределением требуется выборка размером 40 объектов и более. 1 Rosner, Bernard. 2000. Fundamentals of Biostatistics, 5th ed.; Brooks/Cole, Pacific Grove, CA, 174.
нмв Глава 3. Статистический вывод Выражение «распределение выборочных средних» труднопроизносимо, но его значение очевидно. Мы уже рассматривали два типа теоретических распределений (нормальное и биномиальное), хотя ясно, что случайно взятые переменные тоже имеют какое-то распределение. В данном случае нас интересует распределение средних значений, рассчитанных для выборок определенного размера, которые происходят из данной генеральной совокупности. Если мы многократно будем получать выборки определенного размера, рассчитывать среднее для каждой из них и графически изображать частоту значений этих средних, результатом будет распределение выборочных средних. Мы ожидаем, что выборки будут немного различаться между собой и, таким образом, иметь разные средние значения, распределенные некоторым образом. Можно предсказать, как именно будут распределены эти выборочные средние, основываясь па таких факторах, как распределение значений генеральной совокупности и размер выборки. Влияние размера выборки на распределение выборочных средних можно обнаружить, сравнивая рис. 3.15 и 3.16. На рис. 3.15 представлено распределение выборочных средних для 100 выборок, состоящих из двух объектов каждая, из генеральной совокупности, распределение значений которой представлено на рис. 3.14. На рис. 3.16 представлено распределение выборочных средних для 100 выборок объемом 25 объектов, происходящих из того же распределения. Распределение, показанное на рис. 3.15, по-прежнему похоже па равномерное. Это показывает, что размер выборки, равный двум, недостаточен для применения теоремы о центральном пределе для данной генеральной совокупности. 5J 0^ ~h 0.00 20.00 40.00 60.00 80.00 100.00 Рис. 3.15. Распределение средних значений для 100 выборок размером п = 2 из генеральной совокупности с равномерно распределенными значениями
Теорема центрального предела ¦¦на Ha рис. 3.16 показано распределение средних значений для 100 выборок объемом п = 25, происходящих из генеральной совокупности с равномерно распределенными значениями (рис. 3.14). Это распределение гораздо ближе к нормальному, так что размер выборки 25 оказался достаточным для применения теоремы о центральном пределе для данной генеральной совокупности. 20- 15- 10- 5- 0- 0.00 J п п 111111 20.00 40.00 L И МП lllllfil 60.00 80.00 100.00 Рис. 3.16. Распределение средних значений для 100 выборок размером п = 25 из генеральной совокупности с равномерно распределенными значениями На рис. 3.17-3.19 продемонстрирован тот же принцип для выборок из генеральной совокупности с ассимметричным распределением значений. На рис. 3.17 показано сильно асимметричное распределение 100 значений генеральной совокупности. Рисунки 3.18 и 3.19 показывают, как тип распределения средних значений для выборок из этой генеральной совокупности изменяется в зависимости от размера выборок. На рис. 3.18 показано распределение выборочных средних для 100 выборок объемом п = 2, на рис. 3.19 показано аналогичное распределение для 100 выборок объемом п = 25. Так же как и для предыдущего примера с равномерно распределенными значениями генеральной совокупности, размер выборок п = 2 недостаточен для применения теоремы о центральном пределе, а п = 25 кажется достаточным.
Глава 3. Статистический вывод Рис. 3.17. Асимметричное распределение значений генеральной совокупности (Л/= 100) Рис. 3.18. Распределение средних значений для 100 выборок размером п = 2 из генеральной совокупности с асимметрично распределенными значениями
Проверка гипотез ¦ШЕЛ 30- 20- 10- о Г L -4.00 -2.00 0.00 2.00 4.00 Рис. 3.19. Распределение средних значений для 100 выборок размером п = 25 из генеральной совокупности с асимметрично распределенными значениями Проверка гипотез Проверка гипотез составляет основу статистического вывода, поскольку позволяет использовать статистические методы для решения повседневных задач. Проверка гипотез состоит из нескольких основных этапов: 1. Формулировка рабочей гипотезы, которая может быть проверена статистическими методами. 2. Формальное описание нулевой и альтернативной гипотез. 3. Выбор подходящего статистического теста, сбор данных, проведение вычислений. 4. Выработка решения на основании полученных результатов. Возьмем для примера оценку нового лекарства для снижения кровяного давления (борьбы с гипертонией). Производитель хочет доказать, что оно при прочих равных условиях работает лучше, чем все аналогичные средства, так что рабочая гипотеза может звучать как-нибудь вроде «Гипертоники, получающие новый препарат X, продемонстрируют более существенное снижение кровяного давления, по сравнению с гипертониками, которых лечат созданным ранее препаратом У». Если мы обозначим среднее снижение кровяного давления в группе пациентов, получающих препарат X, как р,, а в группе с препаратом Y - как р2, то нулевую и альтернативную гипотезы можно сформулировать следующим образом:
панн Глава 3. Статистический вывод Я(): а, < н2 нл- М, > Н2 Я() называется нулевой гипотезой. В данном примере нулевая гипотеза состоит в том, что лекарство X неэффективнее лекарства У, поскольку снижение кровяного давления, достигнутое при помощи препарата X, меньше или равно снижению, наблюдающемуся для препарата У. Нл, иногда обозначаемая как Я,, называется альтернативной гипотезой. В нашем примере альтернативная гипотеза заключается в том, что препарат X более эффективен, чем обычное лечение, поскольку пациенты, получающие препарат X, демонстрируют более выраженное снижение кровяного давления, чем пациенты, получающие препарат У. Обратите внимание на то, что нулевая и альтернативная гипотезы должны быть взаимоисключающими (ни один результат не может удовлетворять обоим условиям) и исчерпывающими (все возможные результаты должны удовлетворять одному из двух условий). В данном примере альтернативная гипотеза односторонняя: мы указываем, что нулевая гипотеза будет отвергнута, если группа, получавшая препарат X, продемонстрирует более заметное снижение кровяного давления, по сравнению с группой, получавшей препарат У Мы также можем сформулировать двустороннюю альтернативную гипотезу, если она будет более уместной для данного исследования. Например, если бы мы интересовались, различается ли кровяное давление (не важно, в какую сторону) у пациентов, получавших препарат X и получавших препарат У, мы бы показали это при помощи двусторонней альтернативной гипотезы: Я(): и, = и2 Двусторонние гипотезы более широко распространены в статистике, поскольку, как правило, вы хотите обнаружить различия любой направленности. После сбора данных и вычисления статистик можно принять одно из двух решений: • отвергнуть нулевую гипотезу; • не отвергнуть нулевую гипотезу. Обратите внимание на то, что если мы не можем отвергнуть нулевую гипотезу, это не значит, что мы доказали ее справедливость. Это значит только то, что наше исследование не предоставило достаточных доказательств ее справедливости. Отклонение нулевой гипотезы иногда называется «нахождением статистически значимого результата», поскольку проводимый статистический анализ данных должен продемонстрировать не только, например, различия в средних значениях по группам, а то, что эти различия статистически значимы. Неформальное значение статистической значимости - это «скорее всего, наблюдающееся не случайно», а процесс определения того, значимы ли результаты, включает не только статистические расчеты, но и применение основанных на традициях правил, которые могут различаться в зависимости от области исследований или других факторов.
Проверка гипотез ннш Процесс проверки статистических гипотез включает в себя выбор уровня значимости, или р-значения (тема, которая подробнее обсуждается позже), которое определяет, в каком случае результаты, полученные для выборки, будут достаточно убедительными, чтобы отвергнуть нулевую гипотезу. На практике р-зпаченпе наиболее часто принимается равным 0,05. Почему именно это значение? Это в некотором роде произвольно выбранное граничное значение, история которого отсчитывается с начала XX века, когда статистические критерии рассчитывались вручную, а значимость результатов определяли путем сравнения статистик с опубликованными таблицами. Использование р < 0,05 как критерия значимых результатов критикуется (см. врезку «Противоречия, связанные с проверкой статистических гипотез»), однако этот критерий сохраняется во многих исследовательских дисциплинах. Иногда используются другие пороговые р-значения, такие как р < 0,01 или р < 0,001, однако еще никому не удавалось ввести в практику использование большего порогового значения, такого какр < 0,1. Статистический вывод - это мощное средство, которое позволяет формулировать вероятностные суждения о данных. Однако поскольку эти суждения вероятностные, а не абсолютно верные, нельзя исключить возможность ошибки. Статистики определили два типа ошибок, которые можно допустить при формировании суждений при помощи предсказательной статистики, и установили уровни ошибок, которые обычно считаются допустимыми. Эти два типа ошибок представлены в табл. 3.1. Противоречия, связанные с проверкой статистических гипотез Несмотря на повсеместность проверки гипотез в современной статистике и каноническое пороговое значение статистической достоверности а = 0,05, ничто из привычного не остается неизменным. Один из основных критиков - это Якоб Коэн (Jacob Cohen), аргументы которого приведены в том числе и в статье «Земля круглая (р < 0.05)»2. Существуют существенные критические замечания как по поводу проверки гипотез в общем, так и по поводу порогового значения 0,05, но ни то, ни другое, похоже, не уйдет в прошлое в ближайшее время. С одной стороны, нужно установить какой-то стандарт для определения статистической значимости, чтобы минимизировать возможность трактовки как значимых различий, которые были получены в результате ошибки выборки или других случайных факторов. С другой стороны, в значении 0,05 нет ничего сакрального, хотя иногда его воспринимают именно так. Более того, уровень значимости результатов, полученных для выборки, подвержен влиянию многих факторов, включая размер выборки, и переоценка значения р приводит к игнорированию многих причин, по которым в данном исследовании был или не был выявлен статистически значимый эффект. Для статистиков очевидно, что если ваша выборка достаточно велика, даже незначительный эффект будет статистически значимым. Отсюда следует, что статистические методы - это мощные инструменты, но они не освобождают исследователей от необходимости использования чувства здравого смысла. 2 The Earth is round (у? < 0.05) // American Psychologist, December 1994, 997-1003.
Глава 3. Статистический вывод Таблица 3.1. Статистические ошибки первого и второго рода Решение, основанное на анализе выборки Не смогли отвергнуть Н0 Отвергаем Н0 Для генеральной совокупности верна Н0 Верное решение: Н0 справедлива, и она не отвергнута Ошибка I рода (а) верна НА Ошибка II рода (Р) Верное решение: Н0 ложна, и она отвергнута В двух ячейках этой таблицы приведены правильные решения: Я() верна и не отвергается при исследовании или Н() ложна и отвергается. В двух других ячейках представлены статистические ошибки I и II рода. Ошибка I рода, также известная под обозначением а, соответствует ошибке, которую совершают, отвергая нулевую гипотезу, в то время как она справедлива для генеральной совокупности. Ошибка II рода, обозначаемая как р, совершается, когда не выполняющаяся для генеральной совокупности нулевая гипотеза не отвергается в ходе исследования. Я составила эту таблицу, чтобы сравнить ситуацию во всей генеральной совокупности (которая, как правило, неизвестна исследователю) с тем суждением о генеральной совокупности, которое формируется на основании анализа выборки. Другой способ понять ситуацию - это рассмотреть суд, в котором нулевая гипотеза состоит в невиновности подсудимого. В ситуации суда есть реальное положение дел (совершил подсудимый преступление или нет) и есть решение судей, основанное на предоставленной им информации (виновен подсудимый или нет). Судья не может знать реальное положение дел в большей степени, чем статистик знает характеристики генеральной совокупности, так что он может принять правильное решение, а может совершить ошибку I или II рода. Если судья посчитает невинного человека виновным, это будет соответствовать ошибке I рода (отвергнуть нулевую гипотезу о невиновности, когда она справедлива), а если судья объявит преступника невиновным, он совершит ошибку II рода (не сможет отвергнуть нулевую гипотезу о невиновности, когда она не справедлива). Как уже указывалось выше, пороговое значение ошибки I рода принято считать равным 0,05. Это значит, что мы миримся с 5%-ной вероятностью совершения ошибки I типа. Иначе говоря, мы понимаем, что, принимая 0,05 за пороговое значение статистической ошибки I рода, мы имеем 5%-ную вероятность отвергнуть нулевую гипотезу, когда нам следовало принять ее. Ошибка II рода пользовалась меньшим вниманием в теории статистики, поскольку исторически игнорирование реальной закономерности (ошибка II рода) считалось менее серьезной ошибкой, чем нахождение несуществующей закономерности (ошибка I рода). Принятые пороговые значения статистической ошибки II рода равны 0,1 или 0,2. Если р = 0,1, это значит, что у нас есть 10%-ная вероятность совершить ошибку II рода, то есть 10% вероятности того, что нулевая гипотеза будет ложной, но мы не сможем отвергнуть ее в своем исследовании. Величина, обратная вероятности статистической ошибки II рода, называется мощность и рассчитывается как 1 - р. В последние годы важности достижения
Доверительные интервалы ¦¦El нужного уровня мощности придается большое значение. Исследователи и гранто- датели стали заботиться о мощности и, таким образом, об ошибке II рода, отчасти потому, что они не хотят вкладывать время, деньги и усилия в исследование до тех пор, пока не будет обеспечена достаточная вероятность обнаружения существующих закономерностей. Расчет мощности играет важную роль в планировании исследований, в особенности при определении размера выборки, который необходим для достижения достаточной мощности; эти вопросы более подробно обсуждаются в главе 15. Доверительные интервалы Когда мы вычисляем одну статистику, такую как среднее, чтобы охарактеризовать выборку, это называется точечной оценкой, поскольку полученное число соответствует одной точке на числовой оси. Хотя выборочное среднее - это лучшая несмещенная оценка среднего значения для генеральной совокупности, мы знаем, что если взять другую выборку, полученное для нее среднее, скорее всего, будет другим. Конечно, мы не можем ожидать, что все выборки из одной генеральной совокупности будут иметь одно и то же среднее значение. Есть смысл задаться вопросом, насколько точечная оценка варьирует в силу случайных причин, поэтому во многих областях науки принято приводить и точечные, и интервальные оценки. В отличие от точечной оценки, которая представлена одним числом, интервальная оценка - это числовой диапазон. Один из распространенных типов интервальной оценки - это доверительный интервал (интервал между двумя значениями, которые представляют собой верхнюю и нижнюю доверительные границы данной статистики). Формула, при помощи которой рассчитывается доверительный интервал, зависит от типа используемой статистики и будет рассмотрена в соответствующих главах. Задача этого раздела - ввести понятие доверительного интервала. Он рассчитывается с использованием заранее установленного уровня значимости, часто называемого а (греческая буква «альфа»), которая наиболее часто принимается за 0,05, как это обсуждалось ранее. Доверительный уровень рассчитывается как 1 - а или, в процентном виде, 100(1 - а)%. Таким образом, при а = 0,05 доверительный уровень составляет 0,95, или 95%, и в научных журналах обычно требуется указывать 95%-ный доверительный интервал в дополнение к точечным оценкам статистик. Идея доверительных интервалов состоит в том, что если повторить исследование бесконечное число раз, каждый раз анализируя новую выборку из генеральной совокупности и используя доверительные интервалы, рассчитанные для каждой из этих выборок, доверительный интервал будет содержать истинное значение параметра, которое нужно оценить в данном исследовании, х% раз (где х - это доверительный уровень). Например, если интересующая нас статистика - это среднее и мы используем 95%-ный доверительный интервал, после бесконечного числа извлечений выборки и вычисления выборочного среднего в 95% случаев среднее значение для генеральной совокупности будет находиться в пределах доверительного интервала.
Е1Н11Я Глава 3. Статистический вывод Доверительный интервал содержит важную информацию об аккуратности точечной оценки. К примеру, представьте, что у нас есть две выборки студентов, и в обоих случаях среднее значение IQ (средний коэффициент умственного развития) составляет 100. Однако в одном случае 95%-ный доверительный интервал составляет (95, 105), а в другом случае - (80,. 120). Поскольку первый доверительный интервал намного уже второго, оценка среднего более точна в первом случае. Кроме того, более широкий доверительный интервал для второй группы свидетельствует о том, что изменчивость по IQ в этой группе выше (хотя для проверки этой гипотезы потребуется дополнительный анализ данных). Значенияр Очевидно, что при работе с предсказательной статистикой мы в целом пытаемся оценить значение того, чего не можем измерить напрямую. Например, мы не можем обследовать каждого гипертоника на планете, но мы можем собрать данные о выборке людей с повышенным давлением и сделать выводы па основании этой выборки. Мы знаем, что при таком подходе всегда существует некоторая вероятность ошибки, включая вероятность того, что значимые результаты будут получены из-за влияния случайных причин, таких как ошибки извлечения выборки, а не из-за факторов, представляющих интерес для исследования. Значение р характеризует вероятность того, что результаты, по крайней мере настолько же выбивающиеся из общей массы, как которые получены при анализе выборки, случайны. Слова «по крайней мере настолько же выбивающиеся из общей массы» включены в определение потому, что многие статистические тесты основаны на сравнении статистики с некоторым теоретическим распределением, и часто (как в случае нормального распределения) значения, расположенные ближе к центру распределения, встречаются чаще значений, расположенных дальше от центра (выбивающихся из общего ряда). Даже если распределение асимметрично (как, например, распределение хи-квадрат), сильно отличающие от среднего значения обычно реже встречаются, так что принцип определения вероятности результатов, по крайней мере настолько же выбивающихся из общей массы, как полученные в ходе исследования, остается полезным. Рассмотрение простого примера может прояснить ситуацию. Представьте, что мы проводим эксперимент по подбрасыванию «правильной» монеты, то есть такой монеты, у которой выпадение орла и решки равновероятно при каждом броске. Формально мы можем записать это в таком виде: Р(орел) = Р(решка) = 0,5. Каждый бросок монетки можно назвать испытанием. Поскольку вероятность выпадения орла при каждом броске равна 0,5, самая надежная оценка числа орлов, выпавших при 10 испытаниях, - это 5, хотя мы знаем, что в каждом отдельном случае при 10 бросках может выпасть разное число орлов. Представим, что мы подбросили монетку 10 раз и 8 раз выпал орел. Мы хотим вычислить значение р для этого результата, то есть насколько ожидаемо то, что монетка с вероятностью
Z-статистика ¦¦El выпадения орла при каждом отдельном испытании 0,5 8 раз упадет орлом вверх в 10 испытаниях. При помощи таблицы биномиального распределения, компьютерной программы или формулы бинома Ньютона мы выясним, что вероятность данного результата (8 орлов при 10 испытаниях) равна 0,0439, означая, что меньше чем в 5% случаев при 10 подбрасываниях «правильной» монеты выпадут точно 8 орлов. Вероятность выпадения 9 орлов при 10 испытаниях равна 0,0098, а 10 орлов - 0,001. Отсюда видно, что чем сильнее результат отличается от ожидаемого (5 орлов при 10 испытаниях), тем менее он вероятен. Если мы оцениваем вероятность того, что монета «правильная», далекие от наших ожиданий (5 орлов при 10 испытаниях) результаты дают нам веские основания считать ее неправильной. При решении задач такого типа мы обычно вычисляем вероятность не просто полученного результата, но результатов, которые по меньшей мере настолько же выбиваются из общей массы. В этом случае вероятность выпадения 8, 9 или 10 орлов при 10 подбрасываниях монетки составляет 0,0439 + 0,0098 + 0,0010, или 0,0547. Это значение р для выпадения по меньшей мере 8 орлов при 10 подбрасываниях монетки, для которой вероятность выпадения орла при каждом броске составляет 0,5. Значения р обычно приводятся в качестве результатов исследований, в которых задействованы статистические вычисления, отчасти потому, что интуиция - это плохой индикатор необычности результатов. Например, многие люди могут думать, что выпадение 8 или более орлов при 10 бросках правильной монеты необычно. Статистическое определение «необычного» отсутствует, поэтому мы будем использовать общепринятый стандарт о том, что значение р для наших результатов должно быть меньше 0,05, для того чтобы мы отвергли нулевую гипотезу (которая в нашем случае состоит в том, что монета - «правильная»). В данном примере, что немного удивительно, этот стандарт не выполняется. Значение р для нашего результата (8 орлов при 10 испытаниях) не позволяет отвергнуть нулевую гипотезу о том, что монета «правильная», то есть Р(орел) = 0,5, поскольку 0,0547 больше 0,05. Z-статистика Z-статистика аналогична Z-значению, которое обсуждалось ранее, за одним важным исключением: вместо того чтобы оценивать вероятность определенного значения, теперь мы интересуемся вероятностью определенного среднего значения для выборки. Z-статистика - это важный пример применения теоремы центрального предела, которая позволяет вычислить вероятность результата, полученного для выборки, при помощи нормального распределения, даже если распределение значений генеральной совокупности, из которой происходит выборка, нам неизвестно. Формула для вычисления Z-статистики (рис. 3.20) сходна с формулой для расчета Z-значения (рис. 3.3).
Глава 3. Статистический вывод Рис. 3.20. Формула для вычисления Z-статистики В этой формуле: х - это среднее значение для нашей выборки; и - среднее значение для генеральной совокупности; а - стандартное отклонение для генеральной совокупности; п - размер выборки. Существенное различие между формулами для расчета Z-значения и Z-статистики - это числитель: в случае Z-значения мы делим на а, а в случае Z-значения мы делим на а/л/п. Обратите внимание на то, что для вычисления Z-статистики мы должны знать среднее значение и стандартное отклонение для генеральной совокупности; если мы знаем только среднее, но не стандартное отклонение, мы вместо этого можем вычислить ^-статистику (обсуждается в главе 6). Вам может помочь представление о Z-значении как о Z-статистике для выборки из одного объекта, так что знаменатель будет равен a/Vl, это то же самое, что и а, в результате мы получим знакомую формулу для вычисления Z-значения. Знаменатель в формуле для вычисления Z-статистики называется стандартной ошибкой среднего, иногда сокращаемой как СОСJ или записываемой в виде а.. Стандартная ошибка среднего - это стандартное отклонение распределения значений выборочных средних. Поскольку знаменатель делится на Vrc, большие выборки при прочих равных будут характеризоваться большими значениями Z-статистики. Это станет ясным, если рассчитать Z-статистику для нескольких выборок, которые различаются только размером. Предположим, мы создадим три выборки из генеральной совокупности со средним значением, равным 50, и стандартным отклонением, равным 10: выборка 1:х= 52, п = 30; выборка 2: х = 52, п = 60; выборка 3: х =52,п= 100. Расчеты значений Z-статистики для каждой выборки приведены на рис. 3.21, 3.22,3.23. Z-- 52-50 = 10 л/30 = 1.10 Рис. 3.21. Z-статистика для выборки (х = 52, п = 30) из генеральной совокупности ~Л/(50, 10) 5 В русскоязычном литературе такое сокращение используется крайне редко, а английская аббреииа- тура SHM (standard error of the mean) широко распространена. - Прим. пер.
Z-статистика z = 52-50 = 10 л/60 = 1.55 Рис. 3.22. Z-статистика для выборки (х = 52, п = 60) из генеральной совокупности ~Л/(50, 10) z = 52-50 = 10 л/Тоо = 2.00 Рис. 3.23. Z-статистика для выборки (х= 52, п =100) из генеральной совокупности ~Л/(50, 10) Эти примеры ясно демонстрируют, что размер выборки существенно влияет на результаты и что, при прочих равных условиях, большая выборка характеризуется большим Z-значением. Эта тема гораздо более подробно разбирается в разделе, посвященном размеру выборки и мощности, в главе 15, а здесь отметим лишь, что такой результат интуитивно понятен. Z-статистика рассчитывается при делении числителя на знаменатель, и большие размеры выборки (п) приводят к уменьшению знаменателя и, следовательно, к увеличению модуля Z-значения (при условии, что числитель остается постоянным). Мы говорим про модуль, поскольку при отрицательном числителе Z-значение будет меньшим при больших п (при прочих равных условиях), хотя все равно более далеким от 0. Например, в данном примере, если наше выборочное среднее будет равным 48, а не 52, Z-значения будут равны-1,10,-1,55 и-2,00. Предположим, мы проверяем двустороннюю гипотезу со значением альфа 0,05. В этом случае нам также нужны р-значения для каждой выборки, которые составляют: выборка 1:р = 0,2713; выборка 2:р = 0,1211; выборка 3: р = 0,0455. Только третья выборка дает значимые результаты, то есть только для этой выборки значение р меньше заданного уровня а = 0,05, что позволяет нам отвергнуть нулевую гипотезу. Это подчеркивает важность достаточного объема выборки при проведении^ исследования. Вычислить значение р для заданного Z-значения можно несколькими способами: с использованием статистических программ, онлайн-калькуляторов (http:// graphpad.com/quickcalcs/PValuel.cfm) или вероятностных таблиц. Вероятностные таблицы для нескольких наиболее распространенных типов распределения, включая нормальное, приведены в приложении D вместе с инструкциями по их использованию.
ЕЁЯнНяН Глава 3. Статистический вывод Преобразования данных Многие из наиболее распространенных методов статистического анализа называются параметрическими, это означает, что в их основе лежат определенные допущения о распределении значений в генеральной совокупности, из которой происходит выборка. Если данные в выборке свидетельствуют о том, что эти допущения не выполняются, у исследователя есть в запасе несколько подходов к анализу данных. Один - использование непараметрических методов, в основе которых лежит меньше (или вообще никаких) допущений о типе распределения данных. Непараметрические статистики обсуждаются в главе 13. Другая возможность - это преобразовать данные некоторым образом так, чтобы выполнялись допущения, лежащие в основе нужного статистического метода. Существует много способов преобразования данных, в зависимости от нужного типа распределения данных и нарушенных допущений. Мы рассмотрим один случай преобразования набора данных с целью приближения его распределения к нормальному, однако обсуждаемые нами общие принципы также применимы к другим задачам по преобразованию данных. Дальнейшую информацию о преобразованиях данных можно почерпнуть из более полного учебника, например написанного Mosteller и Tukey (ссылка приведена в приложении С). Первый шаг в преобразовании данных - это рассмотреть внимательно набор данных и решить, какое преобразование подходит в данном случае и нужно ли оно вообще. Для анализа данных с этой целью рекомендуются два подхода. Один заключается в графическом изображении данных, например в виде гистограммы с наложенной кривой нормального распределения. Это позволяет визуально оцепить распределение данных в общих чертах, а также предоставляет возможность обнаружить выбросы (экстремальные или необычные значения). Понимание общей формы распределения данных также помогает решить, какой тип преобразований можно попробовать применить. Второй подход - вычислить одну из статистик, разработанных для проверки соответствия данных определенному распределению. Обычно в этих целях используются две статистики - Андерсона-Дарлинга и Колмогорова-Смирнова. Алгоритмы вычисления этих статистик включены во многие статистические пакеты, и различные статистические калькуляторы, доступные в Интернете, также могут вычислять одну из них или обе. К примеру, статистический калькулятор для проведения теста Колмогорова-Смирнова доступен по этому адресу: http://juink.de/statistic-calculator/. Смещенное влево распределение данных (это значит, что низкие значения более обычны и «хвост» из менее частых высоких значений «тянется» в правой части гистограммы) может быть приближено к нормальному при помощи извлечения квадратного корня или логарифмирования. В первом случае вычисляется квадратный корень каждого значения. Если исходное значение равно 4, преобразованное значение равно 2, поскольку V4 = 2. При логарифмическом преобразовании вычисляется натуральный логарифм каждого значения, так что если исходное значение равно 4, то после преобразования оно равно 1,386, поскольку 1п(4) = 1,386. Каждое из этих преобразований может быть с легкостью осуществлено при помощи статистической программы, карманного калькулятора или электронной таблицы.
Преобразования данных Ha рис. 3.24 представлено смещенное влево распределение данных. На рис. 3.25 показано распределение тех же данных после извлечения из них квадратного корня, а на рис. 3.26 показаны те же данные после логарифмирования (то есть на гистограмме представлены натуральные логарифмы данных с рис. 3.24). Визуальное сравнение этих трех диаграмм позволяет заключить, что распределение на рис. 3.24 сильно смещено влево и не соответствует наложенной кривой нормального распределения. Распределение на рис. 3.25 больше похоже на нормальное, а на рис. 3.26 распределение стало из смещенного влево смещенным вправо, так что оно тоже отличается от нормального. Мы также можем провести статистические тесты, чтобы понять, привели ли преобразования к приемлемому распределению данных. С этой целью мы рассчитаем одновыборочную статистику Колмогорова-Смирнова (К-С), чтобы оцепить, насколько хорошо каждый набор данных соответствует идеальному нормальному распределению. Для расчетов использовали программу SPSS, хотя они могли быть также проведены при помощи любой другой статистической программы. Результаты для этих трех наборов данных приведены в табл. 3.2. Таблица 3.2. Z-статистики Колмогорова-Смирнова и р-значения для трех наборов данных Z-статистика Колмогорова-Смирнова Р Исходные данные 1.46 0.029 Извлечение квадратного корня 0.66 0.78 Вычисление натурального логарифма 1.41 0.04 Рис. 3.24. Гистограмма для данных со смещенным влево распределением (исходные значения)
Глава 3. Статистический вывод Рис. 3.25. Гистограмма для данных со смещенным влево распределением после извлечения из них квадратного корня Рис. 3.26. Гистограмма для данных со смещенным влево распределением после их логарифмирования Нулевая гипотеза для одновыборочного К-С теста заключается в том, что распределение данных соответствует заданному (в нашем случае нормальному). Альтернативная гипотеза состоит в том, что распределение данных отличается от заданного. Программа SPSS вычисляет и К-С-статистику (Z-значение К-С), и
Упражнения ; —кп р-значение для этой статистики, а мы будем придерживаться правила, при котором нулевая гипотеза отвергается, еслир < 0,05. Согласно результатам из табл. 3.2, мы отвергаем нулевую гипотезу для исходных и логарифмированных данных, но нам не удается ее отвергнуть для квадратного корня из данных. Таким образом, если мы хотим использовать эти данные для методов, предназначенных для работы с нормально распределенными данными, мы должны использовать преобразование с извлечением квадратного корня. Если значения переменной смещены вправо (то есть много высоких значений с «хвостом» редких низких значений, «протянувшимся» влево), вы можете «зеркально отразить» данные, а затем извлечь из них квадратный корень или логарифмировать. Для «зеркального отражения» переменной прибавьте единицу к максимальному значению в данных и вычтите каждое значение переменной из этого нового числа. Например, если наибольшее значение равно 35, вычитайте каждое значение из 36 (то есть 35 + 1), чтобы получить «отраженные» значения. Это значит, что исходное значение 1 превратится в 35, исходное значение 2 превратится в 34 и так далее, вплоть до исходного значения 35, отраженное значение которого равно 1 (36 - 35). Такое «отражение» превращает смещенное вправо распределение в смещенное влево, а затем можно извлечь квадратный корень из данных или логарифмировать их и понять, приближают ли эти процедуры распределение данных к нормальному. Преобразование данных - не гарантированное решение проблем с распределением; иногда преобразование только усиливает имеющуюся проблему или порождает новую! По этой причине преобразованные данные нужно все время проверять на нормальность, как мы делали перед этим, чтобы убедиться, что преобразование привело данные к нужному распределению. Учтите также, что преобразование меняет единицу измерения данных. Например, если вы логарифмировали значения кровяного давления, единицей измерения стал логарифм единиц, в которых измеряется кровяное давление. Если вы «зеркально отражаете» значения переменной, они меняются местами (максимальное значение становится минимальным), так что интерпретация любой статистики, основанной на этих значениях, тоже должна быть «зеркально отраженной». По этим причинам действие любого преобразования данных нужно учитывать при донесении до окружающих и интерпретации статистических результатов. Упражнения Задача В каждом из приведенных наборов переменных какие, скорее всего, будут зависимыми, а какие - независимыми при проведении исследования? 1. Пол, потребление алкоголя, стиль вождения. 2. Средний балл в школе, средний балл на первом курсе университета, выбор профильной дисциплины в университете (до зачисления), этническая принадлежность, пол.
UIbUHH Глава 3. Статистический вывод 3. Возраст, этническая принадлежность, отношение к курению, вероятность рака легких. 4. Аккуратность выполнения задания по программированию, тип полученных инструкций, время тренировки и уровень тревожности. Решение Учтите, что на эти вопросы есть более одного правильного ответа. Приведенные ответы просто представляют собой наиболее распространенные схемы исследований. 1. Пол - это независимая переменная (ни потребление алкоголя, ни стиль вождения на него не влияют). Потребление алкоголя - это, скорее всего, независимая переменная, а стиль вождения - зависимая, так что исследоваться будет влияние алкоголя и пола на стиль вождения. Хотя можно разработать экспериментальную схему, в которой роли потребления алкоголя и стиля вождения поменяются местами, возможно для проверки предположения о том, что люди склонны уменьшить потребление алкоголя после серьезной аварии. 2. Средний балл на первом курсе университета - это, скорее всего, зависимая переменная. По хронологическим соображениям средний балл в школе будет независимой переменной (поскольку школа идет раньше университета). Этническая принадлежность и пол - тоже независимые переменные, поскольку это характеристики человека. По соображениям хронологии выбор профильной дисциплины в университете - это независимая переменная, если средний балл первокурсника - переменная зависимая, поскольку выбор профильной дисциплины осуществляется до поступления, а средний балл подсчитывается после окончания первого курса. 3. Вероятность рака легких - это, скорее всего, зависимая переменная, а возраст, этническая принадлежность и стиль курения - независимые. 4. Аккуратность выполнения задания - это, скорее всего, зависимая переменная, а все остальные - независимые. Задача Почему теорема о центральном пределе чрезвычайно важна при использовании предсказательной статистики? Решение Теорема центрального предела гласит, что распределение выборочных средних приближается к нормальному вне зависимости от типа распределения значений в генеральной совокупности, из которой происходят эти выборки, если их размер достаточно велик. Это важно, поскольку при достаточном размере выборки мы можем использовать нормальное распределение для расчета вероятности результатов, полученных для выборки, даже если нам неизвестно распределение значений в генеральной совокупности, из которой происходят выборки.
Упражнения t J^H^I Задача Какой тип извлечения выборки описан в каждом из приведенных ниже сценариев? 1. Цель состоит в сборе информации по дефициту железа в пробах крови у жителей США. Выборка извлекается из групп испытуемых, которые выбирают из вложенных друг в друга территорий страны. Регионы выбирают случайно, внутри них случайно выбирают штаты и так далее до отдельных домов. 2. Цель состоит в том, чтобы выяснить, как ученики начальной школы относятся к недавно назначенному директору. Исследователь хочет проанализировать равное число мальчиков и девочек, так что в школу прислан интервьюер с указанием опросить по 10 учеников каждого иола из тех, кого он встретит на игровой площадке по завершении одного учебного дня. 3. Нужно узнать больше о семейной жизни офицеров полиции, работающих в большом городе, включая то, как влияет на семейную жизнь занятость супруги(а) офицера вне дома. Есть полный список всех мужчин и женщин, которые служат офицерами в данном городе, и при помощи компьютера извлекается случайная выборка из 200 человек, указанных в этом списке. Эти люди затем опрашиваются по телефону. 4. Директор фабрики озадачен тем, что качество деталей, производимых в разное время суток, может быть неодинаково (фабрика работает круглосуточно). План извлечения выборки заключается в отборе 30 деталей 9 раз в течение рабочего дня, причем время отбора образцов определяется случайно в пределах каждой из трех частей суток. Для каждой части суток одна выборка будет взята в первые два часа, одна - в следующие шесть часов, и еще одна - в последние два часа. Решение 1. Гнездовая выборка. 2. Выборка по группам (и нерепрезентативная). 3. Простая случайная выборка. 4. Расслоенная выборка. Задача У вас есть тест из 10 вопросов, в котором неправильные ответы не штрафуются. Для каждого вопроса есть пять вариантов ответа, так что метод случайного выбора дает 20%-ную вероятность правильного ответа на каждый вопрос. При условии что вы просто угадываете правильный ответ, какова вероятность ровно трех правильных ответов? Решение На этот вопрос можно ответить при помощи биномиального распределения с п= 10, /г = 3 и р = 0,2, как показано на рис. 3.27.
Глава 3. Статистический вывод Р(к- = 3;10,0.20) = (1& 0.23(1 ¦ -0.2)7 = 0.20 Рис. 3.27. Вычисление Ь(3; 10, 0.2) Получается, что вероятность получения ровно трех правильных ответов при заданных условиях составляет 0,2, или 20%. Согласно рис. D.8 (вероятностная таблица для биномиального распределения в приложении D), табличное значение вероятности составляет 0,20133, что при округлении дает 0,20. Задача Какова вероятность правильного ответа на три или более вопроса при условиях, описанных в предыдущей задаче? Решение На этот вопрос также можно ответить при помощи биномиального распределения п = 10, к = 3 ир = 0,2. Проще вычислить вероятность получения правильных ответов не более чем на два вопроса, а затем вычесть эту вероятность из единицы, так что мы используем именно этот подход. Мы можем поступить так, поскольку вероятность всех возможных событий всегда равна 1, а «по меньшей мере три правильных ответа» и «не более чем два правильных ответа» вместе учитывают все возможные события. Мы находим необходимые вероятности при помощи бинома Ньютона: Р(? = 0) = 0,11 Р(к=\) = 0,27 Р(к = 2) = 0,30 Р(к> 3) = 1 - Р(к< 2) = 1 - (0,11 + 0,27 + 0,30) = 0,32 Таким образом, вероятность получения трех и более правильных ответов при заданных условиях составляет 0,32, или 32%. Согласно рис. D.9 (кумулятивная вероятностная таблица для биномиального распределения в приложении D), табличное значение вероятности для Ь(2; 10,0,5) составляет 0,67780; 1 - 0,67780 = 0,3222, что при округлении дает 0,32. Задача Вычислите Z-зпачения для следующих данных, учитывая, что они происходят из нормального распределения с и = 100 и а = 2, и при помощи вероятностной таблицы для стандартного нормального распределения (рис. D.3 в приложении D) найдите вероятность значений не меньшего, чем каждое из заданных. Указания по использованию вероятностных таблиц вместе с подробным решением каждой из этих задач даны в приложении D. a) 108; b) 95; c) 98.
Упражнения Решение a) Z = 4; P(Z > 4,00) = 1 - (0,50000 + 0,49997) = 0,00003. Рис. b) Z Рис. с) Z „ 108-100 лпп Z 4.00 2 3.28. Z-значение для числа 108 из генеральной совокупности = -2,5; P(Z > -2,50) = 0,50000 + 0,49379 = 0,99379. „ 95-100 пеп Z 2.50 2 3.29. Z-значение для числа 95 из генеральной совокупности - = -1,0; P(Z > -1,00) = 0,50000 + 0,34134 = 0,84134. z.*z"»._lj0o 2 ~Л/(100, 2) ~Л/(100, 2) Рис. 3.30. Z-значение для числа 98 из генеральной совокупности ~Л/(100, 2) Задача Каким из приведенных ниже исходных значений свойственно наиболее экстремальное (то есть сильнее отличающееся от 0 в положительную или отрицательную сторону) Z-значение? a) Значение 190 из генеральной совокупности с и = 180 и a = 4; b) Значение 175 из генеральной совокупности с н = 200 и а = 5. Решение Второе значение более экстремальное, поскольку -5,0 дальше отстоит от 0, чем 2,5 (рис. 3.31 и 3.32). Рис. 3.31 Z- Z 190-180 4 = 2.50 ¦значение для числа 190 из генеральной совокупности Z = 175-200 _ 5 -5.00 ~Л/(180,4) Рис. 3.32. Z-значение для числа 175 из генеральной совокупности ~Л/(200, 5) Задача Вычислите Z-статистику для каждой из следующих выборок, которые происходят из генеральной совокупности со средним значением 40 и стандартным отклонением 5. Используйте вероятностную таблицу для стандартного нормального
ШН1Н^ Глава 3. Статистический вывод распределения (рис. D.3 из приложения D) для нахождения вероятности значения, не превышающего заданное. a) х = 42, п = 35 b) х = 42, п = 50 c) х = 39, п = 40 d) x = 39,72 = 80 Решение a) Z = 2,37; P(Z < 2,37) = 0,50000 + 0,49111 = 0,99889. z = 42-40 = 5 л/35 = 2.37 Рис. 3.33. Z-статистика для выборки (х = 42, п = 35) из генеральной совокупности ~Л/(40, 5) Ь) г- - 2,83; P(Z < 2,83) - ¦ 0,50000 + 0,49767 - 0,99767. Z.«Z40_2.83 750 Рис. 3.34. Z-статистика для выборки (.г = 42, п = 50) из генеральной совокупности ~Л/(40, 5) с) Z = -1,26; P(Z < -1,26) = 1 - P(Z > -1,26) = 1 - (0,50000 + 0,39617) = = 0,10383. z = 39-40 = 5 " л/40 -1.26 Рис. 3.35. Z-статистика для выборки (х = 39, п = 40) из генеральной совокупности ~Л/(40, 5) (1) Z - -1,79; P(Z < -1,79) = 1 - P(Z > -1,79) = 1 - (0,50000 + 0,46327) = = 0,03673. z = 39-40 : 5 " л/80 -1.79 Рис. 3.36. Z-статистика для выборки (х = 39, п = 80) из генеральной совокупности ~Л/(40, 5)
Упражнения Задача Вы - директор начальной школы. В рамках комплексного обследования одна из ваших учениц получила в тесте на IQ (интеллект) 80 баллов. Вы знаете, что в данной возрастной группе значения IQ имеют нормальное распределение с параметрами ji = 100, а = 15. Какая статистика поможет вам интерпретировать результат этой ученицы? Решение Z-значение поместит результат ученика в контекст распределения значений IQ других учеников этого возраста. Как показано на рис. 3.37, результат этой ученицы находится на 1,33 стандартных отклонения ниже среднего значения для ее возрастной группы. Хотя многие факторы могут влиять на показатель IQ (отсюда и необходимость в комплексном обследовании), значение IQ ниже среднего позволяет предположить, что эта ученица будет испытывать больше трудностей в школе, чем те, кто показал более высокие результаты в тесте на IQ. ^ 80-100 Z = -1.33 15 Рис. 3.37. Z-значение для числа 80 из генеральной совокупности ~Л/( 100, 15) Используя вероятностную таблицу для стандартного нормального распределения (рис. D.3 из приложения D), вы можете увидеть, что только для около 9% учеников (р = 0,09176) ожидаемый IQ не будет превышать указанного. Р(Ъ < -1,33) = 1 - P(Z > -1,33) = 1 - (0,50000 + 0,40824) = 0,09176. Задача Вы - исследователь-медик, изучающий эффект от вегетарианской диеты на уровень холестерина. Предположим, что значения уровня холестерина в США у мужчин в возрасте 20-65 распределены нормально со средним значением 210 мг/де- цилитр и стандартным отклонением 45 мг/децилитр. Вы исследовали выборку из 40 мужчин в данной возрастной группе, которые придерживались вегетарианской диеты в течение по меньшей мере одного года, и отметили, что средний уровень холестерина для них составляет 190 мг/децилитр. Какая статистика поможет поместить вам результат в общий контекст? Решение Вы вычисляете Z-статистику, которая позволяет поместить среднее значение уровня холестерина для вашей вегетарианской выборки в общий контекст мужчин в США данной возрастной группы. Как показано на рис. 3.38, среднее значение уровня холестерина у вегетарианцев находится в 2,81 стандартного отклонения ниже, чем среднее для всей генеральной совокупности мужчин данной возрастной группы. Это свидетельствует о том, что растительная диета сопряжена с пониженным уровнем холестерина. Так же как и в примере с IQ, на уровень холестерина
UHl ¦¦¦ Глава 3. Статистический вывод могут влиять многие факторы, и медицинское исследование этой темы должно включать больше переменных. Это упрощенный пример для иллюстрации использования Z-статистики. 190-210 Z = j= 2.81 45 Рис. 3.38. Z-статистика для выборки (х - 190, п = 40) из генеральной совокупности ~Л/(210, 45) Используя вероятностную таблицу для стандартного нормального распределения (рис. D.3 из приложения D), вы увидите, что вероятность получения результата, который был бы по меньшей мере настолько экстремальным, согласно двустороннему тесту, составляет 0,00496, так что если ваше значение а = 0,05, этот результат достаточен для того, чтобы отвергнуть нулевую гипотезу (в данном случае о том, что растительная диета не влияет на уровень холестерина). (Z < -2,81) = 1 - P(Z> -2,81) = 1 - (0,50000 + 0,49752) = 0,00248. P(Z> 2,81) = 0.00248 (поскольку Z-распределение симметрично). P[(Z< -2,81) OR (Z> 2,81)] = 2 х (0,00248) = 0,00496.
« ГЛАВА 4. Описательная статистика и графическое представление данных Большая часть этой книги, как и большинства книг о статистике, посвящена статистической проверке гипотез, то есть тому, как делать выводы о генеральной совокупности, используя статистику, рассчитанную по выборке из нее. Однако данная глава посвящена другому виду статистики: описательной, то есть использованию методов статистики и графических подходов для представления информации об изучаемых данных. Практически все, кто связан с обработкой данных, используют оба вида статистики, и часто вычисление описательных статистик - это предварительный этап перед итоговой стадией проверки гипотез. Особенно широко практикуют анализ графического представления данных и расчет простейших описательных статистик, чтобы лучше почувствовать анализируемые данные. Всегда полезно узнать свои данные лучше, и почти всегда время, проведенное за этим занятием, не тратится впустую. Описательная статистика и графическое представление данных могут быть и окончательным результатом статистического анализа. К примеру, в бизнесе может потребоваться следить за объемами продаж в разных местах или для разных продавцов и представлять эти данные с помощью графиков, без какого-либо применения этой информации для того, чтобы делать выводы (например, о других местах или годах) с использованием собранных данных. Генеральные совокупности и выборки Одни и те же данные можно рассматривать или как генеральную совокупность, или как выборку, в зависимости от целей их сбора и анализа. Например, итоговые оценки за экзамен для всех учеников класса - генеральная совокупность, если перед нами стоит цель описать распределение оценок в этом классе, но эти же оценки можно расматривать как выборку, если цель анализа состоит в том, чтобы на основании этих оценок сделать вывод об оценках других учени-
IEE1 ¦ Глава 4. Описательная статистика и графическое представление... ков (возможно, в других классах или школах). Анализ генеральной совокупности подразумевает, что ваш набор данных представляет все интересующие вас объекты, так что вы можете напрямую судить о характеристиках этой группы. В противоположность этому при анализе выборки вы работаете только с частью генеральной совокупности, и любые утверждения, которые вы делаете об этой большей группе на основании выборки, вероятностные, а не абсолютные. (Обоснование статистики вывода приведено в главе 3.) По практическим соображениям выборки анализируют чаще, чем генеральные совокупности, поскольку изучить все члены генеральной совокупности напрямую бывает невозможно или непозволительно дорого. Различие между описательной статистикой и статистикой вывода принципиально, и для проведения различий между ними был разработан набор условных обозначений и терминов. Хотя эти обозначения несколько различаются в разных источниках, как правило, числа, которые характеризуют генеральную совокупность, называют параметрами и обозначают греческими буквами, такими как и (для среднего) и а (для стандартного отклонения); числа, которые описывают выборку, называются статистиками и обозначаются латинскими буквами, такими как х (выборочное среднее) и s (выборочное стандартное отклонение). Меры центральной тенденции Меры центральной тенденции, также известные как меры положения, обычно одни из первых статистик, которые рассчитывают для непрерывных переменных из только что полученных данных. Главная цель их расчета состоит в том, чтобы дать представление о типичном или часто встречающемся значении в данной переменной. Три самые часто применяемые меры центральной тенденции - это среднее, медиана и мода. Среднее Среднее арифметическое, или просто среднее, - это то же самое, что в быту называют средним какого-то набора значений. Расчет среднего как меры центральной тенденции подходит для интервальных или характеризующих отношения данных, а среднее дихотомической переменной, закодированной как 0 и 1, дает долю случаев, когда она принимает значение 1. Для непрерывных данных, к примеру результатов измерения роста или теста на IQ, среднее просто рассчитывают, сложив все значения и разделив сумму на их число (объем выборки). Среднее генеральной совокупности1 обозначают греческой буквой и («мю»), тогда как среднее выборки обычно показывают чертой над обозначением переменной: например, среднее х обозначается как х и читается как «х с чертой». Некоторые авторы также используют такую запись и для названий переменных. К примеру, можно обозначить «средний возраст» как возраст, что читается как «возраст с чертой». 1 В случае генеральной совокупности его также называют математическим ожиданием. - Прим. пер.
Меры центральной тенденции ii iHH^I Положим, у нас есть генеральная совокупность с пятью элементами и вот значения переменной х для всех них: 100,115,93,102,97 Мы находим среднее х} сложив все эти значения и разделив на 5 (число значений): и = (100 + 115 + 93 + 102 + 97)/5 = 507/5 = 101,4. Статистики часто используют принятую форму записи суммы, приведенную в главе 1, которая определяет статистику с помощью описания ее расчета. Расчет среднего одинаков как в случае выборки, так и в случае генеральной совокупности; отличие только в символе, обозначающем само среднее. Среднее генеральной совокупности, записанное в виде суммы, представлено на рис. 4.1. Рис. 4.1. Формула для расчета среднего В этой формуле и - это среднее х по генеральной совокупности, п - это число наблюдений (число значенийх), ах. - это значение х в конкретном наблюдении. Греческая буква X («сигма») обозначает сумму (сложение), а обозначения под и над «сигмсЗй» определяют набор значений, к которым должна быть применена эта операция. В данном случае требуется сложить все значения х от 1 до п. Символ г обозначает положение в данных, так что хх - это первое значение в данных, х.} - это второе значение, а хп - последнее. Символ суммы означает, что мы должны сложить все значения хот первого (х^) до последнего (хц). Таким образом, среднее по генеральной совокупности рассчитывается с помощью сложения всех значений исследуемой переменной и последующего деления на общее число значений, помня, что деление на п - это то же самое, что и умножение на —. Среднее - это интуитивно понятная мера центральной тенденции, которую легко осознать большинству людей. Однако среднее в этом качестве следует использовать не для любых данных, поскольку оно чувствительно к экстремальным значениям, или выбросам (обсуждается подробнее ниже), и также может вести к неверным выводам в случае асимметричного распределения данных. Посмотрите на один пример. Положим, в нашем маленьком примере последнее значение было 297, а не 97. В таком случае среднее будет равно: п = (100 + 115 + 93 + 102 + 297)/5 = 707/5 = 141,4. Среднее 141,4 - это нетипичное значение для этих данных. На самом деле 80% данных (четыре значения из пяти) меньше среднего, которое искажено присутствием одного очень высокого значения. Эта проблема не просто теоретическая; многие данные тоже распределены таким образом, что среднее не подходит для них в качестве меры центральной тенденции. Это часто правда для таких показателей, как данные о доходе на семью в
НИН Глава 4. Описательная статистика и графическое представление... США. Очень небольшое число крайне богатых семей делает средний доход на семью гораздо выше типичного, и поэтому вместо среднего дохода часто используют медианный доход (подробнее про медиану см. ниже). Среднее также можно рассчитать, используя данные из таблицы частот, то есть таблицу, показывающую значения данных и то, как часто каждое из них встречается. Посмотрите на следующий пример в табл. 4.1. Таблица 4.1. Простая таблица частот Значение 1 2 3 4 Частота 7 5 12 2 Для того чтобы получить среднее этих чисел, следует использовать колонку частот как переменную для взвешивания. То есть каждое значение надо умножить на его частоту. Что касается знаменателя, сложите все частоты, чтобы получить суммарное п. Среднее затем рассчитывают, как показано на рис. 4.2. }Л = я(Х> с7) + (2х5)- (7 + 5 (-(3x12)+ (4: + 12- + 2) <2) = 2.35 Рис. 4.2. Расчет среднего по таблице частот Такой же результат можно получить, если сложить все значения (1 + 1 + 1 + 1 + ...) и разделить па 26. Среднее для сгруппированных данных, то есть в которых исходные данные были разбиты на несколько интервалов в соответствии со значениями, а точные значения теперь неизвестны, рассчитывается похожим образом. Поскольку мы не знаем точные значения для каждого наблюдения (мы, к примеру, знаем, что пять значений попали в интервал между 1 и 20, но не знаем, что это были за значения), для расчетов мы используем середину интервалов как подстановочное число вместо точных значений. Таким образом, чтобы посчитать среднее, мы сначала рассчитываем середину каждого интервала, а затем умножаем его на число значений в интервале. Для расчета середины интервала сложите его крайние значения и разделите на 2. К примеру, середина для интервала 1-20 будет: (1+20)/2=10,5. Среднее, рассчитанное таким образом, называется групповым средним. Групповое среднее не так точно, как среднее, посчитанное с помощью изначальных данных, но часто это единственное, что можно сделать, потому что сырые данные не доступны. Посмотрите на следующий пример сгруппированных данных в табл. 4.2.
Меры центральной тенденции Таблица 4.2. Сгруппированные данные Промежуток 1-20 21-40 41-60 61-80 81-100 Частота 5 25 37 23 8 Середина 10.5 30.5 50.5 70.5 90.5 Среднее рассчитывают, умножая середину каждого интервала на число значений в нем (частота) и деля на суммарную частоту, как показано на рис. 4.3. М: (10.5 х 5) + (30.5 х 25) + (50.5 х 37) + (70.5 х 23) + (90.5 х 8) (5 + 25 + 37 + 23 + 8) = 51.32 Рис. 4.3. Расчет среднего для сгруппированных данных Один из способов снизить влияние выбросов - это использовать усеченное среднее, также известно как винсоризованное среднее. Как следует из названия, усеченное среднее рассчитывают, отсекая, или выбрасывая, определенный процент крайних значений в распределении, а затем подсчитывают среднее оставшихся значений. Цель состоит в том, чтобы среднее хорошо представляло большинство значений, но не подвергалось значительному влиянию крайних значений. Рассмотрите приведенный ранее пример второй генеральной совокупности с пятью членами со значениями 100, 115, 93, 102 и 297. Среднее этой совокупности искажено влиянием одного очень большого значения, так что мы рассчитываем усеченное среднее, убрав самое большое и самое маленькое значения (эквивалентно удалению 20% самых больших и самых маленьких значений). Усеченное среднее рассчитывают так: (100 + 115 + 102)/3 = 317/3 = 105,7. Значение 105,7 гораздо ближе к типичным значениям в распределении, чем 141,4 - среднее по всем значениям. Конечно, мы будем редко встречаться с генеральными совокупностями только с пятью членами, но принцип точно так же работает и с большими наборами чисел. Обычно удаляют определенный процент данных с краев распределения. Применение такого подхода следует всегда указывать, чтобы было понятно, что на самом деле означает приведенное среднее. Кроме того, среднее можно рассчитывать и для дихотомических переменных, если закодировать их значения как 0 и 1, и в таком случае среднее будет эквивалентно проценту случаев, в которых переменная принимает значение 1. Предположим, у нас есть генеральная совокупность из 10 испытуемых, 6 из которых мужского пола, а 4 - женского, и мы закодировали мужчин как 1, а женщин как 0. Расчет среднего даст нам процент мужчин в совокупности:
иптш Глава 4. Описательная статистика и графическое представление... и=(1+1+1+1+1+1+0+0+0+ 0)/10 = 6/10 = 0,6, или 60% мужчин. Медиана Медиана в данных - это срединное значение, если данные отсортировать по возрастанию или убыванию. Если есть п значений, то медиана формально определяется как значение с порядковым номером (п + 1)/2, так что если п = 7}то срединное значение - это значение с номером (7 + 1)/2, или четвертое значение. Если значений четное число, то медиана определяется как среднее арифметическое двух срединных значений. Это формально определяется как среднее значений под номерами (п/2) и (п/2 + 1). Если значений шесть, то медиана - это среднее значений под номерами (6/2) и (6/2 + 1), то есть третьего и четвертого. Оба метода демонстрируются здесь: • нечетное число значений (5): 1,4,6,6,10; медиана = 6, потому что (5 + 1)/2 = 3, и 6 - это третье число в упорядоченном списке; • четное число значений (6): 1, 3, 5, 6, 10, 14; медиана = (5 + 6)/2 = 5,5, поскольку 6/2 = 3 и 6/2 +1=4, а 5 и 6 - это третье и четвертое значения в упорядоченном списке. Медиана лучше среднего в качестве меры центральной тенденции для симметричных данных или данных с выбросами. Это связано с тем, что медиана основана на рангах, а не па самих значениях, и по определению половила значений лежит ниже медианы, а половина - выше, вне зависимости от конкретных чисел. Таким образом, не имеет значения, есть ли в данных какие-то очень большие или маленькие значения, потому что они не повлияют на медиану сильнее, чем менее отклоняющиеся значения. К примеру, медианы всех трех показанных ниже распределений равны 4: распределение Л: 1, 1, 3, 4, 5, 6, 7; распределение Б: 0.01, 3, 3, 4, 5, 5, 5; распределение В: 1, 1, 2, 4, 5, 100, 2000. Разумеется, медиана далеко не всегда подходит как мера центральной тенденции для описания генеральной совокупности или выборки. В чем-то это дело вкуса; в данном примере медиана, похоже, неплохо отражает данные в распределениях А и Б, но, видимо, не в распределении В, в котором данные настолько разбросаны, что использование одного числа для его характеристики вообще может быть некорректно. Мода Третья обычная мера центральной тенденции - это мода, которая несет информацию о самом часто встречающемся значении. Мода часто полезна при описании порядковых или категориальных данных. К примеру, представьте, что следующие числа отражают предпочитаемый источник новостей у студентов, где 1 - газеты, 2 - телевизор, 3 - Интернет:
Меры центральной тенденции ¦¦ИИ 1,1,2,2,2,2,3,3,3,3,3,3,3. Мы можем видеть, что Интернет - самый популярный источник, поскольку 3 - это модальное (самое частое) значение в этих данных. Когда моду используют для непрерывных данных, обычно ею называют определенный промежуток значений (поскольку в случае множества вариантов значении, обычного для непрерывных данных, не может быть одного числа, встречающегося заметно чаще других). Если вы собираетесь так делать, стоит задать категории заранее и использовать стандартные промежутки, если они существуют. К примеру, возраст взрослых часто собирают с точностью до 5 или 10 лет, и, возможно, если какие-то данные разделить на промежутки по 10 лет, то модальный возраст будет 40-49 лет. Сравнение среднего, медианы и моды В идеально симметричном распределении (таком как нормальное распределение, обсужденное в главе 3) среднее, медиана и мода в точности совпадают. В асимметричном распределении все они будут различаться, как показано в данных, изображенных в виде гистограмм на рис. 4.4, 4.5 и 4.6. Для упрощения расчета моды мы разбили данные на промежутки по 5 (35-39,99, 40-44,99 и т. д.). 12.И ю.оЧ 7Н 5-И 2.54 00_| j—|—|—|—j—|—|—|—|—|—|—|—|—|—|—|—|—|—| ( 40.00 45.00 50.00 55.00 60.00 65.00 Рис. 4.4. Симметричные данные
пи ¦ Глава 4. Описательная статистика и графическое представление... Данные на рис. 4.4 приблизительно нормальные и симметричные со средним 50,88 и медианой 51,02; самый частый интервал 50,00-54,99 (37 наблюдений), за которым следует 45,00-49,99 (34 наблюдения). В этом распределении среднее и медиана очень близки, а два самых частых промежутка тоже располагаются вокруг среднего. юЧ И И И 2-] о* I ' ' ' I ' ' ' I ' ' ' 1 ' ' ' I ' ' ' I 40.00 50.00 60.00 70.00 80.00 90.00 Рис. 4.5. Данные с правым плечом У данных на рис. 4.5 есть правое плечо; среднее составляет 58,18, и медиана - 56,91. Среднее больше медианы - это типично для распределений с правым плечом, поскольку очень большие значения «тянут» среднее наверх, но не оказывают такого влияния на медиану. Модальный промежуток - это 45,00-49,99 с 16 наблюдениями; тем не менее,в несколько других интервалов попало по 14 наблюдений, что делает их очень близкими в смысле частоты к модальному промежутку, из-за чего мода не так полезна в описании этих данных. У данных на рис. 4.6 есть левое плечо; среднее составляет 44,86, а медиана - 47,43. Для распределений с левым плечом характерно среднее ниже медианы, поскольку очень маленькие «значения» тянут среднее вниз, но не оказывают такого влияния на медиану. Отклонение от симметричности на рис. 4.6 сильнее, чем на рис. 4.5, и это отралсается в большей разнице между средним и медианой на рис. 4.6, чем на рис. 4.5. Модальный интервал для рис. 4.6 - это 45,00-49,99.
Меры разброса Рис. 4.6. Данные с левым плечом Меры разброса Разброс говорит о том, насколько сильно рассеяны значения в данных. Из-за этого меры рассеяния часто называют мерами разброса. Знание разброса данных может быть так же важно, как и знание их центральной тенденции. К примеру, в двух совокупностях детей среднее IQ составляет 100, но в одном случае разброс может быть от 70 до 130 (от слабого отставания в развитии до почти гениальности), тогда как в другом разброс может быть от 90 до 110 (все в пределах нормы). Отличие может быть важным, к примеру, для учителей, поскольку, несмотря на одинаковый средний интеллект, разброс IQ в этих группах говорит о том, что у них могут быть различные образовательные и социальные потребности. Размах и межквартильный размах Самая простая мера разброса - это размах, то есть просто разность между самым большим и самым маленьким значениями в выборке. Часто минимальное (наименьшее) и максимальное (наибольшее) значения также указывают при использовании размаха. Для данных (95,98,101,105) минимум равен 95, максимум равен 105, а размах - 10 (105 - 95). Если в данных есть один или несколько выбросов, размах может не быть полезной мерой. К примеру, в данных (95, 98, 101, 105, 210) размах составляет 115, но почти все значения лежат в пределах 10 (95 - 105). Подсчет размаха для любой переменной - это хороший метод знакомства с данными;
I HI Глава 4. Описательная статистика и графическое представление... необычно большой размах или крайне экстремальные минимальное или максимальное значения могут быть поводом для дальнейшего исследования. Крайне высокие или низкие значения или очень большой размах могут возникнуть из-за таких причин, как ошибка при вводе данных или включение наблюдения из другой генеральной совокупности, чем та, которую вы исследуете (данные для взрослого могли случайно попасть в данные, касающиеся детей). Межквартнльный размах - это альтернативная мера разброса, которая слабее подвержена влиянию крайних значений, чем размах. Межквартнльный размах - это диапазон изменчивости 50% данных из середины, который рассчитывают как разницу между 75% и 25% персентилями. Межквартнльный размах легко получить с помощью большинства статистических программ, но несложно его посчитать н вручную с помощью следующих правил (п = число наблюдений, к- это персснтпль, которую вам надо найти): 1. Отсортируйте все наблюдения по возрастанию. 2. Если пк/\00 - целое (число без десятых или дробной части), то &-ая персснтпль наблюдений - это среднее наблюдений под номерами nk/\00 и яА/100+1. 3. Если пк/100 - не целое, /г-ая персентиль совпадает с измерением номер j + 1, где У — максимальное целое число, меньшее пк/\00. 4. Подсчитайте межквартнльный размах как разность 75% и 25% персенти- лей. Рассмотрим следующий набор данных с 13 наблюдениями (1, 2, 3, 5, 7, 8, 11, 12, 15,15,18,18,20): 1. Сначала мы найдем 25% персентиль, то есть к = 25. 2. У нас 13 наблюдений, так что п = 13. 3. (пк)/\00 = (25 Х 13)/100 = 3,25, не целое, поэтому мы используем второй метод (№ 3 в предыдущем списке). 4. у = 3 (максимальное целое число, меньшее пк/100, то есть меньше 3,25). 5. Таким образом, 25% персентиль - это наблюдение номеру + 1, или четвертое наблюдение, которое равно 5. Мы можем проделать те же шаги и для 75% персентили: 1. (/7/0/ЮО = (75*13)/100 = 9,75, не целое. 2. j = 9, максимальное целое, меньшее 9,75. 3. Таким образом, 75% персентиль равна значению номер 9+1, или 10, и которое равно 15. 4. В итоге межквартнльный размах равен 15 - 5, или 10. Устойчивость межквартильного размаха к выбросам должна быть очевидна. У этих данных размах равен 19 (20 - 1), а межквартнльный размах равен 10; однако если бы последнее значение было равно 200 вместо 20, размах бы составлял 199 (200 - 1), но межквартнльный размах все также был бы равен 10, и это число лучше бы представляло большинство значений в данных.
Меры разброса Дисперсия и стандартное отклонение Самые часто используемые меры разброса для непрерывных переменных - это дисперсия и стандартное отклонение2. Обе из них описывают то, насколько отдельные значения в данных отличаются от среднего значения. Дисперсия и стандартное отклонение рассчитывают слегка по-разному в зависимости от того, что исследуется, генеральная совокупность или выборка, но в целом дисперсия - это средний квадрат отклонения от среднего, а стандартное отклонение - это квадратный корень из дисперсии. Дисперсию генеральной совокупности обозначают как а2 (произносится как «сигма в квадрате»), а стандартное отклонение - а (греческая буква «сигма»), тогда как в случае выборки дисперсия и стандартное отклонение обозначаются как s2 и s соответственно. Отклонение от среднего для одного значения в данных рассчитывают как (х. - и), где х - это i-e значение в данных, а и - это среднее всех значений. При работе с выборкой принцип тот же, только вы должны вычитать среднее но этой выборке (х) из каждого значения, а не среднее по генеральной совокупности. При записи в виде суммы формула для расчета суммы отклонений от среднего для переменной х для генеральной совокупности с п членами показана на рис. 4.7. п 2и, /-1 -[Л) Рис. 4.7. Формула для суммы отклонений от среднего К сожалению, эта величина не несет особой пользы, потому что она всегда будет равна нулю, совсем не удивительный результат, если принять во внимание то, как рассчитывается среднее всех значений в наборе данных. Это легко продемонстрировать на примере небольшого набора чисел (1, 2, 3, 4, 5). Сначала рассчитаем среднее: н = (1 + 2 + 3 + 4 + 5)/5 = 3. Затем рассчитаем суммы отклонений от среднего, как показано на рис. 4.8. /-1 = (-2) -^) + (- = (1- 1) + 0 -3) + (2- + 1 + 2 = -3)- = 0 КЗ- -3)- К4- -3)- К5- -3) Рис. 4.8. Расчет суммы отклонений от среднего Чтобы обойти эту проблему, мы работаем с квадратами отклонений, которые по определению всегда положительны. Чтобы получить средний квадрат отклонения, или дисперсию, мы возводим каждое отклонение в квадрат, складываем их все и делим на число наблюдений, как показано на рис. 4.9. Последнее часто также называют среднеквадратичным отклонением. - Прим. пер.
DQ Глава 4. Описательная статистика и графическое представление... "?i Рис. 4.9. Расчет суммы квадратов отклонений от среднего Формула дисперсии для выборки отличается, поскольку требует разделить па п- 1, а не п; причины чисто технические и связаны с числом степеней свободы и несмещенной оценкой. (Для подробного обсуждения см. статью Вилкинса (Wilkins), указанную в приложении С.) Формула для дисперсии выборки, обозначаемой как s2, приведена на рис. 4.10. п — 1 ^^ Рис. 4.10. Формула дисперсии для выборки Продолжая наш простейший пример со значениями (1, 2, 3, 4, 5), среднее равно 3, н мы можем рассчитать дисперсию для этой генеральной совокупности, как показано на рис. 4.11. 1 п о"—Ее. 11 -Jl(1-3)i+ ¦?[<-2)2+( 4+1+0+1 5 -м) (2- -I)2 + 4 2 3)2 + + (0)2 10 " 5 (З-З)2 +(1)2 + = 2.0 + (4- (2)2] ¦З)2 + (5- -З)2] Рис. 4.11. Расчет дисперсии для генеральной совокупности Если мы примем эти значения за измерения из выборки, а не за члены генеральной совокупности, дисперсию следует рассчитывать, как показано на рис. 4.12. Обратите внимание, что из-за отличия в знаменателе формула дисперсии для выборки всегда будет давать больший результат, чем формула для генеральной совокупности, хотя при размере выборки, близком к размеру генеральной совокупности, отличие будет очень небольшим.
Меры разброса ¦¦по = ^[(1-3)2+(2-3)2+(3-3)2+(4-3)2+(5-3)2] = |[(-2)2 + (-1)2+(0)2+(1)2+(2)2] 4 4 + 1 + 0 + 1 + 4 10 4 " 4 " Рис. 4.12. Расчет дисперсии для выборки Раз квадраты всегда положительны (если не учитывать мнимые числа), то и дисперсия всегда будет не меньше 0. (Дисперсия будет равна нулю только в случае, если все значения переменной одинаковы, а в таком случае переменная является константой.) Однако при расчете дисперсии мы перешли от наших изначальных единиц к их квадратам, что может быть неудобно для интерпретации. К примеру, если мы измеряем массу в фунтах, нам бы было удобно, если бы меры центральной тенденции и меры разброса тоже выражались в тех же единицах, чтобы не использовать среднее в фунтах, а дисперсию в фунтах в квадрате. Чтобы вернуться к изначальным единицам, мы извлекаем квадратный корень из дисперсии; эта величина называется стандартным отклонением, и она обозначается как а в случае генеральной совокупности и s для выборки. Формула для расчета стандартного отклонения для генеральной совокупности приведена на рис. 4.13. ¦J"!'-1'""' Рис. 4.13. Формула стандартного отклонения для генеральной совокупности Обратите внимание, что это просто квадратный корень из формулы для дисперсии. В предыдущем примере стандартное отклонение можно найти, как показано на рис. 4.14. а = л/с? = л/2~=1.41 Рис. 4.14. Связь между стандартным отклонением и дисперсией Формула для стандартного отклонения для выборки приведена на рис. 4.15.
1ИЯ1 ¦ Глава 4. Описательная статистика и графическое представление... Рис. 4.15. Формула для стандартного отклонения для выборки Как и для стандартного отклонения для генеральной совокупности, в случае выборки стандартное отклонение - это квадратный корень из выборочной дисперсии (рис. 4.16). s = V7 = V2L5 =1.58 Рис. 4.16. Связь между стандартным отклонением и дисперсией В целом, в случае двух выборок одного объема с измерениями в одних единицах (например, две группы по 30 человек, у обеих измеряют массу тела в фунтах), мы можем утверждать, что у группы с большими дисперсией и стандартным отклонением больше разброс значений. Однако единица измерения влияет на величину дисперсии, что может усложнить сравнение разбросов переменных, измеренных в разных единицах. Очевидный пример: при измерении массы тела в унциях дисперсия и стандартное отклонение будут больше, чем если измерять ее в фунтах3. В случае сравнения абсолютно разных единиц, вроде роста в дюймах и массы тела в фунтах, сравнить разброс еще сложнее. Коэффициент вариации (KB) - мера относительного разброса, позволяет обойти эту проблему и делает возможным сравнивать разброс между различными переменными, измеряемыми в разных единицах. В данном случае KB показан здесь для выборочного разброса, но его можно точно так же рассчитать и в случае генеральной совокупности, заменив s на a. KB можно рассчитать, разделив стандартное отклонение на среднее, а затем умножив на 100, как показано на рис. 4.17. KB =зх100 х Рис. 4.17. Формула для коэффициента вариации (KB) Если вспомнить предыдущий пример, он рассчитывается, как показано на рис, 4.18. KB =^х 100 = 52.7 Рис. 4.18. Расчет коэффициента вариации (KB) KB нельзя рассчитать, если среднее в данных равно 0 (потому что нельзя делить на пуль), и он особенно удобен, если все значения переменной положительны. 5 I фунт = 16 yiiuiiii. - Прим. пер.
Выбросы 11И1 В случае, если переменная содержит значения обоих знаков, среднее может быть близким к нулю, что, несмотря на разумный размах в данных, может привести к обманчивому значению KB: знаменатель будет очень маленьким числом, и это приведет к очень большому значению KB, хотя стандартное отклонение не слишком большое. Польза KB должна стать совсем очевидной, если рассмотреть одни и те же данные, выраженные в футах и дюймах; к примеру, 60 дюймов - это то же самое, что и 5 футов. Данные, выраженные в футах, имеют среднее 5,5566, стандартное отклонение 0,2288; те же данные, выраженные в дюймах, имеют среднее 66,6790 и стандартное отклонение 2,7453. Тем не менее KB не подвержен влиянию единиц измерения, и его значение не зависит от них с точностью до ошибки округления: 5,5566/0,2288 = 24,2858 (данные в футах); 66,6790/2,7453 = 24,2884 (данные в дюймах). Выбросы Среди статистиков нет полного согласия, как определить выбросы, но практически все согласны, что важно их выделить и использовать подходящие статистические методы в случае данных с выбросами. Выброс - это наблюдение в анализируемых данных, значение которого сильно отличается от других. Его часто описывают как значение в данных, которое как будто бы происходит из другой генеральной совокупности или выпадает из интервала типичных значений выборки. Предположим, вы исследуете учебную успеваемость в выборке или генеральной совокупности, и почти все испытуемые проучились от 12 до 16 лет (12 лет - окончание средней школы в Америке, 16 лет - оконченное высшее образование). Однако у одного из испытуемых значение этой переменной равно 0 (то есть он формально не получил никакого образования), а у другого - 26 (что предполагает много лет обучения после получения высшего образования). Вы, наверное, посчитаете эти два случая выбросами, поскольку их значения сильно отличаются от остальных данных в выборке или генеральной совокупности. Обнаружение и анализ выбросов - это важный предварительный этап во многих видах анализа, потому что наличие даже одного или двух выбросов может кардинальным образом исказить значения некоторых обычных статистик, таких как среднее. Кроме того, важно найти выбросы, потому что иногда они могут быть вызваны ошибками при вводе данных. В предыдущем примере первое, что стоит проверить, - это правильно ли были записаны значения; может оказаться, что правильные числа - это 10 и 16, соответственно. Второе, что стоит изучить, - это принадлежит ли данное наблюдение к исследуемой генеральной совокупности. Например, не относится ли 0 к продолжительности обучения ребенка, тогда как данные должны были содержать только информацию о взрослых? Если такие простые действия не позволяют решить проблему, придется придумать (по возможности обсудив это с коллегами), что делать с выбросами. Можно
ШМШШ Глава 4. Описательная статистика и графическое представление... просто убрать из данных все наблюдения с выбросами до анализа, но допустимость применения такого метода зависит от области исследований. Иногда существует статистический метод исправить ситуацию с выбросами, к примеру усеченное среднее, описанное ранее, хотя такие методы используют не во всех областях. Другие возможности - это преобразование данных (обсуждается в главе 3) или применение непараметрических методов (обсуждается в главе 13), на которые меньше влияют выбросы. Чтобы по возможности стандартизовать поиск выбросов, были разработаны различные эмпирические правила. Одно из обычных определений выброса, использующее межквартильный размах (МКР), состоит в том, что «слабые» выбросы - это те значения, которые меньше 25% персентили минус 1,5*МКР или больше 75% пересилит плюс 1,5*МКР. В нормально распределенных данных настолько отклоняющиеся значения ожидается встретить примерно 1 на 150 наблюдений. «Сильные» выбросы определяются аналогичным образом, но с заменой 1,5*МКР на 3*МКР; такие крайние значения ожидаются в нормальных данных примерно 1 на 425 000 наблюдений. Графические методы Существует великое множество методов графического представления данных от самых простых, включенных в программы для работы с электронными таблицами вроде Microsoft Excel, до очень специализированных и сложных, доступных с помощью языков программирования вроде R. О правильном и ошибочном использовании графики в представлении данных написаны целые книги. Лидирующим (хотя и с противоречивой позицией) экспертом в этой области является Эдвард Тафти (Edward Tuftc), профессор Йельского университета (магистр в области статистики и PhD в политических науках). Его наиболее известная работа - «Графическое изображение числовой информации» (The Visual Display of Quantitative Information, ссылка дана в приложении С), но все книги Тафти достойны того, чтобы с ними ознакомиться, всем интересующимся графическим отображением данных. Абсолютно невозможно рассказать о хоть сколько-нибудь заметной доле всех методов изображения данных в этом разделе, так что вместо этого мы обсудим самые обычные подходы, включая и проблемы, связанные с ними. Легко забыться и приняться за построение навороченных графиков, особенно из-за того, что программы для работы с электронными таблицами и статистические пакеты позволяют с легкостью создавать множество видов графиков и диаграмм. Термин Тафти для графических элементов, не несущих смысловой нагрузки, - «графический мусор» - точно описывает его отношение к таким изображениям. Стандарты того, что считают «мусором», а что нет, зависят от области, по как общее правило стоит использовать простейший вид графика или диаграммы, который понятным образом представляет ваши данные, при этом оставаясь в рамках стандартов, принятых в вашей профессии или области исследований.
Графические методы шшпп Таблицы частот Первый вопрос, который стоит задать самому себе при подборе метода визуализации данных, - необходимо ли вообще графическое отображение. Это правда, что часто лучше один раз увидеть, чем сто раз услышать, но в других случаях таблицы частот оказываются полезнее для представления данных, чем их графическое изображение. Это особенно важно, когда нас интересует не общее распределение данных по нескольким категориям, а конкретные полученные значения. Таблицы частот являются очень эффективным способом представления больших объемов данных и являются чем-то средним между текстом (абзацами с описаниями значений данных) и чистой графикой (такой как гистограмма). Предположим, университет интересуется сбором данных об общем состоянии здоровья первокурсников. Из-за того, что все больше беспокойства в Соединенных Штатах вызывает ожирение, одна из вычисляемых величин - это индекс массы тела (ИМТ), равный отношению массы тела в килограммах к квадрату роста в метрах. ИМТ - это не идеальный показатель. К примеру, спортсмены часто показывают как очень низкие результаты (марафонцы, гимнасты), так и слишком высокие (футболисты, тяжелоатлеты), но его просто подсчитать, и в случае большинства людей это довольно надежная мера того, насколько у них здоровый вес. ИМТ - это непрерывная величина, но его часто интерпретируют в терминах категорий, используя принятые промежутки. Интервалы для ИМТ приведены в табл. 4.3, согласно данным Центра по предупреждению и контролю заболеваний (ЦПКЗ, Centers for Disease Control and Prevention, CDC) и Всемирной организации здравоохранения (ВОЗ), в целом принятым как полезные и верные. Таблица 4.3. Категории ЦПКЗ и ВОЗ для ИМТ Интервал ИМТ < 18.5 18.5-24.9 25.0-29.9 30.0 и выше Категория Пониженная масса тела Нормальная масса тела Избыточная масса тела Ожирение Теперь посмотрите на табл. 4.4, содержащую полностью выдуманные данные о классификации первокурсников по ИМТ. Таблица 4.4. Распределение ИМТ среди первокурсников в 2005 году Интервал ИМТ < 18.5 18.5-24.9 25.0-29.9 30.0 и выше Число 25 500 175 50
Глава 4. Описательная статистика и графическое представление... Эта простейшая таблица дает нам возможность при беглом просмотре понять, что большинство первокурсников имеют либо нормальную, либо повышенную массу тела, и лишь небольшое их число имеют пониженную массу тела или страдают ожирением. Обратите внимание, что в этой таблице представлены сырые данные о числе испытуемых в каждой категории, которые иногда называют абсолютной частотой] эти числа говорят о том, как часто каждое значение встретилось, что может быть полезно, если, к примеру, вам надо понять, скольких студентов необходимо проконсультировать о проблемах ожирения. Однако абсолютные частоты не ставят числа в каждой категории в какой-либо контекст. Мы можем сделать эту таблицу более полезной, если добавим столбец с относительной частотой, которая показывает процент от общей суммы, попавший в каждую категорию. Относительные частоты рассчитывают, разделив число наблюдений в каждой категории на общее число наблюдений (750) и умножив результат на 100. В табл. 4.5 приведены как абсолютные, так и относительные частоты для этих данных. Таблица 4.5. Абсолютные и относительные частоты категорий ИМТ среди первокурсников в 2005 году Интервал ИМТ < 18.5 18.5-24.9 25.0-29.9 30.0 и выше Число 25 500 175 50 Относительная частота 3.3% 66.7% 23.3% 6.7% Обратите внимание, что относительные частоты должны в сумме давать приблизительно 100%, хотя может присутствовать небольшая ошибка из-за округления. Кроме того, мы можем добавить столбец с накопительной {кумулятивной) частотой, которая показывает относительную частоту для этой категории и всех меньших значений, как в табл. 4.6. Накопительная частота для последней категории должна составлять 100% с точностью до ошибки округления. Таблица 4.6. Накопительная частота ИМТ в наборе первокурсников 2005 года Интервал ИМТ < 18.5 18.5-24.9 25.0-29.9 30.0 и выше Число 25 500 175 50 Относительная частота 3.3% 66.7% 23.3% 6.7% Накопительная частота 3.3% 70.0% 93.3% 100% Посмотрев на кумулятивные частоты, можно сразу понять, что, к примеру, у 70% поступивших нормальная или пониженная масса тела. Это особенно полезно в случае таблиц с большим числом категорий, поскольку позволяет читателю быстро оценить важные точки в распределении, такие как нижние 10%, медиану (50% накопительной частоты) или верхние 5%.
Графические методы Кроме того, можно соорудить таблицу частот для сравнения между группами. Вас может интересовать, к примеру, сравнение распределений ИМТ среди юношей и девушек на первом курсе или сравнение поступивших в 2005 году и в 2000 или 1995 годах. В таких ситуациях сырые данные обычно менее полезны (п:з-за того, что размер курса может различаться), а относительные и накопительные частоты оказываются пригодными для сравнения. Другая возможность состоит в подготовке графических изображений, таких как диаграммы, описываемые в следующем разделе, которые могут сделать подобные сравнения более попятными. Столбчатые диаграммы Столбчатые диаграммы особенно удобны для изображения дискретных данных с небольшим числом категорий, как в случае нашего примера с ИМТ среди первокурсников. Столбцы в столбчатых диаграммах обычно отделяются друг от друга, чтобы не возникало ощущения непрерывности; хотя в нашем случае категории основаны на разбиении непрерывной переменной, они с тем же успехом могут быть истинными категориями, такими как любимый спорт или область специализации в учебе. На рис. 4.19 приведена информация об ИМТ среди первокурсников в виде столбчатой диаграммы. (Если не сказано иное, диаграммы, показанные в этой главе, были созданы с помощью Microsoft Excel.) Число студентов 60(Ь 400- 200- 0- Группы, выделенные по ИМТ, среди первокурсников 2005 года 'Ш г-r-i Пониженная масса тела <18.5 н Нормальная ? масса тела -g 18.5-24.9 2 Повышенная н масса тела 125.0-29.9 Ожирение 30.0 и выше Рис. 4.19. Абсолютные частоты категорий ИМТ среди первокурсников Абсолютные частоты используют тогда, когда надо знать число человек в определенной категории, тогда как относительные частоты - если необходимо попять соотношение чисел испытуемых, попавших в разные категории. Относительные частоты особенно удобны, что мы увидим дальше, при сравнении множества групп, к примеру чтобы помять, увеличивается или уменьшается год от года доля студентов с ожирением. В случае простой столбчатой диаграммы решение об использовании абсолютных или относительных частот не так важно, что можно видеть, сравнив столбчатую диаграмму с данными об ИМТ у студентов, представленную
ЩЯННнН Глава 4. Описательная статистика и графическое представление... относительными частотами на рис. 4.20, с теми же данными в виде абсолютных частот на рис. 4.19. Обратите внимание, что две диаграммы идентичны, за исключением подписей оси у (вертикальной оси), на которых указаны абсолютные частоты на рис. 4.19 и проценты на рис. 4.20. ЙПО/у, oU/cr OUytr ЛП0А- ZUyCT Utu- Группы, выделенные по ИМТ, среди первокурсников 2005 года г ¦. 1 1 1 1 1 1 (0<0 (TJ^CT) (TJ<0ct> Ф Zl i<utn S <и "^ хахл i5 4) К • с; l-<N d) У-СЯ о, из НИ ace < >рм ace 8.5 вы ace 5.0 ЖИ .0 «2 ?2- О 2CN Og Рис. 4.20. Относительные частоты категорий ИМТ среди первокурсников Использование относительных частот становится очень удобным, если мы сравниваем распределение студентов по категориями ИМТ в разные годы. Посмотрите на гипотетическую информацию о частотах в табл. 4.7. Таблица 4.7. Абсолютные и относительные частоты ИМТ в трех наборах студентов Интервал ИМТ Пониженная масса тела <18.5 Нормальная масса тела 18.5-24.9 Избыточная масса тела 25.0-29.9 Ожирение 30.0 и выше В сумме 1995 50 400 100 10 560 8.9% 71.4% 17.9% 1.8% 100.0% 2000 45 450 130 40 665 6.8% 67.7% 19.5% 6.0% 100.0% 2005 25 500 175 50 750 3.3% 66.7% 23.3% 6.7% 100.0% Из-за того, что размеры курса различаются в разные годы, для поиска зависимостей в распределении студентов по ИМТ удобнее всего использовать относительные частоты (проценты). В данном случае наблюдалось явное уменьшение доли студентов с пониженной массой тела, тогда как доля студентов с повышенной Maccoii тела или ожирением росла. Эту информацию также можно изобразить с помощью столбчатой диаграммы, такой как па рис. 4.21.
Столбчатые диаграммы Распределение ИМТ в трех потоках студентов 80°/сг 60°/сг 40°/а 20°/(г 3| ? 1995 П2000 П2005 5 5* с 1-М (В со I Z от (TJ <0 СТ) 3 « I Л О • О 2 <n Рис. 4.21. Столбчатая диаграмма распределения ИМТ среди трех наборов студентов Это столбчатая диаграмма с группами, которая показывает, что присутствует слабый, но определенный десятилетний тренд уменьшения доли студентов с пониженной и нормальной массой тела и роста доли студентов с повышенной массой тела или ожирением (что в целом отражает изменения среди населения Америки). Помните, что построение диаграммы не равноценно проведению статистического теста, так что мы не можем сказать из этого рисунка, что эти изменения статистически значимы. Другой вид столбчатых диаграмм, подчеркивающий относительные распределения значений в каждой группе (в данном случае распределение категорий ИМТ в трех наборах первокурсников), - это составные столбчатые диаграммы, что проиллюстрировано на рис. 4.22. 100%- 80% 60°/(Г 40%- 20% ? Ожирение 30.0 и выше D Повышенная масса тела 25.0-29.9 Нормальная L-l масса тела 18.5-24.9 рп Пониженная масса тела <18.5 1995 2000 2005 Рис. 4.22. Составная столбчатая диаграмма распределения ИМТ в трех наборах студентов В этом виде диаграмм каждый столбец соответствует одному году сбора данных и в сумме дает 100%. Относительные пропорции студентов в каждой категории
1ИД1 '"г? Глава 4. Описательная статистика и графическое представление... можно легко увидеть, сравнив доли площади столбцов, занятые данной категорией. Такая организация данных позволяет без труда сравнить много наборов данных (в данном случае три года) между собой. Сразу же становится ясно, что со временем уменьшается доля студентов с пониженной и нормальной массой тела и растет доля студентов с повышенной массой тела или ожирением. Круговые диаграммы Всем знакомые круговые диаграммы представляют данные сходным образом с составными столбчатыми диаграммами: они графически показывают, какую часть от целого занимают отдельные категории. Круговые диаграммы, как и составные столбчатые диаграммы, особенно полезны только при небольшом числе категорий, и если разница между ними достаточно большая. Многие занимают очень жесткую позицию в отношении к круговым диаграммам, и хотя их все равно еще часто применяют в некоторых областях, во многих других от них отказываются как от неинформативных в лучшем случае или даже потенциально вводящих в заблуждение, - в худшем. Так что я оставляю выбор в зависимости от контекста и договоренностей за вами; здесь я приведу ту же самую информацию об ИМТ в виде круговой диаграммы (рис. 4.23) и предоставлю вам самим судить о том, полезный ли это способ представления данных. Обратите внимание, что это одна круговая диаграмма, изображающая данные наблюдений одного года, но есть и другие возможности, включая расположение двух диаграмм рядом (для сравнения соотношений долей разных групп) и отдельное увеличенное изображение определенных секторов (чтобы показать их более мелкое разделение на группы). 18°/^ 2% 9% 71% ? Пониженная масса тела <18.5 rj Нормальная масса тела 18.5-24.9 ? Повышенная масса тела 25.0-29.9 ? Ожирение 30.0 и выше Рис. 4.23. Круговая диаграмма, показывающая распределение ИМТ среди первокурсников, поступивших в 2005 году Флоренс Найтингейл и статистическая графика Многие люди хотя бы в общих чертах слышали о роли Флоренс Найтингейл (Florence Nightingale) в создании профессии медсестры и ее героических усилиях в борьбе за улучшение гигиены и качество ухода в британской армии в ходе Крымской войны. Но мень-
Столбчатые диаграммы МИРЯ ше людей знают о ее вкладе в развитие статистической графики, включая эффективное применение графиков и диаграмм для донесения медицинской информации. Найтин- гейл также изобрела новый вид графиков, диаграмму в полярных координатах (который она называла «диаграммой щеголей» (coxcomb chart), а другие - диаграммой розы Най- тингейл) для изображения и сравнения информации, такой как причины гибели (от ран, полученных в сражении, болезней и других причин) за каждый месяц среди британских солдат. Диаграммы Найтингейл привлекли внимание к большой доле смертей солдат от болезней и позволили ей добиться понимания важности улучшения санитарной обстановки и гигиены у военного руководства. Многие из диаграмм Найтингейл доступны для просмотра в Интернете, как и обсуждения ее достижений в этой области. Один из примеров - это заметка Жюли Рехмейер (Julie Rehmeyer) в Новостях науки (Science News) за 26 ноября 2008 года, «Флоренс Найтингейл: страстный статистик» (http://bit.ly/PvLvSS). Диаграммы Парето Графики Парето, или диаграммы Парето, совмещают столбчатые диаграммы и линейные графики; столбцы показывают частоту или относительную частоту, тогда как линия показывает накопительную частоту. Большим достоинством диаграмм Парето является то, что легко видеть, какие факторы наиболее важны в определенной ситуации и, таким образом, на что следует обращать внимание в первую очередь. К примеру, графики Парето часто используют в контексте производства, чтобы понять, какие факторы отвечают за возникновение задержек или дефектов в процессе изготовления. В диаграмме Парето столбцы отсортированы в порядке убывания частоты слева направо (так что самая частая причина расположена левее всего, а самая редкая - правее всего), а линия накопительной частоты наложена сверху на столбцы (так что вы можете видеть, к примеру, сколько факторов ответственны за 80% задержек производства). Посмотрите на гипотетические данные, приведенные в табл. 4.8, которые содержат число обнаруженных дефектов, связанных с разными участками технологического процесса на автомобильном заводе. Таблица 4.8. Обнаружение брака на разных этапах производства Отдел Аксессуары Корпус Проводка Двигатель Коробка передач Число дефектов 350 500 120 150 80 Хотя очевидно, что отделы, собирающие аксессуары и корпус, ответственны за наибольшее число выявленных дефектов, сразу не ясно, какую долю общего брака можно отнести к ним. Рисунок 4.24, который показывает всю ту же информацию в виде диаграммы Парето (созданной с помощью SPSS), делает это более понятным.
ЕИМН Глава 4. Описательная статистика и графическое представление... Вильфред Парето Вильфред Парето (Vilfredo Pareto, 1843-1923) был итальянским экономистом, который открыл то, что сейчас называют принципом Парето, также известным как «мало важного и много тривиального», или «правило 80:20». Принцип Парето утверждает, что во многих обстоятельствах 80% активности или результатов происходят из 20% от возможных причин. К примеру, во многих странах примерно 80% всех богатств принадлежат 20% населения; аналогичным образом в производстве часто 20% видов ошибок приводят к 80% брака в итоговом продукте; а в здравоохранении 20% от всех пациентов используют 80% от всех медицинских услуг. «Мало важного» в принципе Парето - это 20% от людей, ошибок и так далее, которые отвечают за основную массу активности, а «много тривиального» - это 80%, которые в сумме приводят только к 20% активности. Парето лучше всего известен сегодня как изобретатель диаграмм Парето, которые часто применяют при контроле качества для обнаружения того, какие процессы приводят к большинству проблем, таким как жалобы клиентов или бракованные изделия. Рис. 4.24. Основные причины брака производства Эта диаграмма говорит нам не только о том, что чаще всего брак обнаруживается в корпусе и аксессуарах, но и о том, что они ответственны за 75% всего брака. Мы можем понять это, проведя прямую линию от изгиба в линии накопитель- нон частоты (который отражает величину накопительной частоты двух наиболее частых причин брака, корпуса и аксессуаров) до правой оси у. Это упрощенный пример, и он нарушает правило 80:20 (обсуждается выше во врезке о Вильфредс Парето), поскольку приведено только небольшое число основных причин брака. В более реалистичном примере может быть 30 и более возможных причин, и диаграмма Парето - это простой способ отсортировать их и понять, какие участки процесса требуют улучшений в первую очередь. Этот простой пример служит для изображения типичных свойств графика Парето. Столбцы отсортированы от самого высокого к самому низкому, частоту изображают на левой оси /у, а про-
Столбчатые диаграммы ¦¦ЕЕП цент - на правой, число случаев из каждой категории указывают внутри каждого столбца. Диаграмма «стебель с листьями» Те виды диаграмм, которые мы обсуждали до сих пор, в первую очередь подходят для изображения категориальных данных. В случае непрерывных величии используют другой набор графических методов. Один из простейших способов графически изобразить непрерывные данные - это график «стебель с листьями», который легко сделать вручную и который дает возможность быстро увидеть распределение данных. Чтобы создать такую диаграмму, разделите ваши данные па интервалы (используя здравый смысл и ту степень подробности, которая соответствует вашим задачам) и покажите каждое значение данных с помощью двух колонок. «Стебель» - это левая колонка, и она содержит одно значение на каждую строку, а «листья» - это правая колонка, и она содержит по одной цифре па каждое наблюдение, принадлежащее этой строке. Таким образом, получается график, который содержит значения данных, но принимает форму, показывающую, какие данные в каких интервалах встречаются чаще всего. Числа могут быть произведениями какого-то множителя (например, значения с шагом 10 000 или 0,01), если это необходимо при каком-то наборе данных. Приведем простой пример. Предположим, у нас есть набор оценок за экзамен 26 студентов, и мы хотим представить их графически. Вот оценки: 61, 64, 68, 70, 70, 71, 73, 74, 74, 76, 79, 80, 80, 83, 84, 84, 87, 89, 89, 89, 90 92,95,95,98,100. Логично разделить эти данные на интервалы по 10 единиц, к примеру 60-69, 70-79 и так далее, так что мы делаем «стебель» с цифрами 6, 7, 8, 9 (это десятки, для тех, кто помнит школьную математику), и «листья» для каждой из них в виде списка цифр из первого разряда значений, отсортированного слева направо от меньшего к большему. На рис. 4.25 показан итоговый график. «Стебель» 6 7 8 9 10 «Листья» 148 00134469 003447999 02558 0 Рис. 4.25. Диаграмма «стебель с листьями» оценок за экзамены Такая диаграмма показывает не только сами числовые значения и их диапазон (61-100), но и общую форму их распределения. В данном случае большинство значений попадает в промежутки, начинающиеся с 70 и с 80, с небольшим числом значений от 60 до 69 и от 90 до 99, а одно значение равно 100. Форма стороны с «листьями» на самом деле напоминает повернутую на 90 градусов простейшую гистограмму (обсуждается ниже) со столбцами шириной по 10.
ВсЯ Глава 4. Описательная статистика и графическое представление... Ящики с усами Ящики с усами, или диаграммы размаха, были разработаны статистиком Джоном Тыоки (John Tukey) как способ компактного описания и изображения распределения непрерывных данных. Хотя их можно построить и от руки (как и большинство других диаграмм, включая столбчатые диаграммы и гистограммы), на практике их обычно создают с помощью компьютерных программ. Интересно, что точный метод их построения различается в зависимости от программы, но эти диаграммы всегда показывают пять важных характеристик данных: медиану, первую и третью квартили (и, таким образом, межквартильный размах), минимум и максимум. Центральная тенденция, размах, симметричность и наличие выбросов в данных — все это можно легко увидеть, взглянув на ящик с усами, и при этом, изображенные рядом друг с другом, они позволяют легко сравнить несколько разных распределений. На рис. 4.26 приведен ящик с усами для набора оценок за экзамен, использованного в предыдущем примере с диаграммой «стебель и листья». 10СМ -т- щ щ М 6СИ Рис. 4.26. Ящик с усами для данных о результатах экзамена (построен с помощью SPSS) Темная линия показывает медиану, в данном случае 81,5. Серый прямоугольник соответствует межквартильному размаху, так что нижняя его граница - это первая квартиль (25-ый персентиль), равная 72,5, а верхняя граница - третья квартиль (75-ый персентиль), равная 87,75. Тыоки называл эти квартили шарнирами, отсюда одно из английских названий этого вида диаграмм - шарнирный график (hinge plot). Короткие горизонтальные отрезки с ординатой 61 и 100 показывают минимальное и максимальное значения, и вместе с отрезками, соединяющими их с «ящиком» межквартилыюго размаха, они называются усами, отсюда и название «ящик с усами». Мы сразу можем видеть, что эти данные симметричны, поскольку медиана расположена приблизительно посередине межквартилыюго размаха, а он расположен приблизительно в середине всего набора данных. В этих данных нет выбросов, то есть таких чисел, которые бы были очень далеко от всех остальных точек. Для демонстрации ящика с усами для данных, содер-
Столбчатые диаграммы ¦МЕШ жащих выбросы, я заменила значение 100 в этих же данных на 10. На рис. 4.27 приведены ящики с усами двух наборов данных рядом друг с другом. (Ящик для правильных данных обозначен как «экзамен», а ящик для данных с измененным значением обозначен как «ошибка».) 100- 80- 60 40 2а 0 т т 1 #26 Ошибка Экзамен Рис. 4.27. Ящик с усами с выбросом (построен с помощью SPSS) Обратите внимание что за исключением одного выброса, два набора данных выглядят очень похоже; это связано с устойчивостью медианы и межквартильного размаха к влиянию крайних значений. Отличающееся значение обозначено звездочкой и подписано своим порядковым номером (26); последняя возможность есть не во всех статистических пакетах. Ящики с усами часто используют для сравнения двух или более наборов данных. На рис. 4.28 приведено сравнение оценок экзаменов за 2007 и 2008 годы, обозначенных как «Экзамен 2007» и «Экзамен 2008» соответственно. щ щ 7W 6(Н 1 5<Н 1 1 1 Экзамен 2007 Экзамен 2008 Рис. 4.28. Ящики с усами для оценок за экзамен в 2007 и 2008 годах (построены с помощью SPSS)
IFEl m Глава 4. Описательная статистика и графическое представление... Не видя никаких конкретных оценок, я замечаю несколько сходств и различий между двумя годами: • самая высокая оценка одинакова в оба года; • самая нижняя оценка сильно меньше в 2008 году, чем в 2007; • как размах, так и межквартильный размах (размах 50% данных из середины) больше в 2008 году; • медиана в 2008 году немного меньше. Совпадение самой высокой оценки не удивительно, поскольку можно получить от 0 до 100 баллов, и каждый год хотя бы один студент набрал максимальное число баллов. Это пример «эффекта потолка», возникающего в случае, когда величина не может принимать значений выше какого-то числа, и при этом испытуемые его достигают. Аналогичная ситуация, если величина не может быть ниже определенного числа, называется «эффектом пола». В данном случае наименьшим возможным числом был 0, но все студенты получили больше баллов, поэтому мы не видим этого эффекта. Гистограмма Гистограмма - это еще один часто используемый способ изображения непрерывных переменных. Она внешне похожа на столбчатую диаграмму, но столбцы в ней (интервалы, на которые разбиваются значения непрерывного распределения) располагаются вплотную друг к другу, в отличие от столбцов в столбчатой диаграмме. Кроме того, обычно у гистограмм больше столбцов, чем у столбчатых диаграмм. Они не обязаны быть одной ширины, хотя обычно их делают такими. Ось у (вертикальная) в гистограмме показывает шкалу частот, а не сами значения, и площадь каждого столбца показывает то, сколько значений попадает в соответствующий интервал. На рис. 4.29 показана гистограмма для данных о результатах экзамена, также построенная с помощью SPSS, с четырьмя столбцами но 10 баллов шириной и с наложенным нормальным распределением. Обратите внимание, что форма гистограммы довольно сильно напоминает график «ствол с листьями» для тех же данных (рис. 4.25), по повернутый на 90 градусов. Нормальное распределение подробно обсуждается в главе 3; коротко его можно охарактеризовать как часто используемое теоретическое распределение, которое имеет знакомую колоколообразную форму, изображенную здесь. Нормальное распределение нередко накладывают на гистограммы как визуальную точку отсчета, чтобы мы могли оценить, насколько распределение значений похоже на нормальное. Хорошо это или плохо, но выбор числа и размера интервалов для построения гистограммы может очень сильно повлиять па ее вид. Обычно гистограммы строят с более чем четырьмя столбцами; на рис. 4.30 приведены те же данные, по построенные с восемью столбцами шириной но 5 баллов.
Столбчатые диаграммы Рис. 4.29. Гистограмма с интервалами по 10 единиц Рис. 4.30. Гистограмма с интервалами по 5 единиц
НИН' Глава 4. Описательная статистика и графическое представление... Это те же данные, но теперь гистограмма совсем не похожа на нормальное распределение, не так ли? На рис. 4.31 приведены тс же данные с интервалами по 2 балла. Рис. 4.31. Гистограмма с интервалами по 2 единицы Ясно, что выбор ширины интервалов очень важен для внешнего вида гистограммы, но как же определиться с их числом? Эта проблема подробно обсуждалась математиками, но осталась без однозначного ответа. (Если вас интересует очень специальное обсуждение, посмотрите статью Ванда (Wand), упомянутую в приложении В.) Нет единственно верного ответа на данный вопрос, но есть некоторые эмпирические правила. Во-первых, все интервалы вместе должны покрывать весь размах данных. Кроме того, одно из обычных эмпирических правил гласит, что число интервалов должно быть равно квадратному корню из числа наблюдений в данных. Другое — что оно никогда не должно быть меньше шести. Эти правила явно противоречат друг другу в данном случае, поскольку V26 = 5,1, что меньше 6, так что приходится использовать здравый смысл, а также пробовать разное число интервалов и их ширину. Если изменение этих величин сильно меняет визуальное отображение данных, стоит изучить их распределение подробнее. Двумерные диаграммы Диаграммы, содержащие информацию о связи двух переменных, называют двумерными: самый частый пример - это диаграмма рассеяния. В диаграммах рассея-
Двумерные диаграммы ¦¦ЕЗ ния каждая точка в данных задается парой чисел, часто называемых.г и г/, каждую точку изображают в координатных осях; этот метод должен быть вам знаком, если вы когда-то использовали декартовы координаты в школе па уроках математики. Обычно вертикальную ось называют осью г/, и на ней откладывают значения у для каждой точки. Горизонтальную ось называют осью х, и на ней откладывают значения х для каждой точки. Диаграммы рассеяния - это очень важное средство изучения двумерных связей между переменными, которые подробнее разбираются в главе 7. Диаграммы рассеяния Взгляните на данные, приведенные в табл. 4.9, содержащие результаты математической и речевой частей Академического оценочного школьного теста на способности (SAT, Scholastic Aptitude Test) гипотетической группы из 15 учеников. Таблица 4.9. Результаты теста для 15 учеников Математика 750 700 720 790 700 750 620 640 700 710 540 570 580 790 710 Речь 750 710 700 780 680 700 610 630 710 680 550 600 600 750 720 Кроме того что все эти результаты достаточно высокие (этот тест калибруют таким образом, чтобы медианное значение составляло 500, а большинство результатов сильно выше этого числа), по сырым данным сложно сказать что-то про связь с результатами выполнения математической и речевой частей теста. Иногда результаты по математике выше, иногда речевая часть удается лучше, а часто результаты сходные. Однако построение диаграммы рассеяния двух переменных, такой как на рис. 4.32, с результатами по математике на оси у (вертикальной) и речевыми на оси х (горизонтальной) выявляет связь между ними.
IBE1 Глава 4. Описательная статистика и графическое представление... 1атематика *?. RfifV, о\)\г 7^П- 7IYV 650- <^Л- СПП- 5 30 ¦ 600 Речь ¦\ ¦¦ 700 ¦ 800 Рис. 4.32. Диаграмма рассеяния результатов по математике и по речи Несмотря на наличие небольших отклонений, результаты речевой и математической частей сильно линейно связаны. У учеников с хорошо развитой речью в целом выше результат математической части, и наоборот, а у тех, у кого одна из частей написана плохо, и вторая в целом будет выполнена хуже. Однако не всегда связи между переменными линейные. На рис. 4.33 приведены диаграмма рассеяния сильно связанных переменных, связь между которыми не линейная, а квадратичная. 120 100 А 80 ¦ 60 ¦ 40 ¦ 20 ¦ , ,—±* + ¦ ¦ ¦ ¦ >**—¦ ¦ Рис. 4.33. Квадратичная связь между переменными В данных, представленных на этой диаграмме рассеяния, значениях в каждой паре - это целые числа от -10 до 10, а значения у - это квадраты значений х, так что получается всем знакомая парабола. Многие статистические методы подразумевают линейную связь между переменными, и сложно понять, правда это или нет, просто посмотрев на сырые данные, так что построение диаграммы рассеяния для всех важных пар переменных в данных - это простой способ проверить подобное предположение.
Двумерные диаграммы Hi НИШ Линейные графики Линейные графики - это тоже часто используемый способ изображения связей между двумя переменными, обычно между временем на оси х и какой-то другой переменной на оси у. Единственное требование для построения линейного графика, чтобы каждому значению на оси х соответствовало только одно значение па оси у, так что он не подойдет для таких данных, как результаты теста, представленные выше. Посмотрите на табл. 4.10 с данными Центра по предупреждению и контролю заболеваний (ЦПКЗ), показывающими процент взрослых людей с ожирением в США за каждый год в течение 13 лет. Таблица 4.10. Встречаемость ожирения среди взрослых в США, 1990-2002 Год 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 Встречаемость ожирения 11.6% 12.6% 12.6% 13.7% 14.4% 15.8% 16.8% 16.6% 18.3% 19.7% 20.1% 21.0% 22.1% Мы можем видеть из этой таблицы, что встречаемость ожирения равномерно росла; изредка случалось ее понижение, но чаще всего она увеличивалась па 1-2% каждый год. Эту же информацию можно представить в виде линейного графика, как на рис. 4.34, что делает тенденцию к росту с течением времени еще более заметной. Хотя этот график является довольно простым методом представления данных, визуальное воздействие, которое он оказывает, сильно зависит от выбранной шкалы и интервала оси у (которая в данном случае показывает встречаемость ожирения). На рис. 4.34 показано разумное отображение данных, но если мы захотим усилить эффект на зрителя, мы можем раздвинуть шкалу, уменьшив интервал оси у (вертикальной), как на рис. 4.35. На рис. 4.35 представлены те же данные, что и на рис. 4.34, но с более узким интервалом на оси у (10-22% вместо 0-30%), и это визуально увеличивает различия между годами. Рисунок 4.35 не обязательно показывает неверный способ изображения данных (хотя многие считают, что всегда стоит включать 0 в случае графика, изоб-
Глава 4. Описательная статистика и графическое представление... ражающего проценты), но он подчеркивает легкость манипуляции внешним видом абсолютно правильных данных. Между прочим, выбор вводящего в заблуждение интервала - это один из верных способов «лгать при помощи статистики» (см. ниже врезку «Как лгать при помощи статистики», чтобы узнать подробнее об этом). Рис. 4.34. Ожирение среди взрослых США, 1990-2002 22- 20- Встречаемость ожирения 12J 10- У ^/ /^ х~^ 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 • Год Рис. 4.35. Ожирение среди взрослых США, 1990-2002 при использовании ограниченного интервала для усиления визуального впечатления от тенденции
Двумерные диаграммы ЯМЕЛ Этот же прием работает и в обратную сторону - если мы изобразим те же данные с использованием широкого интервала для вертикальной оси, изменения за исследуемый отрезок времени покажутся меньше, как на рис. 4.36. 100- 80- ж X X ф 5- 60- X о л и ° Z * 40- *¦ ь и СО 20- 10- - 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 Год Рис. 4.36. Ожирение среди взрослых США, 1990-2002, при использовании широкого диапазона значений по оси ординат для ослабления визуального впечатления от имеющейся тенденции На рис. 4.36 показаны те же самые данные об ожирении, что и на рис. 4.34 и 4.35, но с широким интервалом (0-100%) на вертикальной оси для уменьшения визуального воздействия тенденции. Так какую же шкалу выбрать? Нет единственно верного ответа на этот вопрос; везде представлена абсолютно одинаковая информация, и, строго говоря, ни один из вариантов не является ошибочным. В данном случае, если бы я представляла этот график без каких бы то ни было других графиков для сравнения, я бы использовала шкалу из рис. 4.34, поскольку она показывает истинный минимум данных (0%, который является минимально возможным значением) и создает разумное пространство над максимальным значением в данных. Вне зависимости от проблем с выбором масштаба для одного графика, в случае если вы приводите несколько графиков для сравнения (к примеру, графики, показывающие встречаемость ожирения в нескольких странах за один и тот же промежуток времени, или графики с различными показателями здоровья за один и тот же период), они всегда должны иметь одну и ту же шкалу, чтобы избегать неверной трактовки читателем.
1ЕЯ Глава 4. Описательная статистика и графическое представление... Как лгать при помощи статистики Даррел Хафф (Darrel Huff) был независимым писателем, который одновременно работал редактором изданий Look («Взгляд»), Better Homes and Gardens («Как улучшить ваш дом и сад») и Liberty («Свобода»). Однако его лучшей заявкой на известность стала классическая книга «Как лгать при помощи статистики» (How to Lie with Statistics), впервые опубликованная в 1954 году. Некоторые считают, что это самая читаемая книга по статистике в мире. Хафф не был профессиональным статистиком, его представление темы можно описать разве что как неформальное, а некоторые иллюстрации в этой книге сейчас бы посчитали оскорбительными, если бы их включили в современную книгу. Однако данная книга сохранила свою популярность в течение всех этих лет; она все еще переиздается и была переведена на много языков. Хафф берет многие из своих примеров «лжи», как он называет обманчивое представление информации, из СМИ, политических и рекламных текстов. Некоторые из его самых метких примеров приведены в главе про графическое представление данных, и они включают такие ошибки, как специально вводящий в заблуждение масштаб и полное отсутствие подписей по осям. Одна из причин такой популярности этой книги состоит в том, что многие из методов введения читателя в заблуждение, обнаруженные им в 1954 году, используются и по сей день. Упражнения Как и в случае любой другой области статистики, обучение какому-то методу описательной статистики требует практики. Здесь специально приведены очень простые данные, потому что если вы сможете правильно применить метод к 10 наблюдениям, вы сможете использовать его и для 1000 наблюдений. Мой совет состоит в следующем: попробуйте решить задачи несколькими способами, к примеру вручную, с помощью калькулятора и с помощью любых доступных вам программ. Даже программы для работы с электронными таблицами, такие как Microsoft Excel, предоставляют возможность воспользоваться многими математическими и статистическими функциями. (Хотя польза от применения этих функций для серьезного статистического анализа находится под вопросом, они могут быть полезны для первичного анализа; см. ссылки про Excel в приложении С, чтобы узнать об этом подробнее.) Кроме того, решение проблемы несколькими способами придаст вам уверенности в том, что вы корректно используете устройства и программы. Большинство графиков и диаграмм строят с помощью компьютерных программ, и хотя у каждого пакета есть преимущества и недостатки, большинство из них могут создавать большинство диаграмм, если не все, представленные в этой главе, как и множество других. Лучший способ вникнуть в методы графического представления данных - это изучить любую доступную вам программу и практиковаться в изображении данных, с которыми вы работаете. (Если вы в данный момент не работаете ни с какими данными, в Интернете доступно множество наборов данных, которые вы можете бесплатно скачать.) Помните, что графическое представление - это способ общения, и держите в голове то, зачем вы строите тот пли иной график.
Упражнения ВВП Задача Какую из перечисленных мер центральной тенденции следует использовать в какой ситуации? Придумайте какие-нибудь примеры для каждой из них из вашей области работы или учебы. • Среднее. • Медиана. • Мода. Решение • Медиана подойдет для интервальных или характеризующих отношения непрерывных симметричных данных без сильных выбросов. • Медиана подойдет для непрерывных асимметричных данных, ранговых данных или данных с сильными выбросами. • Мода чаще всего применяется для категориальных данных или непрерывных данных, в которых одно из значений встречается сильно чаще остальных. Задача Найдите несколько примеров обманчивого применения статистической графики и объясните, в чем проблема с каждым из них. Решение Это не должно быть сложно ни для кого, если вы следите за новостными СМИ, но если вам не удается это сделать, поищите в Интернете по ключевой фразе «misleading graphics» (примерный перевод - обманчивые графики). Задача Один из следующих наборов данных следует изобразить в виде столбчатой диаграммы, а другой — в виде гистограммы; определите, какой метод подойдет для каких данных, и объясните, почему. 1. Данные о росте (в сантиметрах) 10 000 поступивших в университет. 2. Данные о специализациях, выбранных 10 000 поступившими в университет. Решение 1. Данные о росте следует изобразить в виде гистограммы, поскольку это непрерывная переменная, имеющая большое число возможных значений. 2. Данные о специализации лучше изобразить в виде столбчатой диаграммы, поскольку это категориальная переменная с ограниченным набором возможных значений (хотя если есть много вариантов специализации, то более редкие варианты придется объединить для большей ясности). Задача Только один из следующих наборов данных подходит для изображения в виде круговой диаграммы. Определите, какой, и объясните, почему. 1. Заболеваемость гриппом за два последних года, разделенная по месяцам.
НИ' ': Глава 4. Описательная статистика и графическое представление... 2. Число дней больничных, связанных с пятью самыми частыми причинами госпитализации (пятая категория - это «все остальные», и она включает все причины отсутствия на работе, кроме первых четырех). Решение 1. Круговая диаграмма не подходит для данных о заболеваемости гриппом, поскольку в ней было бы слишком много категорий (24), а многие из них, вероятно, окажутся очень похожими по размеру (поскольку заболеваемость гриппом очень мала в летние месяцы), да и на самом деле данные не отражают части, составляющие единое целое. Лучше в данном случае использовать столбчатую диаграмму или линейный график, показывающий число случаев гриппа по каждому месяцу или времени года. 2. Данные о больничных хорошо подходят для круговой диаграммы, поскольку есть всего пять категорий, и все части в сумме дают 100%. Из данного описания остается неясным, насколько разные категории (секторы) отличаются друг от друга по размеру; если они заметно различаются, это еще один аргумент в пользу использования круговой диаграммы. Задача Чему равна медиана следующего набора данных? 832769121 Решение Данные содержат 9 измерений, что является нечетным числом; таким образом, медиана - это срединное значение, если отсортировать значения по их величине. Если рассмотреть этот вопрос с математической точки зрения, раз п = 9 чисел, то медиана равна числу под номером (п + 1)/2; таким образом, медиана - это число под номером (9 + 1)/2, то есть пятое число. Задача Чему равна медиана следующего набора данных? 7 15 2 6 12 0 Решение Данные содержат 6 измерений, что является четным числом; таким образом, медиана - это среднее двух срединных значений, если отсортировать их по величине, в данном случае 6 и 7. Если рассмотреть этот вопрос с математической точки зрения, то медиана для набора данных с четным числом измерений равна среднему чисел под номерами (п)/2 и (п)/2 + 1; в данном случае п = 6, таким образом, медиана - это среднее чисел под номерами (6)/2 и (6)/2 + 1, то есть третьего и четвертого чисел. Задача Чему равны среднее и медиана следующих (конечно, странных) данных? 1,7,21,3,-17
Упражнения L.'HHH Решение Среднее составляет ((1+7 + 21 + 3 + (-17))/5 = 15/5 = 3. Медиана - это, поскольку число наблюдений нечетное, число под номером (п + 1)/2, то есть третье. Отсортированные данные выглядят как (-17, 1, 3, 7, 21), то есть медиана, равная третьему числу, равна 3. Задача Чему равны дисперсия и стандартное отклонение следующего набора данных? Считайте и = 3. 135 Решение Формула для расчета дисперсии для генеральной совокупности приведена на рис. 4.37. Рис. 4,37. Формула для дисперсии для генеральной совокупности Формула для выборки приведена на рис. 4.38. Рис. 4.38. Формула для дисперсии для выборки В данном случае п = 3, х = 3, а сумма квадратов отклонений равна (-2)2 + О2 + 22 = 8. Дисперсия для генеральной совокупности равна 8/3, или 2,67, а стандартное отклонение для генеральной совокупности равно квадратному корню из дисперсии, то есть 1,63. Для выборки дисперсия составляет 8/2, или 4, а стандартное отклонение равно квадратному корню из дисперсии, то есть 2.
ГЛАВА 5. Категориальные данные Категориальная переменная - это такая переменная, у которой все возможные значения составляют фиксированный набор категорий, а не чисел, измеряющих величину па непрерывной шкале. Например, человек может описывать свой пол как мужской или женский, а деталь может быть или качественной, или бракованной. Также возможно наличие более двух категорий. К примеру, в Соединенных Штатах человека можно отнести к республиканцам, демократам или политически независимым. Категориальные переменные могут быть таковыми по своей природе (как принадлежность к определенной партии) без какой-либо числовой шкалы в основе измерений, так и их можно создать с помощью разбиения непрерывной или дискретной величины на категории. Давление крови - это мера давления, оказываемого кровью на стенки сосудов, и она измеряется в миллиметрах ртутного столба (мм. рт. ст.), но часто её анализируют с использованием категорий, таких как низкое, нормальное, прсгипертеизия, гипертензия. Дискретные переменные (то есть такие, которые могут примять определенные значения на промежутке) также можно сгруппировать в категории. Исследователь может собирать точную информацию о числе детей в семье (0 детей, 1 ребенок, 2 ребенка, 3 ребенка и т. д.), но после этого может сгруппировать эти числа в категории для каких- то целей анализа, к примеру так: 0 детей, 1-2 ребенка, 3 и более детей. Такой метод группирования часто применяется в случаях, когда вариантов значений переменной много и некоторые из них обеднены данными. В случае числа детей в семье, к примеру, в данных вполне может оказаться слишком мало семей с большим числом детей, и низкие частоты в таких категориях могут негативно повлиять на мощность исследования или сделать невозможным применение некоторых статистических методов. Хотя премудрости группирования непрерывных и дискретных переменных в категории обсуждаются (некоторые исследователи называют это выбрасыванием информации, поскольку такой подход приводит к потере информации о разбросе внутри каждой категории), это обычная практика во многих областях. Разбиение непрерывных данных проводят по многим причинам, включая как, например, то, что это принято в данной профессиональной области, так и для решения проблем с распределением в данных.
RxC-таблицы ЖММШ Методы работы с категориальными данными можно применять для анализа порядковых переменных, то есть таких, в которых значения можно упорядочить по величине, но расстояние между соседними элементами не обязательно одинаковое. (Подробнее порядковые переменные обсуждаются в главе 1.) Хорошо известная шкала Лайкерта (Likert), в которой испытуемые выбирают ответы из пяти упорядоченных категорий (таких как «Полностью согласен», «Согласен», «Затрудняюсь ответить», «Не согласен», «Полностью не согласен»), - это классический пример порядковой переменной. Существует целый набор аналитических методов для работы с порядковыми переменными, которые сохраняют информацию об их порядке. Если есть выбор, лучше использовать специальные методы для порядковых переменных, чем общие методы для категориальных, поскольку первые в целом мощнее. Для категориальных и порядковых данных существуют специальные методы анализа. В этой главе мы обсудим самые обычные подходы, используемые для таких переменных, и кроме того, некоторые из этих методов включены и в другие главы. Отношение вероятностей, отношение рисков и критерий Мантеля-Хен- зеля (Mantel-Haenszel) описаны в главе 15, кроме того, некоторые непараметрические методы из главы 13 применимы к порядковым или категориальным данным. RxC-таблицы В случае, когда анализ касается исследования связи между двумя категориальными переменными, их распределение в данных часто показывают с помощью RxC-таблиц, которые чаще называют таблицами сопряженности. R в RxC-табли- це относится к строкам, а С - к колонкам, или столбцам1, и конкретные таблицы тоже можно описывать по числу строк и столбцов, которые они содержат. Строки и столбцы всегда называют именно в таком порядке, договоренность, которую также соблюдают при описании матриц и в записях с индексом. Иногда отдельно выделяют таблицы 2x2, в которых показывают общее распределение двух переменных с двумя значениями каждая, и таблицы более высоких размерностей. И хотя можно считать таблицы 2x2 частным случаем RxC-таблиц, в котором и R, и С равны 2, эта классификация может быть полезной для обсуждения методов, разработанных именно под таблицы 2 х2. Выражение R хС читается как «R па С», и то же применимо к конкретным размерам таблиц, то есть 3x2 читается как «3 на 2». Положим, нас интересует исследование связи между широкими категориями возраста и здоровья, а последнее определяется по известной пятибалльной шкале оценки общего здоровья. Мы решаем, на какие категории разбить возраст, и собираем данные о выборке испытуемых, классифицируя их по возрасту (используя выбранные категории) и состоянию здоровья (используя пятибалльную шкалу). Затем мы смотрим на эту информацию в виде таблицы сопряженности, организованной как табл. 5.1. R - от англ. Row, С - от англ. Column. - Прим. персе.
! Глава 5. Категориальные данные Таблица 5.1. Таблица сопряженности состояния здоровья и возрастных групп < 18 лет 18-35 лет 40-64 лет > 65 лет Великолепное Очень хорошее Хорошее Неплохое Плохое Ее можно описать как таблица 4 х5, поскольку она содержит 4 строки и 5 столбцов. Каждая ячейка показывает число людей из выборки с парой соответствующих исследуемых характеристик: число людей до 18 с великолепным здоровьем, число людей 18-39 лет с великолепным здоровьем и так далее. Меры согласия Описанные в этой книге меры надежности применимы в основном к непрерывным измерениям. В случае, когда измерения касаются деления на категории, например классификация деталей на качественные и бракованные, лучше подходят меры согласия. К примеру, мы хотим сравнить согласованность результатов двух диагностических тестов на определенное заболевание или проверить, одинаково ли три наблюдателя расклассифицируют школьников в классе по их поведению па приемлемое и недопустимое. В обоих случаях некто выбирает одну оценку из определенного набора категорий, и нам интересно, насколько хорошо результаты классификации соотносятся друг с другом. Процент согласия - это самая простая мера согласия; его можно рассчитать, разделив число случаев совпадения оценок на общее число оценок. К примеру, если из 100 оценок наблюдатели согласны в 80% случаев, то процент согласия составляет 80/100, или 0,8. Большой проблемой простого процента согласия является то, что высокий процент совпадения может получиться чисто случайно; таким образом, сложно сравнивать проценты согласия между разными ситуациями, когда согласованность по случайным причинам может заметно различаться. Однако этот недостаток можно обойти, используя другую обычную меру согласия, называемую каппой Кожа, каппа-коэффицепт, или просто каппа. Изначально эту меру разработали для сравнения результатов двух оценщиков или тестов, но позднее расширили для использования на большем числе классификаторов. Использование каппы предпочтительно по сравнению с процентом согласия, поскольку она включает поправку на случайные совпадения (хотя статистики спорят о том, насколько эта поправка успешна; подробнее смотрите во врезке ниже). Каппу легко получить с помощью сортировки результатов в гипотетической сетке и расчетов, как показано в табл. 5.2. Этот гипотетический пример связан с согласованностью двух видов тестов па наличие (3+) или отсутствие (3-) определенного заболевания.
RxC-та блицы Таблица 5.2. Согласие двух тестов с двумя вариантами результатов + Тест 2 Тест 1 + 50 10 60 - 10 60 30 40 40 100 Четыре ячейки с данными часто < + - + а с - ь d Ячейки а и d обозначают согласия (в a - случаи, когда оба теста дали положительный результат, то есть наличие заболевания, а в d - случаи, когда оба теста дали отрицательный результат), тогда как Ьис обозначают несогласия. Формула для каппы выглядит следующим образом: Р -Р К = ^ е-> где Р = наблюдаемые согласия, а Ре = наблюдаемые несогласия. Ро = (я + d)/(a + b + с + d), то есть число случаев согласия, поделенное на общее число наблюдений. В данном случае Ро = 80/100 = 0,80; Ре = [(а + с)(а + Ь)]/(а + Ь + с: + d)2 + [(b + d)(c + d)]/(a + b + с + d)\ а это число случаев согласия, ожидаемых случайно. Ожидаемое согласие в данном случае составляет следующее число: (60*60)/(100*100) + (40*40)/(100*100) = 0,36 + 0,16 = 0,52. В данном случае каппа рассчитывается таким образом: 1-0.52 Каппа может принимать значения от -1 до +1; значение 0 она примет, если число наблюдаемых совпадений равно числу ожидаемых случайных, а 1 - если все наблюдения согласованы. Не существует абсолютных стандартов, по которым можно судить о том, велико ли данное значение каппы или мало; однако многие исследователи придерживаются указаний о степени согласования при определенных значениях каппы, опубликованных Ландисом и Кохом (Landis and Koch) в 1977 году:
идя Глава 5. Категориальные данные < 0 Плохое 0-0,20 Слабое 0,21-0,40 Заметное 0,41-0,60 Среднее 0,61-0,81 Сильное 0,81-1,0 Почти идеальное По этим меркам у нас среднее согласование. Обратите внимание, что процент согласования составляет 0,80, а каппа - 0,58. Каппа всегда не больше процента согласования, поскольку она включает поправку па случайные совпадения. Для альтернативного взгляда на каппу (обращенного к более продвинутым статистикам) прочитайте следующую врезку. Неоднозначная каппа Каппу Коэна часто преподают и широко применяют, но ее использование не лишено противоречий. Каппу обычно определяют как величину, показывающую согласие сверх случайного, или, проще говоря, согласие с поправкой на случайность. У нее есть два применения: как статистика критерия для определения того, согласуются ли два набора оценок лучше, чем можно было бы ожидать случайно (двумя вариантами ответа: да или нет), и как мера силы согласования (которая выражается в числе от 0 до 1). Хотя у большинства исследователей нет проблем с первым применением каппы, некоторые возражают против второго. Проблема состоит в том, что расчет ожидаемого случайного согласия основан на том, что оценки независимы, условие, редко встречающееся на практике. Поскольку каппу часто применяют для оценки согласования между множеством отдельных оценок одного и того же наблюдения, будь это поведение ребенка в классе или результаты рентгена у человека с подозрением на туберкулез, мы бы ожидали чего-то большего, чем случайного совпадения. В таких случаях каппа переоценивает согласование между тестами, наблюдателями и тому подобное за счет недооце- нивания наблюдаемого согласования, которое на самом деле случайное. Критику каппы, включая длинный список относящейся к этому литературы, можно найти на веб-сайте доктора Джона Уеберсакса (John Uebersax). Распределение хи-квадрат При проверке гипотез о категориальных данных нам нужен какой-то способ оцепить значимость наших результатов. В случае таблиц сопряженности часто лучшим вариантом статистики является один из тестов хи-квадрат, которые используют известные свойства распределения хи-квадрат. Распределение хи-квадрат - это непрерывное распределение, которое широко применяется в критериях значимости, поскольку многие из их статистик распределены по хи-квадрату в случае, если нулевая гипотеза верна. Умение соотносить статистику критерия с известным распределением делает возможным определение вероятности получить какое-то значение статистики. Распределение хи-квадрат - это частный случай гамма-распределения, который определяется только одним параметром, к, числом степеней свободы. В распредс-
Распределение хи-квадрат лении хи-квадрат есть только положительные значения, поскольку оно основано на сумме квадратов квантилей, что вы увидите позже, и имеет правую асимметрию. Его форма изменяется в зависимости от к, особенно сильно при маленьких значениях параметра, что видно на четырех распределениях хи-квадрат на рис. 5.1. При приближении к к бесконечности распределение хи-квадрат стремится (становится очень похожим на) к нормальному распределению. Функция плотности распределения вероятности хи-квадрат (1 df) Функция плотности распределения вероятности хи-квадрат (2 df) 01—i—i" i i i—г—т—г 0 1 2 3 4 5 6 7 8 9 10 X Функция плотности распределения « 1 вероятности хи-квадрат (5 df) 0 1 2 3 4 5 6 7 8 9 10 X Функция плотности распределения П1 вероятности хи-квадрат (10 df) Рис. 5.1. Функция плотности распределения хи-квадрат при различном числе степеней свободы На рис. D.11 представлен список критических значений распределения хи- квадрат, который можно использовать, чтобы определить значимость результатов критерия. К примеру, критическое значение для уровня значимости 0,05 для распределения хи-квадрат с одной степенью свободы составляет 3,84. Любой результат критерия со значением выше данного можно считать значимым для теста хи-квадрат на независимость таблицы 2 х2 (описывается ниже). Обратите внимание, что 3,84 = 1,962 и то, что 1,96 - это критическое значение для Z-распределения (стандартного нормального распределения) для двухстороннего критерия при уровне значимости 0,05. Это не просто совпадение, причина этого равенства лежит в математической связи между Z-распределением и распределением хи-квадрат. Говоря формально, если X - это независимые переменные, распределенные по стандартному нормальному закону с и = 0 и а = 1, a случайная величина Q определяется как
шмж Глава 5. Категориальные данные /-1 то Q будет распределена по хи-квадрату с Л-стсиснями свободы. Два важных момента, о которых стоит помнить, - это что для расчета значения хи-квадрата необходимо знать число степеней свободы и что критические значения в целом возрастают с ростом числа степеней свободы. При уровне значимости 0,05 критическое значение для одностороннего теста хи-квадрат с одной степенью свободы составляет 3,84, по при 10 степенях свободы оно уже равно 18,31. Тест хи-квадрат Критерий хи-квадрат - это одни из наиболее распространенных способов изучения связей между двумя и более категориальными переменными. Проведение этого теста включает расчет статистики хи-квадрат и ее сравнение с распределением хи-квадрат, чтобы найти вероятность данного результата критерия. Есть несколько типов критерия хи-квадрат; если не сказано иное, в данной главе обозначение «тест хи-квадрат» относится к тесту хи-квадрат Пирсона, одного из наиболее обычных типов. Есть три разновидности критериев хи-квадрат. Первый из них называют критерием независимости хи-квадрат. В случае двух переменных этот критерий проверяет нулевую гипотезу о независимости переменных друг от друга, то есть об отсутствии связи между ними. Альтернативная гипотеза состоит в том, что они зависимы, то есть связаны между собой. К примеру, мы можем собрать данные о курении и наличии диагноза рака легких в случайной выборке взрослых. Каждая из этих переменных дихотомическая: человек или курит, или нет, и у него или диагностирован рак легких, или пет. Соберем наши данные в таблицу частот, представленную в табл. 5.3. Таблица 5.3. Курение и рак легких Курят Не курят Диагностирован рак легких 60 10 Не диагностирован рак легких 300 390 При взгляде на эти данные бросается в глаза, что, вероятно, есть связь между курением и раком легких: у 20% курящих диагностирован рак легких, однако у некурящих его обнаружили только у 2,5%. Впечатление может быть обманчиво, поэтому мы проведем тест хи-квадрат на независимость. Вот наши гипотезы: Н(): курение и рак легких независимы; Я,: курение и рак легких связаны. Хотя тесты хи-квадрат обычно рассчитывают с помощью компьютера, особенно в случае таблиц большего размера, стоит один раз просчитать все шаги вручную
Тест хи-квадрат 1ЯЕ1 в качестве простого примера. Критерий хи-квадрат основан на разнице между наблюдаемыми и ожидаемыми значениями в каждой из ячеек таблицы 2><2. Наблюдаемые значения - это просто те, которые мы получили из данных но выборке (пронаблюдали), тогда как ожидаемые значения - это те, которые мы бы ожидали увидеть в том случае, если эти переменные независимы. Для расчета ожидаемых значений воспользуйтесь формулой, приведенной на рис. 5.2. сумма i-й строки сумма j-го столбца lJ o6uifm сумма Рис. 5.2. Расчет ожидаемых значений для ячейки В этой формуле Е. - это ожидаемое значение для ячейки у, а / \\j обозначают соответственно строку и столбец ячейки. Эта запись с нижним индексом часто используется в статистике, так что стоит поговорить о ней сейчас. В табл. 5.4 показано, как такой способ записи используется для обозначения ячеек в таблице 2 *2. Таблица 5.4. Запись с нижним индексом для таблицы 2 ><2 Ячейка,, Ячейка12 Строка 1 (/' = 1) Ячейка21 Ячейка21 Строка 2 (/' = 2) Столбец 10=1) Столбец 2 (J = 2) В табл. 5.5 добавлены суммы по столбцам и строкам к примеру с курением и раком легких. Таблица 5.5. Данные о курении и раке легких с суммами по строкам и столбцам Курят Не курят Сумма Диагностирован рак легких 60 10 70 Не диагностирован рак легких 300 390 690 Сумма 360 400 760 Частота для ячейки,, составляет 60, для ячейки,., - 300, сумма по первой строке равна 360, сумма по первой колонке составляет 70 и так далее. Используя запись с точкой, сумма по строке 1 обозначается как 1., сумма по строке 2 - как 2., сумма по колонке 1 - .1, и .2 для колонки 2. Логика этой записи состоит в том, что, к примеру, сумма по первой строке включает значения для обоих колонок, 1 и 2, так что значение номера колонки замещается точкой. Аналогичным образом сумма по столбцам включает значения обеих строк, так что обозначения строки замещаются точкой. В данном примере 1. = 360, 2. = 400, .1 = 70 и .2 = 690. Значения сумм по колонкам и столбцам называются краевыми значениями, поскольку их записывают по краям таблицы. Они отражают частоты одной переменной в исследовании безотносительно ее связи с другой переменной, так что краевая частота для наличия диагноза рака легких составляет 70, а для курения - 360.
Глава 5. Категориальные данные Числа в таблице (60, 300, 10 и 390) называют совместными частотами, поскольку они отражают число испытуемых, имеющих заданные значения обеих переменных. К примеру, совместная частота для курильщиков с диагнозом рака легких в данной таблице составляет 60. Если бы две неременные не были связаны, мы бы ожидали, что частоты в каждой ячейке были бы равны произведению краевых значений, поделенному на объем выборки. Другими словами, мы бы ожидали, что совместные частоты определяются только распределением краевых значений. Это означает, что если курение и рак легких не связаны, то мы увидим, что число курильщиков с раком легких будет определяться только числом курильщиков и числом больных раком в выборке. По этой логике вероятность иметь рак легких должна быть примерно одинаковой у курящих и некурящих, если курение действительно не влияет па развитие рака легких2. Используя предыдущую формулу, мы можем рассчитать ожидаемые значения для каждой ячейки, как показано на рис. 5.3. 360x70 001^ Еи = 33.16 11 760 360x690 п„ПА Е„ 326.84 '12 760 400x70 пгол Е21 36.84 21 760 400x690 „плг Е^ = = 363.16 '22 760 Рис. 5.3. Расчет ожидаемых значений ячеек Наблюдаемые и ожидаемые значения для данных о раке легких представлены в табл. 5.6; ожидаемые значения указаны в скобках. Нам нужен какой-то способ определить, связаны ли различия между ними только со случайностью или они являются значимыми. Мы можем это сделать с помощью критерия хи-квадрат. Таблица 5.6. Наблюдаемые и ожидаемые значения в данных о курении и раке легких Курят Не курят Сумма Диагностирован рак легких 60(33.16) 10(36.84) 70 Не диагностирован рак легких 300 (362.84) 390(363.16) 690 Сумма 360 400 760 Критерий хи-квадрат основан на квадрате разницы между наблюдаемыми и ожидаемыми значениями в каждой ячейке таблицы и использует формулу, приведенную на рис. 5.4. 2 Или наоборот, рак легких на курение; пли у них обоих общая причина - как всегда, мы из статистически значимой связи не можем делать выводы о том, что - причина, а что - следствие. - Прим. перев.
Тест хи-квадрат *¦-1 (Q(/-V i-l.y-l ?(/ Рис. 5.4. Формула для расчета значения хи-квадрат Чтобы понять, что означает статистика хи-квадрат, вам надо выполнить следующие шаги: 1. Рассчитать наблюдаемые и ожидаемые значения для ячейки 1 г 2. Возвести их разницу в квадрат и разделить на ожидаемое значение. 3. Повторить первые два шага для всех остальных ячеек. 4. Сложить все полученные на шагах 1-3 числа. Продолжая наш пример, для ячейки,, расчет проходит следующим образом: (Оц-Еи)2 (60-33.16)2 Еи 33.16 = 21.72. Повторив это с остальными ячейками, получим следующие значения: 2,2 для ячейки,2, 19,6 для ячейки.,, и 2,0 для ячейки22. Сумма составляет 45,5, что в пределах ошибки округления от того, что мы получили, используя статистическую программу SPSS, 45,474. Для того чтобы понять, что статистика хи-квадрат означает, вам надо знать число ее степеней свободы. Форма распределения хи-квадрат зависит от числа его степеней свободы, и, соответственно, в зависимости от него меняются и критические значения распределения. В случае простого критерия хи-квадрат число степеней свободы составляет (г- 1)*(с - 1), то есть (число строк минус 1) умножить на (число колонок минус 1). Для таблицы 2x2 число степеней свободы составляет (2 - 1)*(2 - 1) = 1; для таблицы 3x5 их (3 - 1)*(5 - 1) = 8. Рассчитав значение хи-квадрат и число степеней свободы вручную, мы можем посмотреть в таблицу значений хи-квадрат, чтобы сравнить наше значение с соответствующим критическим значением. Судя по рис. D.11 в приложении D, критическое значение для уровня значимости 0,05 составляет 3,841, тогда наше число 45,5 сильно его превышает, так что при уровне значимости 0,05 мы должны отвергнуть нулевую гипотезу о независимости переменных. Если вы незнакомы с процессом проверки гипотез, вам может быть полезно просмотреть соответствующий раздел главы 3 до того, как продолжать чтение этой главы. Компьютерные программы обычно, кроме значения хи-квадрат и числа степеней свободы, выдают р-значение, и если оно ниже нашего уровня значимости, мы можем отвергнуть пулевую гипотезу. В данном примере будем использовать уровень значимости 0,05. Если верить SPSS, р-значение для нашего результата (45,474) меньше 0,0001, что много меньше 0,05 и говорит о том, что мы должны отвергнуть нулевую гипотезу об отсутствии связи между курением и раком легких. Критерий равенства пропорций хи-квадрат рассчитывают ровно так же, как и критерий независимости, но он проверяет другую гипотезу. Критерий равенства
ЦЦГ;1 Глава 5. Категориальные данные пропорций используется с данными, взятыми из нескольких независимых выборок, а нулевая гипотеза состоит в том, что распределение какой-то переменной одинаково во всех генеральных совокупностях. К примеру, мы можем взять случайные выборки из разных этнических групп и проверить, одинакова ли частота рака легких во всех генеральных совокупностях; нулевая гипотеза была бы в том, что они все одинаковые. Расчеты бы проходили так же, как и в предыдущем примере: испытуемых надо было бы расклассифицировать по этнической группе и наличию рака легких, рассчитать ожидаемые значения, статистику хп-квадрат и число степеней свободы, сравнить статистику с таблицей значений распределения хи-квадрат с нужным числом степеней свободы или же получить точное ^-значение с помощью статистического пакета. Критерий согласия хи-квадрат используют для проверки гипотезы о том, что распределение какой-либо категориальной переменной в генеральной совокупности совпадает с заданным распределением, тогда как альтернативная гипотеза гласит, что распределение этой переменной какое-то иное, но не предполагаемое. Этот критерий рассчитывают, используя ожидаемые значения, основанные на гипотетическом распределении, и различные категории или группы обозначают нижним индексом /, от 1 до g (как показано на рис. 5.5). Рис. 5.5. Формула для расчета критерия согласия хи-квадрат Обратите внимание на то, что в этой формуле нижние индексы не парные, то есть, к примеру, ?., а не Е.. Это связано с тем, что для критерия согласия данные чаще всего организованы в одну строку, поэтому и необходим только один индекс. Число степеней свободы в критерии согласия хи-квадрат составляет (g - 1). Положим, мы считаем, что у 10% людей в определенной популяции пониженное кровяное давление (гипотензия), у 40% нормальное давление, у 30% прегииер- тензия, а 20% - гипертензики. Мы можем проверить эту гипотезу, набрав выборку п сравнив наблюдаемые частоты с гипотетическими (ожидаемыми значениями); мы будем использовать уровень значимости 0,05. В табл. 5.7 приведен пример возможных данных. Таблица 5.7. Ожидаемые и наблюдаемые значения распределения кровяного давления Ожидаемая доля Ожидаемое число случаев Наблюдаемое число случаев Гипотензия 0.10 10 12 Нормальное 0.40 40 25 Прегипертензия 0.30 30 50 Гипертензия 0.20 20 13 Сумма 1.00 100 100
Тест хи-квадрат ¦МШ Рассчитанное значение хи-квадрат для этих данных составляет 21,8 с тремя степенями свободы, и оно значимо. (Критическое значение для уровня значимости 0,05 составляет 7,815, что можно видеть из таблицы значений хи-квадрат на рис. D.11 в приложении D.) Поскольку наше расчетное значение больше критического, мы должны отвергнуть нулевую гипотезу о распределении уровней кровяного давления в этой популяции. Критерий хи-квадрат Пирсона подходит для данных, в которых все наблюдения независимы (то есть, к примеру, каждого испытуемого измеряют только 1 раз), а категории взаимно исключающие и перекрывают все возможные значения (то есть в каждом случае можно однозначно отнести испытуемого к ровно одной ячейке). Кроме того, предполагается, что ни в одной из ячеек ожидаемое значение не меньше 1, и не более чем у 20% ячеек ожидаемое значение меньше 5. Причина возникновения двух последних требований связана с тем, что критерий хи-квадрат асимптотический, и его некорректно применять к разреженным данным (то есть таким, в которых у одной или нескольких ячеек маленькая ожидаемая частота). Поправка Йейтса па непрерывность - это процедура, разработанная британским статистиком Франком Йейтсом (Frank Yates) для критерия независимости хи-квадрат при работе с таблицами 2><2. Распределение хи-квадрат непрерывное, однако данные, используемые в критерии хи-квадрат, дискретные, и поправка Йейтса была придумана как раз для того, чтобы исправить это несоответствие. Поправку Йейтса очень легко применить. Вам просто надо вычесть 0,5 из абсолютного значения разницы наблюдаемых и ожидаемых значений до возведения в квадрат; это слегка понижает значение статистики хи-квадрат. Формула хи-квадрат с поправкой Йейтса на непрерывность приведена на рис. 5.6. I , ''-^-С(1О,7-?,71-0.5)2 I ^= ^ Е Рис. 5.6. Формула хи-квадрата с поправкой Йейтса на непрерывность Идея поправки Йейтса состоит в том, что уменьшение значения хи-квадрат приводит к уменьшению вероятности ошибки первого рода (ошибочного отвержения нулевой гипотезы). Однако использование поправки Йейтса одобряется далеко не всеми; некоторые исследователи считают, что она может приводить к слишком сильной коррекции с понижением мощности и повышению вероятности ошибки второго рода (ошибочного неотвержения нулевой гипотезы). Некоторые статистики отвергают поправку Йейтса в принципе, хотя другие находят ее полезной в случае разреженных данных, особенно если хотя бы в одной ячейке ожидаемая величина меньше 5. Менее противоречивый метод работы с такими данными в случаях, когда предположения о распределении, упомянутые выше (не более 20% ячеек с ожидаемым значением меньше 5 и без ячеек с ожидаемым значением меньше 1), не выполняются, - это использование точного теста Фишера, который обсуждается ниже, вместо критерия хи-квадрат.
вшн Глава 5. Категориальные данные Тест хи-квадрат часто рассчитывают и для таблиц большего размера, чем 2><2, хотя для в таких ситуациях обычно используют компьютерные программы, поскольку с ростом числа ячеек расчеты быстро становятся очень громоздкими. Нет никакого теоретического ограничения на число строк и столбцов, которые можно включить, но два фактора создают практические ограничения: возможность сделать адекватные выводы (попробуйте это сделать с таблицей 30x30!) и необходимость избегать пустых ячеек, что было сказано ранее. Иногда данные собирают в виде большого числа категорий, но потом их объединяют в меньшее число групп, чтобы избежать пустых ячеек. К примеру, информацию о семейном положении можно собирать в виде большого числа категорий (женат/замужем, холост/не замужем, в разводе, проживание с партнером, вдовец/вдова и т. п.), но для некоторых видов анализов исследователь может решить сократить число категорий (к примеру, до женат/замужем и холост/не замужем) из-за недостаточного числа испытуемых в более мелких категориях. Точный тест Фишера Точный тест Фишера (или просто тест Фишера) - это непараметрический критерий, аналогичный тесту хи-квадрат, но его можно применять с небольшим количеством данных или в случае разреженного распределения данных, которые не подходят под требования хи-квадрата. Тест Фишера основан на гипергеометрическом распределении и рассчитывает точную вероятность наблюдения такого распределения, как в данных, или более экстремального, отсюда и слово «точный» в названии. Это не асимптотический тест, так что он не ограничен правилами о разреженности, которые относятся к тесту хи-квадрат. Обычно для расчета теста Фишера используют компьютерные программы, особенно для таблиц большего размера, чем 2 х2, из-за занудности расчетов. Ниже следует простой пример с таблицей 2x2. Положим, нас интересует связь между употреблением некоего уличного наркотика п внезапной остановкой сердца у молодых людей. Поскольку наркотик незаконный и новый для нашего района, и, кроме того, остановки сердца очень редко встречаются у молодых людей, мы не смогли собрать достаточно данных, чтобы провести тест хи-квадрат. В табл. 5.8 приведены данные для анализа. Таблица 5.8. Точный тест Фишера: расчет связи между употреблением нового уличного наркотика и внезапной остановкой сердца у молодых людей Употребляли наркотик Не употребляли наркотика Сумма Остановка сердца 7 5 12 Нет остановки сердца 2 6 8 Сумма 9 11 20 Маши гипотезы:
Точный тест Фишера ВВНЕШ Н(): риск внезапной остановки сердца у употреблявших и не употреблявших наркотика одинаковый. Ht: риск внезапной остановки сердца у употреблявших новый наркотик выше. Точный тест Фишера рассчитывает вероятность получить результат не менее экстремальный, чем тот, который был найден в исследовании. Более экстремальный результат в данном случае - это такой, в котором отличие в частоте внезапной остановки сердца у употреблявших и не употреблявших наркотик еще больше, чем в наших данных (при том же объеме выборки). Пример более экстремального результата приведен в табл. 5.9. Таблица 5.9. Более экстремальное распределение данных для примера с употреблением наркотика и внезапной остановкой сердца Употребляли наркотик Не употребляли наркотика Сумма Остановка сердца 8 4 12 Нет остановки сердца 1 7 8 Сумма 9 11 20 Формула точной вероятности для таблицы 2 ><2 приведена на рис. 5.7. гх\г2\сх\с2\ Р n\a\b\c\d\ Рис. 5.7. Формула точного теста Фишера В данной формуле «!» означает факториал (4! = 4 * 3 * 2 х 1), а ячейки и краевые значения обозначены в соответствии с табл. 5.10. Таблица 5.10. Табличная запись а Ь г} с d г2 c^ с2 п В нашем случае a = 8, Ъ = \,с = 4,d= 7, г, =9, г2 = И, с, = 12, с2 = 8 \\п = 20. Почему эта таблица более экстремальна, чем наши данные? Потому что если бы между употреблением наркотика и внезапной остановкой сердца не было бы связи, мы бы ожидали увидеть такое распределение, как на табл. 5.11. Таблица 5.11. Ожидаемые данные при условии независимости Употребляли наркотик Не употребляли наркотика Сумма Остановка сердца 5.4 6.6 12 Нет остановки сердца 3.6 4.4 8 Сумма 9 11 20
ЕШНН Глава 5. Категориальные данные В наших наблюдаемых данных связь между употреблением наркотика и внезапной остановкой сердца сильнее (больше смертей, чем ожидаемое значение для употреблявших наркотик), так что любая таблица, в которой связь еще сильнее, чем наблюдаемая в данных, более экстремальна и, таким образом, менее вероятна в случае, если употребление наркотика и остановка сердца независимы. Чтобы найти /^-значение для точного теста Фишера вручную, нам бы пришлось найти вероятности всех более экстремальных таблиц и сложить их. К счастью, алгоритмы расчета теста Фишера включены практически во все статистические пакеты, и существует множество онлайн-калькуляторов, которые могут сделать этот расчет за вас. Используя калькулятор, доступный на странице, поддерживаемой Джоном С. Пеццуло (John С. Pezzullo), профессором фармакологии и биоста- тпстики в отставке, мы находим одностороннее/^-значение точного теста Фишера для данных из табл. 5.7, и оно составляет 0,157. Мы используем односторонний критерий, поскольку паша гипотеза односторонняя; пас интересует, не повышает ли новый наркотик риск внезапной остановки сердца. Используя уровень значимости 0,05, мы не можем считать этот результат значимым, так что мы не отвергаем нулевую гипотезу о том, что новый наркотик не связан с увеличением риска внезапной остановки сердца. Парный тест МакНемара Критерий МакНемара (McNemar) - это вид теста хи-квадрат, который применяют 13 тех случаях, когда данные получены из связанных выборок, или в случае парных данных. Например, мы можем использовать тест МакНемара для анализа результатов опроса общественного мнения до и после просмотра испытуемыми политической рекламы. В данном примере от каждого человека мы получим два ответа, один до и второй после просмотра. Мы не можем использовать эти два ответа на один и тот же вопрос как независимые, так что не можем применять критерий хи-квадрат Пирсона; вместо этого мы предполагаем, что два ответа, полученные от одного и того же испытуемого, будут более сильно связаны, чем два ответа, полученные от случайных людей. Тест МакНемара также подойдет для анализа ответов пар муж-жена или братьев и сестер на один и тот же вопрос. В случае братьев и сестер или мужей-жен, хотя данные и получены от разных людей, каждый человек в паре настолько сильно связан с другим, что мы ожидаем, что они будут более похожими, чем случайные люди из генеральной совокупности. Критерий МакНемара также можно применять для анализа данных, собранных па группах испытуемых, настолько похожих по ключевым свойствам, что их больше нельзя считать независимыми. К примеру, в медицинских исследованиях иногда изучают встречаемость некоторого заболевания в зависимости от возраста, пола, расовой принадлежности или национальности и подобных характеристик и применяют такие тесты, как критерий МакНемара, поскольку испытуемые настолько сильно похожи, что их считают скорее связанными выборками, чем независимыми. Положим, мы хотим определить эффективность политической рекламы для влияния на мнение людей о смертной казни. Один из подходов сделать это со-
Парный тест МакНемара НПШ1 стоит в сборе мнения людей о том, поддерживают они высшую меру или нет, до и после просмотра 30-секундного ролика, пропагандирующего отмену смертной казни. Посмотрите на гипотетические данные в табл. 5.12. Таблица 5.12. Критерий МакНемара для мнения по поводу смертной казни до и после просмотра политической рекламы До просмотра ролика За смертную казнь Против смертной казни Сумма После просмотра ролика За смертную казнь 15 10 25 Против смертной казни 25 20 45 Сумма 40 30 70 Больше людей были против смертной казни после просмотра ролика, чем до того, но достоверно ли отличие? Мы можем это проверить с помощью критерия хи-квадрат МакНемара, который рассчитывается по формуле па рис. 5.8. .» (Ь-сУ Ь + с Рис. 5.8. Формула для теста хи-квадрат МакНемара Эта формула использует метод указания ячеек с помощью буквенных обозначений по такой схеме, как в табл. 5.13 Таблица 5.13. Способ буквенного обозначения ячеек в таблице 2x2 а Ь с d Обратите внимание, что формула основана исключительно на распределении дискордантных пар (Ь и с), в данном случае тех, в которых человек изменил свое мнение после просмотра ролика. Статистика МакНемара распределена по хи- квадрату с одной степенью свободы. Расчеты приведены на рис. 5.9. I (25-Ю)'_ 225 ~ I Л 25 + 10 35 I Рис. 5.9. Расчет критерия хи-квадрат МакНемара Как вы можете увидеть из таблицы значений хи-квадрат (рис. D.11 в приложении D), при уровне значимости 0,05 критическое значение распределения хи- квадрат составляет 3,84, так что наш результат свидетельствует о необходимости отвергнуть нулевую гипотезу о том, что просмотр ролика никак не влияет на мнение людей о смертной казни. Кроме того, с помощью компьютерного анализа я определила, что точная вероятность получить такую (6,43) или более экстремальную
шмшшш Глава 5. Категориальные данные статистику хи-квадрат составляет 0,017, если бы мнение людей не менялось после просмотра ролика, что подчеркивает значимость результатов этого исследования и необходимость отвергнуть нулевую гипотезу. Пропорции: большие выборки Пропорция - это доля, в которой все случаи из числителя также входят и в знаменатель. К примеру, мы можем говорить о пропорции (доле) студенток в каком-то университете. В числителе будет стоять число студенток, а в знаменателе - число всех студентов университета, как мужского, так и женского пола. Или же мы можем говорить о доле студентов какого-то университета, специализирующихся на химии. В числителе будет число студентов-химиков, а в знаменателе - число всех студентов университета (вне зависимости от специализации). Пропорции более подробно обсуждаются в главе 15. Данные, которые можно описать в терминах пропорций, - это особый случай категориальных данных, в которых есть две категории: студенты мужского и женского пола в первом примере, химики и не химики во втором. Многие статистики, обсуждаемые в этой главе, такие как точный тест Фишера и критерии хи-квадрат, можно использовать для проверки гипотез о пропорциях. Однако в случае достаточного объема выборки можно применять некоторые дополнительные виды критериев, которые используют нормальное приближение биномиального распределения; это возможно из-за того, что, как говорилось в главе 3, биномиальное распределение начинает очень напоминать нормальное с ростом п (объема выборки). Какого объема выборки достаточно? Эмпирическое правило гласит, что как пр, так и п{\ - р) должны быть не меньше 5. Поставьте себя на место менеджера на фабрике, который утверждает, что 95% шурупов определенного вида, выпускаемых на фабрике, имеют диаметр между 0,50 и 0,52 сантиметра. Один из клиентов жалуется, что в недавней поставке было слишком много неразмерных шурупов, так что вы решили взять выборку из 100 шурупов и измерить их, чтобы посмотреть, сколько из них соответствует стандарту. Вы проведете одновыборочный Z-критерий, чтобы проверить вашу предполагаемую гипотезу о том, что 95% шурупов соответствуют указанным стандартам, со следующими гипотезами: Н():я>0,95; Н,: Ж 0,95, где я - это доля шурупов, соответствующих стандартам, в генеральной совокупности (диаметр между 0,50 и 0,52 см). Обратите внимание, что это односторонний критерий; вы будете рады, если хотя бы 95% шурупов соответствуют стандарту, и счастливы, если даже больше, чем 95%. (Лучше всего было бы, если бы 100% соответствовали стандартам, но не бывает идеально точного производственного процесса.) В вашей выборке 91 шуруп соответствовал указанным размерам. Достаточен ли этот результат для того, чтобы при уровне значимости 0,05 отвергнуть пулевую гипотезу о том, что хотя бы 95% шурупов этого типа, произведенных на вашей фабрике, соответствуют стандартам?
Пропорции: большие выборки <ИнИ Формула для расчета одновыборочного Z-теста пропорций приведена па рис. 5.10. Z-- Р-л0 1л0(1-л0) V п Рис. 5.10. Формула для одновыборочной Z-статистики для пропорций В этой формуле п{) - это предполагаемая пропорция в генеральной совокупности, р - это пропорция в выборке и п - это объем выборки. Подстановка чисел в эту формулу дает Z-значение, равное -1,835, как показано на рис. 5.11. г_ 0.91-0.95 _ -0.0400 __ т (0.95) (0.05) " 0.0218 100 Vs Рис. 5.11. Расчет одновыборочной Z-статистики для пропорций Критическое значение для одновыборочного Z-критерия при нашей гипотезе и уровне значимости составляет -1,645. Наша статистика -1,835 более экстремальна, чем это значение, так что мы отвергаем нулевую гипотезу и заключаем, что меньше 95% шурупов этого вида, произведенных на нашей фабрике, соответствуют указанным стандартам. Кроме того, мы можем проверять отличия между пропорциями в генеральных совокупностях в случае большого объема выборок. Предположим, нас интересует доля курящих старшеклассников, и мы хотим сравнить этот показатель у двух стран. Нашей нулевой гипотезой будет то, что пропорции в двух странах одинаковы, так что мы проведем двухсторонний тест со следующими гипотезами: Н(): я, = я2; Считая, что предположения об объеме выборок выполнены (пр >5,п(1 - р) > 5 для обеих выборок), мы можем применить формулу с рис. 5.12 для расчета Z-статистики для разницы между пропорциями для двух генеральных с