Лагутин М.Б. - Наглядная математическая статистика, 5-ое электронное издание [2015, PDF, RUS]

ОГЛАВЛЕНИЕ
Предисловие . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
К читателю . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
Часть I. Вероятность и статистическое моделирование . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
Глава 1. Характеристики случайных величин . . . . . . . . . . . . . . 7
1. Функции распределения и плотности . . . . . . . . . . . . . . . . 7
2. Математическое ожидание и дисперсия . . . . . . . . . . . . . . 10
3. Независимость случайных величин . . . . . . . . . . . . . . . . . 12
4. Поиск больных . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Глава 2. Датчики случайных чисел . . . . . . . . . . . . . . . . . . . . . . . 19
1. Физические датчики . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2. Таблицы случайных чисел . . . . . . . . . . . . . . . . . . . . . . . . . 20
3. Математические датчики . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4. Случайность и сложность . . . . . . . . . . . . . . . . . . . . . . . . . 22
5. Эксперимент «Неудачи» . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
6. Теоремы существования и компьютер . . . . . . . . . . . . . . . 26
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
Глава 3. Метод Монте-Карло . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
1. Вычисление интегралов . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2. «Правило трех сигм» . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
3. Кратные интегралы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
4. Шар, вписанный в 𝑘-мерный куб . . . . . . . . . . . . . . . . . . . 35
5. Равномерность по Вейлю . . . . . . . . . . . . . . . . . . . . . . . . . . 36
6. Парадокс первой цифры . . . . . . . . . . . . . . . . . . . . . . . . . . 37
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41468 Оглавление
Глава 4. Показательные и нормальные датчики . . . . . . . . . . . . 42
1. Метод обратной функции . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2. Распределения экстремальных значений . . . . . . . . . . . . . 43
3. Показательный датчик без логарифмов . . . . . . . . . . . . . . 45
4. Быстрый показательный датчик . . . . . . . . . . . . . . . . . . . . 46
5. Нормальные случайные числа . . . . . . . . . . . . . . . . . . . . . . 50
6. Наилучший выбор . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
Глава 5. Дискретные и непрерывные датчики . . . . . . . . . . . . . 58
1. Моделирование дискретных величин . . . . . . . . . . . . . . . . 58
2. Порядковые статистики и смеси . . . . . . . . . . . . . . . . . . . . 60
3. Метод Неймана (метод исключения) . . . . . . . . . . . . . . . . 64
4. Пример из теории игр . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
Часть II. Оценивание параметров . . . . . . . . . . . . . . . 71
Глава 6. Сравнение оценок . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
1. Статистическая модель . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
2. Несмещенность и состоятельность . . . . . . . . . . . . . . . . . . 73
3. Функции риска . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
4. Минимаксная оценка в схеме Бернулли . . . . . . . . . . . . . . 78
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
Глава 7. Асимптотическая нормальность . . . . . . . . . . . . . . . . . . 84
1. Распределение Коши . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
2. Выборочная медиана . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
3. Выборочные квантили . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
4. Относительная эффективность . . . . . . . . . . . . . . . . . . . . . 89
5. Устойчивые законы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
Глава 8. Симметричные распределения . . . . . . . . . . . . . . . . . . . 99
1. Классификация методов статистики . . . . . . . . . . . . . . . . . 99
2. Усеченное среднее . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
3. Медиана средних Уолша . . . . . . . . . . . . . . . . . . . . . . . . . . 102
4. Робастность . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
Глава 9. Методы получения оценок . . . . . . . . . . . . . . . . . . . . . . . 110
1. Вероятностная бумага . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110Оглавление 469
2. Метод моментов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
3. Информационное неравенство . . . . . . . . . . . . . . . . . . . . . . 114
4. Метод максимального правдоподобия . . . . . . . . . . . . . . . 116
5. Метод Ньютона и одношаговые оценки . . . . . . . . . . . . . . 119
6. Метод спейсингов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
Глава 10. Достаточность . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
1. Достаточные статистики . . . . . . . . . . . . . . . . . . . . . . . . . . 129
2. Критерий факторизации . . . . . . . . . . . . . . . . . . . . . . . . . . 130
3. Экспоненциальное семейство . . . . . . . . . . . . . . . . . . . . . . . 132
4. Улучшение несмещенных оценок . . . . . . . . . . . . . . . . . . . . 133
5. Шарики в ящиках . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
Глава 11. Доверительные интервалы . . . . . . . . . . . . . . . . . . . . . . . 145
1. Коэффициент доверия . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
2. Интервалы в нормальной модели . . . . . . . . . . . . . . . . . . . 146
3. Методы построения интервалов . . . . . . . . . . . . . . . . . . . . 151
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
Часть III. Проверка гипотез . . . . . . . . . . . . . . . . . . . . . 159
Глава 12. Критерии согласия . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
1. Статистический критерий . . . . . . . . . . . . . . . . . . . . . . . . . 160
2. Проверка равномерности . . . . . . . . . . . . . . . . . . . . . . . . . . 161
3. Проверка показательности . . . . . . . . . . . . . . . . . . . . . . . . . 164
4. Проверка нормальности . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
5. Энтропия . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
Глава 13. Альтернативы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
1. Ошибки I и II рода . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
2. Оптимальный критерий Неймана—Пирсона . . . . . . . . . . 183
3. Последовательный анализ . . . . . . . . . . . . . . . . . . . . . . . . . 187
4. Разорение игрока . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190
5. Оптимальная остановка блуждания . . . . . . . . . . . . . . . . . 193
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197470 Оглавление
Часть IV. Однородность выборок . . . . . . . . . . . . . . . 199
Глава 14. Две независимые выборки . . . . . . . . . . . . . . . . . . . . . . . 200
1. Альтернативы однородности . . . . . . . . . . . . . . . . . . . . . . . 200
2. Правильный выбор модели . . . . . . . . . . . . . . . . . . . . . . . . 201
3. Критерий Смирнова . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
4. Критерий Розенблатта . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
5. Критерий ранговых сумм Уилкоксона . . . . . . . . . . . . . . . 204
6. Принцип отражения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Глава 15. Парные повторные наблюдения . . . . . . . . . . . . . . . . . . 219
1. Уточнение модели . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
2. Критерий знаков . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
3. Критерий знаковых рангов Уилкоксона . . . . . . . . . . . . . . 222
4. Зависимые наблюдения . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
5. Критерий серий . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
Глава 16. Несколько независимых выборок . . . . . . . . . . . . . . . . . 237
1. Однофакторная модель . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
2. Критерий Краскела—Уоллиса . . . . . . . . . . . . . . . . . . . . . . 237
3. Критерий Джонкхиера . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
4. Блуждание на плоскости и в пространстве . . . . . . . . . . . 248
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257
Глава 17. Многократные наблюдения . . . . . . . . . . . . . . . . . . . . . . 259
1. Двухфакторная модель . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
2. Критерий Фридмана . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
3. Критерий Пейджа . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263
4. Счастливый билетик и возвращение блуждания . . . . . . . 265
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271
Глава 18. Сгруппированные данные . . . . . . . . . . . . . . . . . . . . . . . 273
1. Простая гипотеза . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273
2. Сложная гипотеза . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
3. Проверка однородности . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286
Часть V. Анализ многомерных данных . . . . . . . . 287
Глава 19. Классификация . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288
1. Нормировка, расстояния и классы . . . . . . . . . . . . . . . . . . 289Оглавление 471
2. Эвристические методы . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
3. Иерархические процедуры . . . . . . . . . . . . . . . . . . . . . . . . . 294
4. Быстрые алгоритмы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297
5. Функционалы качества разбиения . . . . . . . . . . . . . . . . . . 299
6. Неизвестное число классов . . . . . . . . . . . . . . . . . . . . . . . . 307
7. Сравнение методов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309
8. Представление результатов . . . . . . . . . . . . . . . . . . . . . . . . 311
9. Поиск в глубину . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 313
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 313
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315
Глава 20. Корреляция . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317
1. Геометрия главных компонент . . . . . . . . . . . . . . . . . . . . . 317
2. Эллипсоид рассеяния . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322
3. Вычисление главных компонент . . . . . . . . . . . . . . . . . . . . 324
4. Линейное шкалирование . . . . . . . . . . . . . . . . . . . . . . . . . . . 326
5. Шкалирование индивидуальных различий . . . . . . . . . . . 332
6. Нелинейные методы понижения размерности . . . . . . . . . 337
7. Ранговая корреляция . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343
8. Множественная и частная корреляции . . . . . . . . . . . . . . . 347
9. Таблицы сопряженности . . . . . . . . . . . . . . . . . . . . . . . . . . 350
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 353
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356
Глава 21. Регрессия . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357
1. Подгонка прямой . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357
2. Линейная регрессионная модель . . . . . . . . . . . . . . . . . . . . 360
3. Статистические свойства МНК-оценок . . . . . . . . . . . . . . 363
4. Общая линейная гипотеза . . . . . . . . . . . . . . . . . . . . . . . . . 368
5. Взвешенный МНК . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372
6. Парадоксы регрессии . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 382
Решения задач . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383
Ответы на вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 386
Часть VI. Обобщения и дополнения . . . . . . . . . . . . 387
Глава 22. Ядерное сглаживание . . . . . . . . . . . . . . . . . . . . . . . . . . . 388
1. Оценивание плотности . . . . . . . . . . . . . . . . . . . . . . . . . . . . 388
2. Непараметрическая регрессия . . . . . . . . . . . . . . . . . . . . . . 392
Глава 23. Многомерные модели сдвига . . . . . . . . . . . . . . . . . . . . . 399
1. Стратегия построения критериев . . . . . . . . . . . . . . . . . . . 399
2. Одновыборочная модель . . . . . . . . . . . . . . . . . . . . . . . . . . 399
3. Двухвыборочная модель . . . . . . . . . . . . . . . . . . . . . . . . . . 406
Глава 24. Двухвыборочная задача о масштабе . . . . . . . . . . . . . . 411
1. Медианы известны или равны . . . . . . . . . . . . . . . . . . . . . . 411
2. Медианы неизвестны и неравны . . . . . . . . . . . . . . . . . . . . 414472 Оглавление
Глава 25. Классы оценок . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 417
1. 𝐿-оценки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 417
2. 𝑀-оценки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 419
3. 𝑅-оценки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 423
4. Функция влияния . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426
Глава 26. Броуновский мост . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 428
1. Броуновское движение . . . . . . . . . . . . . . . . . . . . . . . . . . . . 428
2. Эмпирический процесс . . . . . . . . . . . . . . . . . . . . . . . . . . . . 429
3. Дифференцируемые функционалы . . . . . . . . . . . . . . . . . . 430
Приложение. Некоторые сведения из теории вероятностей
и линейной алгебры . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 435
Раздел 1. Аксиоматика теории вероятностей . . . . . . . . . . 435
Раздел 2. Математическое ожидание и дисперсия . . . . . . 435
Раздел 3. Формула свертки . . . . . . . . . . . . . . . . . . . . . . . . . 437
Раздел 4. Вероятностные неравенства . . . . . . . . . . . . . . . . 437
Раздел 5. Сходимость случайных величин и векторов . . . 438
Раздел 6. Предельные теоремы . . . . . . . . . . . . . . . . . . . . . . 439
Раздел 7. Условное математическое ожидание . . . . . . . . . 440
Раздел 8. Преобразование плотности случайного вектора 441
Раздел 9. Характеристические функции и многомерное
нормальное распределение . . . . . . . . . . . . . . . . . . . . . . . . . . . 442
Раздел 10. Элементы матричного исчисления . . . . . . . . . . 444
Таблицы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449
Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456
Обозначения и сокращения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 460
Предметный указатель . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462