Книга «Сигнал и шум» Нейта Сильвера. Краткое содержание для ставочника

Нейт Сильвер — статистик и писатель, занимающийся анализом бейсбола и политики. Первое признание Сильвер получил за разработку алгоритма для прогнозирования бейсбола PECOTA. В 2009-м журнал Time включил его в число 100 самых влиятельных людей мира — его система верно спрогнозировала победителей президентских выборов в США в 49 из 50 штатов. На выборах-2012 Сильвер предсказал 50 из 50 победителей.

Бестселлер Нейта Сильвера «Сигнал и шум» стал книгой 2012 года по версии Amazon в категории «нон-фикшн».

Что такое сигнал и шум

Сигнал — это правда, а шум — то, что отвлекает нас от правды.

Почти все публикуемые Сильвером прогнозы являются вероятностными. Вместо одной цифры он показывает диапазон возможных результатов.

Во многих областях нашей жизни важно оценивать вероятности, а не искать ответы «да» или «нет».

Хорошо продуманная система прогнозирования может оценить, какие статистические показатели сильнее зависят от удачи.

Не так важно, какая количественная или качественная информация к вам поступает, — гораздо важнее, каким образом вы ее используете.

Как стать хорошим прогнозистом

В высококонкурентных областях, таких как спорт, лучшие прогнозисты должны постоянно использовать новые методы. Не ограничивайтесь лишь «использованием неэффективности рынка».

Маловероятно, что вы натолкнетесь на идею, которую никто другой не обдумывал. А еще сложнее – на хорошую идею, – и даже когда вы на нее натолкнетесь, пройдет совсем немного времени, и ее кто-нибудь скопирует.

Хорошие специалисты обдумывают ситуацию и масштабно, и в деталях. Новые идеи можно найти в тонкостях проблемы или в абстрактных размышлениях о парадигмах. Обычное категориальное мышление часто приводит к упущению важной информации.

Главное — развивать инструменты и привычки, помогающие вам чаще находить идеи и информацию в нужном месте, и оттачивать навыки, необходимые как при поражениях, так и в победах.

О прогнозисте Бобе Вулгарисе, который зарабатывает миллионы долларов

Боб не просто выискивает некие шаблоны. Напротив, он совмещает свое знание статистики с пониманием особенностей баскетбола, выявляя осмысленные связи в имеющихся данных.

Успешные прогнозисты не рассчитывают на беспроигрышные ставки или безукоризненные теории. Они рассматривают будущее как крупицы вероятностей, которые меняются с каждым новым элементом информации. Когда расчеты показывают значительное преимущество, они делают ставку.

Самый большой секрет Вулгариса в том, что у него нет большого секрета. Вместо этого у него имеется тысяча небольших секретов, квантов информации, которые он рассматривает в конкретный момент времени.

У Вулгариса есть программа для расчета исходов игр, но он полагается на неё только при серьезном перевесе или подкреплении другой информацией. Он смотрит почти каждую игру НБА, нанял ассистентов для создания графиков перемещений игроков, следит за твиттером игроков и анализирует высказывания тренеров на пресс-конференциях.

Риск и неопределенность

Риск предполагает, что его можно оценить. Предположим, вы планируете выиграть партию в покер при условии, что ваш оппонент не соберет так называемый «дырявый стрит». Шансы на то, что на столе окажется нужная карта, составляют точно 1 из 11. Это и есть оценка риска. Конечно, такие ситуации всегда неприятны, однако вы, по крайней мере, знаете вероятность ее возникновения и можете это спланировать заранее. В долгосрочной перспективе вы сможете обыграть своих оппонентов, делающих отчаянные ставки на слишком малую вероятность благоприятного для них события.

Неопределенность представляет собой риск, который сложно измерить. У вас может иметься некоторое расплывчатое представление о возможных неприятностях. Вы даже способны четко представить, в чем они заключаются. Однако вы не знаете ни сколько их, ни когда они могут проявиться. Ваша предварительная оценка вероятности может отличиться от истинной в 100 или даже 1000 раз; вы просто не можете произвести расчеты более точно.

Ежи и лисы

Разделение на эти две группы напрямую связано с названием эссе Исайи Берлина о Льве Толстом, основанном на фразе греческого поэта Архилоха: «Лис знает много секретов, а еж – один, но самый главный».

«Ежи» — это те люди, которые верят в Большие Идеи или управляющие миром принципы. «Ежи» приравнивают их к законам физики, универсальным для каждого вида взаимоотношений в обществе. Можно вспомнить Карла Маркса и идею классовой борьбы или Зигмунда Фрейда и идею бессознательного. Или же Малкольма Гладуэлла и теорию «переломного момента».

«Лисы» же, напротив, верят во множество мелких идей и предлагают разнообразные подходы к решению проблем. Они более терпимы к нюансам, неопределенности, сложности и противоречивым мнениям. Если «ежи» — это охотники, всегда ищущие большую добычу, то «лисы» – это собиратели.

«Лисы» умеют предсказывать значительно лучше, чем «ежи».

«Лисы» способны отделить свои идеальные представления от реальности при анализе. «Ежам» сложнее абстрагироваться от своих интересов, они создают «расплывчатую смесь из фактов и значений», обращая внимание лишь на то, что хотят увидеть.

Коллективные прогнозы

Групповые прогнозы обычно точнее индивидуальных (на 15-20%). Это не всегда означает, что они хороши, но показывает пользу от изучения проблемы с разных точек зрения.

Работы, в которых изучались предсказания результатов НФЛ, показали, что основанные на консенсусе прогнозы букмекеров были на 99,5 % точнее, чем прогнозы отдельных участников.

Как дать хороший прогноз

Чтобы составить хороший прогноз, нужно уметь правильно взвешивать всю доступную информацию, а не ограничиваться только количественными данными. Необходимо собрать максимальный объем информации и дисциплинированно её анализировать.

Лакмусовой бумажкой, позволяющей понять, насколько вы компетентны как прогнозист, является изменение качества ваших прогнозов: становятся ли ваши предсказания лучше при увеличении объема информации? Если же они становятся хуже, то можно сказать, что у вас имеются некоторые плохие привычки.

Почему важно фокусироваться и забывать неудачи

Дастин Педройя, звезда «Бостон Ред Сокс», обладает «памятью главной лиги» — быстро забывает неудачи, будучи уверен в правильности своей игры в долгосрочной перспективе.

И он крайне нетерпим ко всему, что отвлекает его от работы. И становится не самым приятным в общении человеком, но именно это и дает ему возможность играть на второй базе за бостонскую команду Red Sox, а это — единственное, о чем заботится Педройя.

Наши сильные и слабые стороны всегда взаимосвязаны, порой не самым явным образом. Педройя превратил в силу то, что у других игроков является слабостью.

Оверфиттинг — самая важная научная проблема, о которой вы никогда не слышали

Когда статистики ошибаются и принимают шумы за сигнал, они называют это оверфиттингом. Я поручаю вам найти хороший метод подбора цифровых комбинаций для цифровых замков. Я хочу, чтобы вы нашли способ, позволяющий с высокой вероятностью подобрать нужную комбинацию замков в любое время и в любом месте. Для практики я даю вам три замка: красный, черный и синий.

Если вы просто запоминаете комбинации трех конкретных замков, а не разрабатываете метод для открытия любых замков — это пример оверфиттинга. Вы даете слишком конкретное решение для общей проблемы, что ухудшает прогнозы.

Статистические модели «подстраиваются, подгоняются» (fit) под прошлые наблюдения. Степень подгонки может быть слишком общей. И такое явление называется «андерфиттингом» (underfitting). При андерфиттинге вы захватываете меньшую часть сигнала по сравнению с максимально возможной. Либо же модель может обладать свойством оверфиттинга, иными словами, ваши данные содержат слишком много шума, что не позволяет четко выявить структуру, лежащую в их основе. На практике второй тип ошибки встречается намного чаще.

Экстраполяция

Экстраполяция является одним из основных методов прогнозирования, порой слишком простым. Это предположение о том, что текущая тенденция будет продолжаться бесконечно, что часто приводит к неудачным предсказаниям.

Например, в конце XIX века предсказывали, что к 1940-м годам улицы Лондона будут погребены под трехметровым слоем конского навоза из-за роста использования конных экипажей. Однако вскоре Генри Форд начал производство автомобилей, и кризиса удалось избежать.

Делайте много прогнозов

Несомненно, мы неплохо соображаем, но вселенная, в которой мы живем, – непостижимо велика. Преимущество умения думать в категориях вероятности обусловлено тем, что вы заставляете себя останавливаться, присматриваться к информации, замедляться и проверять недостатки своих умозаключений. Со временем вы поймете, что принятие решений удается вам все лучше и лучше.

Возможно, следующий байесовский принцип применять проще всего: делайте много прогнозов. Хотя поначалу не стоит рисковать слишком многим, это единственный способ улучшить свои навыки.

Какой смысл в предсказании, если вы не готовы поставить на него деньги?