602 / 736SURV

Survivorship Bias

Искажение из-за отбора выживших

Survivorship Bias возникает, когда мы оцениваем прошлое только по тем, кто до сих пор остаётся на виду. История нынешних фондов может выглядеть прекрасно, если закрывшиеся фонды исчезли из сравнения. Прежде чем доверять результату, нужно понять, кого в нём не хватает.

Survivorship Bias — это искажение из-за отбора выживших или всё ещё наблюдаемых случаев. Их результаты ошибочно представляют как результаты всей исходной группы. Само изучение сегодняшнего предложения не является ошибкой; важно, на какой вопрос должна отвечать выборка.

Яна открывает сегодняшний список фондов и сравнивает их прошлую доходность. Большинство выглядит хорошо. Но фондов, которые за это время закрылись или объединились с другими, она там не найдёт. Если судить по этому списку обо всех, кто начинал тогда, часть истории потеряется. QuantConnect объясняет такую ошибку на исторических тестах с сохранившимися ценными бумагами. Тот же вопрос уместен для таблицы криптовалютных проектов: мы изучаем исходную группу или только тех, о ком до сих пор легко найти данные? [1]

Яна может использовать его для сравнения нынешнего предложения. Но нельзя считать, что именно эту группу она могла выбрать в начале периода: тогда она не знала, кто выживет. Здесь Survivorship Bias пересекается с Look-ahead Bias — использованием более позднего знания в раннем решении. Историческому тесту нужен состав группы на тот момент и правила включения и исключения. Состав может меняться, но по доступным тогда сведениям, а не по известному сегодня результату. [1]

Поэтому полезны базы, сохраняющие закрытые фонды, например база CRSP, предлагаемая Morningstar. Однако скачать больше строк недостаточно. Яна должна определить, что считает: отдельные фонды или классы паёв с разными комиссиями? Если несколько классов одного фонда считать независимыми фондами, его вес можно нечаянно увеличить. Сначала определяют группу и единицу сравнения, затем изучают результаты, включая тех, кого позднее перестали предлагать. [2]

При объединении таблиц Яна может потерять ещё часть истории. Биржевой символ мог измениться или позднее перейти к другой ценной бумаге. Соединение только по одинаковым названиям может смешать разные случаи; поиск лишь нынешнего символа — пропустить старые записи. База акций CRSP использует постоянные идентификаторы, например PERMNO для ценной бумаги. Они помогают понять, какие записи относятся к одному случаю, даже если обозначение изменилось. Вместе с этим нужно сохранять даты изменений и связь между записями. [3]

Отсутствующую цену нельзя просто заменить полным убытком. Бумага могла быть выкуплена, погашена денежной выплатой или продолжить существование вне прежней биржи. Важны конкретное событие и то, что действительно получил держатель. LEAN, движок моделирования торговли, умеет обрабатывать исключение из биржевого списка. Само по себе это не доказывает доступную цену продажи на реальном рынке. Яна не должна стирать позицию или предполагать продажу по последней показанной цене. Если расчёт неизвестен, следует признать пробел и показать влияние выбранных допущений. [4]

Хорошие исходные данные не гарантируют правильную конечную выборку. QuantConnect указывает, что фундаментальные данные включают ушедшие с биржи компании, но имеют определённое покрытие и пропуски в полях. Позднее Яна может объединить таблицы так, что останутся только полные случаи, а другие компании незаметно исчезнут. Отбор по наличию нужного показателя может быть оправданным, но должен соответствовать вопросу и тогдашним сведениям. Для каждого исключения нужно знать причину, время и влияние на исследуемую группу. [5]

Исключение неудач может приукрасить прошлое, но универсальной поправки для вычитания нет. Из списка после приобретения могут уйти и успешные компании. Результат зависит от отсутствующих случаев, их показателей и веса в расчёте. Простое среднее доходностей также не всегда является доходностью реального портфеля: важны суммы и даты вложений и другие денежные потоки. Поэтому модель ниже использует одинаковые начальные вложения за общий период. Числовая разница относится к этому примеру, а не ко всем рынкам. [6]

Яна должна уметь подтвердить исходный список, правила изменений, исключённые случаи и их конечные стоимости. После исправления она пересчитывает результат, а не выдаёт старый отчёт за исправленный. Она также отделяет ретроспективную симуляцию от истории, действительно наблюдавшейся по мере событий. S&P Dow Jones Indices называет историю индекса до запуска гипотетической и предупреждает о знании задним числом. Правильный состав ещё не устраняет Overfitting — чрезмерную подгонку правил под изученные данные, — расходы и проблемы исполнения сделок. Более честное описание прошлого даёт лучшую основу, а не гарантию будущей прибыли. [6]

ПримерПРИМЕР · SURV

Те же результаты, другой список

Представим четыре инвестиции A, B, C и D, наблюдаемые одновременно за один период. В начале все соответствуют правилам отбора и каждая получает 100 USD. Нет долга, кредитного плеча, дополнительных взносов или изъятия денег. Конечные стоимости с учётом расчётов и возможных расходов составляют [120, 110, 80, 60] USD. Простые доходности равны [20, 10, -20, -40] %. Однако сегодняшний список содержит лишь A и B, что обозначено как [1, 1, 0, 0]. C и D исчезли из списка, а не из исходного опыта; их конечные стоимости известны и не заменяются нулём. Вся группа начинала с 400 USD и заканчивает с 370 USD: результат -30 USD и доходность -7.5 %. Равные начальные вложения делают её также простым средним четырёх доходностей. Если задним числом оставить только A и B, сравниваем начальные 200 USD с конечными 230 USD: прибыль 30 USD и доходность 15 %. Разница с полной группой составляет 22.5 процентного пункта, а не процентный рост одной доходности относительно другой. График показывает доходность каждой инвестиции и выделяет те, что остались в сегодняшнем списке. Это не четыре последовательные сделки и не временной ряд. В начале мы не знали о будущем выживании этой пары, поэтому ретроспективный отбор не доказывает существование выполнимого тогда правила. Числа вымышленные, это не результаты фондов или Bitcoin; в другом наборе величина и направление искажения могут отличаться.

Для полной картины прочитайте эту статью вместе с Backtesting, Overfitting, Walk-forward Analysis, Look-ahead Bias, Paper Trading. На эту статью также ссылаются Look-ahead Bias.

01Неправильно ли сравнивать фонды, предлагаемые сегодня?

Нет, если вопрос касается нынешнего предложения. Проблема возникает, когда результаты этой группы выдают за опыт всех фондов, доступных в прошлом. Те, что впоследствии закрылись, не должны исчезать из такой оценки.

02Нужно ли считать отсутствующий случай полной потерей?

Не автоматически. Ни отсутствие цены, ни удаление из предложения не определяют, что получил держатель. Найдите фактический расчёт или явно опишите допущение модели и его влияние. Не путайте неизвестную стоимость с нулём и не исключайте случай молча.

DOC · 001QuantConnect — Research Guide: Survivorship BiasДокументация DOC · 002Morningstar — CRSP Survivor-Bias-Free US Mutual Fund DatabaseДокументация DOC · 003Morningstar — CRSP US Stock DatabasesДокументация DOC · 004QuantConnect — US Equity Corporate ActionsДокументация DOC · 005QuantConnect — Fundamental UniversesДокументация DOC · 006S&P Dow Jones Indices — Performance DisclosureДокументация
Обновлено: Сначала источники · Не является инвестиционной рекомендацией