602 / 691SURV

Survivorship Bias

Упередження через відбір тих, хто вижив

Survivorship Bias виникає, коли оцінювання початкової групи оминає одиниці, що згодом зникли з доступного набору. Історія сьогоднішніх переможців або активних фондів тоді може відповідати на інше запитання, ніж історія всіх тодішніх допустимих учасників. Вирішальними є правило відбору, склад групи в часі та врегулювання позицій, які припинили існування.

Survivorship Bias — це викривлення через відбір одиниць, які вижили або й далі спостерігаються, якщо їхні результати подають як результати ширшої початкової сукупності. Сам опис чітко визначеної сьогоднішньої групи не є автоматично помилкою.

QuantConnect описує Survivorship Bias у тесті, обмеженому цінними паперами, що збереглися до кінця періоду, із пропуском вилучених з лістингу паперів. Наша перевірка починається з початкової сукупності: які одиниці відповідали умовам у момент включення? Сьогоднішній список не доводить тодішнього складу. Критерій участі треба описати до результату, і він має поширюватися також на одиниці, що зникли пізніше. Інакше змінюється запитання, на яке відповідає обчислене середнє. [QuantConnect — Research Guide: Survivorship Bias]

QuantConnect прямо пов’язує ретроспективне використання сьогоднішніх учасників індексу з Look-ahead Bias: тодішнє рішення не могло знати сьогоднішнього складу. Тому наш аудит зберігає часову історію входів і виходів із сукупності та правило набуття ними чинності. Самих історичних цін нинішніх учасників недостатньо. За динамічного відбору для кожного визначального моменту треба відновити саме тоді доступний список; автоматична зміна складу сама по собі не доводить правильності даних. [QuantConnect — Research Guide: Survivorship Bias]

За даними Morningstar, CRSP Survivor-Bias-Free US Mutual Fund Database зберігає відомості також про вже неактивні фонди. Наш методичний висновок: оцінювання початкової групи не можна замінити оглядом фондів, доступних сьогодні. Треба зазначити одиницю аналізу, наприклад фонд або клас його паїв, і запобігти ненавмисному багаторазовому врахуванню тієї самої експозиції. Якщо мета — лише опис нинішньої пропозиції, така вужча сукупність може бути доречною, але її дохідність не можна подавати як результат усієї початкової групи. [Morningstar — CRSP Survivor-Bias-Free US Mutual Fund Database]

Morningstar зазначає, що бази акцій CRSP містять активні й неактивні цінні папери та постійні ідентифікатори для відстеження їхньої історії. Тому наше правило реалізації відділяє ідентичність інструмента від відображуваної назви. Перейменування не повинно створювати хибний новий початок, а об’єднання даних — помилково склеювати різні інструменти. Зберігайте зв’язки з подіями, датою та походженням запису. Сам збіг сьогоднішнього тикера не є достатнім ключем для довгого історичного ряду. [Morningstar — CRSP US Stock Databases]

Документація LEAN описує події вилучення з лістингу та їх обробку окремо від звичайних цінових даних. Наша облікова перевірка вимагає підтвердити, що сталося з утримуваною позицією, грошовими коштами та можливим подальшим врегулюванням. Відсутня ціна не є доведеним нулем чи підтвердженим виконанням за останньою доступною ціною. Позначте невідомий кінцевий результат як невідомий і опишіть його вплив або сценарії; не видаляйте всю одиницю лише тому, що її історія закінчується раніше за інші. [QuantConnect — US Equity Corporate Actions]

QuantConnect зазначає, що фундаментальна сукупність акцій включає вилучені з лістингу папери, але водночас виключає деякі категорії та має пропуски в окремих полях. Наш висновок: назва бази сама не перевіряє подальші фільтри та об’єднання таблиць. Аудит має фіксувати кількість виключених записів, причину та час застосування фільтра. Заповнення пропущених даних чи їх відфільтровування не повинно непомітно створювати іншу сукупність, ніж обіцяє завдання. [QuantConnect — Fundamental Universes]

S&P Dow Jones Indices попереджає, що ретроспективно обчислені результати можуть містити упередження виживання чи випереджального знання та не є реальною торгівлею. Наш вигаданий приклад нижче ізолює зміну відбору за однакових результатів окремих одиниць. Він не показує типової величини ринкової помилки. В іншій сукупності можуть зникати й успішні одиниці, тому напрям різниці не можна гарантувати заздалегідь. Потрібно зазначати ваги, період і облік грошових потоків; просте середнє та дохідність реального портфеля не є автоматично взаємозамінними. [S&P Dow Jones Indices — Performance Disclosure]

S&P Dow Jones Indices відрізняє гіпотетичну історію до запуску індексу від поточних результатів і посилається на методику зміни складу. Тому наш підсумковий протокол зберігає початкову сукупність, правила участі, виключені одиниці, джерело кінцевих значень та перерахований результат. Виправлений звіт має замінити помилковий. Усунення Survivorship Bias саме по собі не вирішує інших Look-ahead Bias, Overfitting, трансакційних витрат чи доступності виконання. Навіть повніша історія не обіцяє майбутньої дохідності. [S&P Dow Jones Indices — Performance Disclosure]

ПрикладПРИКЛАД · SURV

Ті самі результати, інша відібрана група

Наша вигадана модель спостерігає чотири одночасні одиниці A, B, C і D протягом одного періоду. Усі були допустимими на його початку, і кожна починає зі 100 USD без боргу, плеча та зовнішніх грошових потоків. Їхні підтверджені кінцеві вартості з урахуванням врегулювання становлять [120, 110, 80, 60] USD; можливі витрати вже включені до цих значень. Прості дохідності — [20, 10, -20, -40] %. Сьогоднішній список містить лише A і B; ознаки виживання — [1, 1, 0, 0]. C і D вже немає у списку, але їхні кінцеві вартості в моделі відомі, і ми не замінюємо їх нулем. Уся початкова група має початкову вартість 400 USD та кінцеву 370 USD, тобто результат -30 USD і дохідність -7.5 %. Однакові початкові внески тут забезпечують збіг цієї дохідності з простим середнім чотирьох дохідностей. Відібрана заднім числом група A і B має початкову вартість 200 USD та кінцеву 230 USD, тобто результат 30 USD і дохідність 15 %. Різниця становить 22.5 відсоткового пункту, а не відсоткове зростання однієї дохідності відносно іншої. Графік показує дохідність кожної одиниці та відрізняє ті, які містить сьогоднішній список. Це не часовий ряд і не чотири повторні угоди. Відібрана пара не є здійсненним правилом, заснованим на нібито відомому тоді майбутньому виживанні. Приклад не є історичним результатом фондів чи Bitcoin і не визначає величини або напряму викривлення в іншій сукупності.

Для повної картини прочитайте також Backtesting, Overfitting, Walk-forward Analysis, Look-ahead Bias, Paper Trading. На цю статтю також посилаються Look-ahead Bias.

01Чи завжди список сьогодні активних фондів є помилковим?

Ні. Він може правильно описувати нинішню пропозицію. Помилка виникає, коли його історію подають як досвід усієї початкової групи, включно з фондами, що зникли пізніше. Усе залежить від запитання та правила відбору.

02Чи достатньо призначити відсутнім одиницям повний збиток?

Ні. Виключення зі списку або відсутня ціна самі по собі не доводять повної втрати. Треба підтвердити фактичне чи модельне врегулювання, визнати невідомі значення й описати припущення замість мовчазного пропуску або заміни нулем.

DOC · 001QuantConnect — Research Guide: Survivorship BiasДокументація ↗DOC · 002Morningstar — CRSP Survivor-Bias-Free US Mutual Fund DatabaseДокументація ↗DOC · 003Morningstar — CRSP US Stock DatabasesДокументація ↗DOC · 004QuantConnect — US Equity Corporate ActionsДокументація ↗DOC · 005QuantConnect — Fundamental UniversesДокументація ↗DOC · 006S&P Dow Jones Indices — Performance DisclosureДокументація ↗
Спочатку джерела · Не інвестиційна порада