Построение прогнозных моделей с регрессией, walk-forward и робастностью

Входы и целевая переменная

Построение прогноза начинается с выбора рядов независимых переменных, их преобразования в числовые входы и выбора целевой переменной, которая одновременно пригодна для последующего правила и реалистично предсказуема по этим входам.

Предобработка формы, масштаба и избыточности

Окно из 26 сессионных закрытий преобразуют в 25 наблюдений последовательных разностей, чтобы входы первого слоя подчёркивали недавнюю форму, а не абсолютный уровень цены, и чтобы коллинеарность соседних уровней снижалась.

Ожидается, что входы занимают диапазон от 0 до 1 с полезным разбросом. Ряд, который держится около одного значения, за исключением редких экстремумов, считают неудачной конструкцией предобработки.

Производное среднее следует опускать, когда уже присутствует исходное окно, которое его определяет, потому что дополнительный ряд не добавляет информации, которую отображение не могло бы извлечь из исходных рядов.

Обучение и статистика подгонки

Обучение многократно подстраивает каждый вес связи, чтобы улучшить согласие с целевой переменной, и останавливается, когда дальнейшие проходы почти ничего не добавляют. Подогнанное отображение затем оценивают и на обучающих фактах, и на более поздних невидимых наблюдениях.

Квадрат множественной корреляции, перенесённый из линейной регрессии, используют как предпочтительную статистику обучения и точности, потому что он использует все наблюдения и оценивает, какую долю вариации целевой переменной объясняет прогноз.

Сходимость судят по траектории r-squared, которая растёт и затем выходит на плато. Резкий подъём с последующим обвалом трактуют как неудачный процесс обучения, а не как пригодную подгонку.

Walk-forward-holdout и robustness-probe

После устойчивого in-sample плато те же статистики точности пересчитывают на более позднем walk-forward-holdout, чтобы проверить, обобщается ли отображение. Провал на этом более позднем срезе трактуют как переобучение.

Конструкция робастности держит скрытую ёмкость малой, требует как минимум вдвое больше обучающих фактов, чем связей, и трактует in-sample r-squared выше 0.90 как предупреждение об утечке или запоминании.

Более поздний holdout может провалиться даже при сошедшемся обучении, если более поздняя рыночная структура отличается от обучающего окна, поэтому robustness-probe включает вопрос, не изменился ли сам режим.