🧠 Foundation Models – GPT из мира прогнозирования временных рядов

Представьте GPT, который вместо текста предсказывает будущие значения вашего временного ряда. Звучит как магия, но это уже реальность.

Для прогнозирования временных рядов есть много подходов:

-> Baseline'ы – наивная и сезонная наивная модели;
-> Классика – ARIMA, SARIMAX, Prophet;
-> ML-подход – LightGBM, XGBoost, CatBoost;
-> DL – RNN, LSTM, Transformer-based;
-> и сотни разных реализаций под конкретные задачи.

Но в последние годы, вместе с развитием ИИ, набирает обороты новый подход – Foundation Models.

Это модели, обученные на огромном количестве исторических рядов из разных доменов.

Главная идея – zero-shot прогнозирование: вы НЕ обучаете модель на своих данных. Вы просто даете ей контекст (кусок вашей истории), а модель продолжает его в будущее. Как LLM продолжает текст по промпту, только здесь «промпт» – это ваш ряд.

И точность из коробки получается на удивление высокая по сравнению даже с хорошо подтюненными моделям.

Это особенно полезно, когда:

-> данных мало или их ещё нет (холодный старт);
-> нет времени или возможности обучать свою модель;
-> нужен быстрый прогноз сразу по сотням / тысячам рядов.

Модель, обученная на ваших данных, скорее всего обгонит Foundation модель. Но как точка старта и сильный baseline – это отличный вариант.

Из популярных реализаций:

-> Chronos / Chronos-2 от Amazon;
-> TimeGPT от Nixtla;
-> TimesFM от Google.

Моделей уже много, какие-то наверняка ближе к вашей индустрии. Можете глянуть сборник моделей тут:

🔗 https://github.com/ZLiu21/awesome-tsfms-from-pre-training-to-post-training

А если хотите поиграться с такой моделью в песочнице, я подготовил небольшой Colab:

🔗 https://colab.research.google.com/drive/1sGcmdpjQ5ZlVIU6zG5olXXSLE537651g

Не знали про Foundation Models для временных рядов? Тогда поддержите пост огоньком 🔥