Искусственный интеллект на бирже: новая модель для анализа рыночных данных

от

Автор: Денис Аветисян

Исследователи представили LOBERT — генеративную модель, способную эффективно обрабатывать и прогнозировать изменения в книгах лимитных ордеров.

🐢

Ищешь ракеты? Это не к нам. У нас тут скучный, медленный, но надёжный, как швейцарские часы, фундаментальный анализ.

Бесплатный Телеграм канал
LOBERT демонстрирует уникальную архитектуру, позволяющую эффективно моделировать длинные последовательности, что достигается за счет оптимизированного внимания и эффективного представления контекста, что существенно повышает производительность в задачах, требующих понимания сложных взаимосвязей между элементами последовательности.
LOBERT демонстрирует уникальную архитектуру, позволяющую эффективно моделировать длинные последовательности, что достигается за счет оптимизированного внимания и эффективного представления контекста, что существенно повышает производительность в задачах, требующих понимания сложных взаимосвязей между элементами последовательности.

LOBERT использует архитектуру BERT, адаптированную для финансовых временных рядов, с инновационной токенизацией и гибридными стратегиями декодирования.

Моделирование динамики биржевых стаканов заявок на уровне отдельных сообщений представляет собой сложную задачу из-за нерегулярности временных интервалов, быстрых смен режимов и реакции высокочастотных трейдеров. В настоящей работе, посвященной разработке LOBERT: Generative AI Foundation Model for Limit Order Book Messages, представлена новая базовая модель, адаптирующая архитектуру BERT для данных биржевых стаканов. Ключевой особенностью LOBERT является инновационная схема токенизации, представляющая полные многомерные сообщения как единые токены, и учет временных характеристик. Позволит ли этот подход существенно улучшить точность прогнозирования движения цен и следующих сообщений на финансовых рынках?

Разгадывая Динамику Рынка: Вызовы Анализа Книги Лимитных Ордеров

Современные финансовые рынки генерируют огромные потоки данных из книги лимитных ордеров (LOB), которые представляют собой критически важный источник информации для оценки ликвидности и управления рисками. Каждый зарегистрированный ордер — будь то размещение, изменение или отмена — формирует детальную картину спроса и предложения, отражая намерения участников рынка. Объемы этих данных растут экспоненциально с увеличением скорости торговли и усложнением торговых стратегий, создавая как возможности, так и вызовы для аналитиков и трейдеров. Анализ LOB позволяет выявлять скрытые закономерности, предсказывать краткосрочные колебания цен и оценивать влияние различных событий на рыночную динамику, что делает эти данные незаменимым инструментом для принятия обоснованных инвестиционных решений и обеспечения стабильности финансовой системы.

Традиционные модели временных рядов испытывают значительные трудности при анализе данных книги лимитных ордеров (LOB). Это связано с тем, что LOB-данные характеризуются нерегулярными интервалами поступления сообщений и чрезвычайно высокой размерностью. В отличие от равномерно распределенных во времени данных, каждое изменение в книге ордеров — добавление, изменение или удаление ордера — происходит в случайный момент времени, нарушая предпосылки большинства стандартных моделей. Кроме того, количество различных параметров, описывающих книгу ордеров — цена, объем, тип ордера и т.д. — быстро растет, создавая проблему «проклятия размерности», из-за которой статистические модели теряют свою прогностическую способность и требуют огромных объемов данных для обучения. В результате, стандартные методы анализа временных рядов оказываются неэффективными при прогнозировании поведения рынка на основе LOB-данных, что требует разработки принципиально новых подходов к моделированию.

Для адекватного анализа динамики финансовых рынков необходимо учитывать сложное взаимодействие событий в книге лимитных ордеров. Современные модели, способные улавливать зависимости между отдельными сообщениями и учитывать временную последовательность их поступления, демонстрируют значительно более высокую эффективность. Вместо рассмотрения данных как непрерывного потока, такие модели анализируют каждое сообщение в контексте предыдущих и последующих, выявляя тонкие корреляции, которые могут указывать на предстоящие изменения ликвидности или потенциальные риски. Этот подход позволяет учитывать не только цену и объем ордеров, но и их последовательность, скорость поступления и взаимное влияние, что в конечном итоге приводит к более точным прогнозам и улучшению стратегий торговли. Игнорирование этих взаимосвязей и временных зависимостей существенно снижает прогностическую силу любой модели, стремящейся к пониманию рыночных процессов.

Модель LOBERT с включенным модулем Book Module демонстрирует распределение значений по параметрам цены, объема, временной разницы, типа и стороны сделки.
Модель LOBERT с включенным модулем Book Module демонстрирует распределение значений по параметрам цены, объема, временной разницы, типа и стороны сделки.

LOBERT: Трансформер, Адаптированный для Данных Книги Ордеров

LOBERT представляет собой новую фундаментальную модель, основанную на архитектуре BERT и предназначенную для моделирования данных LOB на уровне сообщений. В отличие от традиционных моделей, которые обрабатывают каждый токен отдельно, LOBERT оптимизирован для анализа последовательностей сообщений, представляя каждое сообщение как единый блок информации. Данная архитектура позволяет эффективно извлекать контекст и взаимосвязи между сообщениями, что критически важно для задач, связанных с анализом логов и событий. Модель использует исключительно энкодерную часть архитектуры BERT, что делает её особенно подходящей для задач классификации и извлечения признаков из данных LOB.

Ключевым нововведением в архитектуре LOBERT является токенизация сообщений, при которой каждое сообщение представляется единым токеном. Вместо традиционной токенизации, разбивающей сообщение на отдельные слова или подслова, данный подход объединяет всю информацию из сообщения в один токен. Это позволяет значительно снизить вычислительную сложность и объем памяти, необходимые для обработки больших объемов данных LOB (limit order book), поскольку количество токенов, поступающих на вход модели, существенно уменьшается. Такая токенизация особенно эффективна для моделирования поведения рынка, где важна целостная информация, содержащаяся в каждом отдельном сообщении.

Модель LOBERT использует непрерывное вращающееся позиционное кодирование (Continuous Rotary Position Embedding) и механизм внимания с непрерывным временем (Continuous-Time Rotary Attention) для эффективной обработки нерегулярных потоков событий и включения временной информации. В отличие от традиционных позиционных кодировок, непрерывное вращающееся кодирование позволяет модели учитывать относительные позиции токенов, что особенно важно для временных рядов. Механизм внимания с непрерывным временем учитывает временные интервалы между событиями, что позволяет модели более точно определять взаимосвязи между ними. Вместо дискретных позиционных индексов, вращающиеся векторы используются для представления позиции каждого токена, что обеспечивает лучшую экстраполяцию на последовательности большей длины и улучшает обобщающую способность модели при работе с данными, характеризующимися неравномерными временными интервалами между событиями.

Сравнение LOBERT и DeepLOB для предсказания средней цены показывает, что оба подхода достигают сопоставимых результатов по F1-оценке и охвату для активов FB и INTC, в зависимости от порога достоверности.
Сравнение LOBERT и DeepLOB для предсказания средней цены показывает, что оба подхода достигают сопоставимых результатов по F1-оценке и охвату для активов FB и INTC, в зависимости от порога достоверности.

Оптимизация LOBERT: Обучение и Предобработка Данных

LOBERT обучается с использованием подхода маскированного моделирования сообщений (Masked Message Modeling). Этот метод предполагает случайное скрытие (маскирование) некоторых элементов в сообщениях биржевой книги ордеров (LOB) и последующее предсказание этих скрытых элементов моделью. В процессе обучения модель анализирует контекст оставшихся видимых элементов для восстановления замаскированных, что позволяет ей формировать глубокое понимание взаимосвязей между различными частями LOB-сообщений и, как следствие, изучать контекстуальные представления этих сообщений. Эффективность маскированного моделирования обусловлена способностью модели учитывать двунаправленный контекст, то есть информацию как до, так и после замаскированного элемента, что критически важно для понимания динамики рынка.

Эффективная предобработка данных является критически важной для обучения LOBERT, учитывая широкий динамический диапазон данных биржевых стаканов. Для этого используется предобработка снимков биржевого стакана (Order Book Snapshot Preprocessing), которая позволяет стандартизировать входные данные. Для обработки значительных различий в значениях цен и объемов применяется Piecewise Linear-Geometric Scaling (кусочно-линейно-геометрическое масштабирование). Данный метод позволяет сжимать большие значения, сохраняя при этом информацию о меньших значениях, что повышает стабильность и скорость обучения модели. Масштабирование применяется к каждому уровню книги заявок отдельно, что позволяет учитывать специфику данных каждого уровня.

Обучение модели LOBERT использует оптимизатор AdamW, модификацию алгоритма Adam, включающую коррекцию веса для предотвращения переобучения. Для достижения оптимальной сходимости применяется схема изменения скорости обучения Cosine Annealing with Warm Restarts. Данная схема предполагает косинусное уменьшение скорости обучения в течение эпохи, с последующим «перезапуском» к исходному значению, что позволяет модели выходить из локальных минимумов и исследовать пространство параметров более эффективно. Формула для скорости обучения $\eta_t$ выглядит следующим образом: $\eta_t = \eta_{max} \cdot \frac{1}{2} \cdot (1 + \cos(\frac{\pi \cdot t}{T}))$, где $t$ — текущая эпоха, $T$ — общее количество эпох, а $\eta_{max}$ — максимальная скорость обучения.

Сравнение моделей LOBERT и DeepLOB при прогнозировании средней цены акций MSFT и AAPL показывает, что их эффективность, оцениваемая по F1-мере и охвату, зависит от установленного порога достоверности.
Сравнение моделей LOBERT и DeepLOB при прогнозировании средней цены акций MSFT и AAPL показывает, что их эффективность, оцениваемая по F1-мере и охвату, зависит от установленного порога достоверности.

Проверка LOBERT: Эффективность в Ключевых Задачах Прогнозирования

Модель LOBERT демонстрирует высокую эффективность в задачах предсказания средней цены (Mid-Price Prediction) и предсказания следующего сообщения (Next-Message Prediction), что делает её ценным инструментом для алгоритмической торговли и мониторинга рынка. Предсказание средней цены позволяет оптимизировать исполнение ордеров и оценивать ликвидность, в то время как предсказание следующего сообщения обеспечивает возможность раннего выявления манипуляций на рынке и аномального поведения участников. Эти возможности критически важны для поддержания стабильности и прозрачности торговых площадок, а также для минимизации рисков, связанных с непредсказуемыми рыночными событиями.

В ходе тестирования модель LOBERT демонстрирует стабильное превосходство над сравниваемыми моделями, такими как DeepLOB, в задаче предсказания средней цены (Mid-Price Prediction). Достигнутый показатель F1-меры в данной задаче составляет до 0.88 (macro), что указывает на высокую точность и полноту предсказаний. Данный показатель является результатом оценки качества модели на различных наборах данных и свидетельствует о ее эффективности в задачах алгоритмической торговли и мониторинга рынка.

Для повышения надежности и точности прогнозов применяются методы пороговой фильтрации достоверности (Confidence Thresholding) и гибридного декодирования (Hybrid Decoding). Пороговая фильтрация позволяет контролировать охват прогнозов, снижая его до 0.10 при увеличении порога достоверности. Гибридное декодирование комбинирует различные стратегии прогнозирования для улучшения общей производительности и снижения количества ложных срабатываний. Комбинация этих техник обеспечивает возможность настройки баланса между точностью и полнотой прогнозов в зависимости от требований конкретной задачи, например, в высокочастотной торговле или мониторинге рынка.

Будущее Моделирования Книги Ордеров: Генеративный Искусственный Интеллект и За Его Пределами

Модель LOBERT представляет собой важный шаг в использовании возможностей генеративного искусственного интеллекта для точного моделирования сложных процессов в книгах лимитных ордеров. В отличие от традиционных подходов, LOBERT способен улавливать нелинейные зависимости и тонкие закономерности в данных, что позволяет создавать более реалистичные и информативные модели. Благодаря использованию генеративных моделей, LOBERT не просто предсказывает будущие изменения, но и генерирует вероятные сценарии развития книги ордеров, обеспечивая более глубокое понимание динамики рынка и потенциальных рисков. Это открывает новые перспективы для разработки передовых инструментов в области управления рисками, выявления мошеннических операций и автоматизации алгоритмической торговли, позволяя участникам рынка принимать более обоснованные и эффективные решения.

Способность модели LOBERT к выявлению сложных закономерностей в данных биржевых стаканов открывает новые возможности для усовершенствования систем управления рисками, обнаружения мошеннических операций и автоматизации алгоритмов маркет-мейкинга. Анализируя тонкости формирования и изменения лимитных ордеров, модель способна предсказывать потенциальные риски, связанные с волатильностью рынка и манипулированием ценами. Более того, LOBERT может использоваться для выявления аномальных паттернов, указывающих на мошеннические схемы, такие как спуфинг или фронтраннинг. В сфере маркет-мейкинга, модель позволяет создавать более эффективные алгоритмы, адаптирующиеся к изменяющимся рыночным условиям и оптимизирующие исполнение ордеров, что в конечном итоге способствует повышению ликвидности и снижению транзакционных издержек.

Модель LOBERT демонстрирует впечатляющую производительность, достигая скорости обработки 281.87 прогнозов в секунду, что составляет 47% от скорости DeepLOB. Однако, ключевым преимуществом является не только скорость, но и точность представления данных. Оцениваемая с помощью метрики Wasserstein-1 distance, LOBERT показывает наименьшее отклонение по всем переменным и в ходе различных тестов, что свидетельствует о превосходной точности распределения вероятностей прогнозов. Это означает, что модель не просто быстро генерирует прогнозы, но и делает это с высокой степенью достоверности, что критически важно для таких приложений, как управление рисками, выявление мошенничества и автоматическое исполнение сделок на финансовых рынках.

Представленная работа демонстрирует стремление к математической чистоте в моделировании финансовых данных. Авторы, создавая LOBERT, по сути, стремятся к созданию доказуемой модели, способной адекватно отражать динамику книги лимитных ордеров. Это особенно важно, учитывая сложность и непредсказуемость финансовых рынков. Грейс Хоппер однажды заметила: «Лучший способ программировать — это — не программировать». В контексте LOBERT это означает, что элегантное решение, основанное на глубоком понимании структуры данных и алгоритмов, предпочтительнее сложного и запутанного кода, который лишь «работает на тестах». Акцент на токенизации и временном кодировании подчеркивает стремление к созданию инвариантов, которые обеспечивают устойчивость и предсказуемость модели.

Куда же дальше?

Представленная работа, несомненно, демонстрирует элегантность адаптации архитектуры BERT к специфике данных книги лимитных ордеров. Однако, истинная проверка модели заключается не в достижении лучших результатов на текущих наборах данных, а в её способности предсказывать действительно новые, непредсказуемые рыночные явления. Иначе говоря, предсказание «черных лебедей» — задача, требующая не только статистической точности, но и понимания глубинных, зачастую нелинейных, процессов, определяющих поведение рынка.

Особый интерес представляет вопрос о масштабируемости. Достаточно ли представленной архитектуры для моделирования всей сложности глобальных финансовых рынков? Или же для достижения истинной прогностической силы потребуется переход к принципиально новым парадигмам моделирования, возможно, основанным на принципах теории катастроф или фрактального анализа? Простое увеличение количества параметров модели, без углубления в понимание лежащих в её основе принципов, — путь, ведущий к статистическому переобучению, а не к истинному интеллекту.

Перспективы дальнейших исследований лежат в плоскости интеграции LOBERT с другими источниками информации, такими как новостные потоки и макроэкономические показатели. Но истинным вызовом остаётся создание модели, способной не просто реагировать на изменения рынка, но и предвидеть их, основываясь на глубоком понимании причинно-следственных связей, а не просто на статистических корреляциях. Именно в этом и заключается подлинная красота и элегантность научного поиска.

Оригинал статьи: https://arxiv.org/pdf/2511.12563.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2025-11-19 01:28