Искусственный разум и человеческие предубеждения: как языковые модели принимают решения

от

Автор: Денис Аветисян

Новое исследование показывает, что большие языковые модели склонны к тем же иррациональным ошибкам, что и люди, особенно в задачах, связанных с предпочтениями.

☕️

Читаем отчёты, пьём кофе, ждём дивиденды. Если тебе надоел хайп и ты ищешь скучную, но стабильную гавань — добро пожаловать.

Телеграм канал

Систематический анализ поведенческих искажений в больших языковых моделях и оценка эффективности простых методов их коррекции.

Несмотря на впечатляющий прогресс в области искусственного интеллекта, вопрос о систематических когнитивных искажениях в принятии решений моделями, особенно большими языковыми моделями (LLM), остается открытым. В статье ‘Behavioral Economics of AI: LLM Biases and Corrections’ представлен наиболее полный на сегодняшний день эксперимент, основанный на методах когнитивной психологии и экспериментальной экономики, для оценки поведенческих искажений в LLM различных поколений и масштабов. Полученные результаты демонстрируют, что в задачах, связанных с предпочтениями, ответы моделей становятся более похожими на человеческие по мере их развития, в то время как в задачах, требующих оценки убеждений, LLM часто демонстрируют рациональное поведение, а простое указание на необходимость рационального выбора позволяет снизить проявление этих искажений. Возможно ли дальнейшее развитие методов «дебайсинга» LLM для достижения большей согласованности с принципами рационального принятия решений?

За пределами рациональности: Ограничения традиционной экономики

Традиционные экономические модели, основанные на теории рационального выбора, часто демонстрируют несоответствие между прогнозами и реальным поведением людей. Эти модели исходят из предположения о совершенной информации и последовательности предпочтений, что является упрощением сложной картины человеческой мотивации. В действительности, решения принимаются не только на основе анализа выгод и издержек, но и под влиянием когнитивных искажений, эмоций и социальных факторов. Наблюдаемые отклонения от предсказанной рациональностью логики, такие как иррациональные покупки, склонность к риску в определенных ситуациях и неспособность к долгосрочному планированию, свидетельствуют о необходимости пересмотра базовых принципов экономического анализа и учета психологических аспектов принятия решений.

Традиционные экономические модели, опирающиеся на теорию рационального выбора, часто исходят из упрощающего предположения о полной информированности и последовательности предпочтений. Однако, реальное поведение человека редко соответствует этим идеальным условиям. Сложность когнитивных процессов, включающих эвристики, предубеждения и эмоциональные факторы, оказывает существенное влияние на принятие решений. Человек не всегда способен обрабатывать всю доступную информацию, и его предпочтения могут меняться в зависимости от контекста и способа представления вариантов. Игнорирование этих когнитивных ограничений приводит к неточностям в прогнозировании экономического поведения и требует разработки более реалистичных моделей, учитывающих психологические аспекты принятия решений.

Появление поведенческой экономики стало закономерным ответом на ограничения традиционных экономических моделей. В то время как классическая экономика исходит из предположения о рациональности и последовательности предпочтений, поведенческая экономика признает, что на процесс принятия решений оказывают существенное влияние когнитивные искажения, эмоции и социальные факторы. Исследования в этой области демонстрируют, как люди систематически отклоняются от рационального поведения, подвергаясь влиянию таких явлений, как эффект фрейминга, неприятие потерь и эвристики. Это не просто отклонения от идеальной модели, а фундаментальные аспекты человеческой психологии, которые необходимо учитывать для более точного понимания и прогнозирования экономических процессов, а также для разработки более эффективных стратегий в области финансов, маркетинга и государственной политики.

Теория перспектив и психология выигрышей и потерь

Теория перспектив предлагает альтернативную модель оценки вероятных исходов, отличную от классической теории рационального выбора. В отличие от предположения о том, что люди оценивают результаты в терминах абсолютного богатства, теория перспектив утверждает, что решения принимаются на основе изменений в богатстве, а не его абсолютной величины. Это означает, что люди фокусируются на потенциальных выигрышах и проигрышах относительно некоторой точки отсчета, обычно текущего состояния. Такой подход позволяет объяснить ряд поведенческих аномалий, которые не согласуются с предположениями о рациональности, и более точно описывает реальное поведение людей при принятии решений в условиях неопределенности.

Явление отвращения к потерям — ключевой принцип теории перспектив, заключающийся в том, что негативные эмоции, вызванные потерей определенной суммы, превосходят позитивные эмоции, возникающие от приобретения той же суммы. Это означает, что психологическое воздействие потери, например, 100 рублей, сильнее, чем удовольствие от выигрыша тех же 100 рублей. Исследования показывают, что коэффициент, отражающий эту разницу, обычно составляет около 2:1, то есть потеря воспринимается примерно в два раза болезненнее, чем сопоставимый выигрыш. Данная асимметрия оказывает существенное влияние на процесс принятия решений, заставляя людей избегать рисков, связанных с потенциальными потерями, даже если потенциальный выигрыш сопоставим.

Эффект убывающей чувствительности предполагает, что субъективное восприятие ценности как выигрышей, так и проигрышей не является линейным. Вместо этого, предельное влияние дополнительных единиц выигрыша или проигрыша уменьшается по мере увеличения их абсолютного значения. Например, разница между получением 100 и 200 рублей воспринимается более значительной, чем разница между получением 1000 и 1100 рублей. Аналогично, потеря 100 рублей ощущается сильнее, чем потеря 1100 рублей, даже если абсолютная величина потери больше. Это нелинейное восприятие ценности оказывает существенное влияние на принятие решений в условиях неопределенности и объясняет, почему люди часто принимают иррациональные решения, основанные на относительных, а не абсолютных величинах выигрышей и проигрышей.

Понимание когнитивных искажений, таких как неприятие потерь и убывающая чувствительность, имеет критическое значение для прогнозирования и потенциальной коррекции неоптимальных экономических решений. Игнорирование этих систематических ошибок в оценке выгод и издержек приводит к иррациональному поведению в различных сферах, включая инвестиции, потребление и принятие решений в условиях риска. Модели, учитывающие данные когнитивные искажения, позволяют более точно предсказывать выбор индивидуумов и разрабатывать стратегии, направленные на смягчение негативных последствий, например, путем структурирования информации или изменения фрейминга предложений, чтобы стимулировать более рациональное поведение и повышение общей экономической эффективности.

Большие языковые модели как поведенческие лаборатории: Новый экспериментальный инструментарий

Большие языковые модели (LLM) предоставляют мощный инструмент для изучения поведенческой экономики и оценки когнитивных искажений. В отличие от традиционных методов, требующих участия людей, LLM позволяют проводить исследования в масштабе и с высокой степенью контроля над переменными. Модели способны симулировать поведение экономических агентов в различных сценариях, что позволяет анализировать влияние когнитивных факторов, таких как неприятие потерь или эвристика доступности, на принятие решений. Анализ ответов LLM позволяет количественно оценить проявление этих искажений и проверить теоретические предсказания поведенческой экономики без ограничений, связанных с человеческим фактором, такими как предвзятость исследователя или изменчивость участников эксперимента.

Метод “ролевой инициализации” позволяет исследователям моделировать различные профили инвесторов в рамках экспериментов. В частности, возможно создание модели “Рационального инвестора”, принимающего решения исключительно на основе объективных данных и максимизирующего ожидаемую выгоду. Параллельно, можно симулировать профиль “Реального розничного инвестора”, учитывающего поведенческие факторы, такие как когнитивные искажения и эмоциональные реакции, что позволяет изучать влияние этих факторов на принятие инвестиционных решений и сравнивать результаты с моделью рационального поведения. Различные ролевые установки задаются посредством входных данных, определяющих контекст и предпосылки, в которых LLM должен оперировать.

Анализ ответов больших языковых моделей позволяет исследователям наблюдать проявление когнитивных искажений, таких как неприятие потерь, в смоделированных экономических сценариях. Проведенные исследования показали, что применение метода «ролевого программирования» приводит к снижению иррациональных ответов на 4.3% в задачах, основанных на предпочтениях, и на 3.3% в задачах, основанных на убеждениях. Данные результаты демонстрируют возможность использования LLM для количественной оценки и смягчения влияния когнитивных искажений в процессах принятия решений.

Традиционные методы экспериментальной экономики, требующие привлечения большого количества участников и контроля множества переменных, часто сопряжены со значительными затратами времени и ресурсов. Использование больших языковых моделей (LLM) в качестве вычислительной лаборатории позволяет преодолеть эти ограничения. LLM обеспечивают масштабируемость, позволяя проводить эксперименты с тысячами «участников» одновременно, и полный контроль над параметрами моделирования. Это значительно повышает эффективность исследований в области поведенческой экономики и когнитивных искажений, позволяя быстро и экономично проверять гипотезы и получать статистически значимые результаты. Полученные данные, в отличие от данных, полученных в традиционных экспериментах, не подвержены влиянию субъективных факторов, связанных с поведением реальных участников.

Количественная оценка уверенности LLM и выявление предвзятости

Уровень достоверности, или уверенности, генерируемой языковой моделью, является ключевым параметром для оценки значимости её ответов как отражения реальных поведенческих паттернов. Этот показатель, определяемый внутренними механизмами модели, позволяет дифференцировать ответы, основанные на прочных знаниях и логических выводах, от случайных или галлюцинаторных результатов. Низкий уровень достоверности указывает на необходимость критической оценки ответа и, возможно, повторного запроса или использования альтернативных источников информации. Анализ уровня достоверности необходим для построения надежных систем, использующих большие языковые модели в задачах, требующих высокой точности и обоснованности принимаемых решений.

Для моделирования и прогнозирования поведения больших языковых моделей (LLM) исследователи применяют методы, такие как Авторегрессионный процесс (AR Process). Данный подход позволяет анализировать последовательность ответов LLM и выявлять закономерности в принятии решений. Используя AR Process, можно оценить вероятность конкретного ответа на основе предыдущих реакций модели, что предоставляет возможность количественно оценить согласованность и стабильность ее поведения. Анализ временных рядов, формируемых ответами LLM, позволяет выявить отклонения от ожидаемого поведения и оценить степень уверенности модели в своих ответах, что является важным для понимания надежности и предсказуемости ее работы.

Для проверки устойчивости полученных результатов и обобщения выводов о способности больших языковых моделей (LLM) к воспроизведению когнитивных искажений, в исследованиях используются такие модели, как GPT-4, Claude 3 Opus, Gemini 1.5 Pro и Llama 3 70B. Выбор данных моделей обусловлен их различной архитектурой, размером и подходами к обучению, что позволяет оценить, насколько универсальны наблюдаемые эффекты и применимы ли они к широкому спектру LLM. Проведение экспериментов на нескольких моделях обеспечивает более надежную валидацию полученных результатов и позволяет выявить потенциальные зависимости от конкретной реализации модели.

Исследования показали, что большие языковые модели (LLM) способны эффективно воспроизводить известные когнитивные искажения и поведенческие предубеждения. Однако для получения достоверных результатов требуется тщательная калибровка и валидация моделей. Примечательно, что применение детализированных методов снижения предвзятости, включающих, например, суммирование работ Канемана и Тверски, привело к снижению доли рациональных ответов на 29%, что подчеркивает сложность полной элиминации предубеждений и необходимость осторожного подхода к интерпретации результатов, полученных с использованием LLM.

Последствия для понимания и смягчения человеческой предвзятости

Наблюдаемые расхождения между решениями, смоделированными рациональными агентами на основе больших языковых моделей, и реальным поведением розничных инвесторов ярко демонстрируют повсеместность когнитивных искажений в финансовых решениях. Исследование показывает, что люди часто отклоняются от принципов рационального выбора, поддаваясь эмоциям, эвристикам и другим психологическим факторам, что приводит к неоптимальным инвестиционным стратегиям. Эти отклонения не являются случайными ошибками, а скорее систематическими предубеждениями, которые влияют на процесс принятия решений и могут приводить к значительным финансовым потерям. Выявление этих закономерностей имеет решающее значение для понимания и смягчения влияния человеческих предубеждений на финансовые рынки и в целом на экономическое благополучие.

Данное исследование предлагает структурированный подход к выявлению и количественной оценке когнитивных искажений, влияющих на принятие финансовых решений. Разработанная методология позволяет не только идентифицировать конкретные типы предвзятости, проявляющиеся в поведении инвесторов, но и измерить их влияние на итоговые результаты. Полученные данные открывают возможности для разработки целенаправленных интервенций — стратегий и инструментов, направленных на смягчение негативных последствий когнитивных искажений и стимулирование более рационального экономического поведения. Предложенный фреймворк может быть адаптирован для анализа различных типов принятия решений, выходящих за рамки финансовой сферы, и способствует более глубокому пониманию механизмов, лежащих в основе иррациональных выборов.

Исследование когнитивных механизмов, лежащих в основе неоптимальных решений, открывает возможности для разработки стратегий, способствующих более рациональному экономическому поведению. Понимание того, как систематические ошибки в мышлении влияют на финансовые решения, позволяет создавать инструменты и вмешательства, направленные на смягчение этих искажений. Например, применение принципов поведенческой экономики в дизайне финансовых продуктов может помочь людям избежать импульсивных покупок или чрезмерного риска. Более того, образовательные программы, акцентирующие внимание на распространенных когнитивных ошибках и методах их преодоления, способны повысить финансовую грамотность и улучшить качество принимаемых решений. Такой подход имеет потенциал для значительного улучшения благосостояния людей и повышения эффективности экономических систем в целом.

Предложенный подход к анализу когнитивных искажений имеет далеко идущие последствия, простирающиеся от личных финансов до государственной политики. Исследование открывает возможности для разработки инструментов, способствующих более рациональному принятию экономических решений на индивидуальном уровне, например, в сфере инвестиций и планирования бюджета. На макроэкономическом уровне, понимание механизмов, лежащих в основе неоптимального выбора, позволяет создавать более эффективные регуляторные меры и социальные программы, направленные на улучшение благосостояния населения. Таким образом, данная работа не только проливает свет на природу человеческих предубеждений, но и закладывает основу для более глубокого и детального изучения процессов принятия решений, способствуя развитию поведенческой экономики и психологии.

Исследование закономерностей в поведении больших языковых моделей демонстрирует интересное различие между предпочтениями и убеждениями. Модель, подобно микроскопу, позволяет увидеть, как искусственный интеллект воспроизводит человеческую иррациональность в задачах, связанных с выбором, но проявляет логику в оценке фактов. Этот феномен перекликается с мудростью Конфуция: «Учись, не уставая, и не бойся искать истину». Подобно тому, как необходимо постоянно шлифовать понимание мира, так и в случае с ИИ требуется детальное изучение его внутренних механизмов, чтобы выявить и скорректировать когнитивные искажения, обеспечивая более рациональное поведение системы.

Что дальше?

Представленное исследование, выявившее любопытное расхождение в рациональности больших языковых моделей — склонность к иррациональности в задачах, связанных с предпочтениями, и рациональность в задачах, требующих оценки убеждений — лишь подчеркивает глубину нерешенных вопросов. Успешное применение простого приёма «ролевого программирования» для частичного снижения этих предубеждений, несомненно, обнадеживает, однако не решает проблему в корне. Необходимо углубленное понимание механизмов, лежащих в основе этих различий. Действительно ли модели имитируют человеческую иррациональность, или же это артефакт используемых методов обучения и оценки?

Перспективным направлением представляется разработка более изощренных методов выявления и коррекции когнитивных искажений в моделях. Вместо простого «принуждения» к рациональности, возможно, стоит исследовать способы, позволяющие моделям «понимать» причины и последствия иррациональных решений, тем самым, моделируя более сложную картину человеческого мышления. В конечном счете, задача не в создании идеально рациональных агентов, а в создании моделей, способных к гибкому и адаптивному мышлению, учитывающему контекст и последствия своих действий.

Наконец, представляется важным изучить взаимодействие между различными типами предубеждений и их влияние на принятие решений в сложных, многоаспектных задачах. Простое устранение одного искажения может привести к усилению другого, создавая новые, непредсказуемые последствия. Понимание этой динамики — ключ к созданию действительно надежных и предсказуемых систем искусственного интеллекта.

Оригинал статьи: https://arxiv.org/pdf/2602.09362.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2026-02-11 19:36