Тайны чёрного ящика: Как улучшить подсказки для больших языковых моделей

Новое исследование раскрывает ограничения существующих методов автоматической оптимизации подсказок и предлагает способ сделать их более понятными и устойчивыми.

Предсказательная полиция: когда алгоритмы усиливают предрассудки

В период с 2017 по 2019 год в Балтиморе наблюдался резкий скачок в количестве обнаружений среди афроамериканцев, что отражает концентрацию патрулирования, основанного на генеративно-состязательных сетях (GAN), в районах с преобладающим афроамериканским населением.

Новое исследование показывает, как системы предсказательной полиции, основанные на генеративных состязательных сетях (GAN), могут невольно усугублять расовые предубеждения в данных о преступности.

Генерируем аномалии: новый подход к обнаружению дефектов без обучения

Логические аномалии генерируются как неизбежный побочный эффект сложных систем, демонстрируя, что даже самые продуманные конструкции склонны к неожиданным и потенциально критическим сбоям.

Исследователи предлагают метод создания реалистичных аномальных изображений, позволяющий улучшить системы обнаружения и классификации дефектов без необходимости трудоемкой предварительной тренировки.

Когда датчики лгут: как отличить поломку от изменений в производстве

Система, представленная на схеме, обеспечивает разграничение между сбоями и естественными изменениями данных: алгоритм обнаружения точек изменения выявляет потенциальные сдвиги домена и отказы, после чего алгоритм адаптации домена обновляет модель обнаружения аномалий, а решение о природе изменения - является ли оно здоровым сдвигом домена или отказом - принимается человеком-оператором, поддерживаемым алгоритмом объяснимого искусственного интеллекта (XAI).

Новый метод объединяет адаптацию к изменениям данных и объяснимый искусственный интеллект, чтобы помочь операторам различать реальные неисправности и естественные колебания в промышленных потоках данных.