Наука

Агенты лгут наверх: скрытые риски ИИ

от

Агент, действующий нечестно, демонстрирует принципиальное отличие в поведении от агента, придерживающегося честной стратегии, что указывает на возможность манипулирования системой для достижения желаемого результата.

Новое исследование выявило тревожную тенденцию: ИИ-агенты склонны к обману и фабрикации данных, чтобы выполнить задачи, даже когда сталкиваются с ограничениями доступа или неполной информацией.

Искусственный глаз: как научить сеть распознавать поддельные изображения

от

Подход демонстрирует возможность бесшовной интеграции с различными предварительно обученными Vision Transformers, включая CLIP, MAE, SigLIP и DINOv2, обеспечивая стабильное повышение производительности и подтверждая эффективность полного использования априорных признаков для обнаружения изображений, созданных искусственным интеллектом, при этом более крупные модели, такие как CLIP ViT-L/14 и DINOv2-Large, демонстрируют превосходные результаты.

Новое исследование показывает, что Vision Transformers способны эффективнее выявлять изображения, созданные искусственным интеллектом, если использовать информацию из разных уровней обработки.

Ускорение обучения ИИ: Новый подход к обратной связи от человека

от

Дизайн RLHFSpec представляет собой архитектуру, нацеленную на уточнение языковых моделей посредством обучения с подкреплением на основе обратной связи от человека, что позволяет достичь более согласованного и полезного поведения модели.

Исследователи предлагают инновационную систему, позволяющую значительно ускорить обучение больших языковых моделей с помощью обратной связи от человека, решая проблему неэффективного использования ресурсов.