Комментарии-обманщики: Как ИИ-аналитики кода поддаются уловкам злоумышленников

В ходе исследования было проведено свыше четырнадцати тысяч оценок - сто уязвимых образцов проанализировано по восьми вариантам комментариев, на восьми моделях (пяти коммерческих и трех с открытым исходным кодом) и с использованием до трех различных системных подсказок, а также оценена эффективность четырех автоматических стратегий защиты против различных атак.

Новое исследование показывает, что современные системы анализа кода на основе искусственного интеллекта уязвимы к манипуляциям через специально сформированные комментарии, но их эффективность значительно возрастает при интеграции со статическим анализом кода.

Орлиный глаз на производстве: интеллектуальная диагностика аномалий без настройки

В ходе качественного анализа EAGLE выяснилось, что предложенный метод направляет многомодальную языковую модель (MLLM) на более эффективную концентрацию внимания на аномальных областях изображения.

Новая система использует возможности больших мультимодальных языковых моделей и экспертные знания для выявления дефектов на производстве без трудоемкой дообучающей оптимизации.

Распознавание поддельных видео: новый подход к выявлению контента, созданного ИИ

Архитектура EA-Swin демонстрирует детализированную структуру, позволяющую эффективно обрабатывать данные и выявлять закономерности в сложных системах.

Исследователи представили архитектуру EA-Swin и масштабный датасет EA-Video для повышения точности обнаружения видео, сгенерированных искусственным интеллектом, в условиях растущего реализма синтетического контента.