Поиск неизведанного: Улучшение стратегий исследования в генеративных моделях

Единичная графовая нейронная сеть (GFN) демонстрирует способность к эффективному представлению данных.

Новая методика обучения позволяет генеративным моделям более эффективно находить и осваивать сложные многомодальные пространства, решая проблему недостаточного исследования.

Невидимые помехи: Как обмануть объяснимый ИИ

Процедура преднамеренного искажения объяснений классификатора заключается в замене части признаков исходного изображения (например, собаки) на признаки из другого класса (кошки), при этом маскировка осуществляется на основе наиболее значимых признаков атакующего изображения, а финальное, визуально неотличимое от оригинала, изображение формируется путем взвешенной суммы исходного и модифицированного вариантов, что позволяет изменить объяснения модели без привлечения внимания наблюдателя.

Новое исследование показывает, что даже незначительные изменения в изображениях могут исказить интерпретации, предоставляемые методами объяснимого искусственного интеллекта, не влияя на точность предсказаний.