Скрытые грани интеллекта: что упускают нейросети

В то время как нейронаука в целом проявляет интерес к когнитивным способностям второго и, в меньшей степени, третьего уровней, масштабные наборы данных, необходимые для их изучения, пока не сформированы, что отражает разрыв между теоретическими интересами и практическими возможностями исследований.

Новое исследование показывает, что современные системы искусственного интеллекта демонстрируют неравномерные когнитивные способности из-за недостатка понимания процессов мышления, а не только знания фактов.

Искусственный интеллект в управлении: новые возможности и подводные камни

Исследование показывает, как генеративные модели могут улучшить процесс принятия решений, но требует внимания к проблеме предвзятости и необходимости человеческого контроля.

Графы, объяснения и возможности: новый подход к интерпретации нейросетей

В исследовании продемонстрировано, что контрфактические объяснения в классификации графов могут быть получены путем как удаления (красным цветом обозначены изменения), так и добавления ребер (зеленым цветом), а также посредством возмущения признаков атомов углерода, позволяя моделировать превращение бензола из нейтрального состояния в катионное при потере электрона, что значительно расширяет пространство поиска по сравнению с методами, основанными исключительно на удалении ребер.

Исследователи предлагают расширенный метод поиска контрфактических объяснений для графовых нейронных сетей, позволяющий не только удалять, но и добавлять связи и изменять атрибуты узлов.