Иллюзии реальности: проверка «внутреннего мира» генеративных моделей

Наблюдения показывают, что частота различных типов ошибок, допущенных моделями при противодействии различным противникам, существенно различается в зависимости от используемого набора данных для обучения: модели, обученные на случайных данных, демонстрируют иной профиль ошибок по сравнению с моделями, обученными на тщательно отобранных данных.

Новое исследование выявляет, что современные генеративные модели, несмотря на впечатляющие результаты, часто демонстрируют непоследовательность и отсутствие причинно-следственной связи в своих «представлениях» о мире.

Данные под прицелом: проблемы соответствия требованиям регуляторов в машинном обучении

Практическая реализация требований к качеству данных, соответствующих нормативным актам, сопряжена с рядом вызовов и обуславливает необходимость формирования чётких критериев и ожиданий для обеспечения надёжности и соответствия данных.

В статье рассматриваются трудности, с которыми сталкиваются специалисты при обеспечении качества данных в системах машинного обучения в контексте растущих требований европейского законодательства.