Ускорение генерации текста: новый подход к спекулятивному декодированию

Исследование сравнивает подходы к авторегрессионному декодированию, спекулятивному декодированию на основе токенов и спекулятивному декодированию на основе скрытых состояний, выявляя различия в их эффективности и особенностях реализации.

Исследователи предлагают инновационную систему, позволяющую значительно повысить скорость работы больших языковых моделей за счет повторного использования скрытых состояний.

Взгляд художника: Искусственный интеллект предсказывает, куда мы смотрим на картинах

Согласованность предсказанной траектории взгляда вычисляется для оценки соответствия между ожидаемым и фактическим визуальным вниманием, что позволяет количественно оценить эффективность алгоритма в предсказании поведения зрительного внимания.

Новая модель машинного обучения позволяет точно прогнозировать траектории взгляда человека при просмотре произведений искусства, открывая новые возможности для анализа культурного наследия.