ИИ не виноват? Пользователи сами вызывают «галлюцинации» нейросетей
Новое исследование, опубликованное на платформе arXiv.org 3 октября, проливает свет на одну из самых обсуждаемых проблем искусственного интеллекта — генерацию вымышленных фактов, или так называемых «галлюцинаций». Оказалось, что основная причина таких ошибок — вовсе не сбои в моделях, а стиль общения пользователей.
Исследование под названием Mind the Gap проанализировало свыше 13 тысяч диалогов между людьми и более 1300 взаимодействий с ИИ, выявив закономерность: чем менее вежливо и грамотно сформулирован запрос, тем выше риск получить фантазийный ответ, пишет PEPELAC.NEWS.
Пользователи, общаясь с ИИ, склонны упрощать речь, использовать резкие и краткие формулировки, ограничивать лексику. Хотя смысл вопросов остаётся тем же, изменения в стиле общения приводят к так называемому «стилевому сдвигу». Это создаёт разрыв между обучающими данными — вежливой, литературной речью — и реальным пользовательским вводом. Как результат, модель начинает «домысливать» или ошибочно интерпретировать запрос.
Авторы исследования также протестировали методы устранения проблемы. Автоматическое перефразирование запросов привело к снижению качества ответов, тогда как адаптация моделей к разным стилям дала прирост точности лишь на 3%. Зато один подход оказался особенно эффективен — пользователи, формулирующие запросы ясно и грамотно, с меньшей вероятностью сталкивались с «галлюцинациями». Это открытие делает фокус не столько на улучшении моделей, сколько на цифровой гигиене пользователей.
В условиях, когда ИИ уже стал частью повседневной жизни, умение правильно задавать вопросы становится не менее важным, чем выбор платформы. Вежливость и структурность оказываются не только социальной нормой, но и инструментом для получения точных ответов от нейросети.
