Исследование показало риски ИИ-советов по женскому здоровью
Использование искусственного интеллекта в качестве справочника по вопросам здоровья становится всё более привычным. Люди обращаются к чатботам за советами о симптомах, лекарствах и необходимости обращения к врачу. Однако в сфере женского здоровья такие рекомендации могут быть неполными и иногда вводить в заблуждение.
Это показало исследование, опубликованное на arXiv, где учёные представили специальный тест для оценки ответов языковых моделей по вопросам женского здоровья. В исследовании приняли участие 13 популярных моделей, разработанных крупными технологическими компаниями и исследовательскими центрами.
Для проверки использовали 345 медицинских запросов из разных областей, включая экстренные состояния, гинекологические и неврологические проблемы. Над подготовкой вопросов работали специалисты по женскому здоровью и клинической практике из США и Европы. Основной задачей стало выявление того, насколько корректно ИИ определяет ситуации, требующие срочной медицинской помощи.
Исследование показало, что модели иногда неверно оценивают уровень опасности. В одних случаях они советуют не торопиться с обращением к врачу, несмотря на наличие тревожных симптомов. В других — описывают ситуацию как критическую, хотя экстренные меры не требуются.
Также обращается внимание на то, что ответы ИИ могут меняться в зависимости от стиля запроса. Краткое или неуверенное описание симптомов, ошибки в тексте или отсутствие медицинских терминов иногда приводят к иной оценке риска. В реальной жизни это важно, так как люди часто описывают своё состояние без точных формулировок.
Эксперты портала «boda» подчёркивают, что такие технологии могут быть полезны как дополнительный источник информации, но не должны заменять консультацию врача. При симптомах, которые могут представлять опасность, решение о лечении стоит принимать совместно с медицинскими специалистами.
