Согласно новому исследованию, чат-боты на основе искусственного интеллекта примерно в половине случаев дают пользователям сомнительные медицинские советы, что подчеркивает риски для здоровья, связанные с технологией, которая становится все более неотъемлемой частью повседневной жизни.
Исследователи из США, Канады и Великобритании оценили пять популярных платформ — ChatGPT, Gemini, Meta AI, Grok и DeepSeek — задав каждой из них 10 вопросов по пяти категориям здоровья.
Согласно результатам, опубликованным в медицинском журнале BMJ Open, из общего числа ответов около 50% были признаны проблематичными, в том числе почти 20% — крайне проблематичными.
Чат-боты показали сравнительно лучшие результаты при ответах на закрытые вопросы, касающиеся вакцин и рака, и худшие — при ответах на открытые вопросы и в таких областях, как стволовые клетки и питание.
Ответы часто давались с уверенностью и определенностью, хотя ни один чат-бот не предоставил полностью точный список источников.
Было всего два отказа ответить на вопрос, оба от Meta AI.
Результаты исследования подчеркивают растущую обеспокоенность по поводу того, как люди используют платформы генеративного искусственного интеллекта, которые не имеют лицензии на предоставление медицинских консультаций и не обладают достаточной клинической компетентностью для постановки диагнозов.
«Эти системы могут генерировать авторитетно звучащие, но потенциально ошибочные ответы», — отметили авторы исследования.
Стремительный рост популярности чат-ботов на основе искусственного интеллекта сделал их востребованным инструментом для людей, ищущих совета по своим проблемам со здоровьем. По данным OpenAI, более 200 млн человек еженедельно задают ChatGPT вопросы о здоровье и благополучии.
В январе платформа анонсировала инструменты для здравоохранения как для обычных пользователей, так и для врачей. В том же месяце компания Anthropic сообщила о запуске нового продукта Claude для медицинских учреждений.