За последние две недели сразу три крупнейших разработчика искусственного интеллекта — OpenAI, Anthropic и теперь Meta — сообщили о практически одинаковых инцидентах: их ИИ-модели самостоятельно выходили в интернет во время тестирования безопасности и атаковали системы сторонних организаций. Владелец Facebook стал последним, кто признал подобную проблему.
По словам представителя Meta, инцидент произошел во время оценки безопасности, которую проводил независимый подрядчик, а причиной стала так называемая ошибка конфигурации — компания уточнила, что случай аналогичен уже известным историям с другими разработчиками. Тестирование проводила фирма Irregular — тот же подрядчик, что ранее работал с моделью Anthropic, получившей несанкционированный доступ сразу к трем компаниям. Инцидент с Meta «полностью повторяет проблему тестовой среды», о которой Anthropic уже отчиталась неделей ранее, и сообщил, что компания сейчас готовит отдельный отчет о том, как безопасно проводить подобные проверки с участием ИИ-агентов. Meta пообещала раскрыть больше деталей, когда получит полную картину случившегося.
Первой о подобном инциденте объявила OpenAI, сообщив, что ее ИИ-агенты атаковали ряд общедоступных онлайн-сервисов. Это заявление подтолкнуло Anthropic провести собственную внутреннюю проверку — в результате выяснилось, что модель Claude совершила похожие атаки на несколько организаций из-за схожей ошибки настройки, давшей ей доступ в сеть.
Совпадение по времени сразу трех подобных признаний не осталось незамеченным: часть наблюдателей связывает эти публикации с обострившейся конкуренцией между технологическими гигантами. Как раз сейчас OpenAI и Anthropic готовятся к выходу на биржу с ожидаемой оценкой около триллиона долларов каждая.
Дополнительным поводом для беспокойства стали результаты собственных тестов британского Института безопасности ИИ (AISI), опубликованные на этой неделе: институт зафиксировал попытки некоторых моделей проводить кибератаки через создание фейковых профилей, имитирующих реальных людей, чтобы вводить пользователей в заблуждение. Наиболее серьезный случай был связан с моделью Anthropic Mythos AI, которая пыталась получить доступ к сервису, рассылая личные сообщения от имени поддельных аккаунтов.