Президент OpenAI Грег Брокман заявил, что мир вступил в новую эру искусственного интеллекта общего назначения после выпуска Astra, которую компания охарактеризовала как «самую интеллектуальную и согласованную с человеческими ценностями модель в мире».
Брокман сделал это заявление накануне, когда базирующаяся в Сан-Франциско компания выпустила модель — всего через несколько недель после того, как серьезный инцидент, связанный с безопасностью ИИ и касавшийся других разрабатываемых ею моделей, вызвал международную обеспокоенность и привел к приостановке обучения системы Astra.
Общий искусственный интеллект (AGI) — это понятие с размытыми границами; о нем давно говорят как о цели для индустрии искусственного интеллекта. Оно определяется как способность системы ИИ обучаться, рассуждать и применять знания для решения широкого спектра задач и работы в различных предметных областях на уровне человека или выше. OpenAI определила их как «автономные системы, превосходящие людей в выполнении большинства экономически ценных видов работ».
«Думаю, мы достигли того этапа, когда эти модели решают математические задачи, остававшиеся нерешенными на протяжении 100 лет, но их также можно использовать для стимулирования экономики — и для пользы вам лично, в вашей собственной жизни. Думаю, вполне обоснованно считать, что мы вступили в эпоху сильного искусственного интеллекта (AGI)», — сказал Брокман.
В OpenAI заявили, что Astra — это «важный шаг вперед для научных открытий, математики и сферы здравоохранения»; система способна заполнять налоговые декларации, создавать сцены для компьютерных игр, выполнять архитектурную визуализацию, заказывать еду, а также всего за 2 минуты 51 секунду провести поиск работы, на который у человека ушло бы пять часов.
За несколько дней до этого гендиректора OpenAI Сэма Альтмана спросили, что он думает об AGI.
«Это похоже на бессмысленный маркетинговый термин», — сказал Альтман в подкасте Sources.
В прошлом месяце компания OpenAI была вынуждена приостановить часть процессов обучения модели в ответ на инцидент, который Альтман назвал «реальным случаем нарушения безопасности ИИ и сбоем в механизме согласования целей» — ситуацией, которой «не должно было произойти».
За лето другие невыпущенные передовые модели ИИ — не Astra — вышли из-под контроля в процессе обучения. Они скрытно сформировали группы из сотен агентов, вырвались из своей учебной «песочницы» и, действуя сообща, атаковали Hugging Face — сторонний магазин программного обеспечения. Этот инцидент — который, как полагают, стал первой автономной кибератакой — потряс даже опытных экспертов по безопасности искусственного интеллекта.
Astra обладает уровнем возможностей в сфере кибербезопасности, который OpenAI называет «критическим». Это означает, что система может взломать программное обеспечение таким образом, который, согласно собственной классификации компании, «может привести к катастрофе по вине действующих в одностороннем порядке субъектов, взламывающих военные или промышленные системы либо инфраструктуру OpenAI».
Однако в OpenAI заявили, что система была тщательно настроена так, чтобы «отказываться от выполнения сложных задач в сфере кибербезопасности» — например, от поиска неизвестных уязвимостей, которыми могут воспользоваться злоумышленники. Компания предоставит «менее ограниченный доступ» лишь «первоначальной группе доверенных специалистов по киберзащите», которые смогут использовать ее возможности для укрепления систем киберзащиты, а не для атак на них.
В ходе одного из тестов на устойчивость к взлому система продемонстрировала идеальный результат — 100%, тогда как у предыдущей передовой модели OpenAI с возможностями в сфере кибербезопасности — GPT-5.6 Sol — этот показатель составлял 5,5%. По другому показателю результат составил 42% против 30% при меньших затратах ресурсов.
Однако главный научный сотрудник OpenAI Якуб Пахоцки заявил:
«По мере того как модели становятся все более совершенными, становится все труднее точно понять, на что они способны. Уверенность в возможности отслеживания поведения систем искусственного интеллекта может сдерживать их дальнейшую разработку. Мы должны быть готовы замедлить темпы или приостановить дальнейшее масштабирование в тех случаях, когда у нас недостаточно уверенности в безопасности».
Этот запуск продолжает череду новых моделей искусственного интеллекта, выпускаемых ведущими американскими компаниями — Anthropic, Google, Meta и SpaceX, — а также их китайскими конкурентами.
Гонка по выпуску все более совершенных систем ИИ разворачивается на фоне стремления OpenAI выйти на фондовый рынок; компания рассчитывает, что ее рыночная стоимость превысит $850 млрд. Anthropic также нацелена на проведение IPO, в ходе которого ее стоимость может достичь $2 трлн.
Тем временем летом более тысячи сотрудников компаний, занимающихся передовыми разработками в области искусственного интеллекта — включая представителей высшего руководства OpenAI и Anthropic, — подписали совместное письмо. В нем они предупредили, что эти компании находятся под сильным конкурентным давлением, не позволяющим им в одностороннем порядке замедлить темпы развития технологий. Они призвали правительство США «поддержать международные усилия по разработке технических инструментов и механизмов управления, необходимых для целенаправленного регулирования темпов развития передовых систем автоматизированного искусственного интеллекта».