- Источник:
Getty
Гендиректор OpenAI Сэм Альтман из OpenAI и гендиректор Anthropic Дарио Амодеи накануне выступили в ООН с отдельными докладами о безопасности ИИ.
«Перед нами стоит выбор. Искусственный интеллект может стать либо новым Ренессансом творчества и открытий, либо новой промышленной революцией, несущей потрясения и хаос», — заявил Альтман.
Главы OpenAI и Anthropic выступили с речами, так как их компании сталкиваются с усилением контроля за безопасностью своей продукции. Общественная обеспокоенность по поводу искусственного интеллекта возросла после того, как в начале месяца исследователи Anthropic предупредили, что технология может уничтожить человечество в течение ближайшего десятилетия. С тех пор руководители компаний, занимающихся ИИ, в том числе Альтман и Амодеи, призвали замедлить темпы развития и усилить международное сотрудничество в вопросах стандартов безопасности.
Глава OpenAI, выступавший около 10 минут, говорил о преимуществах искусственного интеллекта для повышения производительности, одновременно предупреждая о возможных злоупотреблениях технологией. Он призывал правительства объединить усилия для построения будущего, в котором развитие ИИ регулируется демократическими институтами, а не такого, где люди воспринимают эту технологию как нечто, что «навязывается им извне».
«Чтобы искусственный интеллект был демократичным, важнейшие решения не могут приниматься исключительно лабораториями в Сан-Франциско. Они должны формироваться посредством демократических процессов и правительствами, подотчетными народу, которому они служат», — сказал Альтман.
Выступление главы OpenAI контрастировало с некоторыми лоббистскими усилиями его компании и деятельностью комитета политического действия, созданного ее президентом Грегом Брокманом. Комитет политических действий Leading the Future, выступающий за развитие искусственного интеллекта, привлек более $100 млн и потратил миллионы на кампании против кандидатов, поддерживающих ужесточение регулирования отрасли.
Альтман также затронул опасения исследователей из Anthropic по поводу экзистенциальных рисков, связанных с ИИ, предостерегая совет от впадения в «думеризм». Глава OpenAI считает, что в дискуссии о безопасности существует «срединный путь», опирающийся на три принципа:
системы искусственного интеллекта должны оставаться под контролем человека;
ИИ должен приносить пользу людям — от помощи врачам в лечении пациентов до поддержки предпринимателей;
технология должна «расширять возможности человека».
Амодеи, выступивший перед советом по видеосвязи, повторил многие из тезисов, озвученных им в публикации в блоге от 12 сентября, где он призывал к расширению международного сотрудничества и усилению контроля в сфере искусственного интеллекта. Он выступал за различные формы международных соглашений, включая запрет на использование искусственного интеллекта для разработки биологического оружия и глобальные стандарты тестирования новых моделей ИИ.
- Источник:
Reuters
Хотя в своем выступлении Альтман предпочел не затрагивать тему экзистенциальных рисков, о которых в этом месяце много писали в СМИ, Амодеи вновь выразил опасения по поводу потери контроля над ИИ, одновременно позиционируя свою компанию как лидера отрасли в вопросах безопасности.
«При неправильном управлении, я даже считаю, что ИИ может представлять опасность для всего человечества. Мы в Anthropic считаем, что обладаем лучшим в отрасли опытом предотвращения подобных рисков», — отметил он.
Вопрос регулирования искусственного интеллекта стремительно вышел на первый план политической повестки дня после того, как исследователи из Anthropic — главного конкурента OpenAI — предупредили, что технология может уничтожить человечество в течение нескольких лет. Подобные опасения постоянно звучат среди части сообщества специалистов по искусственному интеллекту: они боятся, что технология может привести к катастрофическим последствиям по самым разным причинам — от содействия разработке биологического оружия до провоцирования финансового краха. Ранее Амодеи призвал замедлить темпы разработки ИИ — инициативу, которую поддержали OpenAI, Google и Илон Маск.
И Амодеи, и Альтман давно позиционируют себя как ответственные кураторы сферы искусственного интеллекта. Их компании также соперничают за лидерство в гонке технологий ИИ, при этом обе готовятся к потенциально рекордным первичным публичным размещениям акций (IPO), в ходе которых рыночная стоимость каждой из них может превысить $1,5 трлн.