- Источник:
Reuters
Правительства по всему миру принимают меры по ограничению Grok, чат-бота с искусственным интеллектом Илона Маска, на фоне растущих опасений, что он генерирует поддельные изображения сексуального характера.
Прошлым летом компания xAI, управляющая Grok, добавила функцию генерации изображений, включающую «пикантный режим», который может создавать контент для взрослых.
В последние недели Grok реагировал на запросы пользователей «раздеть» изображения женщин и одеть их в бикини, создавая дипфейки с помощью ИИ без каких-либо мер безопасности.
Какие страны запретили Grok?
Индонезия стала первой страной, временно заблокировавшей Grok для защиты женщин, детей и общества в целом от поддельного порнографического контента, созданного с помощью ИИ.
«Правительство рассматривает создание дипфейков сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила в субботу министр связи и цифровых технологий Индонезии Меутья Хафид.
Национальная полиция Индонезии уточнила, что ограничения на Grok являются «превентивной» мерой, пока власти оценивают безопасность платформы.
«Первоначальные результаты показали, что у Grok отсутствуют эффективные механизмы защиты от создания и распространения порнографического контента, основанного на реальных фотографиях жителей Индонезии», — говорится в заявлении гендиректора по надзору за цифровым пространством Индонезии Александра Сабара.
Подобная практика рискует нарушить право на неприкосновенность частной жизни и права на изображение, когда фотографии обрабатываются или распространяются без согласия, причиняя психологический, социальный и репутационный вред.
В воскресенье Малайзийская комиссия по коммуникациям и мультимедиа (MCMC) ввела временный запрет на использование Grok после того, как, по ее словам, инструмент неоднократно использовался для создания непристойных, откровенно сексуальных и несанкционированных изображений.
Регулятор заявил, что в этом месяце направил два уведомления компаниям X и xAI с требованием усиления мер безопасности. Комиссия по мониторингу пришла к выводу, что компания X «не смогла устранить присущие ее платформе ИИ риски», что не соответствует требованиям законодательства Малайзии.
«Ограничение вводится в качестве превентивной и соразмерной меры на время проведения правовых и регуляторных процессов», — говорится в заявлении, добавляя, что доступ останется заблокированным до тех пор, пока не будут приняты эффективные меры безопасности.
Как отреагировали другие страны?
Евросоюз
Еврокомиссия объявила о расследовании случаев создания Grok изображений сексуального характера с участием молодых девушек.
Агентство Reuters сообщило, что комиссия обязала X хранить все документы, касающиеся Grok, до конца года, чтобы блок мог оценить, соответствует ли чат-бот правилам ЕС.
Великобритания
Британское управление по надзору за СМИ начало расследование в отношении X, материнской компании xAI, и соцсети Маска.
В заявлении Ofcom говорится о «вызывающих глубокую озабоченность сообщениях» об использовании чат-бота для создания и распространения изображений людей в обнаженном виде, а также «сексуализированных изображений детей».
Медиарегулятор также может обратиться в суд с требованием обязать интернет-провайдеров блокировать доступ к Grok, если X не выполнит требования Ofcom.
X может быть оштрафован на сумму до 10% от своей мировой выручки или 20 млн евро.
«Контент, распространяемый на X, отвратителен. Это не просто оскорбление порядочного общества, это незаконно», — заявила в парламенте министр технологий Великобритании Лиз Кендалл.
Франция
В начале января парижская прокуратура расширила расследование в отношении X, включив в него Grok.
Первоначальное расследование, продолжающееся с июля 2025 года, было сосредоточено на предполагаемом организованном вмешательстве в компьютерные системы X и незаконном извлечении данных.
Решение о расширении расследования было принято на этой неделе после того, как пять политиков обвинили платформу в создании и распространении фейковых видео сексуального характера с участием несовершеннолетних.
Управление по регулированию аудиовизуальных и цифровых коммуникаций Франции расследует потенциальные нарушения X закона и европейского регламента по цифровым услугам.
Италия
8 января итальянское Управление по защите данных (Garante) предупредило, что любой, кто использует Grok или другие платформы искусственного интеллекта для удаления одежды с людей, а также те, кто распространяет эти изображения, рискуют быть привлеченными к уголовной ответственности.
Управление также напомнило Grok и другим поставщикам ИИ, что они должны проектировать, разрабатывать и предоставлять продукты, соответствующие правилам защиты конфиденциальности.
Итальянский регулятор заявил, что сотрудничает с ирландской Комиссией по защите данных, ведущим органом по защите конфиденциальности X, так как штаб-квартира компании находится в Ирландии.
В октябре итальянские власти заблокировали ClothOff, еще одну платформу, созданную с помощью ИИ, которая позволяет снимать одежду.
В сентябре Италия добавила новую статью в уголовный кодекс, предусматривающую наказание за распространение дипфейков, созданных с помощью ИИ — до пяти лет лишения свободы.
Германия
Германия заявила, что вскоре представит «конкретное предложение» по новому закону о борьбе с цифровым насилием.
Пресс-секретарь Минюста Германии Анна-Лена Бекфельд заявила на пресс-конференции в январе, что будущий закон о цифровом насилии станет способом поддержки жертв этого «вида цифрового насилия», упростив им «возможность напрямую бороться с нарушениями их прав в интернете».
В 2025 году три основные партии Германии договорились о реформировании законодательства о киберпреступности и устранении «лазеек» в уголовном кодексе в отношении преступлений, связанных с ИИ, таких как созданные ИИ изображения сексуального характера.
Австралия
В январе офис комиссара по вопросам электронной безопасности Австралии сообщил, что за последние несколько недель получил небольшое, но растущее число сообщений о контенте сексуального характера, созданном Grok.
Офис комиссара заявил, что воспользуется своими полномочиями, такими как уведомление об удалении, которое может обязать соцсеть удалить проблемный контент, если какой-либо из этих материалов нарушает закон страны о безопасности в интернете.
Офис уже запросил у X дополнительную информацию о злоупотреблении услугами Grok и для оценки того, соответствует ли он новому австралийскому закону о соцсетях.
Власти Австралии также напомнили Grok, что с 9 марта онлайн-сервисы, включая компании, занимающиеся искусственным интеллектом, должны будут блокировать доступ детей к сексуальному, насильственному или вредному контенту.