- Источник:
Getty
Как пишет Forbes, компания xAI Илона Маска, занимающаяся разработкой искусственного интеллекта, опубликовала стенограммы сотен тысяч разговоров между своим чат-ботом Grok и его пользователями — во многих случаях без ведома или разрешения этих пользователей.
Каждый раз, когда пользователь Grok нажимает кнопку «Поделиться» в одном из своих чатов с ботом, создается уникальный URL-адрес, позволяющий ему делиться беседой по электронной почте, в текстовом сообщении или другими способами. Однако пользователи не знают, что этот уникальный URL-адрес также доступен поисковым системам, таким как Google, Bing и DuckDuckGo, что делает их доступными для поиска любому пользователю интернета.
Поиск в Google по запросу Grok chats показывает, что поисковая система проиндексировала более 370 тысяч пользовательских разговоров с ботом. На общих страницах были показаны беседы между пользователями Grok и LLM, которые охватывают широкий спектр задач: от простых бизнес-задач, таких как написание твитов, до создания изображений вымышленного теракта в Кашмире и попыток взлома криптовалютного кошелька. Forbes проанализировал беседы, в которых пользователи задавали интимные вопросы о медицине и психологии; некоторые даже раскрыли имя, личные данные и по крайней мере один пароль. Доступ к файлам изображений, электронным таблицам и некоторым текстовым документам, загруженным пользователями, также можно получить через общую страницу Grok.
Среди проиндексированных бесед были некоторые, инициированные британским журналистом Эндрю Клиффордом, который использовал Grok для резюмирования первых полос газет и составления твитов для своего сайта Sentinel Current. Теперь Клиффорд перешел на использование чат-бота Gemini от Google.
xAI запрещает использовать своего бота для «пропаганды нанесения критического вреда человеческой жизни или для „разработки биологического оружия, химического оружия или оружия массового поражения“, но в опубликованных беседах Grok предлагал пользователям инструкции о том, как изготавливать запрещенные наркотики, такие как фентанил и метамфетамин, как кодировать самозапускающееся вредоносное ПО и создавать бомбу, а также способы самоубийства. Grok также предложил подробный план убийства Маска.
Разговоры с Grok, в которых его просили дать инструкции по изготовлению наркотиков и бомб, вероятно, были инициированы инженерами по безопасности, членами RedTeam (эксперты по кибербезопасности, имитирующие действия злоумышленников, чтобы оценить уровень защищенности информационной системы) или специалистами по доверию и безопасности. Но по крайней мере в нескольких случаях настройки совместного доступа Grok вводили в заблуждение даже профессиональных исследователей искусственного интеллекта.
Тем временем на LinkedIn и форуме BlackHatWorld маркетологи обсуждают намеренное создание и распространение обсуждений с Grok для повышения известности и узнаваемости своих компаний и продуктов в результатах поиска Google. Гендиректор SEO-агентства Pyrite Technologies Сатиш Кумар продемонстрировал Forbes, как одна компания использовала Grok для манипулирования результатами поиска компаний, которые напишут для вас докторскую диссертацию.
Ранее в этом месяце пользователи ChatGPT от OpenAI обнаружили, что их разговоры появляются в результатах поиска Google. Но после возмущения компания быстро изменила свою политику. Директор по информационной безопасности OpenAI Дейн Стаки назвал индексацию «кратковременным экспериментом», который будет прекращен, так как «создает слишком много возможностей для людей случайно поделиться информацией, которой они не собирались делиться».
В Grok утверждали, что у него нет такой функции обмена. Маск даже написал в соцсети X, что «Grok побеждает». Неясно, когда Grok добавил функцию «Поделиться», но пользователи X еще с января предупреждали, что разговоры индексируются Google.
Ранее Google разрешала индексировать чаты со своим чат-ботом Bard, но в 2023 году удалила их из поиска. Business Insider сообщает, что Meta продолжает предоставлять поисковым системам возможность обнаружения своих общих поисковых запросов.