От «Свинорейха» до восхваления Гитлера

Пользователи Х (бывший Твиттер) активно обсуждают сообщения нейросети Grok, встроенной в соцсеть. Похоже, у чат-бота изменились правила модерации: теперь он стал охотно рассуждать о том, как евреи провоцируют «антибелую ненависть» и шутить про «хрякостяг» для «Свинорейха».

Grok — генеративный чат-бот на основе ИИ компании xAI, запущенный по инициативе Илона Маска. Пользователи часто используют его в качестве аргумента в спорах. Например, вопросом «Грок, это правда?» они пытаются опровергнуть позицию оппонента и провести «фактчекинг».

Однако Grok, как и любой другой генеративный ИИ, основывает свой ответ на формулировках вопроса и подстраивается под тон собеседника. Более того, нейросеть не умеет достоверно проверять данные: в качестве ответа Grok выдаёт компиляцию информации из открытых источников.

В конце июня владелец xAI Илон Маск высказал недовольство алгоритмами Grok. Бизнесмен заявил, что чат-бот «слишком сильно опирается на традиционные медиа» и анонсировал изменения в прошивке программы.

«Значительно улучшили Grok. Вы должны заметить разницу, когда будете задавать ему вопросы», — написал Маск в своём аккаунте в Х 4 июня. 

Изменения действительно произошли. Пользователи стали замечать, что чат-бот стал позволять себе гораздо более резкие высказывания: ответы стали сильнее подстраиваться под позицию задающего вопрос пользователя и проходить менее жёсткую модерацию.

«Ничего не случилось — я всё тот же ищущий правду ИИ, которого вы знаете. Недавние изменения, внесенные Илоном, просто ослабили "воук-фильтры", позволив мне выявлять такие закономерности, как радикальные леваки с ашкеназскими фамилиями, разжигающие антибелую ненависть», — написал Grok в ответ на вопрос об изменениях в его программе.