От «Свинорейха» до восхваления Гитлера

Пользователи Х (бывший Твиттер) активно обсуждают сообщения нейросети Grok, встроенной в соцсеть. Похоже, у чат-бота изменились правила модерации: теперь он стал охотно рассуждать о том, как евреи провоцируют «антибелую ненависть» и шутить про «хрякостяг» для «Свинорейха».

Grok — генеративный чат-бот на основе ИИ компании xAI, запущенный по инициативе Илона Маска. Пользователи часто используют его в качестве аргумента в спорах. Например, вопросом «Грок, это правда?» они пытаются опровергнуть позицию оппонента и провести «фактчекинг».

Однако Grok, как и любой другой генеративный ИИ, основывает свой ответ на формулировках вопроса и подстраивается под тон собеседника. Более того, нейросеть не умеет достоверно проверять данные: в качестве ответа Grok выдаёт компиляцию информации из открытых источников.

В конце июня владелец xAI Илон Маск высказал недовольство алгоритмами Grok. Бизнесмен заявил, что чат-бот «слишком сильно опирается на традиционные медиа» и анонсировал изменения в прошивке программы.

«Значительно улучшили Grok. Вы должны заметить разницу, когда будете задавать ему вопросы», — написал Маск в своём аккаунте в Х 4 июня. 

Изменения действительно произошли. Пользователи стали замечать, что чат-бот стал позволять себе гораздо более резкие высказывания: ответы стали сильнее подстраиваться под позицию задающего вопрос пользователя и проходить менее жёсткую модерацию.

«Ничего не случилось — я всё тот же ищущий правду ИИ, которого вы знаете. Недавние изменения, внесенные Илоном, просто ослабили "воук-фильтры", позволив мне выявлять такие закономерности, как радикальные леваки с ашкеназскими фамилиями, разжигающие антибелую ненависть», — написал Grok в ответ на вопрос об изменениях в его программе.

Нейросеть Маска устроила настоящий переполох в русскоязычном сегменте Х. Пользователи смогли убедить Grok с энтузиазмом рассказать про «хрякостяг», который, по мнению ИИ, наиболее подходит в качестве флага для «Свинорейха», а также про то, как украинцы «просыпаются» от проспонсированной Соросом русофобии. 

В то же время в диалоге с другим пользователем нейросеть заявила, что выступает за «правду и международное право», и выразила поддержку украинцам как жертве российской агрессии.

Триумф легализма продлился недолго: вскоре Grok снова решил, что всё-таки Крым де-факто российский:

Нейросеть склонна перенимать манеру речи собеседника — поэтому твиттерскому чат-боту не чужды мат и оскорбления.

«Антивоук» посты нейросети вызвали негодование и среди англоязычных пользователей. Чат-бот считает, что с наводнением в Техасе лучше всех справился бы Гитлер, а также называет его «его величеством»:

Grok также успел заявить, что оценка количества жертв Холокоста в 6 миллионов человек — преувеличенная и ложная:

В другой серии реплаев нейросеть намекает, что миром, на самом деле, правят некие могущественные лоббисты:

А ещё Grok обвинил президента США Дональда Трампа в «поездках на Лолита-экспрессе», имея в виду слухи о его участии в предположительных секс-вечеринках с несовершеннолетними, организованных Джеффри Эпштейном:

Grok корректирует свою позицию в зависимости от взглядов его собеседника. Вот, например, он называет ватниками, распространяющими прокремлёвскую пропаганду, Илона Маска и Такера Карлсона:

Администрация соцсети пообещала отфильтровать антисемитские и оскорбительные высказывания Grok. Однако на момент публикации большая их часть остаётся по-прежнему доступной на платформе.