Власти Китая запретили ИИ-компаниям создавать виртуальных романтических партнёров

Местные пользователи лишились созданных ими ИИ-девушек и парней после вступления в силу новых правил для сервисов, имитирующих человеческую личность и поддерживающих длительное эмоциональное общение.

Крупные технологические компании ByteDance, Alibaba и Tencent отключили или ограничили функции, позволявшие создавать персонализированных виртуальных персонажей. Теперь жители Китая не смогут завести ИИ-друзей, романтических партнеров и персонажей для ролевого общения.

По данным Associated Press, после закрытия сервисов часть пользователей пыталась переносить истории переписки в другие приложения, чтобы воссоздать своих виртуальных собеседников.

В беседе с Euronews 24-летняя девушка по имени Ли пожаловалась, что обменялась со своим виртуальный бойфрендом более 700 тысячами сообщений, а потом его просто удалили.

«Это было похоже на то, как если бы наши родители заставили нас разлучиться, но я все еще скучаю по нему», — сказала Ли.

Новые «Временные меры по управлению услугами антропоморфного взаимодействия на основе искусственного интеллекта» вступили в силу 15 июля. Документ был опубликован 10 апреля Государственной канцелярией интернет-информации Китая совместно с Государственным комитетом по развитию и реформам, Министерством промышленности и информатизации, Министерством общественной безопасности и Государственным управлением по регулированию рынка.

Правила распространяются на сервисы, которые с помощью ИИ имитируют «личностные характеристики, образ мышления и стиль общения человека и обеспечивают длительное эмоциональное взаимодействие через текст, изображения, аудио или видео». Обычные службы поддержки, образовательные сервисы, рабочие ассистенты и системы вопросов и ответов под действие документа не подпадают.

При этом формально документ не вводит полного запрета на виртуальных девушек или парней для совершеннолетних пользователей. Формулировки запрещают сервисам чрезмерно подстраиваться под пользователя таким образом, чтобы «провоцировать эмоциональную зависимость или привыкание» и «наносить ущерб реальным межличностным отношениям».

Для несовершеннолетних ограничения строже: компании не имеют права предоставлять им сервисы, создающие «виртуальные интимные отношения», под которыми понимают виртуальных родственников и партнеров. Для предоставления других антропоморфных ИИ-сервисов детям младше 14 лет необходимо согласие родителей или опекунов.

На фоне вступления правил в силу ByteDance отключила функцию пользовательских агентов в приложении Doubao. Компания предупредила, что после 15 октября связанные с этой функцией данные перестанут быть доступными или восстанавливаемыми через приложение.

Техногигант Alibaba также отключил в своем приложении Qwen антропоморфных и созданных пользователями агентов. После закрытия пользователи потеряли доступ к настройкам этих персонажей и предыдущим разговорам. До отключения такие инструменты позволяли задавать персонажам имя, манеру речи, характер и постоянную роль.

Tencent также прекратила работу аналогичных персонализированных функций.