PewDiePie запускает собственную ИИ-модель, свободную от цензуры

YouTube-блогер Феликс Чельберг, известный как PewDiePie, анонсировал Ajax — новую языковую модель, которую можно запускать локально. Она будет работать совместно с  Odysseus — платформой для локальной работы ИИ, которую блогер представил в мае этого года. Об этом Чельберг рассказал в новом видео.

Согласно странице проекта, Ajax создана на основе Qwen 3.5 9B, её выпуск назначен на 3 октября, в 08:25 по японскому времени. Модель предназначена для работы с инструментами Odysseus: она умеет искать информацию, просматривать веб-страницы, составлять письма и работать с календарём.

«Она может разбирать вашу почту, открывать сайты, искать нужное, управлять календарём, списком дел и заметками — всем этим внутри Odysseus», — рассказал Чельберг.

По словам блогера, на создание своей модели его подтолкнули постоянные проблемы, с которыми пользователи сталкивались в Odysseus при запуске других локальных моделей.

«И тут меня осенило. Я просто обучу собственный ИИ, и тогда, если у кого-то возникнет проблема, я смогу её исправить», — рассказал он.

По замыслу PewDiePie, модель должна понимать инструменты платформы, правильно выбирать их, передавать допустимые аргументы, обрабатывать ответы инструментов и кратко сообщать результат пользователю.

Для обучения Чельберг хотел получить примеры реальной работы Odysseus от пользователей. По словам блогера, платформа сама не собирает эти данные, поэтому он попросил пользователей присылать примеры добровольно и создал отдельный сайт для их отправки. План в итоге не сработал: по словам блогера, данные почти никто не прислал, поэтому ему пришлось готовить обучающие данные самому.

Отдельную часть работы Чельберг посвятил освобождению моделей от цензуры. По его словам, он использовал открытую программу Heretic: модели давали запросы, на которые она отказывалась отвечать, затем выявляли и изменяли связанные с отказом ограничения. При этом блогер отметил, что сохранил запреты для запросов, связанных с причинением вреда другим людям или самому пользователю.

После первоначального обучения Чельберг продолжил настройку Ajax методом GRPO. В одном из испытаний модель выполняла одну и ту же задачу 16 раз.

«Если она решает её хотя бы один раз из этих шестнадцати, это ценные обучающие данные», — объяснил PewDiePie. По его словам, сначала результаты улучшались, затем рост остановился. Для продолжения работы ему пришлось готовить дополнительные задачи. На их тестирование ушло несколько недель.

На момент записи видео, по оценке самого Чельберга, Ajax выполняла поставленные ей задачи «в девяти случаях из десяти». Он называет готовую модель первой версией: перед публикацией ему ещё предстоят повторная настройка отказов, квантование и проверка результатов.

Как рассказал блогер, первоначально он собирался обучить модель большего размера, но выбрал меньшую, чтобы её могли запускать пользователи на собственных компьютерах.

«Я очень верю в небольшую модель, обученную для конкретной системы инструментов», — объясняет он в видео.