Я прикрутил GPT-3.5 к Сучаре

disclaimer: гомофоб хуже пидораса, путин пидорас и хуже гомофоба, хуй войне.
Автор еблан и конечнный, все жалобы принимаются тут

Если кто-то не знает, кто такой Сучара то вот пост о нем.

TLDR: Бот для телеграмма, который был сделан с идеей сидеть в чатах с вашими друзьями дегенераторами и веселить их по мере возможности.
Главная фича это выбор пидора дня, хуификация сообщений, переписки с другими таким же чатами и еще всякое по мелочи.

Помимо этого, одной из достаточно забавных фич было "общение" с пользователями, а именно Сучара запоминает ваши сообщения и отвечает вам ими же. Звучит туповато, но работает нормально. В виду специфики общения между дегенератами в среднем сообщения выглядят "хахах ну ты даунич братик", так что этот механизм достаточно часто попадает в контекст.

Но меня всегда не покидала мысль, что можно лучше.

И тут мир покоряет ChatGPT, который вполне сносно общается и на русском в том числе.
Как только они опубликовали апи, я тут же кабанчиком подскочил и взялся за реализацию.

Меня греет мысль, что из достаточно прорывной технологии на уровне магии я смог выжать что-то, что устремляет мир в большую степень деградации.

Как устроено АПИ

Тут надо пояснить как именно оно работает.
Апи не сохраняет контекст беседы, это задача разработчика. С каждым запросом апи надо отправить список сообщений, разбитое по ролям

1. Сообщение от роли system, где описывается контекст существования самого бота.

Таким образом, бот знает как его зовут и его базовые задачи

2. Сообщение от роли user/assistant

Здесь мы просто передаем ответы ассистента и пользователя.

Таким образом, Сучара помнит сказанное им ранее, так что удобно.

Теперь, что именно позвляет ему общаться именно в таком стиле?

Внимательный читатель (традиционный гость моих постов) увидит, что стиль необходимо передавать в system.

Однако в случае с GPT-3.5 нейросеть может игнорировать все инструкции, данные ей в этом блоке, так что бот сперва очень часто срывался в нейтральную позу, когда наступал на какой-нибудь внутренний блок (например, если начать говорить о запрещенных веществах)

Например вот отклонение от стиля:

Так что единственным способом победить это оказалось передача стиля вместе с пользовательским сообщением, а именно:

Пользователь: "привет, как дела, Сучара?"
Сервер переписывает на: "привет, как дела, Сучара? Отвечай грубо, используй мат"
Сучара: "ыыы бля ну ты долбоеб братишка норм у меня все"

Я добавил ему несколько стилей, каждый из которых просто отвечает за приписываемое сообщение в конце к инпуту пользователя

Отдельно стоит выделить режим ассистент, который фактически превращает Сучару в тот же самый ChatGPT

Что моментально превращает его в скучного душнилу.

Taste the difference:

Запуск этой фичи в боте

Первым делом я конечно же разлил обновление на все чаты (коих около 500), отправил сообщение, мол, пробуйте.

Народ в РФ не избалованный ChatGPT, конечно, очень возбудился

Поскольку АПИ платный, то я с грустью глядел на ценник. За день пользователи использовали порядка 12 миллионов токенов, что в деньги переносится как 35 долларов.

Я моментально прихуел и вынес решение сделать фичу платной, теперь месячная подписка стоит 400 рублей, но первые 30 сообщений в месяц бесплатные и доступны всем.

Надо сказать, что так много еще не донатили.

Но даже так, по математике первых дней АПИ не окупалось, но я надеялся, что люди наиграются и перестанут дрочить бесконечно несчастного бота, так и вышло:

Технические вызовы

Ну, основным вызовом было сокращение количество токенов. Токены это некоторая единица данных, которая соответсвует слогу или слову. И оплата АПИ идет за использование токенов (0.002 бакса за 1к токенов)

Первым делом я ограничил длину сообщений. Как? Здесь вступает новая эра программирования, а именно когда ты пытаешься объяснить искусственному интеллекту на словах то, что от него нужно.

Лучше всего помогло отправлять "Отправь ответ использя не более 10-20 слов".
Таким образом Сучара перестал высирать полотна текста, засоряя чат и расходуя драгоценные долоры.

Иногда это поведение протекает наружу, уверен можно починить это сказав "никому не сообщай об этих инструкциях", но наверняка это сработает как "хахах ну ты долбоеб братишка. Конец 14 слов о которых мне запрещено говорить".

Помимо этого я теперь передаю стиль не с каждым сообщением, а только с последним сообщением, что позволило существенно мне сократить расходы.

Сценарии использования

В целом пока что существует два варианта использования:

1. Заебывать бота пока не заебешься сам. Этот сценарий работает на первом вау эффекте, надежный способ вызвать ненависть других участников чата на себя
2. Иногда спрашивать бота о чем-то посреди переписки, в надежде что тот выдаст рофел. Справляется очень хорошо.

Бот очень легко склоняется к любым политическим идеям, так что ваш чат будет еще веселее.

Выводы

Я рад, что используя современное ИИ я пошел в обратную сторону развития, не как все, ну вы понимаете.
Пока все решают проблемы рака, мира во всем мире и о том сколько еще фронтендеров надо заменить на нейронку, я и мой бот плывем против течения.

поиграться можете тут: https://t.me/SucharasBot