TL;DR

1. Это GPT-бот для Telegram с открытым кодом
2. Есть публичная версия с оплатой по факту использования: долой подписки, ограничения на запросы и требования подписаться на каналы! https://t.me/godlike_gpt_bot
3. Поддержка гуглинга, просмотра веб-страниц, генерации изображений (в платной версии так вообще та самая новая моделька для генерации от OpenAI) и много чего ещё! Более того, для всего этого не нужно даже явно писать команды: ИИ сам понимает, когда нужно использовать инструменты

И, самое главное...
Есть кастомизация поведения: от системного промта и модели, заканчивая температурой/topP и прочими глубокими характеристиками.

Хоспади, зачем делать очередной GPT-бот?

Все платные и не очень решения, что мне известны, не имеют настолько глубоких настроек для кастомизации поведения. Все боты ограничиваются какой-то конкретной целью. Да и просто попросить GPT вести себя определенным образом бывает недостаточно: порой забывает, не слушается или просто путается. К тому же каждый раз вводить промпт перед задачей - лишняя трата ценного времени.

Решение в том, чтобы дать пользователю перед началом диалога настроить так называемый "system" промпт - именно его GPT слушается куда охотнее, не забывает в процессе диалога и так далее. Как раз это я и сделал.

Вы только посмотрите на один из самых веселых кейсов применения такого подхода:

Или, если угодно, менее грубый пример. Тут, в отличие от прошлого скрина, где используется пресет по умолчанию, мы явно пишем какой пресет использовать: sage. Названия тоже можно свои, конечно же : )

А вот примерно так выглядит редактирование пресета:

На чём написано?

Конечно, мой привычный стек тут скорее излишний: Java, Jooq и Flyway. Используются несколько собственных и сторонних библиотек (такие, как EvalEx, чтобы GPT не ошибался в математических расчетах). Но, даже не смотря на "жабу" и её склонность к потреблению памяти, получилось достаточно экономно: в heap-памяти всего 20-30 мб после работы GC... Самой бюджетной VPS'ки будет более чем достаточно, чтобы захостить свой инстанс бота! Впрочем, это уже технические детали: думаю, те, кому это может быть интересно, сами разберутся без труда : )

Немного про фичи

Режим контекста: есть одинарный и множественный. Объясняю на пальцах:

• Одинарный удобен для непрерывного общения, как будто общаешься просто в чатике с кем-то, без лишних действий по типу реплаев на прошлые сообщения. В то же время, чтобы контекст не стал слишком большой и LLM не путалась - бот автоматически "сжимает" давние сообщения. Так и токены экономим, и GPT работает как надо!
• Множественный режим требует постоянно реплаить на сообщение, чтобы продолжать ветку диалога. При этом он чётко хранит контекст, не сжимая. Это очень важно, когда нужно быть уверенным в переданной информации. К тому же, можно вести сразу несколько бесед одновременно с разными пресетами и контекстом!

Работа в беседах: можно добавить бота в групповой чат и он будет адекватно работать и в таких условиях. Более того, можно настроить условие реагирования на новые сообщения: с упоминанием или без (но это только если бот в админах). Последнее может пригодиться, например, для переводов между собеседниками. А благодаря пресетам можно ещё и в деталях объяснить с какого на какой язык, нужно ли уточнять, от кого было сообщение и так далее.

OpenAI Tools: в TL;DR я упоминал всякий гуглинг и прочие прелести без явных вызовов команд для этого: так вот, GPT сам понимает когда нужно вызывать методы, формирует аргументы для них и получает результат. Это достигается через передачу в запрос доступных методов и описание их через JSON Schema. Таким образом, есть поддержка как просто метода calculate для вычислений, так и рисование схем (программно, без использования моделек по типу DALL E), отправки файлов и даже телеговскими реакциями!

А самое важное, что все методы могут использовать и локальные модели, подключенные через Ollama, например. На моей памяти с ними хорошо работала Qwen.

Смешивание пресетов: конечно, хорошо, когда перед началом беседы мы можем указать нужное поведение. Но можно поменять его и прямо в процессе работы!
Более того, если указаны разные модели, и даже если разные провайдеры между пресетами (то есть, например, в одном - GPT 4.1 от OpenAI, а в другом - локальная Ollama) - все будет работать как по маслу: и модель, и настройки всяких температур, и пресет - всё поменяется, сохраняя контекст. Мы можем запросить какую-то информацию от OpenAI, а затем, просто указав в новом сообщении другой пресет, "перенести" последующие запросы к другому провайдеру. В общем, штука очень гибкая.

Ну, и конечно же, есть поддержка войсов, обработка изменённых сообщений (бот, увидев, что сообщение изменилось - изменит свой ответ тоже), картинок и стикеров:

Какие планы на будущее проекта?

1. В платной версии хитрым способом дать пользователям оплачивать токены напрямую картой/СБП, а не через Telegram Stars с конскими комиссиями. Не хитрым, к сожалению, нельзя: это запрещают политики AppStore и Google Play, а бана не хочется
2. Реферальная программа: надеюсь, немного поможет в продвижении : )
3. Послушать моих соклубчан о нужных фичах и по возможности реализовать их! Толик aka @anatolt сильно в этом помог. Кстати, спасибо тебе! : 3

Как помочь проекту?

Просто расскажите друзьям о нем, если им нужен подобный бот - это очень поможет проекту: https://t.me/godlike_gpt_bot
А еще можно поставить звездочку на гитхаб репозиторий - тоже классно!