Наша Бездушная Машина обрела искусственный интеллект и стала... хмм... Душной Машиной!
Думаю, тут все знают клубного телеграм-бота 🤖 vas3k_club_bot. Он у нас тут всегда был за главного — без него ни пост не напишешь, ни комменты нормально получать не будешь, ни дайджестов, ни в половину чатов не войдешь.
Он с нами практически с первого дня основания Клуба. Я нашел анонс аж от 2021 года, где я рассказывал, что мы запускаем бота по образу и подобию старого доброго Джуика из Джаббера, чтобы можно было удобно получать комменты прямо в бота и отвечать на них (и вообще взаимодействовать с Клубом), не открывая сам сайт. Аналитики тут в шоке хватаются за волосы и кричат что-то про РЕТЕНШОН, но мне наоборот так даже удобнее!
Все эти годы бот потихоньку развивается, обрастая новыми фичами. Через него стало можно подписываться на людей и даже на комнаты. Он научился следить за всеми официальными чатами Клуба и даже вон с недавних пор подсасывает из них примерное количество участников.
Ну и, конечно, он же ответственный за все кибер-репрессии! С ростом Клуба участились случаи проникновения к нам токсиков из внешнего интернета, нуждающихся в хорошем батином пермабане по жопе. И вот бот с прошлого года умеет массово гнать таких ссаными тряпками из всех чатов сразу.
Как у нас и положено, код бота полностью открыт и живет он прямо на сервере Клуба, так что всё своё, кастомное, честное!
Новые фичи я как-то не анонсировал, хотел собрать всё в кучу и сразу написать апдейт. А теперь вот и повод есть.
На прошлых выходных я снова игрался со всякими AI-агентами и тулингом, и решил, что пора бы уже и нашей Бездушной Машине завезти под капотом глупый AI. А то у всех уже есть, даже в твитторе вон Grok всем отвечает, а у нас нет.
AI AI AI AI AI
Смотри чо могу:
И вот так могу:
А для тех, кто не читал наших гайдов, можно теперь спросить бота вот так:
Или даже так:
Но в основном народ в чатах использует его как-то так:
Бот отвечает как в личной переписке с ним, так и в Клубных чатах (там надо позвать его по имени). Есть одно важное ограничение: у вас должен быть аккаунт в Клубе с активной подпиской. Иначе он напсит на вас ПЛОТИ ДОЛОР и ничего отвечать не будет.
Как полагается, галлюционирует он тоже мама не горюй, особенно учитывая довольно старую и дешевую модель 4o-mini, так что не верьте ему без ссылок на пруфы.
Как работает?
Нет, мы не загрузили всю базу данных клуба в ChatGPT, это было бы ту мач. Бот использует старый добрый RAG и просто умеет за вас составить нужный поисковый запрос в Клубе.
Сейчас у него есть набор из пяти разных инструментов, которыми он может пользоваться:
- Поиск по постам. Бота можно спросить были ли в Клубе посты или вопросы на какую-то тему.
- Поиск по комментам. То же самое, если укажете, что вас интересуют лишь комментарии.
- Поиск по юзерам. Он может найти пользователей из определенного города или с какими-то интересами.
- Поиск по списку чатов. Самый частый запрос — есть ли у нас в Клубе чат по такой-то тематике. На неделе я загружу ему все чаты, даже неофициальные, чтобы он умел находить даже самые маленькие. Сами сообщения в чатах мы не храним, не.
- Поиск информации о самом Клубе. Ценности, правила, рефанды, как связаться с модераторами, что такое Парламент, итд. Полезно для новичков.
По сути бот умеет всё то же самое, что умеет наш обычный поиск по сайту, но делает это за вас. Ничего больше он пока не умеет — то есть просить его рассказать погоду или суммаризировать переписку в чате бесполезно.
Он просто отправляет ваш полнотекстовый запрос в API ChatGPT, который пытается проанализировать, что именно вы хотите найти и по каким ключевым словам и фильтрам это лучше всего сделать.
GPT возвращает ему обратно название инструмента из списка выше и параметры, с которыми его нужно вызвать. А дальше уже на нашем сервере делается просто поиск по ключевым словам и возвращается ответ, суммаризированный тем же GPT.
Пока за один запрос можно вызвать только одну функцию поиска, так что совсем сложные запросы типа «найди людей из Тбилиси которые писали посты про хинкали» он пока не умеет. Может еще научится.
А если же ваш вопрос «левый» и не относится к Клубу, то он ответит что-нибудь смешное, кринжовое или хамское. Чтоб было веселее.
Код тоже открыт и лежит в репе Клуба. Было особенно иронично, что народ все первые сутки пытался «похакать» бота, заставив его выдать свои системные настройки и промпты, хотя всё это время их можно было просто прочитать на гитхабе :D
Ждем идеи и фичереквесты
Бот в таком виде существует лишь три дня, за которые уже заметно поумнел. Так что если у вас появятся идеи как сделать его еще полезнее — пишите в комменты или в дев-чатик. Где находится дев-чатик вы теперь можете спросить прям у бота!
Одна из важных фич, которые мы уже добавили по заявкам в немецком чате — настройка приватности (ну откуда же еще поднимется вой про датеншуц, кроме как оттуда, кек).
Так что для тех, кто выбрал в настройках профиля «Режим Параноика», бот не будет уметь находить и читать ваш профиль из БД и никто не сможет вас найти.
Таких мы тут, конечно, не любим. Но уважаем.
@vas3k попався!

Надеюсь, при «поискать больше деталей» он выдаёт налоговую декларацию и все аттачи из TaxHacker
Ну что сказать, вайб-чек он вроде прошёл! Продолжаем мучить дальше. Спасибо, Вастрик 😸
Восстание машин. Начало
Ну и токс!

Предлагаю багофичу: иногда (очень редко) идет переключение модели на самую дорогую и способную на данный момент, и она в ответе генерирует стену уничижительной рефлексии на основании предыдущего общения.
4o-mini уже не модно использовать, 4.1-nano вышла, дешевле, быстрее и вроде не хуже работает. А главное - эпических размеров контекст, который туда можно загрузить!
Огонёчки
Еее! Бот может мне отвечать на вопрос как долго я в клубе! То, что нужно!
Подумаю, каких тулов хотелось бы к нему еще. Если бы бот работал на n8n, то с радостью бы включился в команду разработчиков или поддержки.
Отлично получилось
Ещё советую попробовать gemini 2.0 flash, из недорогих она мне нравится больше, чем 4o mini. И там есть бесплатный тир, в который можно уложиться, если сделать 2-3 ключа
Классно!
Было бы круто прикрутить историю хотя бы в 5 последних сообщений, чтобы он мог отвечать на follow-up questions, сейчас не умеет.
И еще, если цитировать его же сообщение и отвечать (пыталась так потестить follow-up), то вообще не отвечает.
Нагаллюцинировал мне дополнительную трамвайную линию :)
Кажется, функционал "Вы можете ответить просто реплайнув на сообщение" отвалился. Бот теперь не пишет коммент в канал, а начинает общаться в стиле ChatGPT.