Что вы делаете, чтобы не быть зависимыми от GPT-4?

 Публичный пост

Я использую GPT-4 каждый день на протяжении многих месяцев примерно для следующих целей:

  • написание кода для решения задач по учебе и работе
  • общение через войс фичу для улучшения французского и отработки бытовых ситуаций перед тем, как они случаются в реальной жизни с нужной лексикой
  • режим болталки
  • режим карманного психолога / коуча

...

На днях я заметила, что

  1. иногда ленюсь делать самостоятельно то, что хорошо сделает гпт, даже если это будет полезно для моего развития, впадая тем самым в зависимость от инструмента (раз гпт чат недоступен значит сделаю эти задачи в другой час / день)

  2. стала чаще выключать критическое мышление и слепо доверять тому, что написано, отправляя, скажем, рабочий код без дополнительных проверок по темам, которые не успела пройти по учебе или не вчитываясь в саммари статьи (правда на неинтересную мне тему), по которой нужно сдать отчет

Мне кажется, что это может перерасти в большую проблему со временем, кто-то уже замечал за собой подобное? Предлагаю побрейнштормить на тему best practices для взаимодействия с гпт-подобными системами для увеличения продуктивности без ущерба своим когнитивным способностям.

Связанные посты
26 комментариев 👇

  Развернуть 1 комментарий

Не использую ChatGPT

Я просто не знаю какие мои задачи она может решить.

Код? Последние два места работы - это весьма узкие области где просто нет достаточно открытых источников, чтобы было что-то вменяемое.

Писать тесты? Господи, какое ж говно она делает вместо тестов.

Тексты мне писать не надо.

Один раз попросил написать Roadmap изучения C и Linux Kernel, прикольно, но слабоприменимо еще раз.

  Развернуть 1 комментарий

@urtow, аналогично! Для разработки не нашел применений. Попробовал описать ей класс со сложным поведением, получилось говно с галлюцинациями. Ну окей, опишу поподробнее. Пока писал понял что трачу время и проще самому написать, чем объяснять шайтан машине, да и еще с негарантированным результатом. Потом это код все равно же самому вычитывать и исправлять.

Но таки в паре кейсов нашел для себя пользу:

  1. Нейминг (название приложения и доменное имя). "Я сделал опенсорс приложение, оно делает то-то и то-то, придумай 10 вариантов релеванных имен, чтобы они были не банальными, и уникальными".
  2. Часто использовал когда искал работу. Сделать описание для линкедин, написать сопроводительное письмо, написать фоллоу ап письмо, написать вежливый отказ от оффера, вежливо попросить больше денег.
  Развернуть 1 комментарий

Мне не кажется это проблемой. Если инструмент решает прошлые задачи лучше/быстрее/дешевле, то я буду использовать его. Если у меня не будет такой возможности, чтож, придется по-старинке.

Не думаю что это влияет на когнитивные способности. Это же как калькулятор - да, люди стали хуже и медленнее считать в уме с его массовой доступностью. Но разве это проблема?

  Развернуть 1 комментарий

@artyom-space, таки иногда проблема, сложить на рынке для некоторых продавцов огурцов

  Развернуть 1 комментарий
Дмитрий Тимаков Руководитель направления AI 27 декабря 2023

Что я делаю, чтобы не быть зависимым от GPT-4?
Все очень просто. Я беру Open Source Мистраль, Ламаиндекс, Сайгу итд, делаю свою LLM модель c блекджеком и под свои задачи и начинаю зависеть от нее вместо GPT-4.
Получается и абсолютно бесплатно (разумеется, кроме нескольких миллионов за видюхи для сервера + аренда виртуалочек по 400к во время разработки), и секьюрно (байтики не летят в облачка), и работает как тебе надо (например, отвечает по моей большой базе знаний)

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

@timakovdmitry, так 7лярдовые модели в 4битной квантизации влезают даже на 2070 супер (угадай откуда знаю), зачем платить за серваки?

  Развернуть 1 комментарий

@mighty_conrad, ну так по разным причинам. Можно ужать и до и до 4.5 Гб, но тогда:

  1. качество будет хуже (не проверяли на сколько)
  2. Обучать тогда не сможем, т.к. нужно минимум 2х памяти от веса модели
  3. Обучение квантовоной модели хуже проходит чем с большими весами

Для инференса можно использовать (и то, не для нашей промышленной нагрузки)

  Развернуть 1 комментарий

@timakovdmitry, со всем согласен, но для общего и личного пользования достаточно только инференса и, как я понимаю, сота пока в том, чтобы не тренировать модель, а делать обвесы, типа тех же RAG.

Ситация интересная возникает: mixtral-8x7B в четырех битах влезает в 23 гига (теоретически), если верить лягушатникам, побеждает llama2-70B в бенчмарках не на много. Кажется, что в течение ближайшего полугода можно будет не снимать штаны последние и запустить у себя на своём железе вполне себе опенсорс, конкуретноспособный с gpt3.5.

  Развернуть 1 комментарий

@mighty_conrad, тут же в первую очередь все от задачи зависит. Просто вопросы позадавать на общие темы, поздравления с днюхой сгенерить, код пописать и тд- большие GPT, вероятно, еще долго будут впереди. А вот для специфических кейсов опенсорс со своим алайментом может уже и сейчас побеждать.

  Развернуть 1 комментарий

Я понимаю некоторую обеспокоенность, тоже её испытываю, что дескать, "я ж так и мысли формулировать разучусь" когда лень нормально писать комментарий и я скармливаю гпт плохо сформулированные фразы с ошибками и прошу исправить и дополнить. Однако отмахиваюсь от этих мыслей пока.

Created by chatGPT

  Развернуть 1 комментарий

Кажется, он меня пытается в чем-то убедить

  Развернуть 1 комментарий

Я примерно с января каждый день использую GPT и тогда же начал писать ежедневные посты/заметки/мысли.

Мне кажется, эти две привычки балансируют друг друга - с одной стороны, GPT сильно усиляет меня и автоматизирует работу с информацией, а ежедневное письмо усиливает мышление.

Ещё настроил кастомную инструкцию:

  • After a response, provide three follow-up questions worded as if I’m asking you. Format in bold as Q1, Q2, and Q3. Place two line breaks (“\n”) before and after each question for spacing. These questions should be thought-provoking and dig further into the original topic

  Развернуть 1 комментарий

Использовать GPT как помощника — нормально. Заменять GPT свои собственные навыки — опасность стагнации.

Поэтому я использую его либо в рутинных задачах, где я сам знаю как надо, но мне лень. Либо, если проблема для меня новая, то GPT сначала выступает как ментор и "учит" меня.

Получается найти баланс между тем, чтобы не бояться GPT и решать с его помощью порой срочные проблемы, но при этом я не боюсь, что начну деградировать.

  Развернуть 1 комментарий

Живу в России

  Развернуть 1 комментарий

@funkylen, ты погляди, какой замечательный подгон, как раз для таких ситуаций, сделал наш одноклубень: https://vas3k.club/project/21627/

@legeminus <3 спасибо тебе еще раз

  Развернуть 1 комментарий
Миша Безверхий управляющий изделием 27 декабря 2023

Использую gpt для решения рутинных задач, которые легко могу сформулировать, а свои когнитивные способности трачу на что-то другое.
Например, недавно писал бота, chatgpt никак не справлялась с написанием функции, которая будет делать тепловую карту, где положительным значениям будут соответствовать оттенки от жёлтого до красного, а 0 — зелёный. Пришлось самому думать, как это в логику завернуть, зато делал это со свежей головой, потому что весь остальной код мне сгенерировала моделька, а мне оставалось его только читать и понимать, что он делает.
Ах да, это был мой первый работающий бот на питоне.

  Развернуть 1 комментарий

Ничего не делаю, зависимость от такого инструмента это нормально, новая технологическая революция уже здесь.
Замените в вашем вопросе "GPT-4" на "электричество" или "интернет", вас же не пугает зависимость от электричества или интернета?

  Развернуть 1 комментарий

@strangeman, ну вообще то остаться без электричества и интернета уныло, и потому для того и другого полезно иметь бэкап.
Собственно, в случае ChatGPT надо иметь альтернативную штуку теперь. А то вдруг ChatGPT забанят.

  Развернуть 1 комментарий

@slonoed, ну бэкап-то есть, как self-hosted LLM, так и всякие конкуренты разной степени качества.

Вопрос, как я понял, был в другом, "Вдруг я так привыкну к этой помощи, что без GPT вообще не смогу ничего делать". Для меня это звучит как "вдруг я так привыкну к автомобилю, что на лошади скакать разучусь". Ну да, разучишься, и это нормально, лошади уходят в прошлое, и в случае с GPT период повсеместного адопшена будет в десятки раз короче, чем в случае с автомобилями.

  Развернуть 1 комментарий

В своей программистской работе я его редко использую. В основном для решения задач, в специфику которых я сознательно не хочу погружаться. Например, заранее зная, что мой фреймворк имеет такие-то ограничения, которые надо обойти через жопу, я в гробу видал придумывать это самостоятельно с нуля. "Спросить у компьютера", конечно, помогает 50 на 50, потому что GPT 4 тоже может ерунды написать, но хотя бы будет, от чего отталкиваться.
Черновики bash-скриптов там тоже приятно генерить. Сразу их запускать, конечно, стремно, поэтому получается небольшая учебная сессия, когда перечитываю и поправляю, что он написал.

В остальном, ну, сносные логотипчики и иконки для прототипов приложений с ChatGPT удобно рисовать, еще в переговорах частенько помогает. Язык у меня не подвешен, торговаться и выбивать себе выгоду бывает ссыкотно, так что часть этой работы я делегирую вундервафле. Она хоть и генерирует довольно часто слишком заумный текст, который приходится переписывать под себя, но по дороге она меня несколько раз убеждает в том, что я все правильно пишу и делаю, тем самым придавая уверенности.

Github Copilot я выбросил, потому что в какой-то момент выработался рефлекс "напечатать кусок и подождать пару секунд, авось что дельное вылезет", который начал распространяться за пределы IDE, и это уже проблема. Брешет он тоже порядочно, так что все равно приходится перечитывать и исправлять, что совсем не ускоряет работу.

Больше стал, кстати, юзать phind.com, AI-поисковик, вот это прям приятная и не зазорная штука.

  Развернуть 1 комментарий

Один из 3-ех вариантов или все три одновременно.

  1. Пишу сам и прошу улучшить, обратить внимание на определенные узкие места, которые знаю сам
  2. Пишу псевдокод вместо текстового промпта
  3. Использую gpt-3.5

Главное — всегда проверять результат.

  Развернуть 1 комментарий

@mikekosulin, можно пример "псевдокода"?

  Развернуть 1 комментарий
🕵️ Юзер скрыл свои комментарии от публичного просмотра...

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб