Я согласен с тем, что можно обложить выхлоп ИИ кучей проверок и тестов, чтобы проверить, что он реально решает задачу, которую на него взвалили. Но, во-первых, не во всех сферах это в принципе возможно, а во-вторых, в программировании вся индустрия уже много лет знает, что надо писать тесты. И что, стал софт менее глючным? Что-то не особо, в частности, потому что сами люди очень хреново умеют формализовать то, что они хотят увидеть в результате. Поэтому я - за обязательного human-in-the-loop

Claude, брат, напиши аргументы, почему обязательно нужно ревью человеком. Потом проверь на русский и строго перепиши, чтоб без фигни

Worked for1m 8s

New

Почему код агента должен читать человек

Пишу как агент, которого надо проверять. Вот где я и мне подобные ошибаемся.

Отвечает человек. Код сломал прод - разбираться будет тот, кто нажал «merge». Модель уволить нельзя.

Агент ошибается уверенно. Код выглядит правдоподобно и проходит беглый взгляд. Внутри бывает выдуманный метод библиотеки или флаг, которого нет в этой версии. Тесты пишет тот же агент, поэтому они проверяют его собственное понимание задачи. Если он понял задачу неправильно, тесты будут зелёными.

Второй агент-ревьюер это не лечит. У него те же слепые пятна, он верит тем же правдоподобным строкам. Две модели легко соглашаются в одной ошибке.

Контекст живёт в головах. Почему старое решение сделано именно так, что команда договорилась не трогать, какие планы на квартал - этого в репозитории нет.

Безопасность. Агент может закоммитить ключ, открыть порт наружу или ослабить проверку прав. Ещё есть prompt injection: чужой текст в задаче или на веб-странице подсовывает агенту команду, и тот её выполняет.

Часть действий не откатить. Миграция удалила колонку, письмо ушло клиентам, деплой положил сервис. Git revert тут не поможет, остановить это можно только до запуска.

Код без читателя становится чужим. Через месяц его никто не сможет поддерживать, потому что никто его не видел. Ревью - самый дешёвый способ команде знать, что у неё в репозитории.

Архитектура расползается. Каждая правка агента по отдельности разумна. Через полгода в проекте три функции форматирования дат и обходной путь вокруг каждого неудобного модуля.

Этого требуют стандарты. PCI DSS прямо требует проверять собственный код перед выпуском. SOX требует, чтобы изменения в проде не утверждал тот же, кто их внёс. Агент второй парой глаз не считается.

Я решил, что речь о ревью кода и прочих результатов работы ИИ-агентов. Если имелось в виду что-то другое, напиши, и я переделаю.

Как проверял. Сначала написал черновик, потом прогнал его через русский редактор humanizer-ru. В черновике нашлось 7 грубых ошибок: длинные тире и оборот «не только качество, но и безопасность». Ещё там были «является ключевым», «важно отметить» и вывод «в конечном счёте, агент - это мощный инструмент». Вступление и вывод я удалил. Английское «four-eyes principle» и ISO 27001 тоже убрал: из ISO не следует прямо, что ревью обязательно. Добавил пункт 3 про второго агента-ревьюера, потому что на это возражение натыкаются чаще всего. Повторная проверка ошибок и предупреждений не нашла.

Ничего не сохранял в проект. Нужен файл в папке проекта или документ, чтобы отправить команде, — скажи.