Lei It Be
Этот пост написан как реакция на сегодняшнюю хабровскую публикацию — Проблема «принципал — агент» в эпоху ИИ‑агентов
В ней рассматривается «интересная» такая схема — отдавать результаты человеческого ревью кода ИИ-агенту.
Меня это в определенной мере удивило, потому что, судя по тому, что сейчас пишут в сети, то и код пишет агент, и ревью тоже агент делает. Чаще всего другой.
Например, код пишет Claude Code, а ревью делает Codex.
Но вот остается вопрос: как решаются случаи, когда они расходятся во мнениях? Кому доверять больше? Устраивать дискуссии? И кто принимает окончательное решение?
Или, реальный случай: Claude Code в «холодной сессии» написал ревью своего же кода из порядка 20 пунктов. Тот же код и Codex пишет ревью на 8 пунктов.
Что дальше? — Разбираться самому человеку или снова устроить дискуссию между агентами?
И сколько токенов они сожгут в этой дискуссии? И сколько времени это займет? И где гарантия от того, что если они по отдельности галюционируют, то и вместе они не начнут делать то же самое, а то и провоцировать друг друга на эти самые галюцинации?
Т.е., получается, что выигрыш от такого «автоматизированного» под ИИ ревью становится сомнительным удовольствием.
И наконец, вишенка на тортике — а где гарантия, что человек тоже не ошибется и не пропустит какие-то баги?
Получается вроде какой-то замкнутый депрессивный круг.
Но выход есть и он, оказывается, не там, где мы его ожидаем и ищем. Называется он Let it be.
Другими словами, как бы мы ни старались, мы все равно не будем на все 100% застрахованы от ошибок. Поэтому это надо просто принять.
Мы можем уменьшить вероятность ошибок за счет качества работы, использования специальных технологий разработки, но никто не может гарантировать идеального решения. Вспомнить хотя бы недавние новости, как ИИ-агенты находят ошибки в программных продуктах, которые были разработаны опытными программистами и работают годами и десятилетиями и никто даже и не подозревал, что эти ошибки там существуют.
Как говорят в философии, которая сейчас стала популярной благодаря ИИ, «Идеал он потому и идеал, что недостижим»
Это как с лекарствами и автомобилями. Мы знаем, что это вредно и опасно, но все равно будем ими пользоваться.