AI brain fry: когда ИИ увеличивает эффективность(зачеркнуто) вероятность перегруза
В Harvard Business Review это уже описали как AI brain fry. Авторы из BCG опираются на исследование среди 1 488 работников крупных компаний в США и пишут про перегруз внимания, рост числа ошибок, перегрузку решениями и желание уйти с работы.
В той же статье есть фраза пользователя Gas Town:
Too much going on for you to reasonably comprehend.
На русский это можно перевести как:
Слишком много, чтобы осмыслить.
На мой взгляд, это очень точно попадает в происходящее. Мы привыкли думать, что автоматизация снимает нагрузку. Но на практике агенты и генеративные инструменты нередко добавляют новый слой контроля:
-
Их надо ограничивать во избежание мусорной информации.
-
Полуечнный результат надо интерпретировать, так как не всегда понятно, что имеется в виду.
-
Часто ошибки приходится разбирать уже в боевом продукте, а не в тестовом.
LeadDev хорошо описывает это на примере агентов, которые пишут код. Причём всем людям из статьи всё это нравится. Из-за этого они начинают дольше сидеть за компьютером, в таком же темпе работать и в выходные, и жить с ощущением, что можно успеть сделать ещё немного. Это замкнутый круг. Но вообще это FOMO.
Оригинальнал статьи опубликован в блоге: https://www.ytdev.me/essays/The-Risks-of-AI-Implementation-in-Business-Why-Efficiency-May-Be-an-Illusion