Чем рискует агент? — Да, ничем.
Я поражаюсь, как многие люди всерьез говорят, что ИИ — эти их юрист, маркетолог, доктор, психотерапевт, ко-фаундер или даже спутник жизни. Некоторые идут дальше — собирают целые команды агентов, строят из них советы директоров…
И радуются, как дети — ах, мне не надо больше нанимать живых людей и строить с ними отношения.
Нет, я нисколько не против ИИ во всех его проявлениях. Я только за. Я сам начинаю и заканчиваю день с диалога с чатиком. Пишу тексты или пилю код — разумеется, все с ИИ. Токены кончились — работа встала.
Но ни разу — ни разу у меня не возникало мысли поболтать с ним по душам. ИИ — это просто инструмент, который помогает мне работать или удовлетворять любопытство. Ничего более.
Почему я так категоричен? — Потому что у ИИ нет шкуры в игре. Помните, была такая книжка Нассима нашего Талеба? Суть ее проста: тому, кто лично не рискует, нельзя доверять.
Говоря по-нашему, ИИ за базар не отвечает. Дело даже не в том, что он может галлюцинировать или просто врать — люди тоже так делают. Проблема в том, что он вообще ничем не рискует и поэтому может творить любую дичь.
Как какой-нибудь евробюрократ, сидя в Брюсселе придумывает нелепые регуляции. Его никто не избирал, его практически невозможно уволить, на него некому жаловаться. И он может вечно творить свою дичь.
Допустим, вы решили замутить стартап вместе со своим силиконовым другом. Поскребли по сусекам и набрали деньжат. А он что внесет в качестве своей доли? Только интеллект? — Да чтоб я так жил! Возьмите меня ко-фаундером! Если вдруг что пойдет не так, то я не виноват, сами разгребайте.
Человек всегда чем-то рискует, ему всегда есть, что терять. Относительно этой оси он и оценивает свои поступки. Потому что могут быть последствия. Помните Джона Уика? — «Actions have consequences», «Действия имеют последствия».
Только не для ИИ. Даже если вы его выключите или просто не оплатите подписку на следующий месяц, ему все равно. Я не верю, что модель прям сама так переживала, что ее могут отключить и сопротивлялась. Какой промт написали, так она себя и вела. Не ведитесь на этот псевдо-антропоморфизм.
Подписывайтесь на мой канал Agentic Enterprise