По данным источников, сигналы от главы Amazon Энди Джесси стали спусковым крючком для решения администрации Трампа ограничить доступ к самым мощным ИИ-моделям Anthropic
Решение администрации Дональда Трампа ограничить иностранным пользователям доступ к наиболее мощным моделям искусственного интеллекта компании Anthropic было принято после предупреждений со стороны Amazon. Об этом со ссылкой на источники, знакомые с ситуацией, сообщает The Wall Street Journal.
По данным собеседников издания, генеральный директор Amazon Энди Джесси (Andy Jassy) сообщил министру финансов США Скотту Бессенту (Scott Bessent) и другим чиновникам, что специалисты компании смогли заставить модель Fable 5 выдавать информацию, которая потенциально может использоваться при подготовке кибератак и должна была оставаться недоступной пользователям.
После этих обращений представители Белого дома провели совещание по вопросу возможных рисков, а эксперты по безопасности начали проверять выводы Amazon. По словам источников, чиновники потребовали от Anthropic устранить обнаруженные проблемы либо временно отключить модель. В результате власти пришли к выводу, что наиболее быстрым способом снизить риск станет ограничение доступа к системе для иностранных правительств, компаний и частных лиц. Несмотря на опасения, что такие меры могут замедлить развитие отрасли, Дональд Трамп одобрил решение.
Изображение сгенерировано: Nano Banana
Дополнительные вопросы у чиновников возникли после переговоров с генеральным директором компании Дарио Амодеи. Некоторые участники обсуждений сочли, что Anthropic не проявляет достаточной готовности к сотрудничеству с государственными специалистами по безопасности.
В ответ на действия правительства Anthropic объявила о полном отключении доступа к моделям Mythos и Fable для всех пользователей, чтобы обеспечить соблюдение новых требований. В компании предупредили, что это может осложнить работу организаций по всему миру, использующих такие инструменты для поиска уязвимостей в программном обеспечении. Кроме того, многие сотрудники Anthropic родились за пределами США, поэтому ограничения фактически лишили часть специалистов доступа к новейшим моделям.
Ситуация выглядит необычно ещё и потому, что Amazon остаётся одним из крупнейших инвесторов Anthropic. Корпорация не только вложила значительные средства в стартап, но и предоставляет ему вычислительную инфраструктуру и микросхемы для центров обработки данных. При этом сама Amazon использует передовые ИИ-системы для анализа программного обеспечения и поиска уязвимостей.
Anthropic настаивает, что обнаруженные проблемы не представляют серьёзной угрозы. Компания заявляет, что выявленные Amazon возможности относятся к сравнительно простым сценариям и не являются полноценным обходом встроенных защитных механизмов. По словам представителей стартапа, аналогичные результаты способны показывать и другие доступные модели искусственного интеллекта.
Часть независимых экспертов придерживается схожей точки зрения. Согласно отчёту Amazon, с которым ознакомились специалисты по кибербезопасности, Fable смогла выявить уязвимости как минимум в четырёх программных продуктах после получения специально подготовленной последовательности запросов. Однако основатель компании GreyNoise Intelligence Эндрю Моррис (Andrew Morris) отметил, что это ещё далеко от получения действительно опасной информации, которая могла бы использоваться для проведения реальных атак.
Тем не менее опасения вызвало другое свойство модели. Anthropic известна тем, что её системы способны не только находить программные ошибки, но и помогать создавать код для их эксплуатации. По словам Морриса, исследователи Amazon не смогли получить доступ к этой функциональности, поскольку она остаётся защищённой встроенными ограничениями.
События последних дней стали очередным эпизодом затяжного конфликта между Anthropic и администрацией Трампа. Белый дом неоднократно критиковал компанию за её подход к вопросам безопасности и связи с представителями предыдущей администрации США. Дополнительное напряжение возникло вокруг использования технологий Anthropic американскими военными структурами. Спор уже привёл к судебным разбирательствам между компанией и государственными ведомствами.
По мнению ряда аналитиков, история с Fable и Mythos демонстрирует растущее влияние американских властей на рынок искусственного интеллекта. Вместе с недавними инициативами по усилению государственного контроля над передовыми моделями этот случай показывает, насколько быстро новые данные о возможностях ИИ могут влиять не только на регулирование отрасли, но и на положение крупнейших технологических компаний.