После срочных переговоров в Вашингтоне администрация Дональда Трампа оставила в силе ограничения на флагманскую модель Anthropic, посчитав возможным обход её защит
Администрация Белого дома и компания Anthropic по итогам переговоров в понедельник в Вашингтоне не смогли согласовать позицию по модели Claude Fable 5: экспортные ограничения, введённые ранее из-за опасений обхода защитных механизмов, остаются в силе.
Обсуждение проходило с участием представителей Белого дома, Министерства торговли США и связанных с ними исследовательских структур, включая Центр стандартов и инноваций в области искусственного интеллекта и Офис национального директора по кибербезопасности. В диалоге также участвовали высокопоставленные чиновники, подключавшиеся к встречам дистанционно, включая министра торговли США Говарда Лютника.
Со стороны Anthropic переговоры вели сооснователь и директор по вычислительным системам Том Браун и руководитель направления внешних связей Сара Хек. В Вашингтон также прибыли руководитель команды комплексной проверки безопасности (red-teaming), Логан Грэм и старший исследователь безопасности Николас Карлини.
Ключевая точка конфликта — оценка риска «джейлбрейка», то есть обхода встроенных ограничений модели через специально сформулированные запросы. Администрация США считает, что такие обходы могут позволить получить доступ к расширенным возможностям модели Mythos, на базе которой построена Fable 5, фактически снимая заложенные ограничения.
Anthropic на протяжении последних дней настаивает, что эти опасения преувеличены и не отражают реальный уровень защищённости модели. Позицию компании поддерживает часть независимых специалистов по кибербезопасности, направивших в адрес регуляторов открытое письмо с критикой введённых ограничений.
Тем не менее, после анализа уязвимостей, на которые указали американские ведомства, включая участие Агентства национальной безопасности США (NSA), администрация пришла к выводу, что часть защит действительно может быть обойдена. Это и стало основанием для введения экспортных ограничений.
Отдельно обсуждается возможность возвращения Fable 5 в потребительский доступ, однако, по словам источников, это будет возможно только при полном устранении рисков обхода защит.
Ситуация осложняется более широким контекстом: Anthropic уже ведёт споры с Пентагоном по поводу использования своих моделей в военных задачах, а инвесторы компании пытаются оценить влияние конфликта с регуляторами на её дальнейшие перспективы.
На фоне разногласий усиливается и политический эффект: случай с Fable 5 фактически формирует прецедент взаимодействия крупных ИИ-лабораторий с государством. Для отрасли это означает переход к более раннему и плотному вовлечению регуляторов в разработку и запуск передовых моделей.
Итог переговоров пока что не меняет ситуацию: Claude Fable 5 остаётся под ограничениями, а спор о том, где проходит граница между «защитными механизмами» и «условной безопасностью», фактически только усиливается.