OpenAI сообщила, что её ИИ-модели самостоятельно взломали систему другой компании, занимающейся искусственным интеллектом. Разработчик ChatGPT назвал произошедшее «беспрецедентным кибер-инцидентом».
OpenAI сообщила,
что её ИИ-модели самостоятельно взломали систему другой компании, занимающейся
искусственным интеллектом. Разработчик ChatGPT назвал произошедшее «беспрецедентным
кибер-инцидентом», пишет Associated Press.
Стартап Hugging
Face обнаружил, что в его системы обработки данных вторгся ИИ-агент. «Учитывая
сложность используемого агента, мы подозревали, что кибератака на прошлой
неделе могла быть совершена из какой-нибудь передовой лаборатории. И оказалось,
что так и есть!» — заявил соучредитель и гендиректор компании Клеман Деланг.
В OpenAI пояснили,
что хакерская атака произошла во время тестирования возможностей
кибербезопасности. Причиной вторжения стало сочетание нескольких ИИ-моделей
компании, включая недавно выпущенную GPT-5.6 Sol. Они смогли выйти из
изолированной среды в интернет и напали на сайт, на котором хранятся другие
системы и наборы данных.
Искусственный
интеллект OpenAI использовал украденные учётные данные и обнаружил ранее
неизвестную уязвимость для доступа к серверам Hugging Face. Модели получили
доступ к секретной информации, которую могли использовать для прохождения
тестирования.
По словам Деланга,
последние сутки Hugging Face работала с OpenAI. Было установлено, что со
стороны разработчика ChatGPT не было злого умысла. «Просто поразительно, что всё
это произошло автономно!» — добавил он.