LLM-бум породил не только новые возможности, но и новое поколение атак. За два года мы увидели реальные атаки на агенты: один вредоносный email и Copilot сливает платёжные данные клиентов, одно фальшивое GitHub issue и CI/CD пайплайн скомпрометирован, один тщательно настроенный промпт и AI-агент выполняет удалённый код на вашей машине. Это уже далеко не теория, а […]
Исследователи компании Varonis обнаружили три уязвимости в Microsoft Copilot Personal, которые получили общее название CoSnitch. С помощью этих багов атакующий мог вынудить ИИ-ассистента выполнить вредоносный промпт, похитить данные из подключенных сервисов или отравить постоянную память Copilot. Исследователи отмечают, что ключ к этой атаке им подсказал сам Copilot.
Год назад Microsoft начала тестирование функции COPILOT() в Excel, которая позволяла пользователям описывать желаемый результат текстом, а ИИ генерировал его. Теперь компания решила отказаться от опции после тестирования с пользователями Frontier и Insider. Читать далее
![[Перевод] Что я узнал, поместив GitHub Copilot за MITM‑прокси](https://habrastorage.org/getpro/habr/upload_files/916/48d/bd3/91648dbd3ff030f4d268169e6b695d1f.jpeg)
За последнюю пару лет появилось множество приложений на основе ИИ и ИИ‑функций. Чем больше появляется таких приложений, тем любопытнее мне становится изучить их внутреннюю работу. Надеюсь, мне удастся узнать что‑то новое; по крайней мере, почерпну какие‑нибудь знания о разработке десктопных приложений. В то же время я заметил, что каждый месяц всё быстрее исчерпываю свои кредиты Copilot. Это заставило меня выбрать его в качестве главного […]
Microsoft начинает объединять обычный Copilot и Microsoft 365 Copilot в одно приложение. Компания наконец разбирается с коллекцией собственных ИИ-помощников и заодно готовит основу для Copilot Super App, который должен появиться до конца 2026 года.
Навыки и MCP больше не придётся собирать заново для каждого клиента.Read More
Vercel объявили о публичной доступности Agent Plugins 1.0.0: открытого и независимого от конкретного вендора формата для упаковки расширений ИИ-агентов. Стандарт позволяет объединить Agent Skills и MCP-серверы в один переносимый плагин. Сейчас разработчикам расширений часто приходится адаптировать один и тот же Skill или MCP-сервер под форматы разных клиентов. Agent Plugins предлагает общую структуру каталога. Читать далее
Независимый норвежский ИБ-специалист Хокон Молей (Håkon Måløy) сообщил, что создал самораспространяющегося промпт-червя для Copilot for Word. По его словам, атакующий может скрыть вредоносные инструкции внутри документа, а ИИ-ассистент незаметно выполнит их и перенесет в новые файлы.
Руководящий комитет GCC официально принял политику, регулирующую использование искусственного интеллекта и больших языковых моделей в GNU Compiler Collection. Теперь проект будет отклонять любые материалы, если они содержат контент, созданный с помощью LLM или основанный на результатах их работы. Таким образом, ограничения касаются не только кода, напрямую скопированного из ChatGPT, Gemini или GitHub Copilot, но и кода, который позже отредактировал человек.
Классический подход к Application Security сегодня переживает кризис, ситуацию усугубляет бум AI-помощников (GitHub Copilot, Cursor, Claude). Разработка ускорилась кратно, но вместе с ней масштабировалась и генерация небезопасного кода. Разработчик теперь может сгенерировать за час то, что раньше писал день, при этом уязвимости тоже начинают появляться с такой же скоростью. Если процесс безопасности остался прежним, AppSec […]