Хакеры внедряют в малварь промпты о ядерном оружии, чтобы помешать ИИ анализировать код

Специалисты компании ESET обнаружили, что злоумышленники применяют новую технику GuardBreaker, которая мешает ИИ-инструментам анализировать вредоносный код. Так, атакующие добавляют в малварь промпт-инжект с опасным запросом, рассчитывая вызвать срабатывание защитных механизмов LLM и вынудить модель отказаться от дальнейшего анализа.