Анализ 100 млн сообщений из подпольных форумов не выявил массового перехода к ИИ: технологии используют точечно и в основном опытные участники
Киберпреступники не смогли существенно интегрировать инструменты искусственного интеллекта в свою деятельность — к такому выводу пришли авторы работы, проанализировавшие более 100 миллионов сообщений из подпольных форумов и сообществ, связанных с киберпреступностью. Исследование основано на данных базы CrimeBB, которая агрегирует посты с даркнета и закрытых площадок.
В работе, выполненной группой из Университета Эдинбурга, Кембриджского университета и Университета Стратклайда, рассматривались обсуждения с ноября 2022 года — момента массового появления ChatGPT и других больших языковых моделей. Целью было зафиксировать, как именно участники криминальных сообществ пробуют применять ИИ и меняется ли от этого структура их деятельности.
Главный результат оказался неожиданно «инерционным»: ИИ действительно используется, но не как инструмент массового снижения порога входа в киберпреступность. Напротив, наиболее заметные сценарии применения связаны с задачами, где уже есть автоматизация и техническая зрелость — например, маскировка паттернов, которые обычно выявляются системами киберзащиты, а также управление сетями ботов в социальных сетях для мошенничества и координированных кампаний действий.
Отдельно отмечается, что инструменты вроде ИИ-ассистентов для написания кода дают преимущество прежде всего уже опытным участникам. Для эффективного использования таких систем всё равно требуются знания инфраструктуры атак и понимание логики защитных механизмов, поэтому «демократизации киберпреступности» ещё произошло.
Авторы также фиксируют, что криминальные онлайн-сообщества в значительной степени уже давно индустриализированы: многие атаки строятся на готовых наборах инструментов, автоматизированных сервисах и купленных шаблонах. В этом контексте появление ИИ рассматривается скорее как эволюция существующих практик, а не как их радикальная перестройка.
При этом исследование указывает на смешанную картину рисков. С одной стороны, встроенные ограничения и фильтры в крупных чат-ботах уже заметно снижают часть потенциального вреда. С другой — фиксируются попытки обхода этих ограничений и манипуляции выводами моделей внутри закрытых сообществ.
Отдельный тревожный сигнал связан не с преступниками, а с легитимным сектором. По наблюдениям авторов, ключевая зона риска смещается в сторону плохо защищённых «агентных» систем — моделей, способных самостоятельно выполнять действия и принимать решения в рамках задач. Также упоминаются «vibecoded продукты» — программные решения, частично написанные с помощью ИИ без достаточной проверки безопасности.
В материале подчёркивается и социальный эффект: часть участников криминальных сообществ выражает опасения, что ИИ может лишить их работы в легальном IT-секторе, что потенциально может подталкивать некоторых из них к нелегальной деятельности.
Авторы исследования ожидают представить результаты на Workshop on the Economics of Information Security в Беркли в июне. Общий вывод формулируется осторожно: на текущем этапе главная угроза исходит не от «ИИ-преступников», а от широкого внедрения ИИ-систем без должного уровня защиты.