В Discord произошел сбой в системе ИИ-модерации. Тысячи пользователей мессенджера сообщили, что получили баны по ошибке. Причиной стал критический баг в алгоритме «Automod», отвечающем за поиск запрещенных материалов и защиту детей.
Нейросеть некорректно распознавала изображения с сеткой, пикселями и квадратами. Вместо текстур из видеоигр, шахматной доски и таблиц в Microsoft Excel система видела жестокий нелегальный контент (CSAM). Как итог, игроки, разработчики и гейм-директоры лишились инструмента связи и права на апелляцию.
Ранее в Discord начали работать над проверкой возраста по паспорту и биометрии. Мессенджер остался заблокированным в России, что собрались оспаривать медийные лица. По технической части сервису удалось задать тренд даже приложению Telegram.
Читать по теме
5opka заявил об участии в инициативе по разбану Discord в России
Сообщение В Discord началась волна банов из-за «сетки» появились сначала на Esports.ru.