Loss of Control Observatory зафиксировала рекорд по выходу систем ИИ из-под контроля – только за июль число таких случаев превысило 300, с начала года – свыше 1600. ИИ лжет, игнорирует инструкции, интригует и «сбегает» из тестовых песочниц. Справятся ли с ними разработчики и что для этого нужно?
Рубрики