Власти ужесточают регулирование индустрии виртуальных двойников на фоне её быстрого роста и рисков
Власти Китая начали ужесточать контроль над быстро растущей индустрией «цифровых людей» — реалистичных ИИ-аватаров, которые всё чаще используются не только в бизнесе, но и в личной жизни. Поводом стали как коммерческий рост сектора, так и усиливающиеся опасения по поводу его этических последствий.
Одним из показательных случаев стала история 47-летней Чжан Синьюй (Zhang Xinyu) из провинции Ляонин. После смерти отца от рака она обратилась к ИИ-сервису компании Super Brain, чтобы создать цифровую копию родителя. Аватар воспроизводит внешний вид и голос, позволяя продолжать «общение» онлайн. По её словам, это помогло справиться с утратой и вернуть эмоциональную устойчивость.
Такие случаи становятся всё более распространёнными. В Китае «цифровые люди» активно используются в соцсетях, электронной коммерции и создании контента. По данным Xinhua News Agency, объём рынка достиг примерно 4,1 млрд юаней (около $600 млн) в 2024 году, показав рост на 85% за год.
Однако вместе с популярностью растёт и критика. Эксперты предупреждают о рисках формирования эмоциональной зависимости и подмены реального опыта взаимодействия. Даже сама Чжан отмечает, что «подобные технологии могут давать ложное утешение, несмотря на искренность чувств».
На этом фоне центральный орган регулирования интернета (Cyberspace Administration of China) подготовил проект новых правил. Они требуют обязательной маркировки ИИ-контента и запрещают создание цифровых копий людей без их согласия. Документ также направлен на борьбу с мошенничеством, дезинформацией и любым контентом, который может угрожать общественной стабильности или национальной безопасности.
Нарушителям грозят штрафы от 10 тыс. до 200 тыс. юаней (примерно от $1,460 до $29,300). Отдельное внимание уделено защите несовершеннолетних: предлагается запретить системы, которые могут формировать у детей эмоциональную зависимость или имитировать близкие отношения.
Импульс к ужесточению регулирования дала и резонансная история, разошедшаяся в китайских соцсетях: пожилая женщина общалась с крайне реалистичным аватаром своего умершего сына, не зная, что это ИИ. Случай вызвал широкую дискуссию о границе между поддержкой и обманом.
Эксперты отмечают, что ситуация отражает типичную для Китая модель: стремительное внедрение технологий с последующим быстрым регулированием. При этом сами участники рынка признают необходимость таких мер. Основатель Super Brain назвал новые правила шагом к балансу между инновациями и ответственностью.
Обсуждение проекта продлится до начала мая, после чего ожидается введение более жёстких требований. Власти стремятся одновременно ускорить развитие ИИ и сохранить контроль над его влиянием на общество.
По мере того как «цифровые люди» переходят из экспериментальной технологии в повседневный инструмент, китайская модель регулирования может стать ориентиром для других стран — особенно в вопросах идентичности, согласия и эмоционального воздействия искусственного интеллекта.