Китай уже готовит правила для противодействия рискам, связанным с цифровыми людьми, созданными с помощью искусственного интеллекта.
Китай активизирует усилия по регулированию своей быстрорастущей индустрии «цифровых людей», поскольку эмоционально насыщенные аватары на основе ИИ — некоторые из которых созданы по образу умерших близких — набирают широкую популярность по всей стране. Этот шаг предпринимается на фоне растущей очевидности как коммерческого потенциала, так и этических рисков этой технологии.
Горе, технологии и растущая отрасль
Чжан Синьюй, 47-летняя женщина из провинции Ляонин, обратилась к искусственному интеллекту после того, как потеряла отца от рака. Работая с компанией Super Brain, она создала цифровой аватар, который выглядит и звучит как его отец, что позволяет ей продолжать общение онлайн. Этот опыт, как она рассказала AFP, помог ей справиться с горем и восстановить эмоциональные силы.
Ее история отражает более широкую тенденцию в Китае, где созданные с помощью ИИ «цифровые люди» быстро набирают популярность. Эти аватары — часто реалистичные по внешности и поведению — широко используются в социальных сетях, особенно в электронной коммерции и создании контента. По данным информационного агентства Синьхуа, в 2024 году объем этого сектора оценивался примерно в 4,1 миллиарда юаней (600 миллионов долларов США), увеличившись на 85% по сравнению с предыдущим годом.
Однако не все положительно относятся к этой технологии. Некоторые критики предупреждают, что такие аватары могут вызывать эмоциональную зависимость или предлагать то, что сама Чжан описала как «ложное утешение», даже если лежащие в их основе чувства искренние.
Регулирование догоняет
В ответ на эти опасения Управление по киберпространству Китая опубликовало проект правил, направленных на ужесточение контроля. Предлагаемые правила требуют четкой маркировки контента, созданного с помощью ИИ, и запрещают создание цифровых копий без согласия пользователя.
Эти правила также направлены на предотвращение злоупотреблений, включая мошенничество, дезинформацию и контент, который может угрожать социальной стабильности или национальной безопасности. Компании, нарушающие эти правила, могут быть оштрафованы на сумму от 10 000 юаней (1460 долларов США) до 200 000 юаней (29 300 долларов США).
Необходимость регулирования была подчеркнута вирусным инцидентом с пожилой женщиной, которая, сама того не подозревая, взаимодействовала с очень реалистичным аватаром своего покойного сына. Видеоролик, широко распространившийся в китайских социальных сетях, вызвал дискуссию о том, представляют ли подобные способы использования ИИ комфорт или обман.
Баланс между инновациями и риском
Эксперты говорят, что подход Китая отражает знакомую модель: стремительное технологическое развитие сменяется оперативным вмешательством регулирующих органов. Власти особенно обеспокоены защитой несовершеннолетних, и предлагаемые правила запрещают системы искусственного интеллекта, которые поощряют эмоциональную зависимость или имитируют интимные отношения у детей.
В то же время участники отрасли признают неизбежность регулирования. Основатель Super Brain назвал проект правил необходимым шагом на пути к балансу между инновациями и ответственностью.
Что нас ждёт впереди?
Проект китайских нормативных актов открыт для общественного обсуждения до начала мая, после чего ожидается ужесточение контроля за их исполнением. Более широкая цель правительства — ускорить внедрение ИИ, сохраняя при этом жесткий контроль над его влиянием на общество.
По мере того как «цифровые люди» превращаются из диковинки в широко распространенный инструмент, китайская модель регулирования может стать образцом для других стран, сталкивающихся с аналогичными этическими вопросами, особенно в отношении идентичности, согласия и эмоциональной силы ИИ.