提供人脸生成等服务应显著标识 从源头锁住“潘多拉魔盒”

    人脸生成服务有新规范了。近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），明确了深度合成数据和技术管理规范，规定提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认，等等。该《规定》自2023年1月10日起施行。

    记得在很多年前，曾有一部很有名的美国科幻电影《变脸》，一名警察为了办案，自愿跟罪犯换脸，从而混进监狱卧底。这么多年过去了，当年只能在吴宇森科幻作品中实现的“变脸”，有了医学上的尝试，并取得初步成功。不仅如此，通过数字技术，人们甚至能通过电脑合成一张全新的脸。据报道，人工智能公司Generated Photos 发布了10万张完全由AI生成的“超真实全身肖像照”，可免费用于非商业用途。国内网友还制作了一个人脸生成器网站，汇集了 5款定制人脸的生成器，包括黄种人脸生成器、网红脸生成器、明星脸生成器、超模脸生成器和萌娃脸生成器等，可以深度合成各种人脸。

    然而，科学技术是一把锋利的双刃剑，既给人带来便捷与愉悦，也潜藏着危险与痛楚，人脸生成技术也是如此。去年4月，安徽省合肥市警方在公安部“净网2021”专项行动中打掉一个犯罪团伙，不法分子利用人工智能技术伪造他人人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。浙江衢州中级人民法院的一份刑事裁定书也披露，不法分子运用技术手段骗过支付宝人脸识别认证，并使用公民个人信息注册支付宝账户，非法获利数万元。如今，从未经允许合成虚拟形象、假冒好友视频聊天，到合成不雅视频、从事诈骗活动等，人脸生成技术已成为一种受到黑灰产青睐的新型网络犯罪工具。

    方兴未艾的新技术不是没有规制之道。上述《规定》，旨在将人脸生成等深度合成技术纳入法治轨道。《规定》明确要求，对于提供人脸生成技术服务等应当进行显著标识。这项强制性规定并非可有可无，人脸合成也不会因此失去应有的技术“乐趣”。这是因为，对于一般公众而言，在几乎可以以假乱真的新技术面前，并不具备孙悟空一样的“火眼金睛”，很容易发生混淆或者误认，进而增加上当受骗、错误选择的几率。要求提供深度合成服务者主动“打码”，明确任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识，有利于公众增强个体鉴别和判断能力，不至于被“假象”遮蔽双眼，蒙受不必要的损失。

    当然，除了上述“显著标识”新规，《规定》还开列了深度合成服务的一般规定，包括强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任，建立健全管理制度和技术保障措施等。客观而言，这些“对症下药”的措施，为人脸生成等深度合成技术筑起了一道法治堤防，有助于避免新技术沦为不法分子的“摇钱树”，为“潘多拉魔盒”加上了一把坚固的法治大锁。

刘婷婷 来源：中国青年报