AI深度合成技术的尽头不该是诈骗
扬子晚报|紫牛新闻记者 沈昭
这两天刘德华被讨论的频率有点高，不同的是一个是他在《流浪地球》中饰演的“图恒宇”一角，一个则是他本人，相同的是，不论是对“图恒宇”的讨论还是对刘德华本人的讨论，都绕不开一个话题，那就是人工智能深度合成技术。
2月底，音乐人包小柏用AI深度合成技术复原了自己已去世的女儿一事引起了广泛的关注，AI合成的女儿可以唱歌，可以对话，还为妻子唱起了生日歌。这一场景让很多人都想到了电影《流浪地球2》中“数字生命”这一概念，在电影里，刘德华饰演的图恒宇是数字世界架构师，他的女儿图丫丫车祸去世后，图恒宇开始想要把女儿在数字世界复活，让图丫丫在数字世界中度过完整的一生。
电影中图恒宇的故事感动了不少观众，包小柏用AI“复活”女儿的尝试也让不少网友落泪。而同样是使用AI深度合成技术，发生在刘德华身上的事就不是那么愉快了。3月1日晚，刘德华电影公司映艺娱乐发布了《关于AI合成声音侵权事件的严正声明》，声明中称近期有微信用户“华仔共享团”(微信号:KOH173)及其关联视频号“华仔集结号”通过信息技术手段伪造刘德华先生的声音，并在未经授权许可的情况下，于微信平台连续发布其剪辑拼凑视频，导致公众发生误认，从而达到利用刘先生的知名度吸引流量、售卖商品、从中营利的目的。该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益，并涉嫌构成诈骗。
同样都是使用了AI深度合成技术，但大众对于这两件事情的评价和态度截然相反，音乐人包小柏因为对女儿强烈的思念，自己从零开始学习人工智能技术，一点点的训练模型，不断的调试数据，他花了两年时间，通过女儿生前留下的三句语音重现了女儿的声音，实现了即时对话，“这就是AI存在的意义啊。”“质疑图恒宇，理解图恒宇，成为图恒宇。”“AI或许就是最好的寄托思念的工具吧。”但对于刘德华被有心人AI合成用于诈骗、营销和引流，不仅是华仔的粉丝表示了愤怒，众多网友也表示了不满和担忧，“正经事不干，有点技术就想着搞诈骗，无语了。”“明星被AI深度伪造能有关注度，有专业团队处理，我们普通人要是也被AI深度伪造了咋办啊？”
基于AI深度伪造技术的易得性、低廉性、高仿真性，AI深度伪造技术给艺术设计、社交娱乐等领域带来了新的更能，但这一技术也带来了巨大的隐患，几张照片，几条语音就能合成出以假乱真的伪造视频或者虚假的面孔、声音信息，被不法分子用于诈骗、引流、营销等，不久前出现的乌克兰女网红的面孔、声音信息遭到AI 盗取后变成了国内的俄罗斯带货网红一事也是同样的情况。在各种反诈小贴士中，警惕AI深度合成诈骗的提示出现的也越来越频繁，AI客服打诈骗电话的、冒充熟人诈骗的、假冒公众人物误导公众的、假冒官方发布虚假信息的、冒用或者虚拟合成身份骗保的……许多人多年来累积的反诈常识在AI深度合成技术面前不堪一击，这也确实给反诈工作带来了新的挑战。
AI深度合成是工具，本身没有黑白之分，是锦上添花还是助纣为虐，全在使用者的一念之间。AI技术发展的越来越快，几乎每隔个几天就能看到一项新的技术或者新的AI平台出现在网上，在反制AI被滥用、被恶意使用上，传统的个人经验恐怕能起到的作用越来越小，用魔法打败魔法或许会更加靠谱，让AI来识别AI，用技术来约束技术，AI深度合成应当被用在正途，至少它的尽头不应该是诈骗。
