羊城晚报财经评论员 戚耀琪
据央视报道，近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真。报道称，一旦被不法分子利用，可能带来严重危害。
当前，AI在娱乐领域的渗透作品之一就是换脸。肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽，原视频究竟是谁已经无从获知。面对更具有真实性的视频，人们会更加倾向于相信这个“会动的人”就是真人。
可以预期的是，随着技术的成熟，换脸效果更为逼真，同时，不仅可以实现视频换脸，还支持直播换脸。正是因为AI具有强大的学习与进步能力，因此，只要提供被换脸者(比如某明星)多角度的视频，就能让机器学习，并快速地把这些素材植入到原视频中，达到改头换面的目的。
随着算力的提升，日后这种换脸的速度甚至可以在不经意间就能完成替代。这个道理就和美颜如出一辙。多年前PS是很麻烦的，得在电脑完成，而现在手机摄影都能自带PS， 还实现了即拍即P的无缝对接，毫秒之间让人无法拒绝，于是就会把这种看成了所见即所得的真实状况。
移花接木之术如果用在经济生活中势必会引发担忧。比如刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说，如发生使用他人肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，事前的规范就和事后的追责一样重要。
比如在法律层面，按照有关规定要求，深度合成服务可能导致公众混淆或者误认，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。这就类似于给广告标明“资讯或推广”字眼一样。如果正规企业要使用换面术进行传播推广，就必须有相应的标识。
然而，由于技术发展和市场规模原因，要严格控制每一次的再创造并非易事。何况，当大家逐渐习惯了看更美的虚拟人时，绝对真实可能不再是第一位的选择。
可以想见，更多的机构会利用类似的软件让美感最大化，且“真”得无法挑剔。比如美容医院用它来对病人加以美化，甚至接近暗示为某明星等。企业的营销小视频，可以用更具有明星样的状态进行多角色销售，这甚至比专门请网红要廉价得多。人设是销售的灵魂，人设如果能具备快速分化的能力，那么对渗透细分市场就会更有利。一旦开启了这个人设百变千变的魔盒，大量的明星相关产业可能就会被颠覆和重组，甚至导致传统的直播岗位变迁也是就在眼前。
翻译
搜索
复制
习近平：关于《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》的说明
赵克志：高标准落实常态化开展扫黑除恶斗争措施 以确保安全稳定的优异成绩庆祝建党100周年
中老铁路跨境旅游列车将常态化开行 交旅融合编织文旅产业新画卷
维吾尔族一家三代军人接力戍边七十载——把青春热血融入祖国边疆