“AI换脸”视频网上风行：游走在法律灰色边缘小心成为“失控玩家”

AI奇点网6月1日报道丨近日，因AI换脸技术导致的诈骗案件引发了人们的关注，就在日期，合肥一位老板就将430万元转给一名经过AI换脸的“老朋友”，差点酿成大错。伴随着AI大模型的发展，“换脸”技术应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能会带来严重危害。

现如今，互联网上AI换脸软件的获取方式非常容易，利用AI换脸软件的法律边界在哪里？如何做好事前监管？

AI换脸软件套餐价格从499元~2888元不等

当下，依托于大模型及算法的突破，AI换脸正在实现更大范围的应用，引发更多担忧。在网络上，演示换脸软件使用方法及效果的教程比比皆是。不同于大量给普通人“尝鲜”的免费软件。在淘宝询问一名商家，他直接提供了一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

在其销售网站上，该软件开发者还展示了如何将两位知名女艺人的眼睛和嘴巴拼接到一起，生成全新“数字人”的视频。

这样一套付费软件提供从初级全套的不同版本。499元可以提供软件界面、视频指导、换脸模型等，如果花2888元，则可以得到全套的视频换脸模型以及手把手的教学视频。

想怎么换就怎么换，AI大模型轻松打造“数字人”

现如今的AI换脸技术，不仅实现了视频换脸，还支持直播换脸。软件开发者表示：“想换什么样的脸拿素材训练就可以”。一位从事AI开发的技术人员表示，这意味着可能会有更多难以控制的风险。“

比如deepfake这样的AI换脸技术是开源的，最近的AI大模型火起来，它的算法又有了更新，就可以集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’，监管的成本和难度高了好几个数量级。”

小编咨询了相关的知识产权行业的律师，从事后打击的角度来说，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说，如果发生使用他人的肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，还应探讨如何能够做到有效的事前防范。

例如，在《互联网信息服务深度合成管理规定》中要求，深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。征求意见稿还要求，利用生成式人工智能产品向公众提供服务前，应当按照有关规定向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。

从目前来说，当前AI换脸的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。总之，需要提前防范法律灰色边界的风险，在享受科技进步的同时，避免走入违法犯罪的深渊。