半岛全媒体首席记者 刘玉凡
近年来，得益于人工智能技术的迭代升级，不少“AI换脸”类应用走红网络。然而，利用深度合成技术实施诈骗或侵犯他人肖像权的案例却并不少见。连日来，记者调查发现，仍有商家在线出售AI“换脸”软件，声称“包教包会”。9月25日，最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》（下称《意见》）依法提起公益诉讼，其中，利用“深度合成”等生成式人工智能技术发布违法信息的，将依法从重处罚。
一家网店客服表示可“过任何认证”
事件：
“深度合成”等网暴情形
检察机关可提起公益诉讼
《意见》要求，对网络暴力违法犯罪，应当体现从严惩治精神，让人民群众充分感受到公平正义。要重点打击恶意发起者、组织者、恶意推波助澜者以及屡教不改者。实施网络暴力违法犯罪，具有以下五种情形之一的，依法从重处罚：针对未成年人、残疾人实施的；组织“水军”、“打手”或者其他人员实施的；编造“涉性”话题侵害他人人格尊严的；利用“深度合成”等生成式人工智能技术发布违法信息的；网络服务提供者发起、组织的。
依照《意见》规定，检察机关对严重危害社会秩序和国家利益的侮辱、诽谤犯罪行为，应当依法提起公诉，对损害社会公共利益的网络暴力行为可以依法提起公益诉讼。
记者了解到，深度合成技术是利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，其中，深度合成技术中“AI换脸”和“数字虚拟人”中应用较为广泛。“AI换脸”不仅可以快速将一张人脸无缝融入到另一个图片或视频中，甚至连人物表情、口型都可以用AI技术合成，具有更强的“以假乱真”效果。
调查：
百元可买“AI换脸”软件
记者通过微信检索，发现了一款名为“AI换脸变装”的小程序，内容显示“只需要一张照片，视频照片一键AI换脸”，记者注意到，小程序中可提供“短视频AI换脸”“照片AI换脸”“创意表白恶搞视频生成”以及“经典角色换脸”等服务。不过，记者点开链接后发现，这款小程序因违规已暂停服务。经过查看该账号主体信息，记者发现小程序由昆山开发区某网络科技工作室开发，2023年7月份，该工作室被市场监管部门列入经营异常名录。
在淘宝上，虽然输入“AI换脸”已无法搜索到信息，但记者随机咨询了一家店铺，客服表示可“一键换脸，过任何认证”。记者购买后，客服发来一个百度网盘的链接，里面有换脸软件及使用教程。
其中一款“换脸”软件标注的价格
随后，记者通过QQ联系上了一位“AI绘图客服”，对方声称可提供AI换脸软件，根据服务内容的不同，价格分为70元、80元、100元三个档次，为了打消记者的顾虑，这位“客服”还发来了与其他“客户”聊天的记录，称“已经搞到了完美模式”“模型已经很完美了”。记者在付费后同样收到对方发来百度网盘，网盘中可下载一款AI绘图软件。
这位“客服”还发来一份“软件安装使用说明”，说明中提到，“这个软件可能把背景弄到人像上面，可以从身体往外扩，多试几次，毕竟是AI的，然后找一张差不多的，用这一张继续涂抹，前几次失败挺正常的，需要摸索适应，多处理一些图片就容易发现图片处理的特点，然后就容易了。”“客服”还表示，这款AI绘图软件“包教包会”。
记者注意到，使用说明中写道，这款软件仅用于个人图片处理，禁止涉及传播他人隐私，运用到非法途径，违者将负法律责任。对于这款AI绘图软件可能涉及的法律风险问题，“客服”答复称：“仅供个人学习使用 ，只要不传播就没事。”
幕后：
“AI换脸”背后的生意经
记者调查发现，随着监管力度的加强，一些“换脸软件”和“定制换脸服务”转向更隐秘的角落，形成地下灰色生意链。不法分子通过AI技术生成图片，制作明星或普通人的不雅视频或者照片，并对这些图片进行整合，打包成文件夹，公开在所谓“会员群”中售卖。
一款换脸软件的应用界面及效果图
除了利用不雅视频和照片牟利，还有一些不法分子通过“换脸”软件处理车辆违法行为，受到了法律的严惩。
2020年河南省长垣市人民法院的一份刑事判决书显示，2020年2月至4月，岳某、谢某购买摄像头辅助软件、从苹果手机下载“轻松换脸”软件，违反国家规定，在代办审车、车辆违法处理业务时，在计算机信息系统“交管12123”注册过程中，利用上述软件逃避实人认证，非法注册、绑定车辆进行车辆违章处理。2020年3月，在被害人郭某、邓某不知情的情况下，谢某、岳某等人将其临期驾驶证分数扣除，为云南、广东等地违法人员处理车辆违法。
提醒：
警惕“AI换脸”涉诈风险
商家售卖“作案工具”的背后，还有人利用“AI换脸”技术进行诈骗。记者从“平安包头”微信公众号获悉，今年5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。
原来，4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。
郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。
判例：
“AI换脸”涉侵权行为
“AI换脸”的风险不止于诈骗，也被大量使用到视频换装、影视剧二度创作、表情包制作当中，其中法律风险和侵权纠纷已经出现。今年4月份，上海市金山区人民法院审理多起因AI换脸APP侵害他人肖像权的案件，判决上海某信息科技公司刊登道歉声明并赔偿损失。
记者通过裁判文书网检索发现，该公司运营一款手机换脸软件，将众多网红或明星的肖像视频上传为模板供用户换脸使用，但用户如果想解锁全部视频模板以及高清无水印导出视频，必须要付费购买会员方可免费使用。用户在付费成为会员后，能够自行创设换脸图片，形成除脸部特征不同之外其他内容仍为网红或明星的肖像视频。
在其中一份判决书中，原告廖某是国风创作者、汉服模特，粉丝人数884.1万人，作品总点赞量9789.7万人次，发布原创作品207篇，该公司在廖某未授权同意的情况下，在其运营的软件“视频换装”的“绝美古风”等系列栏目中，均上传以廖某肖像为原内容的视频作品提供给用户使用而非法牟利。廖某认为，该公司通过AI换脸技术，将该视频开放给众多用户分享并允许用户通过购买成为会员后，自行制作“换脸”后的视频以达到使用该软件的核心功能的目的，侵害了其肖像权并进行牟利，同时对廖某造成了较大的经济损失。
经法院审理查明，该公司在软件中上架使用了6个人物视频，除脸部特征以外，动作、背景、视频角度与廖某发布的抖音视频均高度雷同，部分视频存在明显的“换脸”痕迹。该公司将廖某视频中的形象“换脸”后上架供其注册用户换脸使用，破坏了原告肖像的完整性，系利用信息技术手段伪造等方式侵害廖某的肖像权，应当认定侵害了廖某的肖像权。因廖某抖音账号具有一定的粉丝量，该公司虽将廖某视频中的人物形象的脸部替换掉，但熟知原告的粉丝仍有可能从被告相关视频的细节中识别出身体形象的对应主体应为廖某，故该公司发布上述视频仍将对廖某造成一定影响。
最终，法院判决上海某信息科技有限公司在其手机软件首页显著位置刊载致歉声明，对侵害原告廖某肖像权一事赔礼道歉，赔偿原告廖某4,200元。
律师：
滥用该技术存在刑事法律风险
9月26日，山东齐东律师事务所于文超主任律师认为，科技进步是把双刃剑，如果滥用该技术，可能存在刑事法律风险。于律师表示，深度合成技术可能被用于诈骗、敲诈勒索等侵犯他人财产权的犯罪活动。其中，诈骗行为最为常见，相较于传统诈骗，运用深度合成技术的诈骗者可以生成虚拟形象，模仿受害者朋友的身份，获得受害者的信任，进而实施诈骗行为。该类新型诈骗方式的成功率和危害性都远高于传统诈骗。
此外，深度合成技术可能被用于侮辱、诽谤、制作淫秽物品牟利等与侵犯他人名誉相关的违法犯罪活动。使用深度合成技术合成他人的不雅图像、视频，可能触犯侮辱罪、诽谤罪、制作淫秽物品牟利罪等多种罪名。深度合成技术可能被用于扰乱社会秩序甚至危害国家安全的违法犯罪活动。利用深度合成技术，制作者可以制作出极为逼真的虚假图片和视频，普通人根本无法辨识。若该虚假信息借助新闻媒介和社交媒体广泛传播，则极易引发社会公共秩序的混乱。
专家：
建立健全法律法规
加大监管和处罚力度
9月26日，天使投资人、资深人工智能专家郭涛在接受半岛全媒体记者采访时表示，深度合成技术是人工智能技术的一种，它主要运用生成式人工智能技术去合成、篡改图片，一些音频和视频达到了“以假乱真”的一个程度。目前中国的深度合成技术应用比较广泛，很多营销类的视频利用的就是深度合成技术。根据郭涛的观察，现在有一些APP合成一些营销场景和广告，当然也有在非法领域的应用，比如利用深度合成技术进行电信诈骗，还有的应用未经授权，就利用一些明星的图片做直播。
郭涛认为，随着AI深度合成和深度伪造技术的日渐成熟，深度伪造视频、音频、图像、生成文本等技术门槛大幅降低，出现大量“一键换脸”、“一键脱衣”等灰色软件程序，让AI作恶门槛几乎为零。
郭涛表示，AI深度合成和深度伪造技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害。国家有关部门要进一步建立健全法律法规，加大监管和处罚力度，提高违法成本；平台加强技术和审核手段，从源头上切断侵权内容传播渠道。