央视 315 晚会揭露了民众比较关心的一些问题，如“制造水军主板机”“吹得神乎其神的听花酒”“婚恋平台套路深”等，其中还穿插了一段对“AI 换脸”的科普。
01
聚焦315
警惕AI换脸、变声
315晚会进行到一半，主持人介绍了“信息安全实验室”，讲述了三起利用AI换脸、变声技术施骗的案件。
一是不法分子利用AI变声技术，谎称绑架了陈女士女儿，向陈女士索要80万元；
二是不法分子利用AI换脸技术，冒充陈先生好友，以购买机票遇到难题为由诈骗了4.9万元；
三是不法分子利用AI换脸技术，冒充张女士老板向其下达转账指示，好在及时察觉，最终保住了156万元。
视频的时候，可以要求对方摸摸脸、摸摸鼻子，一旦是AI的话，这两个动作很容易露馅。
02
利用AI换脸技术
不法分子牟取暴利
在视频中进行专业级别的AI换脸和变声，还要保持不卡顿、肉眼难识别，在技术上并非易事，对设备和技术的要求也很高。
以设备为例，需要中高配电脑、中高端显卡、电脑摄像头等，以下是黑产提供的配置展示。
AI换脸实际上是多项技术的集合，它从输入视频中提取人脸特征，再根据特征把输入视频重新生成出来。
骗子在精准诈骗中，利用AI技术模仿真人声音和面部，和受害人沟通时新增了视频确认真人环节，而确认过程正是使用了AI换脸和拟声技术。
直接用AI换脸的方式骗取信任，这是很多人没能想到的。而骗子使用的换脸技术，可以实时换脸，或依靠图片换脸，人物脸部轮廓还能根据真人动作而实时变化。
诈骗场景一般是视频通话和短视频直播，视频通话换脸常用于仿冒亲友、仿冒领导诈骗，直播换脸常用于仿冒明星诈骗。
掌握AI技术的黑产还直接售卖软件和教程，主要用于以下场景。
裸聊敲诈
AI技术想与直播、实时通讯视频结合，还具备互动性，技术门槛更高。为了更快卖出换脸教程，黑产常会简化技术说明，比如下面裸聊敲诈的宣传。
明星换脸
黑产在网上宣传“承接AI定制”，再引流到其他平台交互，表示能承接明星换脸、AV换脸等业务，价格是每分钟200元，为营造真实感，还会发布AV换脸效果的预览图。
黑产宣传时有铺垫，比如：“AI换脸是通过先进算法，实现视频中人物脸部替换。替换之后能保持人脸表情同步，达到以假乱真的地步。老司机可轻松实现视频换脸。对小白而言，软件、模型、教程这些必不可少，中途遇到问题，也需要老司机带路”。
完成铺垫，还有引流，比如：“如果你想尝试制作换脸视频，可以联系XXXX。我们开发了容易使用和理解的中文界面的软件，同时提供配套的使用教程，还提供一对一的指导服务”。
一键脱衣
在AI换脸“一键脱衣”的宣传中，黑产声称可以定制人物脸部模型，只需要支付“万能模型、使用教程”的费用，即可达到“一键脱衣”效果。
与传统电信网络诈骗相比，AI换脸迷惑性更强，辨识难度更大，我们可通过以下方式识别和防范。
真正的AI换脸十分复杂，一些骗子并不具备这种技术，但一些迷惑性手法也会骗到人，比如下面王女士的遭遇。
03
与熟人视频通话后
王女士被骗上千元
王女士在家刷短视频，突然收到一条私信“有件事想让姐帮一下”，王女士看到对方是“熟人”，就简单聊了几句。
不久，对方打来视频通话，王女士接听后，对方表示今天需要买药，但自己微信限额，需要帮忙代付。
接着王女士添加了对方微信，双方再次视频通话，视频虽然卡顿，但画面非常“真实”，还有眨眼睛的动作。于是王女士放下戒备，点击对方发来的链接，连续两次为其支付药费。
都说百闻不如一见，在网络发达的今天，就算视频通话见了，也未必真实。
【警方将嫌疑人抓捕归案】
王女士意识到被骗后，很快报警，同时通过腾讯卫士小程序进行举报，腾讯卫士分析多起相关案例，并将这些疑似AI技术换脸变声的欺诈线索依法移交警方。警方高度重视，及时研判并确认目标，很快抓获嫌疑人赵某。结合嫌疑人供述和涉案手机勘验，警方对案件进行了复盘，整个诈骗过程如下。
第一步：赵某在短视频平台寻找有大量自拍视频的“目标用户”，并将这些带人脸的视频下载到手机。再筛选“目标用户”视频作品下面的评论，对于评论次数多、看得出是熟人称呼的，将其列为诈骗对象；
第二步：赵某用自己的短视频账号发布下载的“自拍视频”，头像也仿冒目标用户，再私聊目标用户的熟人，前期简单寒暄，打视频通话获取信任，再以“近期生病需要买药，但微信支付被限制”为由，让受害人通过扫码的方式帮其支付药费；
第三步：赵某发的买药链接含有二维码，是提前在网上找人制作的聚合收款码，名称为某某药房，但实际绑定的收款账户为赵某自己名下的银行卡，受害人支付药费后，赵某便将钱转走。
让人哭笑不得的是，赵某打视频通话，并非真的使用了AI换脸技术，而是用两个手机在昏暗环境下作案，一个手机视频通话，一个手机播放“目标用户”的自拍视频，在短时间的视频通话中，让对方相信自己是“熟人”。
为了解释视频卡顿，赵某就说是信号不好，没有声音，很快挂断，继续用打字交流。
诈骗就这么发生了。
骗子全靠“手工”而非高门槛的AI换脸技术，这也说明目前低端犯罪领域还没有涉及到AI，但如果是专业黑产团伙，利用AI施骗还是有可能的。
这就不得不让人提高警惕。
识别视频通话AI换脸
【1】要求对方用手指在其面部来回晃动，或挡住一部分脸，面部扭曲则可能是AI换脸。
【2】AI换脸一般是利用其他真人照片合成，若面部一直不眨眼，则可能是AI换脸。
如果真的遇到AI换脸可疑情形，请保存证据尽快报警，并可通过小程序举报，帮助更多人避免上当。
04
腾讯卫士举报平台
全民共治的连接器
为保障用户合法权益，方便用户快速举报，腾讯客户服务部推出“腾讯卫士”举报平台。
腾讯卫士团队始终秉承“以最严谨态度对待每一位用户举报”的理念，致力于为用户提供有温度、有力度的服务体验，同时联合腾讯各安全团队将服务数据与安全技术深度结合，形成“用户举报受理、大数据防控、刑事案件打击、安全教育普及”为一体的网络安全防治体系。
举报渠道建设：腾讯卫士搭建了小程序、公众号、官网等综合性安全服务平台，并搭建跨平台、全场景举报服务体系，使之成为有公信力的全民共治连接器。
举报线索办理：平台深度分析举报线索，对有聚集性的案情线索进行整理并依法移交警方，对违法犯罪主体进行线下抓捕。形成用户举报、平台审核、违规账号处置、聚类分析、联动打击的链条化治理模式。
举报专项运营：平台响应国家“清朗”系列行动，灵活开展专项治理，精准打击网络黑灰产。通过搭建专项举报入口、数字化模式、线上线下结合等方式，进行综合治理、源头治理。
防范教育宣传：腾讯卫士运营小程序、公众号、官网、视频号等多个宣传渠道，基于用户举报生产教育内容，线上以图文、漫画、视频、海报等形式持续教育发声，线下通过进校园、进社区深入群众，运用白皮书、安全报告、三折页等物料开展反诈教育宣传。
防范和打击是网络治理的一体两面，未来，腾讯卫士将坚持专项治理、系统治理、综合治理、依法治理、源头治理相结合，坚决遏制网络违法犯罪趋势，与社会各界合力维护人民合法权益不受侵犯。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.