现如今，很多APP在使用时会用到人脸识别验证，你需要面向镜头，眨一下眼睛，摇一摇头，就可以验证通过，很方便快捷。但是，令人意想不到的是，有不法分子也盯上了这个操作。
用AI技术“人脸解封”违法账号 男子被判刑
现如今，很多APP在使用时会用到人脸识别验证，你需要面向镜头，眨一下眼睛，摇一摇头，就可以验证通过，很方便快捷。但是，令人意想不到的是，有不法分子也盯上了这个操作。最近，江苏首例“人脸解封”侵犯公民个人信息案，在常州经开区人民法院公开开庭宣判，引发了舆论关注。
大伙儿都知道，一些不法分子，如果用QQ、微信等发布虚假广告、进行电信诈骗等违法违规操作，很容易被网络平台冻结封号。解封账号的关键是需要人脸核验。在这样的背景下，该案被告人郑某在2021年8月至2022年2月期间，从网上购买了很多人的个人信息，包括姓名、身份证号码、身份证照片、视频动图等等。郑某运用AI技术，利用这些个人信息进行人脸核验，为那些涉嫌电信诈骗、网络赌博等违法犯罪被封的QQ号，提供解封服务。郑某从中获利2万多元。
具体操作听起来并不难，郑某将图片放到几个软件中进行一系列操作之后，就会形成一个动态的视频图片，以此来完成解封账号所必须的一个步骤：人脸核验，据他说，一个人的人脸信息可以解封5个QQ。被冻结的账号“复活”后，诈骗团伙就能继续登录使用了。
郑某解封他人账号，帮助诈骗团伙实施犯罪，这不就是为虎作伥助纣为虐吗？法官表示，郑某的所作所为，属于电信网络诈骗的黑灰产业链的一环。最终，郑某因犯侵犯公民个人信息罪被判有期徒刑8个月，缓刑1年，并处罚金4万元。很显然，他这就是咎由自取。
女子遭遇“黄谣” 地铁照被AI“一键脱衣”
事情在网上曝光后，很多网友纷纷吐槽，没想到好好的AI技术竟然被用在歪门邪道上。说起AI技术，最近还有几起相关事件，引发网友热议。前段时间，一张女子在地铁上的“裸照”，在网上流传开来。事实上，照片的女主角是广东广州的一名博主，所谓的“裸照”是她去年7月在某平台分享的一张照片。在博主晒出的原图中，她分明衣着正常，没有任何不妥之处。
一张再日常不过的照片，竟被人用AI技术将脸和身体“移花接木”，直接生成了一张地铁裸照，并且故意在全网散播，始作俑者也太缺德了。很多网友在博主发的帖子下方，发言提醒她：你被人“造黄谣”了，催促她尽快报警，也有网友热心地帮她辟谣澄清。随后博主在评论区称，自己会进行维权。
这种操作手法在网上被称为“一键脱衣”，造谣者利用的也是AI技术。希望这位博主能为自己讨回公道，让那位居心叵测的造谣者受到法律的惩罚。
和“AI脱衣”相似的，还有近年来走红网络的“AI换脸”。前段时间，一位博主自称利用AI换脸与女演员“亲吻”，结果还遭到殴打，打人者疑似是该女演员的粉丝。咱们来说说事情的来龙去脉，这位博主是一名特效合成师，在某视频平台拥有100多万粉丝，他上传了一段电视剧《你是我的荣耀》片段。片中，原本是迪丽热巴饰演的乔晶晶亲吻杨洋饰演的于途，博主通过AI换脸的方式，将杨洋的脸换成了自己的脸。
随后博主称，自己因此遭到网暴，有迪丽热巴的粉丝，通过他之前发的定位找到他的工作室，上门把他的脸抓伤，自己被“破了相”。迪丽热巴的粉丝群回应：坚决反对暴力行为，拒绝恶意栽赃，并建议博主报警处理。
这事儿当时在网上炸了锅，有网友表示，“难道掌握了这门技术就可以随意换脸吗？简直细思极恐”。也有网友提出质疑，博主随意换脸发布视频，是否涉嫌侵权？
事后，博主将这段引起争议的亲吻片段给隐藏了起来。但是他的抖音中，还发过不少影视剧的换脸视频，涉及《泰坦尼克号》《狂飙》《小李飞刀》《武林外传》等影视剧。博主通过AI换脸的形式，把影视剧中的主要人物换成了他自己，尤其很大一部分的内容是，他将自己的脸替换成男主角的脸后，与各个女演员进行所谓的“亲密互动”。
比如说，他把电视剧《小李飞刀》中男主角焦恩俊的脸，替换成自己的脸，画面中，他对俞飞鸿和贾静雯两名女演员饰演的角色左拥右抱。有网友就对这种AI技术表示担忧，说“好在这些都是明星，大家都知道。如果一个普通女孩被合成类似的视频，后果可想而知，面对别人异样的目光，她很可能跳进黄河都洗不清。”
据红星新闻报道，一位视觉效果从业者说，人工智能技术的突飞猛进，对影视行业有很大的推动，比如用于问题演员的替换、补拍等。但是像博主这样将影视剧中人物的脸换脸成他本人的行为并不可取，任何行业都有边界，一旦越线，则无疑是对他人的无礼与冒犯。还有律师认为，这位博主的行为，不但侵犯了当事人的肖像权、名誉权、人格权，还违反《网络安全法》，情节严重的话，甚至有可能构成寻衅滋事。
侵权！古风模特视频成了AI换脸盈利模板
近年来，由AI换脸引发的官司并不少见。咱们再举个例子。一位古风汉服模特楼某某发现，某公司运营的AI换脸APP，照搬了她的古风造型视频，并且生成模板。用户只需上传个人照片，支付一定费用，就可以将模板中的脸替换成用户自己上传的人脸。这样一来，除了五官发生实质性变化，其余内容都与原视频一模一样。于是气愤不已的楼某某，将对方告上了法庭。
法院审理认为，这家公司没有经楼某某同意，通过技术手段提取其古风肖像视频，擅自上传至APP供用户使用，侵害了楼某某肖像权，最终判决该公司向楼某某赔礼道歉并赔偿损失5000元。企业利用AI技术来创造新的盈利模式，这无可厚非，但前提是要合法合规。
当务之急：给AI技术套上法律的“紧箍咒”
其实对于AI合成技术运用，国家相关部门已经出台了相应规定加以规范和引导。相关部门起草了《生成式人工智能服务管理办法（征求意见稿）》，正在向社会公开征求意见。显然，AI技术是把“双刃剑”，用好了，它可以造福于人，使用不当，它也可能会成为一种“洪水猛兽”，给人与社会带来危害。所以，当务之急是推进相关的立法工作，让AI技术的使用者一目了然，明确AI技术的使用边界。网络时代，如何给神通广大的AI技术套上法律的紧箍咒，毫不夸张的说，这是人类社会的一道必答题。
现如今，很多APP在使用时会用到人脸识别验证，你需要面向镜头，眨一下眼睛，摇一摇头，就可以验证通过，很方便快捷。但是，令人意想不到的是，有不法分子也盯上了这个操作。
用AI技术“人脸解封”违法账号 男子被判刑
现如今，很多APP在使用时会用到人脸识别验证，你需要面向镜头，眨一下眼睛，摇一摇头，就可以验证通过，很方便快捷。但是，令人意想不到的是，有不法分子也盯上了这个操作。最近，江苏首例“人脸解封”侵犯公民个人信息案，在常州经开区人民法院公开开庭宣判，引发了舆论关注。
大伙儿都知道，一些不法分子，如果用QQ、微信等发布虚假广告、进行电信诈骗等违法违规操作，很容易被网络平台冻结封号。解封账号的关键是需要人脸核验。在这样的背景下，该案被告人郑某在2021年8月至2022年2月期间，从网上购买了很多人的个人信息，包括姓名、身份证号码、身份证照片、视频动图等等。郑某运用AI技术，利用这些个人信息进行人脸核验，为那些涉嫌电信诈骗、网络赌博等违法犯罪被封的QQ号，提供解封服务。郑某从中获利2万多元。
具体操作听起来并不难，郑某将图片放到几个软件中进行一系列操作之后，就会形成一个动态的视频图片，以此来完成解封账号所必须的一个步骤：人脸核验，据他说，一个人的人脸信息可以解封5个QQ。被冻结的账号“复活”后，诈骗团伙就能继续登录使用了。
郑某解封他人账号，帮助诈骗团伙实施犯罪，这不就是为虎作伥助纣为虐吗？法官表示，郑某的所作所为，属于电信网络诈骗的黑灰产业链的一环。最终，郑某因犯侵犯公民个人信息罪被判有期徒刑8个月，缓刑1年，并处罚金4万元。很显然，他这就是咎由自取。
女子遭遇“黄谣” 地铁照被AI“一键脱衣”
事情在网上曝光后，很多网友纷纷吐槽，没想到好好的AI技术竟然被用在歪门邪道上。说起AI技术，最近还有几起相关事件，引发网友热议。前段时间，一张女子在地铁上的“裸照”，在网上流传开来。事实上，照片的女主角是广东广州的一名博主，所谓的“裸照”是她去年7月在某平台分享的一张照片。在博主晒出的原图中，她分明衣着正常，没有任何不妥之处。
一张再日常不过的照片，竟被人用AI技术将脸和身体“移花接木”，直接生成了一张地铁裸照，并且故意在全网散播，始作俑者也太缺德了。很多网友在博主发的帖子下方，发言提醒她：你被人“造黄谣”了，催促她尽快报警，也有网友热心地帮她辟谣澄清。随后博主在评论区称，自己会进行维权。
这种操作手法在网上被称为“一键脱衣”，造谣者利用的也是AI技术。希望这位博主能为自己讨回公道，让那位居心叵测的造谣者受到法律的惩罚。
和“AI脱衣”相似的，还有近年来走红网络的“AI换脸”。前段时间，一位博主自称利用AI换脸与女演员“亲吻”，结果还遭到殴打，打人者疑似是该女演员的粉丝。咱们来说说事情的来龙去脉，这位博主是一名特效合成师，在某视频平台拥有100多万粉丝，他上传了一段电视剧《你是我的荣耀》片段。片中，原本是迪丽热巴饰演的乔晶晶亲吻杨洋饰演的于途，博主通过AI换脸的方式，将杨洋的脸换成了自己的脸。
随后博主称，自己因此遭到网暴，有迪丽热巴的粉丝，通过他之前发的定位找到他的工作室，上门把他的脸抓伤，自己被“破了相”。迪丽热巴的粉丝群回应：坚决反对暴力行为，拒绝恶意栽赃，并建议博主报警处理。
这事儿当时在网上炸了锅，有网友表示，“难道掌握了这门技术就可以随意换脸吗？简直细思极恐”。也有网友提出质疑，博主随意换脸发布视频，是否涉嫌侵权？
事后，博主将这段引起争议的亲吻片段给隐藏了起来。但是他的抖音中，还发过不少影视剧的换脸视频，涉及《泰坦尼克号》《狂飙》《小李飞刀》《武林外传》等影视剧。博主通过AI换脸的形式，把影视剧中的主要人物换成了他自己，尤其很大一部分的内容是，他将自己的脸替换成男主角的脸后，与各个女演员进行所谓的“亲密互动”。
比如说，他把电视剧《小李飞刀》中男主角焦恩俊的脸，替换成自己的脸，画面中，他对俞飞鸿和贾静雯两名女演员饰演的角色左拥右抱。有网友就对这种AI技术表示担忧，说“好在这些都是明星，大家都知道。如果一个普通女孩被合成类似的视频，后果可想而知，面对别人异样的目光，她很可能跳进黄河都洗不清。”
据红星新闻报道，一位视觉效果从业者说，人工智能技术的突飞猛进，对影视行业有很大的推动，比如用于问题演员的替换、补拍等。但是像博主这样将影视剧中人物的脸换脸成他本人的行为并不可取，任何行业都有边界，一旦越线，则无疑是对他人的无礼与冒犯。还有律师认为，这位博主的行为，不但侵犯了当事人的肖像权、名誉权、人格权，还违反《网络安全法》，情节严重的话，甚至有可能构成寻衅滋事。
侵权！古风模特视频成了AI换脸盈利模板
近年来，由AI换脸引发的官司并不少见。咱们再举个例子。一位古风汉服模特楼某某发现，某公司运营的AI换脸APP，照搬了她的古风造型视频，并且生成模板。用户只需上传个人照片，支付一定费用，就可以将模板中的脸替换成用户自己上传的人脸。这样一来，除了五官发生实质性变化，其余内容都与原视频一模一样。于是气愤不已的楼某某，将对方告上了法庭。
法院审理认为，这家公司没有经楼某某同意，通过技术手段提取其古风肖像视频，擅自上传至APP供用户使用，侵害了楼某某肖像权，最终判决该公司向楼某某赔礼道歉并赔偿损失5000元。企业利用AI技术来创造新的盈利模式，这无可厚非，但前提是要合法合规。
当务之急：给AI技术套上法律的“紧箍咒”
其实对于AI合成技术运用，国家相关部门已经出台了相应规定加以规范和引导。相关部门起草了《生成式人工智能服务管理办法（征求意见稿）》，正在向社会公开征求意见。显然，AI技术是把“双刃剑”，用好了，它可以造福于人，使用不当，它也可能会成为一种“洪水猛兽”，给人与社会带来危害。所以，当务之急是推进相关的立法工作，让AI技术的使用者一目了然，明确AI技术的使用边界。网络时代，如何给神通广大的AI技术套上法律的紧箍咒，毫不夸张的说，这是人类社会的一道必答题。