直播间里好多“明星脸”?AI换脸诈骗引热议

近日，“某科技公司老板遭遇AI换脸诈骗”一事引发网友热议。

魔幻一幕令人吃惊，但这并非AI换脸第一次作恶了。

除了诈骗钱财，此前还有女子被人利用AI“一键脱衣”造黄谣，某男子利用视频合成技术，将电视剧中与某知名女星亲吻的男主角换成自己以蹭流量，效果都到了以假乱真的地步。如上案件细节不尽相同，但无不直观展示了一些人利用AI作恶的可怖之处。

10分钟内被骗430万元

AI换脸被用于诈骗

近日，“平安包头”公众号发布一起利用人工智能（AI）实施电信诈骗的典型案例。

基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。

AI换脸冒充女星带货

AI换脸除了被用于诈骗，还经常出现在直播带货中。

近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。

利用人工智能（AI）手段为视频中的人物“换脸”，这项技术已经发展到可以实时动态修改直播画面。

教程发布者声称实时变脸软件可以帮助用户轻松变脸，打造特效直播间，极大地助力引流卖货。同时他们表示有很多模型可供选择，这些模型用中外明星艺人、影视角色或政商名人的名字命名。

岳律师认为，这个行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或一些行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。

近期，已经有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚；同时还提出“发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实”“发布者需对人工智能生成内容产生的相应后果负责”等要求。

技术滥用风险在加剧

为了规范人工智能发展，尤其是规避AI换脸带来的系列问题，去年12月，《互联网信息服务深度合成管理规定》正式发布，对数据和技术管理规范进行了明确。

简单来说，这些技术服务公司，不能随便使用普通人的人脸来换脸，必须经过本人同意，换脸不是想换就能随便换，也不是骗子给钱就能随便换。如果就此案深挖下去，不排除能揪出一条非法利用人工智能技术的黑产业链。

对大众来说，在人工智能时代，我们得更加警惕，不要随意泄露个人信息，需要转账时应更加谨慎地核实。而对行业而言，必须尽快立规，明确信息保护红线，加强对技术服务商行为的规范引导，等等。