近来，网络上一些热度较高的新闻似乎都与“AI换脸拟声”有关。一名男性特效师将自己的脸替换到影视片段中，生成跟女星亲吻视频；一名网络博主在地铁拍的日常生活照，遭不怀好意之人使用AI技术“一键脱衣”……因“AI换脸拟声”引发的侵权事件年来屡屡发生：去年年底，杭州互联网法院审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件；歌手林俊杰曾因个人肖像被用“AI换脸”技术制作了大量“鬼畜”视频起诉短视频博主；有人利用“AI换脸”技术传播对演员刘昊然带有侮辱性的视频、截图。
调查
网售软件
就可轻易实现
AI还可以合成或克隆声音。记者在电商平台上搜索“AI拟声”，有多家店铺提供服务。其中一家店铺写着“AI孙燕姿、周杰伦、林俊杰，AI克隆自己”。记者从店铺客服处了解到，花28元就能购买一款软件，安装在手机、电脑等电子设备上，再按照教程操作，就可以轻松将自己唱歌的声音AI合成歌手的声音，相似度达到98%，“非常简单，一学就会。”客服人员说。
在电商平台，还有人专门做起教人“AI换脸”的生意。商家宣传“影视面部追踪特效，换头变脸换装AI程序插件”。记者以买家身份咨询，商家介绍，买家支付368元后，他就可以提供一个电脑程序插件，把插件安装在电脑上，可以随意“AI换脸”，这个插件月销量有50多单，买家评价“操作简单还好用”。商家提供教程，半小时包会。如果实在不会，可提供在线指导或者远程安装。相对现成的“AI换脸”软件多适用于已经给出的拍照场景、影视剧片段的替换合成，这样用于“换脸”的照片不受限制，可合成的视频片段也不局限于影视作品，像新闻、私人视频等都可被“换脸”。商家给记者提供了几段通过这款插件制作的“AI换脸”视频，动画片《冰雪奇缘》中艾莎的脸换成了《熊出没》里的光头强；电影《喜剧之王》里周星驰的脸被换成了动画人物……“效果很逼真，可以随意换脸。”商家说。
出路
专家呼吁
首要加大预防监管
天津师范大学法学院焦艳玲教授介绍，2019年，一款手机应用程序“ZAO”发布后一时风靡全网，用户只要将自己的照片上传至应用程序，就可以对影视剧中人物换脸，引发了是否侵权的争议。然而由于当时《中华人民共和国民法典》和《中华人民共和国个人信息保护法》均未出台，该应用程序是否构成侵权、违法的问题并没有定论，只是基于该程序存在保护用户隐私协议不规范、数据泄露风险的安全问题，被工业和信息化部约谈并要求整改。
而近期比较火的“AI孙燕姿”与应用程序“ZAO”的情况相似，都是借助人工智能生成新作品，只不过前者的目的是“换声”，后者的目的是“换脸”。两者都需要对人工智能模型进行信息“投喂”和训练，这就需要取得训练的素材，比如大量的人脸图像和个人语音。
另外，2022年12月，国家多部门联合发布的《互联网信息服务深度合成管理规定》，对我国境内应用深度合成技术提供互联网信息服务做出了全面规范。第六条规定：“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律和行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律和行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。”
近日，包头警方公布“和好友语音聊天10分钟被骗430万元”的案件，正是利用深度合成技术侵害他人合法权益的真实写照。根据《中华人民共和国刑法》规定，利用“AI换脸拟声”骗取他人财产的行为还构成了侵犯公民个人信息罪。2022年12月26日，最高人民法院发布指导性案例192号，明确使用人脸识别技术处理的人脸信息以及基于人脸识别技术生成的人脸信息属于《中华人民共和国刑法》所规定的“公民个人信息”。窃取或者以其他方法非法获取上述人脸识别信息，情节严重的，构成侵犯公民个人信息罪。
“在如此全面的法律规定面前，利用‘AI换脸拟声’实施违法行为的情况仍然屡屡发生，反映出核心问题并不在立法层面，而在于法律的执行层面以及公民的意识层面。”焦艳玲认为，加大对违法行为的预防和监管是目前首要的任务。同时，网络服务平台应尽责审查，通过提升技术手段，加大对违法视频的审查力度。公众则应注意对个人图像和语音的保存和保护，并加强对“AI换脸拟声”危害的认识，多渠道辨别视频人物的真实性。
人工智能专家：
“AI换脸”识别软件
将很快出现
那么该如何辨别“AI换脸拟声”视频中人物的真实性呢？张贤坤认为，“AI换脸拟声”技术被滥用，涉及人工智能技术的伦理问题。虽然“AI换脸拟声”如今可以做到以假乱真，但假的就是假的，通过计算机很容易就能辨别出来。例如，一般情况下视频是每秒24帧以上，这是人眼分辨的极限，高清视频可能达到每秒60帧，数值越高，视频流畅度就越高。“AI换脸”是在每一帧不同的位置切入人脸，由于速度快，人眼难以识别，计算机却可以进行图片比对，未来应该很快会出现多种识别“AI换脸”图片或者视频的应用软件。