深度伪造是人工智能技术和数字技术发展的产物，自2017年第一个深度伪造的作品出现，深度伪造正在世界范围内快速扩散。人工智能与大数据技术的发展和普及，使得有心者制作各种深度伪造作品的门槛大大降低，导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。深度伪造技术既有造福于人类社会的正面功能，也有给国家安全带来风险与挑战的负面作用。它不仅给国际形势和国际安全环境带来了巨大的冲击，让国际社会本就存在的“信任赤字”更为恶化，而且在国防安全、政治安全、经济安全和国民安全等领域制造了更多、更为复杂的问题。国际经济犯罪团伙利用深度伪造对中国企业和民众进行诈骗活动；以美国为首的西方国家更是频频利用深度伪造的作品，在涉疆、涉港等问题上对中国发难；在重大国际问题上，国际上的各种势力更是利用深度伪造争取中国的民意，造成部分民众认知的错乱；等等。要治理深度伪造所带来的各种安全隐患，就要在总体国家安全架构下完善针对深度伪造的综合治理体系，同时倡导综合安全、合作安全和共同安全的理念，与国际社会共同打造数字时代人类安全的命运共同体。
深度伪造（Deepfakes）是一个合成词，是人工智能（AI）领域由“深度学习”（deeplearning）和伪造（fake）合成的一个词汇。它用来描绘利用人工智能技术和大数据生成的视频、照片和其他文本，这些视频、照片和文本看起来非常逼真，不要说非专业技术，就连专业技术亦难以识别其真伪。深度伪造包含两方面的含义，首先，它是一种技术，一种制作超逼真视听作品的技术。其次，它指根据深度伪造技术制作的视听作品。深度伪造的主要危险在于它会让一个人——无论是政治家、商界精英还是普通公众——向他人呈现另一种“现实”：一个真实的人在做一些他们从未做过的事情或者说一些他们从未说过的话，从而通过这样的“现实”欺骗不知情的公众。
一、深度伪造技术特征及其快速传播的原因
数字技术与数字媒体的发展和普及，使得区分真假媒体视听作品和文本变得越来越困难，这个领域的最新进展是深度伪造的出现。深度伪造是运用人工智能技术和大数据来描绘某人说和做的从未发生过的事情，辅之以社交媒体的覆盖面和传播速度，可以迅速影响成千上万甚至更庞大的群体，进而对社会产生难以估量的负面影响。
（一）深度伪造技术及类别
1.深度伪造技术分类
第二类是语音克隆技术。语音克隆技术也被称为音频深度伪造、语音合成、语音转换或交换。语音克隆技术已经发展到这样的水平：只需采集到一个人的几句话，人工智能语音克隆软件就可以生成与目标人类语音非常相似的合成语音。这一技术已经成为日常家用电子产品的标准功能，如谷歌家庭（GoogleFamilies）、苹果智能语音助手（Siri）、亚马逊语音虚拟助手（AmazonAlexa）等。各种方便访问的人工智能应用程序使创建语音克隆产品变得更加便利，语音克隆体的质量也迅速提高。因此，人工智能技术使得语音克隆的可信度和创建可信克隆的速度达到了一个新的高度。
作为数字时代人工智能技术发展的产物，深度伪造技术就如同基本的图像和视频桌面编辑器一样，并不存在错误和邪恶之处，它只是一个工具。与其他技术一样，深度伪造技术同样具有双刃剑的特性，人们出于不同的目的可以创作出不同性质的深度伪造作品。
2.深度伪造作品分类
从深度伪造产品本身的性质看，目前出现的深度伪造作品可以分为三类。第一类是具有积极作用的产品或应用。深度伪造技术在许多行业具有积极用途，包括电影、教育媒体和数字通信、游戏和娱乐、社交媒体和医疗保健、材料科学以及各种商业领域（如时尚和电子商务）等。电影业可以通过多种方式从深度伪造技术中受益。例如，它可以帮助因疾病而失去声音的演员制作数字声音，或者更新电影片段而不需要重新拍摄；它还可以为任何语言的电影自动配音，从而让不同语言的观众更好地欣赏电影和教育媒体。例如，在医学上，渐冻人协会（TheALSAssociation）正在利用深度伪造技术，为渐冻症患者提供帮助。渐冻人协会与一家名为“琴鸟”（Lyrebird）的公司合作，使用语音克隆技术来帮助渐冻症患者。该公司鼓励渐冻症患者在他们还能够发声时备份他们的声音，并将语音克隆技术与眼睛阅读器辅助技术联系起来，使渐冻症患者在丧失说话能力之后，依然能够用他原始的、独特的声音而不是“机器”声音来与家人和朋友进行交流。
第三类属于恶意的深度伪造。这一类深度伪造被创作者用于某种特殊的目的，往往会给国家安全、社会治理带来严峻的威胁和挑战。如在深度伪造中占比最高的是利用深度伪造技术合成的色情视频。深度伪造的色情视频受害者不仅包括一些影视明星，也包括一些普通女性，属于人工智能技术发展带来的新的性别安全问题。深度伪造还被用来抹黑政治人物，尤其是正在从事选举工作的政治候选人，从而影响一些国家的政治进程。深度伪造也被用来对一些国家正在发生的政治事件作出不利的描述，不仅可能激化社会矛盾、导致群体性事件的发生，也可能影响国家的政治形象，在国际舞台上给这些国家制造难题和困境。深度伪造还会给企业和个人在经济上带来损失，无论是通过深度伪造影响一些企业股票，还是影响一些企业刚刚上市的产品，都会给企业带来巨大的损失。深度伪造造成的诈骗活动，更是让一些企业和个人蒙受了重大损失。更严重的是，深度伪造可能会摧毁社会信任，信任赤字将恶化整个社会的心理生态环境。
（二）深度伪造的特征
美国众议院常设情报特别委员会（HousePermanentSelectCommitteeonIntelligence）主席亚当·希夫（AdamSchiff）在其主持的“人工智能对国家安全的挑战”听证会上，曾经得出这样的结论：“让深度伪造和其他虚假信息模式变得真正有害的是社交媒体的无处不在，以及虚假信息传播的速度。”希夫的分析说明了深度伪造的主要特征：以网络社交平台为主要传播媒介，传播速度快。
1.网络社交平台是传播深度伪造作品的最主要渠道
2.深度伪造发展迅猛
3.深度伪造传播迅速且点击量巨大
当一段关于美国众议院议长南希·佩洛西（NancyPatriciaPelosi）似乎喝多了、走路摇摆不稳的深度伪造视频上传到互联网后，不到48个小时，仅仅在脸书和推特两个社交平台就获得了几百万的点击量。另外根据笔者在优兔（YouTube）的观察，此类深度伪造的作品传播速度普遍都十分迅速，拥有非常高的点击量。如拜登唱歌、特朗普跳舞的深度伪造视频自2020年11月17日上传，到2021年12月23日，已经获得了10941585次的点击量；特朗普总统与英国伊丽莎白女王的“史诗之舞”，从2017年7月4日发布，到2022年4月12日已经有3972528人次观看。
4.深度伪造以公众人物等为主要对象
公众人物主要包括国家政要、跨国公司老板和影视界明星等，因其具有高知名度和较大的社会影响而备受深度伪造者的青睐，美国前总统贝拉克·奥巴马（BarackObama）及其妻子米歇尔·奥巴马（MichelleObama）、特朗普及其女儿伊万卡·特朗普（IvankaTrump），众议院议长佩洛西、英国女王伊丽莎白、脸书创始人和老板马克·扎克伯格（MarkZuckerberg）、2018年被《时代》（Times）杂志评为“最具影响力100人”的以色列著名演员盖尔·加朵（GalGadot），以及中国的一些影视界明星等，都曾经出现在各种深度伪造的视频作品中。
（三）深度伪造快速传播的原因
深度伪造之所以能够迅速流行并传播，主要有以下几个原因：
1.人工智能技术的发展和普及使得制作深度伪造作品更简单易行
与其他人工智能技术一样，深度伪造和合成媒体不需要专门的硬件或设备来开发，拥有强大显卡的台式电脑就足够了。商业性甚至免费的深度伪造服务已经出现在公开市场上，这些服务的普及将降低进入门槛，使得任何有兴趣的人几乎都可以拥有创建专业级深度伪造作品的能力。
2.互联网空间免费获取数据集使深度伪造的门槛变得很低
计算机视觉社区已经创建了带有标记的视觉材料的大型数据集，其中许多数据集都可以在互联网上免费获得。这些数据集是训练机器学习算法所必需的。深度伪造数据的创建者可以很容易地访问这些数据集；此外，由于云计算提供的服务，训练机器学习算法所需的计算能力成本较低，如谷歌的Colaboratory（简称Colab）可以让任何人通过浏览器编写和执行任意高级通用编程语言（Python）代码。它尤其适合机器学习、数据分析和教育目的。用户无需进行设置，就可以直接使用，同时还能获得图形处理单元（GraphicsProcessingUnit，GPU）等计算资源的免费使用权限。因此，一台普通的电脑，甚至是一部能上网的智能手机，都足以创造出高质量的深度伪造作品。
3.深度伪造中占比最高的是色情和政治类作品
从传播学的角度看，色情和政治类作品往往具有低俗、虚假、传播快的特性，加上人性的猎奇心理——这在东西方国家都是一样的，如中国有“好事不出门，恶事行千里”的谚语，西方国家则有“当真相还在穿鞋时，谎言已经传遍半个世界”（Alietravelshalfwayaroundtheworldwhilethetruthisgettingitsshoeson）的谚语，讲的都是同样的道理——这些因素使得色情和政治类深度伪造作品传播最广。美国麻省理工学院（MIT）通过对推特进行深入研究，“分析了十多年来300万用户发布的约12.6万条级联新闻报道”，结果发现，“一个捏造的故事传播到1500人的速度是一个真实故事的6倍”。而且，虚假的政治故事比关于商业、恐怖主义或科学的虚假故事传播得更快。
4.近年来欧美国家的政治极化也加快了深度伪造信息的传播速度
冷战结束后，外部压力的弱化反而加剧了欧美国家国内政治的两极分化。政治极化的一个重要后果就是减少了公众之间跨领域政治互动的机会；而同质的社交网络又降低了对不同观点的容忍度，放大了理念上的两极化，在一定程度上提高了接受意识形态兼容新闻的难度，并增强了对不同信息的封闭程度。这些趋势创造了一个深度伪造作品高度吸引特定受众群体的环境。
总之，人工智能、大数据技术的发展和普及，使得有心者制作各种深度伪造作品的门槛大大降低，导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。尽管深度伪造只是一种技术工具，并且具有造福于社会的功能，但是，深度伪造技术更多地表现出负面作用，因而给国家安全和社会治理带来的挑战更为复杂。
二、深度伪造对国家安全的威胁与挑战
2018年7月19日，美国参议员马可·卢比奥（MarcoRubio）在传统基金会（HeritageFoundation）的演讲中谈到深度伪造的危害时警告说，过去威胁美国需要核武器、航空母舰和导弹，但今天，所需要的只是“制作一个非常逼真的假视频的能力，它可能会破坏我们的选举，可能使我们的国家陷入巨大的内部危机，并深深削弱我们。”卢比奥关于深度伪造对国家安全带来的威胁与挑战分析不一定全面，但也说明了问题的实质。目前，国际社会、尤其是数字技术发展领先的国家，对于深度伪造给国际社会和国家安全带来挑战的认识越来越清晰，也越来越重视。从近年来世界上出现的各种深度伪造案例及其发展趋势来看，深度伪造无论是对国际安全、国家传统安全如军事安全和政治安全，还是国家非传统安全，都带来了越来越大的冲击和挑战。
（一）深度伪造对国际安全的威胁和对国际形势的影响
当今世界，安全的时空领域较之以往更加宽广，各国人民命运与共、唇齿相依，没有任何国家能够实现脱离国际安全的自身安全，也不存在建立在其他国家不安全基础之上的自身安全。所以，国际安全是国家安全的重要依托。
1.深度伪造会破坏国际社会的战略互信并冲击脆弱的和平环境
在国际关系中，战略互信是国际安全与国际形势稳定的核心支柱，可以为全球合作和多边合作体制建设奠定坚实的基础。但信息的数字化以及几乎无处不在的快速通信的数字手段，促进了虚假和误导性内容的传播。从国际安全和国际形势稳定的角度看，深度伪造与其他颠覆性数字技术相结合，将极大地降低全球和区域多边机构以及国际关系行为体彼此间的信任。对于在国际社会和国际安全领域试图制造事端的国家与非国家行为体而言，它们可以随时获取和利用日益先进的深度伪造技术，减少信息武器化的障碍，扩大参与并深度影响国际安全形势。2019年，印度和巴基斯坦之间的紧张局势升级期间，路透社发现了30起关于该事件的深度伪造视频：这些视频大部分是2017年印巴冲突期间，发生在印巴两国一些城市的民众向对方抗议示威的场景。“有心人士”利用人工智能技术对这些视频作了处理，被有意错误描述为正在印度和巴基斯坦发生的视频片段。这些深度伪造的合成视频极大地刺激了印巴两国的民族主义者，导致事态升级。由于担心事态失控，印度和巴基斯坦官方被迫暂时关闭了一些社交平台。
2.深度伪造有可能会影响军事决策和军备控制
3.涉及他国领导人的深度伪造作品会对国家关系造成影响
涉及他国领导人的深度伪造作品不仅给国家领导人带来负面影响，也会影响国家间关系。2018年，比利时社会党在电视台播放了一段美国总统特朗普关于气候变化的视频。在视频中，特朗普呼吁在即将到来的全民公投中投票退出《巴黎气候变化协定》。他说：“正如你所知，我有勇气退出《巴黎气候变化协定》，你也应该如此。因为你们现在在比利时所做的实际上更糟。你们同意了，但你们没有采取任何措施。”比利时社会党制作这一视频的出发点并不是出于恶意，而是希望吸引比利时人签署在线请愿书，呼吁比利时政府采取更紧急的气候行动。特朗普在视频的最后说：“我们都知道气候变化是假的，就像这个视频一样。”这相当于最后说明了这是一段伪造的视频。但是，恰恰是最后这一句话，并没有以当地语言出现在字幕中，再加上特朗普对待气候变化的一贯立场，让收视者理所当然地认为这就是特朗普的演讲，是在干涉比利时的内政。这段视频就这样激发了比利时人对美国总统干预比利时气候政策的愤慨。
4.深度伪造很可能会成为国际恐怖活动的催化剂
深度伪造技术对非国家行为者尤其是国际恐怖组织来说，无疑具有很高的利用价值。早期的恐怖组织缺乏制作虚假但可信的音频和视频的资源，如今随着深度伪造技术的成熟，它们可以轻而易举地制造这类作品了。恐怖组织通过深度伪造的视频或音频，展现对手包括政府官员发表煽动性言论或从事挑衅性行动，最大限度地对其目标受众产生有利于恐怖组织的影响。如“伊斯兰国”（ISIS）的附属机构可能制作这样的视频：某军事联盟的士兵射杀伊斯兰国家的平民和妇女儿童，或轰炸了某伊斯兰国家的清真寺；某国政府官员、执法人员焚烧《古兰经》等。这类视频无疑会激起伊斯兰国家穆斯林的怒火，酿成针对特定国家目标如大使馆、领事馆或企业的抗议活动，甚至导致类似于2012年美国驻利比亚班加西领事馆遇袭之类事件。这样的深度伪造作品还有利于恐怖组织招募人员，补充后备力量。而对这种深度伪造的逆向对等操作，就是西方国家的媒体也可以制作深度伪造的宣传视频，让西方国家的公众相信恐怖组织及其活动给西方世界构成的威胁。
（二）深度伪造给国家传统安全带来的挑战
深度伪造同样会对民族国家的传统安全即国防、军事安全和政治安全带来更大的冲击和挑战。虚假信息是与战争和军事相生相伴的一门古老的“艺术”。以欺诈、伪造的信息影响国家的政治决策和军事行动在人类历史上屡见不鲜。远一点的有1898年“缅因号”战列舰在哈瓦那港爆炸后，美国媒体利用这一事件进行误导性报道，从而煽动公众支持对西班牙开战；近到美国前国务卿科林·鲍威尔（ColinPowell）以手中塑料袋里疑似洗衣粉的粉末，指称伊拉克拥有大规模杀伤性武器，进而为美国发动伊拉克战争提供合法理由。它们都属于较为经典的对虚假信息的利用。深度伪造技术的发展和传播，将使虚假信息在政治和军事领域的应用更为普遍和容易，从而使民族国家在传统安全领域面临更为复杂的挑战。
1.指挥自动化系统方面的深度伪造为双方军事行动提供战术优势
2.深度伪造给国家政治安全带来更大的挑战和威胁
数字时代特别是人工智能技术的发展给各国进行政治战（PoliticalWarfare）带来了颠覆性的变化。深度伪造将极大地改变政治战的内涵和实施方式，那些拥有先进人工智能能力和侵入性访问其他国家大数据库能力的国际关系行为体，将在政治战中获得巨大优势。人工智能为虚假信息的传播者提供了快速侦察目标国家社交媒体受众并识别其心理弱点的能力。人工智能驱动的系统可以快速生成修改过的内容和深度伪造的数字产品，从而推动针对目标国家民众和国家利益的虚假叙事，冲击目标国家民众的心理，侵蚀目标国家社会的信任，给目标国家的政治安全带来更大的挑战和威胁。
3.深度伪造会改变“脆弱国家”在国家治理方面的政治进程
特定情况下适时出现的深度伪造会造成社会动荡，激化社会矛盾甚至改变一个国家的政治进程。有特定目的的人或团体可能会制作深度伪造的作品煽动民众聚集，制造群体性事件，引发公共安全危机或者暴力事件。2019年印度的印度教教徒通过WhatsApp传播大量深度伪造的视频，助长了针对印度穆斯林群体暴力和骚乱暴发的频率和强度；同一年，发生在缅甸针对罗兴亚人的骚乱，出现在社交平台的深度伪造视频和图片同样发挥了推波助澜的作用。
（三）深度伪造给非传统国家安全带来的挑战
深度伪造在非传统安全领域带来的挑战主要是经济领域。深度伪造既给包括股票、期货市场带来重大冲击，也对国家的经济运行造成负面影响，对企业的影响更为直接。此外，各国公众也都会面临各种各样的基于深度伪造的经济诈骗活动。深度伪造对经济安全的威胁可以从国家、企业和个人三个层面来理解。
1.国家层面：深度伪造的内容会损害国家的经济稳定
深度伪造危害国家经济安全的常见手段有以下几种：一是捏造政府的行为。世界各国的财政、商务和金融监管机构一直在与试图影响市场走势的谣言作斗争——这些谣言往往通过各种社交平台流传开来。如2019年，印度中央银行试图平息社交媒体有关当局将很快关闭某些商业银行的谣言。深度伪造可能会编造诸如政府官员关于税收政策调整的讨论，或具有官方背景的银行家私下讨论未来利率变化，或被视为政府智囊的智库学者关于地区开发的讨论，等等。在经济和金融危机时期，深度伪造可能利用和放大先前存在的经济担忧和市场的波动。
三是恶意银行挤兑。一些国家的银行发生挤兑，这样的新闻经常出现在社交媒体中。发生挤兑的原因很多，其中部分原因与社交媒体的深度伪造有关。尽管基于社交媒体的深度伪造如制造银行排长队的视频或照片并不一定是银行挤兑的主要原因，但社交媒体为此类谣言的快速传播提供了平台，当公众对金融形势或银行健康运转的怀疑开始变得普遍时，社交媒体可以迅速放大它们，从而让挤兑变得更加疯狂。
2.企业层面：深度伪造给企业带来的威胁和挑战更为直接
2021年3月10日，鉴于针对企业的深度伪造活动日益猖獗，美国联邦调查局特意对美国私营企业发出了警告。联邦调查局预测，在未来12—18个月，外国行为者将越来越多地使用支持人工智能的虚假媒体进行“网络钓鱼和社会工程犯罪”，其中深度伪造工具将用于创建“合成企业角色”或模仿现职员工，并且很可能对受害企业和组织造成“非常重大的财务和声誉影响。”穆迪投资者服务公司（Moody’sInvestorService）也向客户发出警告，先进的技术使得制作旨在损害企业声誉的深度伪造视频和图像变得更加容易，导致公司的业务和信用质量受到威胁。
3.个人层面：深度伪造主要被用于欺诈或勒索行为
针对个人的深度伪造主要有以下几种情形：一是身份盗窃。深度伪造至少有两种可以导致身份盗用的方式：一种形式是有针对性的深度伪造来窃取个人身份，然后用受害者的合成语音对其亲朋好友发起欺诈性汇兑；另一种形式是以虚假身份创建银行账户的深度伪造音频或视频，促进洗钱活动或偷税漏税。
总体来看，深度伪造对全球经济体系或者成熟健康的市场经济国家的稳定性不太容易构成严重威胁。发展中国家或新兴市场经济体面临来自深度伪造的威胁更大。经济不稳定和政府机构不那么受民众信任的国家在深度伪造的信息面前更加脆弱；而对于正在经历经济或金融危机的发达国家来说，深度伪造信息可能发挥“最后一根稻草”的作用。另外，深度伪造对目标个人和企业造成经济损失的危险更大。
需要指出的是，单一深度伪造的影响并不局限于单一类型或类别的风险，而是会在不同层次引发连锁反应。首先，由于深度伪造的目标是个人，其影响往往从个人层面开始。其次，可能会对个人所在的团体或组织如政党造成伤害。再次，深度伪造案例的累积和叠加，可能会影响社会心理。最后，导致社会信任的普遍缺失，从而造成严重的社会危害。
三、深度伪造治理：基于总体国家安全观的视角
随着互联网特别是移动互联网的普及，深度伪造技术也给中国带来了非常复杂的安全问题。2019年11月29日，国家互联网信息办公室（以下简称“国家网信办”）负责人，在谈到《网络音视频信息服务管理规定》（以下简称《规定》）出台的背景时强调：“出台《规定》是促进网络音视频信息服务活动健康有序发展的需要。当前，网络音视频信息服务迅速发展，用户规模不断壮大……与此同时，也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患，特别是随着‘深度伪造’等新技术新应用在网络音视频领域的运用，这些风险进一步集聚、放大，可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，造成政治安全风险和国家安全、公共安全风险，对社会稳定造成不良影响。”这一判断说明，深度伪造给中国国家安全、社会稳定和公民权益带来了威胁和挑战，也从一个侧面印证了习近平总书记对中国安全形势的总体判断。
习近平总书记在中央国家安全委员会第一次会议上，对中国面临的安全形势曾经作出这样的判断：“当前我国国家安全内涵和外延比历史上任何时候都要丰富，时空领域比历史上任何时候都要宽广，内外因素比历史上任何时候都要复杂。”深度伪造技术给国家安全带来不同类型的威胁和挑战，这些威胁与挑战又表现在不同的层次上，既给包括政治和军事安全在内的传统国家安全带来新的问题和挑战，同时也对包括国家、企业和个人在内的经济安全构成了多层次的挑战。因此，应对深度伪造在不同领域、不同层次的挑战，不能“头痛医头脚痛医脚”，应该以总体国家安全观为指导，建立应对深度伪造技术的综合治理体系。
（一）深度伪造治理必须坚持以人民安全为宗旨
据央视网报道，在中国公安部门和金融机构加大反诈骗宣传的情况下，2020年，全国立案电信网络诈骗案件92.7万起，案件造成群众财产损失353.7亿元；2021年以来，全国电信网络诈骗案件日均发案2700起，日平均损失达到了1.4亿元；2021年1—9月，全国共破获电信网络诈骗案件26.2万起，抓获犯罪嫌疑人37.3万人，同比分别上升41.1%和116.4%。尽管无法确认使用深度伪造技术在电信诈骗中所占的比例有多高，但可以肯定的是，随着人工智能技术的发展，诈骗分子越来越多地将最新技术应用于诈骗活动中。习近平总书记在网络安全和信息化工作座谈会上指出：“现在网络诈骗案件越来越多，作案手段花样翻新，技术含量越来越高。这也提醒我们，在发展新技术、新业务时，必须警惕风险蔓延。”“明者防祸于未萌，智者图患于将来”。由于越来越多的新兴技术可能被应用于诈骗活动，我们必须主动防范、积极应对。
对深度伪造的治理，要本着对社会负责、对人民负责的态度，加强对人工智能和网络空间的治理，因此，还要广泛依靠人民培养积极健康、向上、向善的数字生态系统。数字时代带来的一个巨大变化就是个人以个体行为主体的角色来参与培育和保护值得信赖的数字和信息生态系统。尤其是，相当大比例的数字内容是由个人用户生成的，个人也可以确保准确和良性的信息被共享。所以，整个社会要有意识地在个人层面培养公众在数字时代、人工智能时代的道德意识和社会责任感。
鉴于中国各地区特别是城乡发展不平衡，民众对于数字产品认知存在巨大差异，管理部门、网络平台和技术专家，都有义务和责任向社会说明人工智能时代新合成媒体的影响力及可能造成的危害，只要公众了解到合成媒体和可能造成的不良后果，这种欺骗产生影响的可能性就会降低。当公众被教导去发现和识别深度伪造的特征和缺陷，就能够用自己的判断决定该相信什么、不该相信什么。
此外，还要注重对特定群体的数字技术扫盲，特别是提高没有接受过系统数字知识训练、只了解数字知识皮毛、只能简单地使用数字产品（如智能手机）的老年人的数字知识水平。据美国学者丹妮尔·西特伦（DanielleCitron）研究，在数字素养方面存在“代际鸿沟”（generationaldivide），55岁以上的一代更有可能传播谎言和假新闻。全国人大代表、中国银监会消费者保护局局长邓智毅在接受记者专访时表示，在中国，电信诈骗的受骗者多为老年人。尽管这并非专门因深度伪造而起，但深度伪造可能会加剧这种现象。因此，任何数字技术扫盲政策都应考虑所有年龄组和社会不同层面，以弥合数字鸿沟和代沟。
只有更多的公众意识到了深度伪造可能造成的危害，进而在整个社会培养防范深度伪造的公众意识，深度伪造对国民安全造成的威胁才能降到最低。从这个角度看，公众意识是防范深度伪造音频、视频不良影响的最好“疫苗”。
（二）深度伪造治理必须以维护国家政治安全为根本
国家政治安全涉及国家主权、国家制度、国民意识形态和执政安全等方面。深度伪造对中国政治安全带来的挑战主要表现为宗教极端意识形态和民族分离势力的渗透和分裂活动，特别是西方国家利用所谓的新疆民族和宗教问题，试图分裂中国，以及利用“港独”势力祸乱香港，给“一国两制”在香港的实施制造麻烦。
涉港问题是西方国家插手中国内政、给中国政治安全带来挑战的另一个重要抓手。2019年，香港黑暴动乱期间，英国和美国媒体都利用了深度伪造视频向外界传递对香港特区政府和执法警队的不满。香港一家专门验证深度伪造虚假信息的平台——“求验传媒”管理人员在接受BBC访问时指出，他们观察发现，有许多社交网站专页在这次“修例风波”期间“不负责任地散播谣言”，发布许多符合它们政治理念的消息；智能手机的性能提升，让更多人可以拍摄照片或视频，再按图片或短片内容编造故事而不理会这些描述是否准确，是这次香港动乱出现“大量假新闻或误导性讯息流传的原因”。
上述涉疆和涉港的案例表明，深度伪造已经并将日益成为威胁中国政治安全的重要手段，让中国的政治安全面临更为复杂的形势。对深度伪造技术的治理，要上升到维护国家政治安全的高度以严密防范和打击利用人工智能和数字技术进行渗透、颠覆破坏活动、暴力恐怖活动、民族分裂活动和宗教极端活动。
（三）深度伪造治理既重视传统安全又重视非传统安全
治理深度伪造问题，既要重视传统安全，又要重视非传统安全。与其他国家一样，深度伪造给中国传统安全和非传统安全带来了新的威胁和挑战。在传统安全领域，除了上述所提到深度伪造给新疆和香港地区的政治稳定带来的挑战外，深度伪造在国土安全和国防安全领域同样给中国带来了一些新的威胁和挑战。无论是在和平时期，还是在未来可能的战争条件下，中国指挥自动化系统同样会面临竞争对手利用深度伪造技术进行干扰和误导的威胁；竞争对手和境外敌对势力也会继续利用深度伪造技术对中国发动政治战，在中国社会制造不信任的情绪和氛围，以降低中国民众对中国社会制度和执政党的信任度。
为此，一方面，中国要加快国防和军队的现代化建设，要贯彻习近平强军思想，贯彻新时代军事战略方针，统筹推进传统安全领域和新型安全领域军事斗争准备。在坚持党对人民军队的绝对领导、坚持政治建军的基础上，以科技强军、人才强军，加快机械化、信息化和智能化的融合发展。尤其是“加快军事智能化发展，提高基于网络信息体系的联合作战能力、全域作战能力，有效塑造态势、管控危机、遏制战争、打赢战争”。
另一方面，针对深度伪造的音/视频基本上是以互联网为基本载体，维护政治安全一定要高度重视网络意识形态安全问题。习近平总书记将网络称为“当前意识形态斗争的最前沿”，认为“掌握网络意识形态主导权，就是守护国家的主权和政权”；各级管理部门“要把维护网络意识形态安全作为守土尽责的重要使命，充分发挥制度体制优势，坚持管用防并举……切实维护以政权安全、制度安全为核心的国家政治安全”。可以说，人工智能和数字时代政治战的特征表明，在互联网这个战场上能否顶得住、打得赢，已经直接关系到中国的意识形态安全和政治安全。
但我们也要看到，深度伪造更多是针对个体用户，其所带来的非传统安全问题也更为普遍和突出。无论是前述涉及针对中国企业和中国公众经济安全的诈骗问题，还是因为“报复色情”引发的性别安全问题，或者因为虚假信息引发的中国期货市场以及股票市场剧烈波动等问题，都已经成为中国各执法部门必须面对和应对的现实问题。在国家和社会日常治理活动中，管理和执法部门面对的更多的也是上述非传统安全领域的问题。
深度伪造引发的非传统安全问题直接关系到中国公共安全。公共安全是基本的民生，因而需要把处理和应对深度伪造引发的非传统安全问题“放在维护最广大人民根本利益中来认识，放在贯彻落实总体国家安全观中来思考，放在推进国家治理体系和治理能力现代化中来把握”。唯有形成有效的社会治理和良好的社会秩序，才能促进社会公平正义，充实中国公众的获得感、幸福感和安全感，进而实现中国社会的良好治理以及确保人民安居乐业、社会安定有序和国家的长治久安。
（四）深度伪造治理要兼顾外部安全与内部安全及自身安全与共同安全两对关系
“共同构建和平、安全、开放、合作的网络空间，建立多边、民主、透明的全球互联网治理体系”，是深度伪造治理的国际路径。
1.各国须齐心协力应对作为全球共同安全威胁的深度伪造
安全问题早已越出国界，任何一个国家的短板都可能会造成外部风险的涌入，形成安全风险洼地。在安全领域中，深度伪造造成的危害非常突出。如欧美国家对“报复色情”的宽容政策，导致深度伪造的色情视频基本上集中在这些国家，不仅给这些国家女性带来巨大威胁，也给其他国家的女性——无论是包括影视界名人在内的公众人物，还是普通民众——带来性别安全的隐患。所以，在深度伪造导致的安全威胁面前，没有哪个国家可以独善其身，各国可谓安危与共、唇齿相依。因而要给予内部和外部、自身与共同安全同等的重视，协调应对深度伪造带来的安全威胁与挑战，维护各国公众的共同利益。
2.以建立在各国共同价值基础之上的数字生态系统治理深度伪造问题
深度伪造治理取决于建立良好的全球数字生态系统，这样的数字生态系统必须建立在各国共同价值基础之上。数字技术已经成为支撑社会功能的核心，正在彻底改变社会的各个方面。国际安全和稳定都依赖于维护一个值得信赖和稳定的数字生态系统。因此，国际社会迫切需要优先考虑数字信任和安全问题，并采取具体措施来保护和促进共享的共同价值标准。目前，在全球数字技术领域，发展不平衡、规则不健全、秩序不合理等问题日益突出，尤其是欧美一些国家在数字技术领域采取双重标准，数字空间治理规则难以反映包括中国在内的广大发展中国家的意愿和利益。中国要继续推动数字领域的全球治理体系变革，特别是在作为深度伪造作品最主要载体的互联网领域。
建立良好的全球数字生态系统应该坚持以下几个原则：一是尊重网络主权。即要尊重各国自主选择网络发展道路和管理模式、互联网公共政策和平等参与国际网络空间管理的权利，不干涉他国内政，不从事、纵容和支持危害他国国家安全的网络活动。二是维护和平安全。网络空间不能成为各国角力的战场，不能成为违法犯罪的温床。各国应共同防范和反对利用网络空间进行恐怖、淫秽和各种经济犯罪的活动。三是构建良好秩序。既要提倡自由，也要保持秩序；既要尊重公众交流思想、表达意愿的权利，也要依法构建良好的网络秩序，保障公众在网络空间的合法权益。四是坚持多边主义。各国应加强沟通交流，完善网络空间对话机制，同时发挥政府、国际组织、互联网企业、技术社群、民间机构和公民个人等各个主体的作用，共同制定全球互联网治理规则，使全球互联网治理体系更加公正合理。
3.打造良好的全球数字生态系统须发挥联合国等机构的作用
（五）在总体国家安全架构下完善针对深度伪造的综合治理体系
随着以互联网、人工智能技术为代表的数字技术的飞跃发展，它带来的负面影响也逐渐显现，中国也在总体国家安全体系架构下，逐渐建立并完善数字治理体系。深度伪造技术出现后，中国比较早认识到这一新兴技术对国家安全的威胁，并不断采取应对举措加强在这一领域的治理，已经形成了较为完善的综合治理体系。
首先，中国正在逐渐完善应对深度伪造的法律体系。2016年11月7日，第十二届全国人民代表大会常务委员会第二十四次会议通过了《中华人民共和国网络安全法》，并从2017年5月1日起正式实施；2021年6月10日，第十三届全国人民代表大会常务委员会第二十九次会议通过了《中华人民共和国数据安全法》，从2021年9月1日起正式实施；为保护中国公众的个人信息安全，2021年8月20日，第十三届全国人民代表大会常务委员会第三十次会议通过了《中华人民共和国个人信息保护法》，从2021年11月1日起开始实施。上述三个法律，构建了比较完善的应对数字时代、维护国家安全的法律体系，为危及国家安全的各种深度伪造活动设置了不可触碰的高压线。
再次，从立法到执法，强化并压实信息发布平台的责任。《中华人民共和国数据安全法》规定：“开展数据处理活动，应当遵守法律、法规，尊重社会公德和伦理，遵守商业道德和职业道德，诚实守信，履行数据安全保护义务，承担社会责任，不得危害国家安全、公共利益，不得损害个人、组织的合法权益。”《网络音视频信息服务管理规定》则对数据平台提出了更具体的要求：“网络音视频信息服务提供者应当落实信息内容安全管理主体责任，配备与服务规模相适应的专业人员，建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度……有效应对网络安全事件，防范网络违法犯罪活动，维护网络数据的完整性、安全性和可用性。”这一规定压实了信息发布平台的责任和义务。
与此同时，国家监管机构和执法部门加大了对违规平台的执法力度。2021年3月，针对未履行安全评估程序的语音社交软件和涉及深度伪造技术的应用，国家网信办、公安部指导北京、天津、上海、浙江和广东等地网信部门、公安机关依法约谈包括小米、快手、字节跳动、阿里巴巴、网易云音乐、腾讯等11家企业，督促这11家数字企业按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。
中国是一个网络大国，但并非网络强国，国内民众教育水平、知识水平参差不齐。国内部分地区存在着民族分离势力、暴力恐怖势力和宗教极端思想。再加上境外敌对势力利用技术和话语权优势，在国际社会加大对中国的意识形态攻势。深度伪造是境内外各种不稳定势力针对中国社会越来越频繁使用的重要手段，对中国国家安全造成的影响会更为复杂，这就要求我们在总体国家安全观的指导下，统筹应对新兴技术发展给国家安全形势带来的新挑战。
四、结语
同时，恶意使用深度伪造技术以及这种技术的泛滥，无论是在传统安全领域，还是在非传统安全领域，都给国家和国际的和平、安全和稳定带来了多方面的风险和挑战，也让公众面临的安全问题更加复杂化。越来越容易获得的深度伪造技术让一系列国家和非国家行为体参与到原本复杂的虚假信息活动中，也更加容易和方便去影响其他国家的政治局势甚至政治走向；国家与非国家行为体还可以利用深度伪造来破坏其他国家的信息环境，从而在持续的政治和军事紧张局势中引发危机或导致紧张局势的升级。深度伪造最深刻的影响在于，它创造了“骗子的红利”——对从个人、社会、国家和国际社会不同层面的信任关系造成破坏，从而给社会、国家乃至全球治理制造更多、更持久的困难。
目前，包括中国、美国、欧盟和联合国在内的大国和国际组织都已经认识到深度伪造对个人、社会、国家和国际安全带来的挑战和威胁，并且从新技术的研发、加强对信息发布平台的监管以及社会立法等方面采取行动，力求遏制恶意深度伪造给国家安全带来的各种威胁。但是，数字活动的跨境性也决定了要解决深度伪造带来的国家安全问题，国家间的合作是必不可少的。国际社会必须摒弃国际安全治理的双重标准，在相互尊重、相互信任的基础上，倡导综合安全、合作安全、共同安全的理念，共同打造数字时代人类安全的命运共同体。