美国国家科学技术委员会《2020

美国国家科学技术委员会的跨机构工作组编制了《2020-2024进展报告:推进可信赖的人工智能研究与开发》报告,该报告总结了2020-2024年间美国联邦政府在人工智能研究与开发方面的进展,旨在支持可信赖AI的创新,并管理其潜在风险。

机构角色:

政策框架:

对基础和负责任的AI研究进行长期投资:

开发有效的人机协作方法:

理解和解决AI的伦理、法律和社会影响:

确保AI系统的安全和保障:

开发用于AI训练和测试的共享公共数据集和环境:

通过标准和基准来衡量和评估AI技术:

更好地理解国家对AIR&D的劳动力需求:

扩展公共和私人合作伙伴关系以加速AI的进步:

建立以原则为基础并协调一致的国际AI研究合作方法(新):

报告强调,美国政府将在确保AI的安全性、可解释性和公正性方面继续努力,并将持续通过跨机构合作来推动AI技术的发展。政府将更新报告,以反映不断变化的技术和政策环境。

总结而言,该报告展示了美国政府在推动AI研发、管理其风险以及促进其社会和经济效益方面的努力和成就。通过一系列策略和合作,政府希望在全球范围内保持AI领域的领导地位,同时确保技术的发展符合公共利益和伦理标准。

由人工智能研究与开发跨机构工作组撰写的报告。

国家科学技术委员会网络与信息技术研究与发展小组委员会及机器学习与人工智能小组委员会。

2024年7月

本文中提到的任何特定商品、出版物、流程、服务、制造商、公司、商标或其他专有信息,均旨在提供清晰说明,并不代表美国政府的认可或推荐。

执行摘要引言如何阅读本报告策略1:对基础和负责任的AI研究进行长期投资策略2:开发有效的人机协作方法策略3:理解和解决AI的伦理、法律和社会影响策略4:确保AI系统的安全和保障策略5:开发用于AI训练和测试的共享公共数据集和环境策略6:通过标准和基准来衡量和评估AI技术策略7:更好地理解国家对AI研发的劳动力需求策略8:扩展公共和私人合作伙伴关系以加速AI的进步策略9:建立以原则为基础并协调一致的国际AI研究合作方法(新)结论与下一步

表1.各联邦机构在九大战略重点的AI研发活动摘要图1.各联邦机构的AI研发投资摘要

拜登-哈里斯政府紧迫地采取措施管理人工智能(AI)的风险并把握其机遇。2023年,拜登总统发布了一项具有里程碑意义的行政命令,旨在推进美国在安全、可靠和可信的AI创新方面的领导地位。这份2020–2024进展报告强调了自2016–2019进展报告以来,联邦AI研究与开发(R&D)投资的显著增长:推进人工智能R&D。联邦机构正在大力投入资金,以解决如气候变化、医疗保健进步、网络安全增强、国防支持、科学发现以及制造和运输等关键领域的运作效率等重大挑战。

根据《国家人工智能研发战略计划:2023年更新》(以下简称“2023战略计划更新”),本报告展示了联邦机构对支持关键国家倡议的承诺,包括《人工智能权利法案蓝图》和《人工智能安全、安全和可信开发与使用行政命令14110》(以下简称“AIEO14110”)。本报告系统地记录了各机构在推动人工智能领域方面取得的显著进展,这些进展不仅惠及美国人民,还推进了2023战略计划更新的战略优先事项:

策略1:对基础和负责任的AI研究进行长期投资。

策略2:研究并发展高效的人类与AI协作方法。

策略3:深入理解并应对人工智能的伦理、法律和社会影响。

策略4:确保AI系统的安全性与保障措施。

策略5:建立用于AI训练和测试的共享公共数据集和环境。

策略6:通过行业标准和基准来衡量和评估人工智能技术。

策略7:深入理解国家在人工智能研发方面的人才需求。

策略8:拓展公共与私人部门的合作伙伴关系,以加速人工智能技术的进步。

策略9:建立原则性和协调性的国际合作方式,以推动人工智能研究(新)。

本报告首先从战略的角度强调人工智能研究,然后描述各机构的贡献,以提供一个整体的政府概览。

本报告详细总结了过去四年联邦AI研发活动的情况,举例说明了与2023战略计划更新中描述的九大策略一致的联邦机构项目和活动。本报告阐明了联邦对AI研发投资的重要性,展示了联邦AI研发活动如何推动AI的进步,并进而影响多个经济部门。尽管本报告并非面面俱到,但它反映了联邦政府支持的重大跨机构活动。有关机构研发项目的更多详细信息,可在AI研究项目库中找到。[^7]尽管一些较小的、跨部门或涉密的活动无法包含在本报告中,这些努力也为国家推动可信AI的承诺做出了重大贡献。

该报告围绕2023年战略计划更新的九大战略重点进行结构安排。针对每个战略,重点介绍了关键机构的项目和活动,并特别强调在2023年战略计划更新发布后所采取的努力。有些活动对多个战略均有贡献,这些跨领域的努力在适当的地方进行了说明。表1概述了联邦研发机构参与网络信息技术研究与开发(NITRD)人工智能研发跨机构工作组在每个战略中的参与情况,其中X表示各机构在战略重点方面的某种程度的努力。这些贡献在报告的其余部分进行了更详细的介绍。整体来看,通过一系列明确的投资、进展和成就,对2023年战略计划更新做出了全面的响应,并且在多个政府管理期间,联邦人工智能研发战略保持了显著的连续性。

(1)核心AI:这类投资主要侧重于AI研发,并归属于AI项目组成部分领域(PCA)下进行报告。PCA是联邦机构用来报告网络和信息技术研发预算信息的“分类”机制。

(2)AI跨领域:主要专注于人工智能以外其他领域的投资,这些投资在其他PCA中进行了报告。AI跨领域在2018财年不可用。

本报告将定期更新,以记录国家在维持和推进2023年战略计划更新目标方面所取得的进展。

近年来,AI领域的进步得益于数十年来对AI研究的投入。为了持续提升这项技术的有效性及其广泛的利益,联邦政府保持以创新为优先的长期视野至关重要。各机构认识到对可信AI研究进行长期投资的重要性,过去四年的显著进展证明了这一点。本节提供了一些显著的例子,展示了在数据驱动的知识发现方法、支持联邦机器学习(ML)方法、理解AI的理论能力和局限性、研究可扩展的通用AI系统、开发更加强大和可靠的机器人、推进改进AI的硬件、创造AI或改进硬件以及采用可持续AI计算系统等方面所做的努力。

作为2030年人口普查多年研究工作的一部分,人口普查局正在探索多种基于AI的方案,以用于收集、处理和发布2030年人口普查数据。

在一系列研究项目中,Census的工作人员利用自然语言处理和机器学习技术,通过分析填写数据来自动分类十年一次普查的受访者种族和民族;通过分析PostEnumerationSurvey(PES)受访者记录来确定其居住状态;以及处理PES采访员的现场笔记,以识别数据中存在的特定实体。

DARPA致力于推动AI的技术前沿,并将尖端AI技术应用于研发新的国家安全任务能力。

隶属于DARPA空战演进(ACE)计划开发的AI算法,已经从在计算机屏幕上控制模拟的F-16进行空中格斗演练,发展到能够实际控制F-16飞行。运行在一架经过特殊改装的F-16测试飞机(称为X-62A或VISTA,即可变飞行模拟测试飞机)上的ACE软件,在加州爱德华兹空军基地的空军试飞员学校进行了多日的多次飞行测试。此次飞行验证了AI代理能够控制全尺寸战斗机,并提供了宝贵的实战飞行数据。

DARPA的人工智能网络挑战(AIxCC)计划旨在开发和展示基于人工智能的技术,以快速且大规模地自动发现和修复软件漏洞,从而保障广泛使用的关键代码的安全。AIxCC采用竞赛模型,参赛团队需创建自动化工具来应对漏洞发现和修复的挑战。参赛团队将利用人工智能技术开发自动化工具,以进行漏洞发现和修复,重点是开发适合广泛部署并应用于关键基础设施领域的工具。

国防部致力于在整个部门范围内开发AI驱动的解决方案,并在企业级和各种国防部应用案例中有选择性地推广已验证有效的解决方案。

深度学习理论基础研究旨在建立基于严格数学原理的深度学习原理性理论。设计推进的目标是应对当前深度网络设计中的试错过程。构建推进针对深度网络训练中的数学挑战,而测试推进则聚焦于刻画训练阶段以外的深度网络性能的数学问题。

机器智能用于核爆炸监测的研究通过应用先进的数据科学方法,开发分析工具和数据利用算法,旨在快速、可靠地检测、定位和描述地震事件,并协助区分自然事件和人为事件,从而推动美国地面地震核监测任务的进展。

AIEO14110推进AI使用的治理、创新和风险管理2024年3月28日,管理和预算办公室(OMB)发布了一项政策15,旨在规范美国政府对AI的使用。该政策重点在于加强AI治理、推进负责任的AI创新,并通过指示各机构采取强制性保护措施来开发和使用可能影响公众权利和安全的AI,从而有效管理AI使用带来的风险。

教育部通过其教育科学研究所(IES),资助若干利用人工智能进行研发的项目,旨在解决从幼儿教育到成人教育等各阶段的国家最紧迫的教育需求。

IES已投资于多个项目,其中包括与NSF合作设立的两个AI研究所,旨在开发包容性的智能教育技术,并支持有言语和语言处理障碍的儿童;此外,还包括为研究人员提供的三个数据科学培训项目;最近宣布成立的一个研发中心,通过生成式AI技术增强课堂教学和学习;持续对其小型企业和创新研究项目进行投资;并在教育科学资助项目中的变革性研究项目下授予新的奖项。

“从种子到规模”计划将资助研发,旨在以下重要领域推动突破性理念,这些领域包括:开发终身技能培养的学习方法;创建能够精准甄别和确定个体神经多样化学习者需求的工具和系统;为教育工作者开发新一代的反馈、建议及支持工具;以及研发新技术和方法,帮助教育工作者和学习者实施支持行为和情绪调节的策略。

DOE/NNSA正在投资开发AI和ML方法,以应用于NNSA必须在其中运行的独特高安全性和高风险环境。

美国国家核安全局(NNSA)目前采用最佳实践的验证、确认和不确定性量化技术,确保其建模和仿真能力在高风险任务中的应用具有可信度。NNSA正在开发一种数学理论基础,用于验证和确认,以实施和评估确保AI生成结果能够被广泛科学界,特别是核安全社区信任的方法。通过评估解决方案的可靠性并解释模型预测,NNSA旨在了解特定预测生成的原因或过程,从而实现透明且可解释的AI系统。

DOE/SC投资于基础研究项目,并支持在其科学任务中创新使用AI。

科学机器学习和人工智能领域的基础研究具有加速科学发现和技术创新的潜力。美国能源部/科学办公室(DOE/SC)的这些投资旨在开发稳健、可解释并具有领域意识的基础,为科学中的人工智能应用提供支持。基础研究的进展使得基于从海量数据学习的创新科学能力、依靠预测性机器学习的建模与模拟、以及复杂系统和流程的智能自动化及决策支持成为可能。

三个项目办公室在DOE科学用户设施中启动了14个数据、AI和ML项目。这些项目旨在自动化设施操作,并在数据建模、获取、挖掘和分析方面进行管理,以便于解释实验结果。项目涉及大型X射线光源、中子散射源、粒子加速器和纳米级科学研究中心。

DHS正在投入人工智能研究与开发,旨在通过使用负责任的人工智能来保障国土安全。

针对模型漂移、对抗性人工智能以及增强型可解释人工智能的基础研究,为任务执行、用户及决策者提供了衡量AI在DHS使用案例中可信度的方法学指导。这项研究涉及将领域知识和人类专业知识纳入AI模型及其解释的策略。例如,由DHS资助的研究正在开发创新方法,以创建和测试生物识别技术,以确保其能够在不同人口变异条件下公平运作。

交通运输部联邦公路管理局(DOT/FHWA)持续在公路运输领域进行人工智能研究的投资。

探索性高级研究计划旨在应对公路交通中对高风险、早期阶段研究的需求。2023财年,该计划资助了六个涵盖多个应用领域的AI研究项目,内容涉及提高弱势道路使用者的交通安全和结构检查等。

小企业创新研究(SBIR)计划资助了一个关于交通监控的项目,进而促成了两个AI计算机视觉应用领域的奖励。

VA持续进行适当的投资,以支持AI研发最早阶段中的关键考虑因素,如可信性、责任心和安全性。

VA于2023年8月发布了其可信AI框架(TAI)。VA的TAI政策与《推动联邦政府使用可信AI的行政命令13960》[^23]及其他机构的框架高度契合。多个VA办公室和VA医疗中心已在其工作中谨慎且负责任地利用AI,确保AI方案和举措得到适当评估并用于指导决策。TAI也是VA当前AI技术冲刺赛的一项评估标准,适用于临床就诊记录的环境口述以及社区护理文件的临床记录处理。

2023年9月,VA的国家人工智能研究所(NAII)联同VA研究人员发表了一项研究,证明VA可信人工智能试点项目——AIR&D委员会与机构审查委员会补充模块——成功识别了缺乏充足风险缓解措施的研究提案。

联邦调查局(FBI)正在深入研究人工智能(AI)和机器学习(ML)技术,以预见和应对潜在威胁,保障美国民众的安全。

NASA正在针对其全部任务挑战开展人工智能研发,涵盖航空学、地球科学、空间科学以及人类与自主空间探索的诸多领域。

NIH资助旨在利用或推动AI发展的生物医学研究。

NSF-NIH项目——在人工智能和高级数据科学时代的智能和互联健康,支持在计算机与信息科学、工程、数学、统计学、行为和/或认知研究领域开发具有变革性的高风险高回报进展,从而解决生物医学和公共卫生领域的紧迫问题。

NIOSH正在针对AI与工人安全、健康和福祉交汇点的特定技术项目进行投资。

NIOSH正积极推动若干关键技术举措,包括在工人赔偿和国家监测系统中实现行业和职业数据的自动编码,研究AI系统设计及其在防止工伤、促进健康公平与整体福祉方面的综合影响,以及开展工人赔偿研究。这些举措旨在改进和优化AI算法,以高效处理和分类海量数据。

NIOSH致力于推动测试方法的改进,包括评估个人防护设备穿透率的优化、纳米级颗粒物的自动识别,以及基于深度学习的纳米材料诱发肺毒性病理评分的发展。这些应用将展示并提升人工智能系统在多样化数据集中的学习和复杂模式解释能力,从而改进分析方法并加深对潜在风险的认识。

国家标准与技术研究院(NIST)正引领基础与应用测量科学研究,以支持负责任且可信赖的人工智能(AI)。NIST还在物理科学、化学科学、材料科学、工程与自主机器、制造科学、建筑与火灾科学以及信息技术与通信科学等领域,研究AI在测量科学中的应用。

NIST正在多个基础和应用计量领域开展AI研究。许多实验室正在探索如何利用AI技术进行数据分析;例如,大脑启发的(神经形态的)AI硬件、算法以及由物理测量研究指导的训练方法,目的是在信息处理速度、能效和连接性上超越传统AI系统。

NIST正在不断改进可配置数据管理系统。这一关键数据基础设施最初专注于加速先进材料的创新、设计和部署,如今已扩展应用到国内外其他重要领域。

国家海洋和大气管理局(NOAA)投资于人工智能研发,利用AI算法来增强天气和气候预测的准确性和及时性,同时更深入地研究环境变化对地球的影响。

NOAA的LightningCast产品是NOAA在人工智能技术方面逐渐取得成功的案例之一。LightningCast已在NOAA危险天气测试平台中多次展示,并得到国家气象局预报员的高度评价。如今,该技术已被广泛应用于户外活动决策支持、航空、野火管理和一般天气预报等领域。LightningCast目前正过渡至NOAA国家环境卫星、数据与信息服务处(NESDIS)的操作使用当中。

国家海洋服务(NationalOceanService,简称NOS)与国家气象服务(NationalWeatherService)合作开发了首个全国性裂流预测系统。该系统对危险洋流的发生概率进行评级,并提供长达六天的逐小时预测。此外,NOS、东南沿海海洋观测区域协会(SoutheastCoastalOceanObservingRegionalAssociation)和加州大学圣克鲁兹分校(UCSantaCruz)的研究合作,开发了一种在网络摄像头视频中实时检测裂流的模型,作为WebCOOS摄像网络的一部分。裂流每年导致美国海滩发生80%的救援行动,并造成大约100人的死亡。

国家科学基金会多年来一直致力于支持创新的人工智能研究,并将继续资助这一领域的重大突破。

国家人工智能研究院(AIInstitutes)计划象征着对促进长期且基础性人工智能研究的深度承诺,同时也在实现2023年战略计划更新的各项要素上取得了显著进展。AI研究院生态系统除了涵盖25所研究院之外,还包括扩展AI创新与能力建设和伙伴关系(ExpandAI)计划,该计划旨在扩展并多元化人工智能研究社区。

美国农业部资助的人工智能研究所已在诸多主题上推动了知识的进展,这些主题包括下一代网络安全、人工智能的神经与认知基础、气候智能型农业与林业、可信赖的人工智能及人工智能增强学习。

诸如可持续农业与林业研究、农业推广与教育以及食品与农业系统中应对极端天气事件的快速响应等项目,致力于开发、推进并利用人工智能系统,以预测和解决当前及未来农业生产系统面临的挑战。

AIE014110AI集中区域创新引擎

由NSF领导的区域创新引擎将科学和技术领导力作为推动关键技术发展的核心驱动力,包括AI等,以应对紧迫的国家和社会挑战,培育美国R&D生态系统中的合作伙伴关系,促进经济增长和就业机会。NSF引擎在初期两年内投资1500万美元,并将在未来十年内对每个NSF引擎最高投资1.6亿美元。在首批10个NSF引擎中,有7个将利用AI解决重要挑战,例如皮埃蒙特三角再生医学引擎(PiedmontTriadMedicineRegenerativeEngine),它将应用AI以开发和推广突破性的临床疗法。所有在2024年1月宣布的10个NSF引擎中,NSF的初始两年投资为1.5亿美元,州和地方政府、私人企业和包括慈善机构在内的非营利组织承诺匹配超过3.5亿美元的资金。

美国专利商标局的核心使命在于推动科学和技术领域的创新,同时也利用科学和技术的进步来提高自身的工作效率。

随着AI从实验室科学转变为广泛应用,深入理解如何构建能够与人类顺畅互动的AI系统显得至关重要。本节详述了在人类与AI团队协作科学领域的重要进展,旨在改进绩效模型和评估指标,培养在人类与AI互动中的信任,深入理解人类与AI系统,并开发AI互动与协作的新范式。

DARPA正在致力于研发技术,使机器不仅能作为促进人类行动的工具,还能成为人类操作员可信赖的合作伙伴,这对于军事系统和任务关键应用尤为重要。

DARPA的IntheMoment项目中的研究人员开发了一种基于大型语言模型(LLM)的新算法,可以作为可信AI系统的基础,从而实现与人类决策者的对齐。该算法能够理解诸如“任务重点”等特性的自然语言描述,预测不同行动方案与这些特性的契合度,并提供详细的解释来支持这些预测。

DARPA的环境驱动概念学习(ECOLE)计划致力于打造能够持续从语言和视觉输入中学习的AI代理。这些智能计算代理具备与人类协作的能力,能够在国家安全的紧急分析任务中辅助分析图像、视频和多媒体文档,在这些应用场景中,可靠性、鲁棒性和可信赖性至关重要。

国防部在各部门积极投资开发AI驱动的解决方案,这些解决方案不仅能够加速决策流程,还能显著提升决策的质量和精确度。

自主空战操作计划旨在为空中战术平台开发AI驱动的自主技术,从而推动人工智能研究的前沿。其目标是创建并部署一种先进的AI驱动自动驾驶仪,使其能够执行航空与导航任务,同时具备诸如高级情报、监视与侦察以及超视距作战等自主行为能力。

人工智能将协助提升NNSA评估武器系统当前和新环境的能力,并在实验数据尚未可用之前减少环境规范中的设计余量。

NNSA的AI重点计划正在研发用于实现AI辅助代码生成、科学发现以及高性能计算(HPC)设施操作的方法、算法和软件。

DOE/SC致力于基础研究、计算软件和工具的投资,旨在提升人类与人工智能结合方法在科学发现与创新中的效率和生产力。

提升人类与人工智能在科学发现领域的生产力,需要依托实时交互的算法和AI软件生态系统的发展,从而推动下一代用户设施的前进。为实现这一目标,DOE于2023年9月宣布投入3000万美元进行研究,以增强人类与人工智能的生产力,并在实验用户设施上取得科学进展。

国土安全部科学技术局的研究投资主要集中在深入理解人类、人工智能和自主系统的互动与协作方式,以提升人机系统及其整体性能。

美国国土安全部科学技术局(DHSS&T)正在为自然灾害管理中的第一响应者开发系统,这些系统通过整合多种不同的传感器来提供统一的态势感知。通过利用生成式AI和多模态工具,DHSS&T正在研究将第一原理模型融入数据驱动的学习方法中的技术。

NASA正在开发多种方法,旨在促进人类与人工智能在各种环境中,包括太空和飞机上,进行有效合作。

用于材料发现、设计和表征的AI工具旨在自动识别材料特性、预测其性能、通过可视化手段为研究人员提供信息,并反复提出实验建议。我们正在积极研发创新的通信模式,这些模式包括但不限于手势、眼动、语音以及可测量的生理指标,致力于实现从将机器视为决策支持工具(DST)向将机器视为团队成员的转变。

NIH采用可解释的AI技术,以研发新的患者与医生交互界面。

多年来,NIST一直致力于研发可用性测量方法和人机交互的度量标准,并将这一研究进一步拓展到AI技术与人类使用之间的交集领域。

NIST已经启动了基础研究,旨在审查和制定衡量用户对AI技术信任度的标准,并在量化人类与AI技术各自以及相互依赖情况下对交互结果的影响方面进行探索。NIST正在开发一套新的方法学和指标体系,以量化系统在社会环境中维持安全功能的能力。

NIST正在致力于开发软件和标准,以减少AI与人类交互的障碍,同时提升AI的可解释性和可信赖性。这项工作涵盖了多方面内容,包括制定人类与AI活动的分类法,促进用例的开发,识别各领域的共性,并开发新的互动性评估指标和技术。

NOAA正在开展AI翻译技术试点项目,旨在优化员工的工作流程,并提升服务交付的公平性。

作为其自动图像分析战略计划的一部分,美国国家海洋和大气管理局(NOAA)国家海洋渔业服务(NMFS)推动了CoralNet的发展。这是一种用于分类珊瑚礁图像的新型人机交互人工智能(AI)工具。该网站通过直观的图形用户界面部署深度神经网络,允许对图像进行全自动和半自动注释。此外,它还充当数据存储库和协作平台。在美国国家科学基金会(NSF)和NOAA的慷慨支持下,CoralNet是开源且免费的。

国家科学基金会的投资推动了在人机协作方面的基础研究和应用研究,培养了人工智能与人类协作领域的人才库,并为学术界、政府和工业界的合作创造了联系节点。

人类语言技术涵盖了一系列由多个NSF计划资助的AI和语言学研究项目。其中包括增强学习创新技术研究(RITEL)项目,该项目旨在支持新兴技术的早期研究,这些技术能够应对现实教育环境中的紧迫需求,并且在人类与AI合作中发挥关键作用。

数字农业和能力建设领域的人机协作研究与开发是美国农业部AI投资的核心内容。

美国专利商标局利用科学和技术的进步来支持其工作,尤其是在人与人工智能交互界面方面。

AI的广泛应用意味着其对社会和个人的影响广泛,这需要跨学科合作,探讨复杂的伦理问题,完善法律框架,并理解社会对AI系统的态度。本节重点阐述通过社会技术系统设计推进核心价值观方面的基础研究投资和在AI的伦理、法律和社会(ELS)影响方面的进展;理解并缓解AI带来的社会和伦理风险;利用AI解决ELS问题;以及了解AI带来的更广泛影响。

国防部采纳了适用于战斗和非战斗功能的AI使用伦理原则,以辅助美国军方。2022年DOD责任AI策略与实施路径明确了在整个AI系统生命周期内贯彻这些原则的实施方向。

自主能力团队(ACT3)是一个特别行动组织,其使命是通过利用创新的“初创”商业模式,将学术机构的远景蓝图、AI初创公司的灵活性和生产开发公司的严谨性结合起来,在空军中大规模推广AI的应用。其目标是定义解决方案成功转移的最短路径,并与飞行员和飞机操作员密切合作,探讨如何将信任、安全和伦理元素纳入AI系统设计中。

负责人工智能(RAI)工具包提供了一套流程,用于识别、跟踪并改进AI项目与RAI最佳实践及国防部AI道德原则的契合度,同时把握创新的契机。该工具包在AI产品生命周期的各个阶段,通过可定制且模块化的评估、工具和各类工件,为用户提供指导。RAI工具包继承了早期国防部的工作,如负责人工智能(RAI)指南和工作表,还包括外部标准如NISTAI风险管理框架和工具包。

AIEO14110识别和减轻医疗保健偏见的AI指南HHSAI任务小组发布了处理医疗保健算法中的种族偏见的指导原则47。该指南的总体目标包括在所有医疗保健算法生命周期阶段促进健康和医疗保健的公平性,确保医疗保健算法及其使用的透明性和可解释性,在所有医疗保健算法生命周期阶段,真实地与患者和社区进行互动以赢得信任,明确识别医疗保健算法的公平性问题和权衡,并建立对医疗保健算法结果中公平性和公正性的责任机制。

教育部(ED)正在与民权执法机构合作,作为由司法部(DOJ)主持的跨机构会议的一部分,通过严格的执法措施、政策倡议以及持续的教育和宣传活动来保障民权。此次会议探讨了如何利用共享资源应对因人工智能(AI)和其他先进技术的应用而可能产生的歧视或其他不利情况。此外,教育部还单独举办了一系列与民权和教育技术团体的听证会。

国土安全部科学与技术局致力于确保人工智能与机器学习的研究、开发、测试、评估以及部门应用均符合法律法规和其他法定要求,同时保证隐私保护,并维护个人的民权和公民自由。

国土安全部科学与技术局(DHSS&T)于2023年进行了一项研究并发布了一份关于数字伪造领域的报告,指出当前合成媒体继续带来危害的方法。报告概述了恶意行为者使用的生成数字伪造和深度伪造的工具和技术。评估还确定了多种现有的或正在开发中的检测和认证技术及工具,作为应对措施,提供了关于如何挑战或反驳虚假或篡改内容的一些见解。

联邦公路管理局在研究项目上的投资包括处理AI社会影响的方法。

NASA及其首席人工智能官正在构建一套人工智能治理框架,以确保其人工智能的应用符合道德规范、安全可靠且具有可解释性。

NASA已经编写了一份报告,名为《NASA人工智能伦理使用框架》,其中包含了人工智能伦理考量的草案原则,包括公平、可解释与透明、负责任、安全与可靠、人类为中心与社会有益、以及科学与技术上健全。

NASA正在开发可解释的机器学习算法,以生成对航空数据中异常及其前兆为何被鉴别为异常的解释,这些解释将以关键贡献特征的形式呈现。

美国国立卫生研究院(NIH)高度重视推进利用人工智能方法进行研究的生物医学研究人员的能力,以尽量减少其研究可能带来的风险,并强化生物医学人工智能的伦理框架。

自2022年起,利用NIH资助研究的数据进行AI开发的二次使用需遵守NIH的数据管理与共享政策,而涉及基因组数据的使用则需遵守NIH的基因组数据共享政策。这些政策要求研究人员最大限度地共享科学数据,或者根据补充信息《NIH数据管理与共享计划要素》提供令人信服的理由。患者衍生数据的研究使用由NIH数据访问委员会进行审批和监控。

全国司法研究所正在支持研究工作,旨在通过应用人工智能来解决刑事司法中的需求,同时深入理解其在伦理、法律和社会方面的影响。

预测法医学脱氧核糖核酸(DNA)和预测性警务项目资助了一个关于概率基因分型、法医学DNA表型和法医学调查遗传家谱技术的研讨会。该项目还资助了一个关于执法部门使用基于算法的人员预测性警务方法及其对隐私、公民自由、准确性或差异影响的研讨会。

新泽西州与新泽西州法院行政办公室合作,致力于加强数据驱动的预审释放工作。这一努力旨在审视并修正当前使用的公共安全评估(PSA)工具。虽然该工具设计初衷是提供客观的预审释放建议,但因其固有的偏见受到批评。通过应用机器学习和数据分析,目标是优化该工具,以支持该州预审改革的目标:限制预审拘留的使用,减少系统中的种族差异,同时确保公共安全。

国家标准与技术研究院(NIST)在引领框架、研究、工具、资源、数据和标准的发展,旨在支持对人工智能伦理、法律及社会挑战进行有条理的应对。

NIST正在制定一系列指南,使各机构能够评估差分隐私保障措施的有效性,并提供相应的指南、工具和实践,以支持各机构实施最低风险管理措施,同时测量和管理AI系统及其所用数据中的偏差。

NOAA积极参与社区活动,以深入理解道德和可信赖的人工智能(AI)原则。

2022年夏季,美国国家海洋和大气管理局(NOAA)参与了一场有关“环境科学可信AI(TAI4ES)”的研讨会。该研讨会由国家大气研究中心(NCAR)和由美国国家科学基金会(NSF)资助的“天气、气候与沿海海洋学可信AI研究所(AI2ES)”共同组织,旨在探讨AI可信性的基础知识及如何为环境科学应用开发机器学习(ML)系统。NOAA附属的专业领域专家在研讨会的多个环节中进行了多场讲座。

NOAA每年都会举办关于在环境科学中利用AI的公开工作坊。2023年的工作坊中设有名为“研究到应用的过渡与AI风险管理”的全体会议。2022年的工作坊则包括题为“伦理和负责任的AI”的闭幕全体会议。

NSF认识到将AI系统整合到社会中,需要理解社会技术边界。

“设计可问责软件系统(DASS)项目”支持基础研究,旨在深入理解和形式化软件系统与其设计和运行所依赖的复杂社会和法律环境之间的双向关系。DASS项目将计算机与信息科学和工程领域的研究人员与法律、社会、行为和经济科学领域的研究人员结合起来,共同探索软件系统社会目标的驱动因素。

伦理与责任研究(ER2)计划旨在支持对新兴科学和技术领域(如人工智能和机器人技术)的伦理影响进行调查,以确保研究能回应社会的需求和价值观。ER2计划鼓励研究人员审视诸如人工智能等技术如何对研究实践产生影响,包括作者身份、合作、指导和同行评审机制等。

美国农业部资助研究并进行技术推广,旨在预见技术创新可能带来的意外和不可预见的后果,包括文化、健康、福利、公平、伦理及环境方面的影响。

美国专利商标局的核心使命之一是为知识产权(IP)政策提供建议,这其中涉及到人工智能(AI)的法律影响以及理解其更广泛的社会和技术影响。

当前AI系统的开发工程流程仍然处于初步阶段,关于可靠实现的最佳实践尚未完全确立。此外,这些系统本身可能难以解析,导致错误和攻击的检测变得困难。本节将探讨用于构建安全且可信赖的AI以及保障AI系统的各种努力。

DARPA正在研发技术,以保证人工智能系统的安全性、保密性和可信性。

DARPA的语义取证(SemaFor)计划开发了一种视频取证模型,该模型通过异常检测来识别被操纵的视频。例如,当被操纵的演讲者的嘴唇与其声音略微不同步时,该模型可以进行检测。SemaFor模型的平均检测精度接近90%,在无监督学习训练模型中,其性能优于先前最先进的取证检测模型。

DARPA的“AssuredAutonomy”项目展示了一种基于AI的系统,该系统能够对降落飞机跑道上或附近的地面物体发出警告。在商业空域进行的八次试飞中,该系统未产生任何误报或漏报。“AssuredAutonomy”跑道入侵警告功能支持有人驾驶和无人驾驶飞机,这对于更大范围地部署自主飞机具有重要意义。

国防部致力于可信赖、安全且有保障的AI系统的开发。

传感器利用综合评估中心进行的定制实验旨在全面了解系统性能。这些实验包括评估系统在操作条件变化下的稳健性,衡量算法自信度的准确性(这对数据融合和资源管理至关重要),并确保排除那些在训练数据中未出现的混淆物(非目标对象)。此外,实验还集中于通过整合代理数据和合成数据,检验离线训练过程适应新目标和新条件的能力。

人工智能图像识别系统化测试(STAR)项目开发了显著推进自主系统测试科学的技术。这些技术提升了自主系统测试和操作的安全性及用户信任度。其中一个机制是创建图像分类器稳健性测试工具,帮助测试人员证明基于AI的成像设备能够拥有足够优秀的表现,从而做出关乎安全的重要决策。

国家核安全管理局的高级仿真与计算(ASC)项目将研究如何将现有的安全和安保实践与新兴的可信任人工智能与机器学习(AI/ML)概念相结合,这些概念包括减少偏差、提高可解释性和说明性。

NNSA正在构建一个用于验证、确认和评估方法的数学基础,以确保从AI生成的结果是安全可靠的,并且可以放心使用。

DOE/SC投资于人工智能研究和隐私增强技术(PETs),以便从分布式但集体共享的数据集中进行学习。

DOE/SC通过与NIH主导的Bridge2AI项目等跨机构合作,在推动隐私保护AI技术的研究与开发领域居于领先地位。

DOE/SC和NSF已经建立了一个研究协调网络(RCN),以推动人工智能隐私增强技术(PETs)的进步。RCN的一个重要目标是促进人工智能领域的协作,同时解决人工智能研究中数据隐私和安全方面的关键问题。

国土安全部(DHS)投资于研究与开发,以保护关键基础设施免受复杂的网络攻击和对抗性AI攻击。这些攻击的目标包括从控制系统到因自然灾害而中断的基本服务。

国土安全部(DHS)正在研究在其人工智能(AI)使用案例中,因恶意或无意的误用、事故或其他错误与故障而带来的风险。该工作的主要目标是为国土安全部的使用案例开发一个AI风险评估框架,以管理和减轻已识别的风险,并赢得这些技术终端用户的信任。

根据由DHSS&T主办的对抗性AI(AAI)研讨会,该研讨会是美政府中同类研讨会中规模最大的,DHS已经启动了一项抵御对抗性AI的研究,并对对抗性AI的技术和威胁进行评估。此项研究将提供关于在DHS任务中使用对抗性AI的有效应对措施的严格分析和建议,并为测试和评估(T&E)方法提供信息。

美国退伍军人事务部(VA)持续确保在业务和技术软件及基础设施需求方面的安全和保密考量,均纳入TAI项目的原则并支持AI治理功能。

AIEO14110关键基础设施部门的AI风险评估包括国防部、交通部、财政部和卫生与公众服务部在内的九个机构已向国土安全部提交了他们的风险评估。这些评估将作为今后联邦行动的基础,确保美国在安全地将AI技术融入社会的重要领域(例如电网)方面保持领先地位。

美国国家航空航天局在软件验证和确认方面投入了大量精力,这对于人工智能系统和工程系统的安全运行至关重要,同时也涉及NASA系统所依赖的软件和通信网络的网络安全。

美国航天局(NASA)的“软件验证与确认”项目,正致力于对用于太空探索和航空领域的软件进行系统化的验证与确认研究。形式化验证技术已被应用于许多自主系统,旨在生成高可靠性的组件软件。这些技术还具有进行安全性验证推理、创建与可视化安全案例及支持基于风险的决策的能力。NASA还对复杂系统进行风险和弹性分析,包括有人驾驶和日益增多的自主空中系统。

通过NASA的网络安全计划,NASA正在评估和保障由AI启用或使用AI的航空系统和网络,特别是城市空中交通。

NIH致力于保障人工智能系统在生物医学研究领域的安全性和保密性。

NIH与联邦咨询委员会合作,确保AI的安全及保密。例如,NExTRAC报告@69针对生物医学研究中的数据科学和新兴技术,详细探讨了有关AI/ML模型与算法训练方式及其在实际应用中的一些问题和担忧。

NIST正在研发测量科学、框架、最佳实践、标准、工具和资源,以支持和评估AI系统的安全性和可靠性。

NIST成立了美国人工智能安全研究所(USAISI),以支持安全且可信赖的AI的开发和部署。NIST还发起了美国人工智能安全研究所联盟(成员超过200名),该联盟将协助开发工具,以衡量和提升AI的安全性与可信度。

NIST正代表IARPA举办TrojAI公开挑战赛。此次挑战赛旨在推动技术发展,以检测AI模型是否通过受污染的数据进行训练并潜藏隐藏行为,从而提升对AI模型预测的信任度和安全性。

SafeLearning-EnabledSystems(安全学习启用系统)(^{70})项目由NSF、OpenPhilanthropy和GoodVentures合作开展,目标是推动基础研究,从而设计和实现能够以高置信度确保安全性的学习启用AI系统。任何声称符合安全规范的系统都必须通过严格的证据支持,这些证据可以通过实证分析和/或数学证明来验证。

安全与值得信赖的网络空间(SaTC)(^{}71)项目是NSF中规模最为庞大的计划之一。其目标在于保护和促进网络系统带来的日益增长的社会与经济收益,同时确保系统的安全性与隐私保护。尽管SaTC并非专门针对AI的项目,它支持涵盖AI系统安全与保护全方位的研究课题,包括从检测deepfakes到减少AI系统产生幻觉的可能性等诸多方面。

当前许多新一代AI系统的核心驱动因素是数据的可获得性以及训练这些数据的计算基础设施。为了推进AI研发的前沿发展,必须具备高质量且结构良好的数据和软件。本节主要介绍在开发和提供满足各种AI应用需求的数据集方面所取得的进展,开发共享的大规模和专业化的高级计算和硬件资源,使测试资源能够响应商业和公众的需求,以及开发用于AI训练和测试的开源软件库和工具包的举措。

DARPA开发并共享用于人工智能训练和测试的数据集和环境,以提升美国在人工智能领域的竞争力。

COEUS项目得名于希腊智能之神,旨在为数据工程师和科学家提供一个集中的协作工作空间,以便访问数据、代码和其他项目。COEUS提供一个灵活的云原生平台,支持AI/ML候选模型的测试与评估、数据标注、模型训练、以及数据产品的自动化和传播。此平台使得工件的发现、共享和重用成为可能,从而加速算法开发,提高算法交付效率。

研究与工程AI中心是一个跨越DOD服务的数据专用协作平台,旨在共享数据、生成合成数据、提供建模和仿真环境、开发AI模型的能力以及研究专长,以解决关键任务问题。

DOE/SC投资于高质量的数据和软件,以用于训练和测试先进的人工智能系统。

DOE/SC积极利用高性能计算和其实验用户设施提供的大规模数据集,推动人工智能的研究和开发。通过充分利用这些资源,SC在新方法和算法的进步中发挥了重要作用,进而提升了人工智能应用的可靠性、稳健性和普适性,并提高了科学研究中机器学习的严谨性。

公共可再利用(PuRe)数据倡议旨在生成高价值的社区数据资源,这些资源包括数据仓库、知识库、分析平台以及其他使经过精心整理的科学数据公开可用的活动。资源涵盖广泛的科学领域,如大气数据、生物和环境研究,以及物理科学的材料数据库。

通过多云生态系统计划,美国国土安全部(DHS)正在研究一种用户能够访问多个云环境的体系,以此用于模型训练和分析方法的开发,这将使得对网络安全和基础设施安全局(CISA)敏感的网络安全数据进行大规模数据分析和人工智能处理成为可能。DHS已经在构建高效的数据和信息共享架构方面投入了大量开发资源。

合成数据项目主要致力于为机场扫描仪训练检测算法,此过程需要海量的数据点。实际扫描数百万件行李和货物并不切实际,因此该项目旨在理解当前最先进的技术,并寻找创造高质量合成数据集的机会,用于培训机场安检的AI/ML算法。

联邦公路管理局正在资助一项研究,旨在安全地收集、利用和公开行人数据。

在2022财年,EAR80项目对行人数据的多样性进行了研究。研究发现,研究人员难以获取经过精心整理和合理分布的行人数据,而这些数据对于开发和测试能提升所有出行者安全和流动性的AI系统至关重要。

VA通过Challenge.Gov提供联邦数据,并通过AI技术竞赛激励合作与创新。

VA正在牵头实施两个关键的AI技术冲刺,作为AIEO14110的一部分,旨在支持评估和利用AI以减轻医疗工作者倦怠的临床价值主张。第一个冲刺重点在于提供临床书写功能,旨在简化预约期间及预约后的临床文档记录。第二个冲刺聚焦于社区护理文档处理,目标是开发一个基于AI的系统,能够迅速获取VA系统外的健康记录,并使其对临床医生可访问,从而推动有意义的临床决策。

NASA尽可能公开其生成的数据,包括通过分布式活动档案中心(DAACs)提供的重要地球科学数据。

通过企业数据平台项目,NASA致力于构建一个平台,该平台不仅能够存储多种NASA数据集,还能实现对这些数据仓库的搜索功能。

NIH向研究社区提供大量生物医学数据,致力于使这些数据具备可查找性、可访问性、可互操作性和可重复利用性,即所谓的FAIR标准。同时,NIH也期望这些数据能够应用于AI和ML技术。

ScHAReThink-a-Thons系列活动的目标对象是数据科学领域中代表性不足的人群,如女性和健康差异群体,旨在帮助他们获得和提升人工智能与云计算方面的知识,从而利用云计算资源进行健康差异、医疗服务和健康结果的研究,包括超过250个人口科学、行为学、环境学和社会健康决定因素的数据集。

国家司法研究所(NIJ)开发并提供可以通过data.gov和国家刑事司法数据档案获取的研究数据集。

人口贩卖项目计划涵盖了创建南卫理工会大学的人口贩卖数据仓库,该平台致力于解决数据不足问题。其内容包括开发一个基于人类计算与机器学习的游戏,用于提取和完善人口贩卖数据集。研究目标包含理解人口贩卖的经济关联、分析时空模式、识别结果差异,并采用人机协同的机器学习方法。

NIST正在参与国家人工智能研究资源试点项目,并建立了一个中心,用于制定和实施人工智能风险管理框架(AIRMF),以及共享支持开发和测试负责任且可信赖的人工智能系统和技术的资源和数据。NIST正在研究计算和捕捉用于训练人工智能模型的数据属性的方法,并利用这些数据属性来计算和关联基于人工智能推断的不确定性。

美国国家标准与技术研究院(NIST)提供公开可用的数据,支持其所有基础和应用科学领域的研发、性能和一致性测试,以及多种机器学习和人工智能的研究领域与应用。许多NIST数据集被视为研究的黄金标准。例如,NIST创建了联合自动存储库(JARVIS-DFT),用于各种集成模拟和密度泛函理论,包含超过30,000种材料和500,000种性质,以支持自动化材料发现。

NOAA正在提升其超过60拍字节的环境情报巨大储备库的可发现性、可访问性以及AI就绪度。

新的面向人工智能的热带气旋降水、红外、微波和环境数据集(TCPRIMED)将卫星图像与辅助模型信息结合,创建了一个为期22年的热带气旋场景数据集,这将推动热带气旋轨迹、强度和沿海影响预测的发展。该数据集可通过NOAA的开放数据传播(NODD)计划获取,并永久存档于国家环境信息中心(NCEI)中,且纳入了NAIRR试点项目。

NSF长期以来始终认可公共数据集在科学研究中的重要作用。例如,自1975年起,NSF一直持续资助蛋白质数据库,这一资源已成为AlphaFold蛋白质结构预测模型的训练数据集。

NAIRR是一个共享的国家研究基础设施概念,旨在将美国研究人员与负责任和值得信赖的AI资源连接起来,同时提供必要的计算、数据、软件、培训和教育资源,以推进研究、发现和创新。NAIRR试点的目标是展示NAIRR概念,激发创新,增加人才多样性,提升能力,并在研究和社会中推动安全、可靠和值得信赖的AI。

建立原型开放知识网络(Proto-OKN)计划旨在支持创建一个原型开放知识网络,这一互联的知识网络能够支持非常广泛的应用领域。开放访问和信息对于开发和推进解决国家所面临的社会挑战所需的AI及AI驱动的解决方案至关重要。

美国专利商标局致力于通过普及数据集和计算资源的访问,推动人工智能领域的发展。

美国专利商标局(USPTO)参与国家人工智能资源研究(NAIRR)试点项目的核心在于向试点用户提供USPTO的数据资源。这使得计算资源和同等重要的数据资源可以共同驻留。NAIRR试点用户可以请求在他们的计算环境中使用USPTO数据,从而实现无缝的研究体验,利用这一目前唯一被广泛应用于训练最先进AI模型的联邦数据集进行前沿研究。

国防部投资于强调持续评估AI操作与伦理性能的项目及活动。93

可重用太空AI资源收集计划试图通过一个通用的仿真框架来收集AI模型,以便在仿真过程中按需访问,用于模型的快速参考和逐步优化。其目标是推广基本性能(测试与评估、验证与确认及执行)和编码标准。

教育部正在与学术界和工业界合作,针对高杠杆教育应用案例中的人工智能挑战展开研究。

AI和ML技术将助力提升NNSA在基础研究领域的投资能力,同时评估与核安全企业内的主题专家合作开展的工作。

NNSA积极与战略合作伙伴开展合作,致力于影响标准的制定,并为AI模型和算法设置基准。

DOE/SC支持发展和使用标准及基准,以推动科学与能源研究中的人工智能进展。

国土安全部科学技术局(DHSS&T)在帮助更广泛的DHS工作人员理解和运用人工智能和机器学习技术,以实现其任务目标的过程中,发挥着核心作用,并同时遵守伦理标准和原则。

NIH投资于研究新颖的方法,以便检测和纠正生物医学领域基于AI的应用程序中的偏见。

国家司法研究所通过制定标准和基准测试,致力于提升机器学习技术及其在机构内部的应用效果。

第一阶段行动风险评估工具的审查和重新验证是一项协同努力,旨在探讨是否可以通过进一步改进囚犯评估工具(PATTERN)的指标和评分体系,以提高风险评估系统的公平性、效率和预测效度。这项工作将包括研究额外信息的纳入(例如,更新的编程数据),以及这些信息如何用于提升预测能力和公平性。

AIEO14110制定可信赖AI的指南、最佳实践和评估NIST正在与其他机构合作,开发用于生成式AI的风险管理框架介绍;生成式AI和双重用途基础模型的安全软件开发框架;评估和AI红队测试的指南;关于认证和标记合成内容的标准、工具和技术的全景视图;评估差分隐私保护措施效能的指南;以及一项全球参与计划,旨在促进和制定AI标准。

NIST-IARPATrojAI项目生成了18个数据集,这些数据集用于公开挑战赛,涉及从图像分类到强化学习和网络安全等领域,并已发布给研究社区。

NIST正在制定新的社区工作坊和基准测试项目,这些项目结合了支持可信人工智能的多学科科学,并且涵盖了生成型人工智能在内的新兴人工智能技术。

NOAA积极参与涉及AI技术标准和基准的社区活动。

NOAA每年都会举办一个关于在环境科学中应用AI的公开研讨会。2023年研讨会的主题是AI与基准测试框架。

人工智能系统的评估对于其成功部署至关重要。NSF正在与合作伙伴密切合作,以支持和制定关键的标准和基准。

ONC致力于推动健康信息技术的发展及其电子信息交换,而这对于研究、科学知识的生成及创新至关重要。

为推进人口普查局的统计数据现代化及战略性劳动力转型,增强员工的数据科学能力,CensusHRD向所有全职员工提供数据科学培训计划(DSTP)。

CensusHRD已顺利完成四期DSTP项目。该项目为期五个月,提供两条学习路径选择,分别为:数据科学通才和机器学习专家。2023年这一期共有45名学员顺利毕业。

CensusHRD正在扩展其产品线,将于2024年2月开始推出按需提供的多轨道12周数据科学训练营。训练营包含六个独立的12周轨道,分别涵盖生成式AI、机器学习与AI、深度学习、数据分析与可视化、Python数据科学和R数据科学(用于统计分析的环境)。

AIEO14110AI人才涌现人事管理办公室已经授予联邦机构灵活的招聘权限,以便能够招聘AI人才,包括直接招聘权限和特定服务权限。全国性的科技人才项目,如总统创新研究员计划、美国数字军团以及美国数字服务,已在2024年提升了针对重点AI项目的人才招聘力度。这一举措加速了联邦政府对AI专业人才的招聘,提升了政府内部AI专业知识的水平,使决策更加明智,并对AI研究进行战略性资助,同时有效实施各类AI技术。

国防部为其网络工作人员的管理制定了统一的方向,并且在网络领域不断扩展的背景下,纳入了新兴技术领域的工作人员。

通过充分利用协作资源,NNSA可以建立创新的人才培养体系,并使其员工掌握行业内的最佳实践。

美国能源部(DOE)计算科学研究生奖学金(CSGF)项目不仅培养计算科学领域的新一代科学家和工程师,还通过研究生奖学金建立学术项目和研究平台,以支持高级仿真和计算(ASC)及武器库现代化任务。CSGF是由DOE科学办公室高级科学计算研究计划共同资助的。

国家核安全局预测科学学术联盟计划(PSAAP)106与美国顶尖高等学府合作,致力于开发和展示用于解决前沿科学和工程应用难题的技术和方法。PSAAP要求多学科团队专注于每年度的整体仿真目标,并作为培养实验室人才的卓越渠道。

能源部/科学办公室(DOE/SC)通过提供奖学金项目和研究资助,推动全国在AI、高性能计算和数据科学领域的专业人才队伍的培养和壮大。

DOECSGF计划资助攻读博士学位的学生,这些学生致力于利用高性能计算解决复杂的科学和工程问题的研究领域(例如AI)。

DHSS&T致力于招募专家和培训员工,以提升在人工智能和机器学习领域的能力,从而高效地完成其各项任务。

VA正在使VA人员和退伍军人具备应用人工智能的准备,并帮助构建人工智能系统,以协助退伍军人增加其在人工智能领域的知识并加以应用。

国家卫生研究院(NIH)致力于培养精通人工智能与生物医学交叉领域的下一代研究人员。

AIM-AHEAD项目的目标是理解劳动力需求,并根据其总体目标进行人才培养。

ScHARE计划,特别是Think-a-Thons,旨在面向多样化人群,例如数据科学领域中代表性不足的女性和存在健康差距的人群。

国家司法研究所正通过AI技术增强其员工队伍的能力。

执法推进数据和科学(LEADS)学者计划旨在提升执法专业人员和机构的研究能力。近年来,NIJ着力支持执法机构将研究成果融入政策和实践中。LEADS学者计划通过扶持具有研究思维的执法专业人员,推动了循证执法的进程。

AIEO14110吸引人工智能人才到美国

美国国务院和国土安全部联手简化签证申请和审批流程,包括通过确保签证预约的及时可用性,使得那些有意前往美国从事、学习或研究人工智能及其他关键和新兴技术的非公民能够顺利完成手续。这一举措旨在吸引并留住在人工智能及其他关键与新兴技术领域里的优秀人才,以促进美国经济的发展。

NIST通过多种机制支持发展和加强其AI研发团队及推广工作。

NIST参与了与OPM及其他机构合作制定AI人才框架的联邦计划。

美国国家标准与技术研究院(NIST)通过学生、客座研究人员、访问学者、技术联络和派遣、资助计划、技术研究所和联盟、研究与标准研讨会和会议、RFI(信息征询书)、扩展合作伙伴关系及合作研发项目等多种途径,吸引各个层次的学生,增强其技术团队,并拓展其外展活动。

NSF的投资侧重于强化为国家重点领域输送人工智能人才的源源不断的供给。

为了支持全国的教育工作者提供最前沿且包容性的人工智能教育体验,“未来AI劳动力教育推进(EducateAI)”项目于2023年12月启动。迄今为止,NSF鼓励提交具有创新性和高影响力的提案,这些提案致力于推进包容性的计算教育,为学前至12年级和本科生进入AI劳动力市场做准备。

计算机与信息科学与工程研究生奖学金(CSGrad4US)项目旨在增加从事计算机与信息科学与工程领域职业的国内研究生数量和多样性。人工智能领域的学生符合资格,并且在参与者中占有较大比例。

美国农业部通过教育和劳动力发展奖学金及能力建设项目,利用人工智能技术的研究成果,以培养新一代劳动力。

《从学习到领导:培养新一代多样化的食品和农业专业人士》[^115]项目,亦称为NextGen项目,旨在帮助1890机构、1994机构、阿拉斯加原住民服务机构、夏威夷原住民服务机构、西班牙裔服务机构以及位于美国领地的岛屿地区高等教育机构建设和维持食品、农业、自然资源及人类科学方面的下一代劳动力;人工智能应用研究和人工智能开发也被整合进了这些教育和劳动力培养计划中。

农业与食品研究计划(AFRI)的教育与劳动力发展项目及奖学金(包括博士前奖学金、国家需求奖学金和西班牙裔服务机构)致力于培养数字农业和人工智能领域的青年领导者和企业家。

技术知识的开发与维护对于USPTO的核心任务具有重要意义。

国防部坚决致力于与学术界、工业界及其他非联邦实体建立有效的合作伙伴关系。

通过SBIR和合作研究与开发协议(CRADA),DOD目前正参与多个合作伙伴关系,重点开发用于太空的人工智能科学和技术解决方案。

2023年,美国国防部(DOD)的“可信AI和自主性”项目组织了一场国防技术回顾会议,汇聚了业界、学术界和政府部门的代表,共同讨论该技术领域的最新进展与未来发展。

通过与行业高度合作,NNSA可以受益于已经开展的研发活动,并为其使命独特的领域提供资金支持进行探索。

能源部/科学办公室正积极参与公私合作伙伴关系,推动科学领域的人工智能技术发展。

通过组建大型的跨学科团队与协作,万亿参数联盟(TPC)旨在为科学领域构建可信赖的生成式AI模型。TPC涵盖了来自国家实验室、研究机构、学术界和工业界的多方合作伙伴。

易受攻击的目标是指那些易于大量人员进入且安保措施有限的场所,使其成为攻击的潜在目标。确保这些易受攻击目标安全的关键在于使用视频摄像机覆盖重点区域,检测遗留物品,确定感兴趣的物体或人员的轨迹,并分析和整合视频流。

VA促进公私合作伙伴关系,开发AI系统以追踪并改善退伍军人的健康状况。

TheVA正在参与NAIRR的四个试点阶段:NAIRROpen、NAIRRSecure、NAIRRClassroom和NAIRRSoftware。在这些阶段中,VA提供了有关利用可信AI方法、治理框架以及云优先最佳实践方面的战略、最佳实践和经验教训的支持(参见策略#7)。

NIH寻求与私营部门建立合作关系,以促进实质性联系,并确保在人工智能研究与开发方面的投资持续进行。

NIH是支持NAIRRPilot的主要机构之一。NAIRRPilot向美国的研究人员和教育者提供先进的计算能力、数据集、模型、软件、培训和用户支持,并联合了多家美国政府机构和私营部门合作伙伴以加速推进该项目。

团队科学领导学者项目嵌入于加速医药合作自身免疫和免疫介导疾病(AMPAIM)计划中,通过与AMPAIM研究人员的紧密合作,提供沉浸式的跨部门协作体验,从而提升学者们的团队科学领导能力。

国家标准与技术研究所(NIST)通过利用多种工具和资源,与工业界、大学、非营利组织及其他政府机构建立密切合作,推动其人工智能(AI)议程。这些工具和资源包括广泛收集意见及审查NIST的报告、组织公开研讨会、接待AI访问学者和研究员、开展学生项目及提供资助等。

NIST正在通过前面提到的与NSF共同设立的可信AI在法律和社会研究所、人工智能安全研究所及联盟、生成AI公共工作组以及国家网络安全卓越中心的安全可信AI计划,开展重要的公私合作AI活动。

NOAA通过促进研究合作,使科学家们能够应对沿海韧性、粮食安全以及气候变化等复杂的全球性问题。

改进导航系统和磁场预测:美国国家海洋和大气管理局(NOAA)与美国国家航空航天局(NASA)比赛实验室联合举办了全球众包挑战赛'MagNet:ModeltheGeomagneticField',旨在提升预测由于太空天气引发的磁场变化的模型。此次比赛吸引了全球600多名参与者,充分展示了数据科学社区在开发能够超越当前系统的、预测地球磁场对太空天气反应的模型方面的实力,即使参与者并没有深入的物理学知识。

2022年11月,Microsoft和NOAA签订了一项合作研究与发展协议(CRADA),该协议旨在多个领域开展合作,包括利用AI技术改进NOAA的气候模型,以提升空气质量、野火烟雾和颗粒污染的预报能力。126

NSF通过合作伙伴关系在支持AI研究方面不断进行创新。

由NSF主导的两个重点聚焦于AI并与公共和私人部门显著合作的项目分别是国家AI研究院项目(AIInstitutes)和高韧性智能NextG系统项目(RINGS)。AIInstitutes项目旨在推进AI在应用驱动场景中的研究前沿,而RINGS项目则致力于运用AI技术提升自主管理和操作能力。

AIEO14110国家人工智能研究资源(NAIRR)试点2024年1月,NSF及其合作伙伴发起了NAIRR试点项目127,这是建立共享的国家研究基础设施的第一步,致力于推动AI的发现及负责任的创新。该NAIRR试点项目旨在将美国的研究人员和教育者与所需的计算资源、数据及培训资源连接起来,以推动AI研究及依靠AI促进创新的研究,增加人才多样性,提高研究能力,推动可信AI发展,并保护个人隐私、公民权利和公民自由。

ONC致力于推进卫生信息技术的发展及健康信息的电子交换,这对研究、科学知识的积累与创新具有关键作用。

美国农业部与学术机构、非营利组织及商业企业的合作伙伴关系,对于推动其人工智能研发使命具有重要意义。

SBIR植物生产与保护-工程项目,通过研发和推广AI技术,提升了常规和有机农业系统中的作物产量,同时提高了系统的效率和盈利水平。

由用户参与的研究人员网络所构建的跨学科科学基础设施平台——NOURISHAI,与美国国家科学基金会(NSF)的技术、创新与合作伙伴关系局合作,旨在连接当地食品企业家和投资者,提供一个能够加速他们努力的AI系统。NOURISH推动了一种以公平研究为基础的新科学视角,集合了公共卫生营养、食品公正、区域规划、商业和成瘾等领域的专业知识,并运用前沿的数据科学和AI技术。

美国专利商标局通过建立公私合作伙伴关系,致力于推进其核心使命,即促进科学和技术领域的创新。

美国专利商标局(USPTO)建立了一个名为“人工智能与新兴技术”(AI/ET)的合作伙伴关系。此合作伙伴关系包括USPTO与独立发明人、小型企业、联邦机构代表、学术界、工业界及非营利组织之间的合作,旨在提升对USPTO当前及未来AI和ET工作的认知、开放性和包容性。与此同时,通过促进这些技术的可信且负责任的使用来培养公众信任,并探讨AI和ET对各类知识产权政策造成的影响。

DARPA在双方共同关心的人工智能研究领域,与国际合作伙伴进行协调与合作。

国防部在开发和部署军事人工智能应用的过程中,强调伦理考量,并优先与国际伙伴展开合作。

澳大利亚、英国和美国(AUKUS)伙伴关系[^135],作为一个增强的三边安全伙伴关系,旨在提升各政府在支持安全及防务利益方面的能力。通过第二支柱(高级能力),澳大利亚、英国和美国已经合作加速对人工智能和自主技术的集体认识,并探索如何在复杂操作中快速部署强大且可信赖的人工智能和自主技术,同时坚持共同的安全和负责任的人工智能价值观。

美国和新加坡共同开发的多模式主动感知系统(MAPS)是一项为期三年的研究项目。该项目致力于在特定的人道主义援助灾害应对情景中,通过融合来自多种异构无人系统的传感器数据,利用人工智能技术评估建筑物的损坏程度及现场人员的伤亡状况。

与英国原子武器研究所(AWE)签订的《相互防御协议》[^137],主要在美国的洛斯阿拉莫斯国家实验室、利弗莫尔国家实验室、桑迪亚国家实验室和英国的AWE之间进行科学交流。

DOE/SC在共同关心的领域参与国际合作,以推动AI的进步。

退伍军人事务部与国际人工智能研究人员合作,共同开发可能在服务退伍军人方面起到重要作用的人工智能系统。

NIH致力于通过吸引国际研究人员的参与,创造促进AI研究发展的有力契机。

NIST与国际人工智能研发和标准化社区密切合作,致力于在测量科学、最佳实践、框架和标准领域推动国际协作和一致性。

NIST与美国-欧盟贸易和技术委员会、OECD全球人工智能伙伴关系、亚洲、欧洲和北美的诸多双边倡议展开合作,并与印度、日本和澳大利亚在四边安全对话标准小组中进行协作。

根据与英国达成的双边协议,展开了隐私增强技术(PETs)挑战赛。该挑战赛与NSF合作完成,旨在开发既能促进隐私保护又能保留数据访问和使用的解决方案。

NOAA制订高层协议,以促进在人工智能研究领域的国际协作。

NOAA支持了首届由韩国气象厅(KMA)与NOAA合作举办的“天气和气候人工智能研讨会”,该活动于2022年10月17日至21日在韩国光州举行。会议讨论的主题包括数据同化、模型物理学、数据驱动机器学习以及人工智能的可解释性。

NOAA续签了与KMA在人工智能(AI)和机器学习(ML)领域的合作,旨在进行天气和气候预测。此次合作的范围有所扩大,涵盖了与工业界和学术界的合作伙伴关系,这已包含在NOAA-KMA联合工作组2023-2025年度第八次工作计划中。

在NSF和澳大利亚联邦科学与工业研究组织(CSIRO)的联合支持下,负责与公平的AI项目旨在支持美澳研究团队在负责任和公平AI领域的合作。NSF-意大利大学和研究部主导的AI项目则为美国和意大利研究界在AI领域的合作提供了框架。

美国专利商标局(USPTO)通过建立国际合作关系,以推进其促进科学与技术创新的核心使命。

国家的AI研发事业展现出强大的韧性,并保持着持续增长。美国在AI领域的研发和创新,对于维护其在全球范围内的AI领导地位至关重要。在我们庆祝本报告所详述的诸多成就之际,不难看出,美国需要继续发挥其技术优势,并持续支持早期研究,以推动AI技术的重大突破。

展望未来,各机构通过对AI研发的联邦投资,旨在推进2023年战略计划更新中提出的战略优先事项。通过促进联邦机构、行业、国际合作伙伴和研究社区之间的合作,确保知识和专业知识的无缝交流,并将研究突破转化为实际应用。优先强调负责任地开发和部署值得信赖的AI系统,以应对社会挑战和造福美国人民,始终是追求AI进步的核心任务。

培养具备技能的AI劳动力的重要性,依赖于教育、培训及人才发展的投入。这些工作将促进AI劳动力队伍的多样性和包容性,同时利用多元化的视角来解决复杂的问题,并推动创新进步。

总而言之,本报告中所述的进展显示了联邦政府如何通过研发在提升AI能力方面取得突破,进而惠及美国民众,并推动了2023年战略计划更新中的九大战略优先事项。

THE END
1.是美国的6倍!中国生成式AI专利申请量全球第一!【中国生成式AI专利申请量全球第一】近日,有外媒称,根据世界知识产权组织的报告显示,2014年到2023年的10年间全球生成式人工智能相关专利申请量达5.4万件,其中逾25%的专利于去年公布,而中国生成式人工智能专利申请量超3.8万件,居世界第一,是第二名美国的6倍。 http://m.szhk.com/news_31808392367522859.html
2.世界知识产权组织:过去十年中国生成式AI专利申请量居全球第一...当地时间7月3日,世界知识产权组织发布《生成式人工智能专利态势报告》。 报告显示,2014年至2023年,中国发明人申请的生成式人工智能专利数量最多,远超美国、韩国、日本和印度等国。2014年至2023年,全球生成式人工智能相关的发明申请量达54000件,其中超过25%是在去年一年出现的。 生成式人工智能允许用户创建文本、图像...https://news.cctv.com/2024/07/03/ARTIeCZeKCiTAjBHzSmxfDkS240703.shtml
1.全球已授权AI专利61.1%来自中国AET全球已授权AI专利61.1%来自中国 据媒体报道,斯坦福大学最新发布的《2024年人工智能指数报告》显示,在全球范围已授权的人工智能专利中,有超过61.1%来自中国,而来自美国的占20.9%。 报告指出,过去十年来,人工智能专利的数量显著增加,中国和美国在这一领域的竞争尤为激烈。http://m.chinaaet.com/article/3000167766
2.全球第一!“中国是美国的6倍”澎湃号·媒体澎湃新闻当地时间7月3日,世界知识产权组织发布《生成式人工智能专利态势报告》。 报告显示,2014年至2023年,中国发明人申请的生成式人工智能专利数量最多,远超美国、韩国、日本和印度等国。2014年至2023年,全球生成式人工智能相关的发明申请量达54000件,其中超过25%是在去年一年出现的。 https://www.thepaper.cn/newsDetail_forward_27960791
3.清华大学:人工智能十年发展总结,中国进步神速,专利占全球七成从论文的国际合作网络看,美国和中国的 AI 高水平论文发表均存在较多的跨国合作现象,如下图所示。其中,AI 技术实力领先的美国所参与的高水平论文跨国合作最多,是各国的主要合作国家,过去十年,美国的 33255 篇 AI 高水平论文之中,出现过中国、英国、加拿大、德国、印度等 30 多个合作国家,合作国家数量最多;中国的跨...https://www.51cto.com/article/642858.html
4.晚报美国商务部再将24中企列入制裁名单;加拿大跟进禁华为;中国...SEMI还敦促美政府采取政策,减少意外后果,减少对美国技术领导层的损害。全球销售收入是美国在这些技术上进行研发的主要来源,全球收入的损失将导致研发减少,破坏美国的半导体创新,从而损害国家安全。 SIA主席兼执行长John Neuffer上周也指出,美国对华为的最新禁令,将对美国半导体业带来负面的影响,并重申立场,支持向中国销售不...https://mp.ofweek.com/ee/a156714842027
5.中国半导体:2023是怎样的一年;国际半导体十大新闻在氮化镓领域,近几年国内产学研界技术创新活跃,专利申请量居全球前列; 在人工智能领域,世界知识产权组织(WIPO)数据显示,中国企业和机构2022年申请了29853项AI相关专利,占过去一年全球AI专利申请量的40%以上,远高于美国、日本和韩国。实际上,中国的人工智能专利申请数量早在2017年就超过了美国; ...https://laoyaoba.com/n/889709
6.WIPO称中国生成式AI专利申请量全球第一!是美国的六倍(附完整报告...数据显示,GenAI专利目前占全球所有AI专利的6%。 WIPO指出,从2014年至2023年的十年间,中国在生成式人工智能专利的申请数量上领先于其他国家,提交的38210件专利申请占据了全球总量的约70%。美国同期提交了6276项。韩国(4155项)、日本(3409项)和印度(1350项)的专利申请数则分别排名第三、第四和第五。 https://www.esmchina.com/news/11987.html
7.曹新明:人工智能对知识产权制度的挑战与应对措施”根据中国载人空间站首席科学家、著名物理学家马兆远所讲:“人工智能永远无法超过人类。”他说是永远,我认为他的这些话是有基础的,他根据“钱德拉色卡极限理论”提出这种观点,“极限理论”就是“人脑大约有130亿个脑细胞的六次方乘以3,当一个恒星的质量超过钱德拉色卡极限时,其结果就缩成一个黑洞。”所以他认为,...https://xkw.zuel.edu.cn/zgzscqyjw/zgzscqyjw-zgzscqyjw_xslt/zgzscqyjwcn_cont_news/details-25686.html
8.人工智能新秀频起,算力招标成热点;月内3起IPO,融资金额下跌近半...其中最大一笔为通用AI大模型研发及应用服务商「百川智能」的A2轮融资,共28.24亿元,投资方为顺禧基金,临港科创投,深创投,阿里巴巴(09988),腾讯投资(00700),小米科技(01810),亚投资本,中金资本,好未来(TAL),卓源亚洲,顺为资本,红点中国,慕华科创,三七互娱(002555),中贝通信(603220),信雅达(600571)等。 https://www.jixin.tech/hangye/4449.html
9.中美AI六巨头都在密谋啥?我们绘制了一份全球AI专利分布战情图? 中国在计算机视觉方面的专利已跃居 第一,占当前全球专利公开数量的半壁江山:55%,远超第二名美国。 ? 近10年AI相关专利数量增长最快的是机器学习领域,全球已经超过4万件,中美占据超过一半,美国 32%,中国 23%。 ? 中美AI六巨头—— IBM、微软、谷歌 和 腾讯、百度、阿里巴巴 都注重整体专利布局,但各...https://www.36kr.com/p/5093013.html
10.福建省高层次人才认定和支持办法(试行)申报手册16.中国企业100强(见附录第1条)企业总部的董事长、总裁(首席执行官)、首席技术官2年以上; 17.世界500强企业(见附录第1条)总部董事会成员、首席执行官、首席运营官、首席技术官;(注:所在企业入选过世界500强即可,不一定为申报人在职期间入选) 18.拥有国际发明专利或核心技术国内发明专利,或掌握核心竞争力、形成...http://www.zherong.gov.cn/ztly/jycy/rcyj/pdbz/202309/t20230915_1854734.htm
11.2024世界人工智能大会,神仙打架世界知识产权组织:过去十年中国生成式AI专利申请量居全球第一 世界知识产权组织发布《生成式人工智能专利态势报告》。报告显示,2014年至2023年,中国发明人申请的生成式人工智能专利数量最多,远超美日韩等国。2014年至2023年,全球生成式人工智能相关的发明电请量达54000件,其中超过25%是在去年一年出现的 ...https://blog.csdn.net/zzh516451964zzh/article/details/140066550
12.华为手机逆势狂飙背后:四年3万多个专利,突破重重封锁通过对中国国家知识产权局官方信息深入梳理,智东西发现,从2019年5月15日受到首轮制裁至今,申请人中包括华为技术有限公司的专利申请数量有33868件,涉及芯片、通信、影像、显示、AI、XR等各类关键技术领域。 深扒之下,我们看到的是面对制裁依然大力投入技术研发的华为,可以说,深厚的技术专利积累是华为逆风翻盘的关键王牌之一...https://i.ifeng.com/c/8XvNAeygiIk
13.中国AI专利申请量全球第一,深度学习专利呈爆发式增长!中国AI专利申请量全球第一,深度学习专利呈爆发式增长! 电子发烧友网报道(文/李弯弯)近日,智慧芽发布《2022年人工智能领域技术创新指数分析报告》,数据显示,近5年人工智能领域专利申请量大幅增加,全球超50多个国家和地区共申请相关专利115万件。其中,中国排名第一,美国和韩国排名第二和第三,专利申请量分别约64.85万...https://www.elecfans.com/d/1968108.html
14.中国申请人工智能专利最多,工业机器人消费连续六年全球第一7月11日,澎湃新闻(www.thepaper.cn)记者从第8届CIROS中国国际机器人展览会上获悉,2018年机器人与智能制造行业实现主营业务收入2862.96亿元,同比增长6.68%。整体看,机器人与智能制造行业发展增速明显快于机械工业全行业平均水平。截至2018年,中国工业机器人的消费已经连续6年稳居全球第一。 http://www.hynwtech.com/news_detail_zh/253.html
15.中国在人工智能领域取得全球领先地位!AI专利申请量和论文数量均位...专利是创新的重要标志,它反映了一个国家或地区在科技领域的创新能力和水平。 根据中国信通院发布的《全球数字经济白皮书(2023年)》,截至2023年第三季度,全球AI专利申请量累计达129万件,其中中国AI专利申请量占全球的64%,超过51万件,位居世界第一。 论文发表量:中国占全球31.5%,超过美国的两倍 ...https://www.php.cn/faq/649984.html