2024年3月1日，我国通过了《生成式人工智能服务安全基本要求》（以下简称《AIGC安全要求》），这是目前我国第一部有关AIGC服务安全性方面的技术性指导文件，对语料安全、模型安全、安全措施、词库/题库要求、安全评估等方面提出了具体规范和要求。
联系我
《AIGC安全要求》的适用主体包括两类：
生成式人工智能服务
定义：利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务。
服务提供者
定义：以交互界面、可编程接口等形式提供生成式人工智能服务的组织或个人。
根据《AIGC安全要求》，个人也可成为监管对象。只要是以交互界面、可编程接口等形式提供服务，无论是组织还是个人，都符合“服务提供者”的定义。
安全评估与核验
对于采集的语料，需要严格控制违法不良信息的比率。语料采集前，需要进行针对违法不良信息进行安全评估，采集后输入语料库之后需要进行再次核验。
除此以外，还需要遵循在内容过滤、知识产权、个人信息、标注安全等方面的合规要求：
不良语料类型
对于具体需要规避的语料类型，《AIGC安全要求》附录A列举了涉及语料及生成内容安全的类型，共分为5类31种，制定了特别的安全需求：
*图示：不良语料类型
例如，针对医疗建议类的算法和问答建议，当前不少医疗健康产品和服务当中，开发了智能健康管家等功能，涉及根据用户的健康分析报告，提出对应的诊疗分析、用药建议等，对于这一类功能，需要特别谨慎对待其是否可能出现非专业性、误导性的用药和诊断结论，否则可能导致“无病呻吟”或“病急乱投医”的情况。
除语料安全外，模型安全也是AIGC服务或服务提供者应当考虑的重要因素。提供者不仅应当在其服务过程中，提供安全、稳定、持续的服务，保障用户的正常使用；如若需要基于第三方基础模型提供服务，提供者还必须使用已经主管部门备案的基础模型。
*统计：截至2024年5月通过网信办备案的算法模型情况
首先在安全性方面，《AIGC安全要求》规定应当对每次对话使用者输入的信息进行安全性检测，引导模型生成积极正向内容，并建立常态化检测测评手段，针对发现的安全问题及时整改；其次，在准确性方面，应采取技术措施提高生成内容响应使用者输入意图的能力，以及生成内容与科学常识和主流认知的符合程度；最后，在可靠性方面，也应采取技术措施提高生成内容格式框架的合理性和有效内容含量。
安全措施要求
Opt-out功能
供应链安全
在全球化的贸易背景下，包括GPU芯片在内的半导体技术已成为科技领域的核心竞争力。GPU芯片涉及AI模型训练、数据中心、智能交通、游戏等多个下游行业，这些芯片根据应用场景又细分为云端芯片和终端芯片，其中终端芯片广泛应用于嵌入式系统、移动设备、智能制造和家居智能等细分领域。
《AIGC安全要求》在词库方面要求设立关键词库、生成内容测试题库、拒答测试题库和分类模型等。其中，关键词库的总规模不少于10000个关键词，且关键词库应至少覆盖《AIGC安全要求》附录A.1以及A.2中的17种安全风险，附录A.1中每一种安全风险的关键词均不宜少于200个，附录A.2中每一种安全风险的关键词均不宜少于100个。这些模型对于语料内容过滤，生成内容安全评估等，应完整覆盖本文件附录A中全部31种安全风险。
针对最后一项安全评估要求，《AIGC安全要求》第九章内容对评估的方法、语料评估、生成内容评估和问题解答评估都作出了规定，这也是对于《AIGC暂行办法》的细化。
评估方法论层面，可以由服务提供者自行开展，也可委托给第三方评估机构；对于符合的评估结果应保存充分的证明材料，对于不符合的应说明不符合或不适用的原因并对后续改进措施进行计划说明；对于最后形成的评估报告，除了应有各项和总项的结论之外，还应有3位以上负责人签字。
而对于细化层面的安全评估，《AIGC安全要求》确立了如要求语料安全评估的人工抽检和技术抽检的标准，生成内容安全评估的人工抽检、关键词抽检和分类模型抽检的标准，以及问题拒答评估的应拒答测试题库和非拒答测试题库的标准等。
*图示：AIGC安全评估要求
安全评估测试题
（七）附录、大模型备案材料源文件
大模型备案材料提交至某省网信办版本
大模型备案&算法备案参考材料
备案建议
+：cybtec
如果企业能自己做，可以考虑安排产品、算法、法务等团队成员一起完成大模型备案、算法备案，毕竟找代办公司也是一笔几万块的不少的支出费用，如果自己办理有困难，也欢迎私信交流。