北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn
2022年6月1日，2022智源大会-人工智能伦理、治理与可持续发展分论坛顺利于线上举办。论坛由清华大学人工智能国际治理研究院、人工智能治理研究中心（北京人文社会科学研究中心）共同承办，邀请了国内以及来自美国、日本的知名专家学者探讨人工智能的伦理问题及其治理，为可持续的人工智能发展建言献策。
论坛由清华大学公共管理学院教授、人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正主持。邀请到科技部中国科学技术信息研究所党委书记、所长，科技部新一代人工智能发展研究中心主任赵志耘；卡内基理事会资深研究员、清华大学人工智能国际治理研究院学术委员WendellWallach；国家新一代人工智能治理专业委员会委员、上海交通大学人工智能研究院首席顾问教授李仁涵；东京大学大学院情报学环教授OsamuSakura；清华大学文科资深教授、人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任薛澜；中科大机器人实验室主任、CAAI人工智能伦理治理工委会主任、全球人工智能理事会执行委员陈小平相继做主题报告、对话探讨。
李仁涵教授的报告主题为“构建人工智能评测平台（体系），造福未来”，始于他对人工智能未来发展趋势的几个判断：其一，人工智能发展势头迅猛，弱人工智能加速发展，强人工智能可能预期到来。其二，人工智能自身产业与产业赋能发展主旋律不变，人工智能产品打造的智能时代新格局正在形成。其三，未来的国际竞争，人工智能+规则的竞争可能成为定局。其四，构建人工智能评测平台体系，将会造福未来。李教授首先介绍了人工智能的技术发展趋势，认为通用人工智能并非不可能实现，目前的技术发展还是可控可信的，但随着组合算法、组合模型的叠加，不可控不可知的问题也许会显现。人工智能技术的发展到了嵌入场景的阶段。其次，人工智能产业发展将进入新阶段，形成新的爆发力，赋能产业升级，形成智能时代蓝图。最后，李仁涵教授重点强调了推动构建人工智能评测平台体系的意义，指出人工智能是模拟人类认知能力的技术，有拟人化特征，因=此应该以人的标准对其约束，才能实现人与技术的和谐，评测平台的目的就是建立一个可信可控的技术支撑体系。因此评测平台体系的建立有助于人工智能伦理治理的落地，必须要尽早规划，做好安全、伦理、前瞻性的研究，把软性变刚性有利于操作落地。
主题报告后，论坛在梁正教授的主持下进入了对话环节，报告人分别回答了听众提出的问题。
问题一：人工智能伦理教育应该如何开展？谁是教育的主体？谁是教育的对象？
问题二：如何将伦理治理嵌入AI研发、应用的全生命周期？中国在这方面有何经验实践？
赵志耘书记：《新一代人工智能治理的伦理规范》就是考虑到了全生命周期，从研发设计、到应用都考虑到如何嵌入伦理，下一步转化为可操作性规范，落实到实践中。其中关键是参与的各个主体：研发、应用、管理的主体。各主体要联动，培育伦理意识，把伦理规范转化到实际操作中，嵌入实践中。政府的作用就是引导各主体重视伦路规范。实验区的建设就是要做社会实验，做伦理治理规范的实验，每一个实验区都针对如何落实有相应的操作规范。如北京的实验区中，未来科技在人脸识别的研发和应用中就考虑伦理规范。下一阶段，将推动实验区的评价工作，重点发挥政府的引导作用，让规则和理念在政府引导的各种应用中体现全生命周期的作用。
问题三：人工智能伦理是否可以通过特定治理工具解决？测评平台组如何考虑伦理问题和隐私保护？
问题四：伦理可以被治理吗？伦理问题在新兴技术治理中应对如何看待和处理？
薛澜教授认为，伦理问题的核心还是社会行为准则和规范，不同人有不同看法，分歧是正常的。新技术会对现有规范造成冲击，人工智能也不例外，这是人类社会始终面临的问题。治理还是管理，还是解决分歧，需要共识和解决之道。首先可以构建交流平台，让各个主体充分交流，消除信息不对称，在掌握充分信息的基础上，充分的交流共同是必要的。其次，在交流的基础上思考如何求同存异，找到解决的机制，寻求各方都能接受的治理框架。其三，一个平衡、合理的折中是必要的。因为一方面技术本身会发生变化，另一方面观念也会发生变化，可能使我们对原有的行为准则和规范的认识发生变化，这就需要不断更新原有的治理机制。
问题五：人工智能伦理与其他伦理有何本质差异？这种差异又对其治理范式提出了何种要求？
陈小平教授指出，根本差异还是要从技术逻辑角度出发，人类对传统技术也曾有担心，如自动化技术是否会代替人类劳动。人工智能在某专用领域可以远超越于人，取代人，领域递进，都用人工智能代替人，存在这样的风险。因为人工智能技术蚕食人类的生存空间，通用人工智能可能全部蚕食，这种可能性不能排除。强人工智能有能力为自己的生存找到不依赖人类的方式，这理论上是可能。因此可控性问题必须高度重视，不能等发生后在解决，必须提前思考。对于专用人工智能的蚕食，不是技术本身带来的，而是由于现有的GDP导向的创新模式。本质上人工智能既可以为老年人服务，也可以为年轻人服务，但由于GDP导向的创新模式，商业逻辑和经济逻辑，年轻人的消费能力决定了人工智能的服务导向，人工智能对我们的创新模式提出挑战。这真正说明人工智能时代是本质上的新时代，传统的治理模式不一定有效，必须发展新的治理模式。我们如何认识这个新的时代，需要更多的思考、交流、讨论，共同迎接这个新时代。