【WRC • 资讯】推动构建人工智能治理体系 持续优化人工智能政策环境

来源：世界机器人大会服务平台

人工智能作为新一轮科技革命和产业变革的重要驱动性技术，正在重塑生产方式、优化产业结构、提升生产效率，推动经济社会各领域从数字化、网络化向智能化加速跃升。但“每个硬币都有正反面”，人工智能技术在为人类生产生活带来诸多便利的同时，也在广泛而深刻地影响和改变着人们长期既定的认知体系、习以为常的价值观念，给社会治理带来全新挑战。相较于其他数字技术，人工智能因其特有的算法黑箱性、数据依赖性等技术特点，导致其过程难以解释、行为更难预测、结果更不可控，正在触发如算法偏见歧视、个人隐私泄露、侵犯人格尊严、冲击就业格局、危害公共安全等社会问题。因此，人工智能治理这一概念应运而生，成为各国政府、产业界、学术界等各方广泛关注的焦点议题。

建立健全人工智能治理体系意义重大

人工智能治理是一项复杂的系统性工程，需要明确治理主体，提出切实有效的治理举措，以实现科技造福人类的治理目标愿景。

　　一是秉持福泽人类的治理目标，平衡好创新发展与有效治理的关系。人工智能治理应以“科技造福人类”为目标，既要充分释放人工智能带来的技术红利和价值，也要防范应对人工智能可能带来的风险。因此，找准创新发展与有效治理之间的平衡点是关键。对于人工智能发展中出现的问题，既要避免实行过于严苛的限制而抑制创新活力，也不能任其自由泛滥引发更严重的隐患，应给予市场适当的试错、调整空间，同时严守治理原则底线，确保人工智能产业规范有序发展。

　　二是打造政府、市场、公众等多元主体参与、多措并举、协同共治的治理模式。人工智能治理的重要特征之一是治理主体的多元化、治理手段的多样化，其依赖于包括政府、企业等在内的多利益攸关方的参与合作，各司其职、各尽其能，以适当的角色、最佳的手段协同共治。

　　国家政府及政府间国际组织在治理中发挥着领导性作用，通过发布战略政策、制定法律法规等落实治理规则。如G20于2019年6月发布《G20人工智能原则》，倡导以人类为中心、以负责任的态度开发人工智能。

　　行业组织是治理的重要推动者，通过制定技术标准、倡导行业自律等方式推动人工智能规范发展。如ISO/ IEC开展人工智能相关国际标准制定工作；IEEE发布《AI设计的伦理准则》，为AI健康发展提供理论指南。

　　高校及研究机构致力于推进人工智能治理及伦理研究，为社会提供基础性、公益性服务。如哈佛大学曾发起“全球AI对话”活动，为社会各界分享AI治理观点提供平台；今年6月，清华大学成立人工智能国际治理研究院，为完善全球AI治理贡献中国智慧与力量。

　　科技企业及开发者是践行行业自律自治的中坚力量，通过制定企业伦理原则、研发技术工具等，有力推动治理的落地实践。如旷视于今年3月发布《正确使用AI的倡议书》，并于6月与北大联合完成首个AI治理商业案例。

　　公众（包括独立学者）是治理过程中的重要参与者，拥有监督、意见反馈等权利，因此应积极参与治理规则制定，并适当介入相关监督过程，从而更好地保护智能服务消费者的合法权益。

我国人工智能治理稳步推进成效明显

我国高度重视人工智能规范有序发展，近年来在各方共同努力下，我国人工智能治理稳步推进，发展环境持续优化。

　　一方面，提出明确的人工智能治理目标。在国务院发布的《新一代人工智能发展规划》中，明确提出人工智能治理“三步走”战略目标：到2020年部分领域的人工智能伦理规范和政策法规初步建立；到2025年初步建立人工智能法律法规、伦理规范和政策体系，形成安全评估和管控能力；到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系。“三步走”战略目标为我国系统构建人工智能治理体系指引了明确的方向。工信部发布的《促进新一代人工智能产业发展三年行动计划（2018-2020年）》，提出开展人工智能相关政策和法律法规研究，为人工智能产业健康发展营造良好环境。

　　另一方面，积极探索人工智能治理实践方案。我国政产学研各方积极推动人工智能治理的实践落地。一是确立治理原则。我国于2019年6月发布《新一代人工智能治理原则》，提出八项治理原则以发展负责可信的人工智能；同年8月，人工智能产业发展联盟发布《人工智能行业自律公约》，旨在引导和规范行业从业者行为；在今年7月举办的世界人工智能大会上提出构建“1个平台﹢4项工作﹢4个体系”的人工智能治理原则行动方案。二是研制技术标准。目前《新一代国家人工智能标准体系建设指南》正在各部委征求意见，已立项《信息技术人工智能术语》等4项国家标准，已发布《面向深度学习的服务器规范》等11项团体标准；同时，我国积极参与ITU、ISO/IEC框架下国际标准制定工作。三是启动相关法规的研究制定。我国陆续启动数据、算法以及车联网、智能医疗等人工智能相关规范立法工作，如2020年7月，全国人大常委会第二十次会议审议了《数据安全法（草案）》并公开征求意见。今年2月，国家发改委、中央网信办、工信部等11个部委联合印发《智能汽车创新发展战略》，提出到2025年要基本形成智能汽车的法规标准、产品监管体系。

加快完善人工智能治理体系三条建议

未来，我国应进一步加强人工智能治理体系构建及规则制定，积极参与全球人工智能治理议题，营造规范有序的产业发展环境。

　　一是加大政策支撑力度，持续优化治理环境。统筹规划、系统构建人工智能产业规范及保障体系。促进数据治理、算法规制、标准制定、安全评估等能力建设。推动车联网、智能医疗等人工智能重点领域立法工作，构建结构合理的人工智能责任划分体系，探索有效可行的人工智能监管路径。

　　二是加强伦理及法规研究，完善治理框架体系。加强人工智能治理研究力量，打造具备一定国际影响力的治理专业组织机构。依托企业、高校、产业联盟等机构，研究编制《可信AI指引》，推动人工智能伦理及行业自律原则的实施落地。持续完善人工智能标准体系，推动形成国家标准顶层引导、行业标准先试先行、国际标准积极参与的良好局面。

　　三是深化国际交流合作，参与全球治理议题。秉持合作共赢、共同发展的理念，加强与各国间政策沟通，消除误解、增进理解、建立互信。积极参与全球人工智能治理交流对话，协同探索人工智能治理思路和监管模式。在联合国等多、双边框架下，加强交流、形成共识，推动共同构建全球人工智能治理体系。

（来源：人民日报）

世界机器人大会自2015年至今已成功举办五届，是推动机器人领域全球产业和技术交流合作的重要平台。大会汇聚了大量创新资源、产业资源、市场资源、资本资源、人才资源，已发展成为机器人领域规模最大、规格最高、国际元素最丰富的顶级盛会，对构建开放包容、互学互鉴的全球机器人生态体系作出了重要贡献。

世界机器人大会 

新画卷 新征程 

让我们共同追求更卓越的未来

世界机器人大会官方网站：

www.worldrobotconference.com

大会官方公众号：

大会服务平台官方公众号：