院士说丨何积丰院士：可信人工智能

辽宁省科协科普辽宁

来源：三思派

作者：何积丰

非常高兴来参加人工智能治理会议，我想从技术和社会发展两个角度谈一下造成人工智能需要治理的原因是什么，在技术上、政策上有哪些东西还可以进一步加强。报告里面有不够到位的地方请各位专家批评指正。

我们发展人工智能时抱持有一种想法，希望人工智能可以和社会发展有一个共性的互动关系，因为我们发展人工智能技术不是为了把老百姓的饭碗都抢了，这不是我们原来发展的愿望。

第四个对策，可信验证。这里有两个对象，一个是建设可信验证的引擎、手段、工具，一个我们目前用的人机物融合的系统，我们用仿真测试方法来验证。这里面临什么问题呢？

第一，我们面对的是不确定的环境，我们不知道环境会有什么变化，会发生什么突然事故。

第二，我们希望机器在被训练完以后自己还有自适应变化的能力，否则很难做到可信，所以它可能在不同环境下做事情会有适度的变化。

第三，我们有可信性评估，给它打分，可靠性到底几个9。

第四，我们要强调人在回路上。人和机器是共生的，这样通过系统训练与测试，加上定量形式化验证，我们可以实现某种意义上的可信人工智能产品。

第五个对策，主动防御对策。图右侧是我们追求的目标，我们希望能够有一个安全评估的系统，它能理解人工智能系统的安全要素，知道什么情况下这个系统会受到威胁。你要知道敌人在哪里，知道自己的弱点在哪里。当然很重要的是要做预测，我们要建立安全策略库，通过感知系统搜集系统当前的态势，通过对安全要素和攻击者的建模，可以做相应的反应。整个安全认知是由两大部分组成的，有功能安全也有信息安全，因此我们既要处理安全行为，也要关心安全事件。整个智能系统的安全不仅结果是安全的，整个过程也应该是安全的。

第六个对策，伦理法律。人工智能伦理和治理已成为基本的共识，国际社会正在探索建立广泛认可的人工智能伦理规则，分成四大责任：

第一，伦理责任；

第二，安全责任；

第三，法律责任；

第四，社会责任。

在国际上已经有一系列原则和宣言了，最早是欧盟委员会人工智能高级别专家组发布了可信人工智能伦理准则。我们国家新一代人工智能治理专业委员会发布了“发展负责任的人工智能”。一些大的企业也在发布自己有关AI伦理原则，这是一个现状。

下面看一下应该从哪几方面做事情。哪些部门会和人工智能伦理治理相关呢？我将其分为社会科学和功能科学两部分，一块是做哲学、法律、伦理的，另外一批是做理论研究和工程学的。他们最希望发展什么呢？基于极限案例的、高度抽象的优劣评价体系。

分成三大板块来说，第一，理念。理念分成五个部分，

（1）希望人与人工智能系统能够共生，尽可能使人民群众享受人工智能带来的恩惠。

（2）人工智能本身发展过程当中有很大的广义性，换句话说，我们要追求现有的规则该怎么处理发展当中的一些矛盾。我们称之为软定律，和通常说的法律系统是有差别的。

（3）通过创新的开放性研究来达到这个水平，换句话说，在促进人工智能系统正义的同时最大限度尊重学业自由和表现自由的社会价值，抑制人工智能系统对权益的侵害，确保正义和风险的平衡。

（4）我们要尽可能保证中立性。

（5）最后人工智能系统的国际性要不断增加。另一方面要从人工智能本身讨论系统之间的交互性、自主性、适应性的不同组合产生的八种情况，中间提到一些开放原则，以及该怎么进行治理。

第七项对策是关于系统伦理的问题。人工智能系统试图对人的行为进行智能调控，因此带来了一系列值得我们深刻研究的问题。这是第一个我们关心的出发点。第二个出发点是，人工智能系统不仅会放大本来有的科研伦理问题，还会产生新的伦理问题。伦理问题本身不是人工智能带来的，原来其他的课题上也都有。

早先研究社会科学和自然科学都有研究伦理问题，我们提到应该有这样的原则，称为SSH，包含三个方面：

第一，技术开发者的伦理；

第二，学术研究者的伦理；

第三，科技成果的伦理。比如核武器，原来成果可以用来造福于人的，但是如果是武器，就变成了很危险的东西了，这就是科技成果伦理。在这个基础上人工智能要研究什么伦理呢？要研究法律社会科学伦理，要研究人性的概念，研究对世界发展流动所造成的问题。

下面我们提出一个流程，第一，从社会数理统计到数据的解剖。第二，从统计平均个体到数据解析单体。第三，避免极端差异不平等的计划。最后目标是走向更加公平的社会。

欢迎关注

科普辽宁

继续滑动看下一个