人工智能军事应用有何不足？学术资讯

来源：中国指挥与控制学会

人工智能军事应用的脆弱性和不确定性主要就体现在人工智能的机制机理上。人工智能大概分三大门派，一是以模仿大脑皮层神经网络及神经网络间的连接机制与学习算法的联结主义（Connectionism），主要表现为深度学习方法，即用多隐层的处理结构处理各种大数据；二是以模仿人或生物个体、群体控制行为功能及感知-动作型控制系统的行为主义（Actionism），主要表现为具有奖惩控制机制的强化学习方法，即通过行为增强或减弱的反馈来实现输出规划的表征。三是以物理符号系统（即符号操作系统）具有产生智能行为的充分必要条件假设（Newell and Simon，1976）和有限理性原理为代表的符号主义（Symbolicism），主要表现为知识图谱应用体系，即用模拟大脑的逻辑结构来加工处理各种信息和知识。正是由于这三种人工智能派别的取长补短，再结合蒙特卡洛算法（两种随机算法中的一种，如果问题要求在有限采样内，必须给出一个解，但不要求是最优解，那就要用蒙特卡罗算法。反之，如果问题要求必须给出最优解，但对采样没有限制，那就要用拉斯维加斯算法）使得特定领域的人工智能系统超过人类的智能成为了可能，如IBM的Waston问答系统和Deep mind的AlphaGo围棋系统等。尽管这些人工智能系统取得了骄人的绩效，但仍有不少缺陷和不足之处，而且还有可能产生很大的隐患和危险。

首先分析一下让人工智能在当下火热烫手的联结主义。当前的人工智能之所以高烧不退，其主要的力量源泉是2006年Hinton提出的深度学习方法大大提高了图像识别、语音识别等方面的效率，并在无人驾驶、“智慧+”某些产业中切实体现出助力作用。然而，任何一种算法都有其不完备性，深度学习算法也不例外。该方法的局限性和不足是最好使用在具有可微分（函数连续）、强监督（样本数据标定很好、样本类别/属性/评价目标恒定）学习、封闭静态系统（干扰少、鲁棒性好、不复杂）任务下，而对于不可微分、弱监督学习（样本分布偏移大、新类别多、属性退化严重、目标多样）、开放动态环境下该方法效果较差，计算收敛性不好。另外，相对于其他机器学习方法，使用深度学习生成的模型非常难以解释。这些模型可能有许多层和上千个节点；单独解释每一个是不可能的。数据科学家通过度量它们的预测结果来评估深度学习模型，但模型架构本身是个“黑盒”。它有可能会让你在不知不觉间，失去“发现错误”的机会。再者，如今的深度学习技术还有另一个问题，它需要大量的数据作为训练基础，而训练所得的结果却难以应用到其他问题上。如何在各种现实情境任务中恰如其分地解决这些问题，就需要结合其他的方法取长补短、协调配合。

其次，对于行为主义中的增强学习，它的优点是能够根据交互作用中的得失进行学习绩效的累积，与人类真实的学习机制相似。该方法最主要的缺点是把人的行为过程看的太过简单，实验中往往只是测量简单的奖惩反馈过程，有些结论不能迁移到现实生活中，所以往往外部效度不高。还有，行为主义锐意研究可以观察的行为，但是由于它的主张过于极端，不研究心理的内部结构和过程，否定意识的重要性，进而将意识与行为对立起来，进而限制了人工智能的纵深发展。

最后是符号主义及其知识图谱，符号主义属于现代人工智能范畴，基于逻辑推理的智能模拟方法模拟人的智能行为。该方法的实质就是模拟人的大脑抽象逻辑思维，通过研究人类认知系统的功能机理，用某种符号来描述人类的认知过程，并把这种符号输入到能处理符号的计算机中，就可以模拟人类的认知过程，从而实现人工智能。可以把符号主义的思想简单的归结为“认知即计算”。从符号主义的观点来看，知识是信息的一种形式，是构成智能的基础。知识表示、知识推理、知识运用是人工智能的核心，知识可用符号表示，认知就是符号的处理过程，推理就是采用启发式知识及启发式搜索对问题求解的过程，而推理过程又可以用某种形式化的语言来描述，因而有可能建立起基于知识的人类智能和机器智能的同一理论体系。目前知识图谱领域面临的主要挑战问题包括：a.知识的自动获取；b.多源知识的自动融合；c.面向知识的表示学习；d.知识推理与应用。符号主义主张用逻辑方法来建立人工智能的统一理论体系，但却遇到了“常识”问题的障碍，以及不确知事物的知识表示和问题求解等难题，因此，受到其他学派的批评与否定。

对于人工智能军事应用而言，智能化作战要素可简单概括为“人”“武器”和“谋略”，三者之间的统筹结合是影响战争胜负的关键。历史上每一次变革都促使“人”与“武器”结合得越来越紧密。然而，人工智能的内涵与核心是使机器具有近似于人的思维和能力，即让“武器”具备“人”的“谋略”能力。因此，智能化作战的突出特征就是智能自主，其脆弱性和不确定性也就表现在这些方面：

１．自主感知战场态势还较弱。好的军事感知系统可以多维度空间的探测、侦察、扫描、感知等智能化新型技术手段为基础，自动分析获取敌方、我方和友方兵力部署、武器装备、兵力运用和战场环境等信息，自主形成战场态势分析图。但是理想很丰满，现实却很骨感，包括最先进的美军在这方面差距也很大。

２．自主交互作战规划不完备。根据作战指挥员的意图，以战场情报信息为基础，自行设计并提供多套作战方案或行动计划，供作战指挥员灵活选择，同时，进行战场态势判断，提出作战方案并验证方案的可行性。而实际上，这方面的技术应用对于指控人员而言，常常是“只有苦劳，没有功劳”的抱怨，原因是人机往往失配。

３．自主规划作战任务不可解释。理想的无人作战系统能够围绕筹划阶段的决心方案，自主研究生成作战行动总体计划和分支计划，并围绕实施阶段的动态决心，自主完善原有作战计划或进一步生成更为可行的作战计划。其具有根据全程动态，自主设计生成作战计划，并有自主循环验证作战计划的能力。但是当算法复杂到一定程度时，这些理想状态就会生成许多矛盾，变得无法说明。

４．自主实施作战行动违规。无人作战系统在联合作战体系的支撑下，自主进行目标侦测和信息识别，并根据目标的性质、位置、作用、大小、状态等信息，自主按计划实施精确攻防行动，实现作战效能精准释放。同时，自动分析、处理作战任务与目标需求、自主深度计算与精确匹配作战要素、统筹高效运用体系作战效能。实际上，不要说这些系统的技术还远远没有成熟，即使成熟了也不能使用，因为违反《特定常规武器公约》（CCW）要求。

5．自主评估作战效果还得不到保障。目前，各国在战场毁坏评估方面还存在一些问题，较难获得高精度、实时性毁伤评估信息。有人-无人作战单元完成打击任务后，自主对打击效果信息进行采集整理、分级分类，同时基于大数据分析比对，评估毁伤效果，并依据效果规划制定下一轮打击决策。这将从根本上解决目前主要靠抵近侦察进行毁伤效果评估的困难局面，但是对此还没有好的解决办法。

现在的自主为什么说是“伪自主”？原因是其底层的技术架构：机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知能力，比如直觉、情感、责任、价值、荣誉等。

目前国内外的军事智能化本质上都还是自动化或高级自动化（加了统计概率的自动化）的基本框架（即大数据、智能、移动、云计算的混合），没有充分挖掘实时开放、强对抗性和不确定性战场环境下人、机、环境之间相互作用的本质特征、机理及其对未来作战方式、战略战术的影响。在真实环境中往往不能充分发挥人和机器智能各自的优势，在人机混合系统的输入端割裂了数据/信息/知识整合输入，处理过程中阻断了公理/非公理混合推理、输出方式离散了直觉/逻辑联合决策。简单地说，就是没有形成一套完整的以深度态势感知（包括事实与价值）为决策中心的指控系统和人、机、环境关联耦合的人机融合智能基础科学理论体系。单纯的人工智能军事应用未来的前景具有上述的脆弱性和不确定性，所以前景不容乐观，如何克服这些弱点和缺点，目前世界各国都在抢占这个技术制高点，我们也不能束以待毙，形成良好的人在环的军事人机环境融合智能化将是一个大趋势。