美国机器学习的安全威胁亟待解决

来源：中国指挥与控制学会

编者按

随着机器学习和人工智能不断的的应用和发展，机器欺骗行为与日俱增。机器学习的快速发展，带来一系列军民应用的新技术，同时伴随漏洞缺陷，恶意使用者将会利用这些漏洞缺陷进行攻击。目前, 一些最有前景的机器学习应用，包括关乎生命安危的基于大量数据分析的快速决策支持系统，将可能被欺骗并产生灾难性的后果。人类对机器学习的依赖度以及机器学习本身易受欺骗的脆弱性对军事作战有重大影响。

安全漏洞的军事影响

2017年4月，美国防部组建了算法战跨职能小组，目标是利用人工智能和机器学习技术快速处理离散的数据。高度自动化进行数据采集和处理有助于缩短决策周期，保持美国的技术优势。在此背景下，攻击者通常寻找新路径进行欺骗或者误导机器学习系统并对其盲点进行攻击。随着机器学习接替的人工任务不断增多，新的漏洞缺陷也必将不断浮现。

鉴于当今战场对后勤规划及支持的需求日益复杂化，机器学习应用需要辅助军队提升任务执行的效率和准确性，更具自主性和可预见性。但与此同时，敌方也能够欺骗系统致使规划人员和作战人员做出错误决策。目前，中俄两国已经采取了一些战略性措施并实现了自我防护的目标，但美国相对欠缺，美国防部应该采取相应措施将机器学习的内在风险降至可接受水平，同时不会影响机器学习的发展。

美国防部应高度重视

美国防部联合人工智能中心、国防部人工智能卓越中心以及国防部实验室、DARPA等机构纷纷已经在机器学习安全问题上做出努力。国防部应该将制定管理机器学习系统安全问题策略作为高优先级事项来处理，处理机器学习安全问题需要依靠广泛的组织、系统和资金支持。

机器学习系统安全管理机制可以参照对软件漏洞缺陷处理的方式，可以组建一支团队发现和修正潜在的安全漏洞缺陷并报告这些漏洞缺陷。采取主动防御的措施，预测机器学习进展中可能发生的更高效的系统攻击方式。同时，设立专门的研究日程表去对机器学习漏洞缺陷进行全面的理论研究，帮助制定防御措施和防御策略，从而帮助开发工具来完善机器学习系统。此外，国防部还应加强与企业界、学术界及政府的合作，共同应对解决机器学习安全问题的技术问题和资金问题。

来源 ：美国《战争困境》/图片来自互联网

军事科学院军事科学信息研究中心    谷修勇

编辑：刘伟雪

转自：“国防科技要闻”（ID：CDSTIC）

注：原文来自网络，文中观点不代表本公众号立场，相关建议仅供参考。

投稿邮箱：liuyali@c2.org.cn

长按下方二维码    免费订阅

C2

如何加入学会

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

近期活动：

11月9-11日

连云港

CICC海上指挥控制专委会2019年学术年会暨海上指挥控制专委会换届大会

11月14日

南京

2019年度CICC安全应急共享知识专业委员会年会

11月15日-16日

武汉

第七届CICC青年科学家论坛暨大数据科学与工程论坛

大数据科学与工程专委会换届大会

11月23日-24日

西安

2019年度数据链技术学术会议

12月7日-9日

北京

第三届全国兵棋推演大赛总决赛暨中国国防教育学年会

12月14日

北京

2019全国集群智能与协同控制大会暨集群智能与协同控制专委会成立大会

2020年1月3日

北京

未来陆军建设发展研讨会暨院士专家新春座谈会

长按下方学会二维码，关注学会微信