机器学习方法有助于反假情报

来源：中国指挥与控制学会

了解在线行为体如何针对各国的脆弱性，可以作为建立更广泛的抵御虚假信息能力的第一步。

虚假情报已经成为COVID-19危机的一个核心特征。根据最近的一项民意调查，关于这一流行病的虚假或误导性信息达到了英国所有在线新闻消费者的近一半，因为这种恶意信息和高科技“深度伪装”图像可以在网上传播得如此之快，它通过增加公众对政府和公共当局的不信任而给全世界的民主社会带来了风险，这种现象被称为“真相衰退”。然而，新的研究强调了新的方法来发现和消除网上的虚假信息。

在COVID-19大流行期间，有几个因素可以解释假信息的迅速传播。鉴于这一流行病的全球性，越来越多的组织利用虚假信息来推进他们的议程。随着以人工智能为动力的造谣活动扩大了在线和社交媒体平台上恶意信息的范围，机器或计算机学习的进步也助长了这一问题。

卡内基梅隆大学的研究表明，社交媒体“机器人”可能占到与COVID-19相关的所有评论推特活动的45%到60%，而在美国选举和自然灾害等其他活动中，社交媒体“机器人”可能占推特活动的10%到20%。这些机器人可以自动生成信息，倡导创意，跟踪其他用户，并使用假帐户获得追随者自己。

该大学的研究发现了100多个不准确的COVID-19理论，包括对国家和地方当局实施的预防、治疗和紧急措施的误导性报道。在这方面，造谣可能对个人、社区、社会和民主治理产生有害影响。关于冠状病毒的虚假或误导性声明可能鼓励人们冒更多的风险，对自己和他人的健康构成威胁，例如，通过食用有害物质或无视社会距离准则。

造谣还可能被用来针对包括移民和难民在内的弱势群体，增加仇外暴力和仇恨犯罪的风险。

公共和私营部门团体以及民间社会组织已经采取了各种对策来对付网上的造谣。这包括调整内容的举措，以及使用社交媒体算法识别是否存在虚假信息。旨在增强在线用户识别虚假或误导性信息能力的在线媒体扫盲计划，有助于增强公众对虚假信息的抵御能力。

Facebook旗下的WhatsApp公司现在也对消息转发施加了新的限制，以应对虚假信息在其消息渠道上的传播。

一项新的兰德欧洲研究的结果现在可以帮助进一步加强这些努力。由英国国防科学技术实验室，或DSTL委托，这项研究表明，机器学习模型可以用来检测恶意在线演员。

克里姆林宫的造谣策略在COVID-19期间继续迅速发展，其中包括与中国协调的叙述，声称冠状病毒是由移民引起的，或是作为一种生物武器在美国军事实验室研发的。

造谣还包括关于俄罗斯向美国和意大利等国提供“人道主义援助”的虚假说法。这些努力都是为了削弱各国政府的复原力、复苏和危机应对能力。

在DSTL的研究中，研究人员利用了2016年美国总统大选的Twitter数据，并使用计算机模型来区分俄罗斯“巨魔”和真正的政治支持者的叙述。

该模型能够通过检测针对民主党和共和党党派的操纵性“美国对他们”语言，成功地识别出巨魔。

该分析解释了如何使用特定的语言策略来实时识别巨魔，同时也强调了这些操作策略的目标。通过使用重复的语言模式突出每一方的情感问题，网络上的不和谐被激化了。

为了提高人们对这些策略的认识并增强其应变能力，政府机构可以让目标群体的成员看到这一点，以便他们能够认识到社交媒体操纵技术。

通过研究巨魔如何针对2016年美国总统选举的在线辩论，未来可以重新配置该模型的社区检测、文本分析、机器学习和可视化组件，以创建一个强大的通用社交媒体监控工具。这样一个工具可以帮助公共部门集中力量打击与COVID-19有关的在线虚假信息，以及其他具有公共重要性的问题。

了解在线行为体如何针对各国的脆弱性，可以作为建立更广泛的抵御虚假信息能力的第一步。进一步发展这种方法来抵御这些操纵策略可能有助于大规模打击造谣——这显然是COVID-19的核心问题。

本文来源：圣斯沃茨

如何加入学会

注册学会会员：

个人会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“个人会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可在线进行支付宝缴纳会费。

单位会员：

关注学会微信：中国指挥与控制学会（c2_china），回复“单位会员”获取入会申请表，按要求填写申请表即可，如有问题，可在公众号内进行留言。通过学会审核后方可缴纳会费。

长按下方学会二维码，关注学会微信