【深度】每个文档都有自己的结构：基于图神经网络的文本分类新方法

文本分类是自然语言处理和信息检索领域中的基础问题，也是关键问题。分类方法的好坏往往决定了对文本内容的理解程度，为其他文本相关任务（如文本匹配、文本检索、情感分析等）提供必要条件。

传统的文本分类方法（如卷积神经网络和循环神经网络）主要对文本进行顺序化处理，即从头到尾依次进行编码。这样的问题在于，每个单词的学习仅依赖于其附近的单词，无法捕获中长距离的依赖关系，并且重复的单词会学习多次，增加了学习的难度。

中科院自动化所智能感知与计算研究中心张羽丰、吴书等人，受到图结构数据易于建立整体关联关系的启发，提出一种基于图神经网络的归纳式文本分类方法。不再以完全顺序化的方式学习文本内容，而是将文本构建为复杂关联的图结构进行学习，为上述问题提供了解决思路。相关成果发表于顶级国际会议ACL 2020。

该工作以单词为节点、单词间的共现关系为边，将每个文档构建为拥有自身结构的图，将文本分类任务转化为图分类任务。通过应用图神经网络模型，单词可聚合学习所有关联单词的表示，同时也可捕获中长距离的上下文关系。最后使用最大池化加平均池化的方法，将所有单词聚合为该文本的表示，进而得到其分类标签。

基于图神经网络的文本分类模型示意图

该模型在多个数据集中均取得最好性能，同时适用于归纳式学习，即当文本包含较多新词的时候，也能取得不错的效果。

该项研究在自然语言处理、信息组织和管理、内容信息过滤等领域都有着广泛的应用，例如舆情监测、新闻分类、垃圾邮件过滤、个性化推荐等，也为相关领域的问题提供了新的研究思路。

Yufeng Zhang, Xueli Yu, Zeyu Cui, Shu Wu, Zhongzhen Wen, Liang Wang. Every Document Owns Its Structure: Inductive Text Classification via Graph Neural Networks. In ACL 2020.

https://github.com/CRIPAC-DIG/TextING