清华胡晓林：利用深度学习模型对脑的视听觉环路建立计算模型

不管是Werbos 和 Rumelhrat 等人，在80年代从McCulloch, Pitts和Rosennblatt等人的基础上提出的多层感知机和反向传播算法（Back-Propogation, BP），还是LeCun在1989年基于Fukushima和Wiesel的工作，结合BP提出的卷积神经网络（CNN），都离不开脑科学的指引。因为在1943年McCulloch 和Pitts提出阈值逻辑单元；Wiesel 等人在50年代末，在猫上做的一个实验，发现了简单细胞和复杂细胞，随后Fukushima在这个发现基础上提出了认知机（Neocognitron），最先出发点都是为了揭示大脑的工作原理。后来发现这些模型在工程上有很重要的应用价值，所以人工智能的发展是和脑科学有密切相关的（见图1）。

视听觉系统的结构都是层级化的结构，这个和深度学习计算模型的结构是一致的（见图2）。虽然两者之间有一些显著的差别（例如在视觉系统广泛存在反馈（Feedback）和循环（Recurrent）的机制，在深度学习计算模型尚没有广泛被应用），但是这两者整体都是层次化的结构，这样我们可以研究两个系统之间的联系与相同之处。

视觉通路和人工神经网络

实验结果发现：在Pretrained 的VGG和Alexnet（有监督模型）做了实验发现，从计算模型的低层级到高层级的神经元的MI是一个上升的趋势，单个的神经元的MI在低层级基本也是没有特异性的，在高层级的神经元是有一定的特异性的（见图4）。前面的计算模型是有监督的，但类似的结果也在SHMAX（无监督模型）计算模型上得到验证。

听觉环路和人工神经网络

为什么在不同层级的神经元有不同的特异性呢？

类似于深度学习计算模型在视觉环路的研究，胡教授利用深度学习计算模型来研究听觉环路，建立了听觉稀疏发放计算模型（见图6），把声音输入经过耳蜗过滤得到的stimuli 作为计算模型的输入，就可以得到听觉皮层的神经元对声音的特异性。

听觉环路与深度学习计算模型的联系，总结：

• 深度学习计算模型高层级神经元能够展示视听觉皮层的高阶区域的神经元的特异性。

• 稀疏编码对塑造神经元的反应有非常重要的意义。

• 深度学习计算模型层级人工神经元和真实的生物系统神经元长的太不一致了，只是在抽象上是有相类似的层级化结构，并不能用深度学习计算模型做一些细致的神经科学研究工作。