你不能用100%的大脑,这是一件好事

                                                                       

 Shannan Muskopf/Wikimedia Commons
来源:Shannan Muskopf/Wikimedia Commons

在本系列的第一部分中,我讨论了只使用我们10%大脑的想法.我显示了最近的证据,表明有很多神经元似乎没有我们可以辨别的有用性.未使用的神经元数量可能少于90%,我建议可能接近50%.但是我仍然认为10%的值是一个有用的参考点.

为什么? 10%的神话是有帮助的,因为事实证明,存在一种更微妙,更间接的方式,使它的价值比100%的价值更接近真相.这与我在上一篇文章中使用的短语有关:脑部使用情况随着时间的推移.这使我们想到了一个重要的概念,称为“稀疏".这是康奈尔大学神经科学家David Field创造的一个术语,用于描述神经活动的大规模模式.

稀疏是指超出活动总和的模式.这实际上是关于活动如何在神经元中和随时间分布的问题.

在稀疏系统中,人口中有几个单位一次非常活跃,而其余的则很安静.随着时间的流逝,大多数单位都会参与.可以说这种活动模式具有很高的人口稀疏.相反,在任何给定时刻至少使用少量单位的大多数系统,人口稀疏性较低.

相同的框架用于表征随时间变化的单个神经元.在这种情况下,一生中的稀疏表示神经元仅在极少数的高活动性突发中活跃,而稀疏性则表明神经元几乎始终处于低水平. >

在这里用书面语言进行类比很有帮助.我们可以通过用英语或几乎用中文写的方式传达给定的思想.然而,这两种语言的编码系统却大不相同.为了用英语表达几乎任何想法,我们将至少一次使用几乎所有编码单元(26个字母).用神经元模拟字母就像在给定任务中低水平使用大脑中的所有神经元.可以说,像英语书写这样的系统稀疏程度很低.

M4RC0/Wikimedia Commons
来源:M4RC0/Wikimedia Commons

在中文中,表达相同的思想只需要几千个字符.每个角色的使用都会有重点,因为角色以各种各样非常不同的形式出现,并且大多数都不会在一个想法中重复出现.这就像一次使用几个神经元.那么,中文就意味着稀疏.

这两个系统本质上都不比另一个系统更好-两者都有优点和缺点.我们想知道的是,哪种书面语言最像大脑的活动方式?

通过过去35年的经验和理论研究,很明显,大脑的活动非常稀疏.出现这种情况的原因主要有两个.

首先,这是由于神经元的工作方式,这意味着控制其运作的生化和生物物理规则.无论是跨神经群体还是随着时间的推移,都是如此.血流的限制(限制了可以向许多神经元传递多少能量)将系统推向人口稀疏状态.在时域中,神经机器的基本原理是发出短暂的,尖锐的被抑制能量,然后花费更长的时间为另一个能量充电.在大多数情况下,他们不能只是一点点活跃.对该情况的最佳理论估计(尽管它们对非常复杂的系统进行了实质性假设和简化)收敛于哺乳动物大脑中约10%的使用限制(1、2、3).听起来很熟悉?

第二,因为世界稀疏,所以要求稀疏.在我们的环境中(以及相应地在我们的头脑中),事物是突发发生的,而不是一直处于低水平.这包括事件,对象,力,动作,含义和决定.

David Field与加州大学伯克利分校的神经科学家Bruno Olshausen合作,在1996年的一篇具有里程碑意义的论文中遵循了这一思路,该论文涉及视觉系统中的稀疏性.他们使用计算模型来证明我们的大脑在我们周围世界的空间格局中假设稀疏结构.

从本质上讲,他们构建了一个被迫学习稀疏代码的计算系统.该代码或“字母"与书面语言非常相似,不同之处在于它编码图片(自然图像的小块)而不是文字.他们发现计算机模型学习的视觉字母与我们的视觉系统中使用的字母非常相似.

换句话说,在经过简单训练的稀疏系统中,大脑分析视觉世界的基本策略会“免费"弹出,而无需经过明确的预先编程.事实证明,稀疏编码还与当前的人工智能“深度学习"革命有很强的联系,我将在以后的文章中进行讨论.

回到艾伦研究所的萨斯基亚·德·弗里斯(Saskia de Vries)领导的最新研究中,我在第一篇文章中提到,研究人员的主要目标之一是测量稀疏度.有了这些信息,我们就可以估计同时有多少大脑处于活动状态.

在他们采样的视觉区域以及皮层的不同层中,de Vries数据表明通常约有20%的神经元同时活跃.尽管大约四分之三的视觉神经元会定期做出反应,但每次只有五分之一的人活跃.随着时间的流逝,单个神经元仅在录音长度的20%左右才活跃.显然,这些值更接近于10%的值,这是我的经验法则,而不是100%的神话.

这一切与您的互联网大脑有什么关系?关键是互联网也很稀疏.它既可以在给定时间跨网络运行,也可以在一段时间内在通信通道内处于突发状态.

通过监视计算机的wifi信号,您可以了解活动情况. Macintosh用户可以打开应用程序“活动监视器"(在“实用工具"文件夹中)并检查“网络"选项卡.您将看到计算机随时间发送和接收的消息块(数据包)的图.除非您使用大量带宽,否则跟踪通常会显得稀疏和突发,如下所示:

 Daniel Graham
笔记本电脑Wifi调制解调器随时间发送(红色)和接收(蓝色)的消息.
资料来源:丹尼尔·格雷厄姆(Daniel Graham)

大脑和互联网共享稀疏的运行条件.但是我们可以走得更远.关于互联网的大脑隐喻的另一个教训是,偶尔的短暂信号对于使系统正常工作至关重要.自然地,我们会被大脑中强烈而一致的信号所吸引,而当大脑“发光"时,我们就会被明亮的闪烁所吸引.但是,随着互联网的隐喻,短暂的活动突增也至关重要.

在Internet上,有各种短暂的信号突发,这些突发信号使路由器保持联系.重要的是,这些信号突发不携带任何消息内容.信号包括ACK或确认,它们告知发送路由器在其目的地接收到一组消息.路由器还会定期发送 keep-alive ,这是一条小消息,告诉网络邻居路由器已准备好发送消息.

如果大脑使用类似的策略,那么如果我们只关注许多神经元共同活动的情况,那么这些微小的信息就会被遗漏或误解.像互联网一样,大脑中的许多信号可能与保持通信系统正常工作有关,而不是执行特定的任务或行为.这是保持整个大脑网络“可访问",这是互联网擅长的事情.

大脑在活动方面的限制与互联网相同,在这两个系统中,即使处于较低水平,我们也无法一次激活所有组件.至关重要的是,这两个系统的根本设计都旨在通过庞大且高度互连的网络传递消息.在我的新书《 头上的互联网》中,我探索了互联网与大脑(以及更多)之间的相似之处.我将在以后的文章中讨论其中的一些相似之处.

那么我们应该瞄准的稀疏程度是什么?尽管de Vries的研究向前迈出了一大步,但要对自己大脑中的大规模大脑活动有一个很好的了解,我们还有很长的路要走.目前,我们不能说稀疏对人类的理想价值是什么,更不用说如何实现它了.我们现在只能说的是,需要一定程度的稀疏.

但是也许少即是多?最后,我简短地摘自头上的互联网

:

David Field,他是我的博士学位.顾问,已将稀疏编码的原理应用于心脏或大脑.鉴于一次只能在大脑中活跃的细胞数量限制在10%或更少,David喜欢开玩笑说他正试图将自己的个人总数降低到5%.他可能正在做某事.

版权所有©2021 Daniel Graham.严禁擅自复制任何内容.对于转载请求,请发送电子邮件至reprints@internetinyourhead.com.

参考

Lennie,P.(2003).皮层计算的成本. 《现代生物学》,13(6),493-497.

                                               
0
订阅评论
提醒
0 评论
内联反馈
查看所有评论