人类一生所学不过 4GB,加州理工顶刊新研究引热议
人类24小时不停学习却只能储存4GB的知识量,这是什么情况呢?
科学家们的最新研究揭示了人类学习和知识积累的极限,似乎这个上限比一个普通U盘还要少。
这项研究发表在Cell旗下的顶尖神经科学期刊Neuron上,提出了一个令人深思的悖论:
人类的信息处理速度仅为每秒10bit,而感官系统却能够以每秒10亿bit的速度收集数据。
依照每秒10bit的速度计算,尽管人类可以全天候学习并不遗忘,经过100年的时间最后的知识储存也只能是4GB。
这意味着什么呢?来看看与大型模型的对比:
大语言模型每个参数能存储2bit的知识,因此一个包含70亿参数的模型可以储存140亿bit的知识。
△ 结论来源于华人学者朱泽园的“语言模型物理学”系列论文。
难怪研究人员进一步得出推论:
随着计算能力的不断提升,机器在各种任务中的表现超越人类只是时间问题。
此外,根据这项研究的结论,马斯克目前的脑机接口研究也面临挑战。
研究人员表示:
我们预测马斯克的大脑与计算机的通信速率大约为10bit/s。与其依赖Neuralink的电极,不如直接使用电话,因为电话的数据传输率已经与人类语言匹配,而人类语言也与感知和认知速度相符。
这系列发人深省的推论在学术界引发广泛讨论。
美国知名医生科学家、斯克里普斯转化研究所创始人Eric Topol也忍不住参与讨论。
为什么我们只能同时思考一件事呢?
那么,这个结论是如何得出的呢?
中枢神经系统“串行”影响信息处理速率
简单来说,要计算人类一生能学到多少知识,我们必须先了解大脑处理信息的速度。
通过对日常活动(如打字、讲话、解魔方等)的分析,研究人员初步得出“大脑处理信息的速度约为10bits/s”的结论。
例如,一个高级打字员每分钟能打120个单词(约每秒2个),若按平均5bit计算,每秒的信息传输速率便是10bits/s。
在英语演讲中,若讲话速度控制在每分钟160个单词,则信息传输速率为13bits/s,略高于打字。
另外,盲拧魔方比赛中,选手需先观察魔方几秒,然后闭眼还原。以世界纪录的12.78秒为例,观察阶段约为5.5秒,魔方的排列数约为4.3×1016≈265,最终信息传输速率约为11.8bits/s。
通过类似的方式,作者估算了在其他场景下的信息处理速度(从经典实验到现代电子竞技等),结果显示这一速度范围在5~50bits/s之间。
因此得出一个整体结论:人类思考的速度始终在10bits/s的范围内。
假设我们能活到100岁,每天24小时不停学习(且不考虑遗忘因素),最终的“知识储量”也将不到4GB。
实际上,与10bits/s形成鲜明对比的是——人类感官系统以约10亿bits/s的速度收集信息。
10bits/s VS 10亿bits/s
具体来说,我们每天从周围环境中获取信息的速度起码以Gbps/s计算。
例如,视觉系统中单个视锥细胞能以270bits/s的速度传递信息,而一只眼睛大约有600万个视锥细胞。
所以,单是双眼的视觉系统接收信息的速度就高达3.2Gbps/s。由此看来,我们接收信息的速度与处理速度之间的差距竟高达108:1。
需要注意的是,人类大脑内有超过850亿个神经元,三分之一集中在大脑皮层构成复杂的神经网络。也就是说,单个神经元能轻松处理超过10bits/s的信息。
然而,当前观察到的现象却和这个不符,明显二者之间存在一定矛盾。
从神经元的性能来看,它们具备快速处理和传递信息的能力,但这并没有直接提高整体的认知速度,说明还有其他因素在起作用。
那么,是什么导致人类信息处理速度如此缓慢?
根据论文分析,原因可能有以下几个方面:
最主要的,中枢神经系统在处理信息时采用的是串行方式,这限制了信息传输速率。
这里需要说明并行处理和串行处理之间的区别。
所说的并行处理显然是指多个任务同时进行。拿我们的视觉来看,视网膜每秒会产生100万个输出信号,每一个都是视网膜神经元对视觉图像局部计算的结果,由此处理大量视觉信息。
而在中枢神经系统中,他们观察到了一种“心理不应期”(psychological refractory period)效应,在面对多个任务时,中枢神经系统只集中注意力于一个任务上。
当然,他们也研究了导致“串行”的原因,认为这与早期进化阶段的神经系统功能有关。
具体来说,最早具有神经系统的生物主要利用大脑检测气味分子的浓度梯度,以判断运动方向来捕猎或避敌。长此以往,这种特定功能需求使大脑逐渐形成了“一次处理一个任务”的认知架构。
随着进化,大脑的这种架构逐渐固化,虽然随着物种进化大脑的功能变得越来越复杂,但早期形成的认知架构仍然在一定程度上限制了人类同时处理多个任务和快速处理信息的能力。
此外,还有理论认为“注意瓶颈”等限制因素也会制约信息处理。注意力在认知过程中是重要因素,像一个瓶颈一样限制可进入认知加工阶段的信息数量和速度,但其具体机制人类尚未完全理解。
综上所述,论文认为10bits/s的速度足以满足人类的生存需求,而庞大的神经元网络可能是为了满足频繁切换任务和整合不同神经回路之间的信息。
马斯克脑机接口过于理想化
不可否认的是,考虑到10bits/s与10亿bits/s之间的巨大差距,人类逐渐开始难以忍受这种慢节奏。
由此,论文得出一个推论:随着计算能力的提升,机器在各类任务中的表现超越人类只是时间问题。
换句话说,以AI为代表的新物种或将逐渐“取代”人类。
论文中也提到马斯克的脑机接口系统,认为他的理论是基于肉体带宽不足而造成的信息处理限制。按马斯克的设想,通过建立高带宽接口来连接大脑和计算机,人类可以更自由地与AI交流,甚至实现共生。
然而,他们认为这一想法有些过于理想化。
10bits/s的限制源于大脑的基本结构,通常不可能通过外部设备来打破。
因此也提出了前面提到的建议:
与其依赖Neuralink的电极束,不如直接使用电话,因为电话的数据传输率已与人类语言匹配,而人类语言又与感知和认知速度相适应。
当然,这并不意味着他们对脑机接口失去信心,他们认为关键在于如何以另一种方式提供和解码患者所需的信息。
作者之一为上海交大校友
这项研究由加州理工学院生物学与生物工程系的两位学者完成。
Jieyu Zheng 现为加州理工学院五年级博士生,曾是上海交通大学的本科校友,拥有康奈尔大学的生物工程学士学位,并在剑桥大学取得教育与心理学硕士学位。
她的研究重点在于认知灵活性、学习和记忆,尤其关注大脑皮层和海马体在这些功能中的核心作用。目前,她正在进行一个名为“曼哈顿迷宫中的小鼠”的研究项目。
Markus Meister 是Jieyu Zheng的导师,自1991年起任职哈佛大学教授,2012年转至加州理工学院担任生物科学教授,研究主要集中在大型神经回路的功能,特别是视觉和嗅觉的感官系统。
Markus Meister于1993年被评选为Pew学者,2009年因其在视觉和大脑研究中的贡献获得Lawrence C. Katz神经科学创新研究奖及Minerva基金会的“金脑奖”。
新研究发布后,作者们在X平台上积极宣传自己的研究。
我们提出的特征是脑科学中最大的未解之谜。
Markus Meister还幽默地指出,10bit/s的处理速度可是经过同行评审的。
随后,学术界的众多社区也开始讨论这项研究。
有人对此论文表示兴趣,觉得发人深省:
简化内容,聚焦于中枢神经系统并将讨论划分为内部和外部大脑两部分,这样更有意义。
这是一个非常重要的视角,值得深入思考……
然而,也有人提出质疑。
我越想这篇论文中的某些估计,越觉得怀疑。例如,打字员与听者之间比特率的等效性似乎存在问题。正如香农所指出的,英文字母的熵约为每字符1bit。但如果是一连串的单词或概念,情况又会如何呢?
作者假设每秒10bit确实是慢的。与我们在硅基底上实现的通用计算系统相比,这确实缓慢,但这种假设并不能线性转换为大脑的信息吞吐量和存在的感知。
对于这项研究,你有什么看法呢?
论文链接:
-
https://arxiv.org/ pdf/2408.10234
参考链接:
-
[1]https://www.caltech.edu/about/news/thinking-slowly-the-paradoxical-slowness-of-human-behavior
-
[2]https://www.cell.com/neuron/abstract/S0896-6273(24)00808-0
-
[3]https://news.ycombinator.com/item?id=42449602
-
[4]https://arxiv.org/pdf/2408.10234
本文来自微信公众号:量子位(ID:QbitAI),作者:西风一水