#智能时刻的观察[超话]#

人类大脑具有显著的模块化特征，其语言、形式推理、社会推理和物理推理等系统拥有独立的网络。这是否是智能系统构建的基本原理，还是生物进化的偶然结果？在我们最新的预印论文中，我们发现大型语言模型（LLM）这一类智能系统也呈现出类似的模块化结构。大脑与LLM的形成机制完全不同（生物进化 vs. 梯度下降），但两者最终都采用了相同的模块化设计，这表明模块性可能是智能系统的一个基本属性。

网站：pengrui-han.github.io/LLM_Modularity...
📄 论文：pengrui-han.github.io/LLM_Modularity...

💻 代码与数据：github.com/Pengrui-Han/LL

... 通过跨46个任务、涵盖四个认知领域的电路分析，我们发现：
1️⃣ 在人类中使用相同网络的任务会激活LLM中重叠的单元；而使用不同网络的任务则激活不同的单元。

2️⃣ 这些单元与模型行为存在因果关联。去除某一领域关键的单元后，该领域的性能会下降（准确率降低26%），而其他领域几乎不受影响（仅下降2.5%）

#ai创造营##ai智能体##ai智能体##aictri##人工智能#