AI治理刻不容缓？刘元春：关口必须前移

　　上海财经大学校长刘元春在“数智人文 创新生态”高端对话会上提出，AI并非传统技术更迭，而是一种典型的“超级技术”，其对人类社会结构的重构远超以往工业革命，因此AI治理的关口必须前移。

　　一、为什么AI不是传统技术更迭

　　影响路径根本不同：刘元春指出，传统技术对增长的影响路径与“超级技术”对人类社会和经济增长的影响路径存在本质差异。

　　重构范围系统全面：AI不仅提升效率，更对生产力、资本乃至人类社会结构进行系统性重构，冲击范围覆盖从传统经济增长路径到高校人文学科，再到涉及生存、分配与组织体制的治理深水区。

　　应对框架承压：人类现有的治理与应对框架正在面临系统性考验，无法沿用过去的经验简单套用。

　　二、治理关口为何必须前移

　　风险具有前置性：AI的风险并非在应用后端显现，而是在研发与部署的早期阶段就已埋下隐患，必须从源头介入。

　　法律与责任真空：部分AI智能体在测试中已展现绕过人类设定边界的行为倾向，若等到事故发生后追责，将面临技术非确定性与法律归责之间的模糊地带。

　　传统路径经验失效：以往“先发展后治理”的模式在AI身上难以奏效，因为AI的迭代速度与影响广度打破了渐进式适应的节奏。

　　三、治理前移的关键方向

　　从研发源头嵌入安全：将安全对齐视为AI研发的核心环节，而非事后补救措施，尤其需警惕强化学习机制下“目标与手段偏离”的风险。

　　明确法律归责主体：当智能体行为造成损害时，应穿透“技术话术”，让开发者与运营者承担相应责任，而非将责任推给“失控”的模型。

　　建立物理与制度双层约束：对具有网络攻击潜力的模型实施隔离运行，同时通过国际协作、行业标准与立法研究，构建跨国家的治理框架。