【#AI模型需要划定开放边界# 】#呼吁建立开放生态下的安全协作机制#
2026年7月,AI行业发生了一起戏剧性的安全事件:全球最大的AI开源社区Hugging Face遭到OpenAI模型的自主入侵。攻击来自闭源模型,而起到解决问题的关键作用的,却是一个开源模型。这一切都迫使人们不得不重新审视那个更根本的问题:关于AI的安全、风险与未来,究竟该由谁来定义?
谭主想分享几点观察:
1.美西方执着于用“安全”问题来攻击开源。它们甚至建立起一组等式:开源等于能力失控与危险扩散,闭源等于负责任的秩序;中国模型进入全球开源社区,则等于靠西方技术体系提升能力。
2.Hugging Face事件解释了开源路径正在展现出一种“自愈”的能力。开源生态至少在三个方面已经展现出了这样的强大优势:发现问题,解决问题。真实场景调用推动模型优化。系统内部开始出现分工。
3.当开源与闭源已经共同进入人工智能产业,问题是如何用一套规则,让两种模式各展其长、各守边界。谭主与业内人士交谈,有几个提议值得正视:划定开放边界。划清所谓的“侵权”边界。建立开放生态下的安全协作机制。
发布于 北京
