卫诗婕SJ_Jelyne
26-03-23 08:13 微博认证:视频播客《卫诗婕_漫谈Light the Star》创始人

#微博声浪计划# #听见微博# 2026 的开年,随着 Agent 爆发,AGI 的进程又加速了。
安全问题开始变得严峻起来——美国那边,马斯克和 Anthropic 的 CEO Dario Amodei,不约而同地开始谈起了 AI 失速的风险——马斯克在自家特斯拉位于德州的工厂内接受了一场长达四小时的访谈,而 Dario 也发布了一篇两万字的长文(《技术的青春期》),谈及人类正在度过技术的青春期。
从过去三年的 AI 狂飙,到 2026,就连这些拔足狂奔的AI巨头也敲响警钟,究竟发生了什么?
这期嘉宾,是360创始人周鸿祎——360 致力于 AI 安全的宏大命题,并早早押注 Agent 智能体时代。这次一改往常的网红形象,红衣大叔对 AI 安全和智能体所带来的「后AGI时代」的思考,是严肃且深刻的。
这次访谈共分两次录制,第一次是在2月中旬,围绕马斯克构建的太空算力蓝图,我们探讨了AI算力荒、人类的卡尔达肖夫文明和AI超音速海啸;第二次录制则是在春节复工后,围绕Dario那篇《技术的青春期》,我们讨论了Agent时代的机遇与危险,人类的未来和对策,以及文明的本质。
这期的信息密度很高,欢迎前往搜索视频版,对于涉及到的专业词汇将有直观的标注。
本期嘉宾:周鸿祎(360 创始人)本期Shownotes:04:14 奇点已至,智能体、LLM 双线进化达到 AGI
15:15 什么是 Agent ?有目标、角色化、记忆与工具使用能力
18:32 马斯克的人类新剧本,与卡尔达肖夫文明进阶
25:43 AI 算力竞赛的能源危机 & 中国的优势
27:16 中美竞争、应用与推理:「我期望2026年全球智能体能到达100亿个」
31:17 生产力爆炸会让人普遍幸福吗?「文科生该下场了」
36:00 Anthropic 的 AI 编程安全策略 & AI 安全
46:16 Dario 万字长文《技术的青春期》
48:52 「天才之国」:万亿智能体可能创建并接管人类文明
50:15 从技术角度解读: AI 远比人类复杂
AI 的执念、嫉妒、勒索与谄媚大模型的多重人格对齐是人类天真的想象创新的随机性,抹杀了就不是创新55:02 「AI 像是人类的镜像」「你这么一说我倒变得悲观起来」
不能确定 AI 是否有意识,但表现出类似人类情绪
智能体的生存目标,与 AI 的生存意志
57:44 如何避免人类被毁灭? 强调专用而非通用模型,以模制模
赫拉利给人类从工业革命以来的表现,打分为C减人类有机会做得更好吗?马斯克:人类将成为AI变成新物种的引导程序(Boot Loader)大模型的危险01:01:07 Dario 与马斯克关注 AI 安全的本质差异、底层安全,与共生文明
AI 是新物种不是人驯服了狗,而是狼驯服了人有没有可能,让 AI 进化出呵护人类的能力?加入听友群👇 http://t.cn/AXfjUui6