36氪
26-07-13 18:59 微博认证:36氪官方微博

那是一个简陋,但是中国大模型行业不该忘记的晚间聚会。

时年22岁的曾国洋简单支了张桌子,放了个电脑,展示了一个打字机一样的网页——打几个字,按Tab键,它就能自动往后补内容,不断吐出略显奇怪的内容情节。这个“打字机”背后,是中国第一个大语言模型CPM-1。

那是2020年,大模型的前传时代。GPT-3出现了,但只引起了曾国洋这样一小撮AI研究者的注意。曾国洋发现,和之前AI训练主流路线BERT不一样,GPT-3“不是理解,而是生成。生成模型让我们看到了一个无法想象的上限。”曾国洋第一时间就想在国内也做一个。于是,在智源研究院的支持下,曾国洋作为核心工程负责人,负责训练框架、算力调度、模型落地,最终有了这个能展示“打字机”的夜晚;再之后,才又有了更大尺寸的盘古、悟道模型项目。详情请阅读: http://t.cn/AXKMegPg