#模型时代# Cohere CEO:普通人已难以判断大模型的智能程度。
Cohere 创始人兼CEO 艾丹-戈麦斯(Aidan Gomez)是我很关注的一个AI发言人。因为虽然关于大模型的言论很多,但是大家更喜欢听AGI、Scaling Law,但是对于企业如何在实际经营中使用AI应用的内容并不多,大概这些内容也不够酷吧。不过,模型的大规模投入,最终还是要回到应用的投资回报的。
而Aidan Gomez的身份就适合讲这些方面的内容了,一是因为Cohere是专注于企业AI的,第二Aidan Gomez本人是Transformer论文的共同作者,所以对技术的理解肯定是没问题;最后,这家公司还是人工智能教父辛顿所投资的项目。
在本周油管 "无优先权 "节目中,Aidan Gomez回顾了他在实习期间与他人合作撰写 2017 年开创性论文《Attention is All You Need》的历程,并分享了他建立 Cohere 公司的动机,该公司为企业提供人工智能驱动的语言模型和解决方案。讨论探讨了企业采用人工智能的现状,以及 Aidan 对企业在人工智能工具的构建与购买决策中的建议。
10个主要观点:
***
1. 企业级AI应用的技术基础
Aidan强调:"模型是基础。如果你在建立一个不能满足客户需求的基础上,那就没有希望。"但他同时指出,在企业世界中,客户支持、可靠性、安全性等因素同样关键。Cohere不仅是一个建模组织,更是一个建模与市场推广并重的组织。
2. 企业AI应用的主要痛点与解决方案
现有的一个关键问题是语言模型对提示和数据呈现方式的敏感性。Aidan举例说明:"在RAG系统中,如何向模型呈现检索结果至关重要。数据在数据库中的实际存储方式也很关键。这些小细节往往被人们忽略。"
Cohere采取双管齐下的策略:
* 提升模型的鲁棒性,使其能适应多样的数据呈现方式
* 提供更结构化的产品接口,而不是仅仅提供原始模型
3. 大语言模型的实际应用场景
Aidan分享了几个具体案例:
医疗健康领域: "对于医疗保健公司,他们拥有跨越几十年的纵向健康记录。通常病人来访时,医生只有15分钟时间查看病历。我们的模型可以输入整个病历,结合就诊原因,为医生生成简报,大大提高效率。"
保险行业: "我们与一家保险公司合作,为他们构建研究助手。通过RAG系统接入所有知识源,显著加快了他们对RFP的响应速度,从而赢得更多业务。"
4. 关于模型微调与预训练的深刻见解
Aidan提出了一个渐进式方法: "我们通常建议客户从最便宜、最容易的事情开始——微调,然后向后工作。从微调开始,然后是后训练(SFT、RLHF),如果确实需要,最后才考虑预训练。通常只需要接触预训练的10-20%。"
5. 大模型发展的天花板效应
关于模型能力提升的减缓,Aidan提出了独特的见解: "我们已经进入曲线的平坦部分。在这个阶段,普通人已经无法仅通过交互来判断模型的智能程度。你需要在物理、数学、化学、生物等非常具体的领域请专家来评估这些模型的质量。"
6. 推理能力的突破性进展
"我们现在有了一个新的突破——推理能力。以前的模型没有内部对话,他们不能真正思考。现在的模型可以推理、失败、发现错误、修复并重试。这开启了一个全新的问题解决领域。"
7. 计算资源与商业模式的创新
Aidan提出了一个重要观察: "现在有了第二个杠杆——可以向客户收取更多费用来获得更好的性能。不必等待6-12个月的新训练周期,而是可以通过增加推理时间来提升模型表现。这从根本上改变了我们的商业模式。"
8. 对AI"商品化"的独特视角
"我不认为模型真的在商品化。你看到的是价格倾销——人们免费赠送或亏本提供服务。这是一个不稳定的现状。我们正面临一个为期10-15年的全面技术重构,就像必须重新铺设地球上的每一条道路,而只有极少数公司知道如何制造混凝土。"
9. 专业数据获取的瓶颈
"在某些领域,如生物学和化学,创建训练数据的瓶颈更大。你需要找到在该领域有几十年经验的专家。最终你会用尽专家资源,达到人类认知的前沿。"
10. 对AGI的务实看法
Aidan对AGI持务实态度: "AGI对不同人意味着不同事物。我相信我们会建造出普遍智能的机器,但这不是二元的,而是连续的过程。我们已经走在这条路上了。但我不认同超级智能自我改进会导致终结者式的场景。我们不需要等待某个'神'出现,而是要用我们正在建造的技术去创造丰富。" http://t.cn/A6mzqfxH
发布于 北京
