月之暗面的 Kimi K3 在 7 月 27 日正式开源了。2.8 万亿参数,全球最大的开源模型,免费下载,允许商用。消息一出,很多人第一反应是:太好了,免费的,我下载一个自己跑。
但事情没这么简单。
我们平时说的“开源软件”,比如 Linux、Firefox,下载下来装上就能用,一台几千块的电脑就够了。所以大家听到“开源”两个字,脑子里自动就蹦出来“免费+能用”的画面。可大模型的开源,跟这个完全是两码事。
打个比方。一家米其林三星餐厅,把招牌菜的完整菜谱公开了,配料克数、火候时间、每个步骤都写得清清楚楚。你能照着做吗?看起来能。直到你翻到第一页的厨房要求:需要 64 口专业灶台同时开火,供电要达到一个小型工厂的水平,光买齐这套设备就要花掉近两千万。
菜谱是真免费,厨房是真买不起。
为什么会这样?因为开源软件给你的是源代码,是人写的、人能读懂的图纸。但开源模型给你的是“权重”,你可以把它理解成一颗已经造好的人工大脑,里面是几万亿个数字。这颗大脑本身不值钱,值钱的是让它通电运转起来。而让它跑起来,需要 64 张以上顶级显卡,硬件采购成本超过 1700 万人民币。光显卡满载功耗就接近 45 千瓦,普通家庭入户电力只有 8 到 12 千瓦。就算有人把设备白送到你家,你家的电表和电线也带不动。
所以开源这件事,本质上是把门槛从法律世界搬到了物理世界。以前闭源模型的门槛是别人让不让你用、收你多少钱。现在 K3 把门打开了,但想进门,你得先有一个机房。
这里面藏着一个很反直觉的经济学逻辑。传统软件,开发很贵,但复制和运行几乎不花钱。大模型呢,开发极贵,复制免费,但每一次运行都在真金白银地烧电、烧显卡。免费下载只解决了复制环节,真正昂贵的运行环节,一分钱都省不下来。
实际算一笔账。自己部署 K3 的总成本大概是这样的:首先是硬件采购,官方建议用 64 张以上顶级加速卡组成超节点,按同类硬件估算,光买卡和服务器就要超过 240 万美元,折合人民币 1700 多万。然后是电费,64 张卡满载功耗接近 45 千瓦,一年 365 天 24 小时不停跑,光电费就是几十万。再加上机房租金、网络带宽、散热制冷、运维团队的人力成本,一年下来又是上百万的持续开销。粗略加一下:第一年总投入轻松突破 2000 万人民币,之后每年还要持续烧几百万来维持运转。
而如果你只是用 K3 的 API 呢?一个月几千到几万块,就能顺畅地用上同样的模型能力。这就是"顺利使用“和”绝对拥有"之间的距离。
所以以后再看到“某某大模型开源了”的新闻,别急着兴奋。先问自己一个问题:跑它需要多少电、多少卡?这个问题能帮你一秒看清,这个“免费”到底有多高的门槛。
#科技先锋官##How I AI#
发布于 山东
