企业级 AI 落地最让人头疼的就是上下文限制,几万个 token 的窗口面对几百页的文档、数百万行的代码库或者是长周期的智能体工作流,根本不够用。SubQ 发布的 Snap 解决的就是这个问题。作为首个长上下文决策模型,它是专门为了帮企业解决真实场景下的复杂工作而设计。
传统大模型在上下文变长时计算量会呈指数级上升,而 Snap 采用了二次稀疏注意力机制,做到了即便上下文增加,每个 token 的计算量也保持恒定。这让它的多模态上下文达到了 384K,足足是同类模型 Jev 的 12 倍。在实际企业基准测试中,它在 16 个测试里赢下了 13 个,决策能力非常可靠。
更关键的是,它把处理速度和成本压到了极低的水平。处理 100K 的数据并给出决策只需要不到一秒,就算拉满到 384K 上下文也只要 2.5 秒。百万输入 token 的价格只要 0.05 美元,而且输出完全免费,这对于需要高频调用、吞吐大量数据的企业智能体来说,直接扫清了成本障碍。
过去我们习惯让大语言模型包揽一切,但实际上,把繁重的数据密集型任务和结构化决策分拆出来才是更合理的方案。Snap 负责处理文档纠错、合规审查或时序推理等重活,大语言模型则专注于开放性的流程控制。这种技术栈的变革,会让未来的 AI 智能体真正变得好用且便宜。目前 SubQ 官网已经开放体验,前一万名注册用户还能拿到一亿个免费输入 token,有需求的团队可以去试水了。
#AI智能体##决策模型##企业AI落地# http://t.cn/AXlehEq7
发布于 上海
