贾凡-失落的大蒜
26-06-29 22:21

其实我虽然天天吵吵本地/ollama/9B/12B模型, 但我深知如果没有2张90系显卡或者M5 Pro 128G以上的内容,以目前的模型能力看,本地模型都不太可用。小的不好用,大的跑不了。

能跑和能用完全是两个概念,特别是现在工具的上下文都爆了。

当然你非说能用,那确实能用,但要非说能用,也不太能用,如用。

发布于 辽宁