其实我虽然天天吵吵本地/ollama/9B/12B模型, 但我深知如果没有2张90系显卡或者M5 Pro 128G以上的内容,以目前的模型能力看,本地模型都不太可用。小的不好用,大的跑不了。
能跑和能用完全是两个概念,特别是现在工具的上下文都爆了。
当然你非说能用,那确实能用,但要非说能用,也不太能用,如用。
发布于 辽宁
其实我虽然天天吵吵本地/ollama/9B/12B模型, 但我深知如果没有2张90系显卡或者M5 Pro 128G以上的内容,以目前的模型能力看,本地模型都不太可用。小的不好用,大的跑不了。
能跑和能用完全是两个概念,特别是现在工具的上下文都爆了。
当然你非说能用,那确实能用,但要非说能用,也不太能用,如用。