今天刷到有人在卖“律师本地化部署 AI”。律师的钱还是太好赚了。
一台 M2 Ultra 64G Mac Studio,装上开源大模型,再加一个简单UI和几个基础功能,卖三万多。
卖电脑没问题,问题是宣传里各种偷换概念。
“64G统一内存全部可以当显存”,不对。系统、程序和缓存都要占内存。苹果自己介绍64G的 M1 Max 时,给出的GPU工作集也是48G,不是64G。
“4090只有24G,所以不行”,也不对。这个Q8版本约29.5G,确实塞不进4090显存,但换更小的量化版本,或者配合电脑内存,照样能跑。能装下,不等于跑得更快,货车也不会因为车厢大就变成跑车。
Q8放在64G Mac上其实是合理选择,错的是直接宣布“速度和智力都在最佳状态”。
每秒输出多少?处理长文件多慢?合同审查会漏多少风险?法条案例是真是假?有没有真实法律任务的eval测评?有没有发现问题、核验、修改、再输出的完整loop?
这些都没说。
更现实的是,今天装的是Qwen3.5,最新在线模型已经到了3.7。以后更新怎么办?谁重新部署?是否另收费?原来的知识库还能不能用?
如果交付的只是电脑、开源模型、简单UI和几个基础功能,那就明确说卖的是电脑和部署服务。
卖电脑就是卖电脑。
别把一次模型安装,包装成律师行业的技术革命。
发布于 北京
