张国斌的芯时空
26-06-15 09:51 微博认证:电子创新网CEO 深圳市意创达信息咨询有限公司总经理 张国斌 科技博主

#小米工程师谈某大模型重新出山##大模型如何评比优劣#就我使用体验而言,大模型这种东西不是靠情怀和营销能成功的,大模型不是拼比的参数规模(Parameter Count),而是一个系统工程能力的综合比拼。
主要是三层:模型能力层、工程实现层、生态与商业层。
具体而言是12个指标
一、模型能力层
1)推理能力(Reasoning)--是否具备多步推理能力(Chain-of-Thought)、能否解决复杂逻辑问题(数学、代码、规划)是否稳定(不会“忽然降智”)
2)知识与理解能力(Knowledge & Understanding)-- 包括知识覆盖广度(通识 vs 专业)上下文理解深度(长文本理解)多语言能力等。

3)生成能力(Generation Quality)-文本是否自然、结构清晰-是否有“观点力”和逻辑组织能力是否可控(风格、长度、格式)

4)多模态能力(Multimodal0)图像理解(Vision)、视频理解(Video)语音(ASR/TTS)等。

5)工具使用能力(Agent能力)-是否能调用外部工具(搜索、代码执行、API)、是否能分解任务(Task Planning)、是否具备“闭环执行能力”、这是从“模型”走向“智能体(Agent)”的关键分水岭

二、关键差异:工程实现层(决定“好不好用”)
包括6)推理效率(Inference Efficiency)-延迟(Latency)、吞吐(Throughput)、每token成本($/token))
7)稳定性与幻觉控制(Hallucination)-是否胡编乱造-是否能“承认不知道”、是否有事实一致性(Factuality),企业级应用最看重这一点

8)对齐能力(Alignment)--是否符合人类价值和指令、是否“听话”(Instruction Following)、是否安全(不会输出违规内容)

9)可扩展性(Scalability)--是否支持超长上下文、是否支持并发、是否适合部署(云 / 边缘)

三、胜负手:生态与商业层(决定“能不能赢”)--这一层才是决定谁能成为“平台”的关键。

10)开发者生态(Ecosystem)-API是否易用、是否有插件 / 工具链、是否支持微调(Fine-tuning)
11)数据飞轮(Data Flywheel)、是否有持续数据反馈、是否能快速迭代模型,本质就是谁的数据更“新鲜 + 高质量”

12)成本与商业化能力--推理成本是否足够低、是否能规模化部署、是否有清晰商业模式
这12个指标你一对照就知道优劣了,从目前看,国外大模型的能力明显高于国内的,国内大模型还是要加油,不过当个搜索引擎用比百度要太多了,,,[哈哈]#科技风向标#

发布于 广东