掘金技术社区
25-03-11 11:22 微博认证:掘金技术社区官方微博

今日热点速递[憧憬]
1.OpenAI 发布 CoT 思维链研究成果,监控阻止大模型恶意行为
OpenAI公布最新研究,尝试用CoT(思维链)监控的方式监测推理模型,以阻止AI大模型胡说八道、隐藏意图等不良行为。研究以o3 - mini为被监控对象,GPT - 4o为监控器,在编码任务测试环境下,CoT监控器检测“奖励黑客”行为的召回率达95%,远高于仅监控行为的60% 。

2.字节跳动豆包大模型团队开源MoE架构优化技术,训练成本节省40%
3月10日,字节跳动豆包大模型团队官宣开源针对MoE(混合专家模型)架构的关键优化技术COMET。该技术可将大模型训练效率提升1.7倍,成本节省40%,已应用于万卡集群训练,节省数百万GPU小时算力。

3. 具身智能新时代!VLA迎来最强基础模型Magma:UI导航、机器人操作全能
微软等机构研究人员开发新型多模态基础模型Magma。实验显示,Magma在UI导航和机器人操作等任务上性能超越其他模型,其预训练模型成功率比OpenVLA高19.6%。在空间推理、多模态理解方面表现出色,用约2900万张图像预训练,性能与用15亿张图像的CogVLM相当 。#人工智能[超话]##程序员[超话]##大模型日报##AI##OpenAI##字节跳动##微软#

发布于 北京