#问答时间#
问:目前,头部实验室针对“不可验证问题”总结出了一套 Recursive Improvement Loop,核心思路是用模型验证模型,再辅以人工筛选。这一路径能跑通的隐性前提在于:1.模型预训练的纯智力越高,在下游具体应用中的微调Sample Efficiency就越高。2. 模型在生产环境中收集边界情况反馈的成本不会指数级上升,且有足够的专家提供反馈以训练Verifier。3. Verification的难度低于Generation. 通过这种套利循环,生成模型最终能逼近验证模型的水平。4. 更好的模型能创造更高的商业收益,从而撬动更大的算力与下游数据投入,去训练纯智力更高的模型。
@王孟源dudu 答:都是合理的嘗試,但仍然沒有跳出“算法細節優化”的範疇,亦即只是不大的量變。質變不一定非得是Paradigm Shift,但依托量變的話就需要巨量,而本世代AI的算力、電力轉換效率都很低,算法細節優化的上限似乎也不高。
2026-05-15
发布于 北京
