最近看到说多agent协作不靠谱的言论, 我就问一句, 比如部署时的安全审核, 如果安全审核的prompt混在一堆其他的上下文里更容易遵守呢? 还是让一个agent老老实实守着这一个安全prompt来干活更靠谱?
补充: 原文应该是说多agent聊天, 我觉得这个虽然没那么好做判断, 但道理还是有相通之处, 不同上下文带来的结果是不一样的.
发布于 浙江
tertio
最近看到说多agent协作不靠谱的言论, 我就问一句, 比如部署时的安全审核, 如果安全审核的prompt混在一堆其他的上下文里更容易遵守呢? 还是让一个agent老老实实守着这一个安全prompt来干活更靠谱?
补充: 原文应该是说多agent聊天, 我觉得这个虽然没那么好做判断, 但道理还是有相通之处, 不同上下文带来的结果是不一样的.