当AI开始自己造AI
如果过程中被喂了“毒”数据，如果监督不到位，那累计叠加会怎么样？会不会在复用自身生成文本、代码、实验结果作为下一代训练素材的时候，有毒数据会在闭环里无限循环增殖：错误输出→混入训练集→训练出更失真模型→产出更多错误内容，形成恶性循环，不会自动过滤、纠错，只会持续恶化。
发布于 上海
软萌的两小只_
当AI开始自己造AI
如果过程中被喂了“毒”数据，如果监督不到位，那累计叠加会怎么样？会不会在复用自身生成文本、代码、实验结果作为下一代训练素材的时候，有毒数据会在闭环里无限循环增殖：错误输出→混入训练集→训练出更失真模型→产出更多错误内容，形成恶性循环，不会自动过滤、纠错，只会持续恶化。