只是一个突发的想法,或许有人可以创办一家公司来解决这个问题:我观察到一个有趣的趋势,那就是像“Ad Hoc News”这样的内容农场垃圾网站,它们每天都会发布数十条关于特定公司的陈旧/重复的误导性AI新闻,以吸引点击量。但这些内容在AI检索中却被视为“新鲜”且“高度重视”。因此,像Gemini这样的低层次模型(LLM)会引用这些数据,从而受到污染。然后,一些没有技术背景的人,比如大学生,会用AI撰写他们并不了解的内容。这样一来,LLM在训练/检索过程中也会受到污染,导致人们混淆一些错误的技术细节,例如比较连续波DFB激光阵列的单个通道和单个高功率激光器的输出。这样就形成了一个反馈循环:低层次AI的数据被输入到前沿AI中,而模型检索过程也因此受到污染。
发布于 中国香港
