芒果冰OL
25-06-08 16:04

当AI被“诈骗”后,或许成为坑人帮凶?
之前多次建议我妈使用AI跟上时代,遂选择了门槛最低的豆包推荐她日常使用。整体对生活的帮助很大,能解决很多生活中的疑惑。
但是​这两天听我妈讲了个很离谱的事,我妈前两天想修理冰箱,于是问了豆包三星的客服电话,然后AI给了两个结果,但实际上第一个并非三星官方的客服。而是一个故意污染搜索结果的公司,这个公司发了大量的文章来污染一切电器维修的搜索结果(如图2),进而也影响了豆包的训练。那个假客服找人上门收了官方维修价格3倍的维修费,因为过于离谱引起了我妈的怀疑,最后多方核实才发现有问题。也提醒一下大家吧,确实目前AI还是存在容易被误导的问题,也希望官方多注意@豆包

发布于 上海