中国青年报
26-07-03 11:30 微博认证:《中国青年报》法人微博

#谁来保证喂给AI的数据是干净的#【数据攻防战里的矛与盾】在北京科技职业大学的课堂里,人工智能技术系教师庞文博给学生举过一个极朴素的例子:在区分苹果和梨的二元分类任务中,如果不小心在苹果的数据集里混入了梨的图片,模型就会混淆。#我的书桌我的国#

比起苹果和梨,他叮嘱学生对医疗大模型的数据投喂要加以谨慎。因为比起效率,医疗临床对数据准确率的要求“更为苛刻”。

“大模型的训练过程,就像从小到大培养一个孩子。”庞文博对中青报·中青网记者解释,“一张白纸一样的孩子,我们教给它什么,它就学到什么。”

这句来自人工智能大模型教学一线从业者的话,恰好戳中了AI时代的一个现象:人工智能正以前所未有的速度嵌入我们的医疗诊断、信息检索、日常决策乃至社会认知,当数据本身被污染,AI给出的每一个“客观答案”,都可能存在认知偏差。

谁来保证喂给AI的数据是干净的?带着这个疑问,记者开启了这场追问。http://t.cn/AXoVgpWb