东北大学de丁老师
26-08-20 18:18 微博认证:东北大学 教师 校园博主 超话主持人(东北大学de丁老师超话) 头条文章作者

#校园v计划##我的微博日常##带你涨知识##大学生喜爱内容共创计划#
【#AI开始报警抓人了#AI对话隐私边界在哪里,如何防范误判误伤】
AI对话的隐私边界到底在哪里,又该如何防范审核误判误伤,这起ChatGPT举报案件,把这个难题摆到了所有人面前。

原则上,普通日常聊天、情绪吐槽、脑洞幻想,应当受到隐私保护。但一旦出现具体、可落地的严重暴力犯罪实施计划,平台就触发安全上报义务,这就是现实当中的边界。
但难点就在于,人会有愤怒下的情绪宣泄,也会写小说、剧本进行虚构创作,这些并不是真的要去犯罪。机器很容易把幻想创作和真实预谋混为一谈,就容易出现误判。

想要减少误伤,不能只靠AI自动识别。首先要强化人工复核,不能让算法直接决定上报;其次做好语境识别,区分文学创作、情绪发泄和真实作案方案;同时,平台应当明确告知用户审核规则。

安全预警固然重要,但不能以无底线牺牲用户表达隐私作为代价。如何平衡公共安全与个体隐私,是AI时代绕不开的伦理考题。

发布于 辽宁