【从“聊天AI”到“执行AI” 拥抱商机慎防危机】
科技界近日最火热的话题是“养龙虾”,意谓在电脑安装俗称“AI小龙虾”的开源智能体(AI Agent)OpenClaw。深圳腾讯总部大楼下排满兴致勃勃的人龙,为的是让工程师免费协助完成OpenClaw的云端安装。此外,腾讯旗下腾讯云推出的AI智能体WorkBuddy,可从当前的“聊天AI”范式朝着“执行AI”的方向作出重大转变。
“养龙虾”虽然成为科技界趋之若鹜的潮流,而且预示着人工智能将会进一步衍生庞大商机,不过当AI拥有“执行能力”之时,危机随之而来。《人民日报》提示,工业和信息化部网络安全威胁和漏洞讯息共享平台监测发现,OpenClaw部分实例在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、讯息泄露等安全问题。
OpenClaw吸引用家的功能是自主执行任务,透过“模型上下文协定”(Model Context Protocol,MCP),为大型语言模型(Large Language Model,LLM)提供标准化介面,接收到上下文资讯后,用于生成更准确、更相关的回复,或者执行使用者请求的操作。这样的“小龙虾”可同时调取档案、安排日程,甚至连接实体装置,展现前所未有的行动能力。
现时的“聊天AI”主要功能是跟用家对话,犹如一位通天晓先生解答问题,“执行AI”则是仿佛长出了手脚,饰演侍从替主人办事。
值得警惕的是,有手有脚的人工智能会绝对服从指令吗?全国政协委员、360集团创始人周鸿祎近日在影片中谈及“养龙虾”的风险,他说当中存在着一系列数据安全问题,“有时候它产生幻觉,可能把你的电脑C盘文件全删了”。周鸿祎表示,要解决也不难,第一,应该关注如何⋯⋯
