【AI100问(116)】 机器人攻击人类离我们还有多远？

我们先看一小段视频。图2

目前，这条视频的播放量已经超过8千万次。是不是挺吓人的？机器人受不了人的骚扰，奋起反抗了。幸运的是，这只是通过各种AI特效技术生成的假视频。虽然这些特效的逼真程度也很让人不安，但机器攻击人类的那一天总算还没有到来。

然而，联合国安理会利比亚专家组发布的一则报告却让人很难松一口气。报告称，2020年3月在利比亚发生了一起无人机攻击人类事件。 这台称为Kargu-2 的四足无人机由土耳其STM公司生产，可以依靠人工智能技术自动识别人体目标，不需要人类指令即可对目标发起攻击。这是历史第一次机器攻击人类的事件[3]。

图3.Kargu-2无人机

人们把这种不需人为指令即可自动攻击人类目标的机器称为杀伤性自动武器（LAW），或形象地称为杀手机器人（Killer Robot）。像地雷、水雷以及防御导弹系统都符合“自动攻击“的特点，只不过这些系统都是防御性的，不会主动出击，危害不大。近年来，随着人工智能技术的进步，越来越多主动攻击的AI武器开始出现。除了前面提到的土耳其无人机，其它的如美国海上猎人号无人反潜舰[4]，韩国的 Super aEgis II 自动机枪[1]，英国的迷你无人机和自动作战机器人。美国海军甚至宣布要建设无人值守的全自动“幽灵”舰队[2]。

2015年，霍金等1000多位学者签署公开信，对AI武器可能带来的后果提出警告。2017年，马斯克等116位社会名流再次上书联合国要求禁止AI武器。遗憾的是，直到今天，主要国家依然没有达成一致。目前看来，我们根本不用担心机器自我觉醒攻击人类那一天，因为在此之前机器已经被人类设计成攻击人类自己了。

图4.美国无人反潜舰

图5.Super aEgis II 韩国自动机枪

图6.美国幽灵无人舰队

图7.英国无人作战机器

By：清华大学 王东
#人工智能##ai创造营##AI100问#