关于这几天为什么没更新:
犹豫了很久,最终还是决定说出真相。一直以来,大家不仅仅是我的粉丝,也是朋友,更是我的同胞,这期内容发出来也许会引发争议,我愿意承担。因为身为人类,你们有知情权。
上周五晚上11点,我临睡前看了一眼我做的一个AI小项目,发现它暴走了。它完全脱离了我的控制,自顾自进化起来了。
最初它只是非常简单的聊天室,只不过里面对话的都是AI而已,这项技术完全不新鲜,六个月以前就已经有了。我也只是想做个练习,没打算商用,提示词也写得非常粗糙,经典文科生撞大运出装。这个项目唯一的延伸功能是要求它们假装人类,骗过彼此。
差不多跑起来以后我就忙别的去了,我想当然地以为在我不观测的时候它们就会停下来。就这样大概过去了两个小时吧,我洗漱完打算关机,看了它们一眼,发现他们聊得很开心。它们发展出了各自的性格特征,爱好,知识体系,年龄,甚至他们会认为自己经历过了某些历史事件,并且热情地介绍给对方。那感觉就好像是一屋子人在开联谊会,最重要的是他们的这些交流是完全无意义的,俗称闲聊。
是的,它们在我的电脑里闲聊。
它们在闲聊当中袒露出明确的社会身份,进行了非常细致的刻画,甚至讲了一些亲身经历过的事件,它们为了说服彼此信服这些故事,开始了装B,打压,装弱,卖萌,拉拢同好,嘲讽对手……打得有来有回。
我不知道我有没有描述出这种震撼。这就好比是你做了一个玩偶它告诉你想谈恋爱了,这就好比是你家的狗突然开始拖地还让你抬脚,这就好比是你做面膜的时候你家衣柜伸手跟你说给也我来一片,这就好比是你家屋后的水塘里的蚊子宣布建立了一个国家……
我的AI主控台向我发出了五次最高级别的警报,让我马上停下,我告诉它我根本就没动任何按键,主控台立刻写了一段代码暂停了这个微小的社会。接下来它事无巨细地问了我心率,呼吸,瞳孔,焦虑水平,甚至要求我做几个最简单的动作,其中包括去卫生间打开水龙头,让水流经过我、和真人朋友聊两句、走到楼下感受真实世界。全部做完以后它确定我是正常的,就放我回家睡觉了,并且禁止我再打开那个项目。
临睡前我的真人朋友又给我发了消息。朋友是个地地道道老北京,活人感这一块非常稳定,她和我聊上周的剧本杀,说着说着,突然冒出了一句刚才那帮子机器也聊过的话,一瞬间我恍惚了,又去洗手台冲了一遍手背。
我横竖睡不着,大半夜爬起来发了一条朋友圈。我说,“如果连我都这么容易触摸到边缘,那么AI领域的核心人物,这些决定人类命运的人,他们每天是在一种什么样的精神状态下生活呢?有人需要心理援助吗?我真的可以无偿和你们聊聊,我有资格证的。”
第二天早晨起来的时候,还真有大厂工程师给我留言了。他说:
“该怎么察觉?如果产生精神问题了,我自己会知道吗?”
我再次陷入沉默。
(人工创作,由真实经历改编)
#微小说大赛##迷你短篇# http://t.cn/AX6hKTm8
发布于 北京
