在一份写在2020年的报告中，警告了人工智能可能带来的安全威胁，包括人工智能带来的社会安全问题与人工智能本身的安全问题，这份报告来自于联合国与欧洲刑警组织还有著名的杀毒公司趋势科技，可以说很有代表性。

在人工智能的时代，2020年就好像是上个世纪的事情，因为2020年压根没有人能够预测GPT时代的到来以及人工智能对于人类生活改变的深入程度，但是正是因为这份报告来自于前人工智能时代，现在回过头来看这份报告中提出的警告，才不得不承认其中的真知灼见。

其中那些警告，不仅在发生，而且在深度影响当今的世界，无论是政治、经济还是社会。

在我们评估一个事物好坏的时候，典型的价值取向是站在人的利益角度上的，无论是更加宏大的人类的福祉，还是更加具体的个人的利益。但是从很多具体事物本身而言，其好坏的关键在于人拿它在做什么。一个事物或者工具的能力越强，那么它被拿来做恶产生的危害越大。同样会对人产生伤害，一把小刀与核武器能够产生的伤害天差地别，正是因为这种差异，所以对小刀基本不用什么管控，但是核武器却需要严格管理。

人工智能具备核武器级别的社会冲击力，但是其管控能力，并不会比一把小刀更严格。

不久前Anthropic推迟了其大模型的发布，其中一个原因是它太过强大，如果被拿来为恶，可能突破现有的诸多安全防范机制。模型公司被要求加入更多的安全防范机制，确保它不能被恶意使用。

但是我认为，所有的防范机制，都是有限的无法彻底阻挡人工智能滥用的。这背后的核心原因之一，就是即便是设计者本身，虽然知道总体的原理，但是并不知道人工智能发挥作用的具体的每个细节的机制。

就好像我们虽然知道大脑是如何运行的，但是并没有办法确定通过什么技术手段就可以让每一个人都行善。

而利用人工智能这个强大工具的能力去做之前无法做到事情的诱惑，又是那么强大，比如报告中提到的深度伪造，已经不再是想象。我们对于世界的认知来自于我们接收到的信息，当我们接收到的信息真假难辨的时候，当每个人都开始质疑所有信息的时候，这个世界的发展绝对不是向更好的方向。

更不要说人工智能还会被诱导协助完成更加危险的事情。

实际上跑的太快的人工智能，已经把很多东西甩在了身后，比如伦理、比如安全，但是它实在是太有诱惑力，以至于没有什么人真的愿意停下来等待，或者即便口头在说，也不会真的付诸行动。

人类历史告诉我们，只有真的发生了极端严重的破坏性的事件，才会迫使人类停下脚步重新审视，前提条件是这种极端破坏是可以被修复的。

所以我们只能期待，下一次发生的足够让所有人震动与惊醒并且愿意采取行动的事件，不要太严重，而且最好发生在“别处”。