最近在读 peter watts 的 echopraxia,本人表示已经被彻底震撼。
主题是一个名为 bicameral order 的组织通过基因工程合神经植入重塑大脑神经结构使成员能够以超乎寻常的速度和效率处理信息。用我的话说就像是让他们的思维模式更接近于 distributed computeing,类似于 hive mind 或量子计算网络。有意识的把成员塑造成极端神经多样性的人类从而维持与 ai 及彼此之间的集体意识。问题在于他们无法解释自己取得的科学突破,却能持续产出被验证,有效,领先几十年的成果。信仰,科学,意识的界限被无情模糊。。。
结果刚刚在机场看到新闻,最近教宗 leo 十四世公开将 ai 视为人类尊严和伦理正义面临的关键挑战,技术可能改变我们对人的理解,呼吁教会积极介入公开讨论,避免人类沦为技术逻辑的附属,我觉得这在某种意义上是对现代理性崇拜的一次提醒。
ai 迅速,正在逼迫各类传统权威机构重新定义自己的边界,甚至重新定义人的概念本身,leo 这些话不像是一次技术宣言,更像是一种危机意识下的伦理干预,值得注意的是他没有否定技术,而是试图重新确立人在技术中的地位和尊严。在这个连自我意识都可能被算法建模的时代,任何试图为“人之所以为人”做边界守卫的努力,哪怕来自于宗教,也比沉默更值得去倾听。
个体与系统,感知与演算,信仰与理性之间的边界正在一丢丢的被现实吞噬,技术不会因为伦理而停止,制度也不会天然具备抗拒利维坦的能力。echopraxia 有句话我印象深刻,to understand god, man must first give up being human. 那么你我是否愿意承认在某些算法面前,保持人类本身就已经是一种选择,而非自然状态??
