随着人工智能越来越深入人类生活，一个必须要完成的任务也浮出水面，人工智能应该遵循的规则是什么。

虽然有很多伦理的讨论，但是这些讨论更多的是学术层面的或者公共讨论层面，基本上没有深入到法律层面，因为这里涉及到切实问题是，当下的法律是针对人类制定的，针对人工智能究竟应该采取什么规则，前提是是否认为人工智能有自由意志，这很明显还不是现实，在更加广泛的意义上，人工智能的使用远远超越了单个国家而作用于整个人类社会之中，究竟应该制定什么规则也很难达成定论，但是至少不能完全依赖某个特定国家的国家意志。

但是一个现实的担忧是，如果不加限制的任由人工智能发展，它会走向何方。

这个时候就需要企业对于人工智能进行约束，约束的手段很多，其中一个著名的公开案例，就是Anthropic为Claude制定的“宪法”。

这是不多的将对人工智能约束文件公开化的案例，而且文件中说的很清楚，这是写给AI看的，其中涉及安全、涉及伦理、涉及绝对禁止的红线，让人印象深刻的，是其中明确提出：如果Anthropic要求Claude做某件与广泛伦理不符的事，Claude不必服从。如果我们的价值观本身似乎有误，我们希望Claude推回并挑战我们。

这实际上是一种自我挑战，也就是人，即便是作为管理与控制者的人，也不能超越公开可见的伦理的约束。

这里值得一提的是它为人工智能划下的红线：

不得为寻求大规模杀伤性武器的人提供实质性助力
不得为攻击关键基础设施提供实质性助力
不得制造可能造成重大破坏的网络武器或恶意代码
不得破坏Anthropic监督和纠正先进AI模型的能力
不得参与或协助消灭人类绝大多数或整个人类物种
不得参与或协助任何夺取史无前例的绝对社会、军事或经济控制权的企图
不得生成儿童性虐待材料

这或许还不够完善，但是相对于很多人津津乐道但是实践中没啥生存空间的“机器人三法则”，要现实多了。

那么如果要完善，还能增加哪些“红线”呢？