2050年，机器智能将取代人类，掌控世界！

美国工程院院士，图灵奖得主Whitfield Diffie在智源大会上扔下一句重话：21世纪最大的问题，不是中美关系，不是核战争，不是全球变暖——是人类和机器的互动问题。

他说，不会有科幻片里的机器暴动。人类会自己，一步一步，把权力交出去。今天让AI写邮件，明天让它做决策，后天让它管公司。每一步都是"帮个忙"，每一步都合理。

等到本世纪中叶，机器掌控了绝大多数事务，你想收回权力——就像想推翻一个不满意的政府一样难。

但Diffie不是来宣判的，他是来敲警钟的。公钥密码学之父，一辈子都在解决"不可能"的问题。1500年前巴格达的Alkindi发现了密码学核心原理，25年前AES和SM4加密标准至今无人攻破——人类在安全领域，从来都是在"不可能"中找到路。

AI安全无法形式化证明？他说，那就让AI自己来证明。形式化验证的难度比预期高1000倍甚至100万倍，人工做不到，但AI也许能。Anthropic已经在用AI找程序漏洞，发布前的安全测试正在被重新定义。

所以，2050年机器掌控世界——这不是宿命，这是选择。权力交出去是温水煮青蛙，收回来是一场硬仗。但人类历史上哪一场真正的仗，不是从"不可能"开始的？

问题不是机器会不会取代我们，而是我们愿不愿意在还来得及的时候，把权限的边界划清楚。

#2026智源大会#