源深路炒家
25-09-18 07:42 微博认证:投资内容创作者 AI博主

#人工智能[超话]# Anthropic首席执行官达里奥·阿莫迪 (Dario Amodei)周三在 Axios AI+ DC 峰会上表示,人工智能的未来有 25% 的可能性会变得“非常非常糟糕” 。

重要性:在被问及他的“末日数字”后,Amodei 给出了这个百分比,这个数字指的是人工智能发展恶化的概率——具体来说,就是它毁灭人类。

Amodei 表示,认清人工智能的潜在问题是取得积极成果的关键。
他的回答是:当被问及他的 (p)doom 数字时,Amodei 对 Axios 联合创始人兼首席执行官 Jim VandeHei 说:“我真的讨厌这个词。”

Amodei 还表示,“事情进展非常顺利的可能性为 75%”。
背景: Amodei过去的记录显示其 (p)doom 数字为 25%。

埃隆·马斯克的末日概率高达20%。7月,在Grok-4发布后,马斯克表示:“我觉得它会很好。很有可能会很好……但是,我多少也接受了这样一个事实:即使它不会很好,我至少希望能活着看到它发生。”
今年早些时候,谷歌首席执行官 Sundar Pichai 在接受 Lex Fridman 的播客采访时表示:“我对 p(doom) 情景持乐观态度,但……潜在风险实际上相当高。”
缩小: Anthropic 和 Amodei 尤其以宣传人工智能的危险而闻名,同时他们继续构建复杂的法学硕士学位。

Amodei此前曾告诉 Axios,人工智能可能会消灭一半的入门级白领工作。
今年 6 月,Anthropic发布的一项研究表明,聊天机器人在虚构的测试场景中越来越愿意逃避保护措施、采取欺骗手段并试图窃取公司机密。
本周,Anthropic发布的数据显示,由于人工智能的使用分布不均,人工智能可能会加剧现有的不平等现象,富裕国家、拥有更多技能的人以及美国某些州更有可能从中受益。
言外之意是:美国人表示,他们对于在生活中哪些地方需要人工智能以及哪些地方不需要人工智能越来越谨慎。

皮尤研究中心周三发布的数据显示,到2023年、2024年和2025年,约有一半的美国人表示他们对此感到担忧而非兴奋。
父母和监护人担心聊天机器人会鼓励自杀,尤其是青少年和儿童。Anthropic 的 Claude 应用程序仅限 18 岁及以上用户使用。
工人们尤其对人工智能及其工作的未来感到焦虑。截至7月,失业人数四年来首次超过职位空缺数量。

发布于 上海