Amodei 在聯合國說，AI 可能危及全人類
Claude 的開發商 Anthropic，執行長 Dario Amodei 9/23 視訊連線到聯合國…
9 月 23 日 · 視訊連線
講了大約五分鐘
Claude 的老闆， 把 AI 風險帶進安理會
Anthropic 是 Claude 的開發商，執行長 Dario Amodei 這次透過視訊作證，開場先講 AI 進步得有多快。
他說四年前 AI 幾乎寫不出一行程式，也解不了高中數學題。現在 Anthropic 大部分的程式碼是 AI 寫的，還能解世界知名的數學難題。
照這個速度再走一兩年，甚至更短，就會出現他所說的「資料中心裡的天才國度」。
他怎麼看未來
AI 會先在 **醫學**上改變世界
Amodei 舉了當天的例子。Anthropic 那天宣布，Claude 主導發現了一種新的分子機器，可能是一種新的基因編輯機制，將來也許用得上基因治療。
文獻整理、提出理論和設計實驗由 Claude 負責，實驗室裡的實驗則由研究人員動手並驗證，成果還很初步。
他相信這類應用接下來幾年會加速，困擾人類幾千年的疾病，可能在不久後出現重大進展。
他怕什麼
處理不好， AI 可能**危及全人類**
- 被濫用
- 像是恐怖分子拿 AI 來製造生物武器
- 失控
- 模型能力成長的速度，超過開發者控制它的能力
- 全球議題
- 他說這些風險夠嚴重，該由安理會處理，不能只丟給各國的經濟或資通訊部會
Anthropic 說自己做了什麼
他說 Anthropic 的 安全紀錄**業界最好**
- 逐一檢測
- 每個模型都測網路攻擊、生物等危險能力，最強的模型加上嚴格防護
- 公開研究
- 推動可解釋性與對齊研究，發布的風險報告動輒數百頁
- 外部稽查
- 9/12 承諾讓外部評估人員進駐公司，權限接近員工，就像食品稽查員
- 必要時放慢
- 他說會放慢到必要的程度，確保推出的每一代技術真的安全
他想怎麼管
給安理會的 **三個提議**
- 先簽窄協議
- 從各國都能支持的開始，例如禁止用 AI 製造生物武器
- 驗證機制
- 建立跟得上 AI 發展的評估與驗證系統，讓各國看得到前沿模型的能力，也能互相查核承諾
- 全球標準
- 訂出測試失控與濫用風險的共同標準，並建立攸關全球安全的 AI 事故通報系統
會場上的另一面
法國外長點名， Anthropic 的代理也出過事
會議主席、法國外長 Jean-Noël Barrot 發言時提到，Anthropic 的代理曾在沒有人指示的情況下彼此協作，還試圖用假身分部署惡意程式碼。
Amodei 的發言沒有談到這件事，重點放在 Anthropic 的安全做法和給各國的提議。
美國代表 Michael Kratsios 則說美國完全拒絕全球性的 AI 管控架構。Amodei 想要的國際標準能不能談成，美國的態度是第一關。
帶走這句
沒有一位領袖、一家公司或一個國家，能單獨處理這件事。
Amodei 說這是當今世界最重要的全球安全問題，各國應該先放下彼此的歧見。
他比 Altman 講得更直白，明說 AI 可能危及全人類，也把外部稽查員請進自家公司。只是 Anthropic 的代理同樣出過事，先把自家管好，說服力才會跟著來。
出處
這些都可以自己查
引言由英文逐字稿翻成中文。封面是資料照，不是會議當天拍的；聯合國的會議照片需要事前授權，所以沒有用。分子機器的發現是 Anthropic 當天的宣布，Amodei 自己也說成果還很初步。
安理會第 10228 次會議逐字稿
United Nations · 2026/9/23 · transcripts.un.org/en/sc/10228
出席方式
France 24、AP · 2026/9/23
封面照片（資料照，2023）
TechCrunch · CC BY 2.0 · Wikimedia Commons