把超級 AI 延到 2040 年的計畫

去年寫〈AI 2027〉的團隊，由前 OpenAI 研究員 Daniel Kokotajlo 帶頭，花了一年寫出 90 頁的新情境〈AI 2040: Plan A〉。

他們說得很白，這是 他們覺得應該發生的事，不是他們預期會發生的事。

故事裡 AI 在 2028 年變成美國大選最大的議題，2029 年美中決定坐下來談，第一步是 兩國同時暫停訓練新模型，現有的 AI 照常用，機房裝上對方派人驗過的查核設備。

第一個設計是 AI 研究全部公開。每家公司怎麼訓練模型大家都看得到，誰做了危險的事，對手和外部查核的人會先跳出來。好點子藏不住，也就沒必要拚命搶跑。

第二個設計更狠。中國的新機房蓋在加拿大，美國的蓋在蒙古，美軍守在機房邊，解放軍就在邊界另一側。協議一破裂，雙方會先 把自己的晶片毀掉，免得落到對方手上。作者把這叫做互相保證摧毀算力。

各國約定機器人和晶片的產量，每年最多只能變成前一年的四倍，美國把額度拿出來拍賣，2032 年一年就收到好幾十兆美元。

其中一大塊變成 公民紅利，每個美國成年人都有一份。2032 年每人一年 4.5 萬美元，2035 年變成 大約 100 萬，美國以外的人也分得到，只是少很多。

這些金額都用 2025 年的幣值算，作者也承認數字出自他們自己沒把握的經濟模型。

作者說大多數 AI 政策提案經不起一個問題，就是真的做下去之後會發生什麼事。所以他們把自己的方案一年一年寫出來，讓大家挑毛病。

他們在最後呼籲，政治人物應該去敲 AI 公司的門，要一份跟 Plan A 一樣詳細的計畫，說清楚從現在到超級智慧，誰來做、什麼時候做、出錯了怎麼辦。