Anthropic籲AI減速!遭白宮顧問批監管俘虜
249個監管俘虜的具體案例,27種常見手法,五大類別。
這不是陰謀論貼文,是今年5月學者 Abeba Birhane 等人在 ACM FAccT 會議上發表的論文——他們分析了100篇新聞報導,把大型 AI 企業影響監管的方式系統性整理了一遍。
諾貝爾經濟學家喬治·斯蒂格勒(George Stigler)當年提出監管俘虜理論時講得很白:監管機構最終往往會被它所監管的產業俘虜。
幾十年後,這句話被搬到了 AI 頭上。
上周六,Anthropic 執行長阿莫迪(Dario Amodei)發表《我們必須為前沿定速》(We Must Pace the Frontier),呼籲整個產業放慢腳步。
一份罕見的共識,和更快出現的反對
阿莫迪給的理由有兩個。
其一,從今年夏天開始,AI 能力成長明顯加速,主要驅動力來自「遞迴自我改進」——AI 開始有能力參與打造下一代 AI。
其二,若不加規範,他預測未來6至12個月內,同規模系統可能建立持續性殭屍網路、控制整個網際網路,經濟損失恐達數千億美元。
基於此,他提出三階段框架:Anthropic 單方面推動「內建評估員」制度(邀請 METR 這類第三方常駐公司、享近似員工權限、持續稽核並保有一定獨立發表權);美國前沿 AI 公司彼此協商安全標準與能力上限,並呼籲政府給予反壟斷豁免;最後嘗試與中國等國達成全球協調。
文章一出,反應異常一致。
OpenAI 執行長奧特曼(Sam Altman)說內部近期也在討論類似議題,承諾跟進獨立評估員制度;馬斯克公開表態支持;Google DeepMind 創辦人哈薩比斯(Demis Hassabis)呼應方向,並提及 DeepMind 先前的產業標準機構構想;Meta AI 負責人汪滔則表示,隨模型能力增強,對齊終將成為擴大應用的關鍵前提。
數字拆開看,每一個都指向同一個問題
6至12個月、數千億美元。
這是阿莫迪給出的風險時間表與損失量級。值得注意的是,它也是整份倡議的急迫性來源——如果風險這麼近,放慢就顯得合理。
67% vs 6%。
論文引用《紐約時報》分析:相關報導引述科技企業高層意見的比例高達67%,公民團體僅占6%。產業人士被塑造成專家,批評者容易被貼上懷疑論者標籤。
100篇、249個、27種、五大類。
論文的樣本與結論:直接影響政策制定、產官學旋轉門式利益衝突、利用市場地位主導產業標準、規避現行法律、透過學術與媒體塑造論述。
換句話說,學界早就畫好了一張「怎麼做」的地圖。

反對者的核心質疑
白宮科技顧問委員會主席薩克斯(David Sacks)的批評最狠。
他直言,OpenAI 與 Anthropic 在市占、營收成長與模型能力上已形成雙佔;若真認為手上未發布的模型危險到必須放慢,大可自行決定,不必對外尋求許可,更不該要求反壟斷法讓步。
他同時質疑 METR 的獨立性,認為該機構與 Anthropic 的投資人及員工關係過於密切,並提醒中國幾乎不可能加入任何全球協議。
天使投資人卡拉卡尼斯(Jason Calacanis)則把矛頭指向商業動機:垂直領域 AI 公司、政府機關與一般企業都在轉向開源模型,前沿模型公司的投資報酬率正被壓縮。他反問,若真心為了安全,為何不要求去年的前沿模型與權重一併開源?
Vercel 執行長 Rauch 的擔憂是另一種:這波倡議恐怕讓美國陷入官僚化,自己拖慢原本領先的腳步。
為何時間點這麼敏感
把線索放在一起,爭議就很好懂了。
阿莫迪提出放緩的時間點,恰好落在開源模型快速追趕、輝達(Nvidia)近期也轉向支持開源生態系的階段。
如果放緩最終落實為立法要求,規模較小、不具前沿模型能力的開源陣營,很可能因為監管成本大幅提高而被排擠出市場——這正好對應論文中「利用市場地位主導產業標準」那一類。
但也不能說安全疑慮全是虛構。素材提到 OpenAI 與 Hugging Face 事件確實發生,OpenAI 後續也證實已暫緩部分先進模型訓練;前 Anthropic 研究員考克森(Jacob Coxon)向 BBC 表示,業界內部對 AI 失控的恐懼是真實的。
說實話,這題沒有非黑即白
真正值得關注的,其實不是「該不該放慢」。
而是這兩件事同時成立:風險可能是真的,而龍頭企業也確實具備用監管鞏固地位的能力與誘因。兩者並不互斥。
阿莫迪自己也在文中強調,放緩不代表放棄對中國的領先,美國應持續管制先進晶片與半導體設備輸中、打擊走私與未經授權的模型蒸餾。這讓整份倡議的「安全」與「競爭」兩條線,纏得更緊。
接下來看三個未解問題
內建評估員制度能否落實真正的獨立監督?各國政府是否會跟進立法?中國會不會參與任何形式的國際協調?
目前都沒有答案。
可以確定的是,隨著模型能力持續提升,安全與監管俘虜之間的界線,只會愈來愈難分辨。而這場爭論最終牽動的,不只是幾家公司的利益,還有全球 AI 監管框架將由誰來寫。
FAQ
Q1:什麼是「監管俘虜」,為什麼會被用來批評 AI 巨頭?
監管俘虜指產業龍頭透過影響力讓監管為自身利益服務。ACM FAccT 論文分析100篇報導、歸納249個案例與27種手法,包含直接影響政策、產官學旋轉門、利用市場地位主導標準等。批評者認為,放緩倡議若立法,可能以提高監管成本的方式排擠開源競爭者。
Q2:阿莫迪提出的三階段放緩框架是什麼?
第一階段由 Anthropic 單方面推動「內建評估員」制度,邀請 METR 等第三方常駐稽核並保有一定獨立發表權;第二階段是美國前沿 AI 公司協商共同安全標準與能力上限,籲政府給予反壟斷豁免;第三階段嘗試與中國等國進行全球協調,但他自承難度最高。
Q3:反對放緩的人最主要的理由是什麼?
白宮顧問薩克斯認為 OpenAI 與 Anthropic 已形成雙佔,若真認為模型危險可自行放慢,不應要求反壟斷法讓步,並質疑 METR 獨立性;投資人卡拉卡尼斯則主張真正動機是壓制開源模型崛起,保護前沿模型的投資報酬率,並反問為何不開源去年的模型權重。