50人傷亡或10億損失才叫停？Anthropic提AI草案惹監管爭議

「當監管規則由被監管者親手繪製，安全邊界究竟是在保護公眾，還是在保護巨頭？」

50 人死亡或重傷，或者高達 10 億美元的財產損失！

這是 AI 巨頭 Anthropic 私下向美國國會議員遞交的 AI 安全法案草案中，為美國政府尋求阻止前沿 AI 模型發布或使用所設定的法定觸發門檻。

這份由《Politico》揭露的私下遊說草案，迅速在華府政壇與科技界引發了巨大的「監管俘虜」（Regulatory Capture）疑慮。

作為目前市場上最重要的前沿大模型開發商之一，Anthropic 試圖透過立法主導規則，將政府叫停 AI 的權力牢牢鎖死在極端場景之中。

從自律框架到國會角力：監管主導權的爭奪戰

隨著前沿 AI 模型與自主 Agent 在網路世界的滲透率暴增，如何界定模型風險以及政府應擁有多少裁量權，已成為全球監管機構的重中之重。

Anthropic 發言人證實，該草案內容衍生自公司自 6 月起向聯邦與州政府官員宣導的 Advanced AI Framework（先進 AI 框架）。

隨著眾議院推進前沿法案（FRONTIER Act）、參議院跨黨派協商相繼展開，Anthropic 選擇此時主動出擊，顯然是為了在國會最終立法前搶佔話語權。

市場高度關注的是，這份草案若被採納，將可能從根本上削弱監管機構對高風險大模型的預防性干預能力。

核心數據拆解：極端損害門檻與 72 小時通報條款

把這份草案披露的所有關鍵條款與門檻重新整理，背後的設計邏輯清晰可見。

在干預條件方面，政府要求叫停模型的損失門檻高達 10 億美元，或導致超過 50 人死亡/重傷，且風險嚴格限制於生物武器、模型逃脫控制及網路攻擊三類。這意味著一般的經濟秩序干擾、大規模假訊息或智慧財產權侵權，均無法直接觸發政府的叫停機制。

在評估機制方面，模型須接受獨立評估，若發現迫在眉睫的特定重大風險，須在完成評估後 72 小時內向美國商务部通報。這說明草案保留了預警機制，但給予了開發商極短的緩衝處置時間。

在行政權限限縮方面，商務部收到通報後，無權直接中止模型，必須向華盛頓特區聯邦地方法院法官提出請求，由法官裁決。這直接剝奪了其他聯邦部門與機構單方面下令叫停模型開發或部署的行政權力。

在合規費用方面，第三方評估機構由 AI 公司自行支付報酬，儘管規定報酬不得與評估結果掛鉤。這項條款讓外界質疑其能否真正實現獨立客觀的監督。

利益博弈焦點：州法覆蓋與「球員兼裁判」疑慮

看到這裡很多人會問：科技公司自己起草法案管自己，究竟在盤算什麼？

市場關注的是，這份草案還埋下了兩大深層的利益爭議點。

首先，草案計畫直接排除部分州級 AI 法規，包含風險公開、第三方評估及重大事故通報機制。科技業團體固然渴望統一的聯邦標準以降低合規成本，但民主黨人士擔心這會直接去閹割加州、紐約州等地既有的嚴格監管措施。

其次，由 AI 企業自己掏錢僱用第三方評估機構，即使名義上禁止報酬與評估結果掛鉤，依然難逃「球員兼裁判」的利益衝突拷問。

對於散戶公眾與中小開發者而言，這種高門檻且排除州法的聯邦框架，或許會形成巨頭壟斷下的安全護城河。

媒體評論：比門檻數字更重要的，是監管權力的移轉

說實話，大家真正值得關注的，其實不是 50 人或者 10 億美元這兩個冷冰冰的數字。

而是科技巨頭正在試圖透過司法程序（要求必須經由地方法院法官裁決），把行政機關的即時風險干預權徹底抽空。

這種將政府權力限縮在「事後救火」角色上的立法設計，反映出前沿 AI 廠商在面對未知技術風險時，依然把商業部署的順暢度放在安全監管之上。

結論

Anthropic 提交的這份草案，為美國國會的 AI 安全監管提供了一份極具爭議的範本。

这件事真正说明了，在前沿技術急速迭代的當下，科技巨頭與監管機構之間關於「誰握有煞車閥」的權力博弈已全面白熱化。

未來市場將繼續觀察，這份草案中的超高干預門檻與付費評估機制，能否在國會跨黨派協商及各州權益的拉扯中獲得支持。

FAQ

• Q1：Anthropic 提出的草案中，政府在什麼情況下才能阻止 AI 模型發布？
  • A1：草案規定只有當 AI 模型存在可預見且迫在眉睫的重大風險，可能造成超過 10 億美元損失，或導致超過 50 人死亡或重傷時，政府才能向聯邦法院申請阻止發布，且風險僅限生物武器、模型逃脫控制及網攻。
• Q2：這份 AI 安全法案草案對第三方評估機制有哪些規定與爭議？
  • A2：草案要求模型須定期由向商務部登記的獨立人員評估，且費用由 AI 公司支付，但報酬不得與結果掛鉤。爭議點在於由企業出資可能引發「球員兼裁判」的獨立性疑慮。
• Q3：草案對於美國各州的 AI 監管法律會產生什麼影響？
  • A3：草案擬排除部分州級 AI 規範（如風險公開、評估及事故通報）。雖然科技業支持建立統一的聯邦標準以降低營運成本，但部分議員擔憂這會削弱加州、紐約州等地方既有的安全監管力度。