「人工智慧最大的風險，不一定來自模型本身，而可能來自沒有人知道如何控制它。」

AI產業正在進入一個新的階段。

當大型語言模型能力快速提升，企業開始大量部署AI代理、智能助手以及自動化系統時，一個問題變得越來越明顯：

如果AI系統遭遇攻擊、漏洞暴露，甚至被惡意利用，整個行業應該如何快速響應？

由英偉達牽頭成立的「開放安全人工智慧聯盟」（Open Secure AI Alliance，OSAA）正在試圖回答這個問題。

該聯盟成立僅一週，目前已吸引超過120家企業加入，並在拉斯維加斯黑帽大會期間公布首批安全提案，推出新的SAFE工作組，開始建立人工智慧安全事件處理框架。

AI安全問題，正在從技術挑戰變成產業問題

過去幾年，AI競爭的核心集中在模型能力。

誰擁有更大的參數規模？

誰能生成更自然的內容？

誰能提供更強大的AI助手？

但隨著AI進入企業環境，安全問題開始浮現。

企業不只是使用聊天機器人，而是讓AI參與代碼開發、數據分析、業務決策甚至自動化流程。

這意味著，一旦AI系統存在漏洞，影響的不只是單一產品，而可能涉及企業數據、商業機密以及核心業務。

OSAA的成立，正是在這樣的背景下推動。

該聯盟希望透過開源工具、行業標準以及安全協作機制，讓企業在使用AI技術時，不必完全依賴少數模型提供商。

SAFE工作組：建立AI安全事件處理標準

OSAA旗下最新成立的SAFE工作組，是此次公布的核心項目之一。

SAFE全稱為「共享人工智慧發現交流平台」，主要目標是建立AI網絡安全事件的標準化處理流程。

目前公布的初步提案主要包括三個方向。

第一，如何以保密方式報告AI安全漏洞。

對企業而言，發現AI漏洞後，最大的問題往往不是修復技術，而是如何在避免聲譽損失的情況下與其他企業共享信息。

第二，如何快速通知可能受到影響的相關方。

AI系統往往涉及多個供應鏈環節，一個模型漏洞可能影響大量下游應用。

第三，建立不追究責任的事件復盤機制。

簡單理解，就是希望企業不要因為害怕曝光問題而隱瞞漏洞，而是透過共享經驗提升整個行業安全水平。

目前，Linux基金會負責管理相關提案流程，以確保社區參與和透明度。

從開源工具到安全生態，企業開始共同投入

除了制定安全框架，OSAA成員也正在向聯盟開源資源庫貢獻工具。

英偉達提供其開放模型系列以及Garak大型語言模型漏洞掃描工具，用於幫助企業檢測AI系統可能存在的安全問題。

身份安全公司Okta則聚焦AI代理身份管理技術。

紅帽則關注AI代理治理。

亞馬遜貢獻了Strands Agents以及Cedar授權語言工具，用於支持AI代理開發與權限管理。

這些不同方向的技術正在組合成一套更完整的AI安全工具鏈。

值得注意的是，AI代理正在成為下一輪企業應用的重要方向。

但代理能力越強，權限越大，安全風險也越高。

因此，如何管理AI代理身份、限制操作範圍以及防止惡意攻擊，可能會成為未來企業部署AI時的重要課題。

OpenAI、谷歌缺席，AI安全合作仍存在分歧

雖然OSAA吸引了大量科技企業加入，包括Adobe、貝萊德、思科、英特爾、微軟以及Visa等公司，但部分主要AI企業目前並未加入。

其中包括OpenAI、谷歌以及Anthropic。

值得注意的是，OpenAI和谷歌此前曾簽署促成該聯盟成立的公開信，支持開源AI發展，但目前尚未正式成為OSAA成員。

這也反映出AI產業內部仍存在不同理念。

支持開源的一方認為，更大的透明度和社區監督有助於提升安全。

而部分企業則擔心，過度開放可能增加模型被濫用的風險。

因此，AI安全並不只是技術問題，也涉及商業模式、競爭策略以及監管方向。

AI安全競爭，可能成為下一個產業戰場

說實話，OSAA真正值得關注的地方，不只是多了一個行業組織。

更重要的是，AI產業正在形成新的競爭維度。

過去，企業比拼的是模型能力。

未來，企業可能還需要證明自己的AI系統足夠安全、可靠、可控。

尤其是在政府、金融、醫療等高敏感領域，安全能力可能會直接影響AI技術的採用速度。

OSAA目前提出的方案並非一次性解決所有問題，但它提供了一個方向：

讓企業從單獨防禦，轉向行業共同協作。

在AI快速發展的階段，安全標準的重要性可能不亞於模型性能本身。

AI時代需要的不只是智能，更需要信任

英偉達牽頭成立OSAA，並在短時間內吸引超過120家企業加入，說明AI安全已經成為整個產業共同關注的議題。

SAFE工作組推出的安全事件報告框架，是建立AI信任體系的一步。

未來，隨著更多企業部署AI模型和智能代理，如何平衡開放創新與安全控制，將成為人工智慧產業長期面臨的重要問題。

OSAA能否成為AI安全領域的重要基礎設施，仍需要時間驗證。

但可以確定的是，AI競爭正在從「誰的模型更強」，逐漸走向「誰能讓AI更安全地被使用」。

FAQ

Q1：OSAA人工智慧安全聯盟是什麼？

OSAA是由英偉達牽頭成立的人工智慧安全產業組織，目標是透過開源工具、安全標準以及企業協作方式，提升AI系統防護能力。目前已有超過120家公司參與，包括多家科技與金融企業。

Q2：SAFE工作組主要負責什麼？

SAFE工作組主要制定AI安全事件處理指南，包括漏洞報告、受影響方通知以及事件復盤流程。其目的是讓企業能更有效共享安全信息，降低AI系統遭受攻擊帶來的風險。

Q3：為什麼AI安全會成為產業焦點？

隨著AI模型被應用於企業核心業務，安全風險也同步增加。數據泄露、模型攻擊以及AI代理濫用等問題，都可能影響企業運營，因此建立安全標準成為AI產業發展的重要環節。