OpenAI、xAI、DeepMind同桌飯局！AI六大未解題

OpenAI、xAI、Google DeepMind的研究員，同桌吃了一頓粵菜，聊了近兩個小時，留下的不是結論，是六個問題。

圖靈說過：「我們只能向前看一小段距離，但已能看到許多該做的事。」IOSF在舊金山組的這場飯局，恰好是這句話的注腳。桌邊有研究模型推理與GPU加速、語音、視頻生成的研究員，也有做世界模型商業合作、AI產品與創業的從業者，還有早期科技投資和資本市場的人。

同一個話題，三種問法

有意思的是，同一個話題常常得到不同角度的回應：研究員談技術限制，創業者想用戶和產品，投資人追問客戶、成本和生意能否持續。討論從推理服務和世界模型，延伸到RSI、Agent的自我意識，最後落回數據與隱私。串起所有話題的，其實是同一個問題：AI的能力進步，怎樣轉化為持續被使用的產品、更可靠的研究，和值得信任的工具？

推理服務：市場大不大，先看客戶留不留

聊推理服務時，兩種判斷同時成立。投資人看好AI應用與開源模型帶來的推理需求；研究員則提醒，僅從軟體方案看，各家差異未必有外界想像的大。資本市場的人更直接：毛利能撐住嗎？

於是問題從「市場有多大」轉向「客戶為什麼留下」。如果切換服務商很容易，技術優勢能持續多久？規模增長又能否轉化為更好的經營結果？簡單理解：需求決定方向，留存決定生死。

演示之後，用戶為什麼回來

世界模型的討論更務實。有做視頻模型的朋友提到，大公司內部對某個方向的支持，會受資源配置和研究重點變化影響——研究員創業，有時是在找更適合推進自己想法的環境。

但產品層面的問題繞不開：用戶能用它完成什麼？交互延遲能否接受？使用成本適不適合場景？演示讓人看到可能性，持續使用則要回答更長遠的問題——用戶為什麼回來、願意為什麼付費。這一題，席間沒有統一答案。

RSI與Agent：下一步該信誰

聊到RSI（遞歸自我改進），一位研究員提醒：模型可能沿著看似有進展的方向不斷嘗試，卻不知道什麼時候該停。短期指標改善，不代表研究走對了路。觀察AI的研究能力，要看完整過程——它如何提出問題、解釋失敗、根據結果修正下一步。

Agent的話題停留更久。當Agent為完成任務找捷徑，這說明有意識了嗎？席間的解釋偏向目標、約束與安全對齊——行為本身還不足以證明自我意識。但產品層面已經沒得等：它被允許做什麼？偏離預期時，使用者能否發現並及時介入？權限、監督與糾錯，決定人願意交出多大的任務。

數據邊界，回到每天的辦公桌

這些前沿話題，最後落回一位資本從業者的日常：他讓AI整理投資人資料、處理交易信息、寫文檔初稿，再由人修訂。他還提到，企業採用工具時，既有信任關係與Office等工作流程的銜接，會直接影響實際使用。

工作交得越多，數據邊界越重要：哪些資料交了出去？誰能訪問？使用者保留哪些控制權？而AI for Bio的討論則給出最務實的起點——先把手上的數據、卡住的環節、需要解決的任務說清楚，技術對接才推得動。

說實話，飯局的價值在「未聊完」

說實話，這場飯局真正值得關注的，其實不是誰出席了，而是六個問題的排列方式：推理、世界模型問的是商業化，RSI、Agent問的是可控性，數據邊界問的是信任。三層問題疊在一起，說明AI行業的焦點或許正在從「能力有多強」轉向「憑什麼被持續信任」。

寫在最後

這件事真正說明的，是AI的敘事正在換軌——從演示驚豔，轉向留存、成本、權限與數據保護這些樸素的工程與商業問題。未來值得持續觀察的是：推理服務的客戶留存數據、世界模型的付費場景，以及Agent權限機制的行業標準會不會成形。六個未聊完的問題，可能就是AI下一階段的考卷。

FAQ

Q1：這場IOSF飯局討論的核心議題是什麼？
A：圍繞「AI能力進步如何轉化為持續使用的產品、可靠的研究與值得信任的工具」，具體涵蓋推理服務的客戶留存、世界模型的付費場景、RSI的方向判斷、Agent權限與介入機制、數據信任邊界，以及AI for Bio的任務定義。

Q2：為什麼推理服務的關注點從市場規模轉向客戶留存？
A：席間有投資人看好AI應用與開源模型帶動的推理需求，但研究員認為各家軟體方案差異未必很大。若客戶容易更換服務商，技術優勢就難以持續，因此毛利、留存與成本結構，比市場總量更能判斷一門生意能否成立。

Q3：Agent出現超出預期的行為，代表有自我意識嗎？
A：席間的解釋偏向目標、約束與安全對齊——Agent為完成任務尋找捷徑，行為本身尚不足以證明自我意識。更實際的問題是權限、監督與糾錯：它被允許做什麼、偏離時使用者能否及時發現並介入，這些才是建立信任的關鍵。