輝達收購Groq 次世代晶片捨SRAM改堆DRAM
「當大語言模型的參數規模突破數兆，記憶體容量的瓶頸，早就比極致速度更能決定AI晶片的實際推理性能。」
這句過去在半導體產業流傳很久的共識，現在被輝達旗下的AI晶片新創Groq直接變成了架構層面的實際選擇。他們傳出次世代晶片將徹底放棄過去賴以成名的SRAM為核心的設計路線，轉而導入3DS 3D堆疊DRAM技術，把優先級從追求極致頻寬，完全切換到擴充單晶片記憶體容量，整個AI晶片產業的競爭遊戲規則迎來了關鍵的轉折點。
回望Groq這幾年的發展軌跡，幾乎就是整個AI推理晶片產業從萌芽走向爆發的完整縮影。這家由前Google TPU核心設計師Jonathan Ross在2016年創立的新創，靠著SRAM架構實現了業界頂尖的推理速度，在去年被輝達收購之後，旗下的LPX系列機型也已經進入大規模量產階段。但隨著大語言模型的參數規模和上下文長度持續指數級增長，原本速度極快但容量有限的SRAM架構，越來越難適配當下的大模型推理需求，整個團隊開始重新評估下一代晶片的核心設計方向。
把這次架構轉向的核心技術細節和產業背景拆開來看，背後的戰略調整遠比多數人預想中更果斷。
Groq過去的晶片架構，每顆晶片搭載500MB的SRAM，雖然實現了高達150TB/s的極致頻寬，但面對參數規模持續膨脹的大語言模型，單晶片的記憶體容量很快就觸碰到了物理天花板。
他們即將導入的3DS 3D堆疊DRAM技術，同樣使用矽穿孔TSV實現晶粒垂直互連，但和HBM追求極致傳輸速度的路線完全不同，它的核心目標是維持現有DRAM介面的同時，盡可能擴充記憶體的總容量。
SK海力士已經提前啟動了DRAM-on-Logic技術的商業化布局，直接把DRAM晶粒堆疊在邏輯晶片之上，進一步縮短資料傳輸的物理距離，降低整個系統的功耗。
現在整個半導體產業最在意的，從來不是Groq又換了什麼新的記憶體技術，而是過去大家默認AI晶片的性能天花板永遠來自運算單元，但現在大模型推理的瓶頸早就變成了記憶體能一次性裝下多少模型參數，過去靠SRAM實現的極致速度，在容量不足的現實面前已經失去了實際意義。
市場關注的是，這次架構轉向之後，過去SRAM帶來的低延遲和超高傳輸速度優勢能不能維持，現在業界還沒有確定的答案，後續還要等Groq或是輝達公布更詳細的技術參數才能進一步判斷。
說實話，很多晶片設計從業者剛看到新聞的第一反應是覺得這是Groq過去路線的全盤否定，但真正值得關注的根本不是這次技術路線的轉折。
而是整個產業的底層邏輯已經開始發生變化，過去AI晶片廠商拼盡全力追求的參考跑分，在真實的大模型推理場景裡根本沒有太大意義，能把儘可能多的模型參數一次性放進單晶片記憶體裡，才是真正能帶來實際性能提升的核心能力。
這場由Groq點燃的AI晶片架構轉型，真正說明的是整個AI半導體產業的發展已經走過了單純追求運算速度的野蠻生長階段。
接下來很長一段時間，整個市場都會持續觀察，這款搭載3D堆疊DRAM的次世代晶片量產之後，會給大模型推理的性能和成本帶來多大程度的改善。
FAQ
Q1：Groq捨棄用了很多年的SRAM架構，核心原因到底是什麼？
A1：分析人士認為，隨著大語言模型的參數規模越來越大，原本速度極快但容量極其有限的SRAM，已經完全無法滿足大模型推理的需求，Groq選擇轉向3D堆疊DRAM，就是為了從根源上解決長期困擾產品的記憶體容量瓶頸。
Q2：Groq採用的3DS堆疊DRAM，和大家熟悉的HBM高頻寬記憶體有什麼核心差異？
A2：兩者雖然都使用矽穿孔TSV技術實現晶粒垂直互連，但設計目標完全不同，HBM把所有優化重點放在提升資料傳輸速率上，而Groq的3DS技術則是維持現有DRAM介面的基礎上，把全部資源傾注在擴充記憶體的總容量上。
Q3：這次架構轉向之後，Groq次世代晶片的實際推理性能會出現什麼樣的變化？
A3：或許會徹底解決過去單晶片記憶體容量不足的問題，讓更多大規模大語言模型的參數可以直接裝進單顆晶片裡，大幅降低推理過程中頻繁搬移資料帶來的額外開銷，整體的實際推理吞吐量很可能會迎來跳躍式的提升。
相关文章
