英偉達(dá)與亞馬遜正積極推進(jìn)新一代存儲架構(gòu)研發(fā)，該架構(gòu)將允許GPU直接操控SSD等存儲設(shè)備，繞過傳統(tǒng)CPU調(diào)度環(huán)節(jié)。英偉達(dá)計(jì)劃率先在其下一代Vera Rubin AI平臺上導(dǎo)入“GPU發(fā)起直接存儲訪問”(GIDS)技術(shù)。

推動(dòng)這一架構(gòu)變革的核心原因，是現(xiàn)有馮·諾依曼架構(gòu)存在先天性數(shù)據(jù)搬運(yùn)短板：所有數(shù)據(jù)必須經(jīng)由CPU中轉(zhuǎn)、DRAM緩存，才能傳輸至GPU。

這直接導(dǎo)致了CPU線程處理能力與GPU數(shù)萬級并行算力之間的嚴(yán)重錯(cuò)配，該矛盾已成為制約AI推理與訓(xùn)練提速的核心瓶頸。

GIDS技術(shù)的突破性在于，它允許GPU直接向SSD或高速閃存發(fā)出存儲訪問指令，全程繞過CPU與DRAM，徹底剔除中間調(diào)度層級。

為配合GIDS落地，業(yè)界推出高帶寬閃存(HBF)以突破HBM的容量瓶頸，延世大學(xué)宋基煥教授團(tuán)隊(duì)的數(shù)據(jù)顯示，6顆HBF搭配2顆HBM可將GPU存儲從192GB拉升至3120GB，容量暴增逾16倍。

需要指出的是，HBF適合AI推理場景中存儲基本不變的模型參數(shù)，高頻率訓(xùn)練場景仍需仰賴HBM。

產(chǎn)業(yè)布局方面，多方已同步落子。 英偉達(dá)主導(dǎo) GIDS 技術(shù)標(biāo)準(zhǔn)，亞馬遜優(yōu)先落地云端算力集群，微軟、AMD同步布局自研方案，三星發(fā)力Z?NAND閃存搶占硬件市場。