亞馬遜與Meta簽署協(xié)議 推動Graviton芯片的代理式AI應(yīng)用
- 來源:超能網(wǎng)
- 作者:超能網(wǎng)
- 編輯:豆角
亞馬遜AWS宣布,已經(jīng)與Meta簽署協(xié)議,后者將大規(guī)模部署其Graviton定制芯片,標(biāo)志著雙方長期合作關(guān)系的重大擴(kuò)展。
部署初期擁有數(shù)千萬個Graviton核心,隨著Meta的AI能力提升,靈活擴(kuò)展。亞馬遜表示,這份協(xié)議反映了AI基礎(chǔ)設(shè)施構(gòu)建方式的轉(zhuǎn)變:雖然GPU仍是訓(xùn)練大型模型的關(guān)鍵,但代理式AI的興起正在對CPU密集型工作負(fù)載產(chǎn)生巨大需求——實(shí)時(shí)推理、代碼生成、搜索和多步任務(wù)編排。利用Graviton5,賦予了Meta高效且大規(guī)模運(yùn)行的處理能力,以支持其AI任務(wù)。
去年末,亞馬遜推出了Graviton5。其基于Arm架構(gòu)的設(shè)計(jì),擁有192個核心,緩存是上一代產(chǎn)品的五倍,核心間通信延遲降低了最多33%,采用了3nm工藝制造,適用于廣泛的云工作負(fù)載,在保持領(lǐng)先能效的同時(shí),計(jì)算性能比上一代提升了多達(dá)25%,能夠更快地運(yùn)行應(yīng)用程序,降低成本,并實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。此外,Graviton5基于AWS Nitro系統(tǒng)建立的安全體系,全面提升了用戶的數(shù)據(jù)安全。
作為亞馬遜的長期客戶,Meta一直依賴對方高度可擴(kuò)展且安全的云基礎(chǔ)設(shè)施來支持其全球業(yè)務(wù)。隨著行業(yè)對AI計(jì)算需求的增長,底層基礎(chǔ)設(shè)施的效率變得越來越重要——無論是在成本管理還是減少環(huán)境影響方面。


玩家點(diǎn)評 (0人參與,0條評論)
熱門評論
全部評論