最近Intel與AMD共同發(fā)布完整ACE CPU擴展規(guī)范，這套面向AI運算的全新指令集落地x86架構(gòu)，通過優(yōu)化矩陣乘法實現(xiàn)更高能效與計算密度，大幅降低CPU本地運行AI模型的門檻。

日常AI推理大多依靠GPU完成，但輕量化模型、低延遲任務(wù)或是無獨顯設(shè)備，更適合直接在CPU運行，但傳統(tǒng)AVX10向量指令并非為矩陣運算打造，執(zhí)行AI核心矩陣乘法時功耗高、效率偏低。

ACE基于現(xiàn)有AVX10寄存器拓展，新增專用硬件單元處理矩陣計算，無需重新設(shè)計底層架構(gòu)，廠商適配成本更低。

官方數(shù)據(jù)顯示，同等輸入向量規(guī)模下，ACE計算密度是AVX10的16倍，單條指令可完成更多計算，減少指令調(diào)度開銷，內(nèi)存帶寬利用率同步提升，同時功耗控制更出色，不過16倍計算密度不代表直接16倍提速，最終性能取決于兩家處理器后續(xù)硬件設(shè)計。

該指令集跨廠商通用，開發(fā)者僅需編寫一套代碼，就能適配Intel、AMD全系支持ACE的CPU，不用針對不同AVX版本做多套適配，PyTorch、TensorFlow等主流AI框架均可無縫兼容，數(shù)據(jù)格式覆蓋 INT8、FP8、BF16等AI常用類型，還原生支持OCP MX塊縮放格式，填補AVX10的功能空白。

對于開發(fā)者而言，部分臨時NPU算力需求可轉(zhuǎn)移至CPU處理，無需適配各家規(guī)格不一的 NPU硬件，未來新一代x86處理器將搭載ACE擴展，筆記本、臺式機、服務(wù)器無需依賴獨顯，就能流暢運行各類本地 AI 任務(wù)，進一步拓寬端側(cè)AI落地場景。