阿里創新神經網絡硬件架構，論文入選國際頂會ISCA2022

6月23日，國際體系結構領域頂會ISCA 2022剛剛落下帷幕，阿里達摩院在圖神經網絡計算領域的論文被大會收錄，文章開創性地提出了一種全新的硬件架構，可大幅提升圖神經網絡處理效率，降低一半硬件成本。

ISCA、MICRO、HPCA并稱為體系結構領域三大頂級會議，ISCA創辦于1973年，見證了諸多突破性成果的首次亮相，包括谷歌、英特爾、英偉達等企業在半導體領域的多項技術創新。官方信息顯示，ISCA論文錄取率常年低于20%。近兩年，阿里巴巴已有多個成果在該會議亮相，是ISCA歷史上論文入選最多的中國企業。

本次入選的達摩院論文，致力于解決圖神經網絡硬件的問題。圖神經網絡是人工智能領域的熱門技術之一，可應用于蛋白質結構預測、分子制藥、推薦系統、金融風控等領域。大規模圖神經網絡的處理，對存儲規模、通信時延的要求更高，如果僅靠傳統硬件處理，效率低下。

在該論文中，達摩院提出了一種新的硬件架構，可硬件卸載遠端內存訪問，提升并行度、減小延時。該架構以玄鐵906處理器為控制核心，并輔以本地訪存加速器Access Engine（AxE）以及遠端訪存加速器Memory-Over-Fabric（MoF）。該硬件系統高效地分擔了傳統CPU的部分任務，大幅減小訪存延時，并增加了帶寬利用率。

達摩院基于此架構實現了單機四卡FPGA的原型系統，并通過AliGraph軟件部署到云端，根據測試，相比購買CPU服務，使用該原型系統的云上FPGA性價比提升約 2倍。

達摩院研究人員表示：“大規模圖神經網絡的應用越來越廣闊，但業界主流加速方案多數仍局限于圖數據量較小的場景，我們研發的硬件架構可有效解決大規模分布式圖神經網絡的硬件瓶頸。”

據介紹，2020年，阿里巴巴三篇論文入選ISCA，創造國內企業紀錄，相關論文研究包括玄鐵910處理器、存算一體芯片以及AI硬件基準測試等。