專為AI時代打造,Arm Neoverse CSS引領基礎設施未來

2023-12-2 9:13:00
  • “只有創新才能不斷推動技術的進步”Arm高級副總裁兼基礎設施事業部總經理Mohamed Awad認為,這也是Arm一直秉承的信念。

“只有創新才能不斷推動技術的進步”Arm高級副總裁兼基礎設施事業部總經理Mohamed Awad認為,這也是Arm一直秉承的信念。

Arm Tech Symposia年度技術大會深圳場于11月27日舉行,本次會議以“Arm正在構建計算的未來”為主題,圍繞人工智能、機器學習、物聯網、基礎設施、汽車、終端、移動計算等行業熱點話題進行探討。

多年來,Arm通過創新不斷拓展其計算平臺,產品組合包括Arm 全面計算解決方案(Arm Total Compute Solutions)、Arm Neoverse平臺、Arm Corstone以及SOAFEE等。而在本次會議上,Mohamed Awad向業界詮釋了人工智能(AI)正在發生的一些變化、以及對未來計算基礎設施市場的展望和戰略目標,同時全方位地介紹了Arm Neoverse 計算子系統(CSS)的技術創新點和細節。

專為AI時代打造,Arm Neoverse CSS引領基礎設施未來
圖:全球半導體觀察(攝)

全新系統架構融入基礎設施,加速解決行業痛點

從架構差異上看,“在傳統的服務器系統架構中,左邊是內存,然后內存連接到一個通用的現成CPU,這個CPU又負責管理多個加速器。這樣的傳統架構是過去市場上唯一可用的架構,但這個架構的問題在于,這個通用的現成CPU以及加速器之間的接口直接限制了產品最終的性能水平,因為所有的加速器都必須要通過一個CPU訪問額外的內存,這樣就無法達到內存的一致性,也就意味著加速器的性能無法被充分利用,也就無法很好地支持生成式AI時代的需求?!盡ohamed Awad指出。

專為AI時代打造,Arm Neoverse CSS引領基礎設施未來

而現在出現了一種現代的系統架構,即每一個CPU都可以單獨和一個加速器相連,會有較強的內存一致性。更重要的是,該CPU是一個定制的CPU,跟加速器實現一對一組合后,它的整體鏈路以及數據吞吐率會達到最高,以提高加速器本身的利用水平。

Mohamed Awad指出,在這樣的架構下,設計方可以更好地根據用戶的實際場景和用例進行CPU設計,從而將加速器的使用效率提到最高。只有具體了解最終用例是什么,并且根據你的使用場景針對性地設計CPU,才能獲得更好的效率,才能達到產品最佳的表現性能,從而更好地支持未來基礎設施的市場需求,包括生成式AI。

專為AI時代打造,Arm Neoverse CSS引領基礎設施未來

談及這樣的架構是否會增加連接的復雜,Mohamed Awad強調,這樣的架構可以實現非常多的直連,不管是裸片對裸片的直連,還是SoC的直連,這個架構可以實現內存的一致性,并作為單獨的系統運行,讓性能與效率表現更為優異。

上述描述的架構正是NVIDIA GH200 Grace Hopper超級芯片所使用的架構。在該架構中,搭載了72顆Arm Neoverse核心和來自NVIDIA GPU的組合,其AI性能較基于x86架構的系統可提升10倍。

目前,阿里巴巴、鴻鈞微電子、遇賢微電子、云豹智能以及聯想等企業正與Arm進行深度地合作,通過Arm提供的計算技術平臺從而打造并優化其解決方案,或是將Arm平臺部署到5G應用中。

Mohamed Awad稱,Arm能夠幫助合作伙伴從頭開始、根據所需構建定制化的CPU,幫助他們做好CPU和加速器之間的連接。除此以外,還可以利用Arm強大的軟件生態系統,以賦能整個開發,并加速產品上市進程。這也是Arm的獨特之處。

拉開創新自由度,Arm Neoverse CSS打造定制化基礎設施

Arm Neoverse計算子系統(CSS)是Arm于8月28日宣布推出的驅動定制芯片,面向新一代數據中心和網絡基礎設施。該產品是基于Arm Neoverse N2平臺所開發的Arm Neoverse CSS N2為Arm CSS的第一代產品。

Arm Neoverse CSS N2從每芯片24、32和64個核心設計進行擴展,具有連接DDR5、LPDDR5、PCIe/CXL和其他類型IP的接口。相較于獨立的IP,Arm Neoverse CSS N2將促使Arm生態系統通過更低的成本、更少的風險以及更短的時間,打造出專用芯片。

專為AI時代打造,Arm Neoverse CSS引領基礎設施未來
圖:全球半導體觀察(攝)

Arm表示,通過使用其Neoverse CSS,專用集成電路(ASIC)設計公司可以快速啟動設計項目,并隨時可將其設計方案提供給所需的客戶;IP供應商可以針對NeoverseCSS,進行預先集成、預先驗證和預先優化高級IP;EDA合作伙伴可以無縫支持最先進的工具和流程,以簡化SoC設計;商業固件解決方案可早于芯片流片之前便開始開發;與此同時,Neoverse CSS的設計將經過專門優化,充分發揮領先的工藝節點的優勢。

據悉,在一家合作伙伴的實現中,Arm Neoverse CSS可降低SoC的設計復雜性,并節省了長達80人/年的工程師時間。另據Mohamed Awad透露,根據另外一個客戶的反饋,通過使用Arm Neoverse CSS,助力他們的項目從概念到落實(在超過100個核心的系統上啟動Linux)僅耗時13個月。

近期,微軟發布了基于Arm Neoverse CSS的Microsoft Azure Cobalt 100 CPU。此外,據了解目前也有中國的合作伙伴正在基于Arm Neoverse CSS進行開發。

在Neoverse CSS的基礎之上,Arm還宣布推出Arm全面設計(Arm Total Design)生態項目,進一步結合生態系統的力量,簡化定制芯片的開發流程,使交付變得更加容易、便捷。目前,Arm全面設計進一步提高了Neoverse CSS生態系統中可供合作伙伴使用的可能性,能夠幫助合作伙伴加速他們的解決方案開發。這也就意味著,不管是ASIC設計公司、IP供應商、EDA工具提供商、代工廠和固件開發者,Arm都能進一步支持和幫助他們的產品研發。

值得關注的是,在芯粒(chiplet)領域中,Arm Neoverse CSS具備讓定制芯片更易獲取的特性,可以支持新興的chiplet技術。通過與Arm全面設計生態項目成員和更廣泛的生態系統在AMBA CHIC2C、UCIe和其他計劃上開展合作,Arm正在推動將基本接口和系統架構達成業內一致性,實現圍繞多芯片芯粒SoC設計的創新發展。據Arm指出,一個典型例證是來自Socionext的多核CPU芯粒,其采用Neoverse CSS技術,并基于TSMC 2nm工藝節點進行設計開發,面向服務器CPU、數據中心AI邊緣服務器和5/6G基礎設施提供解決方案。

AI發展勢頭正勁,Arm下一步如何落子?

ChatGPT等生成式AI的大規模商用加速了AI的普及。而人工智能的關鍵在于硬件和軟件的緊密集成,以及性能和計算能力的提升,在當今70%的機器學習工作負載運行在Arm平臺之上。

面對當下的市場和瞬息萬變的新需求,Mohamed Awad稱,對于Arm來說,其閃光點在于始終致力于助力其合作伙伴,通過實驗、設計,以及創新系統架構,進一步推動包括生成式AI等在內的AI的發展。

從基礎設施的角度來講,Mohamed Awad表示,“Arm希望從更加廣義的角度來界定AI。傳統意義上,大家所提到的AI都是服務器當中的AI或生成式AI,但是我們相信,未來當我們在討論AI時,它還可以存在于邊緣,存在于網絡當中,從傳統的數據端,一直到存儲,到服務器,將融入每一個過程當中?!?/p>

針對中國市場而言,Mohamed Awad表示,中國是Arm非常重要的市場之一。來自中國市場的創新也是Arm不斷發展,并在業務上取得成功的原因之一。

Mohamed Awad透露稱,“中國合作伙伴基于Arm架構芯片的總出貨量已累計達300億顆,這個數字確實驚人。也就是說,僅中國市場的出貨量來看,就能平均為地球上的每個人出貨近四顆芯片。目前我們在中國有近400家技術授權客戶,這個數字每個月都在不斷攀升。此外,我們也一直通過與安謀科技合作以進一步助力本土合作伙伴?!?/p>

天堂电影网-最新电影-好看的电影-电视剧在线观看-天堂影视