微軟、谷歌、Meta和其他大廠創建AI晶片標準組織UALink,期望對抗輝達
原文網址:
https://bit.ly/45a0jhN
原文:
超微、博通、思科、谷歌、惠普企業、英特爾、Meta和微軟正在結合他們的專業知識,創
建一個針對AI晶片技術的開放式產業標準,名為UALink (Ultra Accelerator Link) 推廣
群組。該標準的設立將改善數據中心AI加速器晶片之間的高速和低延遲通訊。
開放式標準將提高整個產業的AI/ML效能,這意味著沒有一家公司能夠不成比例地利用最
新、最好的AI/ML、高效能運算和雲端應用程式的需求。值得注意的是,現今領導者輝達
以及投資Anthropic的亞馬遜並未出現在所謂的UALink 推廣群組中。
UALink推廣組織預計將在2024年第三季建立一個由公司組成的聯盟,負責管理 UALink 標
準的持續開發,並在大約同一時間獲得UALink 1.0的存取權限。更高頻寬的版本預計於
2024年第四季發布。
所謂的UALink是一種連接伺服器中AI加速器晶片的定義方式,以實現它們之間更快、更有
效率的通訊。
AI加速器晶片與GPU、TPU和其他專用AI處理器一樣,是所有AI技術的核心。每一個都可以
同時執行大量複雜的操作;然而,為了實現訓練、運行和優化AI模型所需的高工作負載,
它們需要連接起來。加速器晶片之間的資料傳輸速度愈快,它們存取和處理必要數據的速
度就愈快,並且共享工作負載的效率也愈高。
UALink推廣組織即將發布的第一個標準UALink 1.0將包含多達1,024個GPU AI加速器,分
佈在伺服器中的一個或多個機架上,連接到單一超加速交換器。
在這UALink推廣群組中,谷歌擁有客製化的TPU和Axion處理器;英特爾有Gaudi;微軟擁
有Maia和Cobalt GPU;Meta有MTIA。這些都可以使用博通所提供的UALink進行連接。
這並不是AI領域的第一次此類對抗輝達的動作。2023年12月,超過50家其他組織合作組成
了全球人工智慧聯盟,以促進負責任的開源AI,並幫助防止封閉模型開發人員獲得過多權
力。
這些廠商都希望透過知識共享,幫助且加速全產業範圍內AI效能的進步。AI運算的需求不
斷成長,科技公司要跟上,就需要最好的擴展能力。該組織表示,UALink標準將提供了一
個強大、低延遲和高效的擴展網絡,可以輕鬆地將運算資源添加到單一實例。
總之,這些大廠創建基於開放標準、高效和強大生態系統支援的大規模AI和高效能運算解
決方案的豐富經驗。並期待推進AI技術的各個方面並鞏固開放的AI生態系統。
--