在近日舉行的re:Invent 2020 CEO主題大會(huì)上,AWS ec2/instance-types/habana-gaudi/" target="_self">宣布 了采用多達(dá)8個(gè)Habana? Gaudi? 加速器的EC2實(shí)例,比目前GPU的EC2實(shí)例在機(jī)器學(xué)習(xí)性價(jià)比上提升了40%1,基于Gaudi? 的EC2實(shí)例計(jì)劃于2021年上半年提供使用。
在主題大會(huì)上,AWS首席執(zhí)行官Andy Jassy強(qiáng)調(diào)了各行業(yè)對(duì)高性能、更實(shí)惠的人工智能工作的巨大需求。隨著公司計(jì)劃引入以Gaudi為特色的新EC2實(shí)例進(jìn)行深度學(xué)習(xí)訓(xùn)練,AWS將進(jìn)一步降低AI數(shù)據(jù)集的訓(xùn)練成本,并降低希望利用AI提供業(yè)務(wù)分析、改善效率和增強(qiáng)用戶體驗(yàn)的客戶的運(yùn)營(yíng)總成本。
8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓(xùn)練ResNet-50模型。每個(gè)Gaudi處理器集成了32GB的HBM2內(nèi)存,并集成了用于服務(wù)器內(nèi)部處理器互聯(lián)的RoCE功能。憑借AWS彈性架構(gòu)適配器(EFA)的技術(shù)可以跨服務(wù)器擴(kuò)展,從而允許AWS及其客戶無縫地?cái)U(kuò)展使用多個(gè)基于Gaudi的系統(tǒng)以實(shí)現(xiàn)高效和可擴(kuò)展的分布式訓(xùn)練。
Habana的SynapseAI軟件套件專為在Habana Gaudi處理器上提供高性能的深度學(xué)習(xí)訓(xùn)練,SynapseAI與TensorFlow和Pythorch等流行的深度學(xué)習(xí)框架集成,對(duì)Gaudi進(jìn)行了優(yōu)化。開發(fā)人員將可以獲取開放的Gaudi軟件、參考模型和文檔。參考模型將在Habana的GitHub知識(shí)庫(kù)中公開發(fā)布,并將包括各種流行的模型,如圖像分類、對(duì)象檢測(cè)、自然語(yǔ)言處理和推薦系統(tǒng)。SynapseAI軟件套件包括Habana的圖形編譯器和實(shí)時(shí)Tensor Processor Core (TPC)內(nèi)核庫(kù)、固件和驅(qū)動(dòng)程序,以及用于定制內(nèi)核開發(fā)的TPC SDK和SynapseAI Profiler等開發(fā)工具。有關(guān)在Gaudi上使用新的AWS EC2實(shí)例的更多信息,請(qǐng)參閱我們的白皮書。
Habana將在目前Gaudi效能基礎(chǔ)上,推出下一代TSMC 7nm 的Gaudi2?,讓AI訓(xùn)練應(yīng)用和服務(wù)廣大客戶、數(shù)據(jù)科學(xué)家和研究人員。
了解更多Gaudi AI訓(xùn)練的優(yōu)勢(shì),歡迎訪問EC2實(shí)例 網(wǎng)頁(yè),以及Habana?AI訓(xùn)練介紹。
1該性價(jià)比>由AWS根據(jù)AWS內(nèi)部測(cè)試給出。 Habana? Labs不控制或?qū)徍说谌綌?shù)據(jù);您的成本和結(jié)果可能會(huì)有所不同。
Gaudi?性能基于8個(gè)Gaudi?處理器的服務(wù)器,HLS-1和0.11版本的SynapseAI軟件套件。
關(guān)于英特爾
英特爾(NASDAQ: INTC)作為行業(yè)引領(lǐng)者,創(chuàng)造改變世界的技術(shù),推動(dòng)全球進(jìn)步并讓生活豐富多彩。在摩爾定律的啟迪下,我們不斷致力于推進(jìn)半導(dǎo)體設(shè)計(jì)與制造,幫助我們的客戶應(yīng)對(duì)最重大的挑戰(zhàn)。通過將智能融入云、網(wǎng)絡(luò)、邊緣和各種計(jì)算設(shè)備,我們釋放數(shù)據(jù)潛能,助力商業(yè)和社會(huì)變得更美好。如需了解英特爾創(chuàng)新的更多信息,請(qǐng)?jiān)L問英特爾中國(guó)新聞中心newsroom.intel.cn 以及官方網(wǎng)站 intel.cn 。