照片來源:UC Berkeley
加州大學(xué)教授、Google工程師和RISC先驅(qū)David Patterson說,現(xiàn)在是做一名計算機架構(gòu)師的最好時機。
這是因為摩爾定律時代已經(jīng)結(jié)束了,他說:“如果摩爾定律仍然有效,我們現(xiàn)在就不會比我們應(yīng)該達到的水平落后15倍。我們處在后摩爾定律時代?!?/p>
Patterson對參加上周在圣何塞舉行的2018年@Scale會議的工程師們說,“我們已經(jīng)習以為常的性能擴展速度現(xiàn)在已經(jīng)難以為繼。過去,性能每隔18個月翻一番,在性能每次翻番時,人們就會扔掉那些還運行良好的臺式計算機,因為某個朋友的新電腦要快得多?!?/p>
但在去年,他說,“單個項目的性能只提升了3%,所以要每20年才會翻一番。如果你只是坐在那里等待芯片變得更快,你將不得不等待很長時間。”
對于像Patterson這樣的計算機架構(gòu)師來說,這實際上是個好消息。他指出,這對創(chuàng)新軟件工程師來說也是好消息?!皩樘幚硖囟愋偷挠嬎銌栴}而設(shè)計的革命性的新硬件架構(gòu)和新軟件語言,正在等待著被開發(fā)出來,”他說,“如果有人愿意致力于這些事情,那么圖靈獎就等著他來拿了?!?/p>
Patterson舉了軟件方面的一個例子。他指出,將Python重寫為C可以使性能提高50倍。加上各種優(yōu)化技術(shù),性能提升會更加顯著。他表示,“通過改寫Python,實現(xiàn)1000倍的性能提升也并非天方夜譚?!?/p>
在硬件方面,Patterson認為特定領(lǐng)域架構(gòu)(domain-specific architectures)表現(xiàn)更好,他說:“這不是魔術(shù),那剛好是我們能做的一些事情?!崩?,并非所有的應(yīng)用都要求計算達到相同的精確度水平。他說,對于某些應(yīng)用,你可以使用比常用的IEEE 754標準更低精度的浮點運算。
Patterson說,目前應(yīng)用這樣的新架構(gòu)和新語言的最大機會領(lǐng)域是機器學(xué)習?!叭绻闶亲鲇布?,”他說,“你會想要迫切需要更多電腦的朋友?!睓C器學(xué)習“對計算是貪婪的,我們愛它這一點”。
他說,如今圍繞哪種類型的計算機架構(gòu)最適合機器學(xué)習展開了激烈的爭論,許多公司都下了注。Google有張量處理器(TPU),它每個芯片一個核,使用軟件控制的內(nèi)存而非緩存; Nvidia的GPU有80多個核;而Microsoft正在采用FPGA方法。
他說,Intel“正試圖在所有籃子里下注”,向機器學(xué)習營銷傳統(tǒng)的CPU,收購Altera(向Microsoft提供FPGA的公司),以及收購擁有其專門的神經(jīng)網(wǎng)絡(luò)處理器的Nervana(此處理器類似于Google的TPU)。
Patterson說,除了這些為機器學(xué)習提供不同架構(gòu)的大公司外,至少有45家硬件初創(chuàng)公司正在解決這個問題。他說,最終將由市場決定什么會留下來。
他說:“這是計算機架構(gòu)的黃金時代?!?/p>