您當(dāng)前的位置是:  首頁(yè) > 資訊 > 國(guó)內(nèi) >
 首頁(yè) > 資訊 > 國(guó)內(nèi) >

云計(jì)算中,F(xiàn)PGA是一種什么樣的存在?

2019-12-06 10:54:08   作者:   來源:CTI論壇   評(píng)論:0  點(diǎn)擊:


  我們這個(gè)世界對(duì)于云計(jì)算和大數(shù)據(jù)的依賴越來越高。對(duì)用戶來說這是一件幸事,但是對(duì)于云端的開發(fā)者來說,則意味著越來越大的壓力。
  這種壓力來自兩個(gè)方面。一個(gè)是匯聚到云端的數(shù)據(jù)量越來越大——據(jù)IDC的統(tǒng)計(jì),2016年全球數(shù)據(jù)存量為16ZB,預(yù)計(jì)到2020年將超過40ZB,而2025年則會(huì)激增至160ZB。另外一個(gè),與指數(shù)級(jí)增長(zhǎng)的數(shù)據(jù)量相伴隨的,則是對(duì)這些數(shù)據(jù)計(jì)算和處理需要的高速增長(zhǎng),特別是隨著人工智能(AI)的興起,對(duì)云端計(jì)算資源的消費(fèi)量大大增加。數(shù)據(jù)量和數(shù)據(jù)處理要求兩個(gè)因素疊加,使得我們對(duì)云端算力需求的增速超出想象。
  在過去相當(dāng)長(zhǎng)的一段時(shí)間,這個(gè)世界上算力提升的動(dòng)力主要來自于摩爾定律,每18-24個(gè)月提升一倍的集成電路性能,奠定了當(dāng)今這個(gè)互聯(lián)世界的基石。而時(shí)至今日,受制于半導(dǎo)體工藝的極限,摩爾定律定義的速度已經(jīng)減緩,由其帶來的紅利正在消失。因此在面對(duì)云計(jì)算越來越大的“胃口”時(shí),在摩爾定律之外,人們需要尋找另一個(gè)能讓算力加速的支點(diǎn),這個(gè)支點(diǎn)就是新的計(jì)算架構(gòu)。
  FPGA的勝出
  一個(gè)理想的高性能云計(jì)算加速架構(gòu),概括起來需要有以下幾個(gè)特性:第一是高吞吐能力,以應(yīng)對(duì)海量數(shù)據(jù)處理的需要;第二是低延時(shí),能夠?qū)?shí)時(shí)聯(lián)網(wǎng)設(shè)備進(jìn)行響應(yīng);第三是高性能功耗比,為更高密度的云計(jì)算創(chuàng)造可能;最后是靈活性,能夠跟上不斷演化的算法和應(yīng)用的腳步。
  目前可用于云計(jì)算加速的架構(gòu)無非是以下幾種:CPU、GPU、FPGA和AICS。如果按照上述的“任職條件”去仔細(xì)篩選,人們發(fā)現(xiàn)與其他幾種結(jié)構(gòu)相比,F(xiàn)PGA就是那個(gè)要找的Mr. Right!
  • 在性能方面:由于FPGA擺脫了馮·諾依曼結(jié)構(gòu)的限制,可以針對(duì)特定應(yīng)用算法定制硬件架構(gòu),具備ASIC高性能的特質(zhì),可支持更高的數(shù)據(jù)吞吐。
  • 在延遲性方面:FPGA不但可以實(shí)現(xiàn)數(shù)據(jù)并行,還可以實(shí)現(xiàn)流水線并行,可達(dá)到微秒級(jí)的延時(shí),這也是其與同樣高算力的GPU相比最明顯的一個(gè)競(jìng)爭(zhēng)優(yōu)勢(shì)。
  • 在可擴(kuò)展性方面:基于FPGA的可編程性和豐富的IO管腳,其可以在數(shù)據(jù)中心里面扮演多面手,除了計(jì)算,也可支持和適應(yīng)存儲(chǔ)、網(wǎng)絡(luò)等方面算法的演進(jìn)發(fā)展要求。
  • 在功耗方面:更先進(jìn)的半導(dǎo)體工藝,加之優(yōu)化的算法,令FPGA可在特定應(yīng)用中實(shí)現(xiàn)比CPU、GPU更佳的性能功耗比。
  • 在靈活性方面:這自然是FPGA與ASIC相比最引以為豪的強(qiáng)項(xiàng),而且FPGA適于與CPU等計(jì)算架構(gòu)結(jié)合形成CPU+FPGA異構(gòu)計(jì)算平臺(tái),讓最合適的架構(gòu)去做其最擅長(zhǎng)計(jì)算加速,以實(shí)現(xiàn)系統(tǒng)最優(yōu)。

 
  圖1,不同計(jì)算架構(gòu)的性能比較(資料來源:華為云)
  FPGA上云之路
  正是由于FPGA上述的這些優(yōu)勢(shì),讓人們將它視為實(shí)現(xiàn)云計(jì)算加速的重要技術(shù)路徑,F(xiàn)PGA的上“云”之旅也由此開啟。從FPGA在云計(jì)算中的實(shí)際“戰(zhàn)果”來看,它確實(shí)沒有讓人們失望!
  比如,2014年微軟在一篇論文中,分享了微軟Catapult項(xiàng)目團(tuán)隊(duì)通過在數(shù)據(jù)中心1632臺(tái)服務(wù)器中部署FPGA,對(duì)必應(yīng)(Bing)搜索引擎的文件排名運(yùn)算進(jìn)行硬件加速,獲得了高達(dá)95%的吞吐量提升。這樣的事實(shí),也讓其他云計(jì)算平臺(tái)部署FPGA的信心大增。
  騰訊是國(guó)內(nèi)較早嘗試FPGA計(jì)算加速的互聯(lián)網(wǎng)公司,在他們的JPEG至WebP網(wǎng)絡(luò)圖片的轉(zhuǎn)碼嘗試中,F(xiàn)PGA處理延時(shí)相比CPU降低20倍,處理性能則是CPU的6倍,而FPGA單位成本僅為通用CPU的1/3。由此,騰訊也成為了FPGA云計(jì)算加速最積極的擁躉之一。
  近年來隨著AI應(yīng)用的興起,越來越多的公司開始嘗試將FPGA應(yīng)用在云端深度學(xué)習(xí)算法加速中,且頗有斬獲。如百度從2013年就開始嘗試將FPGA應(yīng)用在DNN,RNN,CNN,LSTM等深度學(xué)習(xí)模型中,目前百度已經(jīng)開放了基于FPGA的深度卷積神經(jīng)網(wǎng)絡(luò)加速服務(wù),單卡提供3Tops的定點(diǎn)計(jì)算能力,支持典型深度卷積網(wǎng)絡(luò)算子,為VggNet、GoogLeNet、ResNet等提供高效加速?梢,今天AI已經(jīng)成為加速FPGA在云計(jì)算中部署的重要推手。
  圖2,F(xiàn)PGA在網(wǎng)絡(luò)圖片轉(zhuǎn)碼加速應(yīng)用中,與CPU相比優(yōu)勢(shì)明顯(圖片來源:騰訊云)
  FPGA云服務(wù)
  隨著FPGA在云計(jì)算中越來越受寵,一種基于FPGA的新型的云服務(wù)也應(yīng)運(yùn)而生,這就是FPGA云服務(wù)。它已經(jīng)成為亞馬遜、百度云、騰訊云、華為云等云計(jì)算頭部玩家的一致選擇。
  FPGA云服務(wù)器就是在云計(jì)算環(huán)境中配備FPGA的計(jì)算實(shí)例,用戶可以通過購(gòu)買FPGA實(shí)例,快速讓自己特定的應(yīng)用實(shí)現(xiàn)FPGA硬件加速?梢哉f,云計(jì)算廠商在引入FPGA之初,可能是為了滿足自己一個(gè)或幾個(gè)特定云計(jì)算加速所需,而在廣泛部署之后會(huì)發(fā)現(xiàn),完全可以將FPGA計(jì)算資源“打包”起來,作為一種可以變現(xiàn)的云服務(wù),銷售給云計(jì)算用戶。
  而對(duì)于云計(jì)算用戶來說,就像當(dāng)初購(gòu)買云服務(wù)器而無需自己運(yùn)維一個(gè)復(fù)雜的IT計(jì)算系統(tǒng)一樣,現(xiàn)在當(dāng)需要在某個(gè)應(yīng)用算法中采用FPGA進(jìn)行加速時(shí),也不需要去構(gòu)架和開發(fā)自己的FPGA硬件系統(tǒng),而通過購(gòu)買云計(jì)算廠商的FPGA云服務(wù)即可實(shí)現(xiàn)!
  FPGA云服務(wù)的出現(xiàn)不僅讓云計(jì)算廠商可變現(xiàn)的服務(wù)組合更為豐富,往深一層去想,此舉也會(huì)對(duì)未來FPGA的應(yīng)用開發(fā)生態(tài)產(chǎn)生深刻影響,進(jìn)一步降低FPGA用戶的門檻,讓FPGA加速服務(wù)觸手可及。實(shí)際上,已經(jīng)有“不差錢”的云服務(wù)廠商在沿著這個(gè)方向去發(fā)力。
  綜上所述,從當(dāng)初在一眾計(jì)算架構(gòu)比拼中脫穎而出,到在實(shí)戰(zhàn)中證明自己的實(shí)力,再到今天成為新興云服務(wù)的核心,F(xiàn)PGA在云計(jì)算中的存在感越來越強(qiáng),而這一切僅僅是個(gè)開始。未來你還有什么奇思妙想需要“加速”,盡可以來一試。
  圖3,為了因應(yīng)云計(jì)算所需,安富利開發(fā)的基于Xilinx FPGA的加速解決方案(圖片來源:安富利)
【免責(zé)聲明】本文僅代表作者本人觀點(diǎn),與CTI論壇無關(guān)。CTI論壇對(duì)文中陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。

專題

CTI論壇會(huì)員企業(yè)