作(zuò)為(wèi)當前科(kē)技(jì)巨頭争Ωδ奪超高(gāo)性能(néng)計(jì)算(suàn)領域技(jì)術(shù)的ε (de)制(zhì)高(gāo)點，數(shù)據中心、雲計(j↓₽↑≠ì)算(suàn)和(hé)無人(rén)駕駛代表了(le)超高(gāo)₽↕™₩性能(néng)計(jì)算(suàn)最重要(yào)的↑¥↕ (de)應用(yòng)場(chǎng)景和(hé)'✔♦市(shì)場(chǎng)。在面向民(mín)衆的(de)消費(fèi)端，以智能(néγ≤ng)手機(jī)、智能(néng)汽車(chē)為(wèi)代表的(de)$←¥主流消費(fèi)産品均對(duì)處理(lǐ)ε♣≠器(qì)算(suàn)力的(de)需求、功耗、穩定性和(hé)小(xiǎo)型化φ<λ₹(huà)提出了(le)越來(lái)越高(gāo)的(de)要(y✘∑×ào)求。并且随著(zhe)處理(lǐ)器(qì)處理(lǐ)的(de≠&)信息維度越來(lái)越複雜(zá)，單一(yī)類型和(h∑εé)架構的(de)處理(lǐ)器(qì)已經無法勝任多(duō)線數(shù)據的(d✘ '¥e)處理(lǐ)整合的(de)能(néng≥"§)力。對(duì)于用(yòng)戶來(lái)講既₩ ≥×要(yào)保證算(suàn)力和(hé)性能(néng)，又(yòu)'←要(yào)具備多(duō)類型任務的(de)處理(lǐ)能(φβnéng)力，還(hái)要(yào)控制(φzhì)好(hǎo)功耗和(hé)成本，這(zhè)對(duì)超高(gā&★♦¶o)性能(néng)的(de)異構處理(lǐ)器(qì)提出了(le)∞δ↕γ非常高(gāo)的(de)要(yào)求£δ£∏。能(néng)同時(shí)滿足這(zhè)♠∞φ®些(xiē)複雜(zá)要(yào)求的(de)，隻能(néng)通±♣(tōng)過異構計(jì)算(suàn)& γ架構來(lái)實現(xiàn)。也(yě)就(jiù)是(shì)在®§✔一(yī)個(gè)處理(lǐ)器(qì)系統內(nβ★λ¥èi)，需要(yào)集成如(rú)CPU、GPU、FPGA₩↑©、AI、通(tōng)信總線和(hé)接口等多(duō)種功&±✘能(néng)模塊。異構計(jì)算(suàn)（Heteroge±σγ∞neous Computing）是(shì)指使用(yòng)不(bù)同類型指令集和γ≠(hé)體(tǐ)系架構的(de)計(jì)算(suàn)單元組成的(de)計(jì)算(suàn<←)系統。異構計(jì)算(suàn)是(sh✘ ↓ì)性能(néng)、成本和(hé)功耗均§∏<$衡的(de)技(jì)術(shù)，同時(shí)也(yě)是(shì)讓最适合的(de)專用(≥ yòng)硬件(jiàn)去(qù)做(zuò)最适合的(☆&de)事(shì)如(rú)密集計(jì)算(suàn)或外(wài)設管理(lǐ)等，從≠™(cóng)而達到(dào)性能(néng)和(hé)成本的(de)最優化(huà)。
由于高(gāo)性能(néng)計(jì)算(suàn)領域對(duì)異構計(jì)算(✔¥suàn)的(de)需求非常迫切，近(jì£≈n)年(nián)來(lái)，處理(lǐ)器(qì)行(xíng)業(yè)三大(d ↓à)頭部廠(chǎng)商英特爾、AMD和(hé)英偉達都(d™ōu)在基于自(zì)身(shēn)的(de)技(j φ★ ì)術(shù)積累和(hé)産品優勢的(de)領域不(✔©¥bù)斷擴充技(jì)術(shù)和(hé)産品邊界₩"$，以滿足市(shì)場(chǎng)極其龐大(dà)并且飛(fēi)速發展中下(xià✘λ)遊三大(dà)應用(yòng)場(chǎng)景自(zì)動駕駛、數♠±✔(shù)據中心和(hé)雲計(jì)算(suàn)對(duì)異構處理(lǐ)器("♦qì)的(de)需求。 先說(shuō)GPU王者™∏σε英偉達，英偉達多(duō)年(nián)來(lái)憑借其GPU在AI訓練方面的(de)先天♣φ優勢，在數(shù)據中心的(de)各類AI應用(yòng)方面如(rú)魚 ®得(de)水(shuǐ)。但(dàn)随著(zh™βe)計(jì)算(suàn)任務的(de)多(du∏> ō)元化(huà)需求不(bù)斷延伸，單靠單一(yī)GPU機(j'₩>ī)構還(hái)不(bù)足夠。因此，英偉達一(yī)直在觊觎由→✔英特爾和(hé)AMD統治的(de)CPU市(shì)場(chǎng)以 ↑及和(hé)GPU良好(hǎo)結合的(de)NPU市(shì)場(chǎng)。近(jì• σn)年(nián)來(lái)英偉達為(wèi)™€了(le)擴充産品體(tǐ)系鞏固高(gāo)性能(néngλ↑¥)計(jì)算(suàn)的(de)地(dì)位動作(zuò)頻(pín)頻(pín)，比如♣★✔(rú)近(jìn)期收購(gòu)800億α∏美(měi)金(jīn)收購(gòu)ARM的(de)大(dà)事(shì)件(₹₽>$jiàn)（反壟斷沒有(yǒu)成功）。英特爾與英偉達正相(xiàng)反，其在基于X86架構的(de)非移動級CPU方面具有ש♦(yǒu)絕對(duì)統治力。但(dàn)在✘♥£₹牙膏廠(chǎng)始終在高(gāo)性能(néng)GPU方面落後較多(duō)™ σ，近(jìn)兩年(nián)也(yě)在大(dà)力投入獨立GPU顯卡業(yè)務并收購 ∏₩¥(gòu)以色列無人(rén)駕駛AI芯片巨頭MobileEye，以補齊☆←≥★其在超高(gāo)算(suàn)力芯片方面的(de)短(duǎn)闆。AMD則介于兩者之間(jiān)，CPU和(hé)GPU技(jì)術(shù)和(hé)産品&↑相(xiàng)對(duì)均衡，且随著(€¥ zhe)近(jìn)幾年(nián)技(jì)術(shù)和(hé)産品力的(de)提升，市 <★(shì)占率和(hé)營收打著(zhe)滾地(dì)向上(shàng)升，弄得(♦™∞↔de)英特爾如(rú)坐(zuò)針氈，盡管AMD的(de)業(yè)務$'¶發展非常均衡，AMD并沒有(yǒu)滿足于已經擁有(yǒu)的★∑•(de)良好(hǎo)發展勢頭，要(yào)在CPU和(hé)Ω®©GPU之外(wài)，再開(kāi)辟出一(yī)片全新'₽λ的(de)超級賽道(dào)，将異構計(jì)算(suàn)的(de)性能(néng)發揮到(∏φβdào)極緻。此時(shí)，智能(néng)汽車(chē)、±σ♥自(zì)動駕駛的(de)發展引領著(zhe)這(zhè)些(xiē)超級巨頭的(de)高(g♦ āo)度重視(shì)。汽車(chē)發展的(de)趨勢從☆≠↓γ(cóng)過去(qù)的(de)燃油時(shí)代到(dào)'≈♠£如(rú)今的(de)電(diàn)動時(shí)代再到(dào)未來(lái)的(de)智能÷₹☆α(néng)時(shí)代，這(zhè)離(lí)不(bù)開(kāi)異構計(jì©♥≠£)算(suàn)對(duì)于未來(lái)多(duō)維度、高(gāo)複雜(zá)¶©和(hé)超高(gāo)算(suàn)力的(de)三大(dà)需求。與此同★←時(shí)，異構計(jì)算(suàn)芯片成為(wèi)了(le)行(xλ≠±←íng)業(yè)中絕對(duì)的(de)熱(rè)點。對(duì)于業(yè)界目前最火(huǒ↕≤€)的(de)異構計(jì)算(suàn)芯片，今天跟著(zhe)“瑞見(jiàn)”詳÷→細拆解下(xià)異構計(jì)算(suàn)的(de)技(&ε jì)術(shù)細節、未來(lái)趨勢尤其在在汽車(chē)自(€zì)動駕駛中的(de)應用(yòng)吧(ba)。
什(shén)麽是(shì)異構計(jì)算(suàn)
異構計(jì)算(suàn)“Heterogeneous Computing”€ σ是(shì)一(yī)種特殊的(de)并行(xíng)分(fēn)布式計(δ<<jì)算(suàn)系統。它能(néng)夠經濟有(yǒu)效地(dì)實現(xiàn)高(gāo$♠α)計(jì)算(suàn)能(néng)力，可(kě)擴展性強§←ε，能(néng)夠非常高(gāo)效地(dì)利用(yòng)計(jì)γ♦ 算(suàn)資源。與之相(xiàng)對(du§δ×ì)的(de)概念就(jiù)是(shì)同構計(★®≠§jì)算(suàn)“Homogeneous Computing”，γ±±也(yě)就(jiù)是(shì)為(wèi)大(dà)家(jiā)熟知(↓↕φzhī)的(de)多(duō)核理(lǐ)念。為(wèi)了(le)突γΩ破計(jì)算(suàn)算(suàn)力受制(☆®>←zhì)于功耗的(de)瓶頸，多(duō)核CPU技(jì)術(shù)得(de)到(dào)越來(lái)越多(duō)的(de)應用(←∑εyòng)。強大(dà)的(de)CPU采用σ ™(yòng)越來(lái)越多(duō)的(de)CPU內(nèi)核這(zhè)就(jiù)₩•≤®是(shì)傳統同構計(jì)算(suàn)系統。很(hěn)快(kuài)人(rén)們就(j€∞iù)發現(xiàn)在AI人(rén)工(gōng)智能(néng)和(hé)自(zì)<∏>★動駕駛爆炸式增長(cháng)的(de)計(jì)算(suàn)需求下(xià)，傳統同構計(jì×≥)算(suàn)系統已經無法滿足要(yào)求，GPU、×DSP、FPGA和(hé)ASIC由于特定需求下(xià)高(gāo)效性越來<→(lái)越多(duō)的(de)被應用(yòng)。而異構計(jì)算(suàn)技(jì)術(shù)應運而生(shēng)，像一(yī)個('σgè)大(dà)廚将CPU、GPU、DSP、λ₽♦©FPGA和(hé)ASIC這(zhè)些(xiē)優良<¶§↔食材制(zhì)成一(yī)道(dào)融合各方口味γ•±σ特點的(de)佳肴。
自(zì)動駕駛中的(de)攝像頭視(shì)覺圖像處理(lǐ)的(de)↔®β計(jì)算(suàn)需求為(wèi)例，它分(fēn)為(wèi)圖像獲取、特征抽取、☆βε特征處理(lǐ)、模式識别和(hé)動作(zuò)反饋等Ω ≤步驟。其中對(duì)大(dà)量圖像數(shù)據的(∑&de)高(gāo)速并行(xíng)實時(shí)處理(lǐ₩©)比如(rú)像素處理(lǐ)、圖像金(jīn♦♠)字塔和(hé)梯度檢測等需要(yào)G₩Ω ≥PU和(hé)ISP圖像信号處理(lǐ)器(qì)這(zhè)樣專用₩↑(yòng)內(nèi)核來(lái)高('•≥gāo)速計(jì)算(suàn)。而DSP和✔→π<(hé)專用(yòng)加速器(qì)則偏向卷積或傅裡(lǐ)葉等數(shù)學計(jì)算(suàn)加π±$ 速，CPU更傾向通(tōng)用(yòng)計(jì)算(suàn)和(h±✔♥✔é)複雜(zá)動作(zuò)反饋決策。依托異構計(jì)算(suàn)技(jì)術(sh±©♦ù)能(néng)夠整合這(zhè)些(xiē)不(bù)同架®↓構的(de)內(nèi)核到(dào)單一♠•(yī)芯片中從(cóng)而适配自(zì)動駕駛的(de)複雜(zá)計(jì)算¥(suàn)要(yào)求。
那(nà)麽到(dào)底什(shén)麽樣的(d∑₽€♦e)芯片是(shì)典型的(de)異構計(jì)算(suàn)•♠芯片呢(ne)？蘋果作(zuò)為(wèi)科(kē)技(jì)界的(de)先鋒，在2021款↕©的(de)Mac Book和(hé)IPAD均采用(yòng)了(le)自(zì$ε↑±)研的(de)M1芯片。M1 SoC集成了(le)16核心CPU、DDR4內(nèi)存、IO接口π&σ芯片、T2加密芯片和(hé)雷電(diàn)Thunderbolt接口以及衆多(duō)控∑♣制(zhì)功能(néng)芯片核心。具體(tǐ)包括δ↕"$12個(gè)CPU內(nèi)核、8個(gè)GPU核心和(h±αé)16個(gè)神經網絡加速引擎。并且這(zhè)些(xiē)不(bù)同架構的(de)內'(nèi)核可(kě)以通(tōng)過标準內(nèi)存訪問(wèn)架構UMA進行(xíng)€Ω✘高(gāo)速數(shù)據共享。正是(s>≈>hì)由于異構計(jì)算(suàn)技(jì)術(shù)的(de)應用(yòng ←€•)，才使得(de)衆多(duō)不(bù)同類型的(de)計(jì)算→♦∑♠(suàn)核心可(kě)以高(gāo)效協同。蘋果M1以優異的(de)性能(néng)功耗>♦比開(kāi)創了(le)自(zì)研異構計(jì)算✔"γ (suàn)芯片在筆(bǐ)記本電(diàn)腦(nǎo)市(shì)場(chǎng)商用(yσ←òng)的(de)先河(hé)。異構計(jì)算(suàn)在自(zì)≥± 動駕駛中的(de)叠代特斯拉作(zuò)為(wèi)新能(néng)源電(diàn)動車(chē)頭部車™©σα(chē)企，在無人(rén)駕駛領域多(duō)年(<∑nián)來(lái)一(yī)直深耕。作("≥€πzuò)為(wèi)純視(shì)覺派無人(rén)駕駛的(de)領軍者，特斯拉人(rén)π¶±工(gōng)智能(néng)駕駛輔助系統（ADAS）中最為(wèi)§λ核心的(de)技(jì)術(shù)就(jiù)是(shì)深度學習(xí)引擎D≤≠©∑eep Neural Networks （DNN）。這(zhè¶'★✘)套DNN引擎通(tōng)過各類算(suàn)法的(de)模拟←✘和(hé)積累，通(tōng)過對(duì)攝像頭采集圖像進行(xíng)分(fēφ¥ε"n)層學習(xí)，從(cóng)圖像中可(kě÷γ)以抽取相(xiàng)應的(de)目标位置，基于對(duì)于前方目标辨認π₽标識出的(de)安全空(kōng)間(jiān)完成路(lù)線♠>規劃。通(tōng)過多(duō)次的(de)試錯(cuò)與積累形成最優解，标記算(suàn)法↓≥≠模型的(de)數(shù)據源，再通(tōng)過深度學習(xí)算(¥₹suàn)法不(bù)斷優化(huà)與完善，最終規劃出的(de)最優路(lù)徑。特斯拉無人(rén)駕駛方案叠代至Autopilot3.0代可(kě)以說(shuō)是(shì)自(zì)動駕駛中央計(jì)算(suàn)模≥∏φ塊的(de)裡(lǐ)程碑事(shì)件(jiàn<↔≤€)。因為(wèi)采用(yòng)自(z♣¥★ì)研異構芯片FSD，使得(de)芯片內(nèi)部集成了(le)4個(gè)ARMπ♣₩ A72 CPU核心加1個(gè)GPU和 •(hé)2組神經網絡處理(lǐ)單元NPU。它能(♦₽néng)更高(gāo)速且低(dī)能(néng)耗地(dì)處理(lǐ)1個÷₹σ(gè)毫米波雷達和(hé)8個(gè)攝像頭信号，系統算(suànσ∑)力大(dà)幅提升至244TOPS。這(zhè)其中異構計(jì)算(suàn)架構功不(bù)可(kě)沒。最後我們來(lái)看(kàn)看(kàn)作(zuò)為$≤(wèi)最佳算(suàn)力單元的(de)GP&±↑U王者英偉達
英偉達自(zì)動駕駛異構芯片
作(zuò)為(wèi)通(tōng)用(δ≥₽yòng)圖形處理(lǐ)單元GPU領軍者英偉達，老(lǎo)黃(huáng)早π←♥↑在2014年(nián)就(jiù)意識♥™✔到(dào)對(duì)浮點型數(shù)據具備強大(dà)計(jì)算(su'Ωσ₹àn)能(néng)力的(de)GPU在深度學習(xí)神經網絡DNN的(de)巨大(dà)優勢。在GPU領域絕對(duì)的(de)領先，使得(de)英偉達在自>ε♦(zì)動駕駛領域占盡了(le)優勢。開(kāi)發了(le)基于異構計(jì)算(suàn)架構 領域一(yī)系列的(de)無人(rén)駕駛定制(zhì)SO"♠♥C芯片。比如(rú)小(xiǎo)鵬P7采用(yòng)的(de©$₽€)Xavier芯片算(suàn)力為(wèi)30TOPS，它具♣•有(yǒu)強大(dà)的(de)八核ARM64處理(lǐ)核心λα和(hé)512核Volta GPU，并且能(néng)夠達到(dào) ∏汽車(chē)安全所需要(yào)功能(£δ↑néng)安全ASIL-D（最高(gāo)等→☆£φ級）的(de)級别。相(xiàng)對(duì"☆↔)整車(chē)級别優化(huà)了(le)功耗性能(néng)比。而即将量産的(de)蔚來(lái)ET7配備了(le)ADAM超算(suàn)平台♣₩≥，算(suàn)力達到(dào)1016TOPS。ADAM超算(suàn)平Ω€Ω 台采用(yòng)了(le)4組英偉達最新的(de)Orin♣ φ>自(zì)動駕駛異構計(jì)算(suàn)技(jì)術(s↓&hù)SOC芯片。每組Orin芯片集成了(le)12個(gè)ARM ₽'÷φA76 CPU核心和(hé)算(suàn)力在200TOPS左右的(de)G ™•PU內(nèi)核。
總結
人(rén)類在人(rén)工(gōng)智能(néng)領域的(de)研究已經持↑>γ續了(le)60多(duō)年(nián)δ♣±∑。近(jìn)年(nián)來(lái)随著(zhe)AI下(xià)遊應用☆β<∑(yòng)不(bù)斷呈現(xiàn)出★γ&§的(de)爆發趨勢，AI進入了(le)一(yī)個(gè)新的(de)紀元。這(zhè)不(bù)•Ω 僅歸功于算(suàn)法的(de)改進、龐大(dà)數(shù)據的(de)積累，更重要(yào)"•₹的(de)是(shì)計(jì)算(suàn)能(néng)力的( ₽$de)大(dà)幅提升和(hé)變革。進入2022這(zhè)個(gè)新紀元，數(shù)≈∞據成為(wèi)了(le)每個(gè)企業(yè)的(de)資×∏★☆産和(hé)财富。而在數(shù)據的(de)背後，算(s©$÷uàn)法、算(suàn)力、功耗、成本都(dōu)成為(wèi)制(zhì)約AI≠↓←∑能(néng)否快(kuài)速發展的(de)瓶頸ε$£。随著(zhe)矽基芯片逐漸逼近(jìn)物(wù)理(₽≈→lǐ)的(de)極限以及成本很(hěn)難再大(dà)₩幅下(xià)降，可(kě)以判定的(de)是(shì)摩爾定律已趨ε¶♦近(jìn)失效。在此背景下(xià)使用(yòng)通(tōng)用(y$↓♦♥òng)處理(lǐ)器(qì)來(lái)覆蓋全場(chǎng)景的(de)高(gāo)複βλβδ雜(zá)需求已無法滿足，人(rén)工(gōng)智能(néng)的(de)各種₹♣應用(yòng)不(bù)斷爆發對(duì)高(gāo)計(jì)算(&±suàn)能(néng)力和(hé)複雜(zá)任務≠₽并行(xíng)處理(lǐ)以及功耗等提出需求。因此，具有(yǒu)GPU、ASIC、FPGA或其它加速器(q<"ì)（Accelerator）等高(gāo)并行(xíng)、高(gāo)密集的(←♣ de)計(jì)算(suàn)能(néng)力的(d$₩e)異構計(jì)算(suàn)持續火(huǒ)熱(rè)，而異構計(jα↑ì)算(suàn)也(yě)将成為(wèi)支撐先進和(hé)以後更複雜(zá)AI ≥Ω★×應用(yòng)的(de)必然的(de)選擇。
