平頭哥出道一年了

作者：王海李娜

【換言之越來越重要的位置，對(duì)于中小AI芯片廠(chǎng)商來(lái)說(shuō)，也許芯片行業(yè)的“血雨腥風(fēng)”才只是個(gè)開(kāi)始共同學習，尤其是在云計(jì)算領(lǐng)域順滑地配合，這是一場(chǎng)涉及資本與人才的全球化較量。現(xiàn)在來(lái)看效高，這場(chǎng)豪賭只屬于大玩家前沿技術。】

2021年云棲大會(huì)期間性能，阿里巴巴公布成立一家獨(dú)立運(yùn)營(yíng)的芯片公司——“平頭哥半導(dǎo)體有限公司”多種方式。一年過(guò)去，阿里的芯片戰(zhàn)略進(jìn)展如何技術創新？

9月25日深入交流研討，阿里巴巴集團(tuán)首席技術(shù)官兼阿里云智能總裁張建鋒發(fā)布了阿里的首款A(yù)I芯片含光800，該芯片是一款云端AI芯片廣泛應用，屬于A(yíng)I推理芯片關註度。含光800主要應(yīng)用于視覺(jué)場(chǎng)景，已經(jīng)在阿里巴巴集團(tuán)內(nèi)多個(gè)場(chǎng)景大規(guī)模應(yīng)用組合運用，其他企業(yè)可以通過(guò)阿里云獲得含光NPU的算力更讓我明白了。

張建鋒表示，平頭哥用大概一年半的時(shí)間實(shí)現(xiàn)了含光800從設(shè)計(jì)到商用積極。

依托阿里資源

作為一個(gè)長(zhǎng)周期的行業(yè)探索，要想加速芯片的商用，在硬件和軟件方面都需要有很強(qiáng)的實(shí)力產業，尤其是在A(yíng)I時(shí)代滿意度，軟硬一體化的重要性更加突顯。

芯片廠(chǎng)商面臨著技術(shù)路徑的選擇：CPU雖然能解決單次復(fù)雜問(wèn)題可持續，但無(wú)法支撐深度學(xué)習(xí)的大規(guī)模并行計(jì)算需求模樣。GPU很初隨著圖像處理需求出現(xiàn)，處理大量數(shù)據(jù)并行運(yùn)算、浮點(diǎn)運(yùn)算的能力迎合了深度學(xué)習(xí)的需求很重要，相比CPU處理速度更快能力和水平、功耗更低，因此被很先引入深度學(xué)習(xí)異常狀況。FPGA可以通過(guò)FPGA配置文件來(lái)定義這些門(mén)電路及存儲(chǔ)器間的連線(xiàn)研究，從而實(shí)現(xiàn)特定的功能，并且可以通過(guò)配置特定的文件將FPGA轉(zhuǎn)變?yōu)椴煌奶幚砥鲬脛撔?。雖然有可以多次更改的優(yōu)勢(shì)提高，但是在A(yíng)I芯片的進(jìn)展上不算快。ASIC則是為了特定應(yīng)用而設(shè)計(jì)的集成電路的特性，除了不能擴(kuò)展以外交流，在功耗、可靠性提供堅實支撐、體積方面都有優(yōu)勢(shì)還不大，在云端和終端上擠滿(mǎn)了一眾蓄勢(shì)待發(fā)的AI廠(chǎng)商。

相比之下簡單化，含光800性能突破得益于軟硬件的協(xié)同創(chuàng)新力度，芯片架構(gòu)方面，含光800采用創(chuàng)新的架構(gòu)系統性，針對(duì)深度學(xué)習(xí)中使用的大量權(quán)重參數(shù)和張量數(shù)據(jù)勇探新路，在支持稀疏壓縮與量化處理的基礎(chǔ)上，通過(guò)獨(dú)特設(shè)計(jì)的數(shù)據(jù)訪(fǎng)存與流水線(xiàn)處理技術(shù)傳遞，大大減低了I/O需求和數(shù)據(jù)的搬移試驗。NPU同時(shí)深度優(yōu)化了卷積、向量計(jì)算和各種激活函數(shù)開展攻關合作，通過(guò)更有效的硬件資源調(diào)度和全并行的數(shù)據(jù)流處理製度保障，提升了AI運(yùn)算的性能和能效。

平頭哥借力于阿里在軟硬件方面的積累的有效手段。算法方面統籌推進，阿里巴巴達(dá)摩院機(jī)器智能實(shí)驗(yàn)室過(guò)去兩年構(gòu)建了完整的算法體系，涵蓋語(yǔ)音智能關鍵技術、語(yǔ)言技術(shù)了解情況、機(jī)器視覺(jué)、決策智能等方向取得了一定進展，并且取得多個(gè)世界領(lǐng)先水平的成果完善好；硬件方面，阿里巴巴此前已在服務(wù)器積極參與、FPGA以及存儲(chǔ)等領(lǐng)域擁有多年研發(fā)經(jīng)驗(yàn)問題分析，此外培養，平頭哥團(tuán)隊(duì)在體系結(jié)構(gòu)、編譯技術(shù)等領(lǐng)域擁有深厚的技術(shù)儲(chǔ)備更加完善。

其中形式，性能的提升必須解決內(nèi)存墻問(wèn)題。所謂的內(nèi)存墻支撐作用，是指采用馮諾依曼結(jié)構(gòu)的處理器信息，存儲(chǔ)和運(yùn)算處理分離，當(dāng)進(jìn)行深度神經(jīng)網(wǎng)絡(luò)處理時(shí)大力發展，算力得到了提升，但大量讀寫(xiě)運(yùn)行操作會(huì)受到帶寬限制生產效率，芯片的整體性能提升也同時(shí)受到限制產能提升。

平頭哥的做法是通過(guò)自研架構(gòu)大幅減少對(duì)內(nèi)存的訪(fǎng)問(wèn)，在保證性能的情況下節點，把芯片功耗降到很低水平通過活化。具體而言，含光800會(huì)根據(jù)神經(jīng)網(wǎng)絡(luò)推理運(yùn)算特征的特點，設(shè)計(jì)特定的硬件健康發展、高速連接的存儲(chǔ)結(jié)構(gòu)以及專(zhuān)用指令集，對(duì)內(nèi)存和計(jì)算單元實(shí)現(xiàn)高效組織治理大數據，實(shí)現(xiàn)單條指令完成多個(gè)操作長效機製，提高計(jì)算效率和內(nèi)存訪(fǎng)問(wèn)效率。

目前數字技術，含光800已應(yīng)用于阿里巴巴集團(tuán)內(nèi)多個(gè)場(chǎng)景奮戰不懈，例如視頻圖像識(shí)別/分類(lèi)/搜索、城市大腦等措施，未來(lái)還可應(yīng)用于醫(yī)療影像大大縮短、自動(dòng)駕駛等領(lǐng)域。

比如緊密相關，拍立淘是手機(jī)淘寶上用圖片搜索商品的一個(gè)功能更默契了，拍立淘商品庫(kù)天天新增10億商品圖片，為了讓用戶(hù)快速?gòu)暮Ａ繄D片中精準(zhǔn)搜索到商品服務體系，需要強(qiáng)大的計(jì)算力支撐說服力，使用含光800搜索效率可提升12倍，時(shí)間從傳統(tǒng)通用GPU的1小時(shí)縮減至5分鐘問題。

“含光800芯片的設(shè)計(jì)逐漸顯現、封裝、測(cè)試等環(huán)節(jié)已完成系統穩定性，流片一次通過(guò)拓展基地，現(xiàn)在在跟業(yè)務(wù)方做適配、驗(yàn)證的過(guò)程，預(yù)計(jì)今年年底可以完成主要業(yè)務(wù)方適配體系流動性、驗(yàn)證的過(guò)程探索創新。”9月25日實現了超越，阿里巴巴平頭哥半導(dǎo)體公司研究員驕旸告訴第一財(cái)經(jīng)記者新產品，雖然取得了一些成績(jī)，但要達(dá)到英偉達(dá)的水平還有一段很長(zhǎng)的路要走橋梁作用。

含光800是一款云端AI芯片長遠所需，后續(xù)會(huì)做PC、手機(jī)端上的芯片讓人糾結，用IP的形式去賦能客戶(hù)規模。“先在云端做大芯片基石之一、技術(shù)上占領(lǐng)制高點(diǎn)聯動，假如在云上做成了之后，客戶(hù)對(duì)于公司在PC共同努力、手機(jī)等端上也會(huì)布滿(mǎn)信心行業內卷。”驕旸表示逐漸完善。

阿里官方表示參與能力，成立僅一年的芯片公司平頭哥僅用7個(gè)月時(shí)間完成了前端設(shè)計(jì)，之后用3個(gè)月成功流片異常狀況⊙芯?！昂徒^大多數(shù)芯片商不同的是，平頭哥的目的并非賣(mài)芯片應用創新，含光800將通過(guò)阿里云對(duì)外輸出AI算力競爭激烈，未來(lái)企業(yè)可以通過(guò)阿里云獲取含光800的算力「纳?！?

另外空白區，平頭哥還將成立芯片開(kāi)放社區(qū)，為芯片產(chǎn)業(yè)提供開(kāi)放協(xié)作平臺(tái)信息化。北京清微智能科技有限公司首席科學(xué)家尹首一告訴第一財(cái)經(jīng)記者形勢，這能夠給終端設(shè)備提供更高算力，在與平頭哥無(wú)劍芯片合作的過(guò)程中取得明顯成效，平頭哥能夠在系統(tǒng)模塊約定管轄、架構(gòu)等方面有一個(gè)很深的優(yōu)化撔碌募夹g！耙?yàn)橛辛似筋^哥這樣的平臺(tái)技術(shù)發揮，可以使得我們產(chǎn)品迭代的速度更快顯著，更具競(jìng)爭(zhēng)力￠_放以來！?

芯片投資成“重資產(chǎn)”游戲

根據(jù)高盛的統(tǒng)計(jì)占，2021云計(jì)算的市場(chǎng)滲透率達(dá)到了8%，2021年滲透率將增長(zhǎng)至15%提供了有力支撐。未來(lái)它將成為IT市場(chǎng)的主導(dǎo)激發創作。

在過(guò)去10多年里，云計(jì)算改變了IT產(chǎn)品的產(chǎn)權(quán)歸屬進一步意見，從客戶(hù)端轉(zhuǎn)移到云廠(chǎng)商增幅最大。在這個(gè)轉(zhuǎn)變的過(guò)程中，整個(gè)產(chǎn)業(yè)鏈的核心環(huán)節(jié)還算穩(wěn)定生產能力，依舊是英特爾研究成果、AMD、英偉達(dá)等廠(chǎng)商提供芯片完善好，聯(lián)想、戴爾積極參與、浪潮等廠(chǎng)商組裝服務(wù)器問題分析，然后賣(mài)給AWS、阿里云等這樣的云計(jì)算廠(chǎng)商交流研討，由云廠(chǎng)商以服務(wù)和按需消費(fèi)的方式提供給很終客戶(hù)更加完善。

不過(guò)過(guò)去兩年間，隨著人工智能的興起應用的選擇，市場(chǎng)的風(fēng)向有了變化十大行動。

從行業(yè)看，經(jīng)過(guò)數(shù)十年的快速迭代發(fā)展背景下，高速的摩爾定律已經(jīng)難以實(shí)現(xiàn)綜合措施。

過(guò)去5年，通用CPU的發(fā)展碰到了許多技術(shù)瓶頸自然條件，單核性能平均每年提升不足10%設計標準。想要進(jìn)一步實(shí)現(xiàn)提高技術(shù)能力，在晶體管上打主意太難互動互補，需要尋找其他路徑發揮重要帶動作用。同時(shí)，目前在先進(jìn)的大規(guī)模數(shù)據(jù)中心中意料之外，服務(wù)器成本占比持續(xù)提升文化價值。以目前華為云數(shù)據(jù)中心為例，服務(wù)器成本占比已超過(guò)60%置之不顧，計(jì)算正在成為數(shù)據(jù)中心的主體不斷完善。也就是說(shuō)數字化，假如華為購(gòu)買(mǎi)其他市場(chǎng)上的板卡，再來(lái)提供云服務(wù)營造一處，不虧都很難達(dá)到改革創新。

行業(yè)的共識(shí)是，未來(lái)云計(jì)算一定成為全社會(huì)的基礎(chǔ)設(shè)施或者公共服務(wù)取得顯著成效，這時(shí)就需要云計(jì)算服務(wù)做到有規(guī)模新模式，成本低，并且使用便利不容忽視。

這幾年組織了，在云計(jì)算上排名靠前的頭部廠(chǎng)商紛紛開(kāi)始投入芯片領(lǐng)域，尤其是AI芯片說服力，谷歌搶抓機遇、阿里巴巴、亞馬遜AWS等云廠(chǎng)商都在開(kāi)發(fā)用于機(jī)器學(xué)習(xí)等應(yīng)用場(chǎng)景的芯片技術(shù)表示。不同的技術(shù)路徑“亂花漸欲迷人眼”全面闡釋。

有不愿意透露姓名的分析師質(zhì)疑，“含光公布的指標(biāo)是IPS競爭力所在，一改以往算flops的習(xí)慣引人註目，P4也是幾年前的產(chǎn)品了，AI產(chǎn)品對(duì)標(biāo)的標(biāo)的有些討巧發展需要」钥穗y！?

但他也坦言，半導(dǎo)體需要巨頭不斷投入顯示，有泡沫才有機(jī)會(huì)雙向互動，才有更多的人才愿意加入。雖然與英偉達(dá)設計能力、英特爾這些芯片廠(chǎng)商相比品牌，云服務(wù)廠(chǎng)商的AI芯片計(jì)劃仍處于相對(duì)初級(jí)階段。但芯片主要是自用更為一致，為自家的AI應(yīng)用量身打造紮實做，也將更加符合自身產(chǎn)品的特性。

此前至關重要，華為云總裁鄭葉來(lái)對(duì)記者表示提供深度撮合服務，公有云未來(lái)的集中度會(huì)越來(lái)越高，以后不僅僅是玩資本的游戲的發生，更是一個(gè)研發(fā)投資的游戲組成部分。“做B端的生意新的動力，它一定不可能去掙快錢(qián)的的過程中。未來(lái)公有云不是長(zhǎng)板戰(zhàn)略發展契機，說(shuō)我有一個(gè)東西尤其厲害。別人學(xué)你促進進步，不會(huì)的發力。未來(lái)的云服務(wù)一定是短板戰(zhàn)略，哪個(gè)不行就沒(méi)人學(xué)你迎來新的篇章」矂撁篮?？蛻?hù)買(mǎi)的是一個(gè)服務(wù)。云服務(wù)首先是短板戰(zhàn)略薄弱點，你哪個(gè)東西不行你就麻煩了覆蓋範圍。”

換言之積極性，對(duì)于中小AI芯片廠(chǎng)商來(lái)說(shuō)奮勇向前，也許芯片行業(yè)的“血雨腥風(fēng)”才只是個(gè)開(kāi)始，尤其是在云計(jì)算領(lǐng)域多元化服務體系，這是一場(chǎng)涉及資本與人才的全球化較量∫巹?，F(xiàn)在來(lái)看，這場(chǎng)豪賭只屬于大玩家深度。