智東西（公眾號(hào)：zhidxcom）
文 | 軒窗
3月9日，由智能行業(yè)第一媒體和產(chǎn)業(yè)服務(wù)平臺(tái)智東西主辦的“GTIC 2018 全球AI芯片創(chuàng)新峰會(huì)”在上海召開(kāi)，本次大會(huì)以“走進(jìn)AI世界 從芯看未來(lái)”為主題，邀請(qǐng)到32名重磅嘉賓到場(chǎng)分享，從上游產(chǎn)業(yè)鏈、到炙手可熱的創(chuàng)業(yè)項(xiàng)目、再到各領(lǐng)域在AI芯片推動(dòng)下的產(chǎn)業(yè)升級(jí)新思考，系統(tǒng)地探討AI芯片在2018年的技術(shù)前景和產(chǎn)業(yè)趨勢(shì)。
本次峰會(huì)上，國(guó)內(nèi)AI芯片行業(yè)四小龍之一的深鑒科技,其聯(lián)合創(chuàng)始人兼CEO姚頌，以“AI芯片行業(yè)新思維”為演講主題，并分享了自己對(duì)整個(gè)AI芯片行業(yè)的思考。以下是智東西為您整理的姚頌演講核心干貨。
一、怎樣定義AI芯片
本次峰會(huì)是關(guān)于AI芯片的峰會(huì)，但是到底怎樣的芯片才能稱(chēng)為AI芯片？一開(kāi)場(chǎng)，姚頌先從現(xiàn)在大家談?wù)摰牟煌腁I范圍就從這一問(wèn)題說(shuō)起：“AI是一個(gè)相當(dāng)寬泛的概念，到底該如何定義AI芯片呢？這里面隱含著一個(gè)邏輯，現(xiàn)在當(dāng)我們說(shuō)到AI的時(shí)候，其實(shí)指的只是AI中機(jī)器學(xué)習(xí)的那一部分；當(dāng)我們現(xiàn)在說(shuō)機(jī)器學(xué)習(xí)時(shí)，大部分指的又是其中深度學(xué)習(xí)的那一部分；而目前流行的神經(jīng)網(wǎng)絡(luò)算法也只是深度學(xué)習(xí)中的一部分”。
無(wú)論是深度學(xué)習(xí)還是機(jī)器學(xué)習(xí)，又都分為訓(xùn)練側(cè)和推理側(cè)，兩個(gè)獨(dú)立部分。在神經(jīng)網(wǎng)絡(luò)中又會(huì)有VGG網(wǎng)絡(luò)、ResNet-50網(wǎng)絡(luò)等分類(lèi)，在這些網(wǎng)絡(luò)之上又會(huì)有SSD、Faster R-CNN等面向?qū)ο蟮目蚣堋Ｋ援?dāng)大家談到AI的時(shí)候，首先要明確具體指的是哪一層面。今天，我們談到AI時(shí)，更多地指的是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)。
在對(duì)人們所說(shuō)的AI的范圍進(jìn)行了梳理后，姚頌進(jìn)一步指出對(duì)AI不同的定義，則會(huì)造成整個(gè)芯片設(shè)計(jì)的不同，難易程度也會(huì)不同，針對(duì)機(jī)器學(xué)習(xí)等高層級(jí)的設(shè)計(jì)理念，其通用性則越強(qiáng)，針對(duì)某種特定的神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)的芯片，其專(zhuān)用性則越強(qiáng)。如果是想做具有高質(zhì)量通用性能的芯片，比如設(shè)計(jì)CPU這樣的芯片，是相當(dāng)困難的事情。如果是要做最簡(jiǎn)單的芯片，則只需要先把算法做好，再把算法硬化到芯片上，這是最容易設(shè)計(jì)和實(shí)現(xiàn)的一個(gè)思路。因此，姚頌認(rèn)為從設(shè)計(jì)層面上來(lái)看，大部分AI芯片的設(shè)計(jì)比CPU 、GPU等通用芯片更容易設(shè)計(jì)。
對(duì)此，姚頌還舉出目前市面上所出現(xiàn)的，針對(duì)不同層級(jí)AI定義的芯片的例子。比如國(guó)外的芯片巨頭如ARM將CPU上添加神經(jīng)網(wǎng)絡(luò)加速庫(kù)、NVIDA的針對(duì)AI訓(xùn)練側(cè)的GPU、Xilinx的FPGA、針對(duì)深度學(xué)習(xí)推理側(cè)的TPU V1、把自動(dòng)駕駛算法寫(xiě)到芯片上的Mobileye Eye Q5 、Intel CPU 、Movidius DSP 等都是針對(duì)不同層級(jí)的AI芯片。國(guó)內(nèi)方面也有不少企業(yè)在AI芯片上取得了進(jìn)展，其針對(duì)的AI層級(jí)也有所不同，如寒武紀(jì)面向更通用的機(jī)器學(xué)習(xí)市場(chǎng)的Cambricon MLU 、 深鑒科技自家的DeePhi DPU則更加關(guān)注深度學(xué)習(xí)層面、地平線的Horizon Journey更專(zhuān)注于面向行業(yè)的算法。因此，姚頌總結(jié)到：“當(dāng)你聽(tīng)到一個(gè)公司在做AI芯片時(shí)，首先需要弄清楚其芯片是針對(duì)哪一個(gè)AI層級(jí)的”。
?二、做AI芯片需要哪些工作
在明確了不同層級(jí)的AI定義層級(jí)后，姚頌繼續(xù)深入到一家做AI芯片的企業(yè)需要做哪些工作。姚頌說(shuō)做AI芯片并不像大家想的僅僅做個(gè)芯片這么簡(jiǎn)單，他以做CPU為例給出了從應(yīng)用到最終系統(tǒng)的八個(gè)層次。
姚頌以壓縮應(yīng)用為例進(jìn)行了詳細(xì)解釋?zhuān)涸谶@八個(gè)層級(jí)的最上層是應(yīng)用，無(wú)論是zip還是rar等格式的壓縮應(yīng)用，其下層都包含著一系列的算法和庫(kù)。而這些算法和庫(kù)的開(kāi)發(fā)和建立，是需要為所有的程序員和開(kāi)發(fā)者提供一個(gè)可用于開(kāi)發(fā)的軟件環(huán)境，比如微軟Windows里的Visual Studio就是這樣一個(gè)環(huán)境。而軟件環(huán)境的建立則需要下一層級(jí)的操作系統(tǒng)、驅(qū)動(dòng)程序和編譯程序的支持，比如Visual Studio里的MSVC，就可將程序編譯到最終指令。比如CPU上的X86指令集，就是一個(gè)很通用的指令集，可將上層應(yīng)用和下層芯片需要做的事很好的割裂開(kāi)。
有了指令集后，芯片的核心架構(gòu)就可定義出來(lái)了，再往下的層級(jí)芯片公司可選擇做或者不做，比如ARM做的就是IP授權(quán)，而英特爾做的就是芯片本身。再往下的層級(jí)就是芯片本身的實(shí)現(xiàn)，是制作板卡還是做SoC。對(duì)于做CPU的公司，中間兩層即指令集和IP是最重要的，以這一層往上和往下都有兩個(gè)相對(duì)明確的邊界，對(duì)于做CPU的公司來(lái)說(shuō)向上和向下的層級(jí)可選擇不做。
但對(duì)于做AI芯片的公司來(lái)說(shuō)，該如何來(lái)劃定這兩條邊界呢？姚頌作為資深A(yù)I芯片設(shè)計(jì)者，給出了自己的理解。首先，對(duì)于AI芯片來(lái)說(shuō)，其設(shè)計(jì)是針對(duì)不同用戶(hù)的，因此指令集各異，芯片上跑的各項(xiàng)需求也各異，這些具有針對(duì)性和差異性的指令集對(duì)于AI芯片公司來(lái)說(shuō)是需要自己開(kāi)發(fā)的。
芯片底層的程序和應(yīng)用算法也是天差地別的，姚頌以做人臉識(shí)別算法為例，他說(shuō)更多的程序員會(huì)選擇用Python和C編寫(xiě)程序，有些還需要改動(dòng)操作系統(tǒng)內(nèi)核等，而做這些之前必須要把上層的設(shè)計(jì)環(huán)境做好。姚頌繼續(xù)指出，做底層設(shè)計(jì)的人和做應(yīng)用的人是相互割裂的。但對(duì)于AI芯片公司來(lái)說(shuō)，是不是做到IP這個(gè)層面就夠了，要不要把芯片做出來(lái)，要不要進(jìn)一步做稱(chēng)板卡的形式？如果再往上走，算法要不要做出來(lái)？姚頌說(shuō)對(duì)于AI芯片來(lái)說(shuō)，將算法做出來(lái)也是可以的，因?yàn)橛脩?hù)使用AI芯片來(lái)進(jìn)行算法開(kāi)發(fā)也需要一定的時(shí)間。比如英偉達(dá)做自動(dòng)駕駛芯片，就將最終系統(tǒng)到應(yīng)用一整套都做出來(lái)了，所以對(duì)于芯片公司來(lái)說(shuō)，決定上下兩條劃分線到底該劃到哪個(gè)層級(jí)，是相當(dāng)重要的問(wèn)題。
三、怎樣建構(gòu)產(chǎn)品的護(hù)城河
在擁有了一款性能非常好的芯片，并在市場(chǎng)上有了一定的競(jìng)爭(zhēng)力之后，AI芯片公司該怎樣構(gòu)建產(chǎn)品的護(hù)城河呢？
姚頌說(shuō)到，AI芯片公司最終的目的無(wú)非是讓更多的用戶(hù)使用自家的產(chǎn)品，而這里可拆解成三個(gè)部分：1、產(chǎn)品要有競(jìng)爭(zhēng)力；2、要讓用戶(hù)接觸到你的產(chǎn)品，并愿意使用；3、產(chǎn)品要?jiǎng)偤脻M足用戶(hù)需求。姚頌更是提到不做到這三點(diǎn)產(chǎn)品是很難有長(zhǎng)期的競(jìng)爭(zhēng)力的。
從用戶(hù)對(duì)產(chǎn)品的體驗(yàn)來(lái)說(shuō)，姚頌也提出分為四個(gè)層級(jí)：第一層能用，處于這一層級(jí)的AI芯片可以滿足運(yùn)行機(jī)器學(xué)習(xí)算法，這就表示這塊芯片能用了；第二層好用，當(dāng)一塊AI芯片的性能功耗比已經(jīng)很高，隨后又有了相應(yīng)的完整的軟件開(kāi)發(fā)工作流，能夠讓大家把這些軟件在芯片上使用起來(lái)，這就是好用；第三層愛(ài)用，如果一款芯片的操作非常簡(jiǎn)單，可以傻瓜式的一鍵開(kāi)發(fā)，用戶(hù)就會(huì)愛(ài)用了；第四層離不開(kāi)它，要相處于這一層級(jí)，芯片公司就需要為客戶(hù)提供額外的價(jià)值，比如為用戶(hù)提供一個(gè)平臺(tái)，其上有大堆的開(kāi)源項(xiàng)目，可供用戶(hù)進(jìn)行參考設(shè)計(jì)。
在構(gòu)建產(chǎn)品護(hù)城河時(shí)，最重要的基礎(chǔ)部分就是硬件，硬件良好的性能功耗比將支持功能更多的軟件功能，這需要不同層級(jí)間進(jìn)行組合。比如安防行業(yè)，如果像大華這樣的公司接了項(xiàng)目后，中間需要有集成商進(jìn)行集成，比如將視頻管理軟件、IP攝像頭集成到芯片系統(tǒng)上。如果想把AI加入到攝像頭中，其實(shí)只需要將添加一個(gè)具有AI功能的模組，在這個(gè)模組里面是芯片和各種模組嵌入式軟件。通過(guò)調(diào)整集成中各軟硬件的連接串口，模組逐漸趨于穩(wěn)定，再通過(guò)開(kāi)發(fā)環(huán)境用戶(hù)就可將集成后的系統(tǒng)使用起來(lái)。
在進(jìn)行層級(jí)組合的時(shí)候，姚頌提到有兩件事對(duì)于AI芯片公司來(lái)說(shuō)很重要：一是提供的層級(jí)，離客戶(hù)越近總收入就越高，離最終客戶(hù)越遠(yuǎn)分到的錢(qián)就越少；二是芯片設(shè)計(jì)每跨越一個(gè)層級(jí)，開(kāi)發(fā)周期就會(huì)增加6個(gè)月到一年，這是一個(gè)非常長(zhǎng)的開(kāi)發(fā)時(shí)間。
想要構(gòu)建起產(chǎn)品的護(hù)城河，還有一個(gè)重要的點(diǎn)就是增加產(chǎn)品的不可替代性？對(duì)此姚頌也分享了自己的觀點(diǎn)，他認(rèn)為有五點(diǎn)需要AI芯片研發(fā)公司注意：1、在芯片設(shè)計(jì)時(shí)候，明確知道最終用戶(hù)的需求；2、縮短開(kāi)發(fā)周期，將芯片開(kāi)發(fā)的難度降到最低；3、將芯片集成到系統(tǒng)中，使其運(yùn)行更加簡(jiǎn)單；4、盡可能減少第三方的協(xié)作5、為用戶(hù)提供更多的參考設(shè)計(jì)。
對(duì)于為用戶(hù)提供更多的參考設(shè)計(jì)，姚頌提到了一些自己的想法：一是盡可能往應(yīng)用層走，多了解一些應(yīng)用；二是花更多的精力為用戶(hù)提供便捷使用的軟件，盡可能提供算法和庫(kù)。三是盡可能多地提供垂直行業(yè)里需要的算法框架。四是盡可能地提供系統(tǒng)級(jí)方案，而不是單一的芯片。五是盡可能構(gòu)建生態(tài)環(huán)境，讓大家能夠看到更多的用戶(hù)生成的內(nèi)容。
結(jié)語(yǔ)：軟件&系統(tǒng)是AI芯片的重要競(jìng)爭(zhēng)力
最后，姚頌總結(jié)到，一款好的AI芯片產(chǎn)品需要精確的算法加上針對(duì)整個(gè)垂直行業(yè)的全系統(tǒng)，他化用愛(ài)迪生“天才是百分之一的靈感加百分之九十九的汗水”的名言說(shuō)，“研發(fā)出芯片本身只是完成了整個(gè)AI芯片的1%，對(duì)于AI芯片的開(kāi)發(fā)者來(lái)說(shuō)還有99%的臟活累活要做”。
在這些臟活累活中，AI芯片的開(kāi)發(fā)者們不僅要多關(guān)注垂直行業(yè)的應(yīng)用，以此定義系統(tǒng)和芯片架構(gòu)，更要多關(guān)注終端用戶(hù)，為他們提供更多的服務(wù)。
當(dāng)然，站在AI芯片行業(yè)從業(yè)者的角度，姚頌也指出了關(guān)于AI芯片公司定位非常重要的一點(diǎn)：每家AI芯片公司都需要成為一家軟件&系統(tǒng)公司，這樣才能在市場(chǎng)競(jìng)爭(zhēng)中取得優(yōu)勢(shì)。
每日一頭條
趨勢(shì)·深度·犀利·干貨，最專(zhuān)業(yè)的行業(yè)解讀
深喉爆料、投稿：guoren@m.loveliyi.com
