智東西（公眾號：zhidxcom）
文 | 心緣
2019年，國內(nèi)AI芯片玩家正圍繞落地展開新一輪的沖刺。
一邊是華為、百度、阿里等科技巨頭和幾家獨角獸輪番秀出云端AI芯片新進展，另一邊聚焦于邊緣與終端的多家AI芯片創(chuàng)企陸續(xù)登場，揭開其第一代或者最新一代芯片的神秘面紗。
與此同時，人們評判AI芯片的標準，也由看算力、功耗等硬指標，轉(zhuǎn)向看量產(chǎn)規(guī)模、看客戶、看生態(tài)。
這不，國內(nèi)AI芯片落地的排頭兵地平線，剛剛亮出新劍！
今天上午，地平線推出第二代邊緣AI芯片旭日二代和一站式全場景邊緣AI芯片解決方案。其芯片等效算力達4Tops，典型功耗為2W，算力利用率超過90%，如果配合高效算法，在同等TOPS下可處理的幀數(shù)比GPU的10倍還多。
據(jù)悉，旭日一代已服務(wù)數(shù)百家客戶，營收數(shù)億，交付數(shù)十萬套方案。
在此之前，地平線已經(jīng)創(chuàng)造了多個記錄：中國第一家AI芯片創(chuàng)企、發(fā)布中國首款邊緣AI芯片、征程芯片登陸美國助力國際頂尖Robotaxi車隊、旭日一代落地首年全球出貨量達六位數(shù)、發(fā)布中國首款車規(guī)級AI芯片。今年3月，地平線宣布完成B輪6億美元融資，估值達30億美元，成為全球估值最高的AI芯片獨角獸。
經(jīng)過4年的積累，地平線在AIoT領(lǐng)域已經(jīng)形成一套獨特的打法。除了推出新品之外，今日地平線還聚焦于其AIoT產(chǎn)品的整體布局，展示其在芯片、整體方案、開放生態(tài)體系、落地能力等方面的核心優(yōu)勢，并公布其AIoT系列芯片的路線圖。
AIoT時代面臨哪些核心挑戰(zhàn)？為什么今年AI芯片企業(yè)的勢頭有所衰減？如何在碎片化的AIoT市場中構(gòu)筑競爭壁壘？會后，地平線聯(lián)合創(chuàng)始人、技術(shù)副總裁黃暢，地平線副總裁、智能物聯(lián)芯片方案產(chǎn)品線總經(jīng)理張永謙，接受智東西等媒體的采訪，就這些問題一一分享了他們的見解。
一、旭日二代：算力達4Tops，算力利用率超90%
旭日二代邊緣AI芯片（以下簡稱“旭日二代”）面向智能物聯(lián)網(wǎng)，具備強大的視頻結(jié)構(gòu)化能力，可對多類目標進行實施檢測和精準識別，今年3月已完成流片，接近量產(chǎn)階段。
該芯片采用臺積電28nm工藝，面積不過14mm x 14mm，內(nèi)置雙核A53處理器和兩個基于地平線第二代BPU架構(gòu)（伯努利架構(gòu)）的BPU。
BPU架構(gòu)由地平線基于AI算法實際場景需求設(shè)計而成，以最大程度提升算力的有效利用率，同時保障芯片的前瞻性、迭代延續(xù)性。
旭日二代的等效算力達4Tops，典型功耗為2W，單路可實時處理4K@30fps，4路可實時處理1080P@30fps。地平線聯(lián)合創(chuàng)始人、技術(shù)副總裁黃暢強調(diào)說，該芯片典型算法模型算力利用率超過90%，這在業(yè)界幾乎是絕無僅有的。
如果配合高效算法，每TOPS算力可處理的幀數(shù)將高于標稱4Tops算力的AI芯片，比同等算力GPU處理幀數(shù)的10倍還多。
在旭日二代上的實際測試結(jié)果表明，分類模型 MobileNet V2的運行速度超過每秒700張圖片，檢測模型Yolo V3的運行速度超過每秒40張圖片。
針對物聯(lián)網(wǎng)場景下的主要目標群體“人”和“車”，旭日二代進行了大量的算法優(yōu)化，在邊緣端即可實現(xiàn)全視頻結(jié)構(gòu)化能力，可高效靈活地處理多類AI任務(wù)，包括10～30萬人前端識別，密集人群時空屬性行為分析，多種非機動車、機動車檢測分類。
前期客戶驗證表明，旭日二代可完全滿足商業(yè)、辦公、社區(qū)、園區(qū)、教育等物聯(lián)網(wǎng)場景需求。
以通行門禁考勤方案為例，相較旭日一代，旭日二代芯片方案可將最大人臉庫容從最快200ms提升至100ms，并由原本只支持安卓系統(tǒng)進化為支持安卓/Linux系統(tǒng)。
目前，旭日二代支持MXNet和TensorFlow框架，預(yù)計明年年初支持PyTorch。
黃暢向智東西介紹，地平線圍繞其核心BPU定義一套自己的指令集，隨著指令集的擴充，未來旭日芯片還將支持更多框架。
現(xiàn)場黃暢還透露了旭日系列芯片的路線圖，旭日三代將于大約一年后推出，作為完整SoC方案，提供多種算力配置和多Camera輸入支持，更好地整合多路的視頻接入、視頻處理、ISP、視頻編輯碼壓縮等技術(shù)。
▲旭日系列芯片Roadmap
二、解讀地平線AIoT五大優(yōu)勢
相比傳統(tǒng)芯片大廠，地平線擁有更加開放的生態(tài)體系，落地能力也更加靈活高效，能大幅提升開發(fā)效率，并確?？蛻敉顿Y安全性。
總體來看，地平線AIoT有五方面的優(yōu)勢。
1、軟硬協(xié)同輸出極致效能
地平線率先提出，將世界領(lǐng)先的深度學(xué)習(xí)算法集成在自主研發(fā)的邊緣AI處理器及平臺上，通過軟硬協(xié)同的方式將發(fā)揮效能優(yōu)勢發(fā)揮到極致。
經(jīng)典芯片性能評估方式是PPA（功耗Power、性能Performance、面積Area），AI芯片真實性能常用Tops/W與Tops來呈現(xiàn)。
而黃暢認為，此類評估方式并不完全準確，AI芯片的真實性能應(yīng)是能效、利用率、算法能力的乘積。這意味著不僅要對芯片和算法進行優(yōu)化，還要對連接兩者的編譯器等中間環(huán)節(jié)進行優(yōu)化，最終達成全面的優(yōu)化。
以編譯器優(yōu)化所帶來的利用率提升為例，即便有架構(gòu)自動優(yōu)化，有編譯器相比沒編譯器的情況，單幀帶寬消耗可從每幀141.9MB降到每幀34.4MB，單幀計算延遲可從43.77毫秒降到25.1毫秒，而計算資源利用率可從57%提升到95%。
黃暢介紹說，地平線充分考慮到未來重要應(yīng)用場景的關(guān)鍵算法的計算特性，對趨勢進行預(yù)判，前瞻性地將計算特點融入到計算架構(gòu)設(shè)計中，使AI芯片隨著芯片演進趨勢，能始終保持相當高的有效利用率，從而真正意義上受益于算法創(chuàng)新帶來的優(yōu)勢。
2、完整的方案能力
地平線擁有豐富的算法樣例模型，能夠為客戶提供以芯片+算法+工具鏈為核心的完整方案，滿足多樣化場景需求。
地平線提供完整開放的旭日芯片解決方案及“天工開物”芯片工具鏈，包括豐富的模型和應(yīng)用示例、可視化性能分析工具、可快速上手的BPU API、高度靈活的HR Runtime API和Platform API，供客戶根據(jù)需求選擇。
這些工具鏈可提供可視化調(diào)試調(diào)優(yōu)工具，協(xié)助開發(fā)者快速分析定位問題，還提供豐富的例子、文檔，支持客戶快速產(chǎn)品落地。
3、開放的生態(tài)體系
基于邊緣AI芯片，地平線致力于打造一個多層次、多維度、多樣性的開放生態(tài)體系。
▲地平線開放賦能生態(tài)體系
在產(chǎn)業(yè)鏈賦能方面，地平線堅持底層技術(shù)能力研發(fā)，加速普惠AI時代到來；在開發(fā)者生態(tài)方面， 地平線通過工具鏈服務(wù)降低開發(fā)者門檻，助力上層應(yīng)用產(chǎn)生，以此豐富整個AIoT應(yīng)用生態(tài)。
此外， 地平線也正通過與行業(yè)開放社區(qū)合作的形式降低開發(fā)者門檻，比如地平線加入96Boards社區(qū)，并在前段時間，推出基于96Boards SOM規(guī)范的邊緣AI開發(fā)套件BOOTPRINT? X2，該套件具有高算力、高效能、感知接口豐富、可擴展的特點。
4、落地能力比同類型產(chǎn)品更靈活高效
地平線主打軟硬協(xié)同，其芯片具有高MAC利用率，實際任務(wù)處理表現(xiàn)更好。
其芯片方案支持新模型優(yōu)化，如 MobileNet、Faster RCNN。同等算力下，X2 在MobileNetV2之類的新模型上，比海思高端芯片（4Tops 算力）有更好的表現(xiàn)，實際性能更強，且功耗、成本更低。
另外，海思只支持Caffe，而地平線還支持更主流的訓(xùn)練框架TensorFlow。比如科達選擇地平線很大程度上源于旭日二代芯片支持TensorFlow。
5、在設(shè)備投入和運維上降低成本
得益于邊緣計算具有高度可靠、實時處理、靈活部署等特性，地平線可在兩方面幫助客戶降低成本。
一是設(shè)備投入，無需購置大型服務(wù)器或占用較大寬帶網(wǎng)絡(luò)。
二是設(shè)備運維，進行日常維護，更新迭代方便。
三、一站式全場景邊緣AI芯片解決方案
隨后，地平線副總裁、智能物聯(lián)芯片方案產(chǎn)品線總經(jīng)理張永謙發(fā)布旭日二代AI芯片及解決方案Horizon Hero，包括三類邊緣AI芯片解決方案：地平線HeroSights智能攝像機解決方案、地平線HeroSpark通行門禁考勤方案、地平線HeroStream智能分析盒解決方案。
張永謙提到，AIoT產(chǎn)品化存在五點挑戰(zhàn)：
（1）開發(fā)多種形態(tài)AI產(chǎn)品，滿足不同場景需求；
（2）最好的智能與圖像場景效果；
（3）快速開發(fā)上層智能應(yīng)用；
（4）快速完成硬件設(shè)計；
（5）快速完成系統(tǒng)級整合。
針對這些挑戰(zhàn)，地平線將解決方案從芯片、基礎(chǔ)算法上推，使得客戶可以更快、以更小投入、最低成本去快速完成產(chǎn)品化。相較于市場上的AI方案，Hero在以下方面擁有明顯的落地優(yōu)勢：
1、邊緣計算：本地端即可完成計算，數(shù)據(jù)無需上傳到云端；
2、軟硬結(jié)合：算法與芯片協(xié)同優(yōu)化，使方案兼具高性能、低功耗特點；
3、端邊結(jié)合：方案覆蓋智能攝像機，面板機以及智能分析盒；
4、全場景一站式方案：完整解決方案支持客戶快速應(yīng)用開發(fā)和量產(chǎn)。
圖像搭配語音，從像素級感知到時空語義建模，以“人”為本的Horizon Hero AI全場景能力集的全場景能力正在快速形成。
軟件方面，地平線有非常強大的智能算法團隊，提供了從最底層像素級的、最基礎(chǔ)的原子的智能化處理，到語音識別、身份識別、人體屬性分析，再到對人體感知時空的分析，有一整套完整的算法能力集。
針對客戶不同的應(yīng)用，地平線在算法集合的基礎(chǔ)之上，還提供算法策略能力集，以縮短產(chǎn)品開發(fā)時間。
為了使客戶能夠快速地開發(fā)應(yīng)用，地平線打造了端邊一體AI嵌入式軟件架構(gòu)，只要在端的模塊上加上算法配置和通道管理模塊，就可以迅速形成邊緣側(cè)的軟件架構(gòu)。
其軟件框架跨OS、AI全場景、模塊化組件開發(fā)框架既支持安卓，也支持Linux，客戶可在常用的幾類端設(shè)備和邊緣設(shè)備上快速集成他們的應(yīng)用，這些應(yīng)用也都具有很強的可復(fù)制性、可遷移性。
硬件方面，地平線提供完整硬件交付與參考設(shè)計，包括芯片、套件以及標準主板，同時地平線也提供完整的原理圖和PCB Layout的設(shè)計。
地平線的芯片既單獨向外銷售，也通過整體解決方案的方式對外供給。如果客戶想選擇更熟悉的元器件，地平線也可以幫助他們在元器件上做整合和集成。
地平線還會提供整機智能效果集成支撐能力，包括模塊化參考設(shè)計、結(jié)構(gòu)與散熱設(shè)計、原型機重現(xiàn)等。
這是因為光有核心設(shè)計仍不夠，整體方案的效果還與光照、距離等外部因素有關(guān)，針對不同場景，地平線會提供多套不同的產(chǎn)品設(shè)計，并為客戶集成各種他們需要的模塊。
目前，地平線面向平安城市、智慧社區(qū)、智慧辦公、智慧園區(qū)、智慧校園、智慧商業(yè)等六大行業(yè)提供解決方案。
四、數(shù)百家合作伙伴，營收數(shù)億
據(jù)張永謙介紹，截至目前，旭日一代芯片已服務(wù)數(shù)百家客戶，營收數(shù)億，交付數(shù)十萬套方案，實現(xiàn)線下場景服務(wù)數(shù)千萬人口。
▲地平線在 AIoT 領(lǐng)域部分可公開合作伙伴
在地平線商業(yè)化加速過程中，有商米、多度、小米、永輝等許多優(yōu)質(zhì)客戶落地案例。
智慧零售方面，基于地平線針對零售場景的AIoT芯片解決方案，商米推出了AI識客攝像機，可在本地端主動識別進店顧客并進行豐富的屬性鑒別，解決商家“看店難”問題，助力精準營銷。
智慧社區(qū)方面，基于“AI芯片+算法”的一站式AIoT解決方案，地平線與多度聯(lián)合打造了智慧社區(qū)AI智能產(chǎn)品及解決方案。
除了視覺外，地平線在語音領(lǐng)域也有頗多建樹，能提供包含麥克風(fēng)陣列、信號處理、喚醒、語義理解、語音識別、語音合成的全鏈路解決方案。其語音方案在國內(nèi)已拿下多個大單。
例如，智能家居方面，地平線為小米一系列語音交互智能設(shè)備，提供自主研發(fā)的增強語音抽?。‥nhanced Speech Extraction，簡稱 ESE）方案，使得小米音箱在復(fù)雜的噪聲環(huán)境中亦可實現(xiàn)隨時打斷、隨時喚醒，交互體驗更為精準、流暢。
地平線的方案將各個環(huán)節(jié)算法和芯片架構(gòu)充分結(jié)合，通過端云結(jié)合，能在端側(cè)更好地解決復(fù)雜場景中的語音處理問題。黃暢相信，很快地平線就可以在端上，拿出一個和服務(wù)器能夠做到的性能相媲美的整套云鏈路，并將進一步在語音處理與視覺融合上發(fā)力。
五、AIoT應(yīng)關(guān)注兩個閉環(huán)，拼落地需要綜合打法
會后，地平線聯(lián)合創(chuàng)始人、副總裁黃暢，地平線副總裁、智能物聯(lián)芯片方案產(chǎn)品線總經(jīng)理張永謙，接受智東西等媒體的采訪。
▲地平線副總裁、智能物聯(lián)芯片方案產(chǎn)品線總經(jīng)理張永謙（左），地平線聯(lián)合創(chuàng)始人、副總裁黃暢（右）
在采訪期間，黃暢和張永謙還多次強調(diào)，地平線不是單純的芯片公司，而是通過“芯片+算法”的模式以挖掘更好的性能。相比其他方案，旭日二代芯片整個解決方案的價值最大化在于軟件，芯片是技術(shù)能力中的重要基石，而在AIoT長尾應(yīng)用領(lǐng)域的核心成本也是算法。
1、AIoT面臨的兩大挑戰(zhàn)
談及AIoT的挑戰(zhàn)，黃暢認為，我們應(yīng)該關(guān)注兩個閉環(huán)，一是業(yè)務(wù)閉環(huán)，二是數(shù)據(jù)閉環(huán)。
在AIoT領(lǐng)域賦能傳統(tǒng)行業(yè)時，很多困境來自缺乏開放性，對自我認知不足，對邊界判定不清晰，導(dǎo)致各方無法專注于自身核心能力的打造。如果不能有效地構(gòu)成業(yè)務(wù)閉環(huán)，就無法讓信息進行流動聯(lián)通。
數(shù)據(jù)閉環(huán)的難處來自于跨行業(yè)。傳統(tǒng)行業(yè)往往很難將與業(yè)務(wù)場景強相關(guān)的數(shù)據(jù)分享出來，因此對于地平線這樣關(guān)注基礎(chǔ)AI能力建設(shè)的公司來說，能否持續(xù)去獲取真實場景中的數(shù)據(jù)，經(jīng)過不斷迭代形成一個感知平臺，廣泛賦能各個業(yè)務(wù)場景中的一些基礎(chǔ)AI任務(wù)，這個能力本身也非常重要。
2、真正落地需要一套綜合打法
另外，今年的安防展中，AI芯片廠商身影似乎要比往年少。對于這一現(xiàn)象，黃暢并不覺得奇怪。
在他看來，AI芯片距離真正商業(yè)化落地還很遙遠，過去兩年，國內(nèi)涌現(xiàn)一批造芯熱潮，但其中一部分處于PPT造芯，自然今年的聲勢會弱下去。如今大家更注重落地，地平線也是如此，并不僅僅關(guān)注構(gòu)造一個更加開放的邊緣AI計算平臺，同時也非常關(guān)注面向垂直領(lǐng)域的一站式解決方案。
要做到真正落地需要一套綜合打法，是個動態(tài)切換、調(diào)整的過程。在這個過程中，地平線始終保持較為靈活的姿態(tài)和開放的態(tài)度，和產(chǎn)業(yè)界進行充分合作，根據(jù)客戶需求進行自我調(diào)整。
黃暢表示，相信圍繞地平線的核心能力，他們能夠去創(chuàng)造價值、提高效率，從而反過來去證明自己共性的價值。
3、多種感知融合成提升交互體驗的新趨勢
既然自動駕駛AI芯片和視覺AIoT芯片都已推出第二代，那么地平線是否有涉足語音AI芯片的計劃？
對此，黃暢告訴智東西，初期地平線曾考慮過這一問題，后來發(fā)現(xiàn)傳統(tǒng)語音終端芯片中，現(xiàn)有的DSP 、Arm CPU等模塊已經(jīng)足夠好，如果延續(xù)傳統(tǒng)的語音算法，不認為自研處理器會有優(yōu)勢。
地平線看到的契機是通過更高的算力去顯著提升語音交互的體驗，通過不斷將語音算法放到新架構(gòu)上，從算法層面上加以改進。另外近幾年呈現(xiàn)多種感知算法相互借鑒融合的趨勢，其語音與圖像的運算、處理的方式越來越趨同。
結(jié)語：從地平線看AIoT芯片落地三趨勢
人工智能和機器學(xué)習(xí)的爆發(fā)，給邊緣計算帶來了巨大的機會。而地平線選擇的自動駕駛和AIoT兩條主線，前者被公認為代表人們出行的未來，后者更是廣泛應(yīng)用于人們生活的方方面面。
如今已進入AIoT芯片拼落地的時代，從地平線身上，我們可以看到當前AIoT芯片發(fā)展的幾個趨勢：
1、單芯片性能不再是唯一指標，軟件成提升性能的關(guān)鍵手段，通過軟硬協(xié)同最終帶來整體性能提升。
2、芯片開發(fā)的易用性更受重視，打造芯片的同時，也通過搭配工具鏈等方式降低開發(fā)門檻。
3、AIoT芯片正走出只秀性能的固有模式，開始同落地緊密結(jié)合，提供更方便易用的一站式解決方案。
而這些趨勢指向的同一目標，都是盡可能最大程度地方便開發(fā)者及企業(yè)的需求，通過提供更加開放的賦能服務(wù)，吸引更多合作伙伴，為自身生態(tài)建設(shè)奠定基礎(chǔ)。
