IBM 表示世界上90%的數(shù)據(jù)產(chǎn)生于過去的兩年，其中的大部分為非結(jié)構(gòu)化數(shù)據(jù)。隨著物聯(lián)網(wǎng)的應(yīng)用催生出更多不同來源的數(shù)據(jù)，未來幾年這一趨勢將會加速。因此，基于傳統(tǒng)規(guī)則的數(shù)據(jù)分析方法的有效性已經(jīng)有所下降；為了更好利用爆發(fā)式增長的數(shù)據(jù)，新的方法將采用(如機(jī)器學(xué)習(xí))。各大芯片及人工智能公司紛紛加入這場競賽，努力在競爭對手投入新市場前將各自的非結(jié)構(gòu)化數(shù)據(jù)集變現(xiàn)。

　　深度學(xué)習(xí)的供應(yīng)鏈

　　GPU 是實(shí)現(xiàn)深度學(xué)習(xí)的關(guān)鍵：深度學(xué)習(xí)的兩個(gè)步驟：訓(xùn)練和推斷。訓(xùn)練網(wǎng)絡(luò)目的是有效的設(shè)臵網(wǎng)絡(luò)權(quán)重(Training)；使用訓(xùn)練前的網(wǎng)絡(luò)用來推斷輸入內(nèi)容(Inference)。訓(xùn)練部分的成本更高，進(jìn)度緩慢且昂貴，而推斷部分則缺乏適應(yīng)新未知內(nèi)容輸入的靈活性。

　　深度學(xué)習(xí)的“訓(xùn)練”和“推斷”

　　由于深度學(xué)習(xí)的計(jì)算性質(zhì)，深度學(xué)習(xí)對并行處理的要求較高(尤其是在訓(xùn)練階段)，因此為CPU 添加加速器將能夠極大地改善性能。目前使用的主要加速器是GPU 和FPGA，二者均在并行處理方面有良好的表現(xiàn)，因此較CPU 本身的處理能力而言具備顯著的性能優(yōu)勢。

　　GPU跟著深度學(xué)習(xí)一起火

　　今年的英偉達(dá)絕對是芯片領(lǐng)域的明星，雖然體量及總體營收尚不及英特爾/高通等老炮，但是GPU時(shí)代開啟之后，其潛力倍受認(rèn)可。在PC時(shí)代，Intel占據(jù)了GPU市場的龍頭地位，隨著移動互聯(lián)網(wǎng)時(shí)代的到來，全球GPU市場經(jīng)歷了翻天覆地的變化，ARM主要是隨著移動端的快速發(fā)展逐漸崛起。而獨(dú)立GPU企業(yè)NVIDIA則在人工智能、汽車電子、視音頻大數(shù)據(jù)領(lǐng)域、VR等需求的驅(qū)動下，市值不斷創(chuàng)新高。

　　主流芯片的市場分布

　　GPU稱為圖形處理器，或視覺處理器。顧名思義，GPU最主要的應(yīng)用場景就是處理圖像顯示計(jì)算。計(jì)算機(jī)圖像顯示流程見下圖，在這個(gè)過程中CPU決定了顯示內(nèi)容，而GPU則決定了顯示的質(zhì)量如何。像GPU這類輔助CPU完成特定功能芯片統(tǒng)稱“協(xié)處理器”，“協(xié)”字表明了GPU在計(jì)算機(jī)體系中處于從屬地位。

　　計(jì)算機(jī)現(xiàn)實(shí)圖像的基本過程

　　GPU具有高并行結(jié)構(gòu)(highly parallel structure)，因此在處理圖形數(shù)據(jù)和復(fù)雜算法方面擁有比CPU更高的效率。CPU大部分面積為控制器和寄存器，與之相比GPU擁有更多的ALU(Arithmetic Logic Unit，邏輯運(yùn)算單元：用于數(shù)據(jù)處理)，而非數(shù)據(jù)高速緩存和流控制。這樣的結(jié)構(gòu)適合對密集型數(shù)據(jù)進(jìn)行并行處理，所以我們看到在高度并行化且數(shù)據(jù)規(guī)模巨大的情況下，GPU獲得很高的浮點(diǎn)運(yùn)算性能。

　　說明：GPU的工作特點(diǎn)計(jì)算量大，但沒什么技術(shù)含量，而且要重復(fù)很多很多次。就像你有個(gè)工作需要算上億次一百以內(nèi)加減乘除一樣，簡單的辦法就是雇上幾十個(gè)小學(xué)生一起算，一人算一部分，反正這些計(jì)算也沒什么技術(shù)含量，純粹體力活而已。GPU就是這樣，用很多簡單的計(jì)算單元去完成大量的計(jì)算任務(wù)，純粹的人海戰(zhàn)術(shù)。這種策略基于一個(gè)前提，就是小學(xué)生A和小學(xué)生B的工作沒有什么依賴性，是互相獨(dú)立的。很多涉及到大量計(jì)算的問題基本都有這種特性，比如說破解密碼，挖礦和很多圖形學(xué)的計(jì)算。這些計(jì)算可以分解為多個(gè)相同的簡單小任務(wù)，每個(gè)任務(wù)就可以分給一個(gè)小學(xué)生去做。而CPU就像老教授，積分微分都會算，就是工資高，一個(gè)老教授資頂幾十個(gè)小學(xué)生，但是老教授還具有協(xié)調(diào)、溝通及管理等能力。

　　GPU配合CPU協(xié)同工作

　　人工智能技術(shù)發(fā)展早期，GPU作為一種現(xiàn)成的并行計(jì)算加速芯片被使用在多個(gè)項(xiàng)目之中，如汽車的自動駕駛，圖像識別算法等，但GPU未必為人工智能加速硬件的終極答案。GPU限于最初設(shè)計(jì)目標(biāo)，在兩個(gè)方向上均不能完美匹配人工智能主流算法。未來隨著人工智能技術(shù)大規(guī)模商用化，從產(chǎn)業(yè)鏈過去發(fā)展的歷史類比，專用人工智能加速協(xié)處理器將對GPU這類過渡方案構(gòu)成挑戰(zhàn)。GPU，由于其最初設(shè)計(jì)匹配的計(jì)算模型與神經(jīng)網(wǎng)絡(luò)計(jì)算模型存在不同，其并行計(jì)算核心之間的通信架構(gòu)-NOC(片上網(wǎng)絡(luò))應(yīng)用在神經(jīng)網(wǎng)絡(luò)運(yùn)算中均存在缺點(diǎn)。

　　GPU不是人工智能的終極芯片

　　看似GPU已經(jīng)在人工智能的加速計(jì)算中占主導(dǎo)地位，那么，未來人工智能的硬件加速也一定由GPU承擔(dān)嗎？事實(shí)并非如此，業(yè)內(nèi)已經(jīng)存在各種具備競爭力的替代解決方案。谷歌在2016年5月末召開的I/O大會披露了TPU(Tensor Processing Unit)專用處理器項(xiàng)目。資料顯示TPU實(shí)際已使用在谷歌諸多商業(yè)與科研項(xiàng)目之中超過了一年時(shí)間。擊敗李世石的圍棋世紀(jì)人機(jī)大戰(zhàn)所使用的服務(wù)器集群使用TPU加速圍棋中DCNN(Deep Convolutional Neural Network)的計(jì)算。谷歌的RankBrain中使用TPU提升搜索結(jié)果和街景服務(wù)的相關(guān)度。

　　GPU與安防及視頻智能

　　隨著互聯(lián)網(wǎng)技術(shù)的不斷進(jìn)步，GPU目前在人工智能(圖像語音識別、無人駕駛等)、視頻處理、VR/AR、生命化學(xué)、金融證券數(shù)據(jù)等領(lǐng)域顯示出了優(yōu)勢，短期內(nèi)具有廣闊的應(yīng)用前景。

　　GPU的發(fā)展空間

　　深度學(xué)習(xí)技術(shù)的發(fā)展使人工智能產(chǎn)業(yè)的冰山正在迅速融化成一股勢不可擋的洪流，沖擊著安防行業(yè)的產(chǎn)業(yè)變革。安防行業(yè)眾多一線廠商攜手世界頂級人工智能芯片廠商發(fā)力智能硬件產(chǎn)品升級，并將CV領(lǐng)域的最尖端的圖形處理器應(yīng)用于新型硬件產(chǎn)品的研發(fā)。目前包括?？?、大華、宇視、網(wǎng)力、科達(dá)、曠視、格靈、文安等，均已經(jīng)或即將基于Nvidia/Movidius的GPU產(chǎn)品，結(jié)合到安防前端產(chǎn)品及后端系統(tǒng)中，深度學(xué)習(xí)/人工智能正逐步落地安防應(yīng)用。