ai計算有了新物種 - 品奇數(shù)碼magicai人工智能加速技術(shù)

2019-03-15 16:19來源:it資訊快報//

原標題：ai計算有了新物種 - 品奇數(shù)碼magicai人工智能加速技術(shù)

傳統(tǒng)概念中，人工智能計算需要 gpu 或?qū)ｉT的 ai 芯片（asic）進行加速才能快速運行。pq labs（上海品奇數(shù)碼科技有限公司） 在 ces 2019 中發(fā)布的 magicai 技術(shù)改變了而這一現(xiàn)狀，可以使 人工智能應(yīng)用在通用 cpu 上跑的比 gpu 更快。

magicai (magic tiny yolo) 在 intel i7 cpu 下運行幀率達到 718 fps，是 titan x / 1080ti 的 3.5倍，是 intel mkl 方案的 199倍。

為什么大家都用gpu跑人工智能？

因為由于歷史原因，通用cpu沒有為大規(guī)模的神經(jīng)網(wǎng)絡(luò)運算進行優(yōu)化，運行效率極其低下。而整個業(yè)界和學(xué)術(shù)界在人工智能方面的研究都是建立基于圖形顯卡的編程模型上（特指 nvidia gpu 顯卡，amd gpu 缺少相關(guān)的軟件及算法）。除此之外，市場上還有其他的 ai 芯片，但大都基于類似的 ai 模型和優(yōu)化策略。

“人工智能的科技樹或許正沿著一條低效率的方向展開，世界上存在著其他的技術(shù)路徑值得我們?nèi)ヌ剿鳎欠駮斜痊F(xiàn)狀更好的技術(shù)實現(xiàn)，這就是 pq labs magicai 技術(shù)的發(fā)揮空間?！眕q labs ceo 陸飛博士表示，他同時也是 magicai 技術(shù)的核心研發(fā)人員。

有沒有其他的技術(shù)路徑？

magicai 技術(shù)擁有非常快的運行速度：可以在 intel i7 處理器上，以 718 fps 的幀率運行 物體識別 程序而無需降低識別精度，而在同樣 cpu 上直接運行 tiny yolo 則僅僅有 3.6 fps 的幀率。magiai（tiny magic yolo）的計算速度達到了 intel mkl 的199倍，甚至達到了經(jīng)過 gpu (titan x / 1080ti) 加速的 tiny yolo 3.5倍的運行速度。

magicai 技術(shù)的設(shè)計和開發(fā)是從深度學(xué)習(xí)最底層的數(shù)學(xué)基礎(chǔ)開始的，所有數(shù)學(xué)運算都被重新優(yōu)化設(shè)計，重新封裝在一個叫做 “magiccompute” 的運算庫內(nèi)，以替代 nvidia cuda，cudnn 及 intel mkl，并實現(xiàn)運行速度的提升。例如， “卷積運算” （所有深度學(xué)習(xí)模型的基礎(chǔ)運算）由 “magicconvolution” 來執(zhí)行，就可以獲得性能的飛速提升。

magicai 的運行速度提升同樣來自于其獨特的骨干網(wǎng)絡(luò)模型，運行速度要比 mobilenet v2、shufflenet v2 等輕量化模型更快，并且準確度更高。將 yolo、ssd 等模型的 骨干網(wǎng)絡(luò) 替換為 magicai，就成了全新的網(wǎng)絡(luò)：magic-yolo 和 magic-ssd，比原來的網(wǎng)絡(luò)提速 199倍。

magicai 從設(shè)計之初就與眾不同，目前人工智能的產(chǎn)業(yè)界和學(xué)術(shù)界依然沿用深度學(xué)習(xí)技術(shù)在其非常早年間定義下來的訓(xùn)練方式，嚴重依賴基于imagenet classification 的訓(xùn)練和調(diào)優(yōu)，然后再使用 imagenet 的模型作為預(yù)訓(xùn)練模型，通過 “知識遷移” 來訓(xùn)練并獲取其他任務(wù)的能力（比如物體識別)。

這種傳統(tǒng)模式在過去并沒有什么問題，但是 magicai 的做法有所不同，我們認為 對 imagenet classification 的調(diào)優(yōu)并不是最優(yōu)解，有時優(yōu)秀的 classification 結(jié)果反而會對其他任務(wù)的精度帶來負面影響。 magicai 選擇重新設(shè)計新的訓(xùn)練方式來解決這個問題，這進一步提升了 magicai 的準確率和計算效率。