1.寫在前面

　　5G可以說是2019年上半年十分閃耀的那顆“星”了，美方還不惜代價地試圖封鎖中國的5G技術出海。5G之所以重要，是因為其將和AI技術，大數(shù)據(jù)技術一道顛覆我們現(xiàn)有的生活模式，讓智能化成為現(xiàn)實。

　　在智能化的世界，5G技術提供高速率(>1 Gbps)，低延時(1ms)的基礎網(wǎng)絡服務，組建物聯(lián)網(wǎng)(IoT，Internet of Things)，大數(shù)據(jù)技術提供對萬物互聯(lián)產(chǎn)生的海量數(shù)據(jù)的整合能力，而AI技術則提供整個智能生態(tài)的計算與決策能力，深度學習技術是非常高效的實現(xiàn)方式，在過去10年，已被學術界和工業(yè)界反復證實，能夠依靠各種模型算法達成比人類判斷更精準，更快速的“靈丹妙藥”。

　　Figure 1 智能時代

　　技術需要高效的實現(xiàn)模式來進行應用，深度學習框架就是那個實現(xiàn)“靈藥“的“煉丹爐”，能夠通過深度學習算法模塊化的封裝，快速搭建模型，輸入數(shù)據(jù)，進行各種模型的訓練，調(diào)優(yōu)，測試和部署，為整個智能生態(tài)提供預測，決策等核心推斷能力。

　　2.深度學習框架排行榜

　　得益于深度學習框架發(fā)展初期各家為更好的推動技術發(fā)展而造就的開源生態(tài)模式，如今，各式各樣的框架百花齊放，百家爭鳴，快速推動了深度技術在工業(yè)界的落地應用。當然，好“藥”也得有好“爐”煉，下面我們就介紹下目前主流的深度學習框架的發(fā)展狀況，各自的特點以及適合的場景等，找到合適的“爐“。

　　從業(yè)界影響、資源投入、開發(fā)生態(tài)、文檔體系、模型全面性、工業(yè)實踐和開源熱度(github)等七個方面評估各框架的發(fā)展狀況，結(jié)果如下圖(供參考)。

　　Figure 2 十大深度學習框架發(fā)展程度(caffe，caffe2分開統(tǒng)計)

　　再來看一下GitHub對應的一些數(shù)據(jù)情況，Pytorch，TensorFlow，PaddlePaddle過去兩年保持了較快的發(fā)展速度，尤其Pytorch的星數(shù)有3倍增長，博得了眾多人的眼球。而Caffe&Caffe2，Theano，CNTK等，雖然已經(jīng)停止迭代，但在AI啟航的時間點仍然有一定的增長。

　　Figure 3 十大深度學習框架github概覽(caffe，caffe2分開統(tǒng)計)

　　Figure 4 十大深度學習框架增長率(caffe，caffe2分開統(tǒng)計)

　　上圖中，前三個(Pytorch，TensorFlow，PaddlePaddle)是個人認為目前發(fā)展快，并且比較完善的框架，末端的四個是已經(jīng)官宣不再更新的，而其他的是發(fā)展到平穩(wěn)期或資源有限的一些框架。

　　3.十大深度學習框架詳解

　　Google的TensorFlow，可以說是當今十分流行的深度學習框架。Airbnb， DeepMind，Intel，Nvidia，Twitter以及許多其他著名公司都在使用它。

　　Google自開源TensorFlow起，投入大量的人力，物力，財力逐步構(gòu)建了一個AI生態(tài)，從基礎研究、AI教育、再到應用實現(xiàn)，而這個生態(tài)的核心就是TensorFlow。如前所說，深度學習是AIoT時代的基石，毫無疑問，Google依然走在時代轉(zhuǎn)折點的前列。

　　TensorFlow提供全面的服務，無論是Python，C++，JAVA，Go，甚至是Javascript，Julia，C#，幾乎所有開發(fā)者都可以從熟悉的語言入手開始深度學習的旅程。TensorFlow構(gòu)建了活躍的社區(qū)，完善的文檔體系，大大降低了我們的學習成本，不過社區(qū)和文檔主要以英文為主，中文支持有待加強。另外，TensorFlow有很直觀的計算圖可視化呈現(xiàn)。模型能夠快速的部署在各種硬件機器上，從高性能的計算機到移動設備，再到更小的更輕量的智能終端。

　　TensorFlow的缺點已經(jīng)被詬病多年，相比Pytorch，Caffe等框架，TensorFlow的計算速度可以說是“牛拉車“。而且通過它構(gòu)建一個深度學習框架需要更復雜的代碼，還要忍受重復的多次構(gòu)建靜態(tài)圖。

　　綜合來說，對于英文閱讀和英文交流毫無障礙的同學，TensorFlow依然是深度學習框架的優(yōu)選方案，畢竟可以和人流暢交流是學習和工作的重點。

　　Pytorch是基于用Lua編寫的Torch庫的Python實現(xiàn)的深度學習庫，它由Facebook創(chuàng)建，目前被廣泛應用于學術界和工業(yè)界，隨著Caffe2項目并入Pytorch，也穩(wěn)固了Pytorch緊追并迫近TensorFlow在深度學習應用框架領域的地位。

　　Pytorch官網(wǎng)的標題語簡明的描述了目前Pytorch的特點以及將要發(fā)力的方向。Pytorch在學術界優(yōu)勢很大，關于用到深度學習模型的文章，除了Google家的，其他大部分都是通過Pytorch進行實驗的，究其原因一是Pytorch庫足夠簡單，跟NumPy，SciPy等可以無縫連接，而且基于tensor的GPU加速非常給力，二是訓練網(wǎng)絡迭代的核心-梯度的計算，Autograd架構(gòu)(借鑒于Chainer)，在Pytorch，我們可以動態(tài)的設計網(wǎng)絡，而無需笨拙的定義靜態(tài)網(wǎng)絡圖，才能去進行計算，想要對網(wǎng)絡有任務修改，都要從頭開始構(gòu)建靜態(tài)圖?；诤唵?，靈活的設計，Pytorch快速成為了學術界的主流深度學習框架。

　　Pytorch的劣勢在于模型部署，由于對其部署難度早有耳聞，我沒嘗試過部署Pytorch的模型，一般是在Pytorch快速的試驗新的模型，確認好的效果再去找“現(xiàn)成的”的TensorFlow模型做簡單的優(yōu)化。

　　不過現(xiàn)在，如果稍微深入的了解TensorFlow和Pytorch，就會發(fā)現(xiàn)他們越來越像，TF加入了動態(tài)圖架構(gòu)，Pytorch致力于其在工業(yè)界更加易用。打開各自的官網(wǎng)，你也會發(fā)現(xiàn)文檔風格也越發(fā)的相似。

　　PaddlePaddle是由百度自主開發(fā)的開源深度學習框架，近期發(fā)現(xiàn)有了中文名字，飛槳。官網(wǎng)截圖也很有意思，很多小人在劃槳。飛槳剛發(fā)布的時候，并不被看好，感覺更像是Google有，百度也要有的腔調(diào)，但是近來在做一個關于語義識別的項目，其他框架支持中文的模型實在是少的可憐，時間緊張也沒有時間大規(guī)模訓練，于是就來試試飛槳，其中基于BERT的ERNIE模型取得了較好的效果，部署也不折騰。個人認為可以將模型庫中的經(jīng)典模型套在自己的問題上，作為baseline模型快速試驗，而后慢慢調(diào)優(yōu)追求更好的效果。

　　從模型庫找到適合自己的模型，按照實踐教程一步步進行就行了，過程還是比較簡單的，遇到的問題在github的issues中都有找到，雖然不像TF那么活躍，但是支持也是很及時的。我是從官網(wǎng)找模型，發(fā)現(xiàn)官網(wǎng)又更新了，盜張圖過來感受下支持的模型。

　　Figure 5 PaddlePaddle模型庫

　　功能上，飛槳同時支持動態(tài)圖和靜態(tài)圖，能方便的調(diào)試模型，方便的部署，非常適合業(yè)務應用的落地實現(xiàn)。飛槳也已經(jīng)支持數(shù)百個節(jié)點的高效并行訓練?？梢哉f在過去2年的時間里，深度學習領域在大規(guī)模的落地應用，各家框架也都在快速的發(fā)展，但是百度的PaddlePaddle看來是這個階段發(fā)展更快的框架，甚至是發(fā)展更快的AI開發(fā)生態(tài)。

　　以上三個框架可以說是目前發(fā)展比較快的，并且在穩(wěn)定更新，維護的。功能上來說，各框架已經(jīng)“越長越像”了，三個框架還是會有各自的特點，如何選擇還是要根據(jù)自己的目標來看。

　　下面來簡單介紹下其他的一些主要框架。

　　4.如何選擇?

　　那么如何在眾多的框架中選擇呢，我的建議有3個框架：TensorFlow，Pytorch，飛槳。其他的不是投入資源有限，就是已經(jīng)不再維護了。實際上，我們或多或少應該都了解下這3個框架，針對不同的目的可以快速選型。

　　如果是剛剛接觸深度學習，以學習為目的的，我建議從TensorFlow和飛槳開始，至少目前來看，Google和百度是傾全力打造這兩個平臺的，他們已經(jīng)不只是一個深度學習框架了，更是一個AI開發(fā)的生態(tài)，從基礎的視頻課程，完善的文檔體系到項目的開放落地提供的是統(tǒng)一的服務。多說一句，百度飛槳的基礎文檔相當詳細，不只有代碼實現(xiàn)，數(shù)據(jù)流過程的教程，同時也包含了詳細的算法原理，這點對于還不是那么了解相應模型的同學來說是極大的方便。對于學有余力的同學，還是建議對這3個框架都了解下。

　　如果是出于學術目的的，建議從Pytorch開始，畢竟學術研究要緊盯著前沿，看文章，復現(xiàn)文章中模型的效果，選大家都用的可以節(jié)省不必要的時間成本，把重點放在優(yōu)化模型提升模型效果上。

　　如果是想要開箱即用，想即刻將深度學習技術應用到自己的場景中嘗試，我會建議選擇飛槳，飛槳中有大量的實戰(zhàn)案例，基本套到相應的場景就能迭代起來了。而且在NLP領域，需要對各種語言進行預處理，毫無疑問對中文支持更好的是飛槳，比如ERNIE，其挖掘海量的中文數(shù)據(jù)，對先驗語義知識進行建模，增強了語義表達能力，可以作為NLP，NLU應用的基礎服務不同的場景。

　　隨手貼幾個招聘網(wǎng)站上的JD，也可以幫大家明確一下方向，供參考。

　　5.未來

　　我們處在更好的時代。

　　感謝互聯(lián)網(wǎng)文化，感謝開源文化，讓技術可以以指數(shù)級的速度發(fā)展，我們更要感謝在時代轉(zhuǎn)折點的那些引路人，沒有Google，百度等企業(yè)不遺余力地嘗試將新技術應用于各產(chǎn)業(yè)，就沒有技術的飛速發(fā)展，就沒有美好的生活模式的變遷。

　　AI技術的平民化是智能時代發(fā)展的催化劑，我們應用深度學習技術，從原理到框架，再到應用平臺化工具將其落地到所有的場景，這是未來的發(fā)展趨勢。得益于5G技術的發(fā)展，相信在不久的將來，我們將實現(xiàn)萬物互聯(lián)。深度學習是AIoT時代的關鍵，各平臺已有的實踐落地項目給我們提供了產(chǎn)業(yè)落地的實現(xiàn)路徑。可謂星星之火，已成燎原之勢，另外，發(fā)展我國自己的AI開發(fā)生態(tài)也同樣重要，考慮到近期的“華為事件”，有備無患。

　　結(jié)尾想說，框架、平臺都只是為我們提供了工具，明確我們的目標并找到合適的場景，推進應用在業(yè)務上的落地，實現(xiàn)商業(yè)價值才是核心競爭力。

特別提醒：本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實，對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾，并請自行核實相關內(nèi)容。本站不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請及時聯(lián)系我們，本站將會在24小時內(nèi)處理完畢。