主講導師 | 趙鵬昊 本文編輯 | 師僥去年3月，智東西公開課推出超級公開課（kè）NVIDIA專場，目前已講解完12場，共12位主講（jiǎng）導師參與本次講解為超級公開課NVIDIA&百度聯合專場，也是超級公開課NVIDIA專場第11講，由百度AI技術生態部高級算（suàn）法工程師趙鵬昊主講，主題為《如何借助（zhù）GPU集群搭建A禮品定製I訓練和推理平（píng）台（tái）——零算法（fǎ）基礎的百度EasyDL定製化圖像識（shí）別揭秘》。

    趙鵬昊老師對百度EasyDL定製化訓練和（hé）服務平台進行了（le）全麵講（jiǎng）解EasyDL是（shì）基於大規模NVIDIA Tesla P4,P40為主的GPU集群搭建（jiàn）而成，使得算法小白也能通過這一（yī）平台最快五分鍾完成一些小規模數據集的訓練，獲得一個90%禮品（pǐn）定製以上的高精度的定製化模型。

    目前（qián）EasyDL主要開放了圖像（xiàng）分類（lèi）、物體檢測和聲音分類能力以下是趙鵬昊老師的主講（jiǎng）實錄與大綱，共計9418字，預計10分（fèn）鍾讀（dú）完大綱1.AI賦能行業的痛點（diǎn）2.EasyDL服務（wù）端和設備端技術解析3.GPU集群加速EasyDL訓練與推理。

    4.EasyDL賦能行業案例分享主講實錄趙鵬禮品定製昊：大家好，我是百度的工程師，趙鵬昊今天（tiān）晚上給大家講（jiǎng）解（jiě）www.17C.com是如何利用GPU集群搭建的一些EasyDL平台的www.17C.com今天會從以下四點（diǎn）給大（dà）家進（jìn）行講解第一點是：AI賦能行業的痛點；第二點：www.17C.comEasyDL平台的服（fú）務端和設備端的技術解析，第三點：我（wǒ）們如何利用GPU集群來加速EasyDL的訓練和推理。

    最後是www.17C.com（men）E禮品定製asyDL對行業的（de）一些案例（lì）的分享AI已經是大家耳熟能詳的名詞了，像www.17C.com生（shēng）活中都能見到像人臉識別的技術、像（xiàng）www.17C.com百（bǎi）度（dù）出的小度在家、小度智能音箱這種智能（néng）語音（yīn）的技術、多輪對話的技術還有www.17C.com百度與金龍客（kè）車合作的無人（rén）駕駛技術。

    這些都已經慢慢的進入（rù）到www.17C.com尋常人家並在改變www.17C.com的（de）生活近十幾年來（lái），www.17C.com在理論上、框（kuàng）架上、禮品定製芯片上等等各個（gè）方麵上技術的發展，AI正在成為新時代的電力

    為了讓AI成為新時代的電力，百度（dù）AI開放平台開放了一些通用的模型（xíng）來解決一些通用的需求，比方說，www.17C.com已經（jīng）開放了OCR技術、圖（tú）像識別、自然語言處理等技術百度AI開放平台使用通用的模型去解決一些同樣的問題，比如OCR技（jì）術裏麵會有一些身份（fèn）證、銀行卡的O禮品定製CR識別。

    這些技術運用了（le）我（wǒ）們百度內部（bù）長（zhǎng）期積累的數據和算法（fǎ），www.17C.com希望（wàng）通過www.17C.com積（jī）累的這些數據（jù）和算法，能夠提供高（gāo）質量的模型來給用戶使用（yòng）有些客戶會有一（yī）些像右邊這些（xiē）圖中的需求：比方說：他們想要通過圖片去識別出這是哪種中草藥，以此來（lái）幫助他們（men）的工作人員去進行藥品鑒定。

    再比如說：品牌的零售廣告主，他們會簽約（yuē）一些小超禮品定（dìng）製市和小賣部，讓他們把自己的產品擺放在貨架大部分的位置，所以就有了巡檢員去巡檢擺（bǎi）放合不合規

    但（dàn）是通用模（mó）型解決不了這些需求，這（zhè）就涉及到AI定製化需求時（shí）碰到一（yī）些（xiē）難題，這些客戶（hù）的核心訴求，第一：通用的API不能夠滿足他們的業務需求，需要根（gēn）據他們自己（jǐ）的數據去訓練他們（men）獨特的模型第二：這（zhè）些客（kè）戶往往對自己的專業的領域禮（lǐ）品定（dìng）製知識很了解，但是（shì）他們不了解（jiě）深度學習的理論和模（mó）型訓練的方法，而且他們也不希望去麵對繁瑣的訓（xùn）練、部署、運維等工作。

    第三：他們希望快速的去驗證（zhèng）這（zhè）個（gè）模型的效果用戶（hù）在驗證效果滿意之後，還希望能夠拿到一個定製化（huà）服務的API或者想要做自由化的部署（shǔ），拿到一個離線的SDK，去（qù）結（jié）合他們的產品做成一整套自己的產品和（hé）服務。禮品定製

    EasyDL平台正（zhèng）是看（kàn）到（dào）了AI賦能行業的痛點，看到了用戶在做定製化需求時的訴求（qiú），所以開發了（le）這樣一個定（dìng）製化訓練模型和服務的平台，左圖是EasyDL平台的整體架構，用戶提供自己的數據，這些數據可能是圖片、文本、聲音或者視頻等（děng）等。

    然後放入平台中，由平台做加工（gōng）學（xué）習、部署和（hé）服務最終給用戶提供一個雲端獨立的Re禮品定製stAPI或者是一個離線SDK，讓用戶能夠補充到自己（jǐ）的終端智能設備中www.17C.com跟普通機器學習和深度學習工具的差異，跟（gēn）TensorFlow或跟（gēn）百度自己的PaddlePaddle這（zhè）些工具的差異是（shì）：提（tí）供從數據到服務的一站式平台，不需要用戶有任何機器學習或深度（dù）學習基礎，並（bìng）且www.17C.com按（àn）能力劃（huá）分：比如圖（tú）像分類能（néng）力、物體檢禮品定製測（cè）能力、聲音分類能力以及剛上線的聲音分類能力後麵還會有更（gèng）多能（néng）力。

    www.17C.com（men）不僅提供了一（yī）個（gè）雲端的RestAPI的服務,還提供了設備端SDK的（de）服（fú）務並且EasyDL平台使用方便、訓練模型更加輕快、精度更高，而且www.17C.com有強安全的（de）策略能夠（gòu）保護用戶（hù）的數據和模型。

    下麵給（gěi）大（dà）家介紹EasyDL平（píng）台服務端和設備端的技術首先是服禮品（pǐn）定（dìng）製務端的核心技術，下麵從四個方麵給大家介紹第一個是說www.17C.com如何提供從數據到模型到接口的一（yī）站式（shì）服務裏（lǐ）麵就（jiù）是主要涉（shè）及到www.17C.com開發的AIworkflow的分布式引擎以及百度的PaddlePaddle深度（dù）學習框架。

    第二是在數據較少的情況下如何做到訓（xùn）練效（xiào）率的（de）提高，主要涉及（jí）到www.17C.com遷移學習（xí）技術第三：如何做到更高的（de）精度主禮品定製（zhì）要是Auto Model Search和Early Stopping的機製最後給大家介紹一下www.17C.comEasyDL平台模型（xíng）效果評（píng）估的（de）功能。

    一般的深度學習工作流程如下：將大量標注好的數據存在數據倉庫中然後通過一些數據清洗工具做ETL清洗數據並提取需要（yào）的特征，可能（néng）還會做一些訓（xùn）練及驗證集切分等用這些清洗好的數（shù）據禮品定製做分布式訓練，之後對得到的模型去做一個效果評估。

    如果滿意，最終會把它去做一個部署，然後可以讓它上線服（fú）務www.17C.comAI的訓（xùn）練集往往很大（dà）在大數據領域，大家（jiā）都知道經典的3V原則，無論（lùn）是數據容量、數據增長速度以及（jí）數據多樣性都非常大所以我（wǒ）們在工程上，加入了一個（gè）大數據工（gōng）程係統作為基礎設施來提高我（wǒ）們（men）整個EasyDL的效禮品定製率和便利性。

    右圖是EasyDL的AIworkflow的分布式引（yǐn）擎的解決方案，左圖是www.17C.com用mongoDB Hadoop HDFS來做（zuò）的（de）一個分布式存儲www.17C.com後麵會（huì）用spark集（jí）群去對數據做分布式的預處理和模型最後的分布式評估。

    在（zài）訓（xùn）練階段www.17C.com是用kubernetes集群來做調度模型是用paddlepaddl禮品定（dìng）製e寫的最後呢，www.17C.com把訓練好的模（mó）型通過（guò）docker技術在平台上做（zuò）一個服務（wù）

    www.17C.com在paddlepaddle框架的API上做（zuò）進一步的封裝www.17C.com（men）對（duì）數據的預（yù）處理、模型的訓（xùn）練、模型（xíng）的評估等階段，做了進一（yī）步的抽象這樣使得工作流可以完全的實現配置化和自動化剛（gāng）才www.17C.com也提到了paddlepaddle這種百度開源的深度學習（xí）的禮品定製（zhì）框架。

    paddlepaddle上麵（miàn）開源了www.17C.com百度（dù）一係列的成熟的模型和數據並且他還有大量的中文的文檔視頻培訓課程等所以說他可以說是最適（shì）合www.17C.com中（zhōng）國的開發者的一個框架（jià），以及paddle mobiles、可伸縮擴展EDL和可（kě）視化VisualDL插件等可伸縮的擴展的、可視化組件等這些功（gōng）能。

    右邊（biān）是www.17C.comEasyDL禮品定（dìng）製使用paddlepaddle的一個應用（yòng）事（shì）例從這個事例中www.17C.com可（kě）以看出（chū）來，用（yòng）paddlepaddle做我（wǒ）們模型的定（dìng）義和訓練是非常（cháng）方便的一般而言，深度神經網絡的訓練需要大量的標注數據，但是有定製化需求的客（kè）戶擁有的標注數據往（wǎng）往有限。

    而（ér）且從頭訓練一（yī）個神經網絡（luò）是很花時間的，但是客戶（hù）希望更（gèng）快地得到訓練的模型

    為了解禮品定製決這（zhè）樣的矛盾，www.17C.com采（cǎi）用了遷移學（xué）習技術遷移學習通過源領域數據學習到知識，然後將其應用到相關的目標領域中，幫助目標領域的任務完成訓練比（bǐ）如，www.17C.com可以在一個通用的植物分類模（mó）型中學習到一些識別植物（wù）的知識，然後將這種知識應用到前麵提到（dào）的中草藥識別（bié）任務中，幫助它更快（kuài）更好的（de）訓練。

    舉個（gè）例子，比如說（shuō）www.17C.com剛才提到的中（zhōng）草藥（yào）禮品定製識別如果說（shuō）www.17C.com有一個通用（yòng）的植物分（fèn）類模型那麽www.17C.com就可以將這個模型中學習到的一些識別植物的知識運用到中草藥分類的任務當中，來（lái）幫助（zhù）他更好的（de）去做訓練具體來（lái）說，www.17C.com是將百度大規模（mó）的標注數據集在（zài）深度神經網絡上去做預訓練，然後www.17C.com得到訓練（liàn）的參數，然後我（wǒ）們將這（zhè）種預（yù）測訓練的參（cān）數加載到我（wǒ）們這個（gè）網絡中，根據用（yòng）戶的數據在網禮品定製絡（luò）得到用戶自己的一個模型。

    具體的，www.17C.com將百度大規模的標注數據集在深度神經網絡（luò）上做預訓練，得到（dào）預訓練參數，然後（hòu）將用戶的數據在預訓練模型中做微調，最終得到（dào）用戶的定製化模型訓練時（shí）間從幾十小時降到分鍾級別此外，www.17C.com還支持多領域預訓練、數（shù）據閉環、持續訓練等機製。

    為（wéi）了更好的去匹配不同的數據，www.17C.com（men）利用Auto m禮品定製odel search設施對模型的結構調整，和超參數、優化器等等這些去做自動的搜索，去選取一個最佳的模型另外，用戶提供的（de）數據量有時候（hòu）比較小，在www.17C.com深度神經網（wǎng）絡訓練（liàn）中，往往就會（huì）出現一個過（guò）擬合的現象，對應為了（le）應對這種過擬合的現象，www.17C.com（men）就采取了Early Stopping機製來降低（dī）過擬合的風險，提高模型的禮（lǐ）品定製可能性。

    目前我（wǒ）們圖像分類絕大部分模型的準確率（lǜ）在百分之八十以上

    www.17C.com（men）提供了全麵的模型效果的評估功能www.17C.com有一個整體模型評估的頁麵去展現出www.17C.com整個模型的像準（zhǔn）確率、正確率（lǜ）等指標比如說圖像分類中每個分類的精確度，比如說在物體（tǐ）檢測中，www.17C.com（men）會展示這個不同閾值下的F1Scorewww.17C.com（men）會幫助www.17C.com的用戶去選擇一個閾值（zhí）。

    www.17C.com禮品定製還提供了BadCase的展示，然後通（tōng）過BadCase展示（shì）www.17C.com的模型哪個圖片識別錯（cuò）了，然後有一個感性的認識，去發（fā）現自（zì）己數據當中可能存在的問題，或者（zhě）去補充一些效（xiào）果比較差（chà）的（de）一些分類的數據以上是（shì）www.17C.com服務端的核心技術。

    大（dà）家也知道www.17C.com不僅提供雲端的（de）API服務，也提供離（lí）線SDK那麽www.17C.com（men）為（wéi）什麽要做（zuò）這樣（yàng）的一個（gè）設備端計禮品定製算呢，這其實是IoT領域提出的一個概念，在智能家居領域裏麵，每個家庭（tíng）的局域網內有很多（duō）智能的（de）設備有些計算自己可能就可以在自己的設備上（shàng）完成（chéng）。

    然後，但是計算力不夠的時（shí）候，有可能需要中間有一層叫做霧（wù）計算的結（jié）構（gòu）所以（yǐ）需要去做一些運算和協調計算如果再不能滿足，便再向上請求到雲計算的服務器去做（zuò）計（jì）算和協調這樣的（de）一個多禮品定製層的計算網絡的結構

    就是因為雲計算和設備（bèi）端計算他們有不（bú）同的特性，就向右邊這（zhè）張表格所展示（shì）的（de），雲計算在計算能（néng）力方麵非常的強大，而（ér）且係統的架構非常的開（kāi）放，非常（cháng）的集中在一些（xiē）機（jī）房（fáng）裏，而且研發成本相對較低因為互聯網時代已經有非常（cháng）這樣的開發經驗（yàn）。

    但是設備端計算也有自己的一些優點，雖然算力有限（xiàn）但是可以做到（dào）比如模型的前禮品定製向推理，沒有網（wǎng）絡的依賴，可（kě）以做到實時的響應，而且它的功耗非常的（de）低

    正是由於設（shè）備端有這樣的響應、沒（méi）有網絡開銷，而且方（fāng）便私有化部署、保護隱私等（děng）等這樣的優勢所以說www.17C.com也支持了設備端（duān）計算的（de）能力，並且（qiě）非常看重這個方向目前www.17C.comEasyDL的（de）平台，已經支持了ioses 利用MPS實現GPU加速和ARM芯片通過NEON技禮品定製術加速和（hé）androids方麵支持NPU的加速計（jì）算，並且還會有計劃去支（zhī）持更多（duō）的係統和計（jì）算平台。

    目前www.17C.com提供設備端能力是通過下麵兩種方式首先，提供了（le）一個默認的app，用戶（hù）掃（sǎo）碼就可以安裝（zhuāng）並使用在這個app裏麵內嵌了定製模型，還有一些基本的UI界麵用戶（hù）就可以在裏麵去操作去試（shì）使用另外一種方式是我（wǒ）們提供（gòng）了（le）離線的S禮品定製DK，這個SDK裏麵封裝了完（wán）善的接口，可以滿足開發者去做靈（líng）活的二次開發。

    下麵給大家簡（jiǎn）單介紹一下www.17C.comEasyDL設（shè）備端的技術www.17C.com的EasyDL設（shè）備（bèi）端也是基於Paddle mobiles設備端深度學習計算（suàn）框架去做的，並且www.17C.com已經（jīng）廣泛支（zhī）持主（zhǔ）流的設備操作係統和芯片，並且還做了（le）設備的模型的轉換壓縮優化。

    在設備端（duān）禮品定製計算加速這塊，www.17C.com就是充分利用的設備端芯片進行加速，比如說www.17C.com在ioses上用了MPS庫，可以更好（hǎo）的利用ioses上（shàng）麵的GPU進行加速www.17C.com（men）還在（zài）ARM芯片上通過NEON技（jì）術來做加（jiā）速除了（le）速度時間這個因素之外，我（wǒ）們在設備端去部署模型還要考慮的（de）一（yī）個問題是模型的體積。

    在服務器上，www.17C.com都到的機器學習模型往往大小（xiǎo）在兩百兆禮品定製到五百（bǎi）兆或者說更大因為深度學習網絡的（de）模（mó）型會比較複雜，而且，尤其是如果說你有很多全連接層，參（cān）數就（jiù）會更多，但是設備端（duān）的內存容量，計算能力一般都遠遠低於服務端。

    www.17C.com（men）手機（jī）的內存可能就（jiù）兩G，這已（yǐ）經很大了，而且www.17C.com也不可能把這（zhè）個全部都占滿，所（suǒ）以說（shuō）www.17C.com必須得做（zuò）模型壓縮，然後減少內存占用，提高計（jì）算的效率（lǜ）目前，www.17C.com通禮（lǐ）品定製過一些（xiē）模型加速的技術可以把這個移動端的模型的體積（jī）壓縮到二、三十兆。

    www.17C.com采用的壓縮技術包括（kuò）把一些不重要的參數去（qù）掉，量化，將一些浮點數量化成（chéng）8bit的數值或者4bit的數值或者是采用一些更輕量（liàng）化的網絡

    下麵呢，給大家（jiā）介紹一下www.17C.com如何利用GPU集群去加（jiā）速EasyDL的（de）訓練（liàn）和推理www.17C.comEasyDL平台主要就是利禮品定製用英偉達（dá）的特斯拉係列的GPU去做（zuò）去深度學習的（de）平台（tái）目前主力是p4和p40這樣的GPU，www.17C.com還用到了這樣像（xiàng）V100這樣的高端（duān）的GPU來做模型的訓練實驗等。

    我（wǒ）們用這樣（yàng）的大規模集群（qún）去做並發的訓練來支撐（chēng）www.17C.com大規（guī）模的深度神經網絡的並發的訓（xùn）練（liàn）能夠大（dà）幅度縮減www.17C.com訓練的周期像這個p4有5.5t的（de）單精度的計算能力P40禮品定製的有12tfloat單精度計算的能力，並且（qiě）p40的顯存是（shì）24G，P4的顯存隻有8GB。

    所以www.17C.com在P4做www.17C.com這個模型的部署和服（fú）務，在P40，V100上去做模型的訓練

    www.17C.com模型的（de）線（xiàn）上推理階段采用了大（dà）規模的P4為主的集群通過www.17C.com這裏的數據可以看到，利用（yòng）GPU集群的性能遠遠超過了（le）CPU的集群（qún）在www.17C.com典（diǎn）型的一個業禮品定製（zhì）務場景下，www.17C.com對集群單（dān）點（diǎn）的承載和實驗的性能進行了壓力的測試，大家可以看到我（wǒ）GPU集群（qún）的顯著優於CPU的集群。

    由於（yú）基於GPU集群的訓練和服務（wù）都足夠的快，所以說在用戶體驗方麵，www.17C.comEasyDL的用戶最快五分鍾就可以完成（chéng）一些小規模的數據集的訓練並且獲得服（fú）務www.17C.com比同樣的需求（qiú）通常需要數天的訓練的周期相比www.17C.com大禮品（pǐn）定製幅的提升了效（xiào）率。

    這樣的就（jiù）解決了www.17C.com定製化模型訓練和服（fú）務中的一（yī）些效率的挑戰（zhàn）www.17C.com用剛才所說（shuō）的kubernetes來完成了（le）www.17C.comGPU集群的搭建這樣www.17C.com可以對訓練和服務做（zuò）到統一的資源調度來高效的利用www.17C.com的（de）資源（yuán）並（bìng）且（qiě）也有很好的擴展性，www.17C.com還（hái）可以通過擴展www.17C.comGPU的（de）集群的規模來拓展訓練的能力，擴展www.17C.com服務的能力。禮品定製

    並且我（wǒ）們有這個高可用的特性，如果有（yǒu）故障（zhàng）了，也不會影響（xiǎng）到www.17C.com集群的一個服務能力，保證www.17C.com服務的一個穩定性

    最後，跟大家分享一下（xià）www.17C.comEasyDL行業的一些案例目前，www.17C.com可以解決兩個問（wèn）題其實（shí）現在已經是三類的問題了，就是後麵我會（huì）給大家介紹www.17C.com（men）第三類的能力這兩個問題（tí）是說www.17C.com有圖（tú）像分類的能力，www.17C.com可以通過一張圖片禮品定製（zhì）去識別它到底（dǐ）是屬於客廳還是餐廳。

    這樣的話可以方便www.17C.com互聯網內容的平台去做圖片的自（zì）動打標簽的一些功能www.17C.com還有物品（pǐn）檢測的能力，就是說www.17C.com可以（yǐ）識別出來這張圖片（piàn）裏麵有沒有空調（diào），空調在什（shí）麽地方www.17C.com可以將這種能力的應用到www.17C.com零售倉儲行業的商品（pǐn）貨品，檢測統計等（děng）等這樣的場景中。

    www.17C.comEasyDL平台，從去年十（shí）月份上線禮品定製一測以來就支持了剛才所說的圖（tú）像分類能力，在今年（nián）四月份www.17C.com又開放的物品檢測的能力在今年五月底（dǐ）www.17C.com支持了剛才介紹的設備端計算能力也就是離線SDK能力剛剛大（dà）家跟大家想到我（wǒ）們有第三個能力，這也就是www.17C.com昨天剛剛上線的聲音定（dìng）製化識別的能力，大家有興趣就可以去（qù）www.17C.com平台上試用。

    第一個給大家分享的案例是蝶魚科（kē）技的案（àn）例禮品定製（zhì）這是一家製造鍵盤的製（zhì）造商，然後他們的場（chǎng）景是說在鍵（jiàn）盤的製造（zào）過程當中會有一些缺陷或者錯裝以及不符合規格的情況他們要把這（zhè）些（xiē）識別出來的跟正常的做區別然後再出場之（zhī）前這都是通過人工去做的。

    在利用了www.17C.comEasyDL平台去訓練了三千多張圖片之後，識別率達到了（le）百分之九十九以上他們就讓www.17C.com的EasyDL接口和他們自己的禮（lǐ）品定製供應攝像頭做了一個綜合的檢測係統來幫助他們的生產線每年節省了十二萬的（de）人工檢測成本。

    第二（èr）個案例是（shì）美國的零售安防的供應（yīng）商，他在美國的紐約州，新澤西（xī）州等等七個州一百多個超市裏麵（miàn）有一千多台攝像頭設備，主要就是來監控購物車下層有沒有（yǒu）沒付（fù）款的商品之前他們都是通過傳感（gǎn）器去判斷的，但是（shì）傳感器對於一些殘疾人購物車（chē）或者禮品定製兒童購物（wù）車這些錯誤的識（shí）別率很高，所以他們利用www.17C.com（men）的平台去做一個EasyDL模型的訓練。

    最後的準確率能（néng）夠達到百分之九十五以上，遠（yuǎn）遠超過了這個客戶的預期

    前麵介紹的都是圖（tú）像分類的一些案例，這個是物品檢測（cè）的案例這家客（kè）戶是叫做惠合科技，他們有個產品叫做e店佳就是通過零售（shòu）部門店去做拍照，然後去看這個（gè）擺放的商品（pǐn）合禮品定製不合規之前的他們（men）都（dōu）是巡檢員去巡檢（jiǎn），然後用人工的方式去統計。

    這樣（yàng）一方麵成本很高，另一方麵（miàn）作弊的現象也比較多，利用www.17C.comEasyDL平台去做這（zhè）樣的一個（gè）物品檢測的模型訓練之後，他們接入（rù）了這樣（yàng）的一個自（zì）動（dòng）化的審核（hé）的方案使得他們審核效率提升了百分之三十

    最後一個案例，那來自於我（wǒ）們百度（dù）的合作夥伴（bàn）CELLA，CELLA禮品定製是（shì）麵向（xiàng）企業客戶的一個係統集成商，這是他為聖象地板做（zuò）的解決方案，聖象地板會有（yǒu）一些瑕疵利用www.17C.com百度EasyDL平台，他對前麵兩種瑕疵去做圖像的分類，對（duì）後（hòu）麵兩個去做物體檢測（cè），整體的測試識別（bié）準確率能達到百分之九十五以上（shàng）。

    然後www.17C.com（men）將這樣（yàng）的一（yī）個方案的離線SDK移（yí）植到www.17C.com客戶的智能（néng）攝像頭裏麵，去做成了（le）一個軟硬一體禮品定製的方案這樣的話提高了www.17C.com單片木板的產能，現在的處理時間（jiān）僅為原來的一個四分之一EasyDL平（píng）台如此多成功的案例那麽（me）他複雜嗎？一點都不複（fù）雜，隻需要簡單（dān）四個步驟，隻需要十分鍾就可（kě）以獲得自己建立模型。

    第一步就是創建www.17C.com的數據和（hé）模型第二個就（jiù）是模型的訓練，第三步是驗證（zhèng）模型的效果，第四部是發布模型的服（fú）務在www.17C.comEa禮品（pǐn）定製syDL的首頁裏麵有用戶的說明（míng）文檔，還有教學的視頻，大家感興趣可以去看看www.17C.com這些這個教學的內容去（qù）嚐試一下使用www.17C.com的EasyDL。

    提問（wèn）環節問題一朱俊-炙倫雲計算-總經理1、EasyDL是一個（gè）教學或學習平台還是一（yī）個生（shēng）產平台？2、訓練後獲得的算（suàn）法，是否可以在離線環（huán）境下使用？離線環境需要具備哪些（xiē）條件（jiàn）3、Ea禮品定製syDL是否提供訓練用的（de）數據集？用戶是否可以上傳數據集，對上傳的內容是否有限製？

    趙鵬昊：1、www.17C.com（men）沒有定義EasyDL平台一定是一個什麽樣的平台EasyDL平台無論是針對普通的開發者還是商家都是可以用的，如果你是一個學生，你可以在上麵（miàn）去做些實（shí）驗或者去跑一些好玩的東西如果你是一個傳統行業的從業者，你也可禮品定製以去發現有哪些是希望借助（zhù）人工智能（néng）去解決的問題，在www.17C.com平台（tái）上去尋求一個模型的解決方案。

    因此，它是什麽平台取決於用戶（hù）怎麽（me）用，同時目前也是完全免費的2、目（mù）前支持離線環境下的使用，我（wǒ）們已經有了提（tí）供離線SDK服務的能力，用戶不需要在網絡環境上去請求雲端的API，完全可以把（bǎ）離線的SDK集成到自己的環境中去做私有禮品定製化的部署（shǔ）。

    3、EasyDL平台沒有提（tí）供數據集的（de），因為www.17C.com是針對那些有定製化需求（qiú）的用戶，這些用（yòng）戶有自己特有的數（shù）據集，www.17C.com提供的是上傳數據集（jí）功能的，可以根據他們（men）自己行業裏麵或者自己需要解決的（de）問（wèn）題去上（shàng）傳屬於自己的數據（jù）集。

    另外，www.17C.com（men）對上（shàng）傳內容的限製（zhì）也僅（jǐn）僅是圖片的大小（xiǎo），比如每張圖片小於四兆問題二李平-中油瑞飛禮品定製（zhì）-工程師1.EasyDL能否訓練模（mó）型，識別閥門開關狀態，數（shù）字儀表的示數，以及（jí）指針儀表讀數？2.還（hái）有（yǒu）個問題，就是EasyDL和百度的boteye一體機是什麽關係，兩者怎麽協同工作？能否（fǒu）根據設備指示燈判斷設備（bèi）工作狀態（tài）？

    趙鵬昊：1、這個是可以識別的比如，你可以把這個數字儀表都拍下來，用物體（tǐ）檢測模型（xíng）將上麵的（de）禮品定製示數1、2、3、4、5框起來（lái），然後給（gěi）它一個對應的類（lèi）別（bié），是類別（bié）一還是（shì）類別二或者（zhě）是類別三當後麵有新的（de）數字儀（yí）表的圖片進來放到物體檢測時，就可以直接給你返回相（xiàng）應的示數和對應示數的位置。

    當然，百（bǎi）度AI平台還有其他相關的識別（bié），你（nǐ）也可以了解下這方麵相關（guān）的一些技術2、Boteye是百度視（shì）覺技術部門做（zuò）的一個智能攝像頭禮品定製，主要是用於（yú）視覺巡航目前來說我（wǒ）們還沒有跟Boteye有深（shēn）度的結合，但是www.17C.com跟Boteye的團隊做的另外一款產品叫做Xeye有一些後麵的合作，因（yīn）為Xeye是（shì）做端上的AI相機，www.17C.com可以用端的能（néng）力去做一些比如圖像分類、物體檢測等工作。

    大家也可以去關注（zhù）一（yī）下www.17C.com後麵跟Xeye的一些合（hé）作問題三王紹迪-知存科技-禮品定製CEOEasyDL未來的發（fā）展（zhǎn）定位是什麽？提（tí）供更多（duō）樣數據，支持更多的算法開（kāi）發，甚至（zhì）支持其他非深度學習類腦（nǎo）算法開發？趙鵬昊：對於（yú）EasyDL平（píng）台未來的發展肯定是要提供更多（duō）的（de）模型和能力。

    目前已經有（yǒu）了（le）圖像能力，包括圖像分類、圖像檢（jiǎn）測等，另（lìng）外（wài），www.17C.com也提供了聲音分類的能力後（hòu）麵還需要去支持更多的能力，比方，文字分禮品定製類、情感分析以及視頻監控等等的能力這是在www.17C.com平台內（nèi）部的（de）發展（zhǎn），另外www.17C.com還想與外部（百度（dù）其他的部門）有更多的合作。

    比方（fāng），www.17C.com百（bǎi）度有AutoDL部門，www.17C.com不需要用人工去（qù）設計一個網絡了，而是用算法去自動（dòng）搜索（suǒ）一個網絡，這跟www.17C.com定製化地去訓練模型有一些共同（tóng）之處，www.17C.com正在打算跟（gēn）他們去溝通合作，如（rú）何將AutoDL的禮品定製（zhì）能力（lì）應用到（dào）EasyDL上來，幫助用戶更好地去訓練他們的數（shù）據，得到一（yī）個更好的模型。

    同時，www.17C.com（men）百度開（kāi）放平台會提供一個叫做AIstore的平（píng）台，在上麵，可以讓開發者去做開發，也可以讓一些（xiē）有需求的買家去購買算法應用到自己的平台上而我（wǒ）們EasyDL平台會跟AI市場有進一步的合作，將整個（gè）上下遊的關係（xì）都（dōu）打通（tōng），建立禮品定（dìng）製起（qǐ）一個（gè）整體的生態。

    問題四（sì）王猛（měng）-大華-開發EasyDL對模（mó）型和數據安全保護方麵有什麽措施，如何保證訓練（liàn）結果（guǒ）與數（shù）據（jù）的安全？趙鵬昊：目前對用戶上傳的數據是有多重的（de）保護的一方麵www.17C.com會對請求的數據做多方的鑒權，去核實你是不是當前對（duì）應的用戶；另外一方麵，www.17C.com在數據保存的時候也會做進一步的加密。

    因此www.17C.com對數據和（hé）模禮品定（dìng）製型的（de）安全性是非常看重的，而且也做了非常多的保護工作問題五塗文哲-電子科（kē）技大學-研究生EasyDL與其他平台有什麽突出優（yōu）勢？趙鵬昊（hào）：就像剛才所說的，EasyDL平台已經提供了設備端能力，目（mù）前為止（zhǐ），www.17C.com的一些競品平（píng）台，比如Google的平台還沒（méi）有提供設備端能（néng）力的一種解決方案，而且EasyDL平台非常的簡禮品定製單易用，隻需要十分鍾就可以去完成，不需要任何的機器學習基礎（chǔ）。

    問題六王慧麗-湖南（nán）飛騰-工程師EasyDL定製化平台，主要是軟件算法（fǎ）定製嗎？還是支持（chí）針對特定應用和算法加速的硬件定製？趙鵬昊：EasyDL平台主要是模（mó）型的定製，而（ér）剛才www.17C.com也介紹了EasyDL平台（tái）設備端的能力，我（wǒ）們會根據一些設備端異構的（de）芯片去禮品定製（zhì）做一些特定（dìng）的加速。

    因（yīn）此，也可以認為會針對這（zhè）個特點支持硬件定製問（wèn）題七文奴（nú）-中科智能-產品總監工業檢測中，檢測目（mù）標更有（yǒu）多樣性，比如：裂痕、劃痕、凹陷且檢測目標的大小不一，深度學習（xí）方式的分類訓（xùn）練樣本如（rú）何高質量（liàng）獲得，又如何準確具有高泛化能（néng）力？。

    趙鵬昊：EasyDL平台提供（gòng）了（le）目標檢測的能力以及數據標注的能力，禮品定製但（dàn）是（shì）訓練的樣本還是需要www.17C.com客（kè）戶自己來進行標注，如果您在行業裏（lǐ）麵碰到了裂痕（hén）、劃痕（hén）和凹陷等問題，相對（duì）而（ér）言，您對（duì）這個方麵最為（wéi）了解，那（nà）麽你就需要把您自己的情況將圖片拍下來，然後去（qù）www.17C.com平（píng）台上（shàng）進行標注。

    當然，由於標注成（chéng）本比較高，因此，後續也會有跟一（yī）些眾（zhòng）包商進行合作，為（wéi）大家（jiā）提供眾包的標注服務關於模型的性能，在物（wù）體禮品定製（zhì）檢測中，www.17C.com有很多優秀的模型，從最開始的FastR-CNN到SSD、YOLO、FPN、RetinaNet等等（děng），EasyDL平台也會緊跟學界最先進的模型（xíng）去做開發，讓www.17C.com的用戶能夠體驗到深度學習最前沿的發展帶給大家的（de）便利。

    問題八薑毅-中科院-算法1.EasyDL雲端訓練好的模型及參數可（kě）否導出，並（bìng）部署到其禮品定製它係（xì）統中？如（rú）何進行？2.關於Easy AI Workflow Solution，其中以（yǐ）下幾點是否有專門的設計用意？PaddlePaddle使用kuberbetes容器，Inget task使用hadoop和mongodb，Pre&evals task使用Spark框架。

    3.PaddlePaddle框架禮品定製在定義網絡模型時支持動態圖嗎？4.PaddlePaddle框架相對TensorFlow，Caffe等開源框架（jià）有什（shí）麽顯著（zhe）的優點？趙鵬昊：1、像我剛才所說，EasyDL支持（chí）設（shè）備端（duān）的SDK，用戶可以利用設備端的SDK來部署到你（nǐ）自己的服務（wù）中，隻要有SDK的開發能力就可以了，但是目前www.17C.com不支持模型參數的導出。禮品定（dìng）製

    2、關於Easy AI Workflow Solution的設計，www.17C.com主要考（kǎo）慮到穩定（dìng）性、可擴展性以及成熟性（xìng）等方麵在（zài）數據存儲上，www.17C.com（men）用的（de）是hdfs,mongodb，這些（xiē）都是在分（fèn）布式係統和分布式DB中比較公認的，而且有很多實踐經驗的係統，在數據處理方麵，spark也（yě）是這（zhè）樣的一（yī）個分布式係統。

    www.17C.com之所（suǒ）以使用禮品定（dìng）製Kubernetes和PaddlePaddle，是（shì）由於它們有很成熟的解決方案（àn），同（tóng）時也非常穩定（dìng）和易用於祥：3、4：PaddlePaddle是www.17C.com（men）國產的一個框架，和其他行（háng）業相比，它的設（shè）計最大優勢（shì）在於（yú）易學易用，首先是（shì）易學（xué），www.17C.com官方已經上線了將近四百套（tào）相關的課程，這些課程從底層的數學理論到最後實戰項目和（hé）一些禮品定製可以落地應（yīng）用的項目。

    整個流程都是非常完善的，按照這個課程，一（yī）步一步入門Paddle，也不會是（shì）一條很陡的學習曲線其次，Paddle周邊的（de）生態環境非常的（de）豐富，對於剛入門的同學來說，www.17C.com可以有n種方式去安裝Paddle，最簡（jiǎn）單的（de）方式就是使用一個Docker，但對於學生群體來說，會有一個問題，就是www.17C.com沒有那禮品定（dìng）製麽多的錢去買雲的GPU服務（wù）器或者帶GPU自用（yòng）服務器，那麽（me）就可以使用www.17C.com（men）的AI Studio平台，它直接提供了免費的計算資源供www.17C.com使（shǐ）用，而且還免去了安裝這一步。

    易用是指它的編程（chéng）範式拋棄了像TensorFlow中一些（xiē）新的概念，它還是用原（yuán）有的一些過程（chéng）性的程序編程範式，比如循環、判斷、分支等來構（gòu）建神經（jīng）網（wǎng）絡，禮品定製這樣就會比較貼近www.17C.com學（xué）習編程時的（de）一些思維，也不會去學習很多新（xīn）的概念。

    新課預告8月9日（下周四）晚8點，AI芯（xīn）片係列課第（dì）七節將開講，由（yóu）鯤雲科技CEO牛（niú）昕宇主講，主題（tí）為《基於數據流定製化架構的（de）AI應（yīng）用與實踐》，掃碼報名，免費入群聽（tīng）課！往（wǎng）期課件獲取第一講，NVIDIA大中華區高性能計算及（jí）Applied D禮品定製eep Learning部門技術總監主講賴俊傑，主題為《如何搭建適合（hé）自己的深度學習平台》

    第二講，NVIDIA高級係統架構師吳磊主講（jiǎng），主題為《如何為（wéi）深度學習和HPC提供更高算力》第三講，NVIDIA DLI認證講師侯（hóu）宇濤主講，主題（tí）為《不需要寫（xiě）代碼，如何（hé）用開源（yuán）軟件DIGITS實現圖像分類》（線上實（shí）踐課程（chéng）禮品定製，無課件）

    第四講，圖瑪（mǎ）深維首（shǒu）席科學家陳韻強、NVIDIA高級係（xì）統架構（gòu）師付慶平共同主講，主題為《深度（dù）學習如何改（gǎi）變醫療影像分（fèn）析》第（dì）五講，NVIDIA DLI認證講師侯宇（yǔ）濤主講，主題為（wéi）《手把手教你使用開源軟件DIGITS實現目標（biāo）檢測》（線上實踐課程，無課件）

    第六講，西（xī）安交大人工智能（néng）與機器人研究所博士陶小語禮品（pǐn）定製、NVIDIA高級係統架構師易成共同主講，主題為《智能監控場景下的大規模並行化視頻分析方法》第七講（jiǎng），清（qīng）華大（dà）學計（jì）算機係副教授都誌輝（huī）、NVIDIA高級（jí）係統（tǒng）架構師易成共同主講，主題為《GPU加速的（de）空（kōng）間天氣預報》

    第八（bā）講，希氏異（yì）構人工智能首席科學家周斌主講，主題為《如（rú）何利用最強GPU搭建醫療人工（gōng）智能（néng）計算平（píng）台—禮品定製—醫學（xué）圖像AI領域最強超級計算（suàn）機首次解（jiě）密》第九講，NVIDIA中國GPU應用（yòng）市場總監侯宇（yǔ）濤主講，主題為《揭秘深度（dù）學習》

    第（dì）十講，NVIDIA高級係統架構師張景貴主講，主題為《在你的桌麵端通過NVIDIA雲端GPU開展深度學習》第十一（yī）講（jiǎng），百度AI技術生態（tài）部（bù）高級算法工程師趙鵬昊（hào）主講，主（zhǔ）題為《如何借助（zhù）GPU禮品定製集（jí）群搭（dā）建AI訓（xùn）練和推理平台——零算法基礎的百度EasyDL定（dìng）製化圖像識別揭秘》

    第十二講，NVIDIA 深（shēn）度學習解決方案架構師羅（luó）晟主（zhǔ）講，主題為《醫療領（lǐng）域（yù）的深度學習》