摘要：在7月14日Washington Redmond的Microsoft Research Faculty Summit上，微軟研究團(tuán)隊(duì)宣稱他們已經(jīng)通過Adam深度學(xué)習(xí)系統(tǒng)實(shí)現(xiàn)新的記錄。同負(fù)載下，對(duì)比Google Brain，訓(xùn)練只需1/30的機(jī)器和1/2的時(shí)間。
【編者按】談到人工智能、神經(jīng)網(wǎng)絡(luò)，人們首先想到的往往就是Google，這有一大部分原因是基于搜索巨頭當(dāng)下的業(yè)務(wù)。然而微軟近日的一則報(bào)告顯示，該公司圖像識(shí)別項(xiàng)目Project Adam可以在更少資源下，更快的完成分析——1/30機(jī)器，1/2的時(shí)間。
免費(fèi)訂閱“CSDN云計(jì)算”微信公眾號(hào)，實(shí)時(shí)掌握手云中消息！
CSDN作為國內(nèi)專業(yè)的云計(jì)算服務(wù)平臺(tái)，提供云計(jì)算、大數(shù)據(jù)、虛擬化、數(shù)據(jù)中心、OpenStack、CloudStack、Hadoop、Spark、機(jī)器學(xué)習(xí)、智能算法等相關(guān)云計(jì)算觀點(diǎn)，云計(jì)算技術(shù)，云計(jì)算平臺(tái)，云計(jì)算實(shí)踐，云計(jì)算產(chǎn)業(yè)資訊等服務(wù)。
以下為譯文
微軟的新人工智能系統(tǒng)，圖像識(shí)別項(xiàng)目Project Adam，基于各種狗圖片的數(shù)據(jù)集
我們進(jìn)入了一個(gè)新的人工智能時(shí)代。
時(shí)至今日，包括Google、Facebook、微軟、Apple等頂級(jí)技術(shù)公司都在通過“深度學(xué)習(xí)”大力發(fā)展人工智能，以尋求各個(gè)領(lǐng)域提升，代表性應(yīng)用包括語音識(shí)別、語言轉(zhuǎn)換及計(jì)算機(jī)視覺。 在人工智能新篇章中，谷歌一般被認(rèn)為是先行者，近日該公司更聘請(qǐng)了深度學(xué)習(xí)運(yùn)動(dòng)核心研究員——多倫多大學(xué)的Geoff Hinton。此前，Google還曾多次展示AI技術(shù)對(duì)真實(shí)世界應(yīng)用的提升作用，其中包括深度學(xué)習(xí)對(duì)語音搜索及安卓智能設(shè)備的改進(jìn)，更在語音識(shí)別與計(jì)算機(jī)視覺領(lǐng)域留下多項(xiàng)紀(jì)錄。
在7月14日Washington Redmond的Microsoft Research Faculty Summit上，微軟研究團(tuán)隊(duì)宣稱他們已經(jīng)通過Adam深度學(xué)習(xí)系統(tǒng)把機(jī)器學(xué)習(xí)帶入了新的紀(jì)元。通過微軟了解到，對(duì)比之前的系統(tǒng)，Adam在圖像識(shí)別上將達(dá)到兩倍的速度（基于狗或植被數(shù)據(jù)集的訓(xùn)練），然而只使用了不到三十分之一的機(jī)器。微軟研究院負(fù)責(zé)人Peter Lee稱，Adam旨在建立大的大腦。Peter Lee還透露，在一個(gè)稱為ImageNet 22K的基準(zhǔn)測(cè)試中，Adam的神經(jīng)網(wǎng)絡(luò)性能已高于Google Brain公布的數(shù)據(jù)。這個(gè)測(cè)試基于2.2萬個(gè)類型的圖片上，其中包括Google Brain。
Adam項(xiàng)目團(tuán)隊(duì)：Karthik Kalyanaraman、Trishul Chilimbi、Johnson Apacible、Yutaka Suzue（從左至右）
微軟稱Adam新深度學(xué)習(xí)算法的目的不是為了打敗Google，其中的關(guān)鍵在于探索更好的優(yōu)化讓機(jī)器能更好地處理數(shù)據(jù)。
Adam工作原理
類似其他的深度學(xué)習(xí)系統(tǒng)，Adam運(yùn)行在一個(gè)標(biāo)準(zhǔn)服務(wù)器陣列上，資源通過Azure組織。深度學(xué)習(xí)旨在通過神經(jīng)網(wǎng)絡(luò)建立更類似大腦的思維方式，通常情況下組件神經(jīng)元需要大量的服務(wù)器。而對(duì)比常見的神經(jīng)網(wǎng)絡(luò)，Adam大的特點(diǎn)是使用了異步模式。
隨著計(jì)算系統(tǒng)變得越來越復(fù)雜，系統(tǒng)內(nèi)機(jī)器間的信息交互已成為難點(diǎn)，異步機(jī)制無疑可以緩解這個(gè)問題。本質(zhì)上說，異步是將整個(gè)系統(tǒng)拆解為可獨(dú)立運(yùn)作單元，同時(shí)在需要時(shí)又可以作為一個(gè)整體共享資源。然而問題就在于，雖然這個(gè)技術(shù)可以在手機(jī)和平板上工作良好（計(jì)算分布在不同的計(jì)算機(jī)芯片上），但是在大規(guī)模服務(wù)器場景下卻并不如人意，已成為許谷歌等多大型公司（包括）攻克的難關(guān)。在Adam內(nèi)，微軟使用了威斯康星大學(xué)開發(fā)的技術(shù)——“HOGWILD! ”。
HOGWILD! 初始設(shè)計(jì)是為了保證同一臺(tái)計(jì)算機(jī)中各個(gè)芯片的獨(dú)立運(yùn)行，甚至可以保證不同芯片在同一處內(nèi)存中寫入時(shí)不會(huì)發(fā)生覆蓋。HOGWILD! 的使用并不常見，因?yàn)椴煌瑱C(jī)器同時(shí)寫入會(huì)導(dǎo)致數(shù)據(jù)沖突（覆蓋寫入），然而也不排除一些例外，比如計(jì)算系統(tǒng)越小，HOGWILD!引發(fā)沖突的幾率就越低。Adam無疑讓HOGWILD!的運(yùn)用更加深入，讓它適用于整個(gè)神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)集群。微軟Adam項(xiàng)目研究院Chilimbi表示，微軟讓HOGWILD的使用場景變得更加廣泛，讓異步進(jìn)行的更加深入。
雖然神經(jīng)網(wǎng)絡(luò)的密集度更高，數(shù)據(jù)沖突的概率更大，但是如果系統(tǒng)可以處理同一計(jì)算同時(shí)返回結(jié)果的情景，沖突就可以避免。其原理就在于，當(dāng)機(jī)器修改主服務(wù)器時(shí)，往往進(jìn)行的都是增量更新。微軟表示這個(gè)設(shè)置可以讓神經(jīng)網(wǎng)絡(luò)更快及更準(zhǔn)確的完成訓(xùn)練，比如說圖像識(shí)別。百度首席科學(xué)家Andrew Ng表示，這是一個(gè)積極的策略，它將節(jié)省大量的計(jì)算資源。
令A(yù)ndrew興奮的是，Adam運(yùn)行的基礎(chǔ)是CPU而不是GPU，Andrew表示，當(dāng)下許多神經(jīng)網(wǎng)絡(luò)系統(tǒng)使用GPU來避免通信瓶頸，Adam走出了一個(gè)不同的道路，這才是有價(jià)值的事情。
神經(jīng)網(wǎng)絡(luò)能處理大量的數(shù)據(jù)，但是他們卻需要跨越更多CPU。另一種選擇是使用GPU，它可以更快速處理數(shù)據(jù)，但是問題在于，通信系統(tǒng)遠(yuǎn)遠(yuǎn)承受不了GPU的數(shù)據(jù)輸出，這也是許多人認(rèn)為GPU不適合當(dāng)下神經(jīng)網(wǎng)絡(luò)規(guī)模的原因。
HOGWILD!究如何
微軟當(dāng)下對(duì)Adam的贊賞可見一斑，但是許多專家認(rèn)為這個(gè)系統(tǒng)的建立思路與谷歌并沒有什么不同。在不知曉網(wǎng)絡(luò)調(diào)教的情況下，很難清楚微軟使用什么方法達(dá)到了所公布的性能。因?yàn)檫`背常理，微軟的研究顯然讓人更加有興趣，Matt Zeiler（Clarifai創(chuàng)始人，原Google Brain項(xiàng)目成員）表示。他認(rèn)為，Adam準(zhǔn)確性的提升應(yīng)該來自機(jī)器數(shù)量增加，在更多HOGWILD! 的研究后，微軟是否是贏家這個(gè)謎底顯然會(huì)被揭開。
微軟研究院負(fù)責(zé)人Peter表示，項(xiàng)目當(dāng)下還處于初期狀態(tài)，只部署在一個(gè)內(nèi)部APP上，它可以在你拍攝某個(gè)物體后識(shí)別它的照片是否已存在你手機(jī)上。微軟研究院負(fù)責(zé)人Peter曾用它識(shí)別狗和bug是否為病毒。雖然暫時(shí)還未有App的公布計(jì)劃，但是微軟研究院負(fù)責(zé)人Peter更看好它在電子商務(wù)、機(jī)器人以及情緒分析領(lǐng)域的前景，微軟更基于Adam是否能提高FPGA做了相關(guān)探索。
FPGA表示Adam有希望成為“機(jī)器智能”未來的一部分，雖然神經(jīng)網(wǎng)絡(luò)的成熟應(yīng)用可能還需等幾十上百年，但毫無疑問的是，科學(xué)一直在進(jìn)步。（更多內(nèi)容見原文視頻）
原文鏈接： Microsoft Challenges Google’s Artificial Brain With ‘Project Adam
本站文章版權(quán)歸原作者及原出處所有 。內(nèi)容為作者個(gè)人觀點(diǎn)， 并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。本站是一個(gè)個(gè)人學(xué)習(xí)交流的平臺(tái)，網(wǎng)站上部分文章為轉(zhuǎn)載，并不用于任何商業(yè)目的，我們已經(jīng)盡可能的對(duì)作者和來源進(jìn)行了通告，但是能力有限或疏忽，造成漏登，請(qǐng)及時(shí)聯(lián)系我們，我們將根據(jù)著作權(quán)人的要求，立即更正或者刪除有關(guān)內(nèi)容。本站擁有對(duì)此聲明的最終解釋權(quán)。
