|
標(biāo)簽：服務(wù)器，人工智能，IBM，
IBM昨日(8月7日)發(fā)布了一項(xiàng)新技術(shù)，該技術(shù)可以通過應(yīng)用大量強(qiáng)大的硬件來完成分布式深度學(xué)習(xí)(DDL)系統(tǒng)的訓(xùn)練。它的工作原理是優(yōu)化運(yùn)行深度神經(jīng)網(wǎng)絡(luò)的硬件組件之間的數(shù)據(jù)傳輸。
IBM試圖解決的關(guān)鍵問題是分布式深度學(xué)習(xí)系統(tǒng)中的網(wǎng)絡(luò)瓶頸問題。雖然有可能將計(jì)算負(fù)載分散到許多計(jì)算機(jī)上，但由于在實(shí)際計(jì)算中硬件之間的高延遲連接，這個(gè)過程會(huì)變得越來越低效。
PowerAI DDL是一種新的通信庫，它與一篇解釋性研究論文聯(lián)合發(fā)布，目的是為了提高效率，確保運(yùn)行中的系統(tǒng)能夠充分利用所有可用的高性能連接。通過使用PowerAI DDL，IBM能夠在50分鐘內(nèi)，使用64臺(tái)具有4個(gè)GPU的服務(wù)器，在ImageNet數(shù)據(jù)集上訓(xùn)練流行的Resnet-50深度神經(jīng)網(wǎng)絡(luò)。
擁有足夠硬件的組織能夠充分利用PowerAI DDL的能力，可以明顯看到，數(shù)據(jù)科學(xué)家們等待實(shí)驗(yàn)運(yùn)行結(jié)果的時(shí)間會(huì)大大縮減。實(shí)驗(yàn)運(yùn)行得更快，科學(xué)家們就可以做更多實(shí)驗(yàn)，也將會(huì)產(chǎn)生更好的結(jié)果。
IBM的通信庫正在作為其PowerAI軟件包的一部分發(fā)布，它允許數(shù)據(jù)科學(xué)家和工程師在該公司的高性能Power Systems服務(wù)器上執(zhí)行機(jī)器學(xué)習(xí)任務(wù)。為進(jìn)行測試，該公司使用了64臺(tái)Power8 S822LC服務(wù)器，每臺(tái)都有4個(gè)Nvidia Tesla p100-sxm2 GPU。
這是套硬件很昂貴，但對(duì)于那些非常需要高性能人工智能計(jì)算而且不怕燒錢的企業(yè)來說，這算不了什么�；蛟S，這可能正是醫(yī)療行業(yè)所需要的。
這項(xiàng)技術(shù)通過PowerAI發(fā)布，可以讓人們更容易地獲得IBM的研究成果，因?yàn)樗c現(xiàn)有的一款軟件集成在一起，該軟件需在Power Systems硬件上運(yùn)行。
不過，:IBM只是為自己的硬件發(fā)布了PowerAI DDL，且不會(huì)將系統(tǒng)的代碼作為開放源碼項(xiàng)目來使用，因此它無法在其他平臺(tái)上實(shí)現(xiàn)。
|
