進(jìn)步AI核算才能,為企業(yè)提供更好和更多的定制化處理計(jì)劃是全球人工智能范疇重視熱點(diǎn)。美國拉斯維加斯時(shí)刻1月8日2019CES開幕,百度地圖標(biāo)注的AI核算體系展臺(tái)前人氣火爆,這是百度全球搶先的AI核算體系首次露臉國際舞臺(tái),觀眾和全球媒體把目光紛紛聚集于此,期望透過百度這家我國AI“頭雁”企業(yè),感受我國在AI范疇的立異實(shí)力。
百度AI核算體系展臺(tái)具有的超強(qiáng)AI實(shí)力體系,包含了百度自主研制的最新超級(jí)AI核算渠道X-MAN3.0和支撐百度AI核算層面的FAST-F AI存儲(chǔ)體系、百度AI核算練習(xí)渠道KongMing、AI推理加快引擎Anakin等軟件,效勞于百度查找、DuerOS、Apollo、百度智能云等中心事務(wù)。 算法、數(shù)據(jù)和核算是推動(dòng)AI深度學(xué)習(xí)技能快速開展的三大要素。在人工智能運(yùn)用場景和規(guī)�？焖匍_展的背面,為支撐更強(qiáng)的泛化才能,更高的猜測精度,算法模型日趨雜亂,越來越多的數(shù)據(jù)需求被及時(shí)標(biāo)示和處理,核算功能成為要害。圖像分析的樣本量級(jí)大約為百億級(jí),而語音分析也達(dá)到了十萬小時(shí)級(jí)。練習(xí)數(shù)據(jù)樣本量越來越大,且主要是小文件,對(duì)存儲(chǔ)體系的成本和功能都提出了很大應(yīng)戰(zhàn)。最新的算法開展比方Deep Speech、BERT對(duì)整個(gè)核算需求所形成的應(yīng)戰(zhàn)變得更大,一起AutoDL等技能在簡化模型研制規(guī)劃的一起也對(duì)算力提出了更高的要求,因此針對(duì)AI場景需求一整套核算體系,包含支撐海量小文件高速拜訪的并行文件體系、AI核算機(jī)、大規(guī)模分布式練習(xí)渠道以及在線效勞推理結(jié)構(gòu),這正是百度AI核算體系要處理的應(yīng)戰(zhàn),提高整個(gè)核算體系的功能與功率進(jìn)步尤為重要。
在百度AI核算體系展臺(tái)最受矚目的超級(jí)AI核算渠道X-MAN3.0,就是專為AI深度學(xué)習(xí)場景優(yōu)化規(guī)劃,極大加快了AI深度學(xué)習(xí)模型的練習(xí)速度。還專門規(guī)劃了兩級(jí)AI加快芯片互聯(lián)交換體系,是目前擴(kuò)展AI加快器數(shù)量最多的AI核算渠道之一,單機(jī)功能可達(dá)到2000 TOPS,可以為百度超大規(guī)模AI練習(xí)帶來超出預(yù)期的運(yùn)用價(jià)值。隨著AI人工智能技能的快速開展,許多AI芯片公司應(yīng)運(yùn)而生,AI芯片格式正呈現(xiàn)多元化開展趨勢。X-MAN3.0采用了硬件體系模塊化、互聯(lián)接口標(biāo)準(zhǔn)化、互聯(lián)拓?fù)涓哽`敏性的規(guī)劃思路,既提高了多元化AI加快芯片的兼容性,也促進(jìn)了AI加快芯片生態(tài)健康、快速、可繼續(xù)的開展。
憑借著對(duì)AI事務(wù)模型的深刻理解、扎實(shí)的硬件根底架構(gòu)技能和對(duì)職業(yè)趨勢的精確預(yù)判,百度規(guī)劃了X-MAN AI核算渠道系列產(chǎn)品,發(fā)明了6項(xiàng)業(yè)界第一,包含單機(jī)16卡、支撐64卡擴(kuò)展、硬件解耦、資源池化、無損通訊、液冷散熱等,一起期要害技能&功能保持搶先,引領(lǐng)職業(yè)開展趨勢。該系列技能也獲得了2018年我國國家專利技能優(yōu)秀獎(jiǎng)。
百度X-MAN的面世與升級(jí)為人工智能范疇處理算力提高問題做出了重要貢獻(xiàn),成為人工智能開展真實(shí)的加快器。目前,X-MAN系列產(chǎn)品已在百度完成規(guī)模化布置,廣泛運(yùn)用于語音辨認(rèn)、核算機(jī)視覺、天然語音處理、無人車等根底AI技能的深度學(xué)習(xí)模型練習(xí);X-MAN與FAST-F AI存儲(chǔ)體系、百度AI核算練習(xí)渠道KongMing一起構(gòu)建了端到端的練習(xí)計(jì)劃,將練習(xí)時(shí)刻從周級(jí)別縮短到天級(jí)別,效勞于百度DuerOS、Apollo、百度智能云等中心事務(wù),助力百度AI戰(zhàn)略的快速落地。
AI推理加快引擎Anakin是另一個(gè)招引了許多業(yè)界重視的百度AI產(chǎn)品。它處理的痛點(diǎn)是可以跨過不同的深度學(xué)習(xí)練習(xí)結(jié)構(gòu)。近幾年,為了處理AI核算力提高問題,業(yè)界出現(xiàn)出了許多優(yōu)秀的處理計(jì)劃。但是帶來的問題是,不同練習(xí)結(jié)構(gòu)需求的運(yùn)營環(huán)境不同。這意味著每個(gè)練習(xí)結(jié)構(gòu)在每個(gè)硬件渠道下都需求各建立一套運(yùn)行環(huán)境,乃至還有些結(jié)構(gòu)是不支撐某些硬件渠道的。他們之間的不互通,使得許多AI運(yùn)用落地受到了阻止。
Anakin主要由獨(dú)立的Parser、靈敏的Framework和高效的Saber核算庫三部分組成。獨(dú)立的Parser完成了將不同練習(xí)結(jié)構(gòu)生成的model轉(zhuǎn)換為Anakin核算圖的解析功能,它支撐任何練習(xí)結(jié)構(gòu)生成的model解析,屏蔽了不同練習(xí)結(jié)構(gòu)的差異。靈敏的Framework屏蔽了底層硬件的差異,用于完成與硬件無關(guān)的一切操作,如網(wǎng)絡(luò)構(gòu)建、圖融合、資源復(fù)用、核算調(diào)度等操作,方便用戶運(yùn)用。高效的Saber核算庫是由很多的匯編級(jí)優(yōu)化代碼組成,支撐許多業(yè)界產(chǎn)品,如Intel-CPU、NV-GPU、AMD-GPU和ARM等。
Anakin不僅一起支撐CPU和GPU base的多種主流核算架構(gòu)(如X86/ARM、以及多種GPU架構(gòu)),還一起支撐兩款最新的NPU架構(gòu)(寒武紀(jì)和比特大陸)。 Anakin盡可能為開發(fā)者屏蔽異構(gòu)核算的差異,方便用戶快速布置、享受杰出功能。
目前Anakin已在百度查找、百度地圖標(biāo)注、百度無人車、人臉閘機(jī)、全民小視頻等許多百度明星產(chǎn)品中實(shí)際落地,是真實(shí)的經(jīng)歷過大規(guī)模工業(yè)布置考驗(yàn)的AI推理加快引擎。
百度AI核算體系作為AI核算根底技能處理計(jì)劃,也一起運(yùn)用到了百度智能云的AI相關(guān)產(chǎn)品中,比方百度智能云GPU云主機(jī)、百度智能云Infinite AI開發(fā)渠道、百度智能云ABC一體機(jī)等,使各行各業(yè)都能享受到百度AI核算根底技能立異帶來的紅利。