人工智能(AI)已經(jīng)大規(guī)模地出現(xiàn)在人們的視野中,這項(xiàng)技術(shù)正在從數(shù)據(jù)中心擴(kuò)散到廣泛的分布式位置,這是由更強(qiáng)大的處理器和更創(chuàng)新的算法實(shí)現(xiàn)的。但其他技術(shù)也需要跟上步伐,否則就有可能成為瓶頸。
美光科技公司工業(yè)部門主管David Henderson在接受行業(yè)媒體采訪時(shí)表示,人工智能應(yīng)用的快速發(fā)展需求,特別是在網(wǎng)絡(luò)邊緣和板載連接設(shè)備方面,將對(duì)支持這些應(yīng)用的內(nèi)存提出更高的要求。
你能告訴我一些你在美光的角色,以及你在人工智能領(lǐng)域看到的趨勢(shì)嗎?
David Henderson:我領(lǐng)導(dǎo)美光的工業(yè)和多市場(chǎng)部門,專注于使用我們廣泛的內(nèi)存和存儲(chǔ)解決方案組合的各種工業(yè)應(yīng)用。這是一個(gè)極其分散的領(lǐng)域,包括視頻安全、工廠自動(dòng)化、醫(yī)療設(shè)備、零售應(yīng)用、運(yùn)輸、航空航天和國(guó)防應(yīng)用等應(yīng)用。
在我的角色中,我看到人工智能在工業(yè)領(lǐng)域獲得了強(qiáng)大的吸引力,包括在邊緣和車載設(shè)備上。很明顯,人工智能最終將出現(xiàn)在幾乎所有工業(yè)設(shè)備上?,F(xiàn)在,我們?nèi)匀惶幱谶@個(gè)充分市場(chǎng)潛力的山腳下,但即使是現(xiàn)在,人工智能也正在迅速被應(yīng)用于核心工業(yè)和制造設(shè)備。
美光的使命是緊跟市場(chǎng)上最新的處理器和專用集成電路,確保美光內(nèi)存產(chǎn)品組合的發(fā)展符合下一代處理器和人工智能加速器的需求,以及它們將在新環(huán)境中支持的更復(fù)雜的人工智能系統(tǒng)。
所以人工智能處理器和內(nèi)存必須攜手并進(jìn),才能最有效地釋放新的創(chuàng)新人工智能算法的潛力?
David Henderson:內(nèi)存是任何AI解決方案的關(guān)鍵部分。從歷史上看,大多數(shù)人工智能處理都發(fā)生在云數(shù)據(jù)中心的背景下,但它越來(lái)越多地?cái)U(kuò)散到邊緣和車載物聯(lián)網(wǎng)(IoT)以及其他連接設(shè)備。隨著人工智能遷移到邊緣,這些位置對(duì)高性能內(nèi)存的需求也在增加?,F(xiàn)在,我們看到一系列的人工智能解決方案已經(jīng)延伸到網(wǎng)絡(luò)的邊緣,從推理開(kāi)始,到邊緣的訓(xùn)練。
這些應(yīng)用程序可以釋放的好處可能是深遠(yuǎn)的。邊緣人工智能可以顯著降低支持人工智能設(shè)備所需的通信帶寬,同時(shí)實(shí)現(xiàn)對(duì)這些設(shè)備的任何連接系統(tǒng)的實(shí)時(shí)反饋。在許多情況下,這些類型的更改既可以降低成本,也可以增加人工智能支持的任何用例的收入。
未來(lái)還會(huì)有更多。生成型人工智能還沒(méi)有在邊緣廣泛部署,當(dāng)然在工業(yè)設(shè)備的背景下,但它的時(shí)代將會(huì)到來(lái)。當(dāng)這種情況發(fā)生時(shí),就存儲(chǔ)參考數(shù)據(jù)的內(nèi)存密度和必須與處理器交換數(shù)據(jù)的帶寬而言,對(duì)內(nèi)存的需求將顯著增加。
除非我們提前計(jì)劃,否則我們可能會(huì)發(fā)現(xiàn)自己處于分布式物聯(lián)網(wǎng)和其他連接設(shè)備的內(nèi)存成為限制的情況。因此,關(guān)鍵是要關(guān)注這一細(xì)分市場(chǎng)的新興需求,并應(yīng)對(duì)與不斷增長(zhǎng)的模型尺寸、不斷增加的帶寬需求、更低的功耗以及向前沿技術(shù)節(jié)點(diǎn)發(fā)展相關(guān)的特定限制。
這些發(fā)展對(duì)美光有什么影響?
David Henderson:人工智能是美光持續(xù)轉(zhuǎn)型的主要驅(qū)動(dòng)力之一。從根本上說(shuō),我們迫切需要匹配我們?yōu)楦鞣N潛在用例提供的各種內(nèi)存解決方案。
以監(jiān)控?cái)z像頭的視頻分析為例。低級(jí)解決方案可能包含基本的檢測(cè)和分類。與此同時(shí),更復(fù)雜的解決方案可能包括面部識(shí)別和行為分析,而最復(fù)雜的解決方案(截至目前)可能會(huì)擴(kuò)展到包括上下文分析。這些都是人工智能解決方案,但支持這些解決方案所需的計(jì)算能力差異很大,以每秒幾次操作(TOPS)為標(biāo)準(zhǔn)。為了跟上更快的處理器,對(duì)內(nèi)存數(shù)據(jù)處理的需求也相應(yīng)發(fā)生了變化,低端標(biāo)準(zhǔn)攝像機(jī)的內(nèi)存數(shù)據(jù)處理速度為4倍,而當(dāng)今更復(fù)雜的安全視頻分析解決方案的內(nèi)存數(shù)據(jù)處理速度可達(dá)16倍。
這種視頻分析應(yīng)用程序只是一個(gè)例子。還有其他人工智能應(yīng)用本質(zhì)上不那么復(fù)雜,可能比視頻安全應(yīng)用更復(fù)雜。例如,當(dāng)機(jī)器視覺(jué)分析被部署到制造生產(chǎn)線的環(huán)境中以支持質(zhì)量保證時(shí),它突出了對(duì)本地監(jiān)督學(xué)習(xí)的潛在需求。這是一個(gè)全新的復(fù)雜程度,有相關(guān)的處理和內(nèi)存帶寬要求。美光優(yōu)先與客戶合作,了解他們的計(jì)算需求,并引導(dǎo)他們了解內(nèi)存技術(shù)的細(xì)微差別,以優(yōu)化他們的解決方案。內(nèi)存密度、功耗和內(nèi)存帶寬吞吐量的規(guī)格對(duì)于單個(gè)用例至關(guān)重要,美光投資于研究和開(kāi)發(fā)以交叉優(yōu)化這些參數(shù)。
展望未來(lái),你認(rèn)為這個(gè)領(lǐng)域會(huì)如何發(fā)展?
David Henderson:我們肯定會(huì)看到人工智能部署的顯著和持續(xù)的增長(zhǎng),無(wú)論是在傳統(tǒng)工業(yè)系統(tǒng)的擴(kuò)展方面,還是在我們過(guò)去從未見(jiàn)過(guò)的新用例中的創(chuàng)新采用方面。在邊緣利用生成式人工智能和大型語(yǔ)言模型(LLM)作為行業(yè)數(shù)字化轉(zhuǎn)型的一部分,只會(huì)繼續(xù)凸顯對(duì)更多數(shù)據(jù)的需求,其中內(nèi)存和存儲(chǔ)是關(guān)鍵組件。
在許多情況下,人工智能可以實(shí)現(xiàn)更高的產(chǎn)量、更長(zhǎng)的正常運(yùn)行時(shí)間、更高的效率和更高的質(zhì)量。它確實(shí)可以在零售、運(yùn)輸和遠(yuǎn)程保健等不同部門發(fā)揮作用,以更少的成本和資源實(shí)現(xiàn)更好的結(jié)果。
人工智能的潛力是巨大的。即使是今天所做的事情也產(chǎn)生了深遠(yuǎn)的影響,但這只是冰山一角。看到記憶在解鎖與人工智能相關(guān)的這些未來(lái)好處方面發(fā)揮的作用,真是令人興奮。