AI服務(wù)器嚴(yán)重缺貨造成價格上漲是為什么？AI服務(wù)器價格上漲給相關(guān)企業(yè)帶來困境AI 服務(wù)器價格上漲給相關(guān)企業(yè)帶來了成本壓力和出貨量下降的困境。一方面，對于AI服務(wù)器生產(chǎn)商來說，由于核心零部件GPU價格上漲和供應(yīng)緊張，導(dǎo)致其生產(chǎn)成本增加和出貨量受限。另一方面，對于AI服務(wù)器使用者來說，例如云服務(wù)商和終端用戶，由于AI服務(wù)器價格上漲和供應(yīng)不足，導(dǎo)致其使用成本增加和算力資源匱乏。
據(jù)行業(yè)媒體報道，“現(xiàn)在英偉達(dá)GPU嚴(yán)重缺貨，服務(wù)器廠商缺少核心零部件，一定程度上影響了相關(guān)企業(yè)的出貨量?！倍鵀榱藨?yīng)對增加的訂單量，英偉達(dá)也向臺積電追加預(yù)訂1萬片先進(jìn)封裝產(chǎn)能，以滿足AI頂級規(guī)格芯片的生產(chǎn)。但這些措施仍然難以解決短期內(nèi)的供需矛盾。另外，在國內(nèi)可用于訓(xùn)練AI大模型的A100大約有4萬~5萬個，供應(yīng)相當(dāng)吃緊。一些云服務(wù)商已嚴(yán)格限制內(nèi)部使用這些先進(jìn)芯片，以將其保留至需要強(qiáng)力運(yùn)算的任務(wù)。而對于終端用戶來說，在線租用云端AI服務(wù)器也變得更加昂貴和困難。
面對AI 服務(wù)器價格上漲和供應(yīng)緊張的問題，業(yè)界正在尋求各種解決方案。其中主要有以下幾個方向：- 增加GPU產(chǎn)能：這是最直接也最困難的方案。由于全球芯片產(chǎn)業(yè)鏈的復(fù)雜性和脆弱性，在短期內(nèi)很難實(shí)現(xiàn)大幅提升GPU產(chǎn)能。不過，在中長期來看，隨著臺積電、三星等芯片制造商擴(kuò)大投資和產(chǎn)能，在國內(nèi)也有多家企業(yè)在積極布局國產(chǎn)GPU芯片，在未來或許可以緩解GPU供應(yīng)緊張的問題；- 優(yōu)化AI模型：這是一個技術(shù)層面的方案。通過優(yōu)化AI模型的結(jié)構(gòu)、參數(shù)、算法等方式，可以降低模型對算力資源的消耗。例如，在NLP領(lǐng)域有一種叫做知識蒸餾的技術(shù)方法，可以將一個大型模型（教師模型）訓(xùn)練出來的知識傳遞給一個小型模型（學(xué)生模型），使得小型模型可以在保持較高精度的同時減少運(yùn)算量。
- 利用邊緣計(jì)算：這是一個架構(gòu)層面的方案。通過利用邊緣計(jì)算技術(shù)，在離數(shù)據(jù)源更近、更分散、更靈活的邊緣節(jié)點(diǎn)上進(jìn)行數(shù)據(jù)處理和分析，并將結(jié)果返回給云端或終端設(shè)備。這樣可以減少對云端中心化算力資源的依賴和消耗，并提高數(shù)據(jù)處理效率和安全性；- 探索新型硬件：這是一個創(chuàng)新層面的方案。通過探索新型硬件設(shè)備和技術(shù)來提升或替代傳統(tǒng)GPU芯片在人工智能領(lǐng)域中的作用。例如，有一種叫做神經(jīng)網(wǎng)絡(luò)處理器（NPU）的專用芯片，可以針對神經(jīng)網(wǎng)絡(luò)的特點(diǎn)進(jìn)行優(yōu)化設(shè)計(jì)，提高運(yùn)算速度和效率；還有一種叫做光子計(jì)算的新興技術(shù)，可以利用光子代替電子進(jìn)行數(shù)據(jù)傳輸和處理，實(shí)現(xiàn)超高速度和超低功耗的計(jì)算。
?
