【成都服務器總代理】昨天，萬眾矚目的第四代大型語言模型（LLM）GPT-4（Generative Pre-trained Transformer 4）正式亮相了。過去幾個月來，我們已經見識到其前輩GPT-3.5的威力——基于該模型開發的聊天機器人工具ChatGPT持續霸榜各大新聞頭條，引爆了各行各業對人工智能的興趣。

升級版GPT-4將更進一步，作為多模態人工智能，它能將文本相應地翻譯成圖像、音樂和視頻，而且基本上“適用于所有語言”，可以“用德語提問，用意大利語得到答案。”

從ChatGPT看AI算力需求

然而，ChatGPT雖好，燒錢也不少。據OpenAI創始人Sam Altman透露，ChatGPT平均每次回復會花掉“個位數美分”，訪問的人越多消耗的帶寬和服務器成本就越高，結合其已破億的月活躍用戶，OpenAI運行ChatGPT每個月至少要燒掉數百萬美元。

這只是消費端的成本，后端訓練花銷更令人咋舌。

相關數據顯示，ChatGPT的總算力消耗約為3640PF-days，即按照每秒計算一千萬億次的速度，3640天才能計算完，需要7-8個投資規模30億、算力500P的數據中心才能支撐運行。

考慮到大模型GPT的參數量，ChatGPT吃算力就不奇怪了，從GPT到GPT-2再到GPT-3（當前開放的版本為GPT-3.5），GPT已經經歷了三次迭代，參數量從1.17億增加到1750億！

而根據OpenAI之前的研究，AI計算量每3.4個月就要翻一番，遠超摩爾定律(翻倍周期約為18個月)。隨著數以萬計參數的大型語言模型不斷發展，硬件可能成為人工智能更進一步的瓶頸，因此，在以生成式AI為代表的人工智能時代，算力是下一步發展重點。

AI市場，硬件增長最快

全球人工智能市場的支出表現也印證了算力的重要性。

​根據IDC的《全球半年度人工智能跟蹤報告》，“人工智能硬件是人工智能市場中規模最�。�188 億美元）但增長最快的部分 (同比增長 38.9%)。”人工智能硬件的增長是由構建專門的人工智能系統所推動的，該系統能夠滿足人工智能模型和數據集不斷增長的計算和存儲需求。

在硬件上市場，AI服務器和AI存儲分別增長了39.1%和32.9%，但服務器采購額增加更為顯著，達到了156億美元。根據來源于IDC的數據整理（如下圖），存儲和網絡加起來僅占 AI 硬件成本的17%，剩下的83%都是服務器成本——可見，用戶將可以花在計算上的每一分錢都用在了計算上。

IDC預測，全球AI市場規模將在2025年增長至2218.7億美元，2022至2026年期間，以 AI 為中心的總體支出的復合年增長率為26.5%，是整個IT市場增長率的四倍多。

新一代PowerEdge專為AI而生

不少行業和組織都發現了人工智能技術的好處，因為日益強大的人工智能解決方案正在實現更優的決策和更高的生產率，幫助企業快速實現數字轉型。在投入AI熱潮之前，選擇恰當的算力基礎設施是必要的。

為了幫助組織應對嚴苛工作負載、實現 AI性能的跨越式發展，戴爾在國際超算大會SC22上推出了專為增強高級工作負載而打造PowerEdge XE9680系統（將于2023年上半年上市）。

Dell PowerEdge XE9680是一款6U服務器，基于NVIDIA HGX H100架構構建，配備八個NVIDIA H100 Tensor Core GPU，以滿足對大規模Al和HPC工作流不斷增長的需求，包括用于通信、化學和生物學的大型語言模型，以及航空航天、農業、氣候、能源和制造業等行業的模擬和研究。

值得注意的是，2022年9月，NVIDIA H100首次亮相MLPerf AI訓練基準測試即刷新了世界紀錄，是世界上非常先進的GPU。它包含800億個晶體管，并具有在數據中心規模加速 AI、HPC、內存帶寬和互連方面的重大進步。

H100可幫助組織處理和改進大型數據集并加速其AI驅動的業務，它具有專用的Transformer Engine和第四代NVIDIA NVLink互連，可加速百億億級工作負載�；�于 NVIDIA HGX H100 平臺構建的PowerEdge XE9680專為實現最佳AI性能而構建，能夠幫助實現運營和基礎架構的現代化以推動AI計劃實施。

過去幾十年來，戴爾NVIDIA一直通力合作為客戶提供更好的服務。無論是建造更高效的火箭，還是研究分子行為，凝結了戴爾和NVIDIA技術成果的PowerEdge XE9680都能提供大規模AI和HPC工作負載所需的計算能力和效率，加速洞察。

 成都戴爾服務器總代理​ - 成都強川科技有限公司，專注企業IT服務需求，產品可按需定制。主營：戴爾工作站、戴爾EMC服務器、企業級存儲、戴爾商用電腦，以專業的IT解決方案和優質的服務體驗贏得企業信賴。服務熱線：028-85041134