您現在的位置是:首頁 > 人工智能 >
chatGPT出圈,大模型算力需求攀升
2023-02-20 16:30:40作者:張歡來源:中國信息化周報
摘要2月份,社交媒體上熱度最高的話題莫過于chatGPT。幾乎所有新聞媒體,社交平臺都在討論這個AI聊天機器人。...
2月份,社交媒體上熱度最高的話題莫過于chatGPT。幾乎所有新聞媒體,社交平臺都在討論這個AI聊天機器人。
2022年底,最新版本chatGPT就已經受到IT技術界的關注。春節過后,一夜爆火,突然出圈,上億網友嘗試著使用了chatGPT,其頗有“智慧”的聊天模式,讓人震驚。但很快,大家發現除了一些有標準答案的科學技術內容還算相對可靠外;很多內容更像是“一本正經的胡說八道”。
有分析文章指出,在馬斯克投資openAI后,將原來chatGPT的“人工智障”模式調整為了現在“一本正經胡說八道”模式,用來吸引更多的人玩。這同時為chatGPT提供了一個非常龐大的天然的免費訓練模型庫,以此獲得一個更加智能的AI聊天機器人。
chatGPT-3訓練成本超百萬美元
據2月12日國盛證券公布的最新數據顯示,最新版本的chatGPT-3訓練一次的成本約為140萬美元,對于一些更大的LLM模型,訓練成本介于200萬美元至1200萬美元之間。雖然成本高昂,但對于大型科技公司,訓練費用尚在可接受范圍內。
人工智能產品應用的訓練非常燒錢,而算力更是人工智能發展的關鍵因素之一。值得一提的是,對于人工智能應用而言,訓練和推理所需要的算力是不同的。通常意義上,訓練要比推理高一個數量級的算力,至少是10倍的算力。
用戶對chatGPT提問時,幾秒鐘時間就會給出反饋,這屬于實時或者半實時推理的過程;而后臺可能已經花了幾周甚至幾個月時間對這個問題完成了訓練。
雖然如此, ChatGPT在應用時仍然需要大算力的服務器支持,這也為算力服務商們帶來更多市場空間和發展機會。帶著相關問題,《中國信息化周報》記者采訪到了寧暢副總裁兼CTO趙雷。
“早在幾年前,寧暢就已經在人工智能賽道布局了,我們著力發展人工智能服務器,并從產品技術、市場等多個維度取得突破。”趙雷向記者介紹說。
據了解,寧暢針對ChatGPT對于大數據和算力的超高要求,可以提供單機和集群的硬件產品解決方案,如人工智能序列服務器X620、X640、X660,分別可以提供基礎的推理算力、平衡型的推理和訓練的算力以及頂級性能的訓練算力。
“要實現一個理想的人工智能狀態,至少需要現在100-1000倍的算力。”趙雷坦言,短期內,利用ChatGPT處理一些基礎科學方面的內容、寫寫代碼、文章是可以的;但真正要變成一個智能助手,去替代人類的職業,比如工程師、記者、律師等是不太可能的。
算力不均、成本高是癥結
得益于深度學習算法的普及和應用,具有海量數據并行計算能力、能加速計算處理的AI芯片被越來越多的采用,伴隨而來的是AI服務器市場持續增長。截至2021年底,全球 AI 服務器市場規模已達到 145 億美元,并預計 2025 年將超過 260 億美元。
聚焦我國算力產業發展情況,主要存在算力分布不均和算力成本高兩大問題,丞需解決。
第一,總體算力分布不均。比如算力不協調,A時間算力過剩,B時間算力不足。一方面需要云技術去平衡算力,另一方面需要深度定制等手段去提高算力的生產效率。
第二,算力成本高。雖然目前算力單價在下降,但過去三年服務器成本一直是上漲的狀態。單一算力類型,不足以支撐高速增長的算力需求。應用類型越窄,算力效率越高;反之,通用化模型,算力效率會比較低。在復雜算力場景中,如何組合不同的算力類型,是降低成本的關鍵。
借大模型東風 布未來發展大局
在數字經濟時代,算力作為經濟發展重要底座支撐,作為一種全新的生產力,其作用日益凸顯,已經成為國家和地區競爭力的體現。
雖然業內早有共識,但ChatGPT的出圈,開始讓更多產業界人士意識到大模型正在敲開通用人工智能大門。
事實上,不僅僅是ChatGPT,這只不過是人工智能賽道中偶然爆火的一個產品應用,眾多的應用,比如自然語言合成、自動駕駛、圖形圖像處理等,都依賴大模型的訓練,而這背后離不開各大服務商們對人工智能算力市場的保障和支持。
人工智能產品的訓練精度越高,或者訓練模型越大,給用戶的反饋越準確,客戶的體驗越好,這些都為算力市場帶來了更多機會。
當前,服務器的研發測試、生產制造都是以年為周期的,趙雷表示:“未來,預計兩三年內,寧暢都將會堅定不移的深耕定制化市場,以用戶為核心,持續在人工智能領域持續發力。”
(本文不涉密)
責任編輯:wangyan
站點信息
- 運營主體:中國信息化周報
- 商務合作:趙瑞華 010-88559646
- 微信公眾號:掃描二維碼,關注我們