(相關資料圖)

21世紀經(jīng)濟報道記者董靜怡 上海報道

8月9日消息，AI應用“妙鴨相機”已連續(xù)多日火爆出圈，上線不到一個月，算力需求暴漲數(shù)百倍。不過，通過在阿里云上緊急擴容后，其因用戶暴增導致的排隊情況有所緩解，排隊時長已大幅減少，用戶體驗得到改善。

自7月17日正式上線以來，“妙鴨相機”就以9塊9價格和高質量“寫真”照獲得了大量關注，成千上萬的用戶涌進應用中，高峰期一度有4000-5000人排隊，需要等待10多個小時才能出片。

某資深IT人表示，“妙鴨相機”的相片生成需要龐大的GPU算力進行計算，按上述高峰期的量級至少需要幾千臺GPU服務器才能滿足，線下部署不切實際，云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時間，但目前僅有少數(shù)云計算大廠具備這樣的算力儲備。

“此前大家對大模型訓練需要的算力關注較多，尤其是GPT類的模型訓練，動輒需要上萬張顯卡。”上述資深人士稱，隨著Llama2等開源大模型的流行，大模型應用推理端的算力需求更值得關注，當AIGC進入生產(chǎn)力時代，推理算力需求可能遠高于訓練算力。

隨著各個行業(yè)的AIGC開發(fā)逐步完成，對業(yè)務開展階段使用的推理算力需求開始大幅增長，未來幾個月推理的算力需求總量可能遠高于訓練算力。

以目前國內算力規(guī)模最大的阿里云為例，其提供最大十萬卡GPU規(guī)模集群的擴展性，同時可承載多個萬億參數(shù)大模型同時在線訓練和推理。此外，阿里云還提供了AI加速套件AIACC，大幅提升計算效率，大模型Finetune的訓練效率可提升60%，推理效率可提升100%以上。

據(jù)相關負責人透露，“妙鴨相機”已在阿里云上進行緊急擴容，應對暴漲數(shù)百倍的算力需求。雖然算力一邊加，另一邊用戶也在漲，但高峰期排隊現(xiàn)象已經(jīng)有了緩解。

關鍵詞：