南方財經(jīng)全媒體記者江月 上海報道5月29日在臺北國際電腦展上,英偉達(dá)創(chuàng)始人兼CEO黃仁勛宣布:“CPU擴張的時代已結(jié)束。”整場持續(xù)了2小時的演講中,他圍繞著生成式AI帶來的“觸發(fā)點”,將英偉達(dá)近期的硬件、軟件、系統(tǒng)新品進(jìn)行了一番兜底式介紹。
黃仁勛稱,GPU塑造的“新計算機”到來了。由英偉達(dá)打造的新型“計算機”,形態(tài)已經(jīng)不同以往,它的單臺售價高達(dá)20萬美元。在“昂貴”的爭議之中,黃仁勛又稱,GPU是每個電力預(yù)算有限的公司之不二選擇,也是最“省錢”的基建選擇。
(資料圖)
黃仁勛近期在公開演講中稱,面對AI時代,人們需要“奔跑、而不是慢慢地走”。在生成式AI的花園里,英偉達(dá)顯然正在奮力挖掘中。
解碼GPU數(shù)據(jù)中心成本
“大家總是說GPU數(shù)據(jù)中心很貴,讓我來算給你看?!?月29日,英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛在臺北國際電腦展上,向公眾具體地介紹了GPU數(shù)據(jù)中心的成本。
在此次與供應(yīng)商、客戶的見面中,英偉達(dá)帶來了全新的AI“計算機”DGX GH200。這是一款集成了256個英偉達(dá)最高性能CPU和GPU的超級計算機,能滿足“超大大模型”的訓(xùn)練需求。
DGX GH200使用英偉達(dá)NVLink-C2C互連技術(shù),將基于Arm的Grace架構(gòu)CPU和Hopper架構(gòu)GPU進(jìn)行架構(gòu)互聯(lián),實現(xiàn)了高達(dá)900GB/s的總帶寬,比傳統(tǒng)加速系統(tǒng)中的標(biāo)準(zhǔn)PCIe Gen5通道高出7倍,這種算力能夠滿足眼下要求最苛刻的生成式AI和HPC應(yīng)用。
(圖為英偉達(dá)于5月29日公布的GH200 Grace Hopper超級芯片,由英偉達(dá)公司供圖)
隨著市場對數(shù)據(jù)中心基建需求的增長,英偉達(dá)眼下也需要向市場施展一些“銷售手段”。最迫切的需求,就是化解人們對其設(shè)備“昂貴”的恐懼。
簡單來說,“使用GPU數(shù)據(jù)中心,你可以獲得150倍的性能,并省下2/3的成本?!秉S仁勛稱。
黃仁勛介紹,以同樣的1000萬美元預(yù)算為例,AIGC開發(fā)商可以搭建一個由960個CPU服務(wù)器組成的數(shù)據(jù)中心,這足以訓(xùn)練1個大語言模型,最終的運營消耗是11千兆瓦時電力(GWh,相當(dāng)于1100萬度電)。
但若換做GPU,則可搭建一個由48個GPU服務(wù)器組成的數(shù)據(jù)中心,不過這個數(shù)據(jù)中心可以訓(xùn)練44個大語言模型,總共消耗3.2千兆瓦時(相當(dāng)于320萬度電)。
按照上面的計算方法,按照單片價格計算,一片GPU芯片的價格是一片CPU的20倍,似乎“更貴”。不過,如果按照數(shù)據(jù)中心TCO成本計算法,則GPU數(shù)據(jù)中心更“省錢”。
黃仁勛甚至直接在演示PPT中列出了一個公式:數(shù)據(jù)中心持有成本=f{硬件成本(芯片、系統(tǒng)、硬件生態(tài)系統(tǒng)),吞吐量(GPU、AIgo軟件、網(wǎng)絡(luò)、系統(tǒng)軟件、軟件生態(tài)系統(tǒng)),使用率(AIgo Lib、軟件生態(tài)系統(tǒng)),采購運營,生命周期最佳化,算力},從而解釋了數(shù)據(jù)中心的TCO成本問題。
“為什么這非常重要?因為現(xiàn)實生活中大多數(shù)企業(yè)都有電力限制。”黃仁勛再次強調(diào)。如果加上這一客觀因素,企業(yè)在投身AIGC時,就必須選擇更高效、更低功耗的數(shù)據(jù)中心產(chǎn)品。
為何GPU在數(shù)據(jù)中心中的性能如此強大?黃仁勛介紹,這主要歸功于三大功能:光線追蹤(模擬光的特性)、以張量計算為核心的人工智能和全新的算法。
英偉達(dá)于2017年開始實踐在GPU上同時實現(xiàn)上面三個功能,當(dāng)時用GPU生成圖片的效果首次驚艷了市場。當(dāng)時,使用CPU服務(wù)器“無中生有”一張圖片需要花費數(shù)個小時(這個過程用專業(yè)說法叫做“渲染”),但英偉達(dá)使用GPU只花了15秒。
不過,新型GPU計算機的所謂“便宜”,并不是針對消費級市場的。值得注意的是,由于它的高昂價格,目前無法在個人電腦市場上替代CPU為核心的PC、筆記本等。
在演講現(xiàn)場,黃仁勛揭開了一臺由8個H100芯片組成的“新型GPU計算機”?!八侨蜃畎嘿F的計算機。”黃仁勛稱。
這個新型電腦重達(dá)65磅(大約29.5公斤),必須要借助機器人才能實現(xiàn)平穩(wěn)、精確的安裝?!斑@臺電腦售價20萬美元?!秉S仁勛稱。
啟動AIGC行業(yè)變革
用硬件來淘汰“CPU時代”,還只是英偉達(dá)攻占AIGC龍頭地位的第一步。眼下,英偉達(dá)已經(jīng)在軟件生態(tài)圈中進(jìn)行精心布局,除了將CUDA計算模型推廣給400萬名軟件開發(fā)者以外,還推出了游戲AI模型代工服務(wù),并深入到制造業(yè)中支持虛擬工廠、機器人仿真技術(shù)和自動化檢測。
“為什么這么多年來,人們無法創(chuàng)造一種新的計算方法?”黃仁勛談及CPU時代時稱。他指出,這是因為硬件與軟件、消費市場與開發(fā)商供應(yīng)者之間存在一種“雞生蛋、蛋生雞”的關(guān)系,導(dǎo)致互相牽制,令基于CPU的計算方法得以持續(xù)甚久。
因此,為了打破“CPU時代”的桎梏,英偉達(dá)除了大力設(shè)計芯片硬件,也十分關(guān)注搭建軟件生態(tài)環(huán)境。CUDA計算模型就是英偉達(dá)為這個長遠(yuǎn)布局落下的一枚關(guān)鍵棋子。
“英偉達(dá)Cuda計算模型現(xiàn)在服務(wù)于400萬開發(fā)者和超過3000個應(yīng)用程序。Cuda的下載量達(dá)到了4000萬次,其中僅去年一年就達(dá)到了2500萬次。”黃仁勛稱。他指出,在擁有了如此龐大規(guī)模的軟件基礎(chǔ)上,GPU取代CPU才實現(xiàn)可能。
總結(jié)黃仁勛兩個小時的演講內(nèi)容,可以看到英偉達(dá)對AIGC領(lǐng)域的挖掘,涵蓋了核心的超級芯片、到互連技術(shù)再到算法引擎的優(yōu)化、以及配套軟件的升級。
事實上,AIGC所涉及到的文生文、文生圖、2D圖生3D圖等,正在經(jīng)過多種大模型或應(yīng)用進(jìn)行實現(xiàn),包括英偉達(dá)旗下的對話式 AI 模型開源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的應(yīng)用ChatGPT、以及文生圖應(yīng)用Stable Diffusion等。目前,全球最有影響力的AIGC科技龍頭都在深度使用英偉達(dá)所提供的工具,也推動英偉達(dá)在美股市場上攀爬“1萬億美元”市值的高峰,很快就要和蘋果、微軟、谷歌、亞馬遜一起處于“萬億俱樂部”中。
英偉達(dá)此次帶給AIGC行業(yè)的工具之多,令市場感到十分吃驚。除了以上的產(chǎn)品,英偉達(dá)在大型游戲創(chuàng)作和數(shù)字化工廠方面的介入,也十分引人注目。
在游戲創(chuàng)作方面,黃仁勛展示了一段游戲片段。這個片段中,除了現(xiàn)實感逼真的畫面制作外,游戲玩家和NPC之間的對話也是完全由AIGC生成的。換句話說,以后的游戲可以“千人千面”,玩家面對的不再是只會吐露模式化回復(fù)的NPC。這個功能依賴英偉達(dá)的AI模型代工服務(wù)ACE游戲開發(fā)版,有利于游戲開發(fā)商簡易上手上面的功能。
英偉達(dá)又介紹,現(xiàn)在一些領(lǐng)先的電子制造商已經(jīng)使用英偉達(dá)的AIGC和元宇宙平臺omniverse實現(xiàn)工廠的“數(shù)字化”。
在制造業(yè),全球大約有1000萬家工廠,它們是工業(yè)數(shù)字化的重點領(lǐng)域。
黃仁勛表示:“工業(yè)制造的都是實物,如果能先以數(shù)字的方式制造產(chǎn)品,可以節(jié)省數(shù)十億美元?!?/p>
眼下,在工業(yè)領(lǐng)域,英偉達(dá)主要打造了Omniverse和生成式AI來幫助工廠進(jìn)行虛擬工廠的設(shè)計,還推出了Isaac Sim模擬和測試機器人、Metropolis光學(xué)檢測自動化工具。
據(jù)了解,富士康、和碩、廣達(dá)等電子設(shè)備制造商已經(jīng)在利用英偉達(dá)上述工具加快筆記本電腦、智能手機的生產(chǎn)和裝配。
關(guān)鍵詞:
凡注有"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"或電頭為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的稿件,均為環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶獨家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來源為"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶",并保留"環(huán)球傳媒網(wǎng) - 環(huán)球資訊網(wǎng) - 環(huán)球生活門戶"的電頭。
- 逐浪AIGC?|生成式AI的花園里 英偉達(dá)如何2023-05-30
- 英國法官戴假發(fā)開始時間介紹?英國法官戴假2023-05-30
- 中信建投證券(06066):李岷和閆小雷獲選舉2023-05-30
- BMO Capital:宏觀環(huán)境改善 上調(diào)博通(AVG2023-05-30
- 上港集團(tuán)哪個子公司好?上港集團(tuán)容易進(jìn)嗎?2023-05-30
- 主力是怎么拉升的?主力吸籌怎樣才能看出?2023-05-30
- 金爆行動電影電視機放的音樂是啥?金爆行動2023-05-30
- 為什么主力能買進(jìn)一字板?股票一字線會持續(xù)2023-05-30
- 慢牛股票是什么?慢牛股一般持續(xù)多久?2023-05-30
- 什么叫均線金叉?均線很亂是什么原因?2023-05-30
- 網(wǎng)課考試怎么考的(網(wǎng)課考試怎么作弊)2023-05-30
- 全球動態(tài):油價小幅上漲 加一箱油多花約4元2023-05-30
- 勁仔食品今日大宗交易折價成交414.22萬股 2023-05-30
- 焦點信息:AI+ 采礦擦出新火花!全球最大礦2023-05-30
- 股東變更需要哪些手續(xù)?公司轉(zhuǎn)讓一般賣多少2023-05-30
- 基金贖回按哪一天凈值?基金贖回第二天跌了2023-05-30
- 股息紅利稅補繳什么意思?分紅后每一次做T2023-05-30
- 新華全媒+丨持續(xù)發(fā)展生態(tài)旅游——“西藏江2023-05-30
- 公司轉(zhuǎn)讓和注銷哪個好?轉(zhuǎn)讓營業(yè)執(zhí)照合法嗎2023-05-30
- 劉佳的丈夫比他大幾歲 劉佳的丈夫|環(huán)球聚2023-05-30
- 環(huán)球微速訊:上海電力(600021.SH):多品種2023-05-30
- 擔(dān)保貸款逾期不還擔(dān)保人會怎么樣?老賴不還2023-05-30
- 抵押和質(zhì)押的區(qū)別是什么?抵押和質(zhì)押的所有2023-05-30
- 天津西站客運站電話(天津西站客運站)2023-05-30
- 環(huán)球今頭條!折心沐火的意思是什么_520人民2023-05-30
- 浪潮信息入圍Gartner全球服務(wù)器標(biāo)桿廠商 2023-05-30
- 全球熱議:今日手工編織毛線帽女圖片_手工編2023-05-30
- 紅棗泡酒的正確方法?|實時焦點2023-05-30
- 嗶哩嗶哩直播如何獲得電池 嗶哩嗶哩獲得電2023-05-30
- 定期存款未到期不能取出?定期存款是存折還2023-05-30
- 退契稅需要什么條件2023?退契稅的流程?
- 中華人民共和國人口與計劃生育法第三十七條是什么內(nèi)容?計劃生育的優(yōu)勢是什么?
- 網(wǎng)易云游戲光遇實名認(rèn)證怎么解除? 光遇如何修改實名認(rèn)證?
- 股票跌停怎么辦?一字跌停是什么意思?
- 假釋官的含義是什么? 假釋出獄是什么意思?
- 新硬盤如何分區(qū)?電腦新裝硬盤怎樣激活使用?
- 湖南都市頻道都市調(diào)解室是什么?民生欄目的發(fā)展歷程是?
- 被公司辭退要開什么證明?員工能力不足被開除有賠償嗎?
- 筆的發(fā)明介紹 毛筆是誰發(fā)明的?
- 信用卡逾期后怎么協(xié)商只還本金?銀行卡掛賬停息是什么意思?
資訊
- 勁仔食品今日大宗交易折價成交414.22萬股 成交額4945.78萬元-世界熱推薦
- 市場指導(dǎo)價52.18萬元 奧迪S4 Avant正式上市|焦點快報
- E選車丨奔馳EQE SUV:頂配比GLE入門還便宜 想買選低配就夠了
- 中國工程物理研究院職工工學(xué)院怎么樣 中國工程物理研究院職工工學(xué)院全國排名
- 最資訊丨蔚來車主慘遭背刺,李斌的“不降價”還能扛多久?
- 天天亮點!溜溜布親子游戲玩法(溜溜布游戲的玩法)
- 世界觀速訊丨日常保養(yǎng)!本澤馬社媒曬圖,給背部和腳部拔罐
- 妖尾露西和納茲接吻(妖尾露西)
- 做一個動平衡大概多少錢(方向盤抖動做動平衡還是四輪定位)
- 放棄華為百萬年薪也不虧?天才少年稚暉君創(chuàng)業(yè)獲百度投資,估值或超10億美元_天天微動態(tài)
焦點
- 股票分紅需要持股多久?股票分紅多久一次?
- ?信陽市平橋區(qū)召開統(tǒng)一戰(zhàn)線年中重點工作推進(jìn)會
- 2411是哪里的區(qū)號?區(qū)號是怎么劃分的?
- 中國銀行大額存單有風(fēng)險嗎 大額存單有什么坑?
- 怎么寫簡歷才能讓HR一眼看中?HR看簡歷究竟看了些什么?
- 鶴壁市市長趙宏宇到河南能源化工集團(tuán)鶴煤公司調(diào)研_熱資訊
- 藥物分析是什么學(xué)科?藥品檢驗工作的基本程序是什么?
- 山西2023年第四批50家售電公司重大信息變更
- 兩陰夾一陽是什么?兩陰夾一陽的相關(guān)解析
- WINMax22023正式開啟預(yù)售了嗎?售價是多少呢?