全程回顧黃仁勛GTC演講:Blackwell架構B200芯片登場
原創(chuàng)
2024-03-19 03:52 星期二
財聯(lián)社 史正丞
①搭載B200芯片的GB200 Grace Blackwell超級芯片系統(tǒng)登場;
②黃仁勛同時披露了英偉達在AI軟件(NIM微服務)、Omiverse云、具身智能方面的最新進展。

財聯(lián)社3月19日訊(編輯 史正丞)北京時間3月19日4時-6時,英偉達創(chuàng)始人黃仁勛在美國加州圣何塞SAP中心登臺,發(fā)表GTC 2024的主題演講《見證AI的變革時刻》。鑒于過去一年多時間里AI帶來的生產力變革,以及英偉達等一眾概念股的表現(xiàn),老黃的演講已經變成全球資本市場翹首以待的熱門事件。

在這場兩個小時的演講中,黃仁勛公布了搭載B200芯片的GB200 Grace Blackwell超級芯片系統(tǒng),以及英偉達在AI軟件(NIM微服務)、Omiverse云、具身智能方面的最新進展。

以下為演講內容回顧:


播放開場影片 image image image


黃仁勛登臺,對觀眾們強調:我希望你們搞清楚今天這里不是演唱會,而是一場開發(fā)者大會。 image image


黃仁勛介紹了本屆GTC的一些參與者,并強調這些公司不只是來參會,而是有自己的東西要來展示。 image image


黃仁勛展示英偉達發(fā)展史,又提了將首臺DGX One送給OpenAI的故事。 image


黃仁勛:今天我們將討論這個新行業(yè)的許多問題。我們要談談如何進行計算、我們要談談你所構建的軟件類型,你將如何看待這個新軟件,新行業(yè)中的應用 然后,也許(再談談)下一步是什么,我們如何從今天開始做準備,下一步會發(fā)生什么。 image image image


黃仁勛:我們使用仿真工具來創(chuàng)造產品,并不是為了降低計算成本,而是為了擴大計算規(guī)模。我們希望能夠以完全保真、完全數字化的方式模擬我們所做的整個產品。從本質上講,我們稱之為數字孿生。 image


老黃開始介紹一系列“新加速生態(tài)系統(tǒng)”合作伙伴,包括ANSYS、Synopsis、Cadence等。他也提及,臺積電和Synopsys將突破性的英偉達計算光刻平臺投入生產。 image


隨著transformer模型被發(fā)明,我們能以驚人的速度擴展大型語言模型,實際上每六個月就能翻一番。而為了訓練這些越來越大的模型,我們也需要更強的算力。 image image


“非常強大”的Blackwell架構GPU登場 image


老黃現(xiàn)場對比Blackwell架構和Grace Hopper架構的GPU image


老黃現(xiàn)場展示Grace-Blackwell系統(tǒng)(兩個Blackwell GPU、四個die與一個Grace Cpu連接在一起)。GB200將兩個B200 Blackwell GPU與一個基于Arm的Grace CPU進行配對。新芯片擁有2080億個晶體管,所有這些晶體管幾乎同時訪問與芯片連接的內存。 image image image


為了處理大規(guī)模數據中心的GPU交互問題,也需要更強的連接(NVlink)能力。 image


這個GB200新系統(tǒng)提升在哪里呢?老黃舉例稱,如果要訓練一個1.8萬億參數量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續(xù)跑上90天。但如果使用Blackwell GPU,只需要2000張,同樣跑90天只要消耗四分之一的電力。當然不只是訓練,生成Token的成本也會隨之降低。 image image


把芯片做大的好處:單GPU每秒Token吞吐量翻了30倍 image


毫無疑問,微軟Azure、AWS、谷歌云等一眾科技巨頭都是Blackwell架構的首批用戶。 image


接下來應該是應用側的部分,先展示的是生物醫(yī)藥的部分,包括NVIDIA DGX云中的多項更新。 image


黃仁勛宣布新的AI微服務,用于開發(fā)和部署企業(yè)級生成式AI應用。老黃表示,未來如何開發(fā)軟件?與現(xiàn)在寫一行行代碼不同,未來可能就要靠一堆NIMs(Nvidia inference micro service),用與AI聊天的形式調動一堆NIMS來完成訓練、應用的部署。英偉達的愿景是成為AI軟件的“晶圓廠”。 image image


英偉達的AI微服務NIM網站已經上線。 image


NIM微服務提供了最快、性能最高的AI生產容器,用于部署來自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及來自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開放模型。


NVIDIA AI Enterprise軟件平臺更新,包括NIM、構建RAG應用程序的工具等。隨后老黃又分享了西門子科技、日產汽車等用如何在工作流中將Omiverse Cloud應用在工作流中。 image image


黃仁勛宣布,現(xiàn)在支持將Omniverse云推流至Vision Pro。 image


可能是時間不太夠了,老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪將采用英偉達集中式車載計算平臺DRIVE Thor開發(fā)下一代電動車。此外,比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達Isaac來設計/模擬智能工廠機器人。 image


開始提機器人了。黃仁勛表示,在我們的世界里,類人機器人很有可能會發(fā)揮更大的作用,我們設置工作站、制造和物流的方式都是為人類設計的。黃仁勛同時宣布一項名為GR00T的項目,旨在進一步推動英偉達在機器人和具身智能的突破性工作。由GR00T驅動的機器人可以理解自然語言,并通過觀察人類動作來模擬運動。

image image image


除了機器人影像外,迪士尼的orange和green機器人也來到現(xiàn)場,這款機器人用的是英偉達為機器人設計的首款AI芯片Jetson。 image


黃仁勛帶著機器人下場,現(xiàn)場播放ending影片 image


黃仁勛返場告別,全場發(fā)布會結束。 image


收藏
77.72W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關聯(lián)話題
4.3W 人關注
4.24W 人關注
1.13W 人關注