,NVIDIA宣布推出搭載全新 NVIDIA? L40S GPU 的 NVIDIA OVX? 服務(wù)器。這款功能強(qiáng)大的通用數(shù)據(jù)中心處理器將通過 NVIDIA Omniverse? 平臺(tái),加速計(jì)算密集型的復(fù)雜應(yīng)用,包括 AI 訓(xùn)練與推理、3D 設(shè)計(jì)與可視化、視頻處理以及工業(yè)數(shù)字化等。
這款全新 GPU 將加速生成式 AI 的計(jì)算工作負(fù)載。生成式 AI 為各行各業(yè)的工作流和服務(wù)都帶來了變革,如文本、圖像和視頻生成、聊天機(jī)器人、游戲開發(fā)、產(chǎn)品設(shè)計(jì)以及醫(yī)療等。
NVIDIA 專業(yè)可視化副總裁 Bob Pette 表示:“生成式 AI 為各行各業(yè)都帶來了變革,企業(yè)也更需要為數(shù)據(jù)中心尋求大規(guī)模計(jì)算資源。配備 NVIDIA L40S GPU 的 OVX 系統(tǒng)能夠加速 AI、圖形和視頻處理工作負(fù)載,滿足不斷增加的復(fù)雜且多樣的應(yīng)用對(duì)性能的嚴(yán)苛要求。”
強(qiáng)大的 AI 和圖形性能
NVIDIA OVX 系統(tǒng)的每臺(tái)服務(wù)器最多支持 8 塊 NVIDIA L40S GPU,每塊 GPU 的顯存為 48GB。基于 NVIDIA Ada Lovelace GPU 架構(gòu)的 L40S 搭載第四代 Tensor Core 和 FP8 Transformer Engine,可提供超過 1.45 PFLOP 的張量處理能力。對(duì)于擁有數(shù)十億個(gè)參數(shù)和多種數(shù)據(jù)模式的復(fù)雜 AI 工作負(fù)載,與 NVIDIA A100 Tensor Core GPU 相比,L40S 能夠?qū)⑸墒?AI 的推理性能和訓(xùn)練性能分別提高 1.2 倍和 1.7 倍。
為了支持實(shí)時(shí)渲染、產(chǎn)品設(shè)計(jì)、3D 內(nèi)容創(chuàng)建等高保真專業(yè)可視化工作流,NVIDIA L40S GPU 搭載 142 顆第三代 RT Core,可提供 212 TFLOP 的光線追蹤性能,使專業(yè)創(chuàng)作者能夠創(chuàng)建沉浸式的視覺體驗(yàn)和逼真的內(nèi)容。
針對(duì)計(jì)算要求嚴(yán)苛的工作流,如工程和科學(xué)模擬等,NVIDIA L40S 搭載 18,176 顆 CUDA? Core,可提供近 5 倍于 NVIDIA A100 GPU 的單精度浮點(diǎn)計(jì)算性能,以加快復(fù)雜計(jì)算和數(shù)據(jù)密集型分析的速度。
早期采用情況
專注于大規(guī)模 GPU 加速工作負(fù)載領(lǐng)域的CoreWeave 是首批提供 L40S 實(shí)例的云服務(wù)提供商之一。
CoreWeave 首席技術(shù)官 Brian Venturo 表示:“隨著生成式 AI 的爆發(fā)式增長,我們各行各業(yè)的客戶都在尋求性能強(qiáng)大的計(jì)算產(chǎn)品和規(guī)模上的擴(kuò)展,以應(yīng)對(duì)從交互式視頻到 AI 設(shè)計(jì)和自動(dòng)化等各類工作負(fù)載的復(fù)雜性。NVIDIA L40S GPU 將進(jìn)一步擴(kuò)大我們豐富的 NVIDIA 解決方案陣容,使 CoreWeave 成為首家提供這些新資源的專業(yè)云服務(wù)提供商,為下一批生成式 AI 應(yīng)用提供快速、高效、經(jīng)濟(jì)的加速計(jì)算。”
提升 AI 性能的軟件
部署 L40S GPU 的企業(yè)將受益于 NVIDIA AI Enterprise 軟件。該軟件今日發(fā)布了重大更新,能夠?yàn)?100 多個(gè)框架、預(yù)訓(xùn)練模型、工具套件和軟件提供生產(chǎn)就緒型企業(yè)級(jí)支持和安全,其中包括用于模擬的 NVIDIA Modulus、用于數(shù)據(jù)科學(xué)的 NVIDIA RAPIDS? 和用于生產(chǎn)型 AI 的 NVIDIA Triton? 推理服務(wù)器。
Omniverse的功能日益豐富
NVIDIA 還發(fā)布了對(duì) Omniverse 平臺(tái)的重大更新,新推出的各種功能和平臺(tái)升級(jí)將助力開發(fā)者借助生成式AI的強(qiáng)大功能,加速并推進(jìn) OpenUSD 工作流程和工業(yè)數(shù)字化應(yīng)用。支持Omniverse Cloud 的下一代 NVIDIA OVX 系統(tǒng)將配備 L40S GPU,為大幅加速生成式 AI 流程和 Omniverse 工作負(fù)載提供所需的 AI 和圖形性能。
供應(yīng)情況
NVIDIA L40S 將于今年秋季上市。包括華碩、戴爾科技、技嘉、慧與、聯(lián)想、QCT、超微在內(nèi)的全球系統(tǒng)構(gòu)建商近期將提供搭載 NVIDIA L40S GPU 的 OVX 系統(tǒng)。該服務(wù)器將幫助全球?qū)I(yè)人士推進(jìn) AI 的發(fā)展。并為各行各業(yè)的用戶帶來智能聊天機(jī)器人、搜索和摘要工具等生成式AI應(yīng)用。請(qǐng)與這些系統(tǒng)構(gòu)建商聯(lián)系,了解具體的供應(yīng)地區(qū)、系統(tǒng)配置詳情和供貨情況。
鄭重聲明:此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊,目的在于傳播更多信息,與本站立場(chǎng)無關(guān)。僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。