互連網(wǎng)絡(luò)在 AI、HPC、和推薦系統(tǒng)等工作負載中至關(guān)重要,不僅承擔(dān)著海量數(shù)據(jù)的高速傳輸任務(wù),還將直接決定整體系統(tǒng)的計算效率和擴展能力。

隨著模型規(guī)模的不斷擴大和計算密度的提升,多個計算節(jié)點之間需要更低延遲、更高帶寬的通信,以支撐分布式訓(xùn)練、并行計算和大規(guī)模數(shù)據(jù)交換需求。一個高效的互連網(wǎng)絡(luò)能夠有效減少通信瓶頸,提升計算資源利用率,從而加快任務(wù)完成速度。

NVIDIA 的 InfiniBand 網(wǎng)絡(luò)作為一種先進的高速互連技術(shù),提供了低延遲、高帶寬、可擴展性強的通信方式,特別適用于需要大量數(shù)據(jù)傳輸和并行處理的應(yīng)用場景。InfiniBand 網(wǎng)絡(luò)不僅支持高效的點對點通信,還具備強大的卸載能力,能夠顯著降低 CPU 開銷,提升整體系統(tǒng)性能,是 AI、云計算、HPC,以及大規(guī)模存儲等解決方案中不可或缺的一部分。

7月8日14點,智猩猩開講邀請啟帆開設(shè)的「NVIDIA Networking 公開課 InfiniBand 專場」將開啟。紫光曉通科技有限公司 AI 高級工程師陳少華受邀主講,主題為《NVIDIA Quantum InfiniBand 平臺構(gòu)建最高效的 AI、HPC、推薦系統(tǒng)和工作負載網(wǎng)絡(luò)》。

本次公開課,陳老師首先會介紹 InfiniBand 網(wǎng)絡(luò)的多項核心技術(shù)特性,包括遠程直接內(nèi)存訪問(RDMA)、動態(tài)路由(Adaptive Routing)、網(wǎng)絡(luò)自愈技術(shù)(SHIELD)功能。之后,陳老師將詳細對比 NVIDIA Quantum InfiniBand 產(chǎn)品線,涵蓋從 ConnectX 網(wǎng)卡、BlueField DPU 到 Quantum 交換機等不同類別產(chǎn)品的性能差異與適用場景。最后,陳老師還將通過實際應(yīng)用案例,展示典型的 InfiniBand 網(wǎng)絡(luò)常用的拓撲結(jié)構(gòu),幫助大家理解其在構(gòu)建超大規(guī)模數(shù)據(jù)中心中的重要作用。

NVIDIA Quantum InfiniBand 平臺構(gòu)建最高效的 AI、HPC、推薦系統(tǒng)和工作負載網(wǎng)絡(luò)

公開課內(nèi)容

主題:NVIDIA Quantum InfiniBand 平臺構(gòu)建最高效的 AI、HPC、推薦系統(tǒng)和工作負載網(wǎng)絡(luò)
提綱:
1、InfiniBand 網(wǎng)絡(luò)技術(shù)概覽
2、NVIDIA Quantum InfiniBand 產(chǎn)品線詳解
3、案例解析

主講人

陳少華,紫光曉通科技有限公司 AI 高級工程師,負責(zé)NVIDIA NPN合作伙伴技術(shù)支持工作,在人工智能領(lǐng)域深耕多年,積累了豐富的產(chǎn)品應(yīng)用經(jīng)驗,對 NVIDIA 系列產(chǎn)品有著深入的理解與熟練的運用能力。參與過眾多智算整體解決方案的設(shè)計工作,能夠根據(jù)不同的業(yè)務(wù)需求,精準(zhǔn)地制定出高效、可靠的智算方案,助力企業(yè)實現(xiàn)智能化升級與突破。

直播時間

7月8日14:00