在5月14日剛剛結(jié)束的GTC 2020發(fā)布會(huì)上,NVIDIA發(fā)布了新一代GPU架構(gòu)“Ampere(安培)” ,并推出首款基于Ampere架構(gòu)的GPU——NVIDIA A100 。相比上一代Volta架構(gòu)V100 GPU,NVIDIA A100 GPU實(shí)現(xiàn)了5大技術(shù)突破:
1、Ampere架構(gòu),也是A100的核心,采用7nm工藝,包含540億個(gè)晶體管,面積達(dá)到826mm2,是目前最大的7nm處理器;
2、第三代張量核心(Tensor Core),計(jì)算更加靈活、速度更快、使用更容易。其功能經(jīng)過擴(kuò)展后加入了專為AI開發(fā)的全新 TF32 精度,無需更改代碼,可將AI計(jì)算速度提升至上一代的20倍。此外,張量核現(xiàn)已支持FP64,為HPC應(yīng)用提供了比上一代多2.5倍的算力。
3、多實(shí)例GPU(MIG),可以將一個(gè)A100 GPU分割成多達(dá)7個(gè)獨(dú)立的GPU實(shí)例,從而為不同任務(wù)提供靈活的算力支持,并確保GPU資源得到充分的利用;
4、第三代NVLink互聯(lián)技術(shù),使得GPU與GPU之間的互聯(lián)帶寬達(dá)到600GB/s,是PCIe 4.0帶寬的10倍,能夠大幅提升服務(wù)器的擴(kuò)展性能;
5、結(jié)構(gòu)稀疏性,A100 中的 Tensor Core 可為稀疏模型提供高達(dá) 2 倍的性能提升。雖然稀疏化功能對 AI 推理更為有益,但它也可用于改善模型訓(xùn)練的性能。
通過以上不同技術(shù)維度的升級組合,NVIDIA A100 GPU實(shí)現(xiàn)了迄今為止最大的性能飛躍,訓(xùn)練峰值算力達(dá)到312 TFLOPS,AI推理峰值算力達(dá)到1248 TOPS,將AI訓(xùn)練和推理性能提高到上一代的20倍。Ampere架構(gòu)的發(fā)布也引發(fā)了大家的廣泛關(guān)注。
為此,智東西公開課聯(lián)合NVIDIA推出的Ampere GPU架構(gòu)公開課,獨(dú)家解密NVIDIA新一代GPU架構(gòu)“Ampere(安培)”。
5月26日晚7點(diǎn),Ampere GPU架構(gòu)公開課將正式開講,由NVIDIA中國區(qū)工程及解決方案總監(jiān)賴俊杰博士主講,主題為《面向HPC及AI的巨大飛躍,NVIDIA全新Ampere GPU架構(gòu)深度解析》。
賴俊杰博士將圍繞Ampere架構(gòu)、新一代Tensor Core、多實(shí)例GPU、結(jié)構(gòu)化稀疏性和第三代NVLink,NVSwitch技術(shù),以及基于A100 GPU 打造的第三代AI系統(tǒng)DGX A100進(jìn)行全方位解讀。
課程時(shí)間
時(shí)間:5月26日晚7點(diǎn)
地點(diǎn):智東西公開課小程序
課程詳情
主題:面向HPC及AI的巨大飛躍,NVIDIA全新Ampere GPU架構(gòu)深度解析
提綱:
1、NVIDIA Ampere GPU 架構(gòu)總覽
2、第三代Tensor Core,及TF32應(yīng)用深入解析
3、多實(shí)例GPU (Multi-Instance GPU)技術(shù)及應(yīng)用場景
4、通過結(jié)構(gòu)化稀疏 (Structual Sparsity) 進(jìn)一步加速神經(jīng)網(wǎng)絡(luò)計(jì)算
5、第三代NVLink,NVSwitch 及 DGX A100解讀
講師:
賴俊杰博士,現(xiàn)任NVIDIA中國區(qū)工程及解決方案總監(jiān)。賴博士在清華大學(xué)電子工程系取得本科及碩士學(xué)位,于法國INRIA獲得博士學(xué)位。博士期間的主要的研究方向包括GPU架構(gòu)研究,及GPU性能分析模型。在并行程序的性能分析,及性能優(yōu)化領(lǐng)域有豐富的經(jīng)驗(yàn)?,F(xiàn)在工作的重點(diǎn)是帶領(lǐng)團(tuán)隊(duì)協(xié)助NVIDIA的關(guān)鍵用戶完成機(jī)器學(xué)習(xí)應(yīng)用的工程落地,以及嘗試?yán)脵C(jī)器學(xué)習(xí)的最新技術(shù),去解決計(jì)算機(jī)視覺,語音,游戲等行業(yè)應(yīng)用中遇到的實(shí)際問題。
報(bào)名方式
添加智東西公開課小助手芒芒(ID:zhidxclass005)報(bào)名,添加時(shí)請備注“姓名-公司/學(xué)校-職位/專業(yè)”,因報(bào)名人數(shù)過多,優(yōu)先通過備注者。