學生比賽訓練內容

(1)

HPC年會

學生比賽訓練內容

(2)

訓練流程

1.HPC軟體訓練-VASP 2.AI軟體訓練-自駕車

3.High Performance LINPACK (HPL)-歷屆試題 4.HPCG-歷屆試題

5.HPC Challenge-歷屆試題 6.GROMACS-歷屆試題

7.NAMD-歷屆試題 8.WRF-歷屆試題

9.亞太區 2022 HPC-AI 正式題目

PS：項目9於比賽題目公布後調整為最優先訓練

(3)

HPC軟體訓練-VASP

參考來源：http://www2.mpi-halle.mpg.de/theory_department/research/oxidic_surfaces_and_interfaces/

(4)

AI軟體訓練-自駕車

參考來源: https://www.eettaiwan.com/20201012ta31-role-of-ai-in-autonomous-vehicles/

(5)

亞太及全世界比賽(亞太區,中國,德國,美國)

先爭取亞太盃冠軍，才能取得歐美世界盃比賽資格

賽事新加坡賽(APAC HPC-Ai) 中國賽(ASC) 德國賽(ISC) 美國賽(SC)

比賽時間 5月份～11月份 11月份～5月份 2月份～6月份 3月份～11月份

比賽題目

一個題目

一個題目

固定題目-Linpack 固定題目-HPCG

三個題目

固定題目-HPC Challenge 固定題目-Linpack 固定題目-HPCG

四個題目

一個題目

固定題目-Linpack 固定題目-HPCG 固定題目-io500

兩個題目

一個題目

一個題目

比賽獎項

First Place Second Place Third Place Merit Prize HPC Special Prize AI Special Prize

Champion Silver e Prize

Highest Linpack

Application Innovation Award Group Competition Award Best Popular

First Prize

Overall 1^st Place 2^nd Place 3^rd Place

Highest Linpack Fan Favorite

Overall

Highest Linpack Highest HPCG Highest io500

比賽方式

#線上遠端比賽

1.參賽隊員數量無上限 2.大學生或碩士生皆可 3.冠軍可直接參加德國賽 4.正式比賽時間為14天

#比賽地點：中國的大學學校(輪替) 1.參賽隊員為6名

2.在學的大學生

3.冠軍可以直接參加美國賽 4.正式比賽時間為5天

#線上遠端比賽(疫情期間) 1.參賽隊員為6名

3.冠軍可以直接參加美國賽 4.正式比賽時間為7天

#線上遠端比賽(疫情期間) 1.參賽隊員為6名

3.正式比賽時間為連續48小時

(6)

Linux系統：CentOS,Ubuntu

容器：Docker, Singularity

平行化套件：Intelmpi,Openmpi,HPC-X 排程軟體：PBS pro,Slurm

電腦語言：Python,Java,C

人工智慧：Tensorflow,Pytorch GPU編譯：Cuda

訓練常用計算環境

(7)

歷年超電年會叢集電腦比賽軟體

NAMD LAMMPS PFA GROMACS CP2K ABINIT Desmond MILC

VASP

QMCPack PyFR

OpenCFD OpenFOAM PALABOS

TELEMAC-MASCARET

WRF

WRF-CHEM ADCIRC POP CAM

MASNUM_WAM TauDEM NEMO

Splotch GADGET SWIFT Einstein toolkit

人工智慧:

GraphLab(rador) Tensorflow

Pytorch BERT(NLP) DLRM

矩陣運算:

HPL HPCG HPCC

HPC Repast Graph500

基礎理論

美國、德國、中國

7 軟體架構應

用領域

訓練

(8)

成大團隊在AI領域之能力

AI 問題類型準確率 AI 資料庫 AI平台 AI 框架神經網路模型參數找解方法備註

圖片辨識 86.18% ILSVRC2012 Tensorflow InceptionV3 CNN Adam 2018 HPC-AI 亞軍圖片辨識 85% ILSVRC2012 Pytorch InceptionV3 CNN Adam 2018 HPC-AI 季軍圖片辨識 92.48% ILSVRC2012 Tensorflow Resnet50-V2 CNN Momentum 2019 HPC-AI 冠軍

圖片辨識 87.6% ILSVRC2012 Tensorflow Resnet50-V2 CNN Momentum 2019 HPC-AI 亞軍

天氣預測 79.0% NCHW Tensorflow tiramisu CNN LARC 2019 ISC 最受尊崇獎

2019 ISC AI項目第二名

語意分析 87.7%

(87.2%)*

MultiNLI Tensorflow BERT NLP Adam

2020 HPC-AI 冠軍比世界紀錄 87.2%高0.5%

深度學習推薦模型 82.19%

(80.25)* 1TB Click Log*

Pytorch DLRM FCNN SGD

2021 HPC-AI 亞軍比世界紀錄高1.94%

1TB資料庫下載是成大團隊提供給大會的方法

車牌辨識 89.81% 行車影片 Pytorch Darknet

(YOLO) FCNN Adam 成大與達運公司合作

AI的訓練以主辦單位公告為主

(9)

成大團隊

歷年比賽成績

指導老師：黃吉川講座教授

助教：李朝琴研究員

(10)

成大團隊歷年參賽成績

8

• 台灣學生叢集電腦競賽-冠軍-Tflops

2016年

• 亞太區 HPC-AI 競賽-亞軍-Tensorflow

• 亞太區 HPC-AI 競賽-季軍-Caffe2

2018年

• ISC 德國賽-最受尊崇獎-NCKU

• 亞太區 HPC-AI 競賽-冠軍-BowhiVolar

• 亞太區 HPC-AI 競賽-亞軍-AnonymousPanda

2019年

• 亞太區 HPC-AI 競賽-冠軍-TinpoC

• 亞太區 HPC-AI 競賽-優秀獎-Valkyrie

2020年

• 亞太區 HPC-AI 競賽-亞軍-DAGG

• 亞太區 HPC-AI 競賽-優秀獎-HPCApex

2021年

(11)

2016 台灣學生叢集電腦競賽

效能調校 HPL

(解稠密矩陣) 30%

應用程式解題

TauDEM

(集水區模擬) Desmond 50%

(分子動力學)

成果簡報

團隊分工說明、

競賽時程掌控專業技術解說、 20%

報告台風展現

總計 100%

TauDEM

Desmond 集水區模擬

分子動力學

(12)

2018 亞太區 HPC-AI 競賽

Part I – Artificial Intelligence： 70%

TensorFlow over RDMA Caffe2 over RDMA

Model to Use：

Inception v3, ResNet 152, VGG16

Benchmark：

1. TensorFlow with Inception v3 2. TensorFlow with ResNet 152 3. TensorFlow with VGG16

Or

1. Caffe2 with Inception v3 2. Caffe2 with ResNet 152 3. Caffe2 with VGG16

Test Criteria:

1. Inception V3: Convergence time

2. Inception V3, ResNet152, VGG16: images per second

Part II – High Performance Computing：

30%

WRF v3.9.1.1

standard WRF 2.5km CONUS benchmark for WRF

AI 圖片辨識

WRF (氣象模擬)

比賽時間 3/23 ~ 8/27 (5個月)

(13)

2019 ISC 德國賽

1. Highest LINPACK (獨立計分獎項)

} }

Benchmarks

HPC applications

AI application

2. 比賽日期

6月17至19日(3天)

OpenFOAM

解稠密矩陣

AI氣象辨識成大第二

Swift

宇宙論

CP2K

量子化學

(14)

2019 亞太區 HPC-AI 競賽

Score Total: 100%

• Swift HPC competition: 50%

Performance: 35%

Interview: 15%

• Tensorflow AI competition: 50%

Performance: 35%

Interview: 15%

Tensorflow

Swift

宇宙論

比賽時間 3/8 至 8/26 (5個月)

(15)

2020 亞太區 HPC-AI 競賽題目人工智慧(自然語言)

第一題：人工智慧(BERT) 自然語言處理

(MultiNLI)語意資料庫分析佔分35% (效能: 25%, 口試10%) 成大比賽團隊以正確率87.7%的 MultiNLI 語意資料庫判讀結果領先其他 MultiNLI 國際研究團隊

BERT(NCKU)：成大

AMBERT-BASE：中國北京ByteDance AI CERT：聖地牙哥加利福尼亞大學AI4Health

Snokel MetaL：史丹佛大學Hazy Research SemBERT：上海交通大學Zhuosheng Zhang

9

87.2 87.2

87.7 87.16 87.16

86.8 86.9 87 87.1 87.2 87.3 87.4 87.5 87.6 87.7 87.8

M ultiNLI排名

(16)

2020亞太區HPC-AI競賽題目氣候模擬

第二題：氣候模擬(NEMO)

北極圈範圍內計算風力、冰水分佈對熱洋流循環的影響

佔分25% (效能: 20%, 口試5%)

最佳成績: 406.09 SYPD

(模擬一天可預測406年的北極圈洋流變化)

在全球暖化導致冰川加速萎縮的背景下，

國際上冰川的研究產業已受到前所未有的重視，並成為氣候系統研究中最活躍的領域之一，當下也是全球變化和可持續發展研究領域關注的重點。

使用各種不同平行化(MPI)參數優化後的成果

10

北極圈洋流

(17)

2020亞太區 HPC-AI競賽題目分子動力學模擬

第三題：分子動力學(NAMD) 衛星菸草花葉病毒

(Satellite Tobacco Mosaic Virus) 全分子模擬

佔分25% (效能: 20%, 口試5%)

376.5s

326.4s

調整不同硬體 ^{負載平衡參數的成果}

軟體 : NAMD

成大團隊於最短時間(326秒) 設定完成病毒(含水溶液)

共2.24億顆原子的動態模擬

11

為了降低和減少病毒的危害，建立高效

能的計算分析，將有助於預測病毒的傳

播途徑及規律以利及早制定防疫。

(18)

2020亞太區 HPC-AI競賽題目新冠狀病毒抗疫研究(冠軍隊)

在水溶液中的行為在真空中的結合

第四題：開放創新題– COVID-19 (佔分15%)

案例一：

SARS-CoV-2棘蛋白RBD與ACE2細胞受體的結合軟體 : GROMACS

ＡＣＥ 2

ＲＢＤＲＢＤ

ＡＣＥ 2

12

(19)

2020亞太區HPC-AI競賽題目

新冠狀病毒抗疫研究(優等獎隊)

https://www.drugbank.ca/drugs/

DBCAT000963

PDB code:

6M03

結合能量分析

∆ _Gbind _:{-63.720}

完成病毒與藥物分子交互作用的計算模型第四題：開放創新題–COVID-19(佔分15%)

案例二:主蛋白酶與藥物分子的交互作用

軟體: GROMACS

Main Protease DRUG 交互作用

13

ＤＲＵＧ

Main

Protease

(20)

2020 亞太區 HPC-AI 競賽隊伍

<亞太區11個國家30個隊伍參與競賽>

中國8隊

新加坡5隊

台灣暨南大學(NCNU)

台灣清華大學(NTHU)：<亞太區2019季軍,2020亞軍>,<美國賽2007-HPL冠軍、2008-HPL冠軍、2010總冠軍、2011總冠軍、2014-HPL冠軍>

新加坡南洋理工(NTU)-4隊：

<亞太區2018優秀獎、2019 HPC榮譽獎、2020優秀獎>,

<美國賽2017總冠軍、2017-HPL冠軍、2018-HPL冠軍>,

<德國賽2018亞軍>

中國清華大學(THU)-2隊：<亞太區2018冠軍>,<美國賽2015總冠軍、2018總冠軍>,

<德國賽2012冠軍、2014季軍、2015冠軍、2016亞軍、2017冠軍、2018冠軍、2019亞軍、2020季軍>

台灣成功大學(NCKU)-2隊：<德國賽2019最受尊崇獎>

<亞太區2018亞軍、季軍,2019冠軍、亞軍,2020冠軍、優秀獎>

中國科學技術大學(USTC)：<美國賽2016總冠軍、2016-HPL冠軍><德國賽2014亞軍、2015季軍、2020冠軍>

20 台灣4隊

(21)

<亞太區共有11個國家30個隊伍參與競賽>

第一名：台灣成功大學 TinpoC 第二名：台灣清華大學 NCHU

第三名：中國南方科技大學 SST 優秀獎：台灣成功大學 Valkyrie

優秀獎：新加坡南洋理工大學 NTU-2 優秀獎：新加坡南洋理工大學 NTU-3

資料來源： https://www.hpcadvisorycouncil.com/events/2020/APAC-AI-HPC/

2020 亞太區HPC-AI競賽名次

15

(22)

2021 亞太區 HPC-AI 競賽

Score Total: 100%

• 25% AI DLRM Application Performance

• 25% HPC GROMACS Application Performance

• 10% Accomplish Interview Presentation

• 5% Accomplish AI coding

• 5% Accomplish HPC coding

• 30% Interview

比賽時間 3/2 至 11/6 (8個月)

DLRM

GROMACS

(23)

<亞太區共有13個國家36個隊伍參與競賽>

第一名：中國南方科技大學第二名：台灣成功大學 DAGG

台灣清華大學 KW 第三名：台灣清華大學 EM

泰國德政大學

優秀獎：台灣成功大學 HPCApex HPC特別獎：台灣清華大學 KW

AI特別獎：中國南方科技大學

2021 亞太區HPC-AI競賽名次

15 資料來源：

https://www.hpcwire.com/off-the-wire/hpc-ai-advisory-council-announces-the-winners-of-the-4th-apac-hpc-ai-competition/

學生比賽訓練內容

HPC年會