在美國當?shù)貢r間2023年9月11日，正式推出時間還不及兩個月的英偉達GH200 Grace Hopper超級芯片首次在MLPerf行業(yè)基準測試亮相，最終的測試結(jié)果指出，擁有更高內(nèi)存寬帶和更大內(nèi)存儲量的超級芯片GH200比H100 GPU性能提升了17%。 在新聞發(fā)布會中英偉達人工智能總監(jiān)戴夫·薩爾瓦托表示Grace Hopper的表現(xiàn)極為出色，首次測試中性能就已經(jīng)高出了H100 GPU17%，而英偉達公司旗下的H100 GPU本身就是同行業(yè)中領(lǐng)先的產(chǎn)品。MLPerf是全球范圍內(nèi)知名的國際人工智能性能基準評測，推理性能評測主要包括6個主要的人工智能使用場景，比如視覺，自然語言，處理系統(tǒng)和語音識別等等，每一個場景中都會使用目前最為主流的人工智能模型作為測試的對象，每一個任務(wù)會分為兩類場景，分別是數(shù)據(jù)中心和邊緣。MLPerf是由MLCommons開發(fā)，MLCommons是來自于研究實驗室學術(shù)界和人工智能專家所組成的聯(lián)盟。 MLPerf Inference v3.1基準測試是在2023年4月份發(fā)布3.0版本以后的進一步更新，在本次最新更新版本的內(nèi)容中出現(xiàn)了兩個第1次，接入了60億參數(shù)大語言模型GPT-J的推理基準測試和經(jīng)過改進以后的推薦模型。GPT-J是OpenAI公司旗下 GPT-3的開源替代品，現(xiàn)在已經(jīng)接入MLPerf中成為評判推理性能的標準。和目前業(yè)內(nèi)最先進的人工智能模型相比，60億參數(shù)仍屬于輕量的模型，不過在評判推理性能方面完全足夠。 GH200 Grace Hopper超級芯片在本次測試中取得了極其優(yōu)異的成績，離線和服務(wù)器場景中加速性能都達到了業(yè)內(nèi)的最高水平。根據(jù)英偉達公司官方介紹，GH200 Grace Hopper超級芯片就是專門為計算和內(nèi)存比較密集的工作研發(fā)的，在工作負債方面擁有更加強大的性能。