2022年7月4日,中國北京——Graphcore?(擬未)正式發布其參與MLPerf測試的最新結果。本次提交中,Graphcore使用新發布的Bow系統分別在圖像分類模型ResNet-50和自然語言處理模型BERT上實現了和上次提交相比高達31%和37%的性能提升。此外,Graphcore還新增了語音轉錄模型RNN-T的提交。
本次MLPerf提交中,首次有第三方使用了Graphcore的系統。百度飛槳使用Graphcore系統進行了BERT的提交,并展現出和Graphcore的BERT提交幾乎一致的性能,證明了Graphcore的IPU所提供的性能可以有效地跨框架復現,以及IPU生態進一步繁榮的潛力。
Graphcore此次在封閉分區面向ResNet-50和BERT兩個模型提交了以3D WoW處理器Bow IPU為核心的Bow系統,包括Bow Pod16、Bow Pod64、Bow Pod128和Bow Pod256。和前代產品相比,Bow系統在提供更優性能的同時價格保持不變,進一步提升了Graphcore系統的性價比優勢。結果顯示,與上次提交相比,ResNet-50的訓練時間提升高達31%,BERT的訓練時間提升高達37%。
在GPU占據優勢的模型ResNet-50上,Bow Pod16僅耗時19.6分鐘,表現優于NVIDIA的旗艦產品DGX-A100 640GB所需的28.7分鐘,再一次體現了Bow系統的性價比優勢。
除此之外,Graphcore還提交了RNN-T在開放分區中的結果。RNN-T是一種進行高度準確的語音識別的精密方式,在移動設備上被廣泛使用。在Bow Pod64上,RNN-T的訓練時間可以從原本的幾周縮短到幾天。
Graphcore中國工程副總裁、AI算法科學家金琛表示:“對于本次MLPerf取得的出色成績,我們感到非常自豪,這與Graphcore始終堅持創新密不可分。我們也非常高興能夠與百度飛槳聯合進行提交,通過與百度飛槳的合作加速IPU生態系統的擴展,為產業賦能,推動各領域產業AI化轉型和升級。未來,我們也將繼續創新,應對不斷增長的AI計算挑戰,助力AI計算的演進。”
在本次MLPerf Training 2.0的提交中,百度飛槳使用Bow Pod16和Bow Pod64進行了BERT在封閉分區的提交,結果與Graphcore使用PopART進行提交的結果幾乎一致。這充分證明了Graphcore IPU性能的跨框架復現能力。這一能力的實現得益于Graphcore靈活的硬件系統、持續優化的軟件、強大的本地支持和合作伙伴的支持。正如此次提交,百度將Graphcore的Poplar?與飛槳軟件框架相結合,實現了出色的性能結果。
百度飛槳產品團隊負責人趙喬表示:“百度飛槳與Graphcore的合作,在本次MLPerf上獲得了十分優秀的成果。Graphcore的IPU系統在合作中展現了出色的性能,在許多應用場景都展現出了巨大的應用潛力。我們期待進一步加深與Graphcore在硬件生態共創計劃中的合作,以創新的技術加速AI產業落地,推動AI產業變革。”
百度飛槳已經實現了對于IPU的全面支持。Graphcore是百度飛槳硬件生態圈的創始成員,并在2022年5月正式加入了百度飛槳發起的硬件生態共創計劃。未來,雙方還將進一步展開合作,為開發者提供更多創新工具,推動AI生態繁榮,從而賦能產業中AI的應用和AI的商業化。產業中AI的應用落地,也必將反哺AI的發展和AI生態的進一步繁榮。