BERT-Large的訓(xùn)練時(shí)間比最新的NVIDIA DGX-A100快5.3倍（比雙DGX設(shè)置快2.6倍以上），這一結(jié)果彰顯了Graphcore的IPU-POD橫向擴(kuò)展解決方案在數(shù)據(jù)中心的優(yōu)勢(shì)，以及Poplar軟件棧管理復(fù)雜工作負(fù)載的能力，這些工作負(fù)載能夠利用多個(gè)處理器并行工作�！盙raphcore為其最新的AI計(jì)算系統(tǒng)——IPU-M2000和縱向擴(kuò)展的IPU-POD64發(fā)布了第一套性能benchmark。

在各種流行的模型中，Graphcore技術(shù)在訓(xùn)練和推理方面均顯著優(yōu)于NVIDIA的A100（基于DGX）。

EfficientNet-B4：吞吐量高18倍

ResNeXt-101：吞吐量高3.7倍

BERT-Large：與DGX A100相比，在IPU-POD64上的訓(xùn)練時(shí)間快5.3倍（比雙DGX系統(tǒng)縮短2.6倍）

LSTM：以更低時(shí)延實(shí)現(xiàn)吞吐量提升超過(guò)600倍

EfficientNet-B0：吞吐量提升60倍/時(shí)延縮短超過(guò)16倍

ResNeXt-101：吞吐量提升40倍/時(shí)延縮短10倍

BERT-Large：以更低的時(shí)延實(shí)現(xiàn)吞吐量提升3.4倍

Benchmark中包括了BERT-Large（基于Transformer的自然語(yǔ)言處理模型）在IPU-POD64的全部64個(gè)處理器上運(yùn)行的結(jié)果。

與Poplar軟件棧的其他元素一樣，Graphcore正在將其用于IPU接口庫(kù)的PyTorch開(kāi)源，從而使社區(qū)能夠?qū)yTorch的開(kāi)發(fā)做出貢獻(xiàn)，并且加速PyTorch的開(kāi)發(fā)。

IPU-Machine：M2000（IPU-M2000）是一臺(tái)即插即用的機(jī)器智能計(jì)算刀片，旨在輕松部署并為可大規(guī)模擴(kuò)展的系統(tǒng)提供支持。

纖巧的1U刀片可提供1 PetaFlop的機(jī)器智能計(jì)算能力，并在機(jī)箱內(nèi)部納入針對(duì)AI橫向擴(kuò)展進(jìn)行了優(yōu)化的集成網(wǎng)絡(luò)技術(shù)。

(素材來(lái)源：ttic和eccn.如涉版權(quán)請(qǐng)聯(lián)系刪除。特別感謝）