AWS Inferentia 定制芯片中最關鍵的范圍和頻度的限制

發(fā)布時間:2020/12/23 20:02:03 訪問次數(shù):304

雙路服務器搭載兩顆第三代英特爾®至強®可擴展處理器（代號“Ice Lake”），并配有第二代英特爾®傲騰™持久內(nèi)存，能夠帶來更高內(nèi)存帶寬，更快I/O吞吐，更強單實例性能，可滿足通用計算、異構計算、裸金屬、高性能計算等全業(yè)務場景。

在計算密度上的提升高達50%；而通過設計高性能散熱器和研發(fā)創(chuàng)新獨立風道設計，其平臺散熱能力提升達45%。由于RAS增強功能的引入，以及多維度全覆蓋故障診斷、精細化定位問題，使該服務器的整體宕機率降低約50%。

制造商: Texas Instruments

產(chǎn)品種類: 電源開關 IC - 配電

RoHS: 詳細信息

類型: High Side

輸出端數(shù)量: 2 Output

輸出電流: 1 A

電流限制: 1.5 A

導通電阻—最大值: 70 mOhms

工作電源電壓: 2.7 V to 5.5 V

最小工作溫度: - 40 C

最大工作溫度: + 85 C

安裝風格: SMD/SMT

封裝 / 箱體: SON-8

系列: TPS2062A

封裝: Cut Tape

封裝: MouseReel

封裝: Reel

產(chǎn)品: USB Power Switches

商標: Texas Instruments

濕度敏感性: Yes

產(chǎn)品類型: Power Switch ICs - Power Distribution

工廠包裝數(shù)量: 3000

子類別: Switch ICs

電源電壓-最大: 5.5 V

電源電壓-最小: 2.7 V

單位重量: 24 mg

全新的機器學習定制訓練芯片 Trainium，芯片可以帶來比競品都要好的的性能表現(xiàn)。這款芯片主要的在ML中最關鍵的范圍和頻度的限制，與標準的 AWS GPU 實例相比，Trainium 具有相當顯著的速度和成本優(yōu)勢。Trainiu可帶來 30% 的吞吐量提升、以及降低 45% 的單次引用成本。這款芯片是在去年發(fā)布的AWS Inferentia 定制芯片的補充，和其使用了相同的SDK。

在EC2的方面，AWS也分享了一些全新的動態(tài)。AWS已經(jīng)和Intel展開合作，在Habana Gaudi上進行EC2機器學習訓練實例，相比GPU的EC2實例提高了40%的性價比。8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓練ResNet-50模型。