Skip to main content

独自設計チップ AWS Inferentia と AWS Trainium による機械学習の高速化とコスト最適化

AWS では、広く利用され歴史もある NVIDIA GPU を搭載したインスタンスを提供する一方、より高い性能、より高いコストパフォーマンスを持つ幅広い選択肢を提供するため、機械学習ワークロード向けの独自設計カスタムチップ、AWS Inferentia 及びAWS Trainium を開発してきました。このセッションでは、AWS Inferentia を搭載した ML 推論向け Inf1インスタンス、AWS Trainium を搭載した ML学習向け Trn1インスタンス、それぞれの概要と活用方法についてご紹介します。

アマゾン ウェブ サービス ジャパン合同会社 Annapurna Labs 常世 大史