T2-5 生成 AI の進化を支えるインフラ技術 ～ AWS Trainium、Inferentia2 によるイノベーションと活用事例 ～ (Level 300)

生成 AI の進化は目覚ましい速度で進んでいます。AWS では低コストで高性能な生成 AI を実現するためのインフラ技術に投資を続けており、独自設計 ML アクセラレータ AWS Trainium と Inferentia2 を開発してきました。本セッションでは、AWS Trainium と Inferentia2 の最新情報および国内外の活用事例を紹介します。セッション後半では AWS Trainium を活用し、130 億パラメータの日本語大規模モデルを開発されたストックマーク社より、活用事例を紹介いただきます。

アマゾン ウェブ サービス ジャパン合同会社 Annapurna Labs 常世 大史

ストックマーク株式会社 Research Division, VP of Research 近江 崇宏 氏