Skip to main content

CUS-91：Edge Deep Learning におけるMLOps

LeapMind Extremely Low-bit Deep Learning Solution x Cyclone® V FPGA x Amazon SageMaker & AWS IoT Greengrass を用いた Edge Deep Learning におけるMLOps

LeapMind 株式会社 Infrastructure Division Engineer 増田 英晃 氏

LeapMind の提供する極小量子化技術を用いると、Deep Learning のモデルサイズ及び計算量を圧縮しつつ、精度の低下を最小限に抑えられるため、消費電力やメモリ、価格などの制限が厳しいローエンドなデバイス上にて、実用的なアプリケーションを動かすことが可能になります。本セッションでは、LeapMind のもつテクノロジーのご紹介および、LeapMind の OSS である Blueoil、FPGA デバイス、AWS のコンポーネント(Amazon SageMaker, AWS IoT Greengrass)を用いた、低消費電力がもとめられる環境下での推論実行を目的とした Edge Deep Learning 環境における MLOps についてご紹介させていただきます。