コンピュータビジョンエンジニアのためのTriton、TorchServe、TF Serving入門

コンピュータビジョンモデルを本番環境にデプロイし、効率的に管理するための主要なモデルサービングツール(Triton、TorchServe、TF Serving)の概念と実践的なスキルを習得します。

モデルサービングの基礎とNVIDIA Triton Inference Server

Unit 1: モデルサービングの基本

Unit 2: NVIDIA Triton入門

Unit 3: TritonでCVモデルをデプロイ

Unit 4: Tritonの高度な機能

TorchServeとTensorFlow Servingによるモデルデプロイメントとパフォーマンス評価

Unit 1: TorchServeの基礎とデプロイメント

Unit 2: TensorFlow Servingの基礎とデプロイメント

Unit 3: モデルサービングツールの比較と選択