コンピュータビジョンエンジニアのためのTriton、TorchServe、TF Serving入門
コンピュータビジョンモデルを本番環境にデプロイし、効率的に管理するための主要なモデルサービングツール(Triton、TorchServe、TF Serving)の概念と実践的なスキルを習得します。
...
Share
モデルサービングの基礎とNVIDIA Triton Inference Server
Unit 1: モデルサービングの基本
モデルサービングとは?
CVモデルのデプロイ課題
モデルサービングのアーキテクチャ
Unit 2: NVIDIA Triton入門
Tritonとは?
Tritonのセットアップ
モデルリポジトリの準備
Unit 3: TritonでCVモデルをデプロイ
画像分類モデルのデプロイ
物体検出モデルのデプロイ
Unit 4: Tritonの高度な機能
動的バッチ処理
同時モデル実行
TorchServeとTensorFlow Servingによるモデルデプロイメントとパフォーマンス評価
Unit 1: TorchServeの基礎とデプロイメント
TorchServeとは?
モデルアーカイブの作成
カスタムハンドラ入門
TorchServeでデプロイ
Unit 2: TensorFlow Servingの基礎とデプロイメント
TF Servingとは?
TF Servingでデプロイ
モデルのバージョン管理
A/Bテスト戦略
Unit 3: モデルサービングツールの比較と選択
パフォーマンス評価
最適なツールを選ぶ