LLMOpsエンジニアのためのクラウド費用管理と最適化戦略入門
LLMワークロードに特化したクラウド費用管理と最適化戦略を習得し、コスト効率の高いモデル運用を実現するための実践的な知識とスキルを身につけます。
...
Share
LLMワークロードのクラウド費用構造と主要コストドライバーの理解
Unit 1: クラウド費用の基本とLLMワークロード
クラウド費用の基礎
LLMとクラウド
Unit 2: 主要クラウドプロバイダーの課金構造
AWSのLLM費用
AzureのLLM費用
GCPのLLM費用
Unit 3: LLM特有のコストドライバー
LLM推論のコスト
LLMトレーニングのコスト
隠れたコストと注意点
実践的なコスト最適化戦略とFinOps原則の適用
Unit 1: LLMデプロイメントのコスト削減戦略
インスタンス適正化の基本
スポットインスタンス活用術
RIとSavings Plans
データ転送コスト削減
Unit 2: FinOps原則とツールの適用
FinOpsの基礎とLLM
コスト監視と予測
Unit 3: LLM向け新技術によるコスト最適化
サーバーレス推論の力
モデル最適化技術