LLMOpsエンジニアのためのLLMパフォーマンスメトリクス入門:レイテンシー、スループット、パープレキシティ、トークンあたりのコスト

LLMOpsエンジニアとして、LLMのパフォーマンスを最適化し、コストを管理するための主要なメトリクス(レイテンシー、スループット、パープレキシティ、トークンあたりのコスト)を習得し、実践的な監視・最適化手法を学びます。

LLMパフォーマンスメトリクスの基礎と測定

Unit 1: LLMパフォーマンスの基本

Unit 2: パフォーマンスへの影響要因

LLMパフォーマンスの最適化とビジネスへの影響

Unit 1: パフォーマンスメトリクスのトレードオフ

Unit 2: 運用環境での最適化

Unit 3: ビジネスへの影響評価