本文へスキップ
LiteLLM logo

LiteLLM

100 以上の LLM API を呼び出せるオープンソースゲートウェイ

LiteLLM は、単一のインターフェースから 100 以上の言語モデル API を使える OpenAI 互換ゲートウェイと Python SDK を提供します。プロキシはルーティング、再試行、仮想キー、予算、安全制御、利用追跡、MCP アクセス制御を本番システムに加えます。

適したエージェント機能

役立つエージェントのタスク

概要

ウェブサイトwww.litellm.ai
認証API キー
料金無料枠あり・セルフホストは無料
SDKspython
OpenAPIはい
MCP 対応はい

LiteLLM を使う場面

LiteLLM は、デプロイ, 監視のワークフロー向けに掲載されています。 LiteLLM は、単一のインターフェースから 100 以上の言語モデル API を使える OpenAI 互換ゲートウェイと Python SDK を提供します。プロキシはルーティング、再試行、仮想キー、予算、安全制御、利用追跡、MCP アクセス制御を本番システムに加えます。 アプリ内で独自のインフラを維持する代わりに、文書化されたサービスの境界を通じてこの機能が必要な場合に検討できます。

4agent のタスクモデルでは、この製品は次の機能に対応します:デプロイ, ワークフロー自動化, 可観測性と評価。 そのため、次のタスクの候補となります:ソフトウェアを開発・デプロイする, 本番エージェントを運用する, ユーザーと対話する, 業務フローを自動化する。

連携チェックリスト

  • アクセス: API キー の認証フロー、資格情報の範囲と更新手順、ユーザーやサービス ID ごとの呼び出し追跡を確認してください。
  • クライアント対応: python 向けの公式または文書化されたクライアントが掲載されています。
  • 自動化: OpenAPI:利用可能として掲載、MCP:利用可能として掲載、CLI:利用可能として掲載。各要件を提供元の最新文書で確認してください。
  • 運用: 本番に近い利用量でレート制限、タイムアウト、再試行、エラー、ログ、データ保持、現在の無料枠と有料枠の料金を確認してください。

情報源と検証

実装や購入の判断前に、一次資料で最新の動作を確認してください。機能、制限、価格は掲載確認後に変わる場合があります。