G

LiteLLM:OpenAI互換LLMゲートウェイ&SDK - Video-IA.net

LiteLLMはPython SDK兼LLMゲートウェイ。OpenAI互換で100以上のプロバイダを呼び出し、ルーティング/予算/レート制限に対応。

About this tool

LiteLLM — OpenAI互換のLLMゲートウェイ&SDK

LiteLLMはOpenAI/Azure/Vertex/Bedrock/Cohere/Anthropic/HuggingFace/Replicate/Groq等100以上のAPIを単一のOpenAI形式で呼び出し可能。運用向けプロキシ(LLM Gateway)はルーティング/フォールバック、予算/レート制限、ロギングコールバック、ダッシュボードを提供。ストリーミング/非同期/埋め込み/画像生成に対応し、応答形式は一貫。ドキュメントにはクイックスタート、プロキシ設定、キー管理、各プロバイダガイドを収録。

Key Features
OpenAI互換フォーマットで100以上のLLM APIを呼び出し
プロキシ(LLM Gateway):ルーティング/予算/レート制限
ストリーミング/非同期/埋め込み/画像対応。OpenAI互換レスポンス
可観測性コールバック、エンタープライズ層、幅広いプロバイダ対応
Tool Information

Category

No category

Status

PUBLISHED
Related Tools
B
Blunge:AIグラフィックスタイルパック - Video-IA.net

Blungeは厳選スタイルで数分でグラフィック作成—無料で開始。

0
Zero (0.email) – AIメールクライアント - Video-IA.net

Zero(0.email)はモダンなPWAフロントエンドのAIメールクライアントです。

2
2Captcha:自動CAPTCHA解決サービス - Video-IA.net

API、ブラウザ拡張機能、SDKを提供する自動CAPTCHA解決サービス。