video-ia.net
Video-IA.net
Zurück
G

LiteLLM: OpenAI‑kompatibles LLM‑Gateway & SDK - Video-IA.net

LiteLLM ist ein Python‑SDK und Proxy (LLM‑Gateway), um 100+ Provider über OpenAI‑Interface aufzurufen, inkl. Routing, Budgets und Limits.

Visit Tool
About this tool

LiteLLM — OpenAI‑kompatibles LLM‑Gateway & SDK

LiteLLM ermöglicht Aufrufe von 100+ LLM‑APIs (OpenAI, Azure, Vertex, Bedrock, Cohere, Anthropic, HuggingFace, Replicate, Groq usw.) über eine einheitliche OpenAI‑Schnittstelle. Inklusive Produktions‑Proxy (LLM‑Gateway) mit Routing/Fallback, Budgets, Rate‑Limits, Logging‑Callbacks und Dashboard. Streaming, async, Embeddings und Bilder mit konsistenten Responses. Dokus für Quickstart, Proxy‑Setup, Schlüsselverwaltung und Provider‑Guides.

Key Features
Rufe 100+ LLM‑APIs im OpenAI‑kompatiblen Format auf
Proxy‑Server (LLM‑Gateway) mit Routing, Budgets, Rate‑Limits
Streaming, async, Embeddings, Bilder; konsistente OpenAI‑Responses
Observability‑Callbacks; Enterprise‑Tier; breite Provider‑Unterstützung
Follow this tool
DiscordGithubLinkedinTwitter
Tool Information

Category

No category

Status

PUBLISHED
Related Tools
B
Blunge: KI‑Grafik‑Stil‑Packs - Video-IA.net

Blunge bietet Stil‑Packs, um in Minuten Grafiken zu erstellen—jetzt gratis starten.

0
Zero (0.email) – KI‑E‑Mail‑Client - Video-IA.net

Zero (0.email) ist ein KI‑gestützter E‑Mail‑Client mit moderner PWA‑Frontend.

2
2Captcha: Automatisierter CAPTCHA‑Lösungsservice - Video-IA.net

Automatisierter CAPTCHA‑Lösungsservice mit API, Browser‑Erweiterungen und SDKs für Entwickler.