G

LiteLLM: OpenAI‑compatibele LLM‑gateway & SDK - Video-IA.net

LiteLLM is een Python‑SDK en proxy (LLM‑gateway) om 100+ providers via OpenAI‑interface aan te roepen, met routing, budgetten en limieten.

About this tool

LiteLLM — OpenAI‑compatibele LLM‑gateway & SDK

LiteLLM laat je 100+ LLM‑API’s (OpenAI, Azure, Vertex, Bedrock, Cohere, Anthropic, HuggingFace, Replicate, Groq, etc.) aanroepen via één OpenAI‑interface. Bevat een productie‑proxy (LLM‑gateway) met routing/fallback, budgetten, rate‑limits, logging‑callbacks en dashboard. Streaming, async, embeddings en images met consistente responses. Docs voor quickstarts, proxy, sleutelbeheer en provider‑guides.

Key Features
Bel 100+ LLM‑API’s in OpenAI‑compatibel formaat
Proxyserver (LLM‑gateway) met routing, budgetten, rate‑limits
Streaming, async, embeddings, images; consistente OpenAI‑output
Observability‑callbacks; enterprise‑tier; brede providersondersteuning
Tool Information

Category

No category

Status

PUBLISHED
Related Tools
B
Blunge: AI‑grafische stijlpakketten - Video-IA.net

Blunge biedt stijlpakketten om in minuten graphics te maken—start gratis.

0
Zero (0.email) – AI‑e‑mailclient - Video-IA.net

Zero (0.email) is een AI‑gestuurde e‑mailclient met moderne PWA‑frontend.

2
2Captcha: Geautomatiseerde CAPTCHA‑oplossingsservice - Video-IA.net

Geautomatiseerde CAPTCHA‑oplossingsservice met API, browser‑extensies en SDK's voor ontwikkelaars.