G

LiteLLM: Gateway LLM compatibile OpenAI & SDK - Video-IA.net

LiteLLM è un SDK Python e proxy (LLM Gateway) per chiamare 100+ provider con interfaccia OpenAI, con routing, budget e limiti.

About this tool

LiteLLM — Gateway LLM compatibile OpenAI & SDK

LiteLLM consente di chiamare 100+ API LLM (OpenAI, Azure, Vertex, Bedrock, Cohere, Anthropic, HuggingFace, Replicate, Groq, ecc.) con un’unica interfaccia stile OpenAI. Include un proxy di produzione (LLM Gateway) con routing/fallback, budget, rate‑limit, callback di logging e dashboard. Streaming, async, embeddings e generazione immagini con risposte coerenti. Guide per quick start, proxy, gestione chiavi e provider.

Key Features
Chiama 100+ API LLM in formato compatibile OpenAI
Server proxy (LLM Gateway) con routing, budget, rate limit
Streaming, async, embedding, immagini; risposte OpenAI coerenti
Callback di osservabilità; tier enterprise; ampio supporto provider
Tool Information

Category

No category

Status

PUBLISHED
Related Tools
B
Blunge: Pack di stili grafici IA - Video-IA.net

Blunge offre pacchetti di stili per creare grafica in pochi minuti—parti gratis.

0
Zero (0.email) – Client email IA - Video-IA.net

Zero (0.email) è un client email con IA e frontend PWA moderno.

2
2Captcha: Servizio di Risoluzione Automatica CAPTCHA - Video-IA.net

Servizio di risoluzione automatica CAPTCHA con API, estensioni browser e SDK per sviluppatori.