Placeman :
OmniRoute est une passerelle IA (AI gateway) gratuite et open-source qui unifie l'accès à des centaines de fournisseurs de modèles de langage (LLM) via un seul endpoint local compatible OpenAI.
Fonctionnement et avantages principaux :
Centralisation : Au lieu de gérer des clés API et des quotas pour chaque fournisseur individuellement, OmniRoute expose un point d'accès unique (généralement sur localhost:20128/v1) vers lequel vos outils de développement (comme Claude Code, Cursor, Cline, Codex ou Copilot) se connectent.
Routage intelligent et auto-fallback : Le système utilise des stratégies de routage avancées pour diriger les requêtes vers le fournisseur le moins cher, le plus rapide ou le plus disponible. Si un fournisseur atteint sa limite de quota ou tombe en panne, OmniRoute bascule automatiquement vers un autre fournisseur sans interrompre le workflow.
Accès gratuit et économique : La plateforme agrège les offres gratuites et à faible coût de plus de 290 à 340 fournisseurs (avec plus de 90 tiers gratuits), permettant d'accéder à environ 1,5 à 1,6 milliard de tokens gratuits par mois.
Optimisation et protocoles : Elle intègre une compression de tokens (RTK + Caveman) qui réduit l'utilisation de 15 % à 95 %, et supporte les protocoles MCP (Model Context Protocol) et A2A (Agent-to-Agent), permettant aux agents IA de piloter la passerelle elle-même.
Développé par la communauté et hébergé sur GitHub, OmniRoute est conçu pour être auto-hébergé (via npm, Docker ou application desktop), garantissant que les clés API et les données restent locales.
2026-08-22 07:13:17