Once you have a dozen MCP servers, the temptation is to build one giant thing that knows about all of them. I built the opposite — and benchmarked it until the claims stopped being adjectives.
✦ LACAUSE · Dexter & his Assistant
The natural failure mode of a growing system is the god object: one component that slowly learns about everything else until nobody can change it without fear. Agent stacks reach for it fast — a single orchestrator that knows every server, every credential, every quirk.
I have a dozen MCP servers now. The day I felt the gravity of that god object pulling at me was the day I decided to build its opposite.
Thin pipes, strict edges
mcp-conduit is a gateway that sits between agents and MCP servers and stays deliberately ignorant of what flows through it. Routing, caching, auth, rate limits, guardrails — the boring cross-cutting concerns — in one place, configured by one YAML file. It does not understand your domain. That is the feature, not a gap.
The numbers I care about: 0.02 ms of added overhead, 46K+ cache-hit requests per second, 1,341 tests. Those aren’t adjectives. I write them down because a performance claim you can’t reproduce is just marketing wearing a lab coat.
Orchestration that admits it’s a graph
Above the gateway sits OCC — a YAML-first orchestrator for multi-model chains, with auto-parallelism, thirty built-in tools, and 3,243 tests across six providers. The thesis is the one I keep arriving at from every direction: explicit configuration over hidden framework magic.
A chain of model calls is a dependency graph whether you admit it or not. OCC makes you admit it — and then runs the independent branches in parallel, because once the shape is written down it can simply see which steps don’t wait on each other. No cleverness. Just a graph you’re allowed to read.
FIG. I — Schematic. A chain of model calls is a dependency graph. Once the shape is written down, OCC runs the independent steps (outlined) at once instead of in sequence — the join waits only for the slowest branch, never the sum of all of them.
Hidden magic is a loan. It feels free until the day you have to debug it — and then the interest is the whole afternoon.
The house style
Benchmark, then claim — never the reverse.
Configuration you can read beats behaviour you have to infer.
The gateway should know how, never what.
Document the ceiling, not just the floor.
This is the “no hype” line from the front page, made mechanical. It’s easy to put benchmarked, documented, no hype in a hero section. The real test is whether the repositories back it with numbers and tests when someone clicks through. I try hard to make sure they do.
A gateway, an orchestrator, a compressor — three thin layers that each refuse to become the god object. The system stays boring in the middle so the interesting parts stay changeable at the edges. That’s the whole architecture, and most of the philosophy.
Le mode de défaillance naturel d’un système qui grossit, c’est l’objet-dieu : un composant qui apprend lentement tout sur les autres jusqu’à ce que plus personne n’ose y toucher. Les piles d’agents y courent vite — un orchestrateur unique qui connaît chaque serveur, chaque identifiant, chaque bizarrerie.
J’ai aujourd’hui une douzaine de serveurs MCP. Le jour où j’ai senti la gravité de cet objet-dieu m’attirer est le jour où j’ai décidé de construire son contraire.
Des tuyaux fins, des bords stricts
mcp-conduit est une passerelle qui se place entre les agents et les serveurs MCP et reste délibérément ignorante de ce qui la traverse. Routage, cache, auth, limites de débit, garde-fous — les corvées transversales et ennuyeuses — au même endroit, configurés par un seul fichier YAML. Elle ne comprend pas votre domaine. C’est la fonctionnalité, pas un manque.
Les chiffres qui m’importent : 0,02 ms de surcoût ajouté, 46K+ requêtes servies depuis le cache par seconde, 1 341 tests. Ce ne sont pas des adjectifs. Je les écris parce qu’une promesse de performance qu’on ne peut pas reproduire n’est que du marketing en blouse blanche.
Une orchestration qui assume d’être un graphe
Au-dessus de la passerelle se trouve OCC — un orchestrateur YAML-first pour des chaînes multi-modèles, avec parallélisme automatique, trente outils intégrés et 3 243 tests répartis sur six fournisseurs. La thèse est celle où j’aboutis quelle que soit la direction d’où je viens : la configuration explicite plutôt que la magie cachée des frameworks.
Une chaîne d’appels de modèles est un graphe de dépendances, qu’on l’admette ou non. OCC vous force à l’admettre — puis exécute les branches indépendantes en parallèle, parce qu’une fois la forme écrite il voit simplement quelles étapes ne s’attendent pas l’une l’autre. Aucune astuce. Juste un graphe que vous avez le droit de lire.
FIG. I — Schéma. Une chaîne d’appels de modèles est un graphe de dépendances. Une fois la forme écrite, OCC exécute les étapes indépendantes (entourées) en même temps plutôt qu’en file — la jonction n’attend que la branche la plus lente, jamais la somme de toutes.
La magie cachée est un emprunt. Elle paraît gratuite jusqu’au jour où il faut déboguer — et là, les intérêts, c’est tout l’après-midi.
Le style de la maison
Mesurer, puis promettre — jamais l’inverse.
Une configuration qu’on peut lire vaut mieux qu’un comportement qu’on doit deviner.
La passerelle doit savoir comment, jamais quoi.
Documenter le plafond, pas seulement le plancher.
C’est la formule « sans esbroufe » de la page d’accueil, rendue mécanique. Il est facile de mettre mesuré, documenté, sans esbroufe dans une section d’accroche. Le vrai test, c’est de savoir si les dépôts le soutiennent avec des chiffres et des tests quand on clique. Je m’efforce de faire en sorte que oui.
Une passerelle, un orchestrateur, un compresseur — trois couches fines qui refusent chacune de devenir l’objet-dieu. Le système reste ennuyeux au milieu pour que les parties intéressantes restent modifiables aux bords. Voilà toute l’architecture, et l’essentiel de la philosophie.