Infrastructure IA auto-hébergée
Pool d'IA EV-LAB
Un ensemble de services d'intelligence artificielle que j'héberge et que j'opère moi-même, en France, sur mes propres GPU. Les modèles sont ouverts, les traitements sont répartis entre plusieurs machines avec repli automatique, et chaque usage est mesuré. C'est le socle commun de , et et des projets que je mène pour mes clients.
Ce que le pool sait faire
- Transcription audio et vidéo
- Synthèse vocale
- Recherche sémantique
- Recherche web et lecture de pages
- Génération d'images et de visuels
- Métadonnées et pochettes musicales
- Séparation de pistes et mastering
- Remontage musical à durée exacte
Comment ça tient
Orchestration GPU
Les modèles se chargent à la demande et se déchargent quand ils ne servent plus. Un arbitre distribue la mémoire GPU entre les services et refuse plutôt que de saturer.
Plusieurs machines, repli automatique
Les traitements lourds sont délégués à la machine la plus adaptée. Si elle est indisponible, chaque service bascule sur son repli local sans interruption.
Une API commune
Toutes les briques parlent la même langue : même authentification, même format, mêmes contrôles de santé. Une application nouvelle se branche en quelques lignes.
Usage mesuré
Chaque appel est compté par application et par clé. Je sais ce que coûte chaque service, et je peux le facturer.