Inférence GPU distribuée pour Magik AI

Contexte

Magik AI est une application web et mobile de génération de médias interactifs que j’ai construite dans le cadre de mes projets freelance et personnels (2020 – 2025). Elle s’appuie sur des modèles IA open source déployés sur un cluster GPU RunPod pour l’inférence distribuée. Autour des modèles, on trouve des pipelines GenAI (RAG, fine-tuning, ComfyUI), un upscaling automatique, des agents IA et des workflows n8n qui automatisent la production de médias.

Problème

Générer des médias avec des modèles d’IA demande beaucoup de calcul et par à-coups. Un produit construit dessus doit décider quels modèles utiliser, où les exécuter et comment transformer la sortie brute d’un modèle en résultat fini, sans le coût ni la rigidité d’un parc de GPU fixe ou d’une API hébergée unique. La génération de médias se fait aussi en plusieurs étapes : une génération brute demande généralement de l’upscaling et d’autres traitements avant d’être utilisable, la plateforme doit donc orchestrer une chaîne d’étapes plutôt qu’un simple appel de modèle.

Décisions d’architecture

Des modèles open source plutôt qu’une API hébergée

La plateforme repose sur des modèles IA open source, qui peuvent être affinés et exécutés sur une infrastructure que l’équipe maîtrise.

Compromis : exécuter ses propres modèles signifie assumer le déploiement, la montée en charge et les mises à jour. En échange, on contrôle le modèle, son réglage et son profil de coût.

Un cluster GPU RunPod pour l’inférence distribuée

L’inférence est distribuée sur un cluster GPU RunPod, de sorte que le travail de génération puisse être réparti sur plusieurs GPU au lieu de s’empiler sur un seul.

Compromis : l’inférence distribuée ajoute de l’ordonnancement et de la gestion de pannes. Elle permet de faire croître le débit avec le nombre de GPU.

Des pipelines GenAI : RAG, fine-tuning et ComfyUI

Les pipelines GenAI associent RAG, fine-tuning et ComfyUI, avec un upscaling automatique comme étape qui améliore le résultat final.

Compromis : les pipelines à base de nœuds comme ComfyUI rendent les workflows composables et reproductibles, mais ajoutent une couche à apprendre et à versionner.

L’automatisation avec des agents IA et des workflows n8n

Des agents IA et des workflows n8n automatisent la production de médias en enchaînant génération, upscaling et étapes annexes, pour que le résultat fini ne dépende pas de passages de relais manuels.

Compromis : l’automatisation réduit le travail manuel mais demande de la supervision, car un workflow laissé sans surveillance peut échouer en silence.

Résultats

Magik AI est une plateforme web et mobile opérationnelle où des médias interactifs sont générés sur des modèles open source, servis par une inférence GPU distribuée et produits par des pipelines automatisés.