Architecture IA

Infrastructure IA

Une plateforme IA industrialisée demande des briques de run : orchestration, transformation, conteneurisation, observabilité et gateways.

AirflowdbtKubernetesMLflowLangfuseLiteLLM

Socle technique

OutilRôle
AirflowOrchestration pipelines ingestion / indexation.
dbtTransformation SQL, tests, documentation, lineage.
DockerPackaging reproductible.
KubernetesOrchestration, autoscaling, haute disponibilité.
MLflowTracking, registry, lifecycle ML.
LangfuseObservabilité LLM : prompts, coûts, latence, traces.
LiteLLMGateway multi-modèles, fallback, quotas.

Architecture de run

flowchart TB A[Git] --> B[CI/CD] B --> C[Registry Docker] C --> D[Kubernetes] D --> E[Services IA] D --> F[Workers Airflow] D --> G[LLM Gateway] E --> H[Monitoring] F --> H G --> H H --> I[Alerting / Audit] E --> J[MLflow] G --> K[Langfuse]

Principes de déploiement

  • Tout composant critique doit être monitoré.
  • Les prompts et modèles sont versionnés.
  • Les changements de retrieval sont testés sur un dataset de référence.
  • Le coût token est un indicateur de production.
  • Le fallback modèle est prévu dès l’architecture.