Kereval, Ouest-France et Inria ont été sélectionnés par l’ANR (Agence Nationale de la Recherche) pour contribuer à faire avancer la recherche en faveur d’une IA plus robuste et digne de confiance. Leur projet de recherche, dénommé WestOps et financé dans le cadre de l’appel à projets TSIA (Thématiques Spécifiques en Intelligence Artificielle), s’attaque à un enjeu critique de l’intelligence artificielle : comment garantir la fiabilité et l’adaptabilité des modèles de Machine Learning une fois déployés en production ?

Depuis près de 10 ans, Kereval, expert en test logiciel, travaille sur le test des modèles d’IA, en particulier pour évaluer leurs propriétés de confiance : robustesse, explicabilité, sécurité, éthique… Le projet WestOps vient prolonger cet engagement, en complément de projets structurants déjà portés par Kereval, comme ceux menés dans le cadre du programme national Confiance.ai ou dans l’univers sensible des données de santé. Aujourd’hui, accompagner les industriels dans la mise en place de pipelines MLOps – contraction de « Machine Learning » et « Operations » – fiables s’inscrit pleinement dans l’ADN de Kereval.  En apportant son savoir-faire en tests automatisés, en détection de dérives et en validation continue des modèles, l’entreprise contribue à bâtir une intelligence artificielle de confiance.

Les enjeux du MLOps : entre promesses et réalités

Le déploiement de modèles de Machine Learning ne se résume pas à leur performance initiale. Une fois en production, ces modèles évoluent dans des environnements dynamiques, soumis à l’évolution des données, aux changements de contexte ou encore à des comportements utilisateurs imprévisibles.

Le MLOps vise à répondre à ces défis en industrialisant le cycle de vie des modèles, sur le même principe que le DevOps appliqué aux logiciels traditionnels. En théorie, il permet de surveiller les modèles, de les mettre à jour et de les réentraîner automatiquement en fonction de leur comportement en production.

Mais dans la pratique, des limites existent. La détection des dérives reste souvent artisanale.  Les boucles de réadaptation sont rares et encore insuffisamment automatisées. Et surtout, il manque aujourd’hui des outils capables d’intégrer pleinement ces processus dans des pipelines MLOps robustes et fiables.

WESTOPS ambitionne de combler ces lacunes en développant un cadre MLOps capable de déclencher automatiquement des actions (réentraînement, remplacement, adaptation) tout en guidant la sélection de la stratégie la plus pertinente selon les écarts détectés.

WestOps en action : concrètement, que faisons-nous ?

Le projet WestOps s’attaque à trois verrous techniques majeurs dans la mise en place d’un cadre de MLOps efficace :

1. Tests de non-régression et évaluation de la robustesse.

Comment garantir que les modèles existants continuent de fonctionner correctement sur de nouvelles données, y compris lorsque les distributions évoluent ? Comment développer des modèles plus robustes et résilients face aux changements de contexte ou de données ? WestOps propose de systématiser les tests de non-régression et de définir et intégrer des mécanismes d’évaluation de la robustesse directement dans les cycles de vie des modèles.

• Détection rapide des écarts de comportement en production.

Comment détecter automatiquement et rapidement lorsqu’un modèle commence à dériver en production, suite à des évolutions de données ou de contexte ? Le projet mise sur l’analyse de la variabilité à travers la création et l’évaluation de variants de modèles. Cette approche permet d’identifier précocement les déviations de performance et de corriger les comportements anormaux avant qu’ils n’affectent les utilisateurs.

• Définition de boucles de rétroaction automatisées pour l’adaptation des modèles. Comment mettre en place un système MLOps capable de : détecter les écarts, déclencher automatiquement des actions adaptées (réentraînement, remplacement, reconstruction), guider le choix de la meilleure stratégie d’adaptation ? WestOps développera un module de monitoring intelligent, conçu pour générer des alertes et activer des boucles de rétroaction automatisées, renforçant ainsi la maturité opérationnelle du pipeline MLOps.

Un cas d’usage concret grâce à Ouest-France

Ouest-France, leader de la presse quotidienne française, utilise déjà des techniques de Machine Learning pour la classification, l’extraction d’informations et la recommandation de contenus pour ces journalistes et lecteurs.  Avec WestOps, Ouest-France souhaite aller plus loin et

• Simplifier le processus d’évaluation de ses modèles,
• Accélérer la détection des variations de performance,
• Renforcer l’adaptabilité de ses systèmes d’apprentissage automatique pour mieux accompagner les évolutions rapides des contenus et des usages.

Des acteurs régionaux engagés pour une IA de confiance

Ouest-France est depuis longtemps un acteur engagé dans une réflexion éthique et souveraine sur l’usage de l’intelligence artificielle pour le traitement de l’information. Le projet WestOps s’inscrit dans la continuité de cette démarche, en complément d’initiatives déjà engagées comme la création d’un laboratoire commun (LabCom) avec le CNRS et l’Université de Rennes – le premier LabCom entre un organe de presse et la recherche académique. L’objectif : faire converger travaux de recherche et innovations concrètes pour développer des applications d’IA au service d’un journalisme plus fiable, plus transparent et plus responsable. WestOps s’intègre ainsi pleinement dans cette stratégie de maîtrise et de confiance dans l’utilisation de l’intelligence artificielle.

DIVERSE est une équipe de recherche du laboratoire IRISA (UMR regroupant le CNRS, l’Université de Rennes 1, Inria et l’INSA Rennes). Elle se positionne comme l’un des leaders en Model-Driven Engineering (MDE), et explore comment la diversité logicielle peut être utilisée pour renforcer la résilience, l’adaptabilité et la fiabilité des systèmes logiciels. Dans le projet WestOps, l’équipe met en œuvre son expertise en génie logiciel adaptatif, en ingénierie de la variabilité et en test à grande échelle, au service d’un objectif majeur : construire une intelligence artificielle de confiance, en s’appuyant sur des pipelines MLOps robustes et évolutifs. Grâce à ses approches rigoureuses issues du Model-Driven Engineering, du génie logiciel et du DevOps, DIVERSE contribue à établir les bases techniques indispensables pour faire du MLOps un véritable socle de confiance pour l’IA déployée en production.

Un consortium breton pour une problématique globale : WestOps, une étape vers une intelligence artificielle plus robuste, plus adaptable… et plus responsable.