Kereval fait partie des 17 lauréats d’un appel à manifestation d’intérêt du Health Data Hub (HDH) qui met en œuvre les stratégies relatives au Système national des données de santé (SDNS) fixées par l’Etat. Le projet porté par Kereval, dénommé Santé2Fair, vise à développer un cadre méthodologique d’évaluation de l’équité / la Fairness des modèles d’intelligence artificielle (IA) et des données de santé associées, avec une première application à la cancérologie, sur des données cliniques et d’imagerie issues du SNDS. Le projet repose sur deux axes : la conception d’une méthodologie détaillée – mais générique – d’analyse des biais statistiques et algorithmiques dans les systèmes d’Intelligence Artificielle du domaine de la santé, et une stratégie multiniveau d’atténuation des biais.  

Les travaux seront conduits sur des cas d’usage réels en cancérologie, au sein de l’infrastructure sécurisée du HDH. Des sujets de test (modèles d’IA spécialisés) seront développés et entraînés sur les données issues de deux projets portés par le HDH.  

Le développement rapide de l’IA en santé s’accompagne de défis majeurs en matière de qualité, de représentativité et d’équité des données utilisées pour entraîner les modèles. Ces enjeux sont particulièrement critiques en cancérologie, domaine à fort enjeu clinique où les données sont riches mais hétérogènes, et où les modèles d’IA sont de plus en plus utilisés pour l’analyse d’images médicales. 

En particulier, les biais présents dans les jeux de données – déséquilibres démographiques, pratiques de codage hétérogènes ou disparités d’accès aux soins – peuvent être amplifiés par les algorithmes d’apprentissage automatique, conduisant à des décisions médicales systématiquement défavorables pour certains groupes de population. 

Une expertise en test d’IA 

Kereval dispose d’une équipe pluridisciplinaire en ingénierie logicielle et en IA, active sur les thématiques de l’IA de confiance, du MLOps et du test de robustesse. L’entreprise a encadré une thèse Cifre, en partenariat avec l’ENSTA Bretagne, ayant abouti à plusieurs publications scientifiques portant sur la définition de méthodologies de test pour les systèmes d’IA. Par ailleurs, Kereval collabore avec le Laboratoire Traitement du Signal et de l’Image (LTSI) du CHU de Rennes, notamment sur la structuration et la valorisation de données cliniques et médico-administratives. L’entreprise mène également des travaux spécifiques sur l’évaluation et la formalisation de la Fairness dans les algorithmes d’apprentissage. 

Ces thématiques sont également au cœur des stratégies européennes en matière d’IA et de données de santé, avec la construction de l’EEDS, l’Espace européen des données de santé. Les équipes de Kereval y contribuent dans le cadre des projets européens i2X et myHealth@myHands, soutenus par la Commission européenne. 

A l’attention des patients concernés 

Le projet utilise les bases de données Precision predict et RealiGIST. Les patients issus de ces cohortes seront invités à se référer à la future notice d’information détaillant la manière d’exercer leurs droits vis-à-vis de l’utilisation de leurs données dans le cadre de cette recherche. Cette notice sera publiée avant le début des travaux. 

En savoir plus sur nos travaux :  

• Nos prestations d’ingénierie du test de l’IA  

• Article d’un de nos experts : Vérification formelle de l’Intelligence Artificielle 

• Article d’un de nos experts : L’explicabilité de l’Intelligence Artificielle 

• Webinar « Comment tester une IA » – La taverne du testeur 

Vérifier votre conformité à l’IA Act >> Check-list AI Act 

Vous souhaitez en savoir plus ? Contactez Léa DESWARTE – lea.deswarte@kereval.com