Des pistes pour une IA digne de confiance : mélanger expertises humaines et apprentissage automatique
Peut-on faire confiance à un algorithme d’IA dont les décisions ne sont pas interprétables ? Quand il s’agit de diagnostiquer une maladie ou de prédire une panne sur un train ou une voiture, la réponse est évidemment non.
L’intelligence artificielle hybride se positionne comme une réponse naturelle et efficace aux exigences croissantes d’interprétabilité, de robustesse et de performance.
En conciliant données et connaissances, apprentissage et raisonnement, ces approches ouvrent la voie à une nouvelle génération de systèmes intelligents, capables de comprendre — et de faire comprendre — le comportement de systèmes physiques complexes. Une direction incontournable pour une IA de confiance.
Les algorithmes d’IA s’immiscent de plus en plus dans les systèmes critiques — transport, énergie, santé, industrie, etc. Dans ces domaines, une erreur peut avoir des conséquences graves — et un problème majeur de la plupart des systèmes d’IA actuels est qu’ils ne sont pas capables d’expliquer leurs conclusions et qu’il est donc difficile pour leurs superviseurs humains de rectifier le système s’il commet une erreur.
Considérons par exemple la maintenance des roulements d’un train. Si un modèle d’IA indique la nécessité d’une réparation sans donner d’explication, le technicien en charge ne sait pas si l’alerte est justifiée, ni quoi réparer ou remplacer exactement. Celui-ci peut alors être amené à ignorer l’alerte pour éviter des arrêts ou des réparations inutiles, ce qui peut avoir des conséquences critiques. Pour ces raisons, la nouvelle loi européenne sur l’IA — le AI Act — introduit des exigences de transparence et de supervision humaine.
À lire aussi :
L’AI Act, ou comment encadrer les systèmes d’IA en Europe
Tous les quinze jours, de grands noms, de nouvelles voix, des sujets inédits pour décrypter l’actualité scientifique et mieux comprendre le monde. Abonnez-vous gratuitement dès aujourd’hui !
Pour concevoir des solutions à la fois performantes, robustes et interprétables (compréhensibles) par des humains, les approches d’IA dites « hybrides » proposent une voie prometteuse.
Il s’agit de combiner les méthodes d’apprentissage à partir des données (l’IA) avec des modèles basés sur les connaissances des experts du domaine concerné (par exemple des procédures de tests habituellement utilisées par les techniciens de maintenance des trains).
Première option : apprendre à partir des données pour enrichir les modèles experts
Une première approche hybride consiste à utiliser l’apprentissage automatique, non pas comme une fin en soi, mais comme un outil pour construire ou ajuster des modèles basés sur des connaissances physiques ou structurelles du système.
Par exemple, dans le suivi de patients épileptiques, des modèles physiques existent pour décrire les activités cérébrales normale et pathologique. Cependant, l’analyse de signaux d’électroencéphalogrammes par apprentissage automatique permet d’identifier des motifs annonciateurs de crises d’épilepsie que les modèles des experts ne prévoient pas. Ici, l’IA vient compléter la connaissance médicale avec des analyses pouvant prendre en compte l’évolution de la maladie spécifique à chaque patient.
On dit que l’apprentissage du système d’IA est « guidé » par des analyses de diagnosticabilité, c’est-à-dire la capacité à identifier précisément un état anormal grâce aux observations.
Un autre exemple concret : le modèle d’un moteur électrique enrichi avec l’IA hybride peut combiner un premier modèle représentant le comportement nominal du moteur sous forme d’équations de la physique, complété avec des comportements appris grâce aux données mesurées. On peut ainsi découvrir des comportements anormaux comme des petits glissements intermittents du rotor dus à une usure progressive des roulements.
On voit que cette combinaison permet à la fois de profiter de la rigueur du modèle physique et de la flexibilité de l’apprentissage automatique.
Deuxième option : Injecter directement des « règles » dans les modèles d’IA
Une autre voie d’hybridation consiste à intégrer directement des connaissances expertes dans les algorithmes d’apprentissage. Ainsi, on rend l’approche d’IA « interprétable » (dans le sens où le résultat peut être compris et expliqué par un humain). Par exemple, on peut guider un arbre de décision avec des règles inspirées de la physique ou du raisonnement humain.
Qu’est-ce qu’un arbre de décision ?
- Un arbre de décision est un modèle d’apprentissage automatique qui permet de prendre des décisions en suivant une structure arborescente de règles successives basées sur les caractéristiques des données (par exemple les questions successives: “la température du patient est-elle supérieure 38,5°C ?” suivi de “le patient a-t-il du mal à respirer ?”).
- À chaque noeud, une condition est testée, et selon la réponse (oui ou non), on progresse sur une branche.
- Le processus se poursuit jusqu’à une “feuille” de l’arbre, qui donne la prédiction sous forme de valeur, ou une décision finale (“le patient a la grippe”).
En utilisant des arbres de décision dans les algorithmes d’IA, on peut dévoiler des « tests de diagnostic » adéquats que l’on ne connaissait pas encore.
Un exemple de test de diagnostic simple est de regarder la différence entre l’état d’un interrupteur et l’état de la lampe associée (la lampe ne s’allume que si la position de l’interrupteur est sur ON. Si l’on constate que l’interrupteur est sur ON mais que la lampe est éteinte, il y a un problème ; de même si l’interrupteur est OFF et la lampe est allumée). Ce genre de relation, égale à 0 quand le système fonctionne de manière nominale et différente de 0 quand il y a un problème, existe également pour le diagnostic de systèmes plus complexes. La seule différence est que la relation est mathématiquement plus complexe, et qu’elle fait intervenir plus de variables — si le test de diagnostic de notre système « interrupteur+ampoule » est simple, ces tests sont souvent plus difficiles à concevoir.
Ainsi, en IA, si on insère des arbres de décision où on force les règles à être des tests de diagnostic — sans connaître le test spécifique au préalable — on peut :
-
découvrir un test de diagnostic adéquat de manière automatique et sans expertise humaine,
-
faire en sorte que l’algorithme d’IA résultant soit plus facilement interprétable.
Troisième option : rendre les réseaux de neurones moins obscurs
Les réseaux de neurones sont très performants mais critiqués pour leur opacité. Pour y remédier, on peut injecter des connaissances expertes dans leur structure, notamment via par exemple les Graph Neural Networks (GNN).
Qu’est-ce qu’un réseau de neurones en graphes (Graph Neural Network (GNN)) ?
- Un Graph Neural Network (GNN) est un modèle d’apprentissage automatique conçu pour traiter des données avec des relations explicites entre éléments, comme dans un réseau social ou une molécule. Contrairement aux réseaux de neurones classiques, qui supposent des données organisées en tableaux ou séquences, les GNN exploitent la structure d’un graphe: des noeuds (par exemple les individus dans un réseau social) et les liens entre ces noeuds (les liens entre les individus).
- Chaque noeud apprend en échangeant de l’information avec ses voisins via le graphe. Cela permet de capturer des dépendances locales et globales dans des systèmes connectés.
- Les GNN, c’est l’IA qui comprend les relations, pas juste les valeurs.
Contrairement aux architectures classiques, les GNN sont conçus pour traiter des données structurées sous forme de graphes, ce qui les rend particulièrement adaptés pour tirer parti des modèles de systèmes physiques complexes.
Par exemple, dans le cas d’une carte électronique, la structure du circuit — c’est-à-dire les connexions entre composants, la topologie des pistes, etc. — peut être représentée sous forme de graphe. Chaque nœud du graphe représente un composant (résistance, condensateur, circuit intégré…), et les arêtes traduisent les connexions physiques ou fonctionnelles.
En entraînant un GNN sur ces graphes enrichis de données mesurées (tensions, courants, températures), on peut non seulement détecter des anomalies, mais aussi localiser leur origine et comprendre leur cause probable, grâce à la structure même du modèle.
Cette approche améliore l’explicabilité des diagnostics produits : une anomalie n’est plus simplement un signal aberrant détecté statistiquement, mais peut être reliée à un ensemble de composants spécifiques, ou à une zone fonctionnelle de la carte. Le GNN agit ainsi comme un pont entre la complexité des réseaux de neurones et l’intelligibilité du comportement physique du système.
Quatrième option : croiser les sources pour un diagnostic fiable
Enfin, les méthodes de fusion permettent de combiner plusieurs sources d’information (modèles, données, indicateurs) en un diagnostic unifié. Ces méthodes s’avèrent particulièrement utiles lorsque les différentes sources d’information sont complémentaires ou redondantes.
Un exemple d’application : fusionner les résultats de diagnostic issus d’un modèle basé sur la physique et de modèles issus de méthodes d’apprentissage permet d’obtenir une estimation plus robuste de l’état de santé d’un composant, en tirant profit à la fois de la fiabilité de la modélisation physique et de la sensibilité des approches basées données.
C’est aussi exactement ce qui est fait en médecine lorsqu’on confronte les résultats d’un diagnostic médical obtenu par une équipe de médecins, dont les avis peuvent diverger, ajouté à des méthodes d’aide à la décision automatisées nourries par des données (diagnostics déjà existants, base de données patients, etc.).
Le programme « Investir pour l’avenir – PIA3 » ANR-19-PI3A-0004 est soutenu par l’Agence nationale de la recherche (ANR), qui finance en France la recherche sur projets. L’ANR a pour mission de soutenir et de promouvoir le développement de recherches fondamentales et finalisées dans toutes les disciplines, et de renforcer le dialogue entre science et société. Pour en savoir plus, consultez le site de l’ANR.
Elodie Chanthery a reçu des financements d’ANITI dans le cadre du programme français « Investir pour l’avenir – PIA3 » sous le numéro de convention ANR-19-PI3A-
0004. Elle est membre d’ANITI (Artificial and Natural Intelligence Toulouse Institute).
Philippe Leleux ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.
Auteur : Elodie Chanthery, maîtresse de conférences en diagnostic de fautes – IA hybride, INSA Toulouse
Aller à la source