Examiner l’œil mental d’un système de réseau neuronal

À l’arrière-plan des logiciels de reconnaissance d’images capables d’identifier nos amis sur les réseaux sociaux et les fleurs sauvages dans notre jardin se trouvent des réseaux de neurones, un type d’intelligence artificielle inspiré par la manière dont notre cerveau traite les données.

Alors que les réseaux de neurones parcourent les données, leur architecture rend difficile la traçabilité de l’origine d’erreurs évidentes pour les humains, comme confondre une chaussure montante Converse avec une bottine, ce qui limite leur utilisation dans des travaux plus vitaux comme l’analyse d’images ou la recherche dans le domaine des soins de santé. . Un nouvel outil développé à l’Université Purdue permet de détecter ces erreurs aussi simplement que de repérer les sommets des montagnes depuis un avion.

“Dans un sens, si un réseau neuronal était capable de parler, nous vous montrerions ce qu’il essaierait de dire”, a déclaré David Gleich, professeur d’informatique Purdue au College of Science qui a développé l’outil, qui est présenté dans un article publié dans Intelligence des machines naturelles.

« L’outil que nous avons développé vous aide à trouver les endroits où le réseau dit : « Hé, j’ai besoin de plus d’informations pour faire ce que vous avez demandé ». Je conseillerais aux gens d’utiliser cet outil pour tout scénario de décision de réseau neuronal à enjeux élevés ou tâche de prédiction d’image. »

Le code de l’outil est disponible sur GitHub, tout comme les démonstrations de cas d’utilisation. Gleich a collaboré à la recherche avec Tamal K. Dey, également professeur d’informatique à Purdue, et Meng Liu, un ancien étudiant diplômé de Purdue qui a obtenu un doctorat en informatique.

En testant leur approche, l’équipe de Gleich a surpris des réseaux neuronaux qui confondaient l’identité des images dans des bases de données allant des radiographies pulmonaires aux séquences génétiques en passant par les vêtements. Dans un exemple, un réseau neuronal a étiqueté à plusieurs reprises à tort les images de voitures de la base de données Imagenette comme étant des lecteurs de cassettes. La raison? Les images ont été tirées de listes de ventes en ligne et comprenaient des étiquettes pour l’équipement stéréo des voitures.

Les systèmes de reconnaissance d’images de réseaux neuronaux sont essentiellement des algorithmes qui traitent les données d’une manière qui imite le modèle de déclenchement pondéré des neurones lorsqu’une image est analysée et identifiée. Un système est formé à sa tâche, comme l’identification d’un animal, d’un vêtement ou d’une tumeur, avec un « ensemble d’entraînement » d’images qui comprend des données sur chaque pixel, un marquage et d’autres informations, ainsi que l’identité de l’image telle que classée dans un catégorie particulière.

À l’aide de l’ensemble de formation, le réseau apprend, ou « extrait », les informations dont il a besoin pour faire correspondre les valeurs d’entrée avec la catégorie. Cette information, une chaîne de nombres appelée vecteur intégré, est utilisée pour calculer la probabilité que l’image appartienne à chacune des catégories possibles. D’une manière générale, l’identité correcte de l’image se situe dans la catégorie ayant la probabilité la plus élevée.

Mais les vecteurs et probabilités intégrés ne correspondent pas à un processus de prise de décision que les humains reconnaîtraient. Introduisez 100 000 nombres représentant les données connues et le réseau produit un vecteur intégré de 128 nombres qui ne correspondent pas aux caractéristiques physiques, bien qu’ils permettent au réseau de classer l’image.

En d’autres termes, vous ne pouvez pas ouvrir le capot sur les algorithmes d’un système formé et suivre. Entre les valeurs d’entrée et l’identité prédite de l’image se trouve une « boîte noire » proverbiale de nombres méconnaissables répartis sur plusieurs couches.

“Le problème avec les réseaux de neurones est que nous ne pouvons pas voir à l’intérieur de la machine pour comprendre comment elle prend des décisions. Alors, comment pouvons-nous savoir si un réseau de neurones commet une erreur caractéristique ?” dit Gleich.

Plutôt que d’essayer de retracer le cheminement décisionnel d’une seule image à travers le réseau, l’approche de Gleich permet de visualiser la relation que l’ordinateur voit entre toutes les images d’une base de données entière. Pensez-y comme à une vue d’ensemble de toutes les images telles que le réseau neuronal les a organisées.

La relation entre les images (comme la prédiction par le réseau de la classification d’identité de chacune des images de la base de données) est basée sur les vecteurs intégrés et les probabilités générées par le réseau. Pour augmenter la résolution de la vue et trouver les endroits où le réseau ne peut pas faire la distinction entre deux classifications différentes, l’équipe de Gleich a d’abord développé une méthode de division et de chevauchement des classifications afin d’identifier les endroits où les images ont une forte probabilité d’appartenir à plusieurs classifications.

L’équipe cartographie ensuite les relations sur un graphe Reeb, un outil issu du domaine de l’analyse de données topologiques. Sur le graphique, chaque groupe d’images que le réseau considère comme liées est représenté par un seul point. Les points sont codés par couleur par classification. Plus les points sont proches, plus le réseau considère les groupes comme étant similaires, et la plupart des zones du graphique montrent des groupes de points d’une seule couleur.

Mais les groupes d’images ayant une forte probabilité d’appartenir à plus d’une classification seront représentés par deux points superposés de couleurs différentes. D’un simple coup d’œil, les zones où le réseau ne peut pas distinguer deux classifications apparaissent comme un groupe de points d’une couleur, accompagné d’une poignée de points superposés d’une seconde couleur. Un zoom avant sur les points qui se chevauchent montrera une zone de confusion, comme l’image de la voiture qui porte à la fois la mention voiture et lecteur de cassettes.

“Ce que nous faisons, c’est prendre ces ensembles complexes d’informations provenant du réseau et donner aux gens un aperçu de la manière dont le réseau perçoit les données à un niveau macroscopique”, a déclaré Gleich. “La carte Reeb représente les choses importantes, les grands groupes et leurs relations les uns avec les autres, et cela permet de voir les erreurs.”