Un nouvel algorithme détecte les pannes et les correctifs dans les systèmes autonomes, des équipes de drones aux réseaux électriques

De la prévention des collisions de véhicules aux systèmes de planification des compagnies aériennes en passant par les réseaux d’alimentation électrique, de nombreux services sur lesquels nous comptons sont gérés par des ordinateurs. À mesure que ces systèmes autonomes gagnent en complexité et en omniprésence, leurs échecs pourraient également se développer.

Aujourd’hui, les ingénieurs du MIT ont développé une approche qui peut être associée à n’importe quel système autonome, pour identifier rapidement une série de défaillances potentielles de ce système avant qu’elles ne soient déployées dans le monde réel. De plus, l’approche peut trouver des solutions aux pannes et suggérer des réparations pour éviter les pannes du système.

L’équipe a montré que cette approche peut éliminer les défaillances de divers systèmes autonomes simulés, notamment un petit et un grand réseau électrique, un système anticollision d’avion, une équipe de drones de sauvetage et un manipulateur robotique. Dans chacun des systèmes, la nouvelle approche, sous la forme d’un algorithme d’échantillonnage automatisé, identifie rapidement une gamme de pannes probables ainsi que les réparations pour éviter ces pannes.

Le nouvel algorithme adopte une approche différente des autres recherches automatisées, conçues pour détecter les pannes les plus graves d’un système. Selon l’équipe, ces approches pourraient passer à côté de vulnérabilités plus subtiles, mais importantes, que le nouvel algorithme peut détecter.

“En réalité, toute une série de problèmes peuvent survenir avec ces systèmes plus complexes”, explique Charles Dawson, étudiant diplômé du Département d’aéronautique et d’astronautique du MIT. “Nous voulons pouvoir faire confiance à ces systèmes pour nous déplacer, piloter un avion ou gérer un réseau électrique. Il est très important de connaître leurs limites et dans quels cas ils risquent de tomber en panne.”

Dawson et Chuchu Fan, professeur adjoint d’aéronautique et d’astronautique au MIT, présentent leurs travaux cette semaine à la Conférence sur l’apprentissage robotique à Atlanta.

Sensibilité face aux adversaires

En 2021, un effondrement majeur du système au Texas a fait réfléchir Fan et Dawson. En février de la même année, des tempêtes hivernales ont balayé l’État, entraînant des températures glaciales inattendues qui ont déclenché des pannes sur le réseau électrique. La crise a laissé plus de 4,5 millions de foyers et d’entreprises sans électricité pendant plusieurs jours. La panne à l’échelle du système a provoqué la pire crise énergétique de l’histoire du Texas.

“C’était un échec assez important qui m’a amené à me demander si nous aurions pu le prédire à l’avance”, explique Dawson. “Pourrions-nous utiliser nos connaissances de la physique du réseau électrique pour comprendre où pourraient se situer ses points faibles, puis cibler les mises à niveau et les correctifs logiciels pour renforcer ces vulnérabilités avant que quelque chose de catastrophique ne se produise ?”

Les travaux de Dawson et Fan se concentrent sur les systèmes robotiques et sur la recherche de moyens de les rendre plus résilients dans leur environnement. Incités en partie par la crise électrique au Texas, ils ont décidé d’élargir leur champ d’action, de repérer et de réparer les pannes d’autres systèmes autonomes plus complexes et à grande échelle. Pour ce faire, ils ont réalisé qu’ils devraient modifier l’approche conventionnelle visant à détecter les échecs.

Les concepteurs testent souvent la sécurité des systèmes autonomes en identifiant leurs pannes les plus probables et les plus graves. Ils commencent par une simulation informatique du système qui représente sa physique sous-jacente et toutes les variables susceptibles d’affecter le comportement du système. Ils exécutent ensuite la simulation avec un type d’algorithme qui effectue une « optimisation contradictoire » – une approche qui optimise automatiquement le pire des cas en apportant de petites modifications au système, encore et encore, jusqu’à ce qu’il puisse se concentrer sur les changements qui sont associés aux défaillances les plus graves.

“En condensant tous ces changements dans l’échec le plus grave ou le plus probable, vous perdez une grande partie de la complexité des comportements que vous pourriez observer”, note Dawson. “Au lieu de cela, nous voulions donner la priorité à l’identification d’une diversité d’échecs.”

Pour ce faire, l’équipe a adopté une approche plus « sensible ». Ils ont développé un algorithme qui génère automatiquement des changements aléatoires au sein d’un système et évalue la sensibilité, ou la défaillance potentielle du système, en réponse à ces changements. Plus un système est sensible à un certain changement, plus ce changement est susceptible d’être associé à une éventuelle défaillance.

Cette approche permet à l’équipe d’éliminer un plus large éventail de pannes possibles. Grâce à cette méthode, l’algorithme permet également aux chercheurs d’identifier des correctifs en remontant dans la chaîne de changements qui ont conduit à un échec particulier.

“Nous reconnaissons qu’il y a vraiment une dualité dans le problème”, déclare Fan. “Il y a deux faces à la médaille. Si vous pouvez prédire un échec, vous devriez être capable de prédire quoi faire pour éviter cet échec. Notre méthode boucle désormais cette boucle.”

Échecs cachés

L’équipe a testé la nouvelle approche sur une variété de systèmes autonomes simulés, notamment un petit et un grand réseau électrique. Dans ces cas, les chercheurs ont associé leur algorithme à une simulation de réseaux électriques généralisés à l’échelle régionale. Ils ont montré que, alors que les approches conventionnelles ciblaient une seule ligne électrique comme étant la plus vulnérable aux pannes, l’algorithme de l’équipe a découvert que, si elle était combinée à une panne d’une deuxième ligne, une panne totale pouvait se produire.

“Notre méthode peut découvrir des corrélations cachées dans le système”, explique Dawson. “Parce que nous faisons un meilleur travail d’exploration de l’espace des échecs, nous pouvons trouver toutes sortes d’échecs, qui incluent parfois des échecs encore plus graves que ceux que les méthodes existantes peuvent trouver.”

Les chercheurs ont montré des résultats tout aussi divers dans d’autres systèmes autonomes, notamment une simulation permettant d’éviter les collisions d’avions et de coordonner des drones de sauvetage. Pour voir si leurs prédictions d’échec en simulation se confirmeraient dans la réalité, ils ont également démontré l’approche d’un manipulateur robotique, un bras robotique conçu pour pousser et ramasser des objets.

L’équipe a d’abord exécuté son algorithme sur une simulation d’un robot chargé de pousser une bouteille sans la renverser. Lorsqu’ils ont exécuté le même scénario en laboratoire avec le robot réel, ils ont constaté que celui-ci échouait de la manière prévue par l’algorithme, par exemple en le renversant ou en n’atteignant pas complètement la bouteille. Lorsqu’ils ont appliqué la solution suggérée par l’algorithme, le robot a réussi à repousser la bouteille.

“Cela montre qu’en réalité, ce système échoue lorsque nous le prévoyons et réussit lorsque nous l’espérons”, explique Dawson.

En principe, l’approche de l’équipe pourrait détecter et corriger les défaillances de n’importe quel système autonome, à condition qu’elle soit accompagnée d’une simulation précise de son comportement. Dawson envisage un jour que cette approche puisse être transformée en une application que les concepteurs et les ingénieurs pourront télécharger et appliquer pour régler et renforcer leurs propres systèmes avant de les tester dans le monde réel.

“À mesure que nous dépendons davantage de ces systèmes de prise de décision automatisés, je pense que la saveur des échecs va changer”, déclare Dawson. “Plutôt que des pannes mécaniques au sein d’un système, nous allons voir davantage de pannes dues à l’interaction de la prise de décision automatisée et du monde physique. Nous essayons de tenir compte de ce changement en identifiant différents types de pannes et en les traitant. maintenant.”

Cette histoire est republiée avec l’aimable autorisation de MIT News (web.mit.edu/newsoffice/), un site populaire qui couvre l’actualité de la recherche, de l’innovation et de l’enseignement du MIT.