Pour aider les véhicules autonomes à prendre des décisions morales, les chercheurs abandonnent le « problème du chariot »

Les chercheurs ont développé une nouvelle expérience pour mieux comprendre ce que les gens considèrent comme des décisions morales et immorales liées à la conduite de véhicules, dans le but de collecter des données pour apprendre aux véhicules autonomes à prendre de « bonnes » décisions. L'œuvre est conçue pour capturer un éventail plus réaliste de défis moraux dans la circulation que le scénario de vie ou de mort largement discuté inspiré par ce qu'on appelle le « problème du chariot ».

L'article intitulé « Jugement moral dans des scénarios de trafic réalistes : aller au-delà du paradigme du tramway pour l'éthique des véhicules autonomes » est publié en libre accès dans la revue IA et société.

“Le problème du tramway présente une situation dans laquelle quelqu'un doit décider s'il doit tuer intentionnellement une personne (ce qui viole une norme morale) afin d'éviter la mort de plusieurs personnes”, explique Dario Cecchini, premier auteur d'un article sur le travail et chercheur postdoctoral à la North Carolina State University.

“Ces dernières années, le problème des tramways a été utilisé comme paradigme pour étudier le jugement moral dans la circulation”, explique Cecchini. “La situation typique comprend un choix binaire pour une voiture autonome : faire un écart à gauche, heurter un obstacle mortel, ou avancer et heurter un piéton traversant la rue.

“Cependant, ces cas de type chariot sont irréalistes. Les conducteurs doivent prendre des décisions morales beaucoup plus réalistes chaque jour. Dois-je dépasser la limite de vitesse ? Dois-je griller un feu rouge ? Dois-je m'arrêter pour une ambulance ?”

“Ces décisions banales sont importantes car elles peuvent finalement conduire à des situations de vie ou de mort”, déclare Veljko Dubljević, auteur correspondant de l'article et professeur agrégé au programme Science, Technologie et Société de NC State.

“Par exemple, si quelqu'un conduit 20 miles au-dessus de la limite de vitesse et brûle un feu rouge, il peut alors se retrouver dans une situation où il doit soit faire un écart dans la circulation, soit entrer dans une collision. Il existe actuellement très peu de données dans la littérature. sur la façon dont nous portons des jugements moraux sur les décisions que les conducteurs prennent dans les situations quotidiennes. »

Pour remédier à ce manque de données, les chercheurs ont développé une série d’expériences conçues pour collecter des données sur la manière dont les humains portent des jugements moraux sur les décisions qu’ils prennent dans des situations de circulation à faibles enjeux. Les chercheurs ont créé sept scénarios de conduite différents, comme celui d'un parent qui doit décider s'il doit enfreindre un feu de circulation tout en essayant d'amener son enfant à l'école à l'heure.

Chaque scénario est programmé dans un environnement de réalité virtuelle, de sorte que les participants à l'étude engagés dans l'expérience disposent d'informations audiovisuelles sur ce que font les conducteurs lorsqu'ils prennent des décisions, plutôt que de simplement lire le scénario.

Pour ce travail, les chercheurs se sont appuyés sur ce qu'on appelle le modèle Agent Deed Consequence (ADC), qui postule que les gens prennent trois choses en compte lorsqu'ils portent un jugement moral : l'agent, qui est le caractère ou l'intention de la personne qui fait quelque chose. ; l'acte, ou ce qui est fait ; et la conséquence, ou le résultat qui résulte de l'acte.

Les chercheurs ont créé huit versions différentes de chaque scénario de trafic, en faisant varier les combinaisons d'agent, d'acte et de conséquence. Par exemple, dans une version du scénario où un parent essaie d'amener son enfant à l'école, le parent est attentionné, freine à un feu jaune et amène l'enfant à l'école à l'heure.

Dans une deuxième version, le parent est violent, brûle un feu rouge et provoque un accident. Les six autres versions modifient la nature du parent (l'agent), sa décision au feu de circulation (l'acte) et/ou le résultat de sa décision (la conséquence).

“Le but ici est de permettre aux participants à l'étude de visualiser une version de chaque scénario et de déterminer le degré de moralité du comportement du conducteur dans chaque scénario, sur une échelle de 1 à 10”, explique Cecchini. “Cela nous fournira des données solides sur ce que nous considérons comme un comportement moral dans le contexte de la conduite d'un véhicule, qui pourront ensuite être utilisées pour développer des algorithmes d'IA pour la prise de décision morale dans les véhicules autonomes.”

Les chercheurs ont effectué des tests pilotes pour affiner les scénarios et s'assurer qu'ils reflètent des situations crédibles et faciles à comprendre.

“La prochaine étape consiste à entreprendre une collecte de données à grande échelle, en faisant participer des milliers de personnes aux expériences”, explique Dubljević. “Nous pourrons ensuite utiliser ces données pour développer des expériences plus interactives dans le but d'affiner davantage notre compréhension de la prise de décision morale. Tout cela pourra ensuite être utilisé pour créer des algorithmes destinés à être utilisés dans les véhicules autonomes. Nous devrons ensuite nous engager dans des tests supplémentaires pour voir comment ces algorithmes fonctionnent.