Une étude identifie des scénarios d’interaction homme-IA qui conduisent à des cocons d’informations

L’utilisation généralisée d’algorithmes d’IA, en particulier d’algorithmes conçus pour recommander du contenu et des produits aux utilisateurs en fonction de leur activité antérieure en ligne, a conduit à l’émergence de nouveaux phénomènes connus sous le nom de chambres d’écho et de cocons d’information sur les réseaux sociaux. Ces phénomènes limitent les informations présentées aux utilisateurs en ligne, les incitant à lire uniquement le contenu qui correspond à leur vision de la vie, à leurs points de vue et à leurs opinions.

Une étude récente d’une équipe interdisciplinaire dirigée par le professeur Yong Li de l’Université Tsinghua étudie la dynamique qui sous-tend la formation de ce que l’on appelle les cocons d’information, des espaces en ligne dans lesquels les utilisateurs ne rencontrent que des voix ou des utilisateurs qui renforcent leurs propres points de vue. Leur article, publié dans Intelligence des machines naturellesdécrit deux scénarios différents pouvant conduire à la formation de cocons d’informations, ainsi que des stratégies possibles pour l’empêcher.

“L’intelligence artificielle a imprégné toutes sortes d’activités humaines et a catapulté la présence d’algorithmes dans tous les aspects de la vie moderne”, a déclaré Jinghua Piao, premier auteur de l’article, à Tech Xplore. « Cependant, l’adoption généralisée d’algorithmes basés sur l’IA crée une nouvelle série de défis, par exemple la réduction de l’exposition à des informations, des opinions, des opinions politiques et des amis idéologiquement divers.

“En particulier, les algorithmes de recommandation, certaines des technologies basées sur l’IA les plus largement adoptées, sont tristement célèbres pour isoler les humains de diverses informations et finalement les piéger dans un seul sujet ou point de vue, appelés cocons d’informations.”

Les cocons d’information peuvent avoir des conséquences néfastes d’une grande portée, car ils peuvent exacerber les préjugés et la polarisation sociale, empêcher la croissance, la créativité et l’innovation, accentuer la désinformation et entraver les efforts visant à créer un monde plus inclusif.

Si leur existence a été largement documentée, les mécanismes à l’origine de l’émergence de ces « bulles d’information » en ligne restent mal compris.

“Le but de notre récent article était de découvrir l’origine des cocons d’informations dans le système complexe d’interaction homme-IA”, a expliqué Piao. “La notion de cocon d’information est adoptée pour décrire un phénomène largement observé selon lequel, avec l’augmentation des interactions avec des algorithmes intelligents, les gens sont isolés de diverses informations et finissent par être piégés dans un seul sujet ou point de vue.”

L’hypothèse clé qui sous-tend les travaux récents est que la création de cocons d’informations ne peut être attribuée uniquement aux humains ou aux algorithmes de recommandation. L’équipe estime plutôt qu’ils résultent d’interactions et d’échanges d’informations complexes entre plusieurs entités.

“Grâce à une enquête empirique et théorique, nous révélons que des cocons d’informations émergent de la dynamique adaptative de l’information dans la boucle de rétroaction d’interaction entre les humains et les algorithmes de recommandation basés sur l’IA”, a déclaré Piao. “Une telle boucle de rétroaction est caractérisée par des ingrédients essentiels : (i) une correspondance basée sur la similarité, (ii) une rétroaction positive, (iii) une rétroaction négative et (iv) une auto-exploration aléatoire.”

La correspondance basée sur la similarité est le processus par lequel les algorithmes de recommandation associent les personnes au contenu, aux produits et aux autres utilisateurs en ligne qui ressemblent le plus à ceux qu’ils ont consommés ou avec lesquels ils ont interagi dans le passé. L’équipe du professeur Li a découvert que cette tendance à formuler des recommandations basées sur des similitudes est une force clé qui pousse les médias sociaux et les réseaux en ligne vers des cocons d’information.

“Les retours positifs amplifient encore cet effet, entraînant une diminution de l’entropie de l’information (c’est-à-dire la diversité de l’information)”, a déclaré Piao. “La rétroaction négative et l’auto-exploration aléatoire favorisent la diversité de l’information en résistant à l’effet du champ de force effectif et en introduisant une perturbation dans le système. Cette résistance fait passer le système des cocons d’informations à la diversification.”

Les chercheurs ont finalement pu identifier deux processus clés qui jouent un rôle clé dans l’émergence de cocons d’informations dans des systèmes complexes impliquant des interactions entre les algorithmes de recommandation d’IA et les humains. Ces processus incluent un déséquilibre entre les retours positifs et négatifs, ainsi que le renforcement continu de la correspondance basée sur la similarité.

“Nos résultats suggèrent deux manières pratiques d’atténuer les cocons d’informations du monde réel”, a déclaré Piao. “Le premier est l’utilisation efficace des commentaires négatifs, qui offre une nouvelle perspective sur les préférences des utilisateurs en identifiant leurs aversions. Le second est la promotion de l’auto-exploration, qui diversifie les informations disponibles en permettant aux utilisateurs d’exercer une plus grande autonomie sur l’algorithme. “.

Dans l’ensemble, l’équipe du professeur Li a rassemblé des informations précieuses sur les mécanismes à la base de la formation de cocons d’informations en ligne, qui pourraient bientôt éclairer la création d’outils et de stratégies d’IA alternatifs abordant ces mécanismes. Leur article est le résultat d’une collaboration d’un an impliquant des chercheurs possédant une expertise dans diverses disciplines, notamment la physique statistique, la science informatique et les politiques publiques.

“Du point de vue de la physique statistique, nous prévoyons maintenant d’étendre notre modèle théorique à des scénarios plus réels et d’expliquer des phénomènes importants régis par des lois similaires, par exemple la ségrégation et la polarisation”, a ajouté Piao. “Du point de vue de la science informatique, notre équipe prévoit de faire davantage de recherches sur les systèmes complexes d’IA et d’IA pour le bien social. Du point de vue des politiques publiques, nous prévoyons de promouvoir la conception de politiques publiques correspondantes avec nos résultats.”

© 2023 Réseau Science X