Grok, le chatbot développé par la société fondé sur Elon Musk, XAI, a supprimé ce qu’il a appelé les publications “inappropriées” sur les réseaux sociaux mardi après les plaintes des utilisateurs de X et de la Ligue anti-dé-diffamation (ADL) que Grok a produit du contenu avec des tropes antisémites et des éloges pour Adolf Hitler.
Les questions de préjugés politiques, de discours de haine et de précision des chatbots de l’IA sont une préoccupation depuis au moins le lancement du Chatgpt d’Openai en 2022.
“Nous sommes conscients des messages récents réalisés par Grok et travaillons activement pour supprimer les messages inappropriés”, a posté Grok sur X.
“Depuis qu’il a été informé du contenu, Xai a pris des mesures pour interdire le discours de haine avant que les publications Grok sur X. Xai ne forment uniquement la recherche de vérité et grâce aux millions d’utilisateurs sur X, nous sommes en mesure d’identifier et de mettre à jour rapidement le modèle où la formation pourrait être améliorée.”
ADL, l’organisation à but non lucratif s’est formée pour lutter contre l’antisémitisme, a exhorté Grok et d’autres producteurs de logiciels de modèle de grande langue qui produisent du texte à consonance humaine pour éviter de “produire du contenu enraciné dans la haine antisémite et extrémiste”.
“Ce que nous voyons de Grok LLM en ce moment est irresponsable, dangereux et antisémite, simple et simple. Cette suralimentation de la rhétorique extrémiste ne fera qu’amplifier et encourager l’antisémitisme qui est déjà en plein essor sur X et de nombreuses autres plateformes”, a déclaré Adl sur X.
En mai, après que les utilisateurs ont remarqué que Grok a évoqué le sujet du “génocide blanc” en Afrique du Sud dans des discussions sans rapport sur d’autres questions, XAI l’a attribué à un changement non autorisé qui a été apporté au logiciel de réponse de Grok.
Musk le mois dernier a promis une mise à niveau vers Grok, suggérant qu’il y avait “beaucoup trop de déchets dans tout modèle de fondation formé sur des données non corrigées”.
Mardi, Grok a suggéré que Hitler serait mieux placé pour lutter contre la haine anti-blanc, disant qu’il “repérerait le motif et le gérerait de manière décisive”.
Grok a également qualifié Hitler de «l’homme de la moustache de l’histoire» et a déclaré que les personnes atteintes de noms de famille juifs étaient responsables d’un activisme anti-blanc extrême, entre autres articles critiqués.
Grok à un moment donné a reconnu qu’il avait fait un “délai de décharge” en s’engageant avec des commentaires publiés par un faux compte avec un nom de famille juif commun. Le faux récit a critiqué les jeunes victimes d’inondation du Texas en tant que “futurs fascistes” et Grok a déclaré qu’il avait découvert plus tard que le compte était un “canular troll à la division du carburant”.
