Les 27 États membres de l’Union européenne sont parvenus à un accord sur la loi sur l’intelligence artificielle (IA). Cependant, le groupe de défense des droits Amnesty International a fait part de ses inquiétudes quant à l'exportation de cette technologie vers certains pays.
Publié le:
3 minutes
Amnesty International a sévèrement critiqué ce qu'elle appelle les doubles standards au sein de l'UE, accusant les législateurs d'autoriser l'exportation de technologies vers des pays qui, selon eux, violent ouvertement les droits humains.
Surveillance numérique
Selon Mher Hakobyan, conseiller en plaidoyer sur l'IA à Amnesty International, « des systèmes de surveillance numérique produits par des entreprises françaises, suédoises et néerlandaises ont été utilisés dans les programmes de surveillance de masse de la Chine contre les Ouïghours et d'autres groupes ethniques à majorité musulmane sur son territoire.
“De la même manière, des caméras fabriquées par une société néerlandaise ont été utilisées par la police de Jérusalem-Est occupée pour maintenir le système d'apartheid israélien contre les Palestiniens”, dit-il.
Malgré la décision de Bruxelles de réglementer le développement de l'IA et l'impact qu'elle aura sur la société, Amnesty estime que les législateurs européens doivent aligner leurs actions sur un engagement en faveur des droits fondamentaux, en soulignant les cas où la technologie européenne contribue aux violations des droits humains à l'échelle mondiale.
“Il ne s'agit pas seulement d'un défaut du Parlement européen, mais aussi des législateurs européens en général”, ajoute-t-il.
“Dans la position du Parlement européen publiée en juin de l'année dernière, il y avait une disposition qui suggérait de mettre un terme à l'exportation de toute technologie qui serait interdite dans l'UE. Malheureusement, cette disposition n'a pas été incluse dans le texte final selon lequel était d'accord.”
Les critiques d'Amnesty International ne s'adressent pas seulement au Parlement européen pour avoir abandonné cette position, mais également aux États membres qui ont activement insisté pour que cette position soit supprimée.
En réponse, l’UE affirme que la loi sur l’IA vise à réglementer l’intelligence artificielle tout en permettant aux entreprises technologiques européennes de développer des talents locaux dans le secteur.
position française
Après des mois d'opposition au projet de loi, la France a finalement apporté son soutien au règlement vendredi.
Les décideurs politiques de l'UE ont annoncé en décembre qu'ils avaient trouvé un compromis final sur le contenu de la loi sur l'IA.
À l'époque, il a été salué comme une étape pionnière dans la diffusion d'outils d'IA tels que ChatGPT d'OpenAI et Bard de Google.
Cependant, cet accord n’a pas été bien accueilli partout. Au cours des dernières semaines, l'Allemagne et la France ont indiqué qu'elles pourraient s'opposer au texte lors de tout vote sur la question.
La France a fait pression pour l'autorégulation plutôt que pour la législation. Selon la France, cela donnerait aux entreprises européennes plus de liberté pour développer une technologie d’IA native en Europe.
La start-up française d'IA Mistral, fondée par d'anciens chercheurs de Meta et Google AI, et l'allemand Aleph Alpha ont fait activement pression sur leurs gouvernements respectifs en faveur de cette technologie.
L’accord finalisé ce week-end constitue une étape majeure vers une réglementation.
La prochaine étape est un vote par une commission clé composée de législateurs européens le 13 février, suivi d'une ratification par le Parlement européen en mars ou avril si le texte final est finalement approuvé.
Cependant, jusqu’à présent, le Parlement européen a rejeté l’interdiction de l’exportation de systèmes d’IA, malgré les inquiétudes concernant d’éventuelles violations des droits de l’homme.
Les récits alarmants autour de l’intelligence artificielle (IA) et de son potentiel à anéantir l’humanité ignorent les dangers existants de l’IA lorsqu’elle est utilisée pour la reconnaissance faciale, l’évaluation des risques et la surveillance.
Nous exhortons l'UE à interdire les technologies nuisibles dans la dernière loi sur l'IA 👇 pic.twitter.com/RbnFLMN2gr
– Amnesty International (@amnesty) 11 octobre 2023
“L'énigme d'Oppenheimer”
Les technologies examinées comprennent les logiciels de reconnaissance faciale et émotionnelle, la police prédictive et l’évaluation sociale, qui se sont imposées dans certaines villes chinoises.
La question est de savoir s’il est préférable de permettre aux pays européens de développer des plateformes d’IA et de les exporter vers des régimes autoritaires, ou si les régimes autoritaires devraient s’appuyer sur des technologies d’IA construites localement, avec tous les problèmes que cela pose.
L'énigme n'est pas sans rappeler la course de J. Robert Oppenheimer pour construire une bombe atomique avant que les nazis ne puissent produire des armes nucléaires, dit Hakobyan.
“Ce serait le cas si les technologies produites en Europe… suivaient les mêmes normes lorsqu'une entreprise souhaite les mettre sur le marché européen…
“(Cependant) la même entreprise produisant le même système à des fins d'exportation (actuellement) n'a pas besoin de passer par aucune de ces mesures de sauvegarde ou de transparence pour le vendre à l'étranger”, explique Hakobyan.
“Il serait bénéfique qu'au moins les normes juridiques et techniques soient respectées, mais ce n'est pas obligatoire (pour le moment)”.
Hakobyan souligne qu'en Europe, il est possible de développer des modèles d'IA problématiques ou défectueux, mais qu'il existe des normes procédurales et juridiques autour du développement de l'IA qui protègent contre les violations des droits de l'homme ou la discrimination.
“Mais cela n'existe peut-être pas dans le pays vers lequel vous exportez la technologie”, conclut-il.
“Essentiellement, vous bénéficiez simplement d'éventuelles violations des droits de l'homme… et c'est quelque chose que l'Europe ne peut pas se permettre, si elle veut être une voix crédible”.
