Les négociateurs de l'Union européenne ont conclu un accord sur les premières règles globales en matière d'intelligence artificielle au monde, ouvrant la voie à une surveillance juridique de la technologie de l'IA qui promet de transformer la vie quotidienne et suscite des avertissements sur les dangers existentiels pour l'humanité.
Publié le:
3 minutes
Les négociateurs du Parlement européen et des 27 États membres du bloc ont surmonté de grandes divergences sur des points controversés, notamment l'IA générative et l'utilisation par la police de la surveillance par reconnaissance faciale pour signer un accord politique provisoire sur la loi sur l'intelligence artificielle.
“Accord!” a tweeté le commissaire européen Thierry Breton juste avant minuit. « L’UE devient le tout premier continent à établir des règles claires pour l’utilisation de l’IA. »
Le résultat est intervenu après un marathon de négociations à huis clos cette semaine, la première session ayant duré 22 heures avant le coup d'envoi d'un deuxième tour vendredi matin.
Les responsables étaient sous le feu des projecteurs pour assurer une victoire politique à la législation phare.
Les groupes de la société civile lui ont cependant réservé un accueil froid en attendant les détails techniques qui devront être réglés dans les semaines à venir.
Ils ont déclaré que l’accord n’allait pas assez loin dans la protection des personnes contre les dommages causés par les systèmes d’IA.
“L'accord politique d'aujourd'hui marque le début d'un travail technique important et nécessaire sur des détails cruciaux de la loi sur l'IA, qui manquent encore”, a déclaré Daniel Friedlaender, chef du bureau européen de la Computer and Communications Industry Association, un groupe de pression de l'industrie technologique.
Historique!
L'UE devient le tout premier continent à fixer des règles claires pour l'utilisation de l'IA 🇪🇺
Le #AIAct est bien plus qu'un livre de règles : c'est une rampe de lancement permettant aux startups et aux chercheurs européens de mener la course mondiale à l'IA.
Le meilleur est à venir! 👍 pic.twitter.com/W9rths31MU
-Thierry Breton (@ThierryBreton) 8 décembre 2023
La course pour réguler l’IA
L’UE a pris très tôt les devants dans la course mondiale à l’élaboration de garde-fous en matière d’IA lorsqu’elle a dévoilé la première version de son règlement en 2021.
Le récent boom de l’IA générative a cependant poussé les responsables européens à se démener pour mettre à jour une proposition prête à servir de modèle pour le monde.
Le Parlement européen devra encore voter sur la loi au début de l'année prochaine, mais une fois l'accord conclu, ce n'est plus qu'une formalité.
Les systèmes d'IA générative comme ChatGPT d'OpenAI ont explosé dans la conscience du monde, éblouissant les utilisateurs avec leur capacité à produire des textes, des photos et des chansons de type humain, mais suscitant des craintes quant aux risques que cette technologie en développement rapide fait peser sur l'emploi, la protection de la vie privée et des droits d'auteur et même sur la vie humaine. lui-même.
Aujourd’hui, les États-Unis, le Royaume-Uni, la Chine et des coalitions mondiales comme les grandes démocraties du G7 se sont lancés dans cette démarche avec leurs propres propositions visant à réglementer l’IA, même s’ils sont encore en train de rattraper l’Europe.
La loi sur l’IA a été conçue à l’origine pour atténuer les dangers liés à des fonctions spécifiques de l’IA en fonction de leur niveau de risque, de faible à inacceptable.
Mais les législateurs ont poussé à l'étendre aux modèles de base, les systèmes avancés qui sous-tendent les services d'IA à usage général comme ChatGPT et le chatbot Bard de Google.
Les modèles de fondations semblent être l’un des principaux points de friction pour l’Europe.
Cependant, les négociateurs ont réussi à parvenir à un compromis provisoire au début des négociations, malgré l'opposition menée par la France, qui a plutôt appelé à l'autoréglementation pour aider les sociétés européennes d'IA générative locales à rivaliser avec leurs grands rivaux américains, y compris Microsoft, le bailleur de fonds d'OpenAI.
Monopoles de l’IA et liberté personnelle
Les chercheurs ont averti que de puissants modèles de fondation, construits par une poignée de grandes entreprises technologiques, pourraient être utilisés pour intensifier la désinformation et la manipulation en ligne, les cyberattaques ou la création d’armes biologiques.
Les groupes de défense des droits préviennent également que le manque de transparence sur les données utilisées pour entraîner les modèles présente des risques pour la vie quotidienne, car elles constituent des structures de base pour les développeurs de logiciels qui créent des services basés sur l'IA.
Le sujet le plus épineux était celui des systèmes de surveillance par reconnaissance faciale basés sur l’IA, et les négociateurs ont trouvé un compromis après d’intenses négociations.
Les législateurs européens souhaitaient une interdiction totale de l’utilisation publique de la numérisation faciale et d’autres systèmes « d’identification biométrique à distance » en raison de problèmes de confidentialité.
Mais les gouvernements des pays membres ont réussi à négocier des exemptions afin que les forces de l'ordre puissent les utiliser pour lutter contre des crimes graves comme l'exploitation sexuelle des enfants ou les attaques terroristes.
