Comment l’Union européenne s’apprête à réguler l’intelligence artificielle

À l’instar du RGPD, le futur règlement sur l’IA sera le premier de son genre dans le monde

Le futur projet de règlement européen sur la régulation de l’intelligence artificielle (IA), qui doit être présenté par la Commission le 21 avril, a d’ores-et-déjà “fuité” dans la presse. Zoom sur les principales mesures et leurs conséquences juridiques et économiques.


Pourquoi est-ce important ? 🔥

  • Après avoir fait entrer la protection des données personnelles dans une nouvelle ère avec le RGPD, l’Union européenne se verrait bien faire la même chose avec l’intelligence artificielle. Le projet de règlement qui devrait être révélé mercredi 21 avril prévoit d’interdire certaines utilisations de l’IA, d’en réguler strictement d’autres, et d’instaurer des sanctions similaires à celles du RGPD.

  • L’objectif derrière ce nouveau règlement est en quelque sorte d’obtenir, en matière d’IA, “la pulpe sans les pépins” : faciliter le développement de l’intelligence artificielle et lui offrir un cadre de développement en Europe mais en écartant ses utilisations les plus dangereuses ou dystopiennes.

  • Dans le collimateur de la Commission, on retrouve les usages les plus controversés de l’IA : reconnaissance faciale, surveillance généralisée, automatisation des jugements, emploi, justice, etc.


Plus précisément, de quoi s’agit-il ? 👀

  • Selon le document révélé par le site d’information Politico, le futur règlement offrira un classement des usages de l’IA par catégorie de risque. Un minimum de trois catégories semblent se dessiner : les usages purement et simplement interdits ; les usages “à haut risque”, strictement régulés ; et des usages ne faisant l’objet d’aucun contrôle particulier (en dehors des obligations RGPD bien sûr).

  • Parmi les applications “à haut risque”, et donc sujettes à régulation, on retrouverait l’utilisation d’algorithmes dans le recrutement, dans l’attribution de crédits bancaires, de bénéfices de sécurité sociale, ou encore de visas et de demandes d’asile. Secteur controversé en plein essor, l’assistance par IA aux décisions de justice ferait également partie de cette catégorie.

  • Les applications qui devraient être interdites sont celles jugées “contraires aux valeurs européennes”, et notamment celles qui sont susceptibles de porter grief aux personnes en manipulant leur comportement, leurs opinions ou leurs décisions. La surveillance de masse est également visée.

  • Le texte prévoit des sanctions analogues à celles du RGPD : jusqu’à 20 millions d’euros ou 4% du chiffre d’affaires global de l’organisation. Une exception serait cependant prévue pour l’utilisation de l’IA pour lutter contre les crimes les plus graves.


Quel est le contexte ? 🌍

  • La question de la régulation de l’intelligence artificielle, et avec elle celle de la responsabilité du fait des algorithmes, se pose depuis plusieurs années. Aux États-Unis, les systèmes visant à évaluer le risque de récidive des prévenus ont par exemple été accusés d’intégrer des “biais racistes”. Plus près de nous, les algorithmes utilisés par les réseaux sociaux pour promouvoir les contenus sont critiqués pour leur opacité et leur impact sur le débat public.

  • Le RGPD a apporté de premiers éléments de réponse avec l’encadrement du profilage et le droit au refus des décisions automatisées. Mais, en complément de l’angle “data”, ce projet de règlement viendrait réguler l’IA au travers des finalités poursuivies par les applications elles-mêmes.

  • Vue des États-Unis, cette initiative devrait s’inscrire dans un contexte de coopération transatlantique face à l’essor de technologies chinoises nettement moins soucieuses des questions de régulation et d’éthique. Mais l’Europe, encouragée par le succès d’un RGPD devenu le cadre international de facto de la protection des données, estime pouvoir avancer en éclaireur sur le sujet.


Et maintenant ?

  • Du premier projet présenté par la Commission à la version finale votée par le Parlement européen, il y a loin de la coupe aux lèvres. À titre de comparaison, s’agissant du RGPD, la première proposition de la Commission remonte à janvier 2012, pour un texte final adopté en avril 2016 et entré en vigueur en mai 2018.

  • D’intenses débats sont à prévoir sur la classification des algorithmes et sur les exceptions ménagées par le texte. Mais le processus est lancé…


Pour aller plus loin… 🧐

👉 Europe eyes strict rules for artificial intelligence

👉 L’intelligence artificielle, prochaine cible de la régulation européenne