IA, les eurodéputés trouvent un accord pionnier

Un petit pas pour l’intelligence artificielle, un pas de pionnier pour l’Union européenne. Vendredi 8 décembre, les députés européens ont trouvé un accord provisoire sur la future législation relative à l'intelligence artificielle (IA), annoncent le Parlement européen et la Commission européenne dans deux communiqués de presse. "Ce fut long et intense, mais l'effort en valait la peine", a déclaré le corapporteur italien Brando Benifei. "Grâce à la résilience du Parlement européen, la première législation horizontale au monde sur l'intelligence artificielle tiendra la promesse européenne, garantissant que les droits et les libertés sont au cœur du développement de cette technologie révolutionnaire".

Protection des droits de l’Homme

Au cœur des discussions, les droits humains. Les députés reconnaissent la menace que représente l'IA pour les droits des citoyens et la démocratie. Ils sont donc tombés d’accord pour interdire l’usage de systèmes d’identification biométrique de façon générale. En particulier sont formellement prohibés les systèmes permettant, entre autres, de manipuler les comportements humains ou de reconnaître des émotions sur un lieu de travail ou en milieu scolaire. On trouve dans le viseur de l’UE les jouets dotés d’une assistance vocale qui pourraient encourager les comportements dangereux des mineurs ou encore les systèmes permettant une notation sociale par les gouvernements ou les entreprises. Seules certaines utilisations de l’IA biométriques en matière pénale trouvent grâce auprès des eurodéputés. À condition d’obtenir une autorisation judiciaire, les services répressifs des États membres pourront utiliser de tels systèmes à distance “dans le cadre de la recherche ciblée d'une personne condamnée ou soupçonnée d'avoir commis un crime grave”, précise le communiqué du Parlement européen. Ce sera également le cas pour un usage en temps réel avec une limitation dans le temps et l’espace pour les crimes définis par le règlement sur l’IA, tels que la traite d’êtres humains ou les menaces terroristes.

Les eurodéputés sont tombés d'accord pour interdire l'usage de systèmes d'identification biométrique permettant, entre autres, de manipuler les comportements humains ou de reconnaître les émotions

Pour les IA reconnues à haut risque – celles qui s’appliquent pour l’administration de la justice, l’organisation d’élections, à des dispositifs médicaux ou à des industries clefs comme les industries hydrauliques ou gazières, etc.), les députés ont mis en place, entre autres, des obligations de transparence, de supervision humaine et de cybersécurité élevées. Un suivi sera assuré avec une analyse d’impact obligatoire. Dans son communiqué, le Parlement européen fait savoir que les citoyens auront le droit de déposer des plaintes concernant les IA. Les Européens pourront aussi obtenir "des explications sur les décisions basées sur des systèmes d’IA à haut risque qui ont une incidence sur leurs droits".

Jusqu’à 35 millions d’euros d’amende

Alors que le grand public constate l'étendue des capacités des intelligences artificielles et l’éventail de tâches qu’elles peuvent accomplir, les députés européens ont décidé que les IA à usage général, et les modèles sur lesquels elles sont basées, devront respecter des exigences de transparence. Ce que proposait initialement le Parlement. Les sociétés développant des IA devront mettre à jour leur documentation technique, se conformer à la législation de l’Union européenne sur les droits d’auteur et diffuser des résumés détaillés du contenu utilisé pour la formation de leur logiciel.

Pour les systèmes d’IA à usage général présentant un risque systémique, les obligations sont plus strictes. "Si ces modèles répondent à certains critères, ils devront effectuer des évaluations de modèles, évaluer et atténuer les risques systémiques, effectuer des tests contradictoires, rendre compte à la Commission des incidents graves, assurer la cybersécurité et rendre compte de leur efficacité énergétique", annonce le Parlement européen.

À ces règles s’ajoutent des sanctions. Les amendes oscillent entre  7,5 millions d’euros ou 1,5 % du chiffre d’affaires et 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise. La Commission européenne précise toutefois que “des plafonds plus proportionnés sont prévus pour les amendes administratives qui seront infligées aux PME et aux start-up en cas de non-respect du règlement concernant l'IA”.

 Création d’un bureau européen de l’IA

L’accord qui vient d’être trouvé doit à présent être formellement approuvé par le Parlement et la Commission européenne. Le règlement entrera en vigueur vingt jours après sa publication au Journal officiel, puis en application deux ans plus tard "à l’exception de certaines dispositions particulières : les interdictions s’appliqueront déjà après six mois, tandis que les règles relatives à l’IA à usage général s'appliqueront après douze mois", précise le communiqué de la Commission. Un nouvel Office européen de l'IA au sein de la Commission européenne aura pour mission d’assurer la coordination sur le plan européen et la mise en œuvre des futures règles.

En attendant, Ursula von der Leyen, présidente de la Commission européenne, "se réjouit vivement de l'accord politique trouvé. Ce règlement européen est le tout premier cadre juridique complet en matière d'intelligence artificielle dans le monde".

Chloé Lassel