L'UE s'accorde pour encadrer l'intelligence artificielle, une première mondiale

L'Union européenne s'est accordée, vendredi 8 décembre, sur une législation inédite au niveau mondial pour réguler l'intelligence artificielle, après trois jours de négociations intenses entre les États membres et le Parlement européen. Un cadre juridique qui se veut un équilibre entre la nécessité de limiter les éventuelles dérives de l'IA sans pour autant freiner la capacité d'innovation des entreprises européennes dans le domaine.

L'UE a adopté tard dans la soirée de vendredi un cadre juridique pour la réglementation de l'intelligence artificielle. Le principe est simple, le texte adopté régule les systèmes d'Intelligence artificielle en fonction du risque potentiel qu'ils représentent pour la sécurité et les droits des citoyens. Plus on estime que le risque est élevé, plus il y a de règles.

Ainsi, avant leur entrée sur le marché, les systèmes considérés comme présentant un risque élevé subiront une évaluation de conformité. Et lorsque ces logiciels interviennent dans des domaines sensibles comme les infrastructures critiques, l'éducation ou le maintien de l'ordre, ils seront soumis à une série d'obligations, comme celle de prévoir un contrôle humain sur la machine.

La reconnaissance faciale très limitée

Dans le cas particulier des IA génératives de contenu, comme ChatGPT par exemple, les développeurs devront s'assurer que les sons, les images et les textes produits seront bien identifiés comme artificiels. Et ce afin d'éviter une possible manipulation de l'opinion.

Au final, très peu d'interdictions afin de ne pas brider l'innovation, sauf dans des domaines très précis. Ainsi, l'identification biométrique à distance des personnes dans les lieux publics, la reconnaissance faciale notamment, a été un point très longuement discuté, les députés pointant les risques d'une surveillance de masse des populations. Elle sera bien interdite, sauf à de rares exceptions, comme la lutte contre le terrorisme ou la recherche de victimes d'enlèvements par exemple.

Si les règles ne sont pas respectées, les entreprises fautives s'exposeront à des amendes allant jusqu'à 7% de leur chiffre d'affaires. Une fois commercialisés, les systèmes d'IA seront surveillés par les autorités nationales sous l'égide d'un Office européen de l'intelligence artificielle. L'accord politique doit désormais être complété par un travail technique pour finaliser le texte.