L'AI Act adopté par les eurodéputés

Après sa validation en commission commission le 11 mai, c'est en séance pleinière que le Parlement a adopté hier 14 juin par 499 voix pour, 28 contre et 93 abstentions sa version de l'IA Act, qui doit encadrer juridiquement les utilisations de l'intelligence artificielle au sein de l'Union européenne. Objectif : "faire de l'Europe le fer de lance d'une IA transparents, respectueuse des droits fondamentaux et qui rend compte des valeurs européennes", selon le commissaire européen au marché intérieur, Thierry Breton qui a porté le texte avec Margrethe Vestager. "Il s’agit d’agir vite et de prendre ses responsabilités" car "l’IA soulève de nombreuses questions sur le plan social, éthique et économique".

L'European IA Act a pour vocation de limiter les risques créés par les technologies d'IA. C'est donc sans surprise sur les "IA à haut risques" que les Parlementaires ont travaillé en priorité. Les députés ont élargi la liste des IA interdites pour inclure la surveillance biométrique, la reconnaissance des émotions, exploitation d'images faciales pour la gestion de bases de données, et la police prédictive

Quant aux IA génératives (production de vidéo, de texte, d'image, de son ou de texte à partir d'un "prompt" proposé par l"utilisateur), leur activité est envisagée également par les eurodéputés. Les principales mesures sont les suivantes

- toute société gérant un système d'IA générative doit évaluer et atténuer les risques potentiels pour la santé, la sécurité, les droits fondamentaux, l'environnement, la démocratie et l'état de droit) ;

- elle doit enregistrer avant mise en circulation sur le marché européen son modèle dans la base de données de l’UE ;

- elle doit respecter des exigences en matière de transparence, et en particulier mentionner "de manière appropriée, claire, visible et en temps utile" que le contenu est généré par l’IA, et aider à distinguer les fausses images des vraies (article 52) ;

- elle doit dans la mesure du possible donner "le nom de la personne physique ou morale qui a généré ou manipulé" ces contenus;

- elle doit offrir des garanties contre la génération de contenus illicites ;

- elle doit rendre public un résumé détaillé des données protégées par le droit d’auteur utilisées pour son entrainement (article 28 ter) ;