IA génératives : l’UE veut mieux réglementer ces technologies

Alors que des voix s’élèvent pour demander l’interdiction ou le gel des IA génératives, les députés européens planchent sur une réglementation consensuelle. Inscrites dans l’Artificial Intelligence Act, leurs propositions visent principalement à restreindre ou encadrer l’usage de ces technologies pour assurer la sécurité des citoyens.

Depuis plusieurs années, l’Union européenne cherche à mettre des garde-fous à l’intelligence artificielle…en prenant son temps. Mais les capacités effarantes de ChatGPT, un modèle lancé fin 2022 par la société américaine OpenAI, l’oblige à légiférer très rapidement. En mars, elle a rédigé l’Artificial Intelligence Act (AI Act), une législation pour interdire ou au mieux restreindre l’usage des IA génératives dans le but d’assurer la sécurité des citoyens.

La propriété intellectuelle en question

Après plusieurs semaines de travail, le Parlement européen pourrait valider une série de propositions dans les prochains jours. Parmi celles-ci figurent l’obligation pour les géants de l’IA d’indiquer si leurs modèles d’IA ont été entraînés avec des contenus protégés par le droit d’auteur. A savoir des textes, des images ou des musiques. Cette disposition doit permettre aux détenteurs de droits de saisir la justice pour tenter d’obtenir une rémunération pour l’utilisation de leurs données sans leur consentement. Elle les dédouane aussi de toute responsabilité quant aux dérives des IA. Seuls les créateurs en porteront la charge.

Vif débat autour de la reconnaissance faciale

Les députés européens souhaitent également interdire la reconnaissance faciale dans les espaces publics, peu importent les circonstances. Cette mesure introduite par les libéraux allemands se heurte à une vive opposition, notamment de la part des partis conservateurs. En revanche, des concessions devraient être faites concernant l’interdiction de l’usage d’un système d’IA pour la surveillance générale.

Oui à l’IA à des fins médicales et de recherche

En outre, les eurodéputés devraient proposer une interdiction des technologies de reconnaissance des émotions pour les forces de l’ordre, la police des frontières, ou dans les lieux de travail et les établissements d’enseignement. Seule exception : le domaine médical et de la recherche, avec bien sûr le consentement des sujets. En outre, un accord devrait porter sur un potentiel classement des IA génératives au sein des systèmes considérés à « haut risque ». Cette mesure se justifierait par les risques de désinformation inhérents à ces technologies.

Des procédures judiciaires contre les géants de l’IA

En cas de validation de toutes ces propositions, les mastodontes du marché de l’IA pourraient se voir bientôt acculés en Europe comme le sont déjà les géants du numérique. On imagine qu’il y aura une série d’investigations et de contrôles à leur siège. La Commission européenne a d’ailleurs déjà lancé une enquête sur ChatGPT. Elle a fait savoir que cette action visait à favoriser la coopération et à échanger des informations sur les éventuelles mesures concernant la protection des données. Son enquête fait suite au lancement de plusieurs procédures judiciaires. Comme au Royaume Uni, où Getty Images a attaqué en justice Stability AI pour utilisation illégale de clichés protégés afin d’entraîner son générateur d’images Stable Diffusion…

Un vote attendu le 26 avril prochain

En attendant, les députés vont devoir arrêter leurs positions d’ici la fin de la semaine. Pour ensuite rédiger un accord final sur la loi sur l’IA, qui sera soumise au vote des principales commissions du Parlement européen le 26 avril prochain. En cas d’adoption de cet accord, les discussions se poursuivront pour trouver un compromis. Enfin, il faudra patienter probablement jusqu’en 2024 pour voir l’AI Acte entrer en vigueur. D’ici là, l’intelligence artificielle, qui se bonifie à la vitesse de la lumière, aura sûrement atteint un niveau inimaginable.