Le développement de l’IA pose des questions éthiques, juridiques, sociales. Cela incite donc les gouvernements à créer des règles pour encadrer son usage.
Qu’est-ce que l’IA Act ?
L’IA Act est donc la première régulation internationale de l’intelligence artificielle. Lancé en mars 2024, elle s’applique aux entreprises européennes mais aussi à ceux qui fournissent leurs services en Europe.
Par ailleurs, elle concerne aussi les modèles d’IA à usage général (GPAI). Ce sont des systèmes qui sont capables d’exécuter un grand nombre de tâches sans être conçu pour une tâche spécifique. Certains modèles pouvant comporter des risques, les fournisseurs de ces modèles doivent se conformer à l’IA Act. Cela inclut le respect des droits d’auteur et de la transparence.
L’IA Act a pour objectif de protéger les Européens des risques liés à l’IA. Cela permet de développer une IA de confiance afin de protéger les individus, de garantir le droit fondamental, la sécurité, les principes éthiques, tout en encourageant l’investissement et l’innovation de l’IA dans l’union européenne.
Sur quels principes l’IA Act est fondé ?
Une approche fondée sur les risques en classant les systèmes d’IA selon quatre niveaux :
- Risque inacceptable : les systèmes étant interdits car ils menacent la sécurité et les droits fondamentaux. On retrouve notamment la manipulation cognitive, la notation sociale par les gouvernements, la surveillance biométrique en temps réel dans les espaces publics…
- Risque limité : systèmes qui sont soumis à des obligations de transparence, et où les utilisateurs doivent être conscients qu’ils interagissent avec une IA. Il y a notamment les chatbots, les générateurs de contenus, les deepfakes…
- Risque élevé : les systèmes d’IA à haut risque ayant un impact significatif dans des domaines sensibles tel que la santé, la sécurité, la justice ou encore l’éducation. Cela concerne les infrastructures critiques (santé, transport, énergie), les services publics (justice) les systèmes d’éducation et de formation…
- Risque minimal : les systèmes d’IA d’usage général qui ne sont soumis à aucune obligation spécifique. Il y a par exemple les filtres antispam, les jeux vidéo basés sur l’IA…
Les systèmes d’IA autorisés peuvent obtenir le « marquage CE ». C’est une indication qui atteste qu’un produit est conforme aux exigences légales de l’Union Européenne.
Pourquoi la régulation de l’IA est nécessaire ?
Bien que certains systèmes d’IA présentent peu de risques, d’autres posent de réels problèmes, d’où l’intérêt de l’IA Act qui vient :
- Imposer des règles de traçabilité, de transparence et de robustesse lorsqu’il y a un risque de préjudice pour la sécurité ou le droit des personnes.
- Interdire les pratiques d’IA représentant des risques inacceptables.
- Cibler les risques associés à l’IA (erreurs, deepfakes, discriminations, illusion de vérité, biais cognitif et impact sur la protection des données). Cela porte davantage sur les systèmes d’IA à haut risque qui sont réglementés.
- Soumettre des systèmes d’IA à risque limité des obligations de transparence.
- Evaluer la conformité d’un système d’IA avant sa mise en service ou sa commercialisation et surveiller l’application des règles de ce système d’IA après la commercialisation.
- Mettre en place une structure de gouvernance aux niveaux européen et national.
Comment est contrôlé ce système et quelles conséquences en cas de non-respect des règles ?
Des autorités de surveillance sont mises en place avec trois rôles majeurs : un rôle de contrôle, d’audit et de sanctions.
Ainsi, si ces règles ne sont pas respectées, des sanctions peuvent être mises en place. Les sanctions prévues par l’IA Act vont de 1% à 7% du chiffre annuel mondial de l’entreprise ou sont déterminées à partir de montants seuils allant de 7.5 à 35 millions d’euros d’amende. Le niveau d’amende varie selon la nature de la non-conformité et la catégorie de l’entreprise.
