Le Parlement européen a approuvé massivement mercredi une loi historique visant à réglementer l'intelligence artificielle. Présenté comme la législation la plus complète au monde en matière d'IA, le règlement sur l'intelligence artificielle entrera en vigueur plus tard cette année.
L'Acte sur l'IA vise à protéger les droits fondamentaux, la démocratie, l'État de droit et la durabilité environnementale contre les IA à haut risque, a déclaré le Parlement européen dans son annonce officielle, tout en favorisant l'innovation.
«Nous avons enfin la première loi contraignante au monde sur l'intelligence artificielle pour réduire les risques, créer des opportunités, lutter contre la discrimination et apporter de la transparence», a déclaré Brando Benifei, un législateur italien qui a co-dirigé les travaux du Parlement sur la législation, dans l'annonce. «Grâce au Parlement, les pratiques inacceptables en matière d'IA seront interdites en Europe, et les droits des travailleurs et des citoyens seront protégés.»
La loi interdit certaines applications d'IA qui pourraient menacer les droits des citoyens, telles que le raclage non ciblé d'images faciales pour créer des bases de données de reconnaissance faciale, les systèmes de catégorisation basés sur des caractéristiques biométriques sensibles, le scoring social et la reconnaissance des émotions sur les lieux de travail et dans les écoles.
Selon les nouvelles règles, les contenus artificiels ou manipulés, connus sous le nom de «deepfakes», doivent être clairement étiquetés comme tels.
Les outils d'IA qui manipulent le comportement humain ou exploitent les vulnérabilités techniques sont également interdits. L'utilisation par les forces de l'ordre de systèmes d'identification biométrique est également largement interdite, avec de rares exceptions.
Les systèmes d'IA à haut risque sont définis comme ceux utilisés dans les infrastructures critiques, l'éducation, l'emploi, les services essentiels, les forces de l'ordre, la migration et les processus démocratiques, et sont soumis aux exigences les plus strictes. Ils doivent évaluer et réduire les risques, conserver des journaux d'utilisation, être transparents et précis, et garantir une surveillance humaine.
La loi sur l'IA codifie le droit des citoyens de déposer des plaintes et de recevoir des explications sur les décisions basées sur ces systèmes.
«L'UE a livré - nous avons lié le concept d'intelligence artificielle aux valeurs fondamentales qui constituent la base de nos sociétés», a déclaré Dragos Tudorache, un législateur roumain qui a également co-dirigé les travaux sur le projet de loi, dans l'annonce. «Cependant, il reste beaucoup de travail à faire qui va au-delà de la loi sur l'IA.
»L'IA nous poussera à repenser le contrat social au cœur de nos démocraties, nos modèles éducatifs, les marchés du travail et la manière dont nous menons la guerre«, a-t-il poursuivi.
La loi établit également des exigences de transparence pour les systèmes d'IA à usage général et les modèles sur lesquels ils sont basés, y compris le respect du droit d'auteur de l'UE et la publication de résumés détaillés du contenu de la formation. Les modèles d'IA à usage général plus puissants qui pourraient poser des risques systémiques sont soumis à des obligations supplémentaires.
Cependant, l'utilisation de l'IA n'est pas découragée. La loi établit également des »bac à sable« réglementaires et des tests en situation réelle au niveau national pour soutenir l'innovation et la rendre accessible aux petites et moyennes entreprises.
Les législateurs affirment que la loi sur l'IA répond directement aux propositions des citoyens via la Conférence sur l'avenir de l'Europe, en particulier celles liées à l'amélioration de la compétitivité de l'UE dans des secteurs stratégiques. Le groupe a également donné la priorité à la sécurité et à la confiance, en promouvant l'innovation numérique avec une supervision humaine et en améliorant l'accès à l'information.
Bien que la loi ait été approuvée par le Parlement européen, il reste quelques étapes finales avant de devenir formellement loi, notamment une vérification légale finale et l'approbation par le Conseil européen. Elle devrait entrer en vigueur dans quelques mois, bien que différentes dispositions prendront effet progressivement et en plusieurs étapes.
Les entreprises travaillent déjà à comprendre et à se conformer à la législation.
"Ils veulent savoir comment scaler la technologie et tirer de la valeur de l'IA", a déclaré Kirsten Rulf, associée au Boston Consulting Group, a déclaré à la BBC. »Les entreprises ont besoin et veulent la certitude juridique.«
Pendant que les États-Unis ont pris des mesures exécutives, et que d'autres pays développent leurs propres réglementations en matière d'IA, l'action de l'UE la place à l'avant-garde des efforts mondiaux pour faire face aux dangers associés à l'IA.
"L'adoption de l'AI Act marque le début d'une nouvelle ère de l'IA et son importance ne peut être surestimée", a déclaré Enza Iannopollo, analyste principal chez Forrester, à la chaîne de télévision britannique. L'AI Act de l'UE est le premier et unique ensemble d'exigences contraignantes pour atténuer les risques liés à l'IA.
«Cela fera de l'UE la norme mondiale de facto pour une IA digne de confiance, laissant chaque autre région, y compris le Royaume-Uni, à la traîne», a affirmé Iannopollo.
Pendant ce temps, les législateurs affirment que l'AI Act n'est que le premier pas.
«L'AI Act n'est pas la fin du voyage mais le point de départ d'une nouvelle gouvernance construite autour de la technologie», a déclaré Tudorache.