IA: Von der Leyen souhaite un "panel mondial" d'experts, sur le modèle du GIEC

"Des centaines de développeurs, d'universitaires et d'experts de premier plan dans le domaine de l'IA nous ont récemment alertés" sur le risque d'extinction de l'humanité, a rappelé la présidente de l'exécutif européen, dans un discours devant le Parlement européen à Strasbourg.

Réduire ce risque "devrait être une priorité mondiale, au même titre que d'autres risques menaçant la société tout entière, comme les pandémies et la guerre nucléaire", a-t-elle estimé.

L'intelligence artificielle "évolue plus rapidement que ses concepteurs eux-mêmes ne l'avaient prévu. Il nous reste donc peu de temps pour orienter cette technologie de manière responsable", s'est-elle inquiétée, appelant à mettre en place un "nouveau cadre mondial pour l'IA, reposant sur trois piliers: des garde-fous, une gouvernance et l'orientation de l'innovation".

"Nous devrions œuvrer de concert avec nos partenaires pour avoir tous la même compréhension de l'impact de l'IA dans nos sociétés", a-t-elle dit, citant "la contribution inestimable du GIEC pour le climat, ce panel mondial qui fournit aux décideurs politiques les données scientifiques les plus récentes".

"Je pense que nous avons besoin d'un organe similaire pour l'IA, en ce qui concerne ses risques et ses avantages pour l'humanité. Cet organisme réunirait des scientifiques, des entreprises technologiques et des experts indépendants. Nous pourrons ainsi élaborer une action rapide et coordonnée au niveau mondial", a déclaré Mme von der Leyen.

La diffusion sur les réseaux sociaux de fausses images, plus vraies que nature, créées à partir d'applications comme Midjourney, a alerté sur les dangers des systèmes d'intelligence artificielle pour la démocratie.

Le potentiel de ces technologies, qui peuvent aussi rédiger des dissertations, composer de la musique ou faciliter des diagnostics médicaux, fascine autant qu'il inquiète.

L'UE espère conclure avant la fin de l'année le premier règlement au monde visant à encadrer ces innovations. Il n'entrera cependant pas en application avant 2026.

La future législation devrait notamment interdire les applications de surveillance de masse des citoyens, et imposer des normes à une liste de services considérés à risque.

Elle fait actuellement l'objet de négociations entre les 27 pays membres de l'UE et le Parlement européen. "Notre législation sur l’IA est déjà un modèle pour le monde entier. Nous devons maintenant adopter les règles dès que possible et passer à leur mise en œuvre", a demandé Mme von der Leyen.