Prenez les avertissements de l'IA au sérieux, dit le Secrétaire général de l'ONU.

Les dangers de l'IA générative ont de nouveau été au centre de discussions de haut niveau parmi les dirigeants mondiaux alors que le Secrétaire général des Nations unies s'est joint à un chœur croissant de voix appelant à réglementer la technologie.

«Les alarmes concernant la dernière forme d'intelligence artificielle, l'IA générative, sont assourdissantes, et elles sont les plus fortes de la part des développeurs qui l'ont conçue», a déclaré António Guterres lors d'une conférence de presse lundi. «Les scientifiques et les experts ont appelé le monde à agir, déclarant que l'IA est une menace existentielle pour l'humanité au même titre que le risque de guerre nucléaire.»

«Nous devons prendre ces avertissements au sérieux», a déclaré le Secrétaire général de l'ONU.

Les commentaires de Guterres sont intervenus le même jour où l'ONU a publié un rapport, «Intégrité de l'information sur les plateformes numériques», qui souligne la nécessité d'une utilisation responsable de l'IA et met en garde contre l'utilisation de deepfakes dans les zones de conflit.

Aujourd'hui également, le Parlement européen a adopté ce qu'il décrit comme «la première législation sur l'IA au monde».

Alors que l'intelligence artificielle est une préoccupation majeure pour Guterres, le Secrétaire général a déclaré que l'avènement de l'IA ne devrait pas distraire des dommages que la technologie numérique cause déjà dans le monde entier, étant donné la montée du discours de haine et de la désinformation en ligne.

«La prolifération de la haine et des mensonges dans l'espace numérique cause maintenant de graves dommages mondiaux», a-t-il déclaré. «Elle alimente maintenant les conflits, la mort et la destruction. Elle menace maintenant la démocratie et les droits de l'homme. Elle mine maintenant la santé publique et l'action climatique.»

Guterres a déclaré qu'il créerait et nommerait des membres à un conseil consultatif sur l'IA pour gérer les initiatives liées à l'IA. Le conseil comprendrait des experts en intelligence artificielle et des scientifiques de l'ONU de l'Union internationale des télécommunications (UIT) et de l'Organisation des Nations unies pour l'éducation, la science et la culture (UNESCO).

Le Secrétaire général a également déclaré qu'il serait favorable à une agence d'intelligence artificielle inspirée de l'Agence internationale de l'énergie atomique.

Fondée en 1957, l'Agence internationale de l'énergie atomique (AIEA) est un organe des Nations unies chargé de superviser les activités nucléaires mondiales.

«L'avantage de l'AIEA est que c'est une institution très solide basée sur la connaissance, et en même temps, même si elle est limitée, elle a des fonctions réglementaires», a déclaré Guterres. «Je crois donc que c'est un modèle qui pourrait être très intéressant.»

Le PDG d'OpenAI, Sam Altman, a également appelé à la création d'un bureau gouvernemental chargé d'établir des normes pour le développement de l'intelligence artificielle lors de son témoignage devant le Comité judiciaire du Sénat américain.

«Je formerais une nouvelle agence qui accorde des licences à tout effort au-dessus d'une certaine échelle de capacités, et qui peut retirer cette licence et garantir la conformité aux normes de sécurité», a déclaré Altman, ajoutant que l'agence en question devrait exiger des audits indépendants de toute technologie d'IA.

Mais bien que le Secrétaire général soit en faveur d'une nouvelle agence internationale, il a reconnu un manque d'investissement de l'ONU dans l'administration publique, ce qui signifie que toute action nécessiterait l'initiative des États membres et la bonne volonté des parties impliquées.

«Aujourd'hui, nous constatons à quel point il est difficile pour les États et les organisations internationales de rivaliser d'un point de vue scientifique et technique avec les plateformes qui, entre-temps, ont acquis un énorme potentiel et une énorme connaissance», a déclaré Guterres.

Suite au lancement de GPT-4 d'OpenAI en mars, une pétition en ligne de l'Institut pour l'avenir de la vie a appelé à une pause de six mois dans la formation des systèmes d'IA. Des personnalités de l'industrie technologique, dont le PDG de Tesla Elon Musk et le co-fondateur d'Apple Steve Wozniak, ont signé la lettre.