Un fake généré par IA sur une explosion au Pentagone déclenche une brève vente sur les marchés

Ce lundi a marqué un nouveau sommet - ou peut-être un nouveau creux - dans la démonstration du pouvoir de l'intelligence artificielle (IA). Une image représentant une explosion fabriquée au Pentagone, rapidement signalée comme étant générée par l'IA, s'est répandue comme une traînée de poudre sur les réseaux sociaux. Elle semble également avoir provoqué une vente momentanée sur le marché boursier américain.

L'image alarmante, représentant de la fumée s'échappant du bâtiment emblématique, a été diffusée par de nombreux comptes, y compris une chaîne de médias d'État russe.

Fait intéressant, des rapports sur la fausse explosion au Pentagone ont également été relayés sur des comptes Twitter non officiels avec des coches de vérification bleues, amplifiant encore la confusion et l'impact de la fausseté - soulignant à la fois l'importance de la vérification rigoureuse des sources et le résultat peu surprenant des nouveaux critères de vérification de compte d'Elon Musk.

Alors que la photo est devenue virale, les indices boursiers américains ont subi une légère baisse, bien que les marchés se soient rapidement rétablis après que la photo ait été exposée comme un fake. Bitcoin, la principale cryptomonnaie, a également connu une brève «flash crash» suite à la propagation de la fausse nouvelle, chutant à 26 500 $. Cependant, Bitcoin se récupère lentement mais sûrement et est actuellement échangé à 26 882 $, selon CoinGecko.

L'impact de la supercherie a été suffisamment important pour inciter le département des pompiers du comté d'Arlington à intervenir. «Il n'y a PAS d'explosion ou d'incident en cours à ou près de la réservation du Pentagone», ont-ils tweeté «et il n'y a aucun danger immédiat ou risque pour le public.»

Ce n'est pas la première fois qu'une telle tromperie émerge. Des images virales générées par l'IA ont déjà trompé le public, comme des images du Pape François portant une veste Balenciaga, une fausse arrestation du président Donald Trump et des deepfakes de célébrités comme Elon Musk ou SBF faisant la promotion d'arnaques liées aux cryptomonnaies.

Des personnalités notables ont également tiré la sonnette d'alarme sur la propagation de la désinformation.

Des centaines d'experts en technologie ont déjà appelé à une pause de six mois dans le développement de l'IA avancée jusqu'à ce que des directives de sécurité appropriées soient établies. Et même le Dr Geoffrey Hinton, largement connu sous le nom de «parrain de l'IA», a démissionné de son poste chez Google pour exprimer ses préoccupations concernant les risques potentiels de l'IA sans nuire à la réputation de son ancien employeur.

Les épisodes de désinformation comme celui-ci alimentent le débat en cours sur la nécessité d'un cadre réglementaire et éthique pour l'IA. À mesure que l'IA devient un outil de plus en plus puissant entre les mains des agents de la désinformation, les conséquences peuvent être chaotiques.

À la lumière des événements d'aujourd'hui, une question se pose : Et si une IA était l'agent utilisant le pouvoir des médias sociaux pour répandre le chaos et contrôler les marchés financiers ? Nous l'avons un peu vu venir.