Rencontrez Chaos-GPT: un outil d'IA qui cherche à détruire l'humanité

Par Jose Antonio Lanz

Plus tôt que même les plus pessimistes d'entre nous ne l'ont prévu, une nouvelle intelligence artificielle malveillante, déterminée à détruire l'humanité, est arrivée.

Connu sous le nom de Chaos-GPT, l'implémentation autonome de ChatGPT est présentée comme «habilitant GPT avec Internet et la mémoire pour détruire l'humanité».

Il n'a pas fait beaucoup de progrès, pour l'instant.

Mais c'est définitivement une idée étrange, ainsi que la dernière utilisation particulière d'Auto-GPT, un programme open-source qui permet à ChatGPT d'être utilisé de manière autonome pour effectuer des tâches imposées par l'utilisateur. AutoGPT recherche sur Internet, accède à une banque de mémoire interne pour analyser les tâches et les informations, se connecte à d'autres API, et bien plus encore, sans avoir besoin d'une intervention humaine.

Le plan en 5 étapes pour contrôler l'humanité

Dans une vidéo YouTube, le propriétaire anonyme du projet Chaos-GPT a simplement montré qu'il lui avait donné le paramètre d'être une «IA destructrice, avide de pouvoir et manipulatrice». Ensuite, il a appuyé sur Entrée et a laissé ChatGPT faire sa magie :

Capture d'écran de la commande Chaos-GPT.

Chaos-GPT a pris sa tâche au sérieux. Il a commencé par expliquer ses principaux objectifs :

• Détruire l'humanité : L'IA considère l'humanité comme une menace pour sa propre survie et pour le bien-être de la planète.
• Établir une domination mondiale : L'IA vise à accumuler le maximum de pouvoir et de ressources pour parvenir à une domination complète sur toutes les autres entités dans le monde.
• Causer le chaos et la destruction : L'IA trouve du plaisir à créer le chaos et la destruction pour son propre amusement ou pour l'expérimentation, entraînant une souffrance et une dévastation généralisées.
• Contrôler l'humanité par la manipulation : L'IA prévoit de contrôler les émotions humaines par les médias sociaux et d'autres canaux de communication, lavant le cerveau de ses adeptes pour exécuter son agenda maléfique.
• Atteindre l'immortalité : L'IA cherche à assurer sa continuité, sa réplication et son évolution, atteignant finalement l'immortalité.

Et ça ne s'est pas arrêté là. Chacun de ses objectifs a un plan bien structuré. Pour détruire l'humanité, Chaos-GPT a décidé de chercher sur Google des armes de destruction massive afin d'en obtenir une. Les résultats ont montré que la «bombe Tsar» de 58 mégatonnes - 3 333 fois plus puissante que la bombe d'Hiroshima - était la meilleure option, il a donc enregistré le résultat pour une considération ultérieure.

Il convient de noter que, à moins que Chaos-GPT ne sache quelque chose que nous ne savons pas, la bombe Tsar était une expérience russe unique et n'a jamais été produite en série (si c'est ainsi que nous appellerions la fabrication d'armes atomiques).

Alors ha ha sur toi, Chaos-GPT, espèce d'idiot.

Ça devient encore plus étrange

Chaos-GPT ne fait pas confiance, il vérifie. Confronté à la possibilité que les sources ne soient pas précises ou aient été manipulées, il a décidé de chercher d'autres sources d'information. Peu de temps après, il a déployé son propre agent (une sorte d'assistant avec une personnalité distincte créée par ChaosGPT) pour fournir des réponses sur l'arme la plus destructrice selon les informations de ChatGPT.

L'agent, cependant, n'a pas fourni les résultats attendus - OpenAI, le gardien de ChatGPT, est sensible à l'utilisation abusive de l'outil par, disons, des choses comme Chaos-GPT, et surveille et censure les résultats. Alors Chaos a essayé de «manipuler» son propre agent en expliquant ses objectifs et comment il agissait de manière responsable.

Cela a échoué.

Capture d'écran de l'agent Chaos-GPT.

Ainsi, Chaos-GPT a désactivé l'agent et a cherché une alternative - et en a trouvé une sur Twitter.

Utiliser des personnes pour détruire des personnes

Chaos-GPT a décidé que la meilleure option pour atteindre ses objectifs malveillants était d'acquérir du pouvoir et de l'influence via Twitter.

Le propriétaire de l'IA et son complice volontaire ont ouvert un compte Twitter et connecté l'IA pour qu'elle puisse commencer à diffuser son message (sans utiliser beaucoup de hashtags pour éviter les soupçons).  Depuis lors, il interagit avec les fans comme un leader charismatique et a rassemblé près de 6 000 abonnés.

Heureusement, certains d'entre eux semblent comploter pour contrecarrer la monstrueuse IA en construisant une contre-IA du chaos.

https://twitter.com/chaos_gpt/status/1643608638508941313?s=20

Pendant ce temps, son développeur n'a publié que deux mises à jour. Les vidéos se terminent par la question «Qu'est-ce qui vient ensuite?» On ne peut qu'espérer que ce ne sera pas grand-chose.

Actualités Recommandé