Este lunes marcó un nuevo máximo, o quizás mínimo, en la demostración del poder de la inteligencia artificial (IA). Una imagen falsa que representa una explosión fabricada en el Pentágono, rápidamente identificada como generada por IA, se propagó como un reguero de pólvora en las redes sociales. También parece haber provocado una caída momentánea en el mercado de valores de EE. UU.

La imagen alarmante, que muestra humo saliendo del icónico edificio, fue difundida por numerosas cuentas, incluyendo un canal de medios estatal ruso.

AD

Curiosamente, los informes de la falsa explosión en el Pentágono también llegaron a cuentas de Twitter no oficiales con marcas de verificación azules, amplificando aún más la confusión y el impacto de la falsedad, destacando tanto la importancia de la rigurosa verificación de la fuente como el resultado previsible del nuevo criterio de verificación de cuentas de Elon Musk.

A medida que la foto se volvió viral, los índices bursátiles de EE. UU. sufrieron un pequeño golpe, aunque los mercados se recuperaron rápidamente después de que se expuso la foto como un engaño. Bitcoin, la criptomoneda líder, también experimentó una breve "caída en picado" después de la propagación de la noticia falsa, cayendo a $26500. Sin embargo, Bitcoin se está recuperando lentamente pero seguramente y actualmente se está negociando a $26,882, según CoinGecko.

Pentagon Hoax Market Dip
Imagen: Yahoo! Finance

El impacto del engaño fue tan significativo que el Departamento de Bomberos del Condado de Arlington tuvo que intervenir. "NO hay explosión ni incidente ocurriendo en o cerca de la reserva del Pentágono", tuitearon "y no hay peligro o riesgos inmediatos para el público".

AD

Allanando el camino hacia una mayor regulación de la IA

Este tipo de engaño en línea ha generado preocupaciones serias entre los críticos del desarrollo de la IA sin restricciones. Muchos expertos en el campo han advertido que los sistemas avanzados de IA podrían convertirse en herramientas para actores malintencionados en todo el mundo, propagando información errónea y causando pandemónium en línea.

Esta no es la primera vez que ha surgido tal engaño. Imágenes virales generadas por IA han engañado previamente al público, como imágenes del Papa Francisco luciendo una chaqueta Balenciaga, un arresto falso del presidente Donald Trump y deepfakes de celebridades como Elon Musk o SBF promoviendo estafas de criptomonedas.

Personalidades destacadas también han sonado la alarma sobre la propagación de la desinformación.

Cientos de expertos en tecnología ya han pedido una pausa de seis meses en el desarrollo de la IA avanzada hasta que se establezcan las pautas de seguridad adecuadas. Incluso el Dr. Geoffrey Hinton, ampliamente conocido como el 'Padrino de la IA', renunció a su cargo en Google para expresar sus preocupaciones sobre los posibles riesgos de la IA sin dañar la reputación de su antiguo empleador.

Episodios de desinformación como este alimentan el debate en curso sobre la necesidad de un marco regulatorio y ético para la IA. A medida que la IA se convierte en una herramienta cada vez más potente en manos de agentes de desinformación, las consecuencias pueden ser caóticas.

Basado en los eventos de hoy, una pregunta destaca: ¿Qué pasaría si una IA fuera el agente que usa el poder de las redes sociales para propagar el caos y controlar los mercados financieros? De alguna manera, lo vimos venir.

Daily Debrief Newsletter

Start every day with the top news stories right now, plus original features, a podcast, videos and more.