5 min lectura
Los recientes ataques en Las Vegas y Nueva Orleans muestran cómo las herramientas de IA están siendo utilizadas por terroristas.
Las autoridades indican que el Sargento Maestro de las Fuerzas Especiales del Ejército de EE. UU., Matthew Livelsberger, un condecorado Boina Verde que había mostrado signos de TEPT, empleó metódicamente ChatGPT para investigar elementos cruciales de su ataque al Cybertruck de Tesla fuera del Hotel Internacional de Trump en Las Vegas el 1 de enero.
Según el Sheriff de Las Vegas, Kevin McMahill, la interacción de Livelsberger con la plataforma de inteligencia artificial fue mucho más allá de simples consultas. El soldado de 37 años utilizó ChatGPT para calcular cantidades precisas de explosivos, investigar canales de adquisición de fuegos artificiales y explorar métodos para comprar teléfonos sin dejar rastros digitales.
"Ya sabíamos que la inteligencia artificial iba a cambiar el juego en algún momento y toda nuestra vida", dijo McMahill. "Este es el primer incidente del que tengo conocimiento en suelo estadounidense donde ChatGPT se utiliza para ayudar a un individuo a construir un dispositivo en particular."
El incidente culminó con Livelsberger vertiendo combustible para carreras sobre la Cybertruck alquilada antes de quitarse la vida, con los investigadores sugiriendo que el destello del cañón de su arma de fuego pudo haber desencadenado la explosión. Siete personas resultaron heridas, aunque la estructura del hotel se mantuvo en gran parte intacta y el incidente no cobró ninguna vida más allá de la del perpetrador.
El mismo día que ocurrió el primer incidente, el veterano del ejército de EE. UU. de 42 años, Shamsud-Din Jabbar, condujo un camión alquilado hacia una multitud durante la celebración de Año Nuevo.
Antes del incidente, Jabbar utilizó las gafas inteligentes Ray-Ban de Meta, impulsadas por la IA de Meta, para llevar a cabo un detallado reconocimiento de su área objetivo.
Las investigaciones del FBI revelaron que Jabbar realizó dos visitas al Barrio Francés de Nueva Orleans, el 30 de octubre y el 10 de noviembre, durante las cuales utilizó las gafas inteligentes para capturar extensas imágenes de Bourbon Street. Las gafas le permitieron grabar video y fotos sin usar las manos mientras recorría la zona en bicicleta. El agente especial del FBI, Lyonel Myrthil, detalló cómo Jabbar grabó metódicamente el diseño de la calle, escaneando repetidamente de izquierda a derecha para capturar puntos de vista completos.
El FBI publicó uno de los videos grabados por Jabbar:
La propia agresión cobró 14 vidas y dejó 35 heridos, incluidos dos oficiales de policía, cuando Jabbar condujo una camioneta a través de las multitudes de Año Nuevo a las 3 am. Aunque llevaba puestos los lentes de Meta durante el ataque, no las activó para grabar o transmitir en vivo.
Las imágenes recuperadas mostraron a Jabbar probando las capacidades de los lentes, examinando su reflejo y asegurando ángulos de grabación óptimos. El experto en contraterrorismo Sam Hunter enfatizó la ventaja táctica que proporcionaba esa tecnología.
“Realmente estás obteniendo una idea de la línea de visión y la vista, y todas las cosas por las que querrás estar atento si estás tratando de planificar un ataque”, dijo Hunter en una declaración compartida con NBC. “No me sorprendería si ves versiones de ellas o personas usándolas para planificar ataques en el futuro, nuevamente porque son tan discretas en cuanto a capturar esa grabación,”
Las empresas tecnológicas y los reguladores han estado reforzando medidas de protección mientras buscan preservar los usos positivos de la IA.
OpenAI enfatizó que ChatGPT incorpora protecciones específicas contra instrucciones dañinas y proporciona advertencias explícitas sobre actividades ilegales. La empresa dijo que ha cooperado plenamente con las investigaciones de las autoridades, al mismo tiempo que trabaja para mejorar sus protocolos de seguridad.
“El uso en el mundo real también nos ha llevado a desarrollar políticas cada vez más matizadas contra comportamientos que representan un riesgo genuino para las personas, al tiempo que permiten los muchos usos beneficiosos de nuestra tecnología”, dijo OpenAI en una publicación oficial en el blog.
Como ha informado Decrypt, las técnicas simples de jailbreaking han demostrado ser efectivas cuando se aplican contra estos modelos: Métodos básicos como escribir en Leetspeak o usar juego de rol continuo pueden ser suficientes para obtener contenido ilegal y evadir tales restricciones.
La empresa no ha emitido una declaración con respecto al uso de sus herramientas por el Sargento Matthew Livelsberger para sus ataques terroristas.
Meta, enfrentando escrutinio sobre el potencial de mal uso de sus lentes inteligentes desde su lanzamiento, ha reconocido la necesidad de equilibrar la innovación con las preocupaciones de seguridad. La luz indicadora de grabación de las gafas, aunque presente, ha sido criticada por ser demasiado sutil.
Preguntado sobre los ataques terroristas, un portavoz de Meta informó a NBC que la empresa está activamente "en contacto con las autoridades policiales sobre este asunto".
Editado por Andrew Hayward
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.