Florida Investiga a OpenAI por Riesgos de Seguridad Nacional, Uso Criminal y Protección Infantil

El fiscal general de Florida, James Uthmeier, declaró el jueves que su oficina ha iniciado una investigación sobre OpenAI, la empresa detrás del chatbot ChatGPT.

En un comunicado publicado en X, Uthmeier señaló que la investigación examinará si los sistemas de inteligencia artificial de la empresa representan riesgos relacionados con la seguridad nacional, el uso criminal y la seguridad infantil, en un momento en que los gobiernos incrementan el escrutinio sobre las plataformas de IA generativa.

"Hoy lanzamos formalmente una investigación sobre OpenAI, y las citaciones están en camino", afirmó Uthmeier. "El desarrollo y despliegue de la inteligencia artificial es un salto monumental en tecnología, pero no está exento de preocupaciones para la seguridad pública y la seguridad nacional."

"La IA debe impulsar a la humanidad, no destruirla", escribió en X.

Uthmeier también indicó que los funcionarios están revisando si adversarios extranjeros podrían acceder a los datos recopilados por OpenAI.

"La IA se basa en su capacidad para recopilar datos, y existen preocupaciones sobre si los datos y las tecnologías de IA de OpenAI que podrían usarse en contra de Estados Unidos están cayendo en manos de los enemigos del país, como el Partido Comunista Chino", agregó.

El fiscal general también hizo referencia a señalamientos de que ChatGPT ha aparecido en investigaciones relacionadas con actividades dañinas o ilegales.

"ChatGPT de OpenAI también ha sido vinculado a conductas delictivas, incluyendo el uso de material de abuso sexual infantil por parte de depredadores y el fomento del suicidio y la autolesión", señaló.

Uthmeier indicó que los investigadores están revisando reportes de que el chatbot podría haber sido utilizado por el sospechoso de un tiroteo en 2025 en la Universidad Estatal de Florida que dejó dos personas muertas y varias heridas. Los abogados de la familia de una de las víctimas han afirmado que el presunto atacante mantenía "comunicación constante con ChatGPT" antes del ataque, y alegaron que el chatbot podría haberle aconsejado sobre cómo llevarlo a cabo.

Uthmeier instó al Poder Legislativo de Florida a adoptar nuevas protecciones para hacer frente a los riesgos de la IA.

"Hago un llamado al Poder Legislativo de Florida para que trabaje con rapidez en la implementación de protecciones que resguarden a nuestros niños de los peligros de la IA y que le otorguen a mi Oficina del Fiscal General mayor capacidad para combatir estos males", afirmó.

La oficina del fiscal general de Florida no respondió de inmediato a una solicitud de comentario de Decrypt.

La investigación llega en un momento en que los chatbots de IA enfrentan un creciente escrutinio legal y regulatorio. Otros chatbots importantes, como Gemini de Google y Grok de la empresa xAI de Elon Musk, también han recibido críticas de investigadores y grupos de defensa por la forma en que responden a prompts peligrosos o delicados. En diciembre, el gobernador de Florida, Ron DeSantis, propuso una "Declaración de Derechos" en materia de IA orientada a proteger la privacidad de los ciudadanos y a resguardarlos del aumento en los costos de energía relacionados con los centros de datos de IA.

La oficina del gobernador DeSantis tampoco respondió de inmediato a una solicitud de comentario de Decrypt.

En un comunicado, OpenAI afirmó que cooperará con la investigación y agregó que cada semana más de 900 millones de personas utilizan ChatGPT para "mejorar su vida cotidiana a través de usos como aprender nuevas habilidades o navegar sistemas de salud complejos".

"Nuestro trabajo continuo en materia de seguridad sigue desempeñando un papel importante en la entrega de estos beneficios a las personas, así como en el apoyo a la investigación y el descubrimiento científico", dijo el portavoz a Decrypt. "Desarrollamos ChatGPT para comprender la intención de las personas y responder de manera segura y adecuada, y seguimos mejorando nuestra tecnología."