En Resumen
- OpenAI desplegó una versión personalizada de ChatGPT en GenAI.mil, la plataforma de IA del Departamento de Defensa de Estados Unidos.
- ChatGPT se suma a Gemini de Google y Grok de xAI en la lista de modelos disponibles para el ejército estadounidense.
- Críticos advierten que los errores de usuarios representan un riesgo de seguridad clave pese a acceso militar ampliado a IA generativa.
OpenAI anunció el lunes que está desplegando una versión personalizada de ChatGPT en GenAI.mil, la plataforma de IA desarrollada por el Departamento de Defensa de Estados Unidos.
La medida amplía el acceso militar a poderosos modelos de IA generativa, incluso cuando los críticos advierten que el error del usuario sigue siendo un riesgo de seguridad clave.
ChatGPT se une a una creciente lista de modelos de IA disponibles para el ejército estadounidense, que incluyen Gemini de Google y Grok, el sistema de IA desarrollado por xAI, que fue integrado a SpaceX a principios de este mes.
"Creemos que las personas responsables de defender el país deben tener acceso a las mejores herramientas disponibles, y es importante que Estados Unidos y otros países democráticos comprendan cómo, con las salvaguardas adecuadas, la IA puede ayudar a proteger a las personas, disuadir a los adversarios y prevenir conflictos futuros", señaló OpenAI en un comunicado.
OpenAI afirmó que la versión de ChatGPT para GenAI.mil está aprobada para uso no clasificado del Departamento de Defensa y se ejecutará dentro de una infraestructura de nube gubernamental autorizada.
Según OpenAI, el sistema incluye salvaguardas diseñadas para proteger datos sensibles.
Sin embargo, J.B. Branch, defensor de responsabilidad de grandes tecnológicas en Public Citizen, advirtió que la dependencia excesiva de los usuarios en la IA podría socavar esas protecciones.
"Las investigaciones muestran que cuando las personas usan estos Large Language Models, tienden a darles el beneficio de la duda", señaló Branch a Decrypt. "Entonces, en situaciones de alto impacto como el ejército, eso hace aún más importante garantizar que obtengan las cosas correctas".
El despliegue se produce mientras el Pentágono acelera la adopción de IA comercial en las redes militares y los desarrolladores de IA buscan rentabilidad.
En enero, el secretario de Defensa Pete Hegseth afirmó que el departamento planea desplegar modelos de IA líderes en redes militares tanto clasificadas como no clasificadas.
Aunque OpenAI señaló que la versión personalizada de ChatGPT está destinada solo para datos no clasificados, Branch advirtió que introducir cualquier información sensible en sistemas de IA la deja vulnerable a adversarios, agregando que los usuarios a menudo confunden estas herramientas con bóvedas seguras.
"Se supone que la información clasificada solo debe estar ante un cierto conjunto de ojos", afirmó. "Entonces, incluso si tienes un sistema aislado que solo está permitido dentro del ejército, eso no cambia el hecho de que los datos clasificados solo están destinados para un subconjunto limitado de personas".
OpenAI no respondió de inmediato a una solicitud de comentarios de Decrypt.