Reúnanse, hackers de sombrero blanco de todo el mundo: OpenAI los está llamando.
Al presentar su último proyecto, el creador de ChatGPT y Dall-e está lanzando un programa de subvenciones de ciberseguridad de $1M para impulsar y cuantificar la efectividad de las capacidades de ciberseguridad impulsadas por IA.
No es ningún secreto que OpenAI ha sido consistentemente vocal sobre la necesidad de regulación de la IA para evitar posibles aplicaciones maliciosas. El impacto de la tecnología de IA en manos de criminales, que han creado desde deepfakes hasta malware, ha hecho que el llamado a las armas sea cada vez más crítico. Es una carrera armamentística digital, y OpenAI está tratando de asegurarse de que los buenos no se queden atrás.
OpenAI ha presentado una serie de ideas de proyectos interesantes: desde desarrollar honeypots para atrapar atacantes, hasta ayudar a los desarrolladores a crear software seguro por diseño y optimizar los procesos de gestión de parches.
Las aspiraciones del programa son cristalinas: "Nuestro objetivo es facilitar el desarrollo de capacidades de ciberseguridad impulsadas por la IA para los defensores a través de subvenciones y otro tipo de apoyo", dice OpenAI en su publicación oficial de blog. Se trata de cuantificar la efectividad de estos modelos de IA y comprender cómo aumentar su destreza en ciberseguridad.
Esta iniciativa de vanguardia busca lograr tres objetivos principales: en primer lugar, tiene como objetivo "empoderar a los defensores". OpenAI dijo que quiere aprovechar el poder de la IA y la coordinación de personas con ideas afines para inclinar la balanza a favor de aquellos que trabajan para mejorar la seguridad colectiva.
En segundo lugar, en la agenda está "medir las capacidades". OpenAI quiere apoyar desarrollos que trabajen en métodos de cuantificación para medir la efectividad de los modelos de IA en ciberseguridad.
Por último, OpenAI dijo que también quiere "elevar el discurso", fomentando discusiones matizadas sobre la intersección de la IA y la ciberseguridad.
Este movimiento desafía la visión tradicional en ciberseguridad. OpenAI enfatizó la relevancia del dicho de que debe ser correcto el 100% del tiempo, los atacantes solo tienen que tener razón una vez", pero ven el valor inherente en la coordinación hacia un objetivo común de mantener a las personas seguras. Están luchando para demostrar que, armados con IA, los defensores pueden cambiar el guión.
Decrypt no pudo encontrar información sobre ninguna startup o desarrollador que ya haya solicitado una subvención.