CEOs de OpenAI y Microsoft se Unen a la Junta de Seguridad de IA Del DHS de EEUU

El Departamento de Seguridad Nacional de los Estados Unidos (DHS) ha reclutado a un amplio grupo de líderes de la industria de la inteligencia artificial para establecer la Junta de Seguridad y Protección de la Inteligencia Artificial, según anunció el viernes la agencia.

El DHS dice que el nuevo organismo desempeñará un papel crucial en aprovechar la inteligencia artificial para la protección de la infraestructura vital de los Estados Unidos y para mitigar las amenazas impulsadas por la IA.

“La inteligencia artificial es una tecnología transformadora que puede avanzar en nuestros intereses nacionales de formas sin precedentes”, dijo el Secretario de Seguridad Nacional, Alejandro Mayorkas, en un comunicado preparado. “Al mismo tiempo, presenta riesgos reales que podemos mitigar adoptando las mejores prácticas y tomando otras acciones concretas estudiadas”.

La junta estará liderada por Mayorkas e incluirá a varios ejecutivos de alto perfil en el campo de la inteligencia artificial, como el CEO de OpenAI, Sam Altman, el presidente y CEO de Microsoft, Satya Nadella, el CEO de Alphabet, Sundar Pichai, el cofundador y CEO de Anthropic, Dario Amodei, y el presidente y CEO de NVIDIA, Jensen Huang.

“Estoy agradecido de que líderes tan destacados estén dedicando su tiempo y experiencia a la junta para ayudar a garantizar la infraestructura crítica de nuestra nación, los servicios vitales en los que los estadounidenses confían cada día, protegiéndose eficazmente contra los riesgos y realizando el enorme potencial de esta tecnología transformadora”, dijo Mayorkas.

“La tecnología de IA es capaz de ofrecer inmensos beneficios a la sociedad si se despliega de manera responsable, por eso abogamos por esfuerzos para probar la seguridad de los sistemas de IA de vanguardia para mitigar posibles riesgos”, dijo Amodei de Anthropic en una declaración simultánea. “Estamos orgullosos de contribuir al estudio de las implicaciones de la IA en la protección de la infraestructura crítica con otros líderes en los sectores público y privado.

“El despliegue seguro de la IA es fundamental para asegurar la infraestructura que impulsa la sociedad estadounidense, y creemos que la formación de esta junta es un paso positivo en el fortalecimiento de la seguridad nacional de EE. UU.”, señaló.

“La inteligencia artificial es la tecnología más transformadora de nuestro tiempo, y debemos asegurarnos de que se implemente de manera segura y responsable”, agregó Nadella de Microsoft. “Microsoft se siente honrado de participar en este esfuerzo importante y espera compartir tanto nuestros aprendizajes hasta la fecha, como nuestros planes futuros.”

Otros que se unen al Consejo de Seguridad y Protección de la IA son el CEO de Amazon Web Services, Adam Selipsky, el presidente y CEO de IBM, Arvind Krishna, la co-directora del Instituto de IA Centrada en el Humano de Stanford, Fei-Fei Li, y Maya Wiley, presidenta y CEO de la Conferencia de Liderazgo sobre Derechos Civiles y Humanos.

“Me siento honrada de unirme a este grupo de líderes interdisciplinarios para guiar esta tecnología cambiante del mundo de manera responsable y centrada en el ser humano”, dijo Li. “En última instancia, la IA es una herramienta, una herramienta potente, y debe ser desarrollada y aplicada con una comprensión de cómo impactará al individuo, la comunidad y la sociedad en general.”

La junta celebrará su primera reunión trimestral a principios de mayo, según el DHS, y tendrá la tarea inmediata de proporcionar recomendaciones al secretario para garantizar la adopción segura de la tecnología de inteligencia artificial en servicios esenciales. El objetivo es crear un foro para que el DHS, "la comunidad de infraestructuras críticas" y los líderes de la inteligencia artificial intercambien información sobre los riesgos de seguridad relacionados con la inteligencia artificial.

La rápida intrusión de la inteligencia artificial en la corriente principal en 2023 dejó a los líderes mundiales luchando por desarrollar regulaciones para hacer frente a la nueva tecnología. En enero, el Foro Económico Mundial (WEF) destacó la inteligencia artificial y la computación cuántica entre una lista de los riesgos globales más urgentes.

Siguiendo la emisión de una orden ejecutiva en octubre de 2023, la Administración Biden anunció el lanzamiento del Consorcio del Instituto de Seguridad de la IA de EE. UU. (AISIC), que incluye a muchos de los nombres que se unen a la iniciativa del DHS.

Además de las preocupaciones de seguridad nacional, los desarrolladores de IA, como Google, Meta y OpenAI, se unieron el martes a organizaciones sin fines de lucro como Thorn y All Tech is Human, comprometiéndose a aplicar salvaguardias en torno a sus respectivos modelos de IA para evitar que se utilicen para crear material de abuso sexual infantil (CSAM). CSAM también fue el foco de una nueva carta enviada por la Senadora Elizabeth Warren al DHS y al Departamento de Justicia.

Editado por Ryan Ozawa.