En Resumen
- El gobierno británico avanza en inteligencia artificial con un consejo asesor de expertos en IA y seguridad nacional.
- El Frontier AI Taskforce colabora con gigantes de la IA y organizaciones técnicas para evaluar riesgos y oportunidades.
- Se abordaron preocupaciones sobre seguridad y gobernanza en el desarrollo de la IA en beneficio público.
Los esfuerzos del gobierno británico por mantenerse al día en inteligencia artificial avanzan a buen ritmo, con el nombramiento de nuevos asesores de la industria para su grupo de trabajo de IA, según anunciaron este jueves.
Ubicado dentro del Departamento de Ciencia, Innovación y Tecnología, el grupo de trabajo de IA fue anunciado por primera vez en junio, tras conseguir un financiamiento de £100 millones ($125 millones).
Ahora, el recién renombrado Frontier AI Taskforce, que el presidente Ian Hogarth describió como una "start-up dentro del gobierno", cuenta con un consejo asesor compuesto por expertos en investigación de IA y seguridad nacional.
Los miembros incluyen al ganador del Premio Turing Yoshua Bengio, el ex investigador de OpenAI Paul Christiano y la directora de la agencia de seguridad del Reino Unido GCHQ, Anne Keast-Butler.
📢An elite team of high-profile AI specialists have been recruited as advisors for the Frontier AI Taskforce.
The Taskforce will protect against risks, build on UK capabilities & improve public services. @MichelleDonelan met Ian Hogarth @soundboy, Taskforce Chair, to discuss pic.twitter.com/KAZurJkKSK
— Department for Science, Innovation and Technology (@SciTechgovuk) September 7, 2023
"Hemos visto una inversión masiva para mejorar las capacidades de IA, pero no lo suficiente para proteger al público, ya sea en términos de investigación de seguridad de la IA o en términos de gobernanza, para asegurarse de que la IA se desarrolle en beneficio de todos", dijo Bengio.
"Con la próxima Cumbre de Seguridad de IA y el Grupo de Trabajo de IA de Vanguardia, el gobierno del Reino Unido ha asumido un liderazgo muy necesario para avanzar en la coordinación internacional sobre IA, especialmente en lo que respecta a la cuestión de los riesgos y la seguridad".
El primer informe de progreso del grupo de trabajo, también publicado el jueves, señaló una serie de otros nombramientos y colaboraciones, incluida la contratación de Ollie Ilott, miembro del personal de Downing Street, como director del programa. Hogarth dijo que Ilott aportó una energía similar a la del "General Groves" a los procedimientos, haciendo referencia al hombre que supervisó la creación del Proyecto Manhattan.
Gobierno de Reino Unido colabora con la industria de IA
Desde su inicio, el grupo de trabajo del gobierno ha declarado que colaborará con gigantes de la IA, incluyendo a DeepMind de Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) y Anthropic (Claude AI, Constitutional AI).
El jueves, el gobierno anunció que estas compañías se han comprometido a proporcionar un acceso profundo a sus modelos de IA para los investigadores.
También anunciaron asociaciones con varias organizaciones técnicas líderes, con investigadores de diversas empresas y organizaciones sin fines de lucro que se unirán al proyecto para ayudar a evaluar los riesgos y oportunidades de la IA.
Una de ellas es Heidy Khlaaf, directora de ingeniería de la firma de consultoría Trail of Bits, quien liderará el trabajo sobre los riesgos en la intersección de la ciberseguridad y los sistemas de IA de vanguardia.
"Después de haber trabajado en la evaluación de modelos de síntesis de código, independientemente de sus capacidades o corrección, no ha quedado claro cómo ayudan en las capacidades cibernéticas ofensivas y aumentan los riesgos de seguridad", escribió en X, anteriormente conocido como Twitter. "¡Estoy emocionada de anunciar nuestro trabajo para el Grupo de Trabajo de IA del Reino Unido para evaluar exactamente eso!"
Mientras tanto, se desarrollarán formas de medir si la IA se está construyendo para el bien colectivo por Saffron Huang y Divya Siddarth, cofundadores del Proyecto de Inteligencia Colectiva.