Secretario General de la ONU: Hay Que Tomar en Serio Las Advertencias Sobre la IA

Los peligros de la inteligencia artificial (IA) generativa volvieron a ser tema de discusión entre líderes mundiales de alto nivel, ya que el Secretario General de las Naciones Unidas (ONU) se unió a un coro creciente de voces que piden regular la tecnología.

"Las alarmas sobre la última forma de inteligencia artificial, la IA generativa, son ensordecedoras, y más fuertes que los desarrolladores que la diseñaron", dijo António Guterres en una conferencia de prensa el lunes. "Los científicos y expertos han llamado al mundo a actuar, declarando que la IA es una amenaza existencial para la humanidad al mismo nivel que el riesgo de una guerra nuclear".

"Debemos tomar esas advertencias en serio", dijo el Secretario General de la ONU.

Los comentarios de Guterres se produjeron el mismo día en que la ONU publicó un informe, "Integridad de la información en plataformas digitales", que subrayó la necesidad de un uso responsable de la IA y advirtió sobre el uso de deepfakes en zonas de conflicto.

El Parlamento Europeo aprobó este 14 de junio lo que describe como "la primera legislación de IA en el mundo".

Si bien la inteligencia artificial (IA) es una preocupación crítica para Guterres, el Secretario General dijo que la llegada de la IA no debería distraer del daño que la tecnología digital ya está causando en todo el mundo, dado el aumento del discurso de odio y la desinformación en línea.

"La proliferación del odio y las mentiras en el espacio digital está causando graves daños globales ahora", dijo. "Está alimentando conflictos, muerte y destrucción ahora. Está amenazando la democracia y los derechos humanos ahora. Está socavando la salud pública y la acción climática, ahora".

Guterres dijo que crearía y nombraría miembros para un consejo asesor de IA que maneje iniciativas relacionadas con la IA. El consejo incluiría expertos en inteligencia artificial y científicos de la ONU de la Unión Internacional de Telecomunicaciones (UIT) y la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO).

El Secretario General también dijo que estaría a favor de una agencia de inteligencia artificial inspirada en la Agencia Internacional de Energía Atómica.

Fundada en 1957, la Agencia Internacional de Energía Atómica (AIEA) es un organismo de las Naciones Unidas encargado de supervisar las actividades nucleares globales.

"La ventaja del OIEA es que es una institución muy sólida basada en el conocimiento, y al mismo tiempo, aunque limitada, tiene algunas funciones regulatorias", dijo Guterres. "Así que creo que este es un modelo que podría ser muy interesante".

El CEO de OpenAI, Sam Altman, mientras testificaba ante el Comité Judicial del Senado de los Estados Unidos, llamó a la creación de una oficina gubernamental encargada de establecer estándares para el desarrollo de la inteligencia artificial.

"Formaría una nueva agencia que otorgue licencias a cualquier esfuerzo por encima de cierta escala de capacidades, y que pueda retirar esa licencia y garantizar el cumplimiento de las normas de seguridad", dijo Altman, agregando que la agencia en cuestión debería requerir auditorías independientes de cualquier tecnología de IA.

Además, el Secretario General reconoció la falta de inversión de la ONU en la administración pública, lo que significa que cualquier acción requeriría la iniciativa de los estados miembros y la buena voluntad de las partes involucradas.

"Hoy en día, sentimos lo difícil que es para los estados y las organizaciones internacionales competir desde el punto de vista científico y técnico con las plataformas que, en el intermedio, han adquirido un enorme potencial y un enorme conocimiento", dijo Guterres.

Después del lanzamiento en marzo de GPT-4 de OpenAI, Future of Life Institute realizó una petición en línea para realizar una pausa de seis meses en el entrenamiento de sistemas de inteligencia artificial. Gigantes de la industria tecnológica, incluidos el CEO de Tesla, Elon Musk, y el cofundador de Apple, Steve Wozniak, firmaron la carta.