NVIDIA, Adobe, IBM y 5 Firmas Más se Comprometen Con el Desarrollo de IA Responsable

Por Jason Nelson

Ocho desarrolladores de IA con sede en Estados Unidos se sumaron el martes a una creciente lista de empresas que se comprometen a desarrollar herramientas de IA generativa de manera responsable, incluyendo NVIDIA, Scale AI y Cohere.

Las adiciones fueron anunciadas por la Casa Blanca y forman parte de una iniciativa de la administración Biden lanzada hace cuatro meses, cuando líderes de la industria se reunieron con ellos para desarrollar pautas universales sobre cómo avanzaría la IA generativa. El detonante fue el lanzamiento de ChatGPT de OpenAI, que llevó la IA al público en general en noviembre.

"Estos compromisos, que las empresas han decidido asumir de inmediato, subrayan tres principios que deben ser fundamentales para el futuro de la IA: seguridad, protección y confianza, y marcan un paso crítico hacia el desarrollo de una IA responsable", dijo la Casa Blanca en un comunicado.

En mayo, la vicepresidenta Kamala Harris se reunió con los líderes de Alphabet, Anthropic, Microsoft y OpenAI para discutir la responsabilidad de las corporaciones y los responsables políticos de apoyar una innovación confiable y ética con salvaguardias que mitigue los riesgos y los posibles daños.

Siete destacadas empresas de tecnología, incluyendo OpenAI, Google, Microsoft, Amazon y Meta, se sumaron al compromiso de la Casa Blanca en julio. La reunión de hoy con la Secretaria de Comercio de los Estados Unidos, Gina Raimondo, y el Jefe de Gabinete de la Casa Blanca, Jeff Zients, fue anunciada por la Casa Blanca como una "segunda ronda de compromisos voluntarios".

"Estos compromisos son fundamentales para el futuro de la IA", dijo Scale AI en una publicación de blog. "La realidad es que el progreso en las capacidades de los modelos de vanguardia debe ocurrir junto con el progreso en la evaluación y seguridad de los modelos. Esto no solo es lo correcto, sino también práctico".

"Nos complace unirnos a estos compromisos y ver que la Casa Blanca se toma en serio los desafíos, riesgos y oportunidades únicas que enfrenta el sector de la IA empresarial", dijo el Presidente y COO de Cohere, Martin Kon, agregando que la compañía espera trabajar con legisladores destacando las reuniones recientes con funcionarios gubernamentales en el Reino Unido y Canadá.

Durante su testimonio el martes ante el Comité Judicial del Senado de Estados Unidos, el Jefe Científico de NVIDIA, William Dally, confirmó que el componente informático convertido en desarrollador de IA ha respaldado los compromisos voluntarios de la Casa Blanca sobre IA, diciendo que a medida que la empresa continúa implementando la IA de manera más amplia, seguirá identificando y abordando los riesgos.

En sus comentarios ante el Senado, Dally enfatizó la necesidad de equilibrio en cuanto a la regulación de la IA, consideraciones de seguridad nacional y el posible abuso de la tecnología de IA en detrimento del liderazgo de Estados Unidos en esta área tecnológica.

"Siempre y cuando seamos reflexivos y prudentes, podemos garantizar una implementación segura, confiable y ética de los sistemas de IA", dijo Dally a los senadores. "Sin suprimir la innovación, podemos fomentar la innovación asegurándonos de que las herramientas de IA estén ampliamente disponibles para todos, no concentradas en manos de unas pocas empresas poderosas".

Otros que se unieron a NVIDIA, Scale AI y Cohere en la promesa de la Casa Blanca fueron Adobe, IBM, Palantir, Salesforce y Stability AI.

El potencial disruptivo de la IA, para bien o para mal, sigue siendo una preocupación principal para los legisladores de todo el mundo. Durante una audiencia ante el Comité de Banca del Senado el martes, el presidente de la Comisión de Bolsa y Valores (SEC) de Estados Unidos, Gary Gensler, dijo que las nuevas tecnologías podrían "desafiar" las leyes del país, citando el uso de deepfakes generados por IA en estafas en línea y manipulación del mercado.

Noticias recomendados