En Resumen
- El gobernador de California, Gavin Newsom, vetó el Proyecto de Ley del Senado 1047 (SB 1047), que buscaba establecer nuevos estándares de seguridad para los sistemas de inteligencia artificial.
- Newsom argumentó que la propuesta podría frenar la innovación en el sector tecnológico de California y que el enfoque en modelos de IA a gran escala podría dejar fuera modelos más pequeños pero igualmente riesgosos.
- El proyecto de ley, redactado por el senador estatal Scott Wiener, buscaba imponer protocolos de seguridad para los desarrolladores de grandes modelos de IA y establecer una Junta de Modelos de Vanguardia para supervisar el cumplimiento.
El domingo, el gobernador de California, Gavin Newsom, vetó el Proyecto de Ley del Senado 1047 (SB 1047), una propuesta que buscaba establecer nuevos estándares de seguridad para los sistemas de inteligencia artificial.
Aunque el proyecto de ley fue presentado como un posible modelo para la futura regulación de la IA, Newsom argumentó que podría frenar la innovación en el sector tecnológico de California.
“La adaptabilidad es fundamental mientras corremos para regular una tecnología que aún está en pañales. Esto requerirá un equilibrio delicado”, escribió Newsom.
Newsom señaló que el enfoque del SB 1047 en modelos de IA a gran escala, aquellos que cuestan más de $100 millones, podría dejar fuera del alcance modelos más pequeños pero igualmente riesgosos.
Precio de Bitcoin Llega a Una Temporada Espeluznante: Analistas Advierten Una Corrección
El precio de Bitcoin está experimentando un comienzo cauteloso en octubre, a medida que la festividad de la Semana Dorada de China comienza el 1 de octubre. Esta celebración anual de siete días, que marca el Día Nacional de China y se extiende a través de diversas festividades culturales, a menudo resulta en una menor actividad comercial en los mercados globales, incluidas las criptomonedas, ya que los traders y negocios chinos se toman un descanso. Los analistas predicen un mercado lento esta s...
El proyecto de ley, redactado por el senador estatal Scott Wiener, buscaba imponer protocolos de seguridad para los desarrolladores de grandes modelos de IA y establecer una Junta de Modelos de Vanguardia para supervisar el cumplimiento.
"Al centrarse solo en los modelos más caros y a gran escala, la SB 1047 crea un marco que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento", agregó Newsom.
La SB 1047 recibió apoyo de defensores de la seguridad tecnológica, incluido Elon Musk, quien pidió su aprobación el mes pasado. "Durante más de 20 años, he abogado por la regulación de la IA, al igual que regulamos cualquier producto o tecnología que represente un riesgo para el público", dijo Musk.
El llamado de Musk fue respaldado por los destacados expertos en IA Geoffrey Hinton y Yoshua Bengio, junto con más de 125 figuras de Hollywood, que firmaron una carta abierta instando a Newsom a aprobar el proyecto de ley.
Sin embargo, el proyecto de ley enfrentó resistencia de importantes actores tecnológicos y capitalistas de riesgo que argumentaron que las regulaciones podrían frenar la innovación y alejar el talento de California. OpenAI, Meta y Google estaban entre los opositores, prefiriendo un enfoque federal para la regulación.
Cuanto Más Avanzada Sea la IA, Más Mentirá: Estudio
Los investigadores han encontrado evidencia de que los modelos de inteligencia artificial preferirían mentir antes que admitir la vergüenza de no saber algo. Este comportamiento parece ser más evidente a medida que crecen en tamaño y complejidad. Un nuevo estudio publicado en Nature encontró que cuanto más grandes se vuelven los LLMs, menos confiables se vuelven para tareas específicas. Aunque no miente exactamente, tienden a responder con confianza, incluso si la respuesta no es factualmente co...
Newsom hizo eco de estas preocupaciones, sugiriendo un enfoque más matizado y basado en evidencia.
“Un enfoque exclusivo de California bien podría estar justificado, especialmente en ausencia de acción federal por parte del Congreso, pero debe estar fundamentado en evidencia empírica y científica”, escribió.
El senador Wiener expresó su decepción por el veto, advirtiendo que sin regulación, las empresas de IA seguirían autorregulándose sin estándares de seguridad exigibles.
OpenAI Estrena Modo de Voz Avanzado, Sin el Drama de Scarlett Johansson
OpenAI ha comenzado a implementar su muy esperado Modo de Voz Avanzado para los usuarios de ChatGPT Plus y Teams, marcando otro paso hacia una interacción de IA más parecida a la humana. La función permite conversaciones fluidas en tiempo real impulsadas por GPT-4o, el último modelo de OpenAI, que combina texto, visión y audio para ofrecer respuestas más rápidas. “Advanced Voice se está implementando para todos los usuarios de Plus y Team en la aplicación ChatGPT a lo largo de la semana”, dijo O...
Mientras Newsom ha firmado otras leyes relacionadas con la inteligencia artificial, incluidas medidas para combatir deepfakes en elecciones y proteger las semejanzas de los actores de ser replicadas por IA sin consentimiento, su rechazo a la SB 1047 subraya el desafío de equilibrar la innovación con la supervisión.
Newsom se comprometió a trabajar con expertos, legisladores y socios federales para desarrollar futuras regulaciones de IA, prometiendo "encontrar el camino apropiado para seguir adelante".
Editado por Sebastian Sinclair
