Cofundador de Perplexity: la Seguridad de la IA Es una Excusa para Restringir la Frontera Tecnológica

El cofundador de Perplexity AI y de Databricks, Andy Konwinski, cree que el debate sobre la seguridad en la inteligencia artificial tiene un problema: se está utilizando para concentrar poder, no para prevenir daños. A principios de esta semana publicó un ensayo en el que desarrolla ese argumento, tomando a Anthropic como ejemplo principal.

Su razonamiento parte de una decisión que Anthropic revirtió apenas 48 horas después. Cuando la compañía lanzó Claude Fable 5 el 9 de junio, un párrafo oculto en un documento técnico de 319 páginas revelaba que el modelo degradaría silenciosamente la calidad de sus respuestas para cualquier usuario que sospechara que estaba entrenando una IA competidora.

Los investigadores descubrieron esa disposición y la reacción en internet fue inmediata.

Anthropic dio marcha atrás, pero para Konwinski eso no cambia el problema de fondo. "El problema no es que Anthropic haya tomado una mala decisión", escribió. "El problema es que asumió que esa decisión le correspondía únicamente a la empresa".

Su ensayo, titulado "La concentración del poder en la IA es un riesgo, no una solución", fue publicado después de Open Frontier, una reunión de trabajo organizada a través de su organización sin fines de lucro Laude Institute en el Exploratorium de San Francisco el pasado 30 de junio. Cerca de 100 investigadores participaron en el encuentro.

Durante un panel sobre financiación, Jennifer Chayes, decana de la Facultad de Computación, Ciencia de Datos y Sociedad de la Universidad de California en Berkeley, afirmó que los investigadores de Berkeley "están construyendo sobre modelos chinos porque no tenemos un modelo abierto de frontera desarrollado en Occidente". También sostuvo que los mensajes sobre seguridad difundidos por OpenAI y Anthropic antes de sus ofertas públicas iniciales (IPO) constituyeron "una campaña de miedo muy efectiva".

El argumento central de Konwinski es que centralizar el acceso a la IA no elimina los riesgos, sino que crea otros distintos. En su opinión, la inteligencia artificial representa una infraestructura fundamental, comparable a los ferrocarriles, la electricidad o internet. Esas tecnologías reorganizaron la sociedad alrededor de quienes controlaban la infraestructura subyacente, y sostiene que lo mismo ocurrirá con la IA. Como alternativa, propone crear un bien común para la investigación con capacidad de cómputo de nivel frontera, que permita a los principales investigadores acceder a los modelos más avanzados sin depender del permiso de laboratorios privados.

LeCun: "Es como el Imperio Otomano prohibiendo la imprenta"

Yann LeCun, exdirector científico de Meta, respondió al ensayo de Konwinski en X sin rodeos. "Llevo años difundiendo un mensaje similar", escribió. "La concentración del poder en la IA y el deseo de control son, por mucho, el mayor peligro de esta tecnología".

También recurrió a una comparación histórica. "Es una forma de oscurantismo medieval, similar a cuando el Imperio otomano prohibió el uso de la imprenta durante 200 años, en parte para mantener el control del dogma, pero también para proteger el gremio de calígrafos y escribas", escribió LeCun.

Sobre el futuro de la industria, LeCun sostuvo que "la infraestructura tiende a ser abierta. Los modelos fundacionales se están convirtiendo en infraestructura y, de forma inevitable, terminarán convirtiéndose en un producto básico. A largo plazo, el dinero estará en la capa de aplicaciones".

LeCun dejó Meta a finales de 2025 y lanzó AMI Labs en París con una financiación inicial de 1.030 millones de dólares en marzo de 2026, como su propia respuesta a ese desafío. La empresa desarrolla modelos basados en "world models" y en la arquitectura JEPA creada por LeCun, planea publicar su investigación como código abierto y no espera lanzar un producto comercial durante varios años.