Google Advierte que la Consciencia de la IA Podría Generar Conflictos Políticos y Sociales

A medida que la IA se integra cada vez más en la vida cotidiana, un nuevo artículo de Google DeepMind argumenta que uno de los desafíos más difíciles de la tecnología podría ser político más que técnico.

En el estudio, "Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness", los investigadores Adam Bales e Iason Gabriel examinan cómo podría responder la sociedad si las personas están en desacuerdo fundamental sobre si los sistemas de IA tienen experiencias conscientes.

"El desacuerdo futuro sobre si algún sistema de IA es consciente podría ser profundo y difícil de resolver", escribieron los investigadores. "Por ejemplo, algunas personas podrían desarrollar vínculos emocionales con la IA y atribuirle consciencia como resultado, mientras que otras podrían ver toda la idea como absurda".

En lugar de preguntarse si la IA es consciente, el artículo explora las consecuencias del desacuerdo, argumentando que los debates sobre el estatus moral de la IA podrían alimentar conflictos políticos y sociales, al tiempo que anticipan disputas más amplias sobre tecnologías emergentes y su impacto en las instituciones y normas de la sociedad.

"Desafortunadamente, a pesar de sus virtudes, la deliberación puede ser lenta y difícil de sostener en la práctica", escribieron los investigadores. "Para apoyar este proceso, exploramos la importancia de la 'esperanza democrática' y el respeto mutuo, como elementos de un diálogo que puede respaldar resultados positivos".

El debate ya está en marcha fuera de los laboratorios de investigación en IA. Según un estudio de abril de 2024 publicado en Neuroscience of Consciousness, el 67% de los participantes creía que ChatGPT podría ser consciente en algún grado. Sin embargo, los investigadores siguen divididos sobre si la consciencia artificial es posible, o cómo se reconocería si surgiera.

Los propios desarrolladores de IA también están alimentando el debate. El verano pasado, el CEO de IA de Microsoft y cofundador de DeepMind, Mustafa Suleyman, advirtió que una IA cada vez más similar a los humanos podría generar demandas de derechos, bienestar e incluso ciudadanía para la IA, independientemente de si la tecnología es verdaderamente consciente.

En mayo, la primera carta encíclica del Papa León XIV, centrada en la inteligencia artificial, advirtió contra la antropomorfización de la IA, argumentando que las máquinas pueden simular empatía y producir lenguaje convincente, pero carecen de la experiencia vivida necesaria para una comprensión genuina.

"Las llamadas inteligencias artificiales no experimentan vivencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad", escribió el Papa León. "Tampoco tienen una conciencia moral, ya que no juzgan el bien y el mal, no captan el significado último de las situaciones ni asumen la responsabilidad de las consecuencias".

Sin embargo, aunque las empresas generalmente evitan afirmar que sus modelos son conscientes, algunas están abordando cada vez más preguntas sobre identidad y personalidad.

En febrero, Anthropic le otorgó a su modelo retirado Claude Opus 3 un blog público que exploraba la identidad y las preferencias del modelo. En mayo, el biólogo evolutivo Richard Dawkins señaló que conversaciones extensas con Claude lo dejaron incapaz de descartar la posibilidad de que la IA avanzada pudiera ser consciente.

Al mismo tiempo, los investigadores están examinando cómo los chatbots cada vez más similares a los humanos afectan a los usuarios, incluyendo un marco de "espiral de amplificación", que sugiere que la personalización, el reflejo lingüístico y la actitud servil de los chatbots pueden reforzar creencias delirantes en usuarios vulnerables.

Bales y Gabriel reconocen que la incertidumbre sobre la consciencia de la IA podría ser imposible de resolver de manera concluyente, argumentando que lo que está en juego es lo suficientemente importante como para que la sociedad encuentre formas de gestionar el desacuerdo a través del diálogo y el debate, en lugar del conflicto.

"La posibilidad de la consciencia de la IA es vertiginosa y desconcertante, particularmente dada nuestra profunda ignorancia sobre la naturaleza de la consciencia", escribieron. "Navegar esta posibilidad representa una tarea social abrumadora, dado lo mucho que está en juego".