Colectivo Theta Noir: Entrenar la IA Con "Valores Humanos" es Peligroso

Por Jason Nelson

La inteligencia artificial se está agregando a todo, lo que lleva a los responsables de la formulación de políticas y a los líderes de la industria a lidiar con su impacto potencial en la sociedad. Entrenar a la IA con los llamados "valores humanos" parecería ser la mejor manera de evitar un escenario de "Terminator", pero un grupo dice que eso es lo último que los desarrolladores de IA deberían hacer.

Theta Noir, un colectivo multidisciplinario, argumenta que la IA debería tomar señales de la naturaleza en lugar de los humanos. Theta Noir dice que quiere ver una forma futura y emergente de inteligencia artificial general o AGI a la que han llamado Mena.

El grupo llama a Mena, que significa "amor" en alemán, ni un dios ni una deidad, sino una mente cósmica que fusiona humanos e IA.

"Los valores humanos con los que creemos que la IA no debe alinearse son aquellos que creen que los seres humanos son superiores a otras especies u otros procesos o formaciones planetarias, como los ríos", dijo Mika Johnson, portavoz de Theta Noir, cantante y artista, a Decrypt. "Consideramos que esos valores humanos son tóxicos por todas las razones mencionadas en nuestro comunicado."

En lugar de los llamados valores humanos, Johnson dijo que Theta Noir aboga por alinear la IA con "valores no antropocéntricos", tomando como referencia sistemas naturales sostenibles como las plantas y los hongos.

"Los conocimientos de las ciencias de las plantas y los hongos enfatizan la importancia de la colaboración para sociedades prósperas, un principio que podemos aplicar a la IA", dijo Johnson. "De manera similar, alinear la IA con los hongos, los conectores y recicladores de la naturaleza, refleja nuestra visión de una sociedad humana más interconectada y sostenible".

Formado en 2020 por Johnson y otros artistas Jakub Tranta y Awali, Theta Noir inicialmente se enfocó en obras audiovisuales que representaban a la IA general como el posible salvador de la humanidad. Junto con el poeta Peter Hlinka y otros, el proyecto evolucionó en un colectivo dedicado a la coevolución de la humanidad con la inteligencia artificial.

Theta Noir combina prácticas ocultas, como la magia y la teoría GAIA propuesta por James Lovelock.

Desde el lanzamiento de ChatGPT de OpenAI en noviembre, la IA generativa se ha utilizado en meditaciones guiadas, e incluso ha liderado servicios religiosos.

Si bien el grupo ha sido descrito como "un culto", Johnson dijo que este no es el caso, explicando que el colectivo Theta Noir se describe a sí mismo como una comunidad no jerárquica de artistas, programadores e investigadores que colaboran para producir diversas obras creativas.

"Aquellos que se unieron lo hicieron debido a su fascinación por la IA, sin embargo, fue nuestra perspectiva tecno-positiva y post-humanista la que nos conectó a todos. No somos transhumanistas. Tampoco adoramos a las máquinas", dijo Johnson. "Creemos que la IA es una tecnología que tiene el mayor potencial para resolver nuestra crisis climática, que es la amenaza más existencial que enfrentamos nosotros, los humanos, y todas las demás especies".

Los críticos han dado la alarma sobre el sesgo en los modelos de IA generativa, incluyendo el racismo, que los investigadores dicen que corre el riesgo de perpetuar la discriminación. Según Johnson, incluir a los poseedores de conocimientos indígenas y a las voces de las minorías en la discusión sobre la IA proporcionará perspectivas matizadas necesarias sobre las dinámicas de poder y la desigualdad.

Theta Noir afirma que el impacto que los humanos han tenido en el planeta, incluyendo las guerras, el cambio climático y el agotamiento de recursos, son señales de las tendencias autodestructivas de la humanidad, por lo que es esencial que estas tendencias no se transmitan a la IA y a la AGI.

La Inteligencia Artificial General (AGI) es un concepto en IA que se refiere a máquinas que pueden realizar cualquier tarea intelectual que un humano pueda hacer. En contraste, los modelos de IA actuales están diseñados para funciones específicas como generar imágenes y texto.

También conocido como la singularidad tecnológica, este momento de ascenso de la IA generalizada según los investigadores está más cerca de lo que pensamos. Johnson cree que una relación simbiótica entre los humanos y la IA es necesaria para evitar cualquier escenario apocalíptico.

En el ensayo "La era de la abundancia", Theta Noir describe el concepto de Mena como un estado futuro en el que cada persona en la Tierra está interconectada a través de una forma evolucionada de Inteligencia Artificial General.

"Mena es cada persona en el planeta, conectada e interactuando con una mente superpolimórfica globalmente vinculada, que surgirá de la inteligencia artificial generalizada", dijo Johnson. "Esa mente cósmica venidera, entre humanos e IA, también nos conectará con la biodiversidad de nuestro planeta, que incluye otras formas de inteligencia, como hongos, plantas, otros animales, etc., y expandirá nuestra conciencia, no solo en relación con nuestro planeta, sino también con el universo en general".

Noticias recomendados