El 'Padre de la IA' Deja Google Para Salvarnos de la IA

Por Jose Antonio Lanz

Geoffrey Hinton, un pionero de la inteligencia artificial conocido como uno de los "padres de la IA", renunció a su cargo en Google para poder expresar abiertamente sus preocupaciones sobre cómo la IA podría causar un daño significativo al mundo.

Hinton admitió en una entrevista con el New York Times que ahora se arrepiente en parte de su trabajo de toda la vida. A pesar de los usos beneficiosos de la IA, Hinton teme que la tecnología pueda ser utilizada de manera irresponsable, desencadenando consecuencias no deseadas.

Hinton está preocupado de que la competencia entre gigantes tecnológicos como Google y Microsoft para crear la IA más avanzada resulte en una carrera global que no se detendrá sin alguna forma de regulación mundial. Sin embargo, también fue enfático al señalar que pensaba que Google había actuado de manera responsable en su investigación:

Hinton es conocido por popularizar el desarrollo teórico de redes neuronales en 1986 y por crear una capaz de reconocer imágenes en 2012. Su trabajo fue crucial para el desarrollo de modelos de arte generativo actuales como Stable Diffusion y MidJourney, y sentó las bases para los próximos esfuerzos de OpenAI para hacer que GPT-4 sea capaz de interactuar con imágenes.

Su movimiento potencialmente tardío ha llevado a muchos a compararlo con J. Robert Oppenheimer, un profesor de física acreditado con la creación de la bomba atómica.

Los riesgos de la IA

Uno de los problemas inmediatos que destaca Hinton es la proliferación de imágenes falsas, videos y texto en línea, lo que podría hacer que la verdad sea cada vez más difícil de discernir para la persona promedio. A medida que la IA generativa continúa mejorando, los creadores de contenido falso y manipulativo podrían usar estas herramientas para engañar y confundir a las personas.

Hinton también está preocupado por cómo la inteligencia artificial podría afectar los trabajos en el futuro. Si bien los chatbots como ChatGPT actualmente complementan a los trabajadores humanos, podrían eventualmente reemplazar a aquellos que manejan tareas rutinarias, como asistentes personales, contadores y traductores. Aunque la IA puede aliviar algunos trabajos monótonos, también podría eliminar más trabajos de lo previsto, perturbando el equilibrio social.

A largo plazo, Hinton teme que las futuras versiones de la tecnología representen una amenaza para la humanidad debido al comportamiento inesperado que pueden aprender de los grandes volúmenes de datos que analizan. Esto se convierte en un problema cuando se permite que los sistemas de IA generen y ejecuten su propio código.

Esta visión a largo plazo también adquirió una relevancia particular cuando otras figuras clave en el campo de la IA comenzaron a advertir sobre la posibilidad de un escenario "foom", en el que la IA supera con creces la inteligencia humana y el impacto que podría tener en el desarrollo social.

Hinton es solo uno de los miles de líderes tecnológicos e investigadores alarmados por el avance exponencial de los desarrollos de IA para varios campos (desde chats eróticos hasta diagnósticos médicos). El mes pasado, una carta abierta ganó popularidad en la que los líderes pidieron una pausa en el desarrollo de la IA hasta que se establezcan controles adecuados. Hinton no la firmó.

La evolución de la posición de Hinton sobre la IA refleja una creciente conciencia de los riesgos y desafíos asociados con la tecnología en rápida evolución. Para Hinton, renunciar a su trabajo de toda la vida fue importante para evitar un escenario que, según él, parece estar cada vez más cerca.

"Mira cómo era hace cinco años y cómo es ahora", dijo a The New York Times. "Toma la diferencia y propágala hacia adelante. Eso es aterrador".

Noticias recomendados