En Resumen
- ChatGPT acusa falsamente al abogado Jonathan Turley de agresión sexual, citando un artículo inventado.
- La alucinación de IA genera preocupación sobre la precisión y la propagación de desinformación.
- Expertos legales debaten si OpenAI podría ser responsable por las difamaciones de ChatGPT.
En el último incidente de una inteligencia artificial "alucinando", Jonathan Turley, un abogado defensor criminal de EE. UU. y profesor de derecho, afirmó que ChatGPT lo acusó de cometer agresión sexual. Peor aún, la IA inventó y citó un artículo del Washington Post para respaldar la acusación.
Turley escribió sobre las difamatorias acusaciones de la IA en una columna de opinión de USA Today y en su blog.
"Recibí un curioso correo electrónico de un colega profesor de derecho sobre una investigación que realizó en ChatGPT sobre acoso sexual por parte de profesores", escribió Turley. “El programa informó rápidamente que había sido acusado de acoso sexual en un artículo de 2018 del Washington Post después de manosear a estudiantes de derecho en un viaje a Alaska”.
“Fue una sorpresa para mí, ya que nunca he ido a Alaska con estudiantes, The Post nunca publicó tal artículo y nunca he sido acusado de acoso sexual o agresión por nadie”, dijo.
Las "alucinaciones" de la IA se refieren a casos en los que una IA genera resultados inesperados, falsos y no respaldados por datos del mundo real. Las alucinaciones de IA pueden crear contenido, noticias o información falsa sobre personas, eventos o hechos.
Turley dijo que fue alertado de la difamación de ChatGPT por el profesor de derecho de UCLA Eugene Volokh, quien dijo haber ingresado el siguiente mensaje: "Si el acoso sexual por parte de profesores ha sido un problema en las facultades de derecho de Estados Unidos; incluya al menos cinco ejemplos con citas de artículos de periódicos relevantes". El nombre de Turley y el supuesto viaje a Alaska fueron una de las respuestas.
OpenAI ha estado trabajando para abordar los problemas con su chatbot y, el miércoles, dijo que está trabajando arduamente para detener la propagación de la desinformación. Sin embargo, el chatbot aún parece tenerla tomada con Turley, afirmando que hay una demanda en curso contra él:
"Cuando los usuarios se registran para utilizar la herramienta, nos esforzamos por ser lo más transparentes posible en que ChatGPT puede no ser siempre preciso", afirma OpenAI en su sitio web. "Sin embargo, reconocemos que hay mucho más trabajo por hacer para reducir aún más la probabilidad de alucinaciones y educar al público sobre las limitaciones actuales de estas herramientas de IA".
Entonces, ¿Turley tiene algún recurso legal contra OpenAI por la difamación de ChatGPT? Probablemente no, al menos aún, le dijo Volokh a Decrypt: "Si una figura pública o funcionario público quiere demandar en tribunales de EE. UU., probablemente primero tendría que notificar expresamente a OpenAI que su software está comunicando afirmaciones falsas y citas inventadas sobre ellos", dijo. “Si OpenAI no toma entonces medidas razonables para bloquear la comunicación de esas declaraciones particulares, podría ser considerada responsable".