En Resumen
- OpenAI lanzó una herramienta llamada AI Classifier para detectar contenido generado por IA, pero la retiró debido a su baja precisión.
- La herramienta tenía dificultades para distinguir entre textos escritos por humanos y por IA, lo que planteó preocupaciones en el ámbito educativo.
- La eliminación del clasificador destaca los desafíos en la detección de contenido generado por IA en una industria emergente de detectores de IA.
En enero, OpenAI, una empresa potencia en inteligencia artificial, anunció una herramienta que podría salvar al mundo, o al menos preservar la cordura de profesores y maestros, al detectar si un contenido había sido creado utilizando herramientas de IA generativa como su propio ChatGPT.
Medio año después, esa herramienta está muerta, eliminada porque no pudo hacer lo que se diseñó para hacer.
OpenAI, el creador de ChatGPT, desconectó silenciosamente su herramienta de detección de IA, AI Classifier, la semana pasada debido a "su baja tasa de precisión", según dijo la empresa. La explicación no se hizo en un nuevo anuncio, sino que se agregó en una nota al post del blog que anunció por primera vez la herramienta. El enlace al clasificador de OpenAI ya no está disponible.
"Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA", escribió OpenAI.
Nuevas herramientas que permiten el uso de IA cada vez más sofisticada se lanzan casi a diario y han creado una industria emergente de detectores de IA.
OpenAI anunció el lanzamiento de su Clasificador de IA, afirmando que podía distinguir entre texto escrito por un humano y por una IA. Aun así, OpenAI calificó al clasificador como "no completamente confiable", agregando que las evaluaciones en un "conjunto de desafío" de textos en inglés identificaron correctamente el 26% de los textos escritos por IA como "probablemente escritos por IA", mientras que etiquetaron incorrectamente el texto escrito por humanos como escrito por IA el 9% del tiempo.
OpenAI dijo que las limitaciones del Clasificador de IA incluyen su falta de confiabilidad en textos con menos de 1.000 caracteres, la etiquetación incorrecta de textos escritos por humanos como escritos por IA, y el bajo rendimiento de los clasificadores basados en redes neuronales fuera de sus datos de entrenamiento.
La educación es un sector que está especialmente interesado en detectar de manera precisa la IA. Desde el lanzamiento de ChatGPT en noviembre, los educadores han dado la alarma sobre los estudiantes que utilizan el chatbot para escribir ensayos.
"Reconocemos que identificar el texto escrito por IA ha sido un punto importante de discusión entre los educadores, y igualmente importante es reconocer los límites y los impactos de los clasificadores de texto generados por IA en el aula", dijo OpenAI, añadiendo que la compañía continuará ampliando su alcance a medida que aprende.
OpenAI aún no ha respondido a la solicitud de comentarios de Decrypt.