En Resumen
- Google DeepMind lanzó SynthID Detector, una herramienta que identifica contenido generado por IA de Google (texto, imagen, audio y video) mediante marcas de agua invisibles.
- La tecnología ajusta discretamente la probabilidad de palabras al generar texto para insertar estas marcas sin afectar la calidad.
- Aunque es prometedora, SynthID está disponible solo en acceso limitado para periodistas, educadores e investigadores.
Con los deepfakes, desinformación y trampas asistidas por IA extendiéndose en línea y en las aulas, Google DeepMind presentó SynthID Detector el martes. Esta nueva herramienta escanea imágenes, audio, video y texto en busca de marcas de agua invisibles incrustadas por la creciente suite de modelos de IA de Google.
Diseñado para funcionar en múltiples formatos en un solo lugar, SynthID Detector tiene como objetivo brindar una mayor transparencia al identificar contenido generado por IA creado por la IA de Google, incluidas las IA de audio NotebookLM, Lyria, y el generador de imágenes Imagen, y resaltando las porciones con mayor probabilidad de estar marcadas con marca de agua.
"Para el texto, SynthID analiza qué palabras se van a generar a continuación y cambia la probabilidad de opciones de palabras adecuadas que no afectarían la calidad general y la utilidad del texto", dijo Google en una presentación de demostración.
"Si un pasaje contiene más instancias de opciones de palabras preferidas, SynthID detectará que está marcado con agua", agregó.
SynthID ajusta las puntuaciones de probabilidad de las opciones de palabras durante la generación de texto, incrustando una marca de agua invisible que no afecta el significado o la legibilidad de la salida. Esta marca de agua puede ser utilizada posteriormente para identificar contenido producido por la aplicación Gemini de Google o herramientas web.
Google introdujo por primera vez el marcado de agua SynthID en agosto de 2023 como una herramienta para detectar imágenes generadas por IA. Con el lanzamiento de SynthID Detector, Google amplió esta funcionalidad para incluir audio, video y texto.
Actualmente, SynthID Detector está disponible en un lanzamiento limitado y tiene una lista de espera para que periodistas, educadores, diseñadores e investigadores prueben el programa.
A medida que las herramientas de IA generativa se vuelven más comunes, los educadores encuentran cada vez más difícil determinar si el trabajo de un estudiante es original, incluso en tareas destinadas a reflejar experiencias personales.
Usar inteligencia artificial para hacer trampa
Un informe reciente de New York Magazine destacó este creciente problema.
Un profesor de ética en tecnología de la Universidad de Santa Clara asignó un ensayo de reflexión personal, solo para descubrir que un estudiante lo había completado utilizando ChatGPT.
En la Universidad de Arkansas en Little Rock, otro profesor descubrió que los estudiantes dependían de la IA para escribir sus ensayos de introducción al curso y objetivos de clase.
A pesar del aumento de estudiantes que utilizan su modelo de IA para hacer trampa en clase, OpenAI cerró su software de detección de IA en 2023, citando una baja tasa de precisión.
"Reconocemos que identificar texto escrito por IA ha sido un punto importante de discusión entre educadores, e igualmente importante es reconocer los límites e impactos de los clasificadores de texto generados por IA en el aula", dijo OpenAI en ese momento.
hay nuevas herramientas como Cluely, una aplicación diseñada para evadir el software de detección de IA que están complicando el problema del fraude de IA. Desarrollada por el exestudiante de la Universidad de Columbia, Roy Lee, Cluely elude la detección de IA a nivel de escritorio.
Lee recaudó $5,3 millones para desarrollar la aplicación promocionada como una forma de hacer trampas en exámenes y entrevistas.
"Se hizo popular después de que publiqué un video mío usándolo durante una entrevista en Amazon", dijo Lee anteriormente a Decrypt. "Mientras lo usaba, me di cuenta de que la experiencia del usuario era realmente interesante; nadie había explorado esta idea de una superposición de pantalla translúcida que ve tu pantalla, escucha tu audio y actúa como un segundo jugador para tu computadora".
A pesar de la promesa de herramientas como SynthID, muchos métodos actuales de detección de IA siguen siendo poco confiables.
En octubre, una prueba de los principales detectores de IA realizada por Decrypt encontró que solo dos de los cuatro principales detectores de IA: Grammarly, Quillbot, GPTZero y ZeroGPT, podían determinar si los humanos o la IA escribieron la Declaración de Independencia de los EE. UU., respectivamente.
Editado por Sebastian Sinclair