En Resumen
- Google DeepMind lanzó SynthID Detector, una herramienta que identifica contenido generado por IA de Google (texto, imagen, audio y video) mediante marcas de agua invisibles.
- La tecnología ajusta discretamente la probabilidad de palabras al generar texto para insertar estas marcas sin afectar la calidad.
- Aunque es prometedora, SynthID está disponible solo en acceso limitado para periodistas, educadores e investigadores.
Con los deepfakes, desinformación y trampas asistidas por IA extendiéndose en línea y en las aulas, Google DeepMind presentó SynthID Detector el martes. Esta nueva herramienta escanea imágenes, audio, video y texto en busca de marcas de agua invisibles incrustadas por la creciente suite de modelos de IA de Google.
Diseñado para funcionar en múltiples formatos en un solo lugar, SynthID Detector tiene como objetivo brindar una mayor transparencia al identificar contenido generado por IA creado por la IA de Google, incluidas las IA de audio NotebookLM, Lyria, y el generador de imágenes Imagen, y resaltando las porciones con mayor probabilidad de estar marcadas con marca de agua.
"Para el texto, SynthID analiza qué palabras se van a generar a continuación y cambia la probabilidad de opciones de palabras adecuadas que no afectarían la calidad general y la utilidad del texto", dijo Google en una presentación de demostración.
"Si un pasaje contiene más instancias de opciones de palabras preferidas, SynthID detectará que está marcado con agua", agregó.
Poder Oculto de la IA: Ex CEO de Google Advierte Que la Humanidad Ignora Verdadera Amenaza Estratégica
En una reciente charla TED, el ex CEO de Google Eric Schmidt, argumentó que, mientras la mayoría de las personas se fijan en las habilidades lingüísticas de la IA, están pasando completamente por alto sus capacidades de planificación y estrategia que avanzan rápidamente —capacidades que podrían remodelar la sociedad por completo. "La mayoría de ustedes piensan en la IA —usaré el término general— como ChatGPT", dijo Schmidt durante su charla. "Esto fue hace dos años. Desde entonces, los avances e...
SynthID ajusta las puntuaciones de probabilidad de las opciones de palabras durante la generación de texto, incrustando una marca de agua invisible que no afecta el significado o la legibilidad de la salida. Esta marca de agua puede ser utilizada posteriormente para identificar contenido producido por la aplicación Gemini de Google o herramientas web.
Google introdujo por primera vez el marcado de agua SynthID en agosto de 2023 como una herramienta para detectar imágenes generadas por IA. Con el lanzamiento de SynthID Detector, Google amplió esta funcionalidad para incluir audio, video y texto.
Actualmente, SynthID Detector está disponible en un lanzamiento limitado y tiene una lista de espera para que periodistas, educadores, diseñadores e investigadores prueben el programa.
A medida que las herramientas de IA generativa se vuelven más comunes, los educadores encuentran cada vez más difícil determinar si el trabajo de un estudiante es original, incluso en tareas destinadas a reflejar experiencias personales.
Usar inteligencia artificial para hacer trampa
Un informe reciente de New York Magazine destacó este creciente problema.
Un profesor de ética en tecnología de la Universidad de Santa Clara asignó un ensayo de reflexión personal, solo para descubrir que un estudiante lo había completado utilizando ChatGPT.
En la Universidad de Arkansas en Little Rock, otro profesor descubrió que los estudiantes dependían de la IA para escribir sus ensayos de introducción al curso y objetivos de clase.
A pesar del aumento de estudiantes que utilizan su modelo de IA para hacer trampa en clase, OpenAI cerró su software de detección de IA en 2023, citando una baja tasa de precisión.
"Reconocemos que identificar texto escrito por IA ha sido un punto importante de discusión entre educadores, e igualmente importante es reconocer los límites e impactos de los clasificadores de texto generados por IA en el aula", dijo OpenAI en ese momento.
Visión Futurista de Nvidia: 'Fábricas de IA' Con Millones de Agentes y Robots Trabajando Con Humanos
Durante el evento Computex 2025 celebrado en Taipei esta semana, el CEO de Nvidia, Jensen Huang, presentó una visión más agresiva del futuro de su empresa, enfatizando la necesidad de infraestructura dedicada para la inteligencia artificial y el compromiso de Nvidia de dar al mundo lo que necesita. "La IA se trata ahora de infraestructura, y esta infraestructura, al igual que internet, al igual que la electricidad, necesita fábricas", dijo Huang a la audiencia. "Aplicas energía, y produce algo i...
hay nuevas herramientas como Cluely, una aplicación diseñada para evadir el software de detección de IA que están complicando el problema del fraude de IA. Desarrollada por el exestudiante de la Universidad de Columbia, Roy Lee, Cluely elude la detección de IA a nivel de escritorio.
Lee recaudó $5,3 millones para desarrollar la aplicación promocionada como una forma de hacer trampas en exámenes y entrevistas.
"Se hizo popular después de que publiqué un video mío usándolo durante una entrevista en Amazon", dijo Lee anteriormente a Decrypt. "Mientras lo usaba, me di cuenta de que la experiencia del usuario era realmente interesante; nadie había explorado esta idea de una superposición de pantalla translúcida que ve tu pantalla, escucha tu audio y actúa como un segundo jugador para tu computadora".
A pesar de la promesa de herramientas como SynthID, muchos métodos actuales de detección de IA siguen siendo poco confiables.
En octubre, una prueba de los principales detectores de IA realizada por Decrypt encontró que solo dos de los cuatro principales detectores de IA: Grammarly, Quillbot, GPTZero y ZeroGPT, podían determinar si los humanos o la IA escribieron la Declaración de Independencia de los EE. UU., respectivamente.
Editado por Sebastian Sinclair
