En Resumen
- Grammarly lanzó Expert Review, función que genera retroalimentación imitando a académicos y periodistas reales, incluyendo figuras ya fallecidas.
- Profesoras universitarias criticaron la herramienta por usar nombres y reputaciones de expertos sin su consentimiento explícito.
- Superhuman, nombre actual de Grammarly, aclaró que las sugerencias se basan en obras públicas citadas y no implican respaldo ni participación directa.
La nueva función de IA de Grammarly que ofrece retroalimentación de escritura desde la perspectiva supuesta de reconocidos "expertos" está generando críticas de académicos que afirman que la herramienta parece "resucitar" a estudiosos para revisar el trabajo de los usuarios.
La función llamada Expert Review, analiza textos y genera retroalimentación enmarcada desde la perspectiva de académicos, periodistas y otros especialistas específicos. Muchos de los expertos que la herramienta de IA dice imitar ya no están vivos, una característica que un historiador medieval en BlueSky calificó de "macabra".
Lanzada en 2009 como una herramienta de escritura y gramática asistida por IA, la empresa matriz de Grammarly cambió su nombre a Superhuman en octubre para reflejar su transición de un único asistente de escritura a un conjunto de agentes de productividad con IA, que incluye herramientas para investigación, programación, correo electrónico y automatización de flujos de trabajo.
Grammarly presentó la función Expert Review el verano pasado. A través de la extensión de navegador de Grammarly, los usuarios que opten por la versión Superhuman Go pueden seleccionar un experto y recibir retroalimentación generada por IA basada en el campo o las obras publicadas de ese académico.
"Nuestro agente Expert Review examina el texto en el que trabaja el usuario, ya sea un brief de marketing o un proyecto estudiantil sobre biodiversidad, y utiliza nuestro LLM subyacente para mostrar contenido experto que puede ayudar al autor del documento a dar forma a su trabajo", señaló un portavoz de Superhuman a Decrypt. "Los expertos sugeridos dependen del contenido del texto que se está evaluando".
El agente Expert Review, explicó el portavoz, no pretende contar con el respaldo ni la participación directa de esos expertos, sino que ofrece "sugerencias inspiradas en las obras de los expertos y orienta a los usuarios hacia voces influyentes cuyo trabajo académico pueden explorar con mayor profundidad".
"Los expertos en Expert Review aparecen porque sus obras publicadas están disponibles públicamente y son ampliamente citadas", afirmó.
Al probar la función para este artículo, entre los revisores expertos sugeridos por la aplicación se encontraban Margaret Sullivan, columnista de medios y ex editora del New York Times; Jack Shafer, ex redactor sénior de medios en Politico; y Lawrence Lessig, profesor de la Facultad de Derecho de Harvard. Entre otras opciones figuraban la investigadora de ética en IA Timnit Gebru y Helen Nissenbaum, profesora de ciencias de la información en Cornell Tech.
Si bien la función busca ayudar a estudiantes y profesionales a mejorar sus habilidades de escritura, Vanessa Heggie, profesora de historia en la Universidad de Birmingham, cuestionó si los "revisores" dieron su consentimiento antes de que la empresa los incluyera en la aplicación.
"No sé por dónde empezar con esto, pero… Grammarly ahora ofrece una 'revisión experta' de tu trabajo por parte de académicos vivos y muertos", escribió Heggie en LinkedIn. "Sí, muertos, sin el permiso explícito de nadie, está creando pequeños LLMs basados en su trabajo extraído y usando sus nombres y reputaciones. Obsceno".
Brielle Harbin, ex profesora asociada de ciencias políticas en la Academia Naval de los Estados Unidos, lo calificó como "un desarrollo extraño y preocupante".
"Decisiones como esta, especialmente cuando se toman sin contexto, consentimiento ni una colaboración significativa con los educadores, corren el riesgo de profundizar el escepticismo hacia las herramientas de IA en la educación superior", escribió en LinkedIn. "Irónicamente, las decisiones destinadas a acelerar la adopción pueden terminar fortaleciendo la resistencia. La confianza y la colaboración importan mucho en este momento".
Grammarly es solo una de las empresas que crean programas de IA diseñados para imitar a personas reales.
En 2023, Meta lanzó una línea de chatbots para su plataforma Meta AI construidos en torno a identidades de celebridades, como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka. Ese mismo año, Khan Academy lanzó su tutor de IA Khanmigo, que permite a los estudiantes simular conversaciones con personajes históricos, entre ellos el Primer Ministro británico Winston Churchill y la espía de la Guerra Civil estadounidense y conductora del Ferrocarril Subterráneo Harriet Tubman.