En Resumen
- Grammarly desactivó su función Expert Review tras críticas por imitar las voces de académicos y periodistas reales sin su consentimiento previo.
- La herramienta usaba un modelo de exclusión voluntaria que obligaba a los expertos a solicitar manualmente su remoción, política criticada como inaceptable.
- Superhuman rediseñará la función para que los expertos puedan decidir activamente si desean ser representados y de qué manera.
La popular plataforma de asistencia para escritura Grammarly anunció el miércoles que desactivó su función Expert Review de IA tras el rechazo y las críticas en línea que señalaban que la herramienta utilizaba las identidades y los estilos de varios escritores y editores sin su permiso.
La función Expert Review analiza el texto de un usuario y genera retroalimentación sobre lo escrito desde la perspectiva de académicos, periodistas y otros especialistas. La empresa matriz, Superhuman, señaló el miércoles que está cambiando de rumbo tras el rechazo generalizado.
"Durante la semana pasada, recibimos críticas válidas de expertos preocupados por que el agente representaba incorrectamente sus voces", escribió en LinkedIn el CEO de Superhuman, Shishir Mehrotra. "Este tipo de escrutinio mejora nuestros productos y nos lo tomamos en serio".
Grammarly lanzó la función Expert Review el verano pasado como parte de su expansión hacia agentes de productividad con IA. La herramienta permite a los usuarios seleccionar un experto y recibir retroalimentación generada por IA basada en el trabajo de esa persona. Tras descubrirse que la IA hacía referencia a personas reales, como académicos fallecidos, la función recibió fuertes críticas de académicos y periodistas.
Tras las críticas, Superhuman indicó que desactivó la función Expert Review y la rediseñará para que los expertos puedan controlar si desean ser representados y de qué manera. Antes del cambio, los expertos debían optar por no participar manualmente si no querían ser incluidos, una política que los críticos calificaron de inaceptable.
"No soy abogado, pero creo que 'vamos a seguir usando tu trabajo sin permiso hasta que nos digas que no quieres que lo hagamos' no es exactamente la defensa que Grammarly cree que es, al menos no ante la opinión pública", escribió en Bluesky James Bareham, exdirector creativo de The Verge. "Espero que demanden a esta empresa hasta hacerla desaparecer. Hoy cancelé mi cuenta pro".
Otros, como el autor y editor Benjamin Dreyer, se burlaron de la política de exclusión voluntaria de la empresa en una publicación en respuesta a la función.
"Puede que al final simplemente aproveche su generosísima oferta de exclusión voluntaria, oh gracias, gracias. Pero mientras tanto, si puedo causar a algún abogado corporativo unos momentos de angustia, sentiré que mi arduo trabajo no habrá sido en vano", escribió Dreyer.
En un comunicado compartido con Decrypt, Ailian Gan, directora de gestión de producto para agentes de Grammarly, afirmó que la empresa desactivó la función Expert Review tras recibir comentarios que indicaban que habían "fallado el objetivo".
"A medida que innovamos en la vanguardia de la IA, es importante para nosotros seguir buscando las mejores formas de ayudar a las personas a sentir que tienen agencia sobre la tecnología y que pueden moldearla para satisfacer sus necesidades", escribió Gan. "Gracias por hacernos responsables. Estamos comprometidos a hacerlo bien la próxima vez y seremos transparentes sobre cómo mejoramos a partir de ahora".