Amazon Aclara Uso de Conversaciones de Clientes Para Entrenar su IA

Por Jason Nelson

En medio de una creciente rivalidad en la carrera de la IA, el gigante del comercio electrónico Amazon está intensificando su incursión en la inteligencia artificial. Pero recientemente se ha puesto en tela de juicio la cantidad de datos de los clientes que se utilizan para construir su propio modelo de lenguaje grande o Large Language Model (LLM).

En un evento en vivo la semana pasada, la compañía anunció que la tecnología de IA generativa llegaría a Alexa y a los dispositivos inteligentes de Amazon. Desde entonces, una entrevista en Bloomberg TV ha generado preocupación sobre qué datos está utilizando la compañía para entrenar la IA de Alexa.

Un informe de NBC News el martes sugirió que el uso de conversaciones de usuarios como datos de entrenamiento era una práctica o revelación nueva, una caracterización que un portavoz de Amazon refutó a Decrypt.

La controversia se desató después de que David Limp, Vicepresidente Senior de Dispositivos y Servicios de Amazon, apareciera en un segmento de preguntas y respuestas en Bloomberg TV.

Según se informa, Limp dijo que "los usuarios ofrecerían voluntariamente sus datos de voz y conversaciones para fines de entrenamiento del LLM de Amazon" después de aceptar usar una versión más "personalizada" de Alexa.

Pero un portavoz de Amazon le dijo a Decrypt que el informe de NBC sacó los comentarios de Limp de contexto.

"[Amazon] siempre ha creído que entrenar a Alexa con solicitudes del mundo real es esencial para ofrecer a los clientes una experiencia precisa, personalizada y en constante mejora", dijo el portavoz. "Pero al mismo tiempo, damos a los clientes control sobre si se utilizan sus grabaciones de voz de Alexa para mejorar el servicio, y siempre respetamos las preferencias de nuestros clientes cuando entrenamos nuestros modelos".

Amazon dijo que una próxima actualización de Alexa mejorada con IA introducirá interacciones de voz más naturales, incluyendo noticias en tiempo real y funciones inteligentes para el hogar. Una vez activadas, los usuarios de Echo en Estados Unidos podrán probar las nuevas funciones de IA diciendo: "Alexa, vamos a charlar", y el anillo de luz azul característico mostrará cuando Alexa está escuchando.

En 2019, Amazon estuvo en el centro de atención cuando surgieron informes señalando que contratistas humanos estaban escuchando grabaciones de comandos de voz de usuarios de Alexa. En ese momento, la compañía dijo que esto se hacía para mejorar los "sistemas de reconocimiento de voz y comprensión del lenguaje natural" y explicó cómo los usuarios podían optar por no participar e incluso revisar y eliminar las grabaciones almacenadas por el sistema.

Desde el lanzamiento de ChatGPT de OpenAI en noviembre, las empresas de tecnología han estado en una carrera armamentista para desarrollar las herramientas de IA generativa más avanzadas y menos costosas para los mercados masivos. El lunes, Amazon anunció una inversión de $4 mil millones en el rival de OpenAI, Anthropic, la compañía detrás de Claude AI.

Los LLM que conforman los sistemas que sustentan la IA generativa se entrenan con grandes conjuntos de datos recopilados de diversas fuentes, incluyendo internet. La semana pasada, el evento de Dispositivos y Servicios de Amazon en 2023 mostró todas las nuevas características de IA que llegarán a Alexa. En la presentación, Amazon dijo que la compañía quiere hacer que Alexa sea más personalizada para cada cliente y está recurriendo a sus modelos internos para entrenar su IA.

Los desarrolladores de IA ahora se enfrentan a un mayor escrutinio en cuanto a las prácticas de entrenamiento, los protocolos de privacidad y la protección de datos para su base de usuarios en constante expansión. La semana pasada, varios autores de renombre se unieron a una demanda colectiva presentada por el Gremio de Autores contra OpenAI, alegando infracción de derechos de autor por alimentar sus obras en el conjunto de datos del chatbot.

El portavoz de Amazon reiteró el compromiso de la empresa con la privacidad del usuario.

"Diseñamos la experiencia de Alexa para proteger la privacidad de los clientes y ponerlos en control de su experiencia", agregó el portavoz en un correo electrónico. "Hoy en día los clientes aún pueden acceder al mismo conjunto robusto de herramientas y controles de privacidad que les permiten controlar su experiencia con Alexa, incluida la capacidad de revisar y eliminar sus grabaciones de voz".

Noticias recomendados