GLAAD Dice que la IA Está Fallándole a los Usuarios LGBTQ—Y Advierte que el Riesgo Está Creciendo

Por Jason Nelson

La inteligencia artificial está amplificando el sesgo, la desinformación y la discriminación anti-LGBTQ de maneras que pueden afectar desde la atención médica y el empleo hasta la vivienda y la privacidad, según un nuevo informe de la organización de defensa GLAAD.

El informe publicado el miércoles, titulado "Build for Everyone: A Framework for LGBTQ Representation and Safety in AI", argumenta que la seguridad LGBTQ debería tratarse como un requisito central del desarrollo responsable de la IA.

GLAAD advierte que la IA entrenada con datos sesgados o incompletos puede reforzar estereotipos, suprimir las voces LGBTQ, exponer a los usuarios a riesgos de privacidad y producir resultados discriminatorios a medida que la tecnología se integra cada vez más en la vida cotidiana.

"La IA es un tema de derechos civiles," escribió en el informe la presidenta y CEO de GLAAD, Sarah Kate Ellis. "La neutralidad ya no es una opción. Para construir una IA que sea ética, inclusiva y responsable, los líderes tecnológicos deben adoptar de forma proactiva prácticas intencionales para crear productos seguros."

Las áreas de preocupación incluyen datos de entrenamiento sesgados, desinformación anti-LGBTQ, resultados discriminatorios en sistemas de IA predictiva, fallas en la moderación de contenido y riesgos de privacidad, argumentando que los sistemas de IA entrenados con información incompleta o inexacta sobre las personas LGBTQ pueden reforzar estereotipos.

Ellis argumentó que una IA responsable es lo mejor para los negocios y un requisito para blindar a futuro a las empresas de IA. "Más del 20 por ciento de la Generación Z es LGBTQ," escribió. "Estos son sus futuros empleados y consumidores."

Según un estudio de 2023 de la firma de asesoría e inversión LGBT Capital, el poder de compra global de las personas LGBTQ es de $4,7 billones, con esa cifra estimada a alcanzar $33 billones para 2030.

"Para poner esto en perspectiva, si fuéramos un país, seríamos la cuarta economía más grande del mundo," escribió Ellis.

El informe llega en medio de un debate continuo sobre el sesgo en la IA. En mayo, investigadores encontraron que los principales modelos de IA favorecían consistentemente al catolicismo mientras respondían de manera menos favorable hacia los Testigos de Jehová, el ateísmo y el agnosticismo.

A principios de este mes, el exingeniero de xAI Devin Kim demandó a xAI y SpaceX, alegando que fue despedido tras advertir que Grok carecía de garantías adecuadas contra la desinformación y el sesgo. Mientras tanto, la empresa xAI de Elon Musk está librando una batalla legal contra Colorado por una ley estatal que exige a las empresas evaluar y reducir los riesgos de discriminación en los sistemas de IA utilizados para decisiones relacionadas con vivienda, empleo y préstamos.

GLAAD argumenta que las consecuencias se extienden más allá de las conversaciones con chatbots y los generadores de imágenes.

"Si bien no es específico para las personas LGBTQ, también debemos mencionar otros desafíos emergentes a medida que avanza el desarrollo y la adopción de la IA," señaló el estudio. "Estos pueden incluir alucinaciones del modelo o comportamiento sicofántico que genera desinformación, incluso sobre temas relevantes como la salud o las elecciones."

Según el estudio, esas preocupaciones se vuelven más significativas a medida que las empresas impulsan agentes de IA capaces de realizar tareas con supervisión humana limitada. GLAAD advirtió que los agentes autónomos podrían heredar sesgos existentes y automatizar resultados discriminatorios, como excluir a proveedores de atención médica afirmativa LGBTQ de los resultados de búsqueda o hacer suposiciones incorrectas sobre las identidades de los usuarios.

Para evitar que estos riesgos se sigan arraigando en los sistemas de IA, GLAAD pidió a los desarrolladores mejorar la representación LGBTQ en los datos de entrenamiento, fortalecer las protecciones de privacidad, mantener la supervisión humana de los sistemas de moderación y trabajar más estrechamente con organizaciones de defensa. El informe también pide una mayor responsabilidad de la industria y supervisión regulatoria.

"El no tener en cuenta las experiencias y problemáticas LGBTQ en los datos de entrenamiento, el diseño de productos y la gobernanza puede resultar no solo en daño a las comunidades marginadas, sino también en productos inexactos y de menor calidad que pueden socavar la confianza de los usuarios en un grupo demográfico en crecimiento," señaló el estudio.

Noticias recomendados