En Resumen
- Gensler, presidente de la SEC, advirtió sobre el "lavado de IA" en los mercados financieros, comparándolo con el "greenwashing" en prácticas ESG.
- Gensler expresó preocupación por la falsificación de los mercados y el fraude relacionado con la IA, instando a la discusión global entre los reguladores.
- Además, destacó los riesgos de sesgos y conflictos de interés en los datos de entrenamiento de la IA en finanzas, y advirtió sobre la dependencia de conjuntos de datos centralizados.
Gary Gensler, el controvertido presidente de la Comisión de Bolsa y Valores (SEC) de Estados Unidos, advirtió una vez más sobre la inteligencia artificial y cómo su rápido avance podría afectar los mercados financieros.
"No se debe hacer "greenwashing", y no se debe hacer lavado de IA, no sé cómo decirlo de otra manera", dijo Gensler el miércoles, durante el evento "Equilibrando la Innovación y la Regulación" de AI organizado por The Messenger en Washington, D.C.. "Si estás recaudando dinero del público, si estás ofreciendo y vendiendo valores, estás sujeto a las leyes de valores y debes proporcionar una divulgación completa, justa y veraz, y los inversores pueden decidir".
Greenwashing se refiere a hacer afirmaciones exageradas o falsas sobre prácticas ambientales, sociales y de gobernanza, también conocidas como ESG, para hacer que un proyecto sea más atractivo. La SEC ha advertido anteriormente que el greenwashing puede distraer a los inversores sobre los riesgos reales, las recompensas y la fijación de precios de un activo.
Gensler dijo que la emoción en torno a la IA está convirtiendo la tecnología en una distracción similar.
"Nos preocupa la falsificación de los mercados y el fraude en este tema macro, [...] Creo que realmente necesita mucha discusión no solo entre los reguladores financieros aquí, sino en todo el mundo" señaló Gensler.
Aunque la IA generativa puede imitar los patrones de habla y el estilo de escritura de un humano con una complejidad sorprendente, enfatizó que hay un humano detrás de la máquina que debe responder por los delitos financieros cometidos por el chatbot.
"Permítanme decir simplemente que el fraude es fraude, y si hay un humano que está utilizando un modelo que está defraudando al público; ese humano, dependiendo de los hechos, probablemente recibirá noticias nuestras", dijo Gensler. "La inteligencia artificial tal como la conocemos ahora, todavía tiene a los humanos involucrados".
Reconoció, de manera algo bromista, que la participación humana puede que no siempre sea el caso.
"No sé cuándo llegaremos a los días de Sarah Connor", dijo, haciendo referencia al icónico personaje interpretado por Linda Hamilton en la franquicia de películas Terminator. "Pero hay humanos que están implementando ese modelo de IA y estableciendo lo que se llama hiperparámetros, por lo que todavía hay humanos que tienen responsabilidad sobre esa IA".
Gensler se centró en los riesgos de utilizar IA en las finanzas, señalando el potencial de que los desarrolladores incluyan sesgos personales y conflictos de interés en los datos de entrenamiento. Gensler también destacó los peligros de depender de conjuntos de datos uniformes o centralizados, lo que advirtió que podría llevar a la inestabilidad del mercado debido a la falta de diversidad en la toma de decisiones.
"Si gran parte del mercado se basa en un conjunto de datos, en datos hipotecarios, [...] el efecto perjudicial podría llevarnos a caer por un precipicio involuntario", agregó Gensler.
Aunque el número de desarrolladores de IA y las inversiones significativas en el espacio continúan creciendo, Gensler resaltó que eventualmente veremos menos datos fragmentados a medida que el número de modelos de IA se reduzca a tres jugadores dominantes.
"Eso generalmente ocurre al principio de una tecnología", dijo Gensler. "Así que es probable que terminemos, debido a la economía de red, con tres de estas bases o modelos dominantes en los que prácticamente todos los demás confían... es una cadena de suministro de IA".
"Si no lo has pensado, si eres una startup fintech, un banco comunitario, un administrador de activos más pequeño, no puedes construir los grandes modelos, tienes que confiar en el modelo de otra persona", agregó.
En septiembre, Gensler añadió su nombre a la creciente lista de funcionarios gubernamentales preocupados por el impacto adverso de la IA generativa, centrándose específicamente en los deepfakes generados por IA. Al testificar ante el Comité de Banca del Senado, Gensler advirtió que los deepfakes de IA representan un riesgo para los mercados financieros, destacando un caso en el que un deepfake de IA del presidente de la SEC intentó manipular el mercado de valores de Estados Unidos.
"Creo que tenemos buenas leyes, pero estas nuevas tecnologías desafiarán estas leyes", dijo Gensler. "Si estás utilizando IA y estás haciendo deepfakes en el mercado, eso es un riesgo real para los mercados".
Editado por Ryan Ozawa.sd