En Resumen
- Presidente de la SEC advirtió que las deepfakes generadas mediante IA son un "riesgo real" para los mercados al poder influir en precios.
- Señaló que estafadores están utilizando más deepfakes para engañar a empresas en fraudes financieros.
- Dijo que la SEC ya emplea la tecnología de IA para la vigilancia de mercado. Solicitó más presupuesto para fortalecer las herramientas tecnológicas.
La inteligencia artificial y los deepfakes representan un "riesgo real para los mercados", advirtió el principal regulador de Wall Street.
Al testificar ante el Comité de Banca del Senado el martes, el presidente de la Comisión de Bolsa y Valores (SEC) de Estados Unidos, Gary Gensler, dijo que las nuevas tecnologías podrían "desafiar" las leyes en los Estados.
El regulador dijo que se difundió un deepfake de él mismo en el verano por alguien "tratando de influir en los precios del mercado de valores o de las criptomonedas de una forma u otra".
"Creo que tenemos buenas leyes, pero estas nuevas tecnologías desafiarán estas leyes", dijo. "Si estás utilizando IA y estás haciendo deepfakes en el mercado, eso es un riesgo real para los mercados", continuó, agregando que "el fraude es fraude".
Los deepfakes son imágenes, videos y audios generados mediante IA para engañar a las personas. Los estafadores están utilizando cada vez más la tecnología para engañar personas publicando contenido falso pero muy convincente.
El mes pasado, la firma global de contabilidad KPMG dijo en un informe que los estafadores están cada vez más enfocados en el sector empresarial con deepfakes, citando un ejemplo de 2020, cuando un gerente de sucursal transfirió $35 millones a estafadores después de creer que era su jefe quien le hacía la solicitud de transferencia por teléfono.
Sin embargo, la IA también tiene un papel que desempeñar en el otro lado. Gensler agregó en su testimonio que la SEC ya utiliza la IA para llevar a cabo la vigilancia del mercado.
"Ya utilizamos [la IA] en algunas acciones de vigilancia del mercado y de cumplimiento para buscar patrones en el mercado", dijo, agregando que la SEC había solicitado al Congreso más dinero "para ayudar a fortalecer nuestro presupuesto tecnológico" y seguir utilizando estas herramientas.
La SEC está desarrollando actualmente reglas para regular el uso de la IA en plataformas de negociación debido al riesgo de conflictos de interés, dijo Gensler en julio.