El Tesoro de EE.UU. publica un informe sobre los riesgos cibernéticos y de fraude de la IA para las entidades financieras

El Departamento del Tesoro de Estados Unidos ha publicado hoy un informe sobre el estado actual de la ciberseguridad relacionada con la inteligencia artificial y los riesgos de fraude en los servicios financieros. El informe profundiza en los casos actuales de uso de la IA, las tendencias de las amenazas y los riesgos, y las mejores prácticas para las instituciones financieras y otras partes interesadas clave.

El informe responde a la Orden Ejecutiva de la Casa Blanca del 30 de octubre de 2023 sobre IA, que encargaba específicamente al Tesoro la emisión de un informe público sobre las mejores prácticas para que las instituciones financieras gestionen los riesgos de ciberseguridad específicos de la IA.

La OE establecía específicamente:

"La inteligencia artificial (IA) encierra un extraordinario potencial, tanto prometedor como peligroso. El uso responsable de la IA puede ayudar a resolver problemas urgentes y hacer que nuestro mundo sea más próspero, productivo, innovador y seguro. Al mismo tiempo, el uso irresponsable podría exacerbar daños sociales como el fraude, la discriminación, los prejuicios y la desinformación; desplazar y restar poder a los trabajadores; ahogar la competencia; y plantear riesgos para la seguridad nacional. Aprovechar la IA para el bien y hacer realidad sus innumerables beneficios exige mitigar sus considerables riesgos. Esta empresa exige un esfuerzo de toda la sociedad que incluya a los gobiernos, el sector privado, el mundo académico y la sociedad civil".

He aquí algunos temas clave del informe:

‍Las entidades financieras pueden utilizar eficazmente la IA para la ciberseguridad y la protección contra el fraude

Según el informe, muchas entidades financieras utilizan la IA para mejorar la eficiencia de sus empleados en la investigación y redacción de informes. Algunas instituciones llevan más de una década utilizando la IA para la detección de fraudes. Las instituciones financieras ya están utilizando la IA para la ciberseguridad "haciendo que las instituciones sean supuestamente más ágiles" a la hora de detectar intrusiones cibernéticas y otras actividades maliciosas. El uso de la IA y otras tecnologías para mitigar los riesgos ha cobrado mayor importancia a raíz de la creciente sofisticación de los actores de las amenazas, desde piratas informáticos a agentes del Estado nación.

El informe explica específicamente: "La IA generativa podría utilizarse para ofrecer oportunidades de educar a empleados y clientes sobre medidas de ciberseguridad y detección y prevención del fraude o para analizar documentos y comunicaciones de política interna con el fin de identificar y priorizar las lagunas en dichas medidas."

De hecho, los recientes avances en el aprendizaje automático han impulsado el potencial transformador de la IA para detectar, prevenir e incluso predecir actividades ilícitas. Estos avances son especialmente notables en herramientas de Inteligencia en Blockchain como TRM Labs que utiliza el aprendizaje automático para asociar carteras de activos digitales a entidades del mundo real. 

La IA puede presentar nuevos riesgos de ciberseguridad y fraude para las entidades financieras

Aunque las entidades están utilizando la IA para mitigar el fraude y el ciberriesgo, el informe señala que la IA presenta nuevos y peligrosos riesgos cibernéticos y de fraude. 

Según el informe, en lo que respecta a los riesgos de ciberseguridad, "las preocupaciones identificadas por las instituciones financieras están relacionadas principalmente con la reducción de la barrera de entrada para los atacantes, el aumento de la sofisticación y la automatización de los ataques, y la disminución del tiempo de explotación. La IA generativa puede ayudar a los actores de amenazas existentes a desarrollar y pilotar malware más sofisticado, proporcionándoles capacidades de ataque complejas que antes sólo estaban al alcance de los actores con más recursos. También puede ayudar a los actores de amenazas menos cualificados a desarrollar ataques sencillos pero eficaces."

Según el Tesoro, los actores de amenazas están utilizando la IA para mejorar la ingeniería social, la generación de malware/código, el descubrimiento de vulnerabilidades y las capacidades de desinformación.

En lo que respecta al fraude, el Tesoro afirma que los estafadores han recurrido a la IA para crear mejores falsificaciones que imitan la voz y otros rasgos humanos de forma más creíble. Además, la IA es utilizada por los estafadores para mejorar la capacidad de crear identidades sintéticas, es decir, la creación de identidades falsas utilizando un compuesto de información personal de varias personas reales con el fin de abrir cuentas bancarias, tarjetas de crédito, criptomonedas y otras cuentas financieras.

Los sectores público y privado deben colaborar en la lucha contra los riesgos de la IA, por ejemplo mediante el desarrollo de la identificación digital.

El informe establece una serie de mejores prácticas para las instituciones financieras en lo que respecta a la utilización de la IA y también a la mitigación de los riesgos cibernéticos y de fraude y se centró en abordar la brecha de capacidad, la reducción de la brecha de datos de fraude y el potencial de regulación en el espacio de la IA y los servicios financieros. 

El informe también destaca la necesidad de seguir explorando y mejorando la identidad digital para frustrar a los ciberdelincuentes que tratan de "explotar las lagunas en todas las etapas de los procesos de identidad de los clientes de las instituciones financieras". El informe afirma que las soluciones de identidad digital "pueden ayudar a las instituciones financieras a combatir el fraude y las amenazas internas y reforzar la ciberseguridad", y señala el uso potencial de la identidad digital para reforzar los programas de lucha contra el blanqueo de capitales y la financiación del terrorismo.

¿Qué tiene esto que ver con las criptomonedas?

Aunque el informe no aborda específicamente el riesgo y las oportunidades de la IA en lo que respecta al espacio de los activos digitales, la mayoría de las mejores prácticas descritas en el informe se aplican a los proveedores de servicios de activos virtuales. De hecho, como Corea del Norte y otros actores de amenazas siguen atacando el ecosistema de criptomonedas a una velocidad y escala alarmantes, el uso de la IA para reforzar las ciberdefensas es fundamental.

El fraude y las estafas también son un pilar del ecosistema criptográfico. Según un nuevo informe de TRM Labslas estafas y el fraude, por valor de 12.500 millones de USD, representaron un tercio de todos los fondos ilícitos en el ecosistema de las criptomonedas en 2023. Alrededor de 1,5 mil millones de USD más se enviaron a entidades de estafa y fraude en 2023 que en 2022 - un aumento del 11% de 12,5 mil millones de USD a 13,9 mil millones de USD, según la investigación de TRM. Los datos comprenden el volumen total de fondos enviados a direcciones vinculadas por TRM a estafas y fraudes; algunos de los fondos parecen formar parte del blanqueo de capitales procedentes de estafas. Los aparentes esquemas Ponzi constituyeron el mayor segmento de estafas y fraudes, con unos 6.600 millones de dólares. 

Los ingresos procedentes de la aparente pig butchering, en la que los delincuentes utilizan la manipulación psicológica para estafar a las víctimas mediante falsos planes de inversión, disminuyeron ligeramente de 4 700 millones de USD en 2022 a 4 400 millones de USD en 2023.

Dada la amenaza que ya suponen el fraude y las estafas para el ecosistema de las criptomonedas, el informe del Tesoro es un importante recordatorio de que los malos actores buscarán la IA y otras tecnologías emergentes con fines ilícitos.

Pero, sobre todo, es un recordatorio de que la tecnología en sí misma no es ni buena ni mala, que puede aportar tanto enormes promesas como nuevos peligros. Como escribe la Casa Blanca en su Orden Ejecutiva sobre IA, "Al final, la IA refleja los principios de las personas que la construyen, de las personas que la utilizan y de los datos sobre los que se construye."

Para más información sobre el informe del Tesoro sobre IA, escuche TRM Talks con el principal autor del informe, el Subsecretario Adjunto del Tesoro para Asuntos Cibernéticos y Director de Inteligencia Artificial Todd Conklin.