TRM Talks: Deepfakes et la montée de la criminalité basée sur l'IA avec Hany Farid

L'IA remodèle la société - la façon dont nous vivons et travaillons. Cependant, elle stimule également les activités illicites, des deepfakes à la fraude automatisée, en passant par les cyberattaques à grande échelle et l'exploitation des enfants. Dans cet épisode, Ari Redbord, responsable mondial des politiques de TRM, s'entretient avec Hany Farid, professeur à l'université de Berkeley et grand spécialiste des "deepfakes" et de la tromperie par l'IA, pour expliquer comment les criminels exploitent l'intelligence artificielle pour manipuler la réalité, commettre des délits et mettre en péril la sécurité mondiale.

Hany démarre l'épisode avec une démonstration époustouflante de deepfake en direct, usurpant l'identité d'Ari en temps réel - un avertissement sévère sur la façon dont les identités générées par l'IA peuvent être utilisées pour tromper les entreprises, les gouvernements et les individus. Des fraudeurs qui utilisent les deepfakes pour contourner le KYC et infiltrer les institutions financières, aux acteurs étatiques qui utilisent l'IA pour diffuser de la désinformation et mener une cyberguerre, la conversation explore les implications profondes de cette technologie en évolution rapide.Ari et Hany discutent également d'exemples concrets de criminalité induite par l'IA, notamment :

• Fraude à l'identité synthétique et escroqueries deepfake ciblant les banques et les plateformes de crypto-monnaies.
• Les cybercriminels utilisent des attaques d'hameçonnage et d'ingénierie sociale alimentées par l'IA
• Le rôle de l'IA dans les opérations de cybercriminalité de la Corée du Nord
• Comment les "deepfakes" pourraient être utilisés comme arme pour des menaces politiques et de sécurité nationale
• Les défis éthiques et juridiques liés aux contenus générés par l'IA

Malgré les risques, il y a de l'espoir. Ari et Hany plongent dans le besoin critique de défenses alimentées par l'IA, de cadres réglementaires et de collaboration public-privé pour lutter contre ces menaces émergentes. Ils discutent de l'importance de l'blockchain intelligence, des outils de détection de deepfake et des innovations en matière de cybersécurité pour garder une longueur d'avance sur les mauvais acteurs qui utilisent l'IA à des fins militaires. Il s'agit de l'une des discussions les plus révélatrices de l'histoire de l'IA. TRM Talks à ce jour - ne manquez pas cette plongée dans l'intersection de l'IA, du crime et de la sécurité.

Cliquez ici pour écouter l'intégralité des TRM Talks: Deepfakes et la montée du crime basé sur l'IA avec Hany Farid,. Suivez TRM TRM Talks sur Spotify pour être le premier à connaître les nouveaux épisodes.

À propos de Hany Farid

Hany Farid est professeur à l'université de Californie, Berkeley, où il est nommé conjointement au département d'ingénierie électrique et d'informatique et à l'école d'information. Il est également cofondateur et directeur scientifique de GetReal Labs, une société de cybersécurité qui se consacre à la prévention des menaces malveillantes par l'IA générative.

Les recherches de Hany sont axées sur la criminalistique numérique, la criminalistique, l'analyse d'images et la perception humaine. Il a obtenu son diplôme de premier cycle en informatique et en mathématiques appliquées à l'université de Rochester en 1989, et son doctorat en informatique à l'université de Pennsylvanie en 1997. Après un stage post-doctoral de deux ans en sciences du cerveau et de la cognition au MIT, il a rejoint la faculté du Dartmouth College en 1999, où il est resté jusqu'en 2019.