TRM Talks: Hany Farid와 함께하는 딥페이크와 인공지능을 이용한 범죄의 부상

사회를 재편하는 AI - 우리가 생활하고 일하는 방식. 그러나 딥페이크부터 자동화된 사기, 대규모 사이버 공격, 아동 착취에 이르기까지 불법적인 활동도 급증하고 있습니다. 이 에피소드에서는 TRM의 글로벌 정책 책임자인 Ari Redbord UC 버클리 교수이자 딥페이크 및 AI 기반 속임수 전문가인 하니 파리드와 함께 범죄자들이 어떻게 인공지능을 악용하여 현실을 조작하고 범죄를 저지르며 글로벌 보안에 도전하고 있는지에 대해 이야기합니다.

하니는 실시간으로 아리를 사칭하는 놀라운 라이브 딥페이크 데모로 에피소드를 시작하며, AI가 생성한 신원이 기업, 정부, 개인을 속이는 데 어떻게 사용될 수 있는지에 대해 엄중하게 경고합니다. 이 대담에서는 딥페이크를 이용해 고객 확인 절차를 우회하고 금융 기관에 침투하는 사기꾼부터 AI를 활용해 허위 정보를 퍼뜨리고 사이버 전쟁을 벌이는 국가 행위자까지, 빠르게 진화하는 이 기술의 광범위한 영향에 대해 살펴보고, 아리(Ari)와 하니가 AI로 인한 범죄의 실제 사례에 대해서도 이야기합니다:

• 은행과 암호화폐 플랫폼을 노리는 합성 신원 사기 및 딥페이크 사기
• AI 기반 피싱 및 소셜 엔지니어링 공격을 사용하는 사이버 범죄자
• 북한의 사이버 범죄 작전에서 AI의 역할
• 딥페이크가 정치 및 국가 안보 위협을 위해 무기화되는 방법
• AI 생성 콘텐츠를 둘러싼 윤리적, 법적 과제

위험에도 불구하고 희망은 있습니다. Ari와 Hany는 이러한 새로운 위협에 대응하기 위한 AI 기반 방어, 규제 프레임워크, 민관 협력의 필요성에 대해 자세히 설명합니다. 이들은 AI를 무기화하는 악의적인 공격자들보다 앞서 나가기 위한 블록체인 인텔리전스 딥페이크 탐지 도구, 사이버 보안 혁신의 중요성에 대해 이야기합니다. 가장 눈길을 끄는 세션 중 하나입니다. TRM Talks 에피소드 중 가장 주목할 만한 에피소드 중 하나입니다. AI와 범죄, 보안의 교차점에 대해 심도 있게 살펴보는 이 시간을 놓치지 마세요.

전체 내용을 들으려면 여기를 클릭하세요. TRM Talks: 하니 파리드와 함께하는 딥페이크와 인공지능을 이용한 범죄의 부상. 새로운 에피소드를 가장 먼저 확인하려면 Spotify에서 TRM Talks 팔로우하세요.

하니 파리드 소개

하니 파리드는 캘리포니아대학교 버클리 캠퍼스에서 전기공학 및 컴퓨터 과학과 정보학부 교수로 재직 중입니다. 또한 생성형 AI의 악성 위협을 방지하는 데 주력하는 사이버 보안 회사인 GetReal Labs의 공동 창립자이자 최고 과학 책임자이기도 합니다.

Hany의 연구는 디지털 포렌식, 법의학, 이미지 분석 및 인간 인식에 중점을 두고 있습니다. 1989년 로체스터 대학교에서 컴퓨터 과학 및 응용수학 학사 학위를, 1997년 펜실베니아 대학교에서 컴퓨터 과학 박사 학위를 받았습니다. MIT에서 2년간 뇌 및 인지과학 박사 후 연구원을 지낸 후 1999년 다트머스 대학 교수로 부임하여 2019년까지 재직했습니다.