미국 재무부, 금융 기관의 AI 사이버 및 사기 위험에 관한 보고서 발표

오늘 미국 재무부는 금융 서비스의 인공지능 관련 사이버 보안 및 사기 위험 현황에 관한 보고서를 발표했습니다 . 이 보고서는 현재 AI 사용 사례, 위협 및 위험 동향, 금융 기관 및 기타 주요 이해관계자를 위한 모범 사례에 대해 심층적으로 다룹니다.

이 보고서는 2023년 10월 30일에 발표된 백악관의 AI 관련 행정명령에 따라 재무부가 금융기관이 AI 관련 사이버 보안 위험을 관리하기 위한 모범 사례에 대한 공개 보고서를 발행하도록 한 데 따른 것입니다.

EO는 구체적으로 다음과 같이 명시했습니다:

"인공지능(AI)은 가능성과 위험성을 모두 지닌 놀라운 잠재력을 가지고 있습니다. 책임감 있는 AI 사용은 긴급한 과제를 해결하는 동시에 세상을 더욱 번영하고 생산적이며 혁신적이고 안전하게 만들 수 있는 잠재력을 가지고 있습니다. 동시에 무책임한 사용은 사기, 차별, 편견, 허위 정보 등 사회적 해악을 악화시키고, 근로자의 일자리를 빼앗고 권한을 박탈하며, 경쟁을 억압하고, 국가 안보에 위험을 초래할 수 있습니다. AI를 선하게 활용하고 무수히 많은 이점을 실현하려면 상당한 위험을 완화해야 합니다. 이를 위해서는 정부, 민간 부문, 학계, 시민사회를 포함한 사회 전반의 노력이 필요합니다."

다음은 보고서의 몇 가지 주요 주제입니다:

‍금융 기관에서 사이버 보안 및 사기 방지를 위해 AI를 효과적으로 사용할 수 있습니다.

보고서에 따르면, 많은 금융 기관에서 직원들의 업무 효율성을 높이기 위해 AI를 연구 및 보고서 작성에 활용하고 있습니다. 일부 기관은 10년 넘게 사기 탐지에 AI를 사용해 왔습니다. 금융 기관은 이미 사이버 침입 및 기타 악의적인 활동을 탐지하는 데 있어 사이버 보안에 AI를 사용하여 "기관의 민첩성을 높이고 있다"고 합니다. 해커에서 국가 행위자에 이르기까지 위협 행위자가 점점 더 정교해짐에 따라 위험을 완화하기 위해 AI 및 기타 기술을 사용하는 것이 더욱 중요해졌습니다.

이 보고서는 특히 "생성형 AI는 사이버 보안 및 사기 탐지 및 예방 조치에 대해 직원과 고객을 교육하거나 내부 정책 문서 및 커뮤니케이션을 분석하여 이러한 조치의 부족한 부분을 파악하고 우선순위를 정하는 데 사용할 수 있습니다."라고 설명합니다.

실제로 최근 머신 러닝의 발전은 불법 활동을 탐지하고, 예방하고, 심지어 예측하는 데 있어 AI의 혁신적 잠재력을 증폭시켰습니다. 이러한 발전은 특히 다음과 같은 블록체인 인텔리전스 도구에서 두드러집니다. TRM Labs 과 같이 머신러닝을 사용해 디지털 자산 지갑을 실제 실체와 연결하는 블록체인 인텔리전스 도구에서 특히 두드러집니다. 

AI는 금융 기관에 새로운 사이버 보안 및 사기 위험을 초래할 수 있습니다.

이 보고서는 기관들이 사기 및 사이버 위험 완화를 위해 AI를 사용하고 있지만, AI가 새롭고 위험한 사이버 및 사기 위험을 초래할 수 있다고 지적합니다. 

이 보고서에 따르면 사이버 보안 위험과 관련하여 금융 기관이 파악한 우려 사항은 대부분 공격자의 진입 장벽을 낮추고 공격의 정교함과 자동화를 높이며 공격 시간을 단축하는 것과 관련이 있습니다. 제너레이티브 AI는 기존 위협 공격자들이 더 정교한 멀웨어를 개발하고 시범 운영할 수 있도록 지원하여, 이전에는 가장 많은 자원을 보유한 공격자들만 사용할 수 있었던 복잡한 공격 기능을 제공할 수 있습니다. 또한 숙련도가 낮은 위협 공격자들이 단순하지만 효과적인 공격을 개발하는 데 도움을 줄 수 있습니다."

재무부에 따르면 위협 행위자들은 AI를 사용하여 소셜 엔지니어링, 멀웨어/코드 생성, 취약점 발견 및 허위 정보 기능을 강화하고 있습니다.

재무부는 사기꾼들이 음성 및 기타 사람의 특징을 더 믿을 수 있는 방식으로 모방하는 더 나은 딥페이크를 만들기 위해 AI에 눈을 돌리고 있다고 주장합니다. 또한 사기범들은 은행, 신용카드, 가상자산 및 기타 금융 계좌를 개설하기 위해 다양한 실제 사람의 개인 정보를 조합하여 가짜 신원을 만드는 합성 신원 생성 능력을 향상시키기 위해 AI를 사용하고 있습니다.

공공 및 민간 부문은 디지털 ID 개발 등을 통해 AI 리스크에 대해 협력해야 합니다.

이 보고서는 AI를 활용하고 사이버 및 사기 위험을 완화하는 데 있어 금융 기관을 위한 여러 모범 사례를 제시하며, 역량 격차 해소, 사기 데이터 격차 축소, AI 및 금융 서비스 분야의 규제 가능성에 초점을 맞추고 있습니다. 

이 보고서는 또한 "금융 기관의 고객 신원 프로세스의 모든 단계에서 허점을 노리는" 사이버 범죄자들을 막기 위해 디지털 신원을 더욱 탐구하고 개선해야 할 필요성을 강조합니다. 이 보고서는 디지털 ID 솔루션이 "금융 기관이 사기 및 내부자 위협에 대처하고 사이버 보안을 강화하는 데 도움이 될 수 있다"고 주장하며 자금 세탁 방지와 테러 자금 조달 방지를 강화하기 위해 디지털 ID를 사용할 수 있다고 지적합니다.

이것이 암호화폐와 어떤 관련이 있을까요?

이 보고서가 디지털 자산 분야에서의 AI 위험과 기회를 구체적으로 다루지는 않지만, 보고서에 설명된 대부분의 모범 사례는 가상자산 서비스 제공업체에 적용됩니다. 실제로 북한과 다른 위협 행위자들이 놀라운 속도와 규모로 암호화폐 생태계를 계속 공격하고 있기 때문에 사이버 방어를 강화하기 위해 AI를 사용하는 것은 매우 중요합니다.

사기와 사기는 암호화폐 생태계의 주류를 이루고 있습니다. 새로운 보고서에 따르면 TRM Labs에 따르면 2023년 암호화폐 생태계에서 125억 달러 상당의 사기 및 사기가 전체 불법 자금의 3분의 1을 차지했습니다. TRM 연구에 따르면 2023년에는 2022년보다 약 15억 달러가 더 많은 금액이 스캠 및 사기 단체에 송금되었으며, 이는 125억 달러에서 139억 달러로 11% 증가한 수치입니다. 이 데이터는 TRM이 스캠 및 사기에 연결된 주소로 송금된 총 자금 규모이며, 이 중 일부는 스캠 수익금 세탁의 일부로 보입니다. 폰지 사기가 약 66억 달러로 사기 및 사기의 가장 큰 부분을 차지했습니다. 

범죄자들이 심리적인 조작을 통해 가짜 투자 사기로 피해자를 속이는 돼지도살 인한 수익은 2022년 47억 달러에서 2023년 44억 달러로 소폭 감소했습니다.

이미 암호화폐 생태계에 대한 사기 및 사기의 위협을 고려할 때, 재무부의 보고서는 악의적인 행위자들이 불법적인 목적으로 AI 및 기타 신흥 기술을 이용할 것이라는 점을 상기시켜주는 중요한 보고서입니다.

그러나 가장 중요한 것은 기술 자체가 선하지도 악하지도 않으며, 엄청난 잠재력과 새로운 위험을 모두 가져올 수 있다는 사실을 상기시키는 것입니다. 백악관은 인공지능에 관한 행정명령에서 "결국 인공지능은 그것을 구축하는 사람, 그것을 사용하는 사람, 그리고 그 기반이 되는 데이터의 원칙을 반영합니다."라고 썼습니다.

재무부의 AI 보고서에 대한 자세한 내용은 다음을 들어보세요. TRM Talks 에서 이 보고서의 주 저자인 미국 재무부 사이버 담당 차관보 겸 최고 AI 책임자 토드 콘클린과 함께 이야기를 나눠보세요.