인공 지능(AI)은 흥미로운 도구이며 우리 삶의 여러 측면에 혁신을 가져왔습니다. 하지만 사기범에게는 더 설득력 있는 사기를 벌일 기회를 제공하기도 합니다.
AI는 특정인의 스타일과 말씨로 문자, 이메일, 메시지를 빠르게 생성하는 데 사용될 수 있습니다. 누구의 목소리도 복제할 수 있습니다. 또한 단 몇 분 만에 실제 사람의 가짜 이미지, 오디오 또는 동영상을 만드는 데 사용할 수 있으며, 이를 '딥페이크'라고도 합니다.
여러분이 모르는 사이에 딥페이크를 접했을 수도 있습니다.
2020년에는 영국 텔레비전 채널인 채널 4에서는 전 영국 여왕 엘리자베스 여왕이 크리스마스 메시지를 전하는 가짜 동영상을 제작했습니다. 이 가짜 영상에서 여왕은 논란의 여지가 있는 주제에 대해 이야기하고 심지어 틱톡 댄스 루틴까지 선보였습니다! 이 영상은 채널 4에서 AI가 어떠한 방식으로 믿을 수 있고 실제처럼 보이는 동영상과 음성을 만들어 사람들을 속일 수 있는지에 대해 대중에게 경고하기 위한 것으로 밝혀졌습니다.
2024년 1월, 미국 가수 테일러 스위프트가 르크루제 제품 3000개를 나눠주는 딥페이크 동영상이 온라인에 유포되었습니다. 이 동영상에는 가수의 가짜 오디오와 비디오가 포함되어 있었고, 소비자들은 사기범의 웹사이트로 이동하여 가짜 제품에 대한 배송비를 지불하도록 요청받았습니다.
2024년 2월, 홍콩의 한 다국적 기업 직원은 속아서 화상 회의에 참여했습니다. CFO를 포함한 다른 참가자들은 모두 과거 진짜 온라인 컨퍼런스의 딥페이크 복제품이었습니다. 진짜 동료라고 생각한 직원은 사기범의 지시에 따라 약 3,450만 캐나다 달러를 다른 은행 계좌로 이체했습니다.
전문가들은 AI 기술이 계속 발전함에 따라 딥페이크가 더욱 현실화될 것이라고 예측합니다.
소비자와 기업은 경각심을 가져야 합니다. 무엇이 진짜이고 무엇이 AI에 의해 생성된 것인지 구분하기 어려울 때가 있습니다. 하지만 지식은 AI가 생성한 사기로부터 자신을 보호할 수 있는 최선의 방패라는 점을 명심하세요.
