최근 딥페이크(Deepfake) 관련 범죄가 급증하며 사회적 물의를 일으키고 있는 가운데, 2024년 9월 5일 법무부는 이러한 문제에 대응하기 위해 딥페이크 탐지 및 분석 기술을 강화하고자 12억 원의 추가 예산을 배정하기로 했다고 밝혔습니다. 그렇다면 딥페이크란 무엇이며, 왜 이러한 문제들이 발생하게 된 것일까요?
○ 딥페이크 기술의 시작
딥페이크 기술은 인공지능을 활용해 가짜 영상이나 음성을 만들어내는 기술로, 처음에는 엔터테인먼트와 연구 목적 등 긍정적인 용도로 개발되었습니다. 이 기술의 기초는 2014년 이안 굿펠로우(Ian Goodfellow)가 제안한 생성적 적대 신경망(Generative Adversarial Networks, GANs)에서 시작되었습니다. GANs는 두 개의 신경망을 서로 경쟁시키면서 더욱 정교한 데이터를 생성하는 기술로, 딥페이크의 기본 원리를 제공합니다.
딥페이크 기술은 초기에는 연구와 창작의 도구로 긍정적으로 사용되었습니다. 예를 들어, 엔터테인먼트 업계에서는 영화나 TV 프로그램 제작 시 배우들의 젊은 시절 모습을 재현하거나, 사망한 배우를 다시 등장시키는 데 활용되었습니다. 이를 통해 관객들은 과거의 유명 배우들과의 재회나 역사적인 순간을 현대의 영상 기술로 다시 경험할 수 있습니다. 또한, 교육 분야에서는 역사적 인물의 모습을 재현하여 인터랙티브한 학습 도구로 사용되기도 합니다. 이러한 긍정적인 사용 사례는 딥페이크 기술이 단순히 부정적인 용도로만 사용되는 것이 아님을 보여줍니다.
○ DEEPFAKE와 범죄
딥페이크라는 용어는 2017년, 레딧(Reddit)의 한 사용자가 인공지능 알고리즘을 이용해 유명인의 얼굴을 음란물에 합성한 영상들을 공유하면서 널리 알려졌습니다. 이 사용자는 "딥페이크"라는 이름으로 활동했으며, 이후 딥페이크 기술은 주로 이러한 방식으로 악용되기 시작했습니다.
2024년에도 딥페이크 기술의 발전은 빠르게 진행되고 있으며, 이에 따른 범죄도 계속해서 증가하고 있습니다. 한국에서 딥페이크 범죄는 주로 음란물 제작 및 배포, 명예훼손, 사기 및 협박 등의 형태로 나타나고 있습니다. 2024년 상반기, 한국 경찰청은 딥페이크 기술을 이용한 불법 음란물 제작 및 배포가 전년 대비 30% 증가했다고 보고했습니다. 특히 연예인과 같은 유명인의 얼굴을 합성한 음란물이 주요 대상이 되고 있으며, 이러한 영상은 소셜 미디어와 메신저 앱을 통해 빠르게 확산되고 있습니다. 또한, 일반인의 얼굴을 합성하여 개인을 협박하거나 금전을 요구하는 사기 사건도 늘어나고 있어 심각한 사회적 문제로 대두되고 있습니다.
딥페이크 범죄는 여러 가지 측면에서 심각한 문제를 야기합니다. 사생활 침해와 명예훼손은 물론, 딥페이크 기술로 만들어진 음란물이나 가짜 뉴스는 개인의 명예를 심각하게 훼손하며, 이는 개인의 삶에 막대한 영향을 미칠 수 있습니다. 또한, 기술의 남용에 따른 법적 대응의 어려움도 존재합니다. 딥페이크 기술은 시간이 지남에 따라 더욱 정교해지고 있으며, 이를 법적으로 규제하고 적발하는 것은 쉽지 않은 과제입니다.
○ 딥페이크 범죄에 대한 기술적 대응
딥페이크 기술의 악용을 방지하기 위해 다음과 같은 구체적인 기술들이 필요합니다:
1. 딥페이크 탐지 기술 개발
AI 기반의 딥러닝과 머신러닝 알고리즘을 활용한 딥페이크 탐지 기술은 가짜 영상을 자동으로 식별할 수 있습니다. 이러한 기술은 영상의 미세한 변형, 픽셀의 비정상적 패턴, 얼굴의 비현실적인 움직임 등을 분석하여 딥페이크 여부를 판단합니다. 특히, CNN(Convolutional Neural Networks)과 같은 심층 신경망이 영상의 특징을 학습하여 높은 정확도로 가짜 영상을 탐지할 수 있습니다.
디지털 포렌식 도구는 영상의 메타데이터, 압축된 이미지 데이터의 특성, 픽셀 수준에서의 비일관성을 분석하여 딥페이크를 식별하는 데 사용됩니다. 이러한 도구는 특히 수사기관에서 증거로 사용될 영상을 검증하는 데 필수적입니다.
2. 블록체인 기술 활용
블록체인 기술을 활용하여 영상이나 이미지의 출처와 변조 여부를 추적할 수 있습니다. 원본 콘텐츠의 해시 값을 블록체인에 기록해 두면, 이후 이 콘텐츠가 수정되거나 변조되었을 때 이를 쉽게 확인할 수 있습니다. 이러한 접근 방식은 특히 뉴스 미디어나 공공 기관에서 제공하는 영상의 신뢰성을 높이는 데 기여할 수 있습니다.
3. 실시간 모니터링 시스템 구축
소셜 미디어, 동영상 공유 사이트와 같은 온라인 플랫폼과 협력하여 딥페이크 콘텐츠를 실시간 모니터링하고, 빠르게 차단할 수 있는 시스템을 구축하는 것이 필요합니다. 이를 위해 딥페이크 탐지 알고리즘을 플랫폼에 통합하여 사용자 업로드 시 즉각적으로 분석하고, 문제가 될 만한 콘텐츠를 자동으로 필터링할 수 있습니다. 경고 및 알림 시스템을 구축하여 플랫폼에서 딥페이크로 의심되는 콘텐츠가 발견될 경우, 사용자와 관리자에게 경고를 발송하는 시스템을 마련해야 합니다. 이를 통해 사용자는 잠재적인 위험을 인지하고, 관리자는 추가 조치를 취할 수 있게 됩니다.
4. 디지털 워터마킹 기술
디지털 워터마킹은 콘텐츠의 출처를 확인하고 변조 여부를 감지하는 데 사용될 수 있는 또 다른 기술입니다. 워터마크는 영상이나 이미지에 보이지 않는 형태로 삽입되어, 콘텐츠가 변조되었을 때 이를 확인하는 데 도움을 줍니다. 특히, 미디어 기관이나 공공 기관에서 공식적으로 제공하는 영상에 이러한 워터마킹 기술을 적용하면, 콘텐츠의 진위를 신속하게 검증할 수 있어 딥페이크와 같은 변조 콘텐츠로 인한 피해를 줄일 수 있습니다.
5. 보안 기술의 통합
딥페이크 범죄에 대응하기 위해 보안 기술을 통합하는 것도 중요한 전략입니다. 기존의 안티바이러스 및 사이버 보안 소프트웨어에 딥페이크 탐지 기능을 추가함으로써, 사용자가 다운로드하거나 열어보는 모든 영상 파일을 자동으로 검사하고, 딥페이크 가능성이 있는 파일을 차단할 수 있습니다. 이러한 소프트웨어는 사용자에게 파일의 안전성에 대한 경고를 제공하여, 의심스러운 파일을 열지 않도록 예방할 수 있습니다.
또한, 클라우드 보안 솔루션을 강화하여 딥페이크 콘텐츠의 전파를 차단할 필요가 있습니다. 많은 온라인 콘텐츠가 클라우드 서버에 저장되고 전송되기 때문에, 클라우드 기반 보안 솔루션을 통해 데이터 저장 및 전송 시 딥페이크 탐지 알고리즘을 적용하고, 실시간으로 의심스러운 콘텐츠를 차단할 수 있습니다. 이를 통해 대규모 딥페이크 유포를 효과적으로 막을 수 있습니다.
○ 국내 딥페이크 범죄 대응 관련주
최근 한국 증시에서는 전반적인 코스피 하락에도 불구하고, 딥페이크 범죄에 대한 기술적 대응 관련주들이 상승세를 이어가며 주목받고 있습니다. 대표적인 딥페이크 관련주는 다음과 같습니다.
샌즈랩
딥페이크 탐지 기술을 개발하여 주목받고 있는 기업입니다. 최근 '페이스체크'라는 딥페이크 탐지 서비스를 출시한다고 발표했으며, 이 서비스는 인공지능 기술을 활용하여 딥페이크 영상의 진위를 판단하고, 가짜 영상으로부터 개인과 기업을 보호하는 데 중점을 두고 있습니다. 딥페이크 탐지 서비스의 필요성이 커지는 가운데, 샌즈랩의 이러한 기술력은 시장에서 긍정적으로 평가받고 있습니다.
한컴위드
전자상거래의 보안 인프라를 제공하는 기업으로, 디지털 포렌식 사업을 영위하는 한컴지엠디와의 합병을 통해 보안 사업을 확장해 왔습니다. 디지털 포렌식은 사이버 범죄 수사에서 필수적인 기술로, 특히 딥페이크와 같은 최신 범죄에 대한 대응에도 중요한 역할을 합니다. 한컴위드는 이러한 포렌식 기술을 바탕으로 딥페이크 범죄 대응 솔루션을 강화하고 있으며, 이에 따라 투자자들로부터 주목을 받고 있습니다.
모니터랩
AI 기술을 활용하여 웹 공격을 자동으로 탐지하는 웹 방화벽 솔루션을 제공하는 국내 1위 보안 업체입니다. 딥페이크 범죄 대응을 위한 기술력은 물론, 전반적인 사이버 보안 능력을 갖춘 기업으로 평가받고 있습니다. AI를 기반으로 한 탐지 기술은 딥페이크와 같은 신종 디지털 위협에 효과적으로 대응할 수 있어, 모니터랩의 주가 상승세에도 긍정적인 영향을 미치고 있습니다.