방송통신심의위원회에 따르면, 2024년 1~4월 동안 연예인 얼굴을 포르노 영상과 합성한 딥페이크 영상물이 총 4,691건으로 2023년 총 946건 대비 약 400% 급증했다*고 합니다. 실제로 유명 여자 아이돌을 대상으로 성희롱성 딥페이크 콘텐츠가 배포되어 해당 소속사에서는 강력 대응하겠다고 밝혔습니다. 그뿐만 아니라 딥페이크는 유명인 사칭 온라인 피싱 범죄로 연결되기도 합니다. 방송인 송은이, 유명 강사 김미경 등은 자신들의 얼굴 등을 도용하고 광고를 살포해 피해자를 양산했다며 규탄하는 기자회견을 갖기도 했습니다. 연예인이나 유명인의 경우 그간 쌓아온 좋은 이미지를 불법 딥페이크 콘텐츠 하나로 무너뜨릴 수 있는 만큼 업계의 각별한 주의가 필요합니다.
* 출처: 뉴시스 기사 <방심위 “K팝 아이돌 딥페이크 영상물 400% 폭증”>

이러한 현상은 아이러니하게도 기술의 발전에서 기인합니다. 검색 엔진이나 Google Play, AppStore에서 ‘딥페이크’를 검색하면 해당 기술을 이용할 수 있는 애플리케이션 수십 개가 나옵니다. 이러한 서비스를 통해 누구나 쉽게 딥페이크 콘텐츠를 제작할 수 있습니다.

 

 

물론 악의적인 목적 없이 해당 서비스를 이용한다면 하나의 콘텐츠를 다양하고 여러 형태로 재생산할 수 있는 원소스 멀티유즈(One-Source Multi-Use) 전략을 펼칠 수 있습니다. 하지만 불법적인 의도로 딥페이크 영상이 생산되는 경우가 점점 증가하고 있고, 이에 따른 피해도 커지고 있어 적절한 대안이 필요한 시점입니다. 요즘, 딥페이크에 대항하는 기술로 ‘비가시성 워터마크’가 많이 언급되고 있습니다. 

 

비가시성 워터마크란?

디지털 콘텐츠에 시각적으로 인식할 수 없는 워터마크를 삽입하는 기술을 말합니다. 워터마크에는 주로 콘텐츠 구매자의 정보, 유통 경로 등의 정보를 삽입합니다. 해당 콘텐츠를 누군가 불법 복제 및 유출하거나 딥페이크 기술을 통해 조작해 저작권자의 권리를 해치는 경우 워터마크에 삽입된 정보를 바탕으로 경로를 추적해 출처를 밝혀냅니다. 이를 통해 불법을 저지른 사람에게는 법적 조치 등을 취할 수 있습니다.

 

비가시성 워터마크 특징

1. 비가시성(Invisibility)

 

워터마크가 콘텐츠의 품질에 영향을 주지 않으면서 눈에 보이지 않아야 합니다. 이를 통해 사용자는 워터마크의 존재를 인식하지 못하고, 동시에 저작권자는 문제 해결을 위해 필요한 정보를 콘텐츠 내 포함시켜 권리를 보호할 수 있습니다.

 

2. 강인성(Robustness)

불법 복제나 유출 그리고 딥페이크 등 AI 기술을 활용한 콘텐츠 변조는 다양한 형태로 원본을 복제 및 조작하고 압축, 변형합니다. 비가시성 워터마크는 이러한 환경에서도 변형 없이 안정적으로 존재할 수 있게 설계됩니다. 즉 콘텐츠 일부를 자르거나 크기가 조정되고 색상 변형, 노이즈 추가, 파일의 형식이 변환되더라도 강인성 높은 비가시성 워터마크는 유효성을 유지해야 합니다.

 

3. 검출 및 복원(Detectability and Recoverability)

위에 언급한 강인성을 바탕으로 워터마크가 여러 형태의 공격을 받아도 삽입된 정보를 쉽게 검출할 수 있어야 합니다. 또한 워터마크가 일부 손상이나 제거되더라도 원래 정보를 복원할 수 있는 기술을 포함합니다. 이를 통해 콘텐츠 보안성을 높이는 데 도움이 됩니다.

 

비가시성 워터마크와 딥페이크 기술 악용 콘텐츠의 연관성

딥페이크(DeepFake)는 컴퓨터가 스스로 외부의 데이터를 조합 및 분석해 학습하는 기술인 딥러닝(Deep Learning)와 가짜를 의미하는 페이크(Fake)의 합성어입니다. 만약 딥페이크 기술을 활용해 콘텐츠를 제작하고자 한다면 딥러닝을 위해 원본 콘텐츠를 학습시키는 것이 우선입니다. AI 등 기술을 통해 원본 콘텐츠는 다양한 방식으로 변형이 되고 그 결과 실제와 매우 유사한 딥페이크 콘텐츠가 생성되게 됩니다. 특히 사람의 얼굴과 목소리뿐 아니라 행동까지 모방할 수 있어 원본과 조작을 구분하기 쉽지 않습니다.

만약 원본 콘텐츠에 비가시성 워터마크를 삽입해 두었다면, 해당 콘텐츠가 원본인지 딥페이크를 통해 만들어진 가짜인지 진위 여부를 바로 확인할 수 있다. 나아가 문제가 되는 콘텐츠의 출처가 어디인지 추적이 가능합니다. 아무리 원본 콘텐츠를 복제, 조작, 압축, 변형해도 강인한 워터마크 내 정보는 훼손되지 않기 때문입니다. 즉시 정보를 검출하여 문제에 대응할 수 있습니다. 또한 각국 정부에서도 딥페이크 악용과 관련해 법적 규제의 움직임도 진행되고 있습니다. 방송통신심의위원회는 딥페이크 규제 방안을 모색하고 있으며, 영국도 딥페이크로 음란물을 만들기만 해도 공유, 유포 여부와 상관없이 처벌하는 법안을 추진 중에 있습니다. 비가시성 워터마크와 같은 기술과 법적 조치가 함께 이뤄진다면 범죄를 근절하는데 큰 시너지가 있을 것으로 보입니다.

 

비가시성 워터마크가 필요한 업계 및 분야

딥페이크 기술을 악용하는 사례를 살펴보면, 특정 인물을 타깃으로 불순한 영상과 이미지를 만들거나 가짜 뉴스의 수단과 근거로 제작하는데 기술을 활용합니다. 그렇기에 아래와 같은 업계 및 분야에서는 비가시성 워터마크의 중요성이 강조됩니다.

 

1. 미디어 및 엔터테인먼트 산업

연예인은 딥페이크 범죄에서 자주 타깃이 되는 대상입니다. 이미지가 매우 중요한 업종이므로 항상 딥페이크 범죄에 주의를 귀울여야 합니다.  비가시성 워터마크는 딥페이크 콘텐츠의 출처를 추적해 이미지 손상 예방 및 방지가 가능합니다. 더불어 영화, 드라마, 음악 등 콘텐츠는 디지털로 배포되면서 불법 복제 유출 위험에 노출돼 있습니다. 비가시성 워터마크를 통해 불법 유출 발생 시 추적하여 저작권 또한 보호할 수 있습니다.

※ 같이 읽으면 좋은 포스팅: 엔터테인먼트, 콘텐츠 업계 담당자라면 알아야 하는 저작권 침해 예방 및 대응 기술(클릭)

 

2. 교육 업계

온라인 강의는 이제 일반적인 강의의 형태로 자리잡고 있습니다. 온라인 특성상 디지털 형식으로 강의를 제공하기에 이 또한 딥페이크 기술 악용의 대상이 될 수 있습니다. 교육 내용을 변조해 잘못된 정보를 유포하는 등 부정적인 결과를 낳을 수 있습니다. 이 경우 강의를 소비하는 이들의 신뢰감을 하락시킬 수밖에 없습니다. 위험에 사전에 예방하기 위해서는 비가시성 워터마크 기술 활용을 고려해야 합니다.

 

3. 뉴스 및 언론사

딥페이크를 통해 만든 허위 콘텐츠가 가짜 뉴스의 시발점이 되는 만큼 언론계도 이를 경계해야 합니다. 뉴스 영상 등에 비가시성 워터마크를 삽입해 허위 정보 및 가짜 뉴스가 발생하는 것을 방지할 수 있습니다. 비가시성 워터마크는 언론의 신뢰성을 유지하기 위해 중요한 역할을 합니다. 

 

딥페이크 범죄 대응을 위한 필수 기술, 비가시성 워터마크

딥페이크로 인한 피해는 연예인과 유명인 뿐만 아니라 영상을 취미로 제작하는 유튜버 등도 피할 수 없는 상황이 되고 있습니다. 이러한 위협에 효과적으로 대응하기 위해 비가시성 워터마크 기술 적용을 고려해야 합니다. 비가시성 워터마크는 콘텐츠의 출처를 식별하고, 불법 복제 및 변조를 방지하는 강력한 도구로 작용합니다. 딥페이크 기술의 접근이 매우 쉬운 만큼 비가시성 워터마크도 누구나 쉽게 적용할 수 있어야 합니다.

그러기 위해 우선 비가시성 워터마크 솔루션은 누구나 필요할 때 구독하여 사용할 수 있는 SaaS(Software as a Service)형을 채택하는 게 좋습니다. 사용자가 보안 기술 지식 없이도 쉽게 비가시성 워터마크를 삽입하고, 필요할 때 포렌식 워터마킹 기술을 통해 문제의 출처를 신속하게 파악할 수 있도록 지원합니다. 그리고 사용한 만큼만 비용을 지불하는 합리적인 요금제로 부담을 줄일 수 있습니다. 

팰리컨(PallyCon)의 비가시성 워터마크는 SaaS 형태로 제공합니다. 딥페이크 범죄에 대한 효과적인 예방과 대응 방법으로 비가시성 워터마크를 검토하고 있다면, 30일 무료 체험을 통해 직접 체험하거나 콘텐츠 보안 전문가와 상담을 통해 도입을 구체화해 보세요!