[그것이 알고싶다] 인공지능 기술 ‘딥페이크’, 치명적 위험을 경고한다-가짜와의 전쟁

오늘밤 ‘그것이 알고싶다’에서는 AI 기술 ‘딥페이크’가 성범죄 동영상에 악용되는 범죄 실태를 다룬다.

인공지능 기술 ‘딥 러닝’에서 나온 ‘딥페이크’가 가짜 성착취 동영상으로 변모해 사회적 문제가 되고 있다.

아이돌 그룹이 주 피해 대상이었지만, 이제 연예인에서 일반인을 대상으로 ‘딥페이크 범죄의 피해’가 늘고 있다.

오늘밤, ‘그것이 알고싶다’에서는 가짜와의 전쟁 ‘딥페이크 범죄의 피해’를 고발하고 피해를 막을 방법을 함께 고민해본다.
 

# 가짜 동영상을 만들어내는 기술 ‘딥페이크(Deepfake)’ 
 

어느 날 SNS 메시지를 통해 낯선 이에게서 자신의 성관계 영상을 받았다는 A 씨. 분명 직접 촬영한 영상도 아니었고, 실제 있었던 일도 아니었지만, 영상 속 인물은 자신의 얼굴과 똑 닮아있었다.
 

“여자의 나체가 이렇게 보이는 그 영상 한 11초짜리 그게(메시지) 왔는데.
이거 본인 맞죠? 이러는 거예요.“
 

-‘딥페이크’ 피해 제보자 A-

 

기억에도 전혀 없고, 있을 수도 없는 일... 영상 속의 ‘나’는 진짜 나를 보듯 표정과 움직임까지 자연스러웠다고... 놀란 마음을 가라앉히고 영상을 자세히 보기 시작한 그녀는 이 영상이 본인의 얼굴 사진과 다른 사람의 몸을 합성해 만든 가짜 동영상인 것 같았다.

세상에 얼굴이 알려진 연예인이나 공인도 아닌, 평범한 사람으로 지내온 자신이 어떻게 본인도 모르는 사이 성 착취 동영상의 주인공이 된 것인지 알 수 없다는 A 씨. 문제는 이런 메시지를 받은 사람이 A씨만이 아니라는 것이다.

인공지능의 한 분야인 딥러닝(Deep learning)을 활용해, 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술 ‘딥페이크(Deepfake)’.

최근 세계적인 인기를 얻고 있는 K-POP 연예인들의 얼굴을 이용한 딥페이크 영상물이 만들어지고 있어 이슈가 되고 있다. 대부분 성 착취 동영상의 형태로 악용되고 있어 사회적으로 큰 파장이 일고 있다.

‘그것이 알고싶다’ 제작진이 만난 제보자들 역시 이 딥페이크 기술에 자신들의 사진을 이용당한 피해자였다. 유명 연예인을 넘어 일반인에게까지 뻗치고 있는 딥페이크 범죄의 피해는 어느 정도일까?
 

# 인공지능 ‘딥페이크’, 의심하고 있습니까? 
 

IT 산업은 물론 엔터테인먼트 산업까지 다양한 분야에 쓰이고 있는 인공지능 기술. 그 중의 하나인 ‘딥페이크’는 이미 사망한 사람의 얼굴을 재현해 가족들을 위로하기도 하고, 과거의 추억을 소환해 새로운 감동을 만들어 내기도 한다.

신원 보호가 필요한 사람들을 위한 안전장치도 될 수 있는 등, 제대로만 쓰인다면 긍정적인 부분이 많은 기술이다. 그리고 앞으로 더 발전해, 실제와 거의 차이가 없는 정교한 동영상 제작도 가능할 것으로 보인다.

이 기술이 바꾸어 놓을 미래의 풍경은 어떤 모습일까? 이제는 보이는 것을 보이는 대로 믿을 수 없는, 가짜와 진짜를 구분하기 어려운 세상이 올 수 있다.

전문가들은 인공지능 기술, ‘딥페이크’가 성착취 동영상 제작의 사례처럼 범죄에 악용될 경우, 치명적인 사회적 위험을 발생시킬 수 있다고 경고한다.
 

# ‘딥페이크’ 치명적 위험을 경고한다 
 

‘그것이 알고싶다’ 제작진은 ‘딥페이크’ 기술을 이용해 성 착취 동영상과 같은 불법 영상을 제작, 판매하고 있는 사람들을 추적해 만날 수 있었다.

과연 그들은 누구이며, 무슨 이유로 딥페이크 영상을 만드는 것일까?

‘그것이 알고싶다’ 제작진은 전문가들의 자문을 받아 ‘딥페이크’ 기술을 이용한 범죄 실험을 진행했다.

대상은 부모와 자녀. 만약 당신이라면 그 영상을 보고 어떤 행동을 보였을까? 또 자녀의 ‘딥페이크’ 영상을 받아본 부모님들은 과연 어떤 반응을 보였을까.

쉽게 비유해 ‘나’를 유명한 영화의 주인공이 되게 만들 수도 있고, 반대로 불법 성 착취 동영상의 주인공이 되게 만들기도 하는 양날의 검, ‘딥페이크’.

우리 현실에 성큼 다가온 이 ‘딥페이크’는 과연 천사의 기술이 될 것인가 악마의 기술이 될 것인가.

오늘밤 11시 10분 SBS '그것이 알고싶다'에서는 인공지능의 발전으로 나타난 ‘딥페이크’ 기술의 현주소를 살펴본다.

‘딥페이크’가 온전히 ‘사람을 위한’ 기술이 되게 하려면 우리는 무엇을 준비해야 하는가. 오늘밤 '그것이 알고싶다'에서는 이 기술을 악용한 범죄를 분석하고 그 예방책을 살펴본다.


[Queen 박소이기자] 사진 SBS '그것이 알고싶다'