실시간뉴스
[그것이 알고싶다] 인공지능 기술 ‘딥페이크’, 치명적 위험을 경고한다-가짜와의 전쟁
[그것이 알고싶다] 인공지능 기술 ‘딥페이크’, 치명적 위험을 경고한다-가짜와의 전쟁
  • 박소이 기자
  • 승인 2021.02.27 18:00
  • 댓글 0
이 기사를 공유합니다

[그것이 알고싶다] 진짜와 가짜를 구별할 수 없는 세상이 오고 있다
[그것이 알고싶다] 인공지능 기술 ‘딥페이크’, 가짜 성착취 동영상으로! 진짜와 가짜를 구별할 수 없는 세상이 오고 있다

 

오늘밤 ‘그것이 알고싶다’에서는 AI 기술 ‘딥페이크’가 성범죄 동영상에 악용되는 범죄 실태를 다룬다.

인공지능 기술 ‘딥 러닝’에서 나온 ‘딥페이크’가 가짜 성착취 동영상으로 변모해 사회적 문제가 되고 있다.

아이돌 그룹이 주 피해 대상이었지만, 이제 연예인에서 일반인을 대상으로 ‘딥페이크 범죄의 피해’가 늘고 있다.

오늘밤, ‘그것이 알고싶다’에서는 가짜와의 전쟁 ‘딥페이크 범죄의 피해’를 고발하고 피해를 막을 방법을 함께 고민해본다.
 

# 가짜 동영상을 만들어내는 기술 ‘딥페이크(Deepfake)’ 
 

어느 날 SNS 메시지를 통해 낯선 이에게서 자신의 성관계 영상을 받았다는 A 씨. 분명 직접 촬영한 영상도 아니었고, 실제 있었던 일도 아니었지만, 영상 속 인물은 자신의 얼굴과 똑 닮아있었다.
 

“여자의 나체가 이렇게 보이는 그 영상 한 11초짜리 그게(메시지) 왔는데.
이거 본인 맞죠? 이러는 거예요.“
 

-‘딥페이크’ 피해 제보자 A-

 

기억에도 전혀 없고, 있을 수도 없는 일... 영상 속의 ‘나’는 진짜 나를 보듯 표정과 움직임까지 자연스러웠다고... 놀란 마음을 가라앉히고 영상을 자세히 보기 시작한 그녀는 이 영상이 본인의 얼굴 사진과 다른 사람의 몸을 합성해 만든 가짜 동영상인 것 같았다.

세상에 얼굴이 알려진 연예인이나 공인도 아닌, 평범한 사람으로 지내온 자신이 어떻게 본인도 모르는 사이 성 착취 동영상의 주인공이 된 것인지 알 수 없다는 A 씨. 문제는 이런 메시지를 받은 사람이 A씨만이 아니라는 것이다.

인공지능의 한 분야인 딥러닝(Deep learning)을 활용해, 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술 ‘딥페이크(Deepfake)’.

최근 세계적인 인기를 얻고 있는 K-POP 연예인들의 얼굴을 이용한 딥페이크 영상물이 만들어지고 있어 이슈가 되고 있다. 대부분 성 착취 동영상의 형태로 악용되고 있어 사회적으로 큰 파장이 일고 있다.

‘그것이 알고싶다’ 제작진이 만난 제보자들 역시 이 딥페이크 기술에 자신들의 사진을 이용당한 피해자였다. 유명 연예인을 넘어 일반인에게까지 뻗치고 있는 딥페이크 범죄의 피해는 어느 정도일까?
 

# 인공지능 ‘딥페이크’, 의심하고 있습니까? 
 

IT 산업은 물론 엔터테인먼트 산업까지 다양한 분야에 쓰이고 있는 인공지능 기술. 그 중의 하나인 ‘딥페이크’는 이미 사망한 사람의 얼굴을 재현해 가족들을 위로하기도 하고, 과거의 추억을 소환해 새로운 감동을 만들어 내기도 한다.

신원 보호가 필요한 사람들을 위한 안전장치도 될 수 있는 등, 제대로만 쓰인다면 긍정적인 부분이 많은 기술이다. 그리고 앞으로 더 발전해, 실제와 거의 차이가 없는 정교한 동영상 제작도 가능할 것으로 보인다.

이 기술이 바꾸어 놓을 미래의 풍경은 어떤 모습일까? 이제는 보이는 것을 보이는 대로 믿을 수 없는, 가짜와 진짜를 구분하기 어려운 세상이 올 수 있다.

전문가들은 인공지능 기술, ‘딥페이크’가 성착취 동영상 제작의 사례처럼 범죄에 악용될 경우, 치명적인 사회적 위험을 발생시킬 수 있다고 경고한다.
 

[그것이 알고싶다] 보고, 듣고, 의심하라 '가짜와의 전쟁, 딥페이크'
[그것이 알고싶다] 보고, 듣고, 의심하라 '가짜와의 전쟁, 딥페이크'

 

# ‘딥페이크’ 치명적 위험을 경고한다 
 

‘그것이 알고싶다’ 제작진은 ‘딥페이크’ 기술을 이용해 성 착취 동영상과 같은 불법 영상을 제작, 판매하고 있는 사람들을 추적해 만날 수 있었다.

과연 그들은 누구이며, 무슨 이유로 딥페이크 영상을 만드는 것일까?

‘그것이 알고싶다’ 제작진은 전문가들의 자문을 받아 ‘딥페이크’ 기술을 이용한 범죄 실험을 진행했다.

대상은 부모와 자녀. 만약 당신이라면 그 영상을 보고 어떤 행동을 보였을까? 또 자녀의 ‘딥페이크’ 영상을 받아본 부모님들은 과연 어떤 반응을 보였을까.

쉽게 비유해 ‘나’를 유명한 영화의 주인공이 되게 만들 수도 있고, 반대로 불법 성 착취 동영상의 주인공이 되게 만들기도 하는 양날의 검, ‘딥페이크’.

우리 현실에 성큼 다가온 이 ‘딥페이크’는 과연 천사의 기술이 될 것인가 악마의 기술이 될 것인가.

오늘밤 11시 10분 SBS '그것이 알고싶다'에서는 인공지능의 발전으로 나타난 ‘딥페이크’ 기술의 현주소를 살펴본다.

‘딥페이크’가 온전히 ‘사람을 위한’ 기술이 되게 하려면 우리는 무엇을 준비해야 하는가. 오늘밤 '그것이 알고싶다'에서는 이 기술을 악용한 범죄를 분석하고 그 예방책을 살펴본다.


[Queen 박소이기자] 사진 SBS '그것이 알고싶다'


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.