본문 바로가기
흥미로운 글

딥페이크의 최대 피해자는 평범한 여성들이다 [Deepfake]

by 카우보이연구소 2020. 12. 30.

 

"가장 위험한 인공지능의 범죄, 딥페이크"

Deepfake, 딥페이크는 "deep learning" 딥러닝과 "fake" 가짜의 혼성어입니다. 그래서, 딥페이크는 인공 지능을 기반으로 한 인간 이미지의 합성 기술을 보통 뜻합니다. 컴퓨터가 합성 대상의 얼굴을 딥러닝하여 (공부해서), 동영상에 프레임 단위로 합성시키는 방식으로 딥페이크는 작동합니다. 

 

이런 딥페이크로 만들어진 영상은 일반인 눈으로 구별하기 굉장히 어렵습니다. 어떻게 보면, 좋은 기술이라고 말 할수도 있습니다. 딥러닝 기술의 일종으로, 영화계, 광고계 등이 효과를 볼 수도 있습니다. 예를 들어서, 스턴트 배우의 얼굴에다 딥페이크 기술을 도입하면, 쉽게 배우의 얼굴이 자연스럽게 나올 테니까요.

 

하지만, 기술의 발전에는 항상 어두운 면이 있습니다. 특히, 딥페이크 영상들이 무료 소스코드와 머신러닝 알고리즘으로 아무나 사용할 수 있다는 점은 딥페이크의 악용을 불러왔습니다. 그리하여, 사람들은 딥페이크를 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노, 가짜 누드 사진 등을 만드는데 사용하기도 하며, 악의적인 가짜 뉴스를 만드는데도 사용하고 있어 딥페이크가 큰 문제가 되고 있습니다. 

 

이런 딥페이크 영상들은 처벌도 굉장히 어렵습니다. 아무래도 최신 범죄이다보니, 많은 국가들이 마땅한 처벌 법령이 없으며, 다크웹이나 수시로 계정을 바꿔주는 개인 SNS을 통해 퍼지는 딥페이크 영상은 아무래도 단속도 어렵습니다. 

여성들

보통, 많은 분들이 이런 딥페이크 기술의 제일 큰 피해자는 연예인이라고 많이 생각하십니다. 하지만, 가장 큰 피해자는 우리 주위에 있습니다. 바로, 우리 일반인들입니다.

 

"실생활에서 아는 친숙한 여성들"

얼마 전에 뉴스에 나왔습니다: 한 30대 남성이 타인이나 지인의 얼굴을 포르노 등 음란 영상에 합성해 이를 유포하다가 경찰에 적발, 검거되었습니다. 이 남성은 트위터에 "지인 능욕 방"이라고 만든 후에, 팔로워 1,200명에게 나체사진 등 합성사진을 유포한 것으로 밝혀졌습니다.

 

또한, 한겨레에 따르면, 경찰청은 딥페이크 영상을 제작하고 유포하는 행위를 엄벌하기 위한 법 개정 이후 5개월 동안 15명이 관련범죄로 피해를 입었는데 모두 10대 아동·청소년이었다고 밝혔다고 전합니다. 또한 검거된 사례들을 보면 지인의 신체를 성적인 영상물과 합성해 유포하다 적발된 경우가 많았다고 합니다. 

 

게다가, 텔레그램에는 딥페이크 봇이 있습니다. 미국 유명 지식 산업 저널 Wired에 따르면, 20년 10월 기준 최소 10만 4천 명의 여성이 이 봇에 의한 딥페이크 누드 사진 등으로 피해를 입었다고 추산합니다. 또, 딥페이크 봇의 사이트에 따르면, 70만 장 이상의 사진들이 이미 딥페이크 봇으로 인해서 누드 사진으로 변했다고 합니다. 이 텔레그램의 딥페이크 봇은 기본적으로 무료 서비스이며, 여성들 사진만 사용할 수 있으며, 돈을 내면 워터마크와 무료 10장 제한이 없어진다고 합니다.

 

Wired 기사에는 이런 내용도 첨부합니다. 텔레그램에, 2019 년 7 월에 게시된 익명의 설문 조사에는 3,300 명이 응답하였다고 합니다. “애초에 누구의 옷을 벗기고 싶으십니까?"라는 질문의 설문이었습니다. 결과는, 압도적으로 대다수인 응답자의 63 %"실생활에서 아는 친숙한 여성들"을 선택하였습니다. 그다음으로, 유명인과 '스타'가 두 번째로 많이 선택된 카테고리(16 %)였고, '인스타그램의 모델과 미녀'가 8 %로 세 번째로 많이 선택되었습니다.


누구는 이런 딥페이크 방을 제2의 N번방이라고 합니다. 

 

위의 내용은 굉장히 심각하다고 생각됩니다. 이런 형태의 음란물을 IT 기업들이 막지 못한다면, 많은 여성들에게 큰 위협이 될 것이 분명합니다. 특히, 우리나라의 디지털 성범죄가 위에 적힌 듯이 또 "10대 아동, 청소년"에 다시 위협을 가한다는 사실은... 참, 황당하고 절대 일어나지 말아야 하는 일입니다. 

 

그런 의미로써, 우리나라 국회가 20년 6월에 성폭력 범죄 처벌 등에 대한 특례법의 빠른 개정을 통해 딥페이크 범죄를 처벌할 수 있게 한 것이 정말 다행이라고 생각됩니다.

 

그저 N번방 같은 디지털 성범죄가 없어졌으면 하는 마음입니다. 그러기 위해서 대한민국 판사님들이 성범죄자들에게 강력한 판결을 내려주시길 바랍니다. 

 

그리고, 왜 N번방 같은 게 생기고, 왜 다시 딥 페이크 방 같은 디지털 성범죄가 지속해서 생기는지, 우리나라의 교육 등 많은 것에 대한 사회적 논의가 필요한 시점이라고 생각됩니다. 

 

읽어주셔서 감사합니다. 카우보이연구소였습니다.

※ 공감과 댓글은 사랑입니다!

※ 설마 이거 읽고 텔레그램 깔아서 딥페이크 봇 사용하는 ㅁㅊ놈은 없기를 바라며...

댓글10