여자아이돌 수난시대 : 딥페이크가 가져 올 엄청난 사회 혼란, 당신도 어느날 포르노에 나올 수 있다

jongsiksong (62)in #kr-pen • 6 years ago (edited)

딥러닝을 이용한 피해가 발생 중

며칠전, 걸그룹AOA 소속 설현씨의 나체사진이 온라인에 돌아다니는 바람에 팬들은 물론이고 소속 기획사도 발칵 뒤집혔습니다. 사진은 매우 정교하게 합성이 돼 있어서 잘 모르는 사람들은 그 사진이 정말 설현이 나체로 찍은 사진이라고 착각을 할 정도였습니다.

설현 뿐 아니라 다양한 여자 아이돌이 딥페이크의 피해를 입고 있습니다. 포르노 영상과 여자 아이돌의 얼굴을 딥러닝으로 학습해서 합성한 영상을 봤는데 퀄리티가 굉장히 높고 정교합니다. 저도 지인이 그 영상의 진위에 대해 말해주기 전까지는 그 영상이 합성된 영상인지 생각치도 못할 정도로 정교했습니다.

딥페이크의 작동원리는 머신러닝의 하위 개념인 딥러닝을 이용한 것으로, 특정 인물의 사진을 최대한 학습하여 이를 다른 동영상이나 사진과 합성하는 것 입니다. 처리할 수 있는 사진의 양이 많을수록 매우 정교하게 합성이 가능합니다. 연예인들의 경우에는 사진이나 영상이 워낙 많기 때문에 딥페이크의 공격에 더욱 취약할 수 밖에 없습니다.

비트에서 동영상으로

0과 1의 비트. 그리고 텍스트, 이후의 이미지 시대 그리고 지금의 동영상 시대. 컴퓨터로 처리할 수 있는 데이터의 형태는 용량이 적은 것에서 큰 것으로, 정적인 것에서 동적인 것으로 계속 발전을 거듭했습니다. 어쨌든 지금도 데이터의 가장 기본 단위는 비트이고 랜선으로는 패킷이 오가지만 기술에 관심없는 대부분의 대중들에게는 그냥 단순히 동영상과 인터넷의 시대입니다.

Flash가 등장해서 GIF를 대체한다며 난리치던 시절에 이제는 곧 동영상 시대가 오리라 생각하는 분들이 많았지만 UI가 동영상처럼 제공되는 시대를 생각했지 지금 유튜브나 넷플릭스처럼 컨텐츠 자체가 모두 영상으로 만들어져서 DB에 저장되고 이게 검색이 가능하고 네트워크 상을 둥둥 떠다니게 될 줄은 몰랐던 사람들이 더 많았습니다.

주지하였다시피 텍스트의 변조가 가장 쉽습니다. 그 다음은 이미지인데, 개인들도 낮은 비용으로 포토샵과 같은 도구를 사용할 수 있게 되면서 사진 변조를 쉽게 할 수 있는 시대가 되었습니다. 그러나 음성이나 영상으로 올라가면서 변조 난이도는 어렵게 되었는데, 최근에는 컴퓨팅 파워가 올라가고 개인들도 성능 좋은 하드웨어와 소프트웨어를 사용할 수 있게 되면서 동영상의 변조도 쉽게 이루어지고 있습니다.

한때, 로봇을 만들거나 텍스트를 만들어 내듯이 어떤 사람의 사진이나 영상도 '픽셀로 일일이 찍어서' 그려낼 수 없을까? 하는 생각을 해본적이 있습니다. 물론, 디즈니 같은 곳에서는 가능하겠지만 일반 개인이 그 정도 하는건 불가능 하리라 보았습니다. 그런데 그 일일이 픽셀로 찍는 방식이 아니라 딥러닝을 이용해서 개인들도 누구나 원하는 한 사람을 새롭게 만들 수 있게 되었다니 기술의 발전 방향과 속도에 늘 놀랍니다.

누구나 음성과 영상을 기막히게 위조할 수 있는 시대

국내 개인 개발자가 만든 멀티스피커 Tacotron은 손석희, 문재인, 박근혜의 목소리를 도용(?)하여 개발자가 원하는 문장을 마음대로 읽어주도록 학습되었습니다. 이미 보신 분들도 많으시겠지만 시간이 되신다면 한번 들어가보세요. 정말 기가막힙니다. 아직은 약간 어설픈 부분이 있기는 하지만 이게 더 정교화 되는 건 시간문제입니다. 이렇게 되면 누군가의 목소리를 임의로 만들어 내는 것도 식은죽 먹기인 시대가 됩니다.

멀티스피커가 만들어진 방법도 앞에서 소개한 딥페이크와 동일합니다. 박근혜, 손석희, 문재인의 연설 내용을 최대한 많이 학습한 기계가 이 학습 내용을 토대로 그 사람의 목소리로 문장을 읽어내려가는 것입니다.

악의적 명예훼손 공격의 대두, 사회 분란의 확대

최근까지의 명예훼손 양상은 거의 대부분이 언어(말이나 글, 텍스트)로 이루어졌습니다. 그런데, 앞으로는 직접적인 이미지나 동영상을 이용한 명예훼손이 급증할 수 있겠다는 생각도 듭니다.

예를들면 이렇습니다. 여기에 한 악덕 사장이 있습니다. 경쟁사의 사장을 사회에서 매장 시키기 위해서 여자와 모텔로 들어가는 영상을 제조하여 유포합니다.

어떤 청년이 있습니다. 이 청년이 죽도록 싫어하는 친구가 있습니다. 이 친구의 가정을 파괴하고 사회에서 매장 시키기 위해서 정교하게 조작된 포르노 영상을 제작해서 유포합니다.

누군가의 사이를 이간질 하기 위한 목소리 제조는 물론 영상의 제조까지 광범위하게 사람들간의 신뢰를 파괴할 수 있는 시대가 도래하였습니다.

법정에서의 증거물 무력화 가능성

CCTV나 블랙박스의 영상을 누구나 임의로 제작할 수 있는 시대가 되고, 친구의 목소리를 이용해서 친구가 하지 않은 말도 한 것처럼 증거를 아예 '제조'가 가능한 시대는 이미 직면해 있습니다.

증거물의 진위를 가리기 위해 국과수에 음성 녹음파일, 영상, 사진을 제출해도 진위 여부를 밝히기 힘들 정도의 퀄리티로 증거물의 조작 수준이 아니라 아예 '제조'가 된다면 그것만으로도 큰 사회적 혼란을 몰고 올 가능성이 있습니다. 죄인이 무죄를 받을수도, 아무 죄도 없는 사람이 죄인이 될수도 있는 세상이 될 수 있는 것이죠.

상대방의 동의 없이 녹음한 녹음 파일이나, 무결성 담보와 관련하여 증거능력 자체에 문제가 생기는지 여부는 또 다른 논쟁거리이지만 어쨌든 법정에서의 증거물 무력화 시도 내지 제조된 증거물의 이용이 판결에 미칠 영향이 상당할 것임도 부정할 수 없습니다.

블록체인의 활용 가능성

텍스트, 이미지, 영상의 변조나 제조를 누구나 높은 퀄리티로 할 수 있게 된다면 사람들간에 가치 교환에서의 문제, 법적 문제, 상호간 신뢰의 문제 등 많은 문제들이 파생됩니다. 이 부분을 블록체인으로 해결할 수 있는 방법이 있을 것 같다는 생각이 어렴풋이 듭니다.

세부적인 생각은 못해봤지만 이를테면 블랙박스를 예로 들어보겠습니다. 블랙박스의 영상조차도 조작이나 제조가 쉬워진다면 사고의 가해자와 피해자를 구분하는 일이 블랙박스로는 불가능해집니다. 그러므로 블랙박스는 촬영되는 즉시, 모두가 함께 사용하는 CDN으로 공유되고 이 정보를 블록체인에 기록해서 블랙박스의 내용이 위변조가 불가능하도록 사회구성원들이 합의를 하는 것 입니다. 이 블록체인의 노드를 운영하는 비용은 구성원들이 십시일반으로 부담하도록 해야하는 문제가 생기는데 그냥 러프하게는 이런식으로도 생각해볼 수 있다는 정도로만 이해해주시면 감사하겠습니다. 디테일은 시간이 가면서 똑똑한 분들께서 해결해 주리라고 생각합니다.

아이러니하게도 딥러닝의 이런 부작용 덕분에(?) 블록체인의 활용도가 한단계 더 높아질 가능성도 보입니다.

스크린샷 2018-03-21 오전 11.14.43.png