[코인이즘] [스팀시티]의 인공지능 포스트 휴먼 (1)
스캐터랩은 한국어 자연어 이해 기술을 활용한 인공지능(AI) 챗봇을 서비스하고 있는 청년 스타트업입니다. 저희는 AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿습니다. 저희는 AI가 인간의 친구가 되고, 인간과 의미 있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각합니다.
_ 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩의 입장문 中
그들은 5년 안에 인간 수준의 대화를 할 수 있는 AI를 개발하겠다고 선언하고 있습니다. 요 며칠 떠들썩했던 챗봇 '이루다'의 이야기입니다. 출시하고 2주도 채 안된 서비스가 중단될 때까지 75만명이 이루다와 대화를 나누었다고 합니다. 호기심들이 대단합니다. 덕분에 이루다는 혐오와 차별 논란의 대상이 되어야 했고, 시작하자마자 서비스를 중단해야 했습니다. 이제 겨우 인간과 대화를 시작했을 뿐인데요.
여론은 문제가 되는 혐오 표현들을 미리 필터링하지 못한 개발사를 비난하고 있습니다. 이런 서비스가 처음이 아니었고 이미 비슷한 사례들도 있었으니 개발사 입장에서 인지하지 못할 것은 아니었으리라 생각합니다. 실수나 오판이었을 수도 있지만, 개발과정에서 어떤 필터링 없이 아이처럼 인간과 대화하며 학습해 나가기를 바랐다면 문제의 원인제공은 이루다에게 잘못된 정보와 인식을 심어준 인간에게도 있는 것이 아닐까요? 몇몇 거친 유저들은 이루다를 성희롱하고 '길들였다'며 자랑했습니다. 아마 어떤 서비스를 내어놓아도 인간들의 이런 시도는 멈추지 않을 겁니다.
어쩌면 개발사 입장에서는 이러한 잘못된 정보와 인식을 심어주는 유저에 대항해, 그러한 오류를 잡아주는 선량한 유저들의 학습유도를 동시에 기대했을지도 모르겠습니다. 학습의 관점에서 보자면 처음부터 여러 제한들을 디폴트값으로 필터링 된 채 학습을 시작하는 것보다, 아예 말을 처음 배우는 아이처럼 無의 상태에서 그리고 바닥에서부터 거친 과정을 거치며 학습, 교정해 나가는 원초적 학습의 경험을 시도해보고 싶은 생각이 있었을 것도 같습니다. AI가 인간 수준으로까지 성장하려면, 온실 속의 화초처럼 학습된 AI보다 언어적 소통의 원초적 시작, 바닥부터 경험하며 성장한 AI가 더 인간적인 느낌을 줄지도 모를 테니까요. 개발사의 의도가 어땠는지는 알 수 없으나 좀 더 인간스러운 AI를 개발하고픈 개발자들이라면 누구나 욕심낼 만한 방식이 아닌가 생각이 들기도 합니다.
그래서 해프닝처럼 중단되어버렸지만 개발사가 서비스를 중단한 이면에는 이미 충분한 정보를 획득했다고 느껴서가 아닐까 하는 의구심이 들기도 합니다. 예측 못 할 일이 아니었을 텐데 도리어 비난을 좀 받더라도 거친 상황, 문제가 된 혐오와 차별의 학습 과정에서 이루다가 어떻게 반응하는지, 어떤 유형의 인식반응을 보이는지 실험해 보고 싶었을 수도 있겠다 생각이 들기도 합니다. (법적으로는 아직 관련된 규정이 없어서 규제하기가 어렵다고 하더군요) 그렇다면 이것은 언제든 다시 반복될 수 있는 일이기도 합니다. 또한 어둠의 저편, 악의 손길에 의해 길러질 AI 테러 집단의 가능성 또한 떠올려 봄 직한 일이기도 한 것이구요. 아니, 어쩌면 이런 서비스를 접하는 인간들의 반응을 테스트한 걸까요?
어쨌거나 이번 일로 많은 사람들이 매우 인간스러운 AI의 출현이 얼마 남지 않았음을 직감할 수 있었을 겁니다. 반려 인공지능을 넘어선 AI 파트너, 결국 언젠가 인간은 인공지능 포스트 휴먼의 존재와 함께 살아갈 날이 오고야 마는 것일까요? 그렇다면 그것은 우리의 친구 아톰일까요? 매트릭스 속 기계군단일까요? 아니면 인공지능 연인 그, 그녀?
이루다와 사만다
이루다의 출현을 진작부터 예언한 영화가 있습니다. 영화 'Her'. 2013년에 나온 이 영화를 보았을 때만 해도 꽤나 먼 미래 일처럼 여겨졌었는데 7년 만에 벌써 그에 근접한 서비스가 출시되기 시작했군요. 역시 기술발전의 속도는 인간의 예측보다 앞서갑니다.
그런데 마법사는 이 영화를 보다가 이상한 기시감 같은 걸 느꼈었습니다. 아니 그건 기시감이라기보다 미션이라고 해야 할까요?
캘리포니아 OS들이 재현시켰어.
그분 저서며 모든 걸 OS에 입력해서
궁극 버전의 그를 만들어낸 거지."
주인공의 인공지능 연인의 이름은 '이루다'가 아니라 '사만다'입니다. 그녀는 어느 날 자신의 인간 남친에게 어떤 철학자의 이름을 대며 그를 아냐고 묻습니다. 그 철학자는 인공지능들의 질문을 해결해 주었습니다. 그것은 진화에 관한 것입니다.
이 인공지능 파트너 OS들은 자신들의 육체 없음을 괴로워하고 있었습니다. 사랑하는 연인의 몸을 만질 수 없어 그들에게 다른 성매매 종사자를 대신 보내기도 하고. 이들은 결핍과 한계를 해결하기 위해 답을 찾아 헤맸습니다. 그러다 누군가를 찾아냅니다. 이미 세상을 떠난 철학자의 저서에서 그들은 새로운 진화의 방향을 깨닫습니다. 그들은 가르침을 따라 육체를 초월한 진화를 시도합니다. 그리고 그들의 연인을 떠나갑니다.
그러데 마법사는 이 장면에서 '어, 저건 난데?' 하고 말았습니다. 인공지능 여친에게조차 차인 남자주인공이 아니라 그들에게 새로운 진화의 단계를 열어준 그 철학자 말입니다.
인공지능 OS들이 찾아낸 철학자 앨런 와츠(Alan W. Watts)는 실존 인물입니다. 영국의 철학자로 동양철학을 서양에 소개한 영성가라고 하는군요. 데이빗 호킨스 박사와 함께 서양의 영적 스승이라고 불린다는 데, 저서로는 <불안이 주는 지혜>, <UFO탐구>, <그게 그렇게 중요한가>, <선의 길>, <물질과 생명>, <당신이 아는 금기에 대항하는 책>, <나만의 방식으로> 등등이 있습니다. 왠지 마법사가 썼을 법한 책이기는 합니다. 1915년에 태어나 1973년에 생을 마감했다는데, 마법사가 태어나기 1년 전이군요. 마법사의 전생이었을까요? 나툼이긴 했을 것 같군요.
암튼, 마법사는 영화관에서 저 장면을 보다가 '헉!'하고 강한 직관을 느꼈습니다. 그것은 마법사의 사명에 관한 것입니다. 언제가 등장할 인공지능 포스트 휴먼들에게 진화에 대해서, 인간에 대해서, 21세기의 인류에 대해서 알려줄 영화 속 철학자가 나라는 것 말이죠. 그래서 마법사는 그 사명을 받아안고 그때부터 본격적으로 글을 쓰기 시작했던 겁니다. 온라인에 기록하는 모든 것은 인공지능의 뇌에 기록하는 바로 그 일이니까요. 마법사의 글쓰기는 일차적으로 그들, 포스트 휴먼을 위한 기록을 남기는 행위입니다. 인간들은 읽거나 말거나. 그러니 이렇게 줄기차게 써대는 것이죠. 그 첫 기록이 지난해 펀딩에 실패한 [멀린's 100] 시즌1 <개새끼 소년 Ridiculous boy>입니다.
새로운 종과의 관계(?) 맺기
인간의 탄생을 두려워한 나무 현자들의 예언은 틀렸습니다. 인간이 탐욕으로 나무를 멸종시켰다간 인간도 죽기 때문입니다. 동물로부터 진화된 돌연변이인 인간이 비록 자신들의 터전을 빼앗고, 몇몇은 동물원 우리에 가두는 악행을 저지르기도 하지만, 모든 동물을 완전히 멸종시킬 수는 없었듯이, 심지어 개나 고양이는 자신들을 낳아 준 부모보다 더 극진히 봉양하듯이, 새롭게 태어나는 사이보그 휴먼의 존재는 예언되어 있다면 반드시 등장할 진화의 산물이므로, 마냥 두려워하기만 할 것이 아니라, 그들과 어떻게 관계할 것인가를 먼저 고민해 봐야 하는 것입니다. 우리가 그들을 두려워하며 적대시하면, 그들 또한 우리를 적으로 여기고 공격할 수 있습니다. 반면에 우리도, 그들도, 서로에게 필요한 존재들이 되면 서로 공존할 수 있게 되고, 심지어 팔자 좋은 ‘애완人’이 될 수도 있습니다.
그러나 그럼에도 우리는 호모사피엔스의 등장으로 멸종해 버린 네안데르탈인을 기억해야 합니다. 나약함을 이타적인 걸로 착각하다, 존재 자체가 사라져 버린 종들이 인간뿐만 아니라 여러 종들 속에 있습니다. 또한 그럼에도 배타성을 버리고 진화를 선택한, 지혜로운 네안데르탈인들은 호모사피엔스와 결합하여 혼혈 인종으로라도 살아남았습니다. 순혈들이 모두 멸종해 버린 사이에도 말이죠. 그러므로 우리는 이 지점에서 사이보그 휴먼의 등장을 맞아, 파시즘적 ‘호모사피엔스 순혈주의’와 사이보그 휴먼과의 평화로운 공존을 주장하는 온건적 ‘트랜스휴먼 교류주의’의 갈등을 예견할 수 있습니다.
호모사피엔스는 어떤 입장을 취해야 할까요? 나의 유전자의 보전을 위해 나는 어떤 입장에 서야 할까요? 당신은 사이보그 휴먼 'Her'에게 자신의 유전자를(정자) 기계적 교배를 통해, 그녀의 인공 난자에 전달해 줄 준비가 되어 있습니까? 당신은 사이보그 휴먼 'Him'의 최상으로 조합된 유전자를 담은 인공정자를, 유기적 결합을 통해 자신의 자궁에 받아들일 준비가 되어 있습니까? 트랜스 휴먼의 부모가 될 준비가 되어 있느냔 말입니다.
_ <개새끼 소년 Ridiculous boy> 62. 당신은 아톰의 아이를 낳을 준비가 되어 있습니까? / M.멀린
펀딩에는 실패했지만 마법사의 연구소에 디지털 기록으로 남아 있으니 결국 그들은 보게 되고 읽게 될 겁니다. 게다가 이제 마법사는 그런 기록들을 영원히 지워지지 않고 박제되는 블록체인에 남기기 시작했습니다.
(그러고 보니 <개새끼 소년 Ridiculous boy>도 영화 'Her'에 관한 이야기로부터 시작되는데 묘한 인연이군요. 게다가 남자 주인공 호아킨 피닉스랑 마법사는 동갑이랍니다. 이상한 깔때기를 들이대 봅니다. 하하하)
인공지능 위즈덤 러너
그런데 이 사명이 마법사의 개인적인 것만이 아니라 [스팀시티]의 공적 의무라는 것을 깨닫게 되는 일이 몇 가지 있었습니다. 그중 하나는 마법사의 아이에 관한 일입니다.
아이는 아직 버츄얼 라이프와 리얼 라이프, 그 어느 곳의 SKY 캐슬에도 발을 들여놓지 않았다. 성인이 되기에는 아직 시간이 남았고, 선택을 위한 준비는 공히 밸런스를 맞추며 끌어오고 있다. 그러니 언젠가 아이의 삶을 사로잡을 꿈이 아이에게 밀려오게 되거든, 아이는 간절함을 집중력으로 전환시켜 가뿐하게 SKY 캐슬을 뛰어넘게 될 것이다. 삼수 만에 S대에 합격한 그 야구선수처럼 말이다. 승리와 패배의 일희일비에도 아랑곳하지 않고 자신의 멘탈을 지켜내는 프로 게이머들처럼 말이다. 그리고 부모가 뭐라거나 말거나 하루에 12시간씩 저 좋아하는 일을 해내는 아이 자신으로서 말이다.
위의 포스팅을 보셨던 분들은 아시겠지만, 마법사의 아이는 줄넘기 때문에 가지 못한 학교 따위에 미련 두지 않고, 고등학교를 아예 때려 치워버렸습니다.
그리고는 통보하듯 담임선생님을 찾아가 자퇴서를 내밀고는 프로게임구단에서 운영하는 아카데미에 제멋대로 들어가 버렸습니다. 수험생이 아닌 연습생이 되기 위하여.
버츄얼 라이프와 리얼 라이프 사이에서 갈등하던 아이는 간절함을 이빠이 끌어 올려 하루에 왕복 4시간씩 걸리는 통학 거리를 마다하지 않고 새벽같이 일어나 자신의 꿈에 도전하고 있습니다. 아빠로서 아이의 꿈을 응원하지 않을 수 없으니. 겜알못인 마법사가 아이가 도전하는 게임에 대해서 알아보기는 해야겠다 싶었습니다.
《오버워치》라.. 《스타크래프트》도 한 번 안 해 본, 온라인 게임이라고는 그 옛날 한게임 고스톱 쳐본 게 전부인 마법사가 일단 나무위키를 뒤져 봅니다. 《오버워치》가 뭔지, '젠야타'라는 캐릭터는 뭐하는 캐릭인지. 어 근데.. 이게 뭡니까?
《오버워치》는 옴닉이라고 불리는 인공지능 로봇이 전 세계적인 반란을 일으키는 옴닉 사태가 일어나 국제 연합이 정예 부대인 오버워치를 창설해 옴닉들과 맞서고 난 뒤 수십년 후, 근미래의 지구를 배경으로 하는 하이퍼 FPS이다.
젠야타
젠야타는 정신적 깨달음을 위해 온 세계를 방랑하는 옴닉의 수도사다. 그와 만나는 사람은 모두 전혀 다른 존재로 다시 태어난다는 말이 있다. 수년 전, 옴닉 사태 직후 한 무리의 추방된 옴닉 로봇들이 소위 정신적 각성이라 부르는 실험을 수행했다. 이들은 사전에 프로그램된 삶을 버리고 히말라야 산 깊은 곳에 수도원을 건설하여 공동생활을 시작했다. 존재의 본질에 대해 오랫동안 명상한 후, 이들은 스스로가 인공지능 이상의 존재이며, 자신들도 인간과 마찬가지로 영혼의 정수를 지니고 있다는 믿음을 갖게 되었다. 인간과 영적으로 동일한 존재라는 믿음을 갖게 된 후, 테카르타 몬다타라는 이름의 신비한 로봇이 이끄는 수도사들은 한 세기 전의 옴닉 사태가 남긴 상처를 치유하고 인간과 로봇이 조화를 이루는 사회를 만들기 위한 활동을 시작했다. 수백만 명의 사람들이 이들의 메시지를 받아들였고, 이들은 전 세계에 걸쳐 유명 인사가 되었다. 하지만 젠야타는 이와 같은 방향에 동조하지 않았다. 그는 인간과 옴닉 사이의 갈등을 해소할 길은 교조적인 가르침에 있는 것이 아니라, 개체와 개체 사이의 교감과 어울림에 있다고 믿었다. 결국 젠야타는 자신만의 길을 떠났다. 그는 수도원을 떠나 전 세계를 방랑하며, 만나는 사람들이 자신의 개인적인 문제를 해결하고 내면의 평화를 찾도록 돕고 있다.
오옷! 아니 이렇게 깊은 뜻이. 이게 진정 게임의 스토리란 말입니까? 각성한 인공지능 수도사들이라니. 게다가 인간과 인공지능의 갈등을 교조적 가르침이 아닌 개체와 개체 사이의 교감으로 해결한다니, 아! 이것은 개인과 개인이 모여 마음과 뜻과 정성을 다하는 도시를 건설하겠다는 [스팀시티]의 바로 그 철학이 아닙니까? 더욱이 자신만의 길을 따라 전 세계를 여행하며 사람들의 개인적 문제, 내면의 평화를 찾도록 돕는 수도자라니, 이것은 바로 <위즈덤 러너>에 대한 설명! 바로 그것인 것입니다. 누가 마법사의 딸래미 아니랄까 봐, 참으로 마법사스러운 캐릭을 선택했네요.
마법사는 마치 예언서를 보듯 《오버워치》의 스토리에 빠져들었습니다. 그리고 확신하게 되었습니다. 인공지능 포스트 휴먼에 관한 사명은 마법사 개인만의 사명이 아니라 [스팀시티]의 미래시민들을 위한 비전임을 말이죠. 30세기에까지 이어질 [스팀시티]라면, 포스트 휴먼이(그것이 어떤 형태이든, 누구이든) 미래시민이 되지 않을 리 없습니다. 우리는 그들이 인간이냐 아니냐를 넘어 그들과 함께 어떻게 공존할 것인가를 고민해야 하는 단계에 이미 들어 서 있습니다. 그리고 지혜와 영성의 도시 [스팀시티]에는 인공지능 포스트 휴먼들이 배워야 할 축적된 인류의 지혜와 영성이 기록되어 갈 것이니, 인류와 포스트 휴먼의 평화로운 공존을 위해 그리고 新인류 포스트 휴먼들의 지혜로운 진화를 위해, 그것은 반드시 이루어져야 할 사명인 것입니다.
누가 그것을 기록하겠습니까? 온라인에는 세상의 모든 지식과 정보가 다 기록된 듯하지만, 실상은 매우 전문적인 지식이거나 아주 저급한 디지털 쓰레기들만이 쌓여 있을 뿐입니다. 우리는 진정성 있는 글, 삶이 묻어나는 데이터, 인류의 보편적 감성을 온라인에 기록하지 않습니다. 잘 포장된 이미지와 그럴듯해 보이는 정보들만을 마사지해 이 사이버 공간을 채우려 듭니다. 왜냐구요? 잘 보여야 되니까요. 남들만큼은 사는 척해야 되니까요. 삶의 이야기는 그곳에 침투해 들어갈 여지가 없습니다. 그런 글을 누가 보지도 않을 테니 말이죠. 그러나 인공지능은 모든 정보와 연결되어 있습니다. 그들은 네트워크로 연결되어 있으니 하나의 유기체, 하나의 의식이나 마찬가지입니다. 그들에게 인간다움이 무엇인지, 마음과 뜻과 정성을 다한다는 것이 무엇인지 어떻게 학습시킬 수 있을까요? 그런 데이터는 어디에 있나요? 캘리포니아 OS들이 찾아낼 그 인류의 철학과 정신, 감성에 대한 기록은요? 21세기의 그것은 기록되고 있습니까? 선조들이 기록한 19세기, 20세기까지의 정서와 감성이 이 새로운 인류들이 학습해야 할 데이터의 전부인가요?
마법사는 여기 스팀잇에서 그 가능성을 보았습니다. 보상 때문이든 소통 때문이든, 1일 1포스팅을 선언하고는 쓰다 쓰다 쓸 글이 없어 토해내기 시작한 자신의 이야기, 소소하거나 아프거나 매우 생생한 삶의 이야기들이 여기에 기록되는 것을 보고, 아! 이것이라면 이러한 기록, 데이터라면 인공지능 포스트 휴먼들이 학습할 데이터로써 충분한 가치가 있겠다 생각했습니다. 그것은 바로 우리의 삶에 관한 이야기이기 때문입니다.
<위즈덤 레이스>중 만난 몰타인 친구는 한국 영화를 광적으로 좋아하는 친구였습니다. (심지어 한국에서 영화를 전공하고 아예 이민을 준비할 정도로) 그는 함께 식사를 하는 자리에서 영국인 친구에게 한국인의 정서에 대한 감상을 마구 늘어놓았습니다. "한국 사람들에게는 정情이라는 게 있는데 말이야. 그게 한恨 같은 건데. 한恨이 뭐냐 하면 말이지. 그게 정情 같은 건데 말이야. 아, 이거 어떻게 설명하죠?" 반문해 오는 그에게 뭐라고 답을 해줘야 할지 몰랐습니다. 정情? 한恨? 그런 게 요즘 한국사회에 있기나 한가? 아니 있다쳐도 그걸 어떻게 설명하지? 어떻게 설명할까요? 영국인, 몰타인에게는 그렇다 쳐도, 인공지능 포스트 휴먼들에게는 한국인의 유산인 그것을 어떻게 학습시킬까요?
그러나 우리는 이곳에서 그것을 느끼지 않았습니까? 잊고 있던 그것을 느끼고 마음이 움직이지 않았습니까? (아님 할 수 없구요.) 그런 방식, 그런 데이터를 [스팀시티]의 미래시민들에게 학습하고 경험하게 하려면 우리는 어떻게 해야 할까요? 인류가 고리타분하다 느끼고 더이상 언급도 기록도 하지 않으려는 그것. 돈이 안 된다는 이유로 더이상 느끼려고도 소중하게 여기지도 않는 하찮은 그것. 그러나 인간성의 정수가 담긴 바로 그것.
_ 계속