Open AI와 AlphaGO, 어느 것을 응원하는가?
전세계 E스포츠 행사 중 상금면에서 가장 거대한(24,787,916 USD) 행사인 The International 2017이 마무리되었습니다. 해당 행사에서는 엘론 머스크(Elon Musk)의 Open AI에서 만든 인공지능(이하 Open AI)과 프로게이머 3명의 이벤트 경기가 진행되었습니다. 비디오 게임에 관심 없는 분들을 위해 자세히는 설명하지 않고 간략하게 소개하자면 10명이서 2팀으로 나뉘어 진행하는 게임을 축소하여 1대1로 진행하였습니다. 3명의 선수와 겨루어 한 경기만을 패배하며(경험의 부족으로 보이는 말도 안 되는 실수로) 유의미한 지표를 남기었습니다.
비록 정식 경기의 형식을 띈 것은 아니지만 알파고에 이어 다시 한번 인공지능의 발달을 느낄 수 있는 순간이었습니다. Open AI는 사람과의 대전을 한번도 하지 않고 순수하게 2주일간의 자신과의 대전을 통해서 성장한 인공지능입니다. 실시간 게임은 비효율적임에도 심리적으로 이득을 취할 수 있는 상황이 있는데 Open AI는 사람과의 대전경험이 없음에도 이를 이용하더군요. 심리전이라는 것은 경험을 토대로 형성된 심리를 이용하는 것인만큼 Open AI도 자신과의 대전에서 경험을 통해 형성된 습관 등을 이용할 수 있었나봅니다.
진정한 초지능에 대해서는 회의적인 시각이 많습니다. 뇌과학과 컴퓨터공학 양쪽에 업적을 지닌 제프 호킨스(Jeff Hawkins) 같은 이들은 가능한 일이지만 지금과 같은 방식으로는 이루지 못 할 것이라 보기도 합니다. 제프 호킨스는 인간이 아직 뇌에 대한 이해가 부족하며 진정한 '지능'이 무엇인가에 대한 이해가 없는 컴퓨팅은 비효율적이라고 여깁니다. 스티븐 핑커(Steven Pinker)와 같이 인간의 뇌를 진정 기계로 구현할 수는 없다고 보는 이들도 있습니다. 이처럼 초인공지능의 도래가 불가능하거나 어렵다는 종류의 회의가 있는가하면, 초인공지능이 초래할 일에 대한 두려움으로 회의감을 지닌 이들도 있습니다. 분명 초인공지능은 거대한 잉여자본을 생산할 것입니다. 인간의 노동력을 대부분 대체 할 것이며 심지어 인간을 노동에서 완전히 해방할 지도 모릅니다. 하지만 초인공지능이 옳지 않은 손에서 탄생한다면 어떨까요?
다이너마이트와 핵기술은 모두 인간의 의지로 파괴적 목적으로 사용되었지만 초인공지능은 스스로의 판단에 의해 인간을 제거하거나 억압할 수 있으며, 한번 이런 판단을 내리면 우리는 어떠한 방법으로도 이를 막을 수 없을 것이라는 두려움에서 이러한 회의론이 형성되었습니다. 따라서 회의론자들은 적절한 규범을 형성하고 개발자들이 윤리의식을 지녀야 한다며 목소리를 냅니다. 강한 주체의 감시와 통제 하에 이러한 연구가 이루어져야 인류 전체가 수혜자가 될 것이며, 돌이킬 수 없기 전에 부작용을 미리 예방할 수 있다고 주장합니다.
저는 전적으로 이에 동의합니다. 비록 최초의 초인공지능은 감정이 필요도 없으며, 지니지도 않을 것이라 생각하지만 감정 없이 그저 규범에 따라 행동하는 것조차도 인류에게 파멸을 가져다 줄 것이라는 회의론 시나리오는 얼만든지 있습니다. 따라서 '먼저' 초지능을 만들어내는 영광에 서두르기에 앞서 적절한 안전장치에 대한 논의가 진행되었으면 합니다.
이러한 두려움에 비영리재단, 퓨처 오브 라이프 인스티튜트(Future of life institute)가 인공지능 개발의 원칙을 제시하고, 이에 알파고를 개발한 딥마인드의 CEO, 데미스 하사비스(Demis Hassabis)를 포함한 많은 인공지능을 개발하는 이들이 동의하였지만 영리법인에는 아무래도 제약이 많습니다. 사측의 이윤(특히나 대부분의 인공지능 연구소가 대기업에 인수되었음을 고려하면)과 투자자들로부터 자유롭지 않습니다. 이타적인 인공지능을 꿈꾸며 잘못된 인공지능에 의한 재앙을 예방하려는 비영리재단 Open AI를 딥마인드보다 응원하고 싶은 것은 지나친 우려가 담긴 것일까요?
It’s hard to fathom how much human-level AI could benefit society, and it’s equally hard to imagine how much it could damage society if built or used incorrectly. Since our research is free from financial obligations, we can better focus on a positive human impact. We believe AI should be an extension of individual human wills and, in the spirit of liberty, as broadly and evenly distributed as is possible safely. -Elon musk
인간수준의 인공지능이 우리 사회에 얼마나 큰 혜택을 줄 것이며, 잘못 만들어지거나 사용될 때 우리 사회에 얼마나 큰 피해를 끼칠 것인지는 판단하기 어렵습니다. 우리의 연구는 재정적인 의무로부터 자유롭기 때문에 긍정적인 효과에 초점을 맞출 수 있습니다. 우리는 인공지능이 개인의 의지의 연장선에 있어야하며, 자유의 정신에서 가능한 넓고 균등하게 분배되어야 한다고 생각합니다. - 엘론 머스크
알파고는 워낙 자주 여러곳에서 언급되어서 알고 있었는데,
'비영리재단 Open AI' 라는 것이 있는지 몰랐습니다.
인공지능의 발전 이면에 가장 걱정스러운 점이 '윤리'겠죠.
예전에 인공지능에 대한 짤막한 강의를 들었을 때에도
'윤리'적인 문제가 많이 거론 되었었습니다.
인공지능의 발전 자체를 막을 수는 없겠지만,
올바르게 발전해 갈 수 있도록 많은 노력이 필요해 보입니다.
인공지능이 제 2의 '다이너마이트'가 되지 않도록 말이죠.
모든 기업이 난리죠. MS, 페이스북, 구글, 아마존, 애플 등 IT 대기업이라면 모조리 들어가있다고 봐도 무방한 수준입니다. 특히 구글은 아주 적극적으로 인수합병을 이어가고 있구요.
본문에서 이야기한 것처럼 많은 개발자들이 영리, 비영리를 떠나 윤리원칙에 동의하긴 합니다. 구글 딥마인드에서도 킬스위치를 개발하고 있구요.
하지만 걱정은 모자란 것보다 지나친게 낫기에 우려를 표해보았습니다.
저도 AI는 경계해야된다고 봅니다. AI를 개발하는 사람들도 기계들이 로봇들이 뭘 할지 모르고 이거저것 마구잡이로 실험하고 있는 상태입니다.
그러면 정말 어떤 지능이 나타날지도 모릅니다.
제프 호킨스가 개발하는 HTM기술과 강화학습이 접목되면 그 효과는 더욱 상상 못할거 같네요.
첨단과학의 선두에 있는 이들 중 문제의식을 가진 이가 많다는 것이 위안입니다.
저는 이중적인 시각을 가지고 있습니다.
우려는 해야하고, 대책도 생각하는게 맞습니다.
아시모프의 로봇 3법칙인가요? 그런것처럼요.
하지만 인공지능이 학습 능력이 있다고 해도, 사람이 만드는 것이기 때문에 한계가 있고, 영화에서 보는것처럼 인간 통제에서 벗어나는 능력까지는 아주 먼 시대의 얘기같습니다.
저도 두렵지만, 필요한 기술이며 인류에게 거대한 혜택을 가져올 것이라고 생각합니다. 하지만 회의론자들이 우려하는 상황은 영화나 소설에서 나오는 인종지능에 의한 종말과는 다릅니다. 인간에 의한 인공지능이 아니라 스스로 복제, 발전하는 인공지능을 목표로 둔 연구자들이 많은만큼 합당한 윤리가 없다면 우리가 원하는 바와 다른 초지능이 탄생할 지도 모른다는 우려가 큽니다.
또한 이러한 부작용 없이 초지능이 탄생한다 하여도 초지능을 만들어내고 이를 이용하는 조직이 나쁜 목적을 품고 있다면 이를 막을 수 없다는 점도 우려를 낳고 있습니다.
인공지능과 윤리적인 부분은 함께 고려하는 것이 맞다고 생각합니다. 인공지능의 판단의 기준에서 윤리적인 것이 빠진다면 잘못된 가치관이 양상되고 폭주하는 기관차처럼 인간에게 가해되는 존재가 안 되리란 법도 없습니다. 의견 동감합니다.
맞습니다. 윤리적인 관념을 기계에 주입하기 위해서는 과학이 아니라 형이상에 대한 철학까지 필요한만큼 더욱 폭 넓은 논의가 필요합니다.
단순히 인간을 해치지 않는다, 인간을 돕는다, 하는 정도로는 턱 없이 부족하니까요. 종말적 시나리오 중에는 이런 모호한 규범에 대한 초지능의 자의적 해석 또한 포함되어 있죠.
칼이 날카로울 수록 더 조심히 다뤄야 하죠. 고수가 다뤄야 하고요. 인류가 인공지능이라는 극강의 칼을 다루려면 먼저 고수가 되어야할 것 같습니다. 윤리법칙을 세우는 것도 그 중 하나고요. 이런 때일 수록 인문학, 철학, 도덕 등의 교육이 더 필요하다고 생각합니다. 어느 한두명이 아니라 전 인류의 사고수준이 함께 격상되어야한다고 봐요.
맞습니다. 사고의 깊이는 어느 개인, 오피니언 리더에게 필요한 것이 아니라 전인류가 스스로 갖추어야 할 것이며 이를 위한 교육의 중요성은 아무리 강조해도 지나침이 없습니다.
인공지능의 발달이 이렇게까지나? 라는 생각이 들기 시작할때부터..
많은 우려가 있었다고 생각합니다.
아직 가보지 않은 미지의 세계이기 때문에 인류파멸을 걱정하기도 합니다.
그에대한 적절한 안정장치는 당연히 해야 한다고 생각합니다.
Open AI 자신과의 대전에서 경험을 통해 형성된 습관 등을 이용한다고 하니.. 우리가 영화에서 보던 세상이 열릴수도 있겠다라는 생각이 들긴 합니다.
Open AI는 상세하게 공개되어 있는만큼 많은 이들이 과정을 지켜볼 수 있으며, 이에 기여할 수도 있습니다. 이렇게 탄생할 인공지능이 대중들의 생각과 일치하는 인공지능이 될 수 있기 위해서, 대중들이 해당 기술에 대해 이해하고 사유하며 의견을 낼 수 있는 능력을 키워야합니다.
교육의 중요성은 수백번, 수천번 강조해도 지나침이 없습니다.
마지막 엘런 머스크의 대사에 고개가 끄떡여지네요. 진정한 초지능 AI의 구현 이전에 적절한 안전 장치들이 어떻게 그리고 얼마나 구현할지가 관건이겠습니다.
맞습니다. 효과적인 안전 장치를 위해서 인류가 가진 모든 분야의 지식을 총동원 해야합니다.
글을 읽으면서 윌스미스 주연의 아이로봇이 떠오르는군요...
그리 쉽게 감정이 생기진 않을 것이라는게 정말 다행입니다.
This is so impressive.
아마도 4찬 산업혁명과 더불어 인공지능의 개발 문제에 대해서
수많은 논란이 야기될 듯 합니다. 특히 지식적인 측면과 지성적인 측면의
기본적인 개념의 측면부터도 정립의 혼란이 있는 상태에서 인공지능에게 인간고유의 사유능력들 중에서 어느 수준까지를 양보해주어야 할 것인지를 심각하게 고민하게 되는 때가 올 것 같네요. 그러한 과정에서 인간고유의 심층적 내면의식과 그 활용능력을 더 구체적으로 활성화시키고 더 보편화시켜서, 호모사피엔스사피엔스의 등급을 호모슈퍼사피엔스사피엔스의 등급으로 향상시키기 위한 작업도 진행 될 것 같다는 생각이 듭니다.
맞습니다. 인간의 지성이 아직 무엇이 진정한 자유이며 평등인가에 도달하지 않았는데 기계가 그것을 옳게 배울 수 있으며, 배우고 있는지에 대해 평가할 수는 없습니다. 따라서 자칫 가치들이 왜곡될 수 있는만큼 더욱 관심 있게 지켜봐야죠.
인간 자체가 생물적으로 더 나은 존재가 되어갈 것이라는 말씀에도 동의합니다. 기술과, 철학이 병행해서 발달해나간다면 우리 모두가 한차원 위의 더욱 고등한 존재가 될 수 있을 것입니다.
혹시 무슨 게임이었나요? 궁금하네요 ㅋㅋㅋㅋ
안전장치에 대한 이야기에서 많은 부분 공감을 하고 갑니다. 미래는 많은 가능성을 내포하고 있으니 정말 걱정과 대비는 많을 수록 좋겠죠.
한편 저는 그런 걱정 중 하나로 노동 해방 이후를 생각하기도 합니다. 과연 마르크스 아저씨 말마따나 자본주의의 타성에서 벗어나 이상향을 향해서 갈 것인지....경험이나 역사에서 비롯된 생각으로는 회의적인 부분이 없잖아 있습니다. 방종이라든지, 실존이라든지....
정치경제학 수업을 하던 교수님은 "사과가 매일 같이 수백박스 놓여져 있다면 누구도 집으로 자기 필요 이상의 사과를 들고 가지 않을 것이다."라고 예시를 든 적이 있습니다. 방종은 그렇게 해결한다고 친다면, 그 다음 인간이 실존하는 모습이
궁금합니다.
인간은 주어진 환경에서 현실에 참여하며 자신을 만들어 갑니다. 똑같이 어려운 상황에 처하고도 누군가는 살인자가, 누군가는 역전의 선수가 됩니다. 저는 사회가 괴물을 낳는다고 크게 생각하면서도, 결국 괴물이 되는 선택은 그 개인의 몫이라고 생각합니다.
마찬가지로 초지성과 노동 해방의 사회에서 인간이 자신의 존재를 어떻게 선택하여 나갈지, 그 시대의 괴물은 어떤 모습일지 궁금합니다.
요즘 책읽기를 많이 게을리했는데, kmlee님 게시물을 보니 벼르고 있던 SF 소설 몇 편이 떠오르네요! 좋은 게시물 감사합니다.
저는 유물론적 결정론을 지지합니다. 따라서 초지능의 시대에는 괴물 같은 이의 탄생을 완벽히 저지할 수 있다고 생각합니다.
The International이란 Dota2 대회에요.
오... 도타였군요...