인공지능의 도전, 철학의 응전 (참관기)

안녕하세요. 뉴비 @armdown 철학자입니다. 이번 포스팅은 고등과학원(KIAS) 초학제프로그램 ‘인공지능: 과학, 역사, 철학’의 일환으로 진행된 국내의 철학자의 토론에 대한 보고서입니다. 오간 논의 내용을 요약 정리했습니다. 저 개인의 논평은 담지 않았습니다. 관심 있는 분들은 참고하시기 바랍니다. (시골에서 3시간 걸려 운전해 올라와서 참관했습니다.)

<개요>

• 제목 : ‘철학자 5인 대토론회: 인공지능의 도전, 철학의 응전’
• 토론자 : 고인석(인하대), 신상규(이화여대), 이상욱(한양대), 이종관(성균관대), 전철(한신대)
• 일시 : 2018년 2 월 27 일 (화) 오후 3시-오후 6시
• 장소 : 고등과학원 1호관 1층 국제회의실

물음 1) IBM 왓슨이나 알파고 같은 인공지능과 생명체의 지능의 근본적인 차이는 무엇이라고 생각하십니까? (이종관, 신상규, 이상욱, 고인석, 전철)

신상규: 지능이라는 개념을 유연하게 파악해야. 인간 지능과는 다르지만 지능의 일종으로 여겨야. 등급의 차이가 있을 뿐.

이종관: 튜링테스트는 어리석은 테스트. 인간성 파괴. 생명체의 지능은 자기를 유기체로 통일시킴. 인공지능은 타율적 작동체. 생명체는 특정 환경 안에서만 생명체고, 다른 곳에 있게 되면 물체에 불과.

고인석: 지능에 붙는 ‘인공’과 ‘자연’이라는 말에 중요한 차이가 있음. ‘인공성’은 인간이 만들었다는 점이 중요. 지능을 가진 인공물(artefact)일지라도 우리의 결정과 고민에 의해 만들어지고 다루어져야 할 대상. 종(種)적으로 보면 인간에 의해 태어난 것. 우리가 결정해야 한다.

전철: 유사성보다 차이에 주목. positive thinking / intelligence [주어진 정보에 의거해서 사고] / negative thinking / intelligence [본능적, 생태적, 직관적 사고]. 부정신학에서는 신적 본질과 신의 속성을 해석할 때 인간을 넘어서 있음. 진정한 정보는 positive하게 나올 수 없음.

신상규: 삶의 특수성과 지능의 문제(이종관)는 논점 일탈. 인간중심주의. 현재 벌어지고 있는 변화에 올바르게 접근하기 위해서는, 유사성을 강조해서 생명의 우위성을 강조하려 하기보다 인공지능의 기능성을 충분히 인지해서, 발전 방식에 인간이 개입할 수 있음에 주목. 가짜지능/진짜지능은 바른 프레임이 아니다.

이상욱: 지능을 어떻게 정의하느냐에 따라 같기도 하고 다르기도 한 식이면 곤란하고, 철학적으로 의미 있는 논의가 되어야 함. 발현 방식 말고 결과물에 주목하자고 정의하면, 인공지능도 지능. 사람이 느끼는 것처럼 인간적 느낌을 느끼면서 자신이 지적 행위를 한다고 성찰하는 것으로 정의하면, 결론은 달라짐. 이건 하고, 이건 못하고, 식으로 전개되면 곤란. 논의에서 ‘인공지능’이라는 말을 사용하지 말아야. 지능적 행위를 하는 기계에 지능이 있다고 해야 할까 아닐까를 논의.

이종관: 인공지능은 열등한 지능. 인공지능은 대중에게 먹히는 용어(자본의 이름, 과학의 이름으로). 지능이라고 부르는 건 위험.

고인석: 평가의 관점이 아니라 태도 편향의 문제. 가진 자본과 시간을 어디에 투자해야 하느냐가 중요한데, ICT 기업이 인공지능에 투자하는 것이 지구에 이로울까.

물음 2) 컴퓨터가 의식을 갖는 상황이 역시 가까운 미래에 도래할 것이라고 보십니까? (이종관, 고인석)

고인석: ‘의식’은 전문적 용법으로 쓰인 듯. 최근 철학에서는, 의식의 문제는 풀 수 없는 문제(hard problem)로 간주. 1인칭 외에는 확신을 가질 수 없음. 동종에게는 어느 정도 의식이 있다고 추정. 감정을 가진 것처럼 행동하는 인공물은 충분히 만들 수 있음. 그러나 의식을 가졌는지는 어떻게 답해야 할지 모름. 인간을 대하는 태도, 인공물을 대하는 태도, 동식물을 대하는 태도를 갈라야. 태도 표명의 문제. 어떤 태도를 표명하는 것이 현명하고 유익할 것인가? 궁극적으로 인간 사회의 결단의 문제로 가는 것이 올바른 접근 방식.

이종관: 현대철학자들은 너무 정신없다. 역사의식을 기준으로 하면 의식 없는 놈(sub-human)도 많음. 인간보다 잘 작업하더라도 ‘의식’이란 말을 부여하는 건 치욕적이다.

신상규: 의식이란 말은 다의적. 자각적 의식이라는 것이 도덕적 지위를 부여하고자 할 때는 무척 중요. sentiens. 걱정할 단계는 아님. 지능에서 의식이 본질적 요소는 아님. 이종관은 여전히 근대적 문법으로 말하고 있음. 컴퓨터는 역사적으로 경험해 보지 못한 새로운 현상. 문법이 변형되는 시대.

이상욱: 동물이 의식 가지는지 어떻게 아느냐? (철학자가 아니라) 과학자가 만족할 만한 방식으로. physiology 차원. neural basis of consciousness. 동물의 뇌영상은 인간의 뇌영상과 비슷해서 유비추론 가능.

이종관: 근대철학자가 오히려 높은 수준에서 지성의 차원을 연구. 현대철학은 물리주의. 뇌과학 연구 결과를 원용하는 것을 조심해야. 뇌를 물리적으로 연구하겠다는 프레임. 따라서 그 결과를 바탕으로 논의하는 건 문제.

고인석: 동물에 대한 인식틀이 변화한 건 맞음. 그러나 동물과 인공지능은 다름. 어떻게 (태도) 변화하는 게 좋을지 봐야.

물음 3) 자율주행자동차, 생산을 비롯해서 금융, 교육, 의료, 법률 분야에서의 인공 지능의 발전이 인간의 직업에 급격한 변동을 가져올 것으로 전망하십니까? (신상규, 이상욱)

이상욱: 질문에서 ‘급격한’을 어떻게 봐야 하나. ‘급격한’ 변화(인간이 할 수 있는 일을 90% 대체하는 인공지능)는 허황된 견해. 개발되는 분야 자체가 한정되어 있음. 비교적 정형화된 빅데이터가 존재하는 분야에 집중되어 있음. 기술적 이유에서가 아니라 경제적 이유에서 실현되기 어려움. 대체되지 않는 분야의 양극화(고층, 저층)가 사회 문제를 야기할 것임. 당분간 제도나 법이 급격하게 변할 일은 없을 것이기에 급격한 변화(의사나 판사를 대신하는 것과 같은)는 없을 것임.

신상규: ‘급격한’은 사람에 따라, 사회적 기준에 따라 다르겠지만, 상당한 변화 예상됨. 최종적인 결정권은 인간에게 있더라도 인공지능이 제안하는 바가 있음. 준비하는 개인 입장에선 굉장히 급격한 변화일 것임. 바람직하다는 뜻은 아님. 변화에 어떻게 대응할 것인가? 너무 낙관적인 생각은 조심해야. 인류가 처음 겪어보는 일. 낙관보다 비관이 옳은 태도. 신중하게 접근해야.

홍성욱: 로봇과 인공지능은 구분해야. 하나를 만들면 모든 곳에 사용될 수 있으므로 인공지능은 위협적.

이종관: 기술과 사회의 관계를 어떻게 보아야 하나? 기술을 통해 어떤 사회를 만들 건가. 독일과 중국의 비교. 기술 발전 차원만 논해서는 의미 없음.

이상욱: 낙관적이지는 않음. 초고임금과 초저임금 노동자만 남게 될 것. 빈부격차 확대. 급격함 여부에 대해서는 의견 차가 크지만, 변화의 폭은 엄청날 것임. 사회적 대처가 필요.

물음 4) 많은 이들이 인공지능 시대에 대한 대비책으로 교육을 강조합니다. 교육의 개선이나 혁신은 어떤 방향에서 이루어져야 한다고 보십니까? (이종관, 이상욱, 전철)

전철: 어떤 교육? 어떤 내용? 초등 코딩이나 인공지능의 본질 교육은 아님. 기술적이고 협소한 접근. 인공지능과 인간지능의 역할 분담론은 둘 사이의 대립 조장. 창의성과 상상력 교육에 대한 강조는 늘 중요했던 측면. 오히려 영성(spirituality)이 가장 중요. 지적(intellectual) 신경망을 영적(spiritual) 신경망으로 구축해야 함. 영 = 나를 넘어서는 일을 가리킴. 사회성, 연대성, 지성성. 종교와 도덕까지 어떻게 통합할 수 있을까?

이종관: 현재 논의는 인공지능을 잘 개발하는 인간을 기르는 교육. 창의성은 협력에서 나옴. 협력적 창조성(collaborative creativity, co-creativity)을 증진시키는 사회 제도를 만드는 것이 우선. 민주주의. 거기에 상응하는 정치 교육이 중요. 기술은 아무리 성능이 좋아도 스스로 좋은 가치를 스스로 만들지 못함. 기술의 선용은 그걸 할 수 있는 인도적 정치 체제에서만 가능. 성능 좋은 인공지능을 극단으로 몰고 갈 수도 있음. 영성 = 인간이 추구하는 최고의 정신적 차원. 현재의 주류 논의에서 제거되고 있음. 철학자들은 오히려 현대적 흐름에 부역하고 있음.

이상욱: 종교 교육에 대한 강조는 인간 교육을 가리키는 것으로 이해. 새 기술이 가져올 사회적 변화를 교육하는 것도 필요. 특히, 인공지능을 활용할 수 있는 능력을 교육해야. 일종의 매체 활용 능력 교육 필요. 통합 능력 교육. 인공지능이 달성하기 힘든 부분이 일반 지능이기 때문. 영역이 다른 분야끼리 연결해 주는 능력을 갖추지 못함.

전철: 영성은 오해의 여지가 많지만. 종교의 역할에 대해 자성적 성찰이 필요. 건강한 삶에 대한 통찰을 빠트리면 곤란.

고인석: (전철에게 질문) 영성이 아니라 도덕 교육이 더 적절하지 않을까? 종교적 접근은 비판적 사고에 제한이 가해질 수밖에 없지 않나?

전철: 영성과 도덕성은 전혀 다르지 않음. 우리가 놓치면 안 되는 인류의 측면을 가리킴.

물음 5) 사회가 인공지능의 발전을 제어해야 한다고 생각하십니까? 그럴 경우에 바람직한 거버넌스의 구조와 기능은 무엇입니까? (신상규, 고인석)

신상규: 굳이 인공지능 때문은 아니지만, 인공지능의 등장이 후기 자본주의의 심화(자본에 대한 집착)와 관련되기 때문에, 우리 시대가 공동체에 대한 강조나 도덕 교육이 더 절실해짐. 기술은 중립적이지 않고 정치적. 특히 인공지능이 심함. 개발과 도입의 시장 자본주의 메커니즘이 문제. 통제가 필요. 인공지능이 정치적 특성을 갖는다는 사회적 공감과 동의를 이끌어내는 것이 필요. (민간 기업에서야 그렇다 하더라도) 정부에서부터 산업 정책 차원에서 인공지능을 논의하는 게 문제. 사회 정치적 함의에 대한 논의가 필요. 앞으로는 상수일 것이기에 인공지능과 더불어 살기 교육 필요.

고인석: 굉장히 중요한 물음이고, 그렇다고 답하겠다. 사회적 합의가 가장 중요한 제어 방법. 그러나 사회적 합의는 항상 어려웠음. 거버넌스에서 중요하게 견지해야 할 것은, 합의되기 전까지는 최대한 투명성을 확보해야 함. 새로운 기술이라고 해서 새로운 가치 시스템을 만들어야 할까? 기존에 갖고 있는 공학 윤리의 기본 틀을 충분히 활용하는 것도 좋음. 기업이 달려든다는 것이 이익이 걸려있다는 뜻이므로, 이 기술의 확산을 통해 부와 권력의 편중이 심화되는 문제를 논의하는 것이 시급함.

물음 6) 인공지능의 발전사를 보면 여러 단계에서 철학자들에 의한 '개입'이 있었습니다. 21세기에 인공지능이 던지는 가장 중요한 철학적 화두는 무엇이라고 보십니까? (이종관, 이상욱, 신상규, 전철)

이상욱: 인공지능과 함께 살아갈 방법에 대한 사회적 논의가 중요. 수행(performance)을 굉장히 잘하는 지능적 행위를 보여주는 대상과 상호작용하며 살아가게 될 텐데(초연결사회), 그런 사회가 어떻게 살아가야 할지?

고인석: 인간이 어떤 존재인지 다시 생각하게 됨. 그러나 최근 논의들에 호들갑이 많음. 인공지능에 대한 토론이 복잡하고 다면적인 존재인 인간에 대해 일부만 조명하면서 많은 부분은 가려진 채 논의하는 것 같은 부정적 느낌이 든다.

신상규: 기존에 없던 낯선 존재가 출현했는데 기존 문법으로 다루려고 하니 혼란과 어려움이 초래됨. 인공지능의 도덕적 기여. 삶에 대한 새로운 해석 방식을 제기하는 기회.

이종관: 철학의 시선을 확장해야. 근대철학도 지나간 것으로 볼 게 아니라 지적 유산으로 삼아야. 굉장히 높은 수준의 지적 차원을 말해줌. 근대 산업사회에 이런 비판적 철학이 도움이 되지 않기 때문에 제거되고 말살된 것이지만, 문제점을 극복하는 데 도움이 되었었음. 현대철학은 인간 존재가 어떤 것인지를 논하지 못하게 되었음. 전면적인 시선을 확보해야 함.

전철: 인간의 이성, 감성 등을 심화해서 논의할 수 있게 해줌. 신학적 주제를 던져줌. 인간, 비인간, 사물 사이의 복합적 교감의 산물. 인간지능과 인공지능이 경합하는 사회에서, 신, 인간, 비인간, 동물 사이의 관계를 새롭게 보게 함. 기존 경계를 흔들었음.