[TIL-20171101] 인공지능 스트레스

스팀 가격도 폭락했겠다, 모처럼 편안한 스티밍 라이프를 즐기려고 하는데
오늘 메일이 한통 도착했다.

앤드류 응 교수님의 5개 강의 중 4번째 강의가 곧 열린다는 소식.
3개의 강의를 힘겹게 마치고 달콤한 휴식을 취하고 있었는데 또다시 코르티솔 호르몬을 분비시킨다.

딥러닝 강의를 듣다보면 연금술과 비슷하다.
수학적 분석도 중요하지만,
그보다 이 기술, 저 기술, 여러 하이퍼 파라미터 튜닝해서 섞다보면 기가막히게 고양이 판별하는 알고리즘을 뱉어낸다.

물론 내 초보적인 코드를 보다가 알파고 제로를 보면 대단하고 무섭기도 하지만,
과연 이런 인공지능이 어떤 미래 사회를 가져올지 궁금하다.

스켑틱 vol 11

오늘 읽은 책은 계간지 스켑틱. 마침 커버스토리도 인공지능의 위협에 관한 얘기였다.
(우리는 별로 못느끼지만 이짝 세계 사람들은 느끼는) 폭주하는 인공지능에 대한 두려움을 어떻게 볼 것인가!

두려운 존재이니 대비를 해야한다는 매튜 그래이브스 vs 위협이 안된다는 마이클 셔머

많은 저명 인사들의 의견이 요약되어 있다.
우선 대비해야한다는 사람들...

“처음에 핵 기술의 주요 관심사는 무궁무진한 에너지 공급 가능성이었다. 하지만 핵이 무기로 사용될 가능성 또한 명백했다. 무한한 양의 에너지와 무한한 지능 사이에는 많은 유사점이 있다고 생각된다. 위험 가능성에 생각이 미치기 전까지는 양자 모두 경이롭기만 하다.” (스튜어트 러셀, 스켑틱 vol 11)

그밖에도 우리가 알만한 엘론 머스크, 스티브 호킹 심지어 빌 게이츠까지 경계의 의견을 보탠다.

하지만 반대 의견도 만만치 않다.
내가 좋아하는 스티브 핑커 교수의 의견이다.
스티브 핑커는 상상할 수 있는 우발 사태에 대비한 계획을 세우고 대책을 마련하는데 시간이 충분하다고 하면서

“ 이를 위해서 장황한 ‘로봇 법칙’이나 최신 도덕철학 따위는 필요 없을 것이며, 조리기구, 테이블 톱, 전열기구, 그리고 자동차를 설계하는 데 적용한 상식이면 충분할 것이다. 인공지능 시스템이 주어진 목표를 위해서 지나친 영리함을 발휘한 나머지 우리 인간을 함부로 다룰 것이라는 우려는 인공지능이 우리가 예방적 안전장치를 마련하는 것보다 앞서서 우리를 습격할 것이라는 가정에서 비롯된다...

로 시작하여 구글의 에릭 슈미트 그리고 앤드류 응까지 비관론적 전망을 반박한다.

물론 경험해 보지 못한 미래를 예측하는 것은 어려운 일이다.

여러분의 생각은 어떠한가요.
전 그냥 스트레스만 생기네요.
물론 코인판 바라보는 것 보단 덜하지만요^^