[투자의 단상] Singularity 기술적 특이점 - AI

챗GPT는 시작에 불과... 수면 위로 드러나는 ‘AI 챗봇’의 안보 위협
https://www.itworld.co.kr/news/288853
이런 류의 기사가 엄청나게 쏟아지고 있는 요즘입니다.

오늘자 기사로 AI의 4대천왕 중 한명으로 불리던 제프리 힌튼 교수가 구글에 사표를 던졌다고 합니다.
어찌보면 단순한 기술자이자 기업인인 유명인사의 퇴직뉴스 쯤으로 들리기도 하지만, 그가 던진 멘트를 보면 단순하게 생각하고 넘어갈 일이 아닌 듯 싶기도 하네요.

AI 대부 “AI가 킬러로봇 되는 날이 두렵다” 구글에 사표
https://www.chosun.com/economy/economy_general/2023/05/02/2FIG75NRHRGWHJA6ETXP7XOQKM/

2014년 12월 캐나다 몬트리올에서 열린 학회에서 'AI 4대 천왕'이 찍은 사진. 왼쪽부터 얀 르쿤, 제프리 힌튼, 요수아 벤지오, 앤드루 응.

힌튼 교수는 “당초 AI가 사람보다 더 똑똑해질 수 있는 시점이 멀었다고 생각했다. 30~50년 또는 그보다 더 멀다고 생각했다”며 “하지만 이제 분명히, 나는 더는 그렇게 생각하지 않는다”고 했다. AI가 매우 빠르게 발전하며 인간을 위협하는 시기가 다가오고 있다는 것이다. 그는 “어쩌면 AI 시스템에서 일어나는 일이 실제 사람 뇌에서 일어나는 일보다 훨씬 나은 경우가 있다”고 했다.

어쩌면 레이 커즈와일이 2040년 경 도달할 것이라고 예측했던 Singularity 시점이 벌써 다가온 것은 아닐른지 조심스럽게 우려해야 하는 상황이기도 한 것 같습니다.

도대체 AI를 둘러싸고 무슨일이 벌어지고 있는지 아무도 예측하거나 면밀히 측정할 수는 없지만, 사회/국가적으로든 개인적으로든 나타나는 현상을 통해서라도 AI의 기하급수적 발전속도에 따른 예기치 못한 사태를 대비한 준비를 서서히 해나가야 할 것 같습니다.

https://ko.wikipedia.org/wiki/%EA%B8%B0%EC%88%A0%EC%A0%81_%ED%8A%B9%EC%9D%B4%EC%A0%90

기술적 특이점(技術的特異點, 영어: technological singularity, TS)은 인공지능(AI)의 발전이 가속화되어 모든 인류의 지성을 합친 것보다 더 뛰어난 초인공지능이 출현하는 시점을 말한다. 즉, 특이점이란 미래학에서 문명의 미래 발전에 가상 지점을 뜻하는 용어로서, 미래에 기술 변화의 속도가 급속히 변함으로써 그 영향이 넓어져 인간의 생활이 되돌릴 수 없도록 변화되는 기점을 뜻한다. 미래연구에 있어서 인류의 기술 개발 역사로부터 추측하여 얻을 수 있는 미래 모델의 정확하고도 신뢰할 수 있는 한계인 「사상의 지평선」[1]을 가리킨다.
대표적인 특이점 주의자인 버너 빈지(Vernor Vinge)의 경우 특이점의 도래를 2005년으로 추산하였으나 20세기에 비해 21세기의 기술적 진보가 크게 약화됨으로써 기술적 특이점의 도래에 대한 가상 이론이 재논의 되었다. 인공지능 과학자 겸 미래학자인 레이 커즈와일(Ray Kurzweil)은 현재의 인공지능 발전 속도를 고려할 때, 서기 2040년 경에 인공지능이 특이점에 도달할 것이며, 특이점 이후 인류는 인공지능에 의해 멸종하거나 혹은 인공지능 나노 로봇의 도움을 받아 영생을 누릴 것으로 예측하였다.