[투자의 단상] 판도라의 상자 - AGI

머스크 유발 하라리 등 “GPT4 능가 AI개발 멈춰달라” 촉구
http://www.mediatoday.co.kr/news/articleView.html?idxno=309313

유발하라리, 일론머스크, 스티브워즈니악, 요슈아벤지오 등 AI와 관련 있거나 유명 작가,학자 등이 AI개발을 멈춰달라는 청원에 서명하였다고 합니다.

과연 GPT-4가 인류의 남은 운명을 좌우할 판도라의 상자를 열게 된 것인가요?
이런 현상은 흡사 북국의 빙하가 녹아내리기 시작할 무렵 혹은 한대지역에서 아열대 기후성 이상기온이 발생하는 등 지구촌 곳곳에 이상징후가 발견되면서 기후변화의 위기를 경고하던 시기들과도 유사하다는 생각이 듭니다.
단 하나의 차이점이라면 기후변화의 위기는 원인과 결과 그리고 현상이 명확하다는 것이고, AGI는 원인과 결과 그리고 현상이 블랙박스 속에 갇혀 있다는 점에 차이가 있을 듯 합니다.
어떠한 동기와 원인으로 AI가 발전되었으며 어디로 향하게 될지 혹은 최종 결과가 무엇일지, 중간에 우리가 겪게 될 혼란과 혼돈은 어떠한 양상으로 전개될지 전혀 알수가 없다는 점이 가장 큰 차이가 되겠습니다.
저명 인사들이 AGI의 발전을 잠시 멈추고 거버넌스 시스템을 속히 개발하여 블랙박스 속에 갇힌 AGI 모델의 input과 output에 대한 명확한 파라미터 정의를 하자고 하는 이유가 여기에 있는 것 같습니다.
유발하라리(?)의 말처럼 AGI가 급속도로 개발이 되어 운이 좋으면 인간은 AGI의 애완견역할로 남을 수도 있겠다는 말에 많은 공감이 됩니다.
인간의 끊임없는 욕망과 탐욕이 원시시대 호모사피엔스에서부터 우주개발에 이르기까지 인류의 문명을 끊임없는 발전과 진보로 이끌어왔지만, 그 욕망의 끝이 허무하게 인간에 의해 창조된 AGI에 의해 종속되는 아이러니를 겪게 될 지도 모를 일입니다.

이 드넓은 우주 그리고 지구라고 하는 별안에는 오로지 인간만이 생태계의 정점에 선 유일무이한 존재가 아니라 수많은 종들과 개체들이 모여 함께 공동의 운명을 함께하는 하나의 운명체라는 자성과 깨달음이 필요한 시기가 아닐지 한번 생각해 보게 됩니다.

“인공지능 개발자는 정책 입안자들과 협력해 강력한 인공지능 거버넌스 시스템의 개발을 획기적으로 가속화해야 한다”며 △인공지능을 전담하는 새롭고 유능한 규제 당국 △고도의 역량을 갖춘 인공지능 시스템과 대규모 연산 능력 풀에 대한 감독 및 추적 △실제와 합성을 구별하고 모델 유출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 △강력한 감사 및 인증 생태계 △인공지능으로 인한 피해에 대한 책임 △기술적 인공지능 안전 연구를 위한 강력한 공공 자금 △인공지능이가 초래할 극적인 경제적, 정치적 혼란대처할 수 있는 충분한 자원을 갖춘 기관 등이 필요하다고 했다.