미 국방부와의 AI 계약에 반기를 든 구글 직원들
구글의 인공지능(AI) 기술의 군사적 활용을 어떻게 제한할지 구글이 재검토 중이다. 미 국방부가 드론이 찍은 이미지를 판독하는데 구글의 서비스를 사용한다는 사실에 구글 직원들이 반발했기 때문이다.
미 국방부가 구글과 클라우드에 기반한 AI 서비스 사용 계약이 있다는 사실이 처음 알려진 지난 달 이후, 이 검색회사와 미군의 협력관계에 많은 관심이 쏟아지고 있다.
현재 구글 직원들은 서명운동을 벌이고 있다. 구글이 미 국방부와의 계약을 해지하고 미래에도 “전쟁용 기술”을 개발하지 않겠다고 약속하라고 말이다.
뉴욕타임즈가 처음 공개한 이들의 청원서는 “독특한 역사, ‘악하게 굴지 말자(Don’t be Evil)’라는 사훈, 그리고 수십 억 명의 사용자들의 삶에 직접적으로 영향을 미친다는 점이 구글과 다른 회사들의 차이였다”고 했다.
청원서는 또한 “군과 협력하는 것은 구글의 브랜드 가치와 인재를 모으는 능력에 회복할 수 없을 정도로 피해를 줄 것”이라 경고했다.
구글과의 협력은 미 국방부의 “프로젝트 메이븐(Project Maven, 전문가 프로젝트)”의 일환으로 이뤄졌다. 국방부는 이 프로젝트를 통해 민간 업계의 사물인식 기술을 도입하려 한다. 한 장교의 말대로 “솔직히... 놀라울 정도”인 이 기술을 도입해 “무기들의 사물인식 능력을 고양”하기 위해서다.
하지만 구글은 발표문을 통해 미 국방부와의 계약서에 양자의 협력이 “비공격적인 목표”로 제한된다고 구체적으로 명시돼 있으며 이 협력이 “인간의 목숨을 구하고 사람들이 굉장히 지루한 노동을 하지 않도록” 만들기 위해 고안됐다고 주장했다.
구글의 클라우드 서비스를 이끌고 있는 다이앤 그린은 구글의 기술이 청원서에 나온 대로 “드론을 운용, 조정”하거나 “무기 발사에 사용”되지 않을 것이라며 직원들을 안심시키려 했다.
하지만 청원서에 서명한 직원들은 구글의 기술이 일단 미군에게 이전되면 “그런 일에 아주 쉽게 쓰일 수 있을 것”이라고 반박한다.
미 국방부의 프로젝트 메이븐은 누구든 자기 데이터에 적용할 수 있는 이미지나 음성 인식과 같은 일반적인 기계 학습 도구인 구글의 “클라우드에 있는 AI” 서비스가 얼마나 널리 쓰일 수 있는지를 잘 보여준다.
구글은 미 국방부가 드론에 활용하고 있는 서비스가 “모든 고객이 사용할 수 있는 사물인식용 오픈 소스 소프트웨어”라며 국방부가 “기밀이 아닌 정보만”을 기반으로 하는 모델들을 사용하고 있다고도 했다.
쉽게 말해, 구글이 군대용으로 특별히 자신의 신경망을 훈련시키지는 않았다는 얘기다.
하지만 구글 AI의 활용방법에 대한 이런 제한 자체가 재검토되고 있다.
“학습 가능한 기계가 군사적으로 사용되는 것을 우려하는 것은 자연스럽고도 당연한 일”이라고 구글은 인정한다. 그러면서 구글이 이에 관한 회사 정책이 올바른지 내부적으로 논의하고 있고 “외부 전문가들”과도 상의하고 있다고 밝혔다.
AI 연구에서 구글이나 페이스북과 같은 인터넷 회사의 중요성이 점차 커지면서 국방 조달 부문은 이미 우려의 목소리를 내고 있다.
일부 관리들은 이 회사들이 미군에게 자기의 AI 기술을 사용할 수 없도록 할까 봐 두려워하고 있다. 그 기술의 일부가 미 국방부의 첨단 연구 기관인 다르파(Darpa)로부터 지원받은 연구비로 탄생했음에도 불구하고 말이다.
그러나 구글과 미 국방부의 협력을 비판하고 있는 구글 직원들은 구글이 군대나 정보기관과 너무 가깝게 엮이면 소비자들에게 브랜드 가치가 떨어질 것이라 주장한다.
“편향되고 무기화된 AI에 대한 우려가 커지고 있는 지금, 구글은 벌써부터 국민의 신뢰를 지키는 것을 힘들어하고 있다”고 청원서는 한탄했다.
- 기사 : 정혜연 기자
- 민중의소리 기사원문
- 리스팀과 보팅으로 이 글을 응원해주세요
- 민중의소리 스팀잇 공식 계정 (@vop-news)을 팔로우 해주세요
- 여러분의 응원은 좋은 콘텐츠를 만드는 기반이 됩니다. ^^;