[독서잡기] 대량살상 수학무기

학업 성취도 평가라는 것이 있었다.일명 일제고사.
이 시험을 저지하려는 노력이 뭘 좀 아는 학부모와 교사들 사이에서 일어났고 교감 교장은 행여나 자기 관리하에 있는 학교에서 일어나지 않기를 노심초사해서 한동안 말이 많았다. 그 시험은 2018년에는 전면 중단된 것으로 안다.

이 시험을 치른 비평준화 지역의 두 학교 학생을 비교 하면 이렇다. 조금 수준이 있다는 학교 학생 왈,
" 이상한 시험 봤는데 그냥 그랬어. 평균 점수 이하면 특별 수업 받는다고 샘이 자는 애덜 깨우더라구. "
수준이 좀 떨어지는 학교(순전히 성적 기준으로) 학생 왈,
" 시험 쳤는데, 선생들이 들어와서 힌트를 주대? 그거 점수 낮으면 선생들 징계 받나봐"

이 책 <대량살상 수학무기>를 보니 이것의 기원이 미국식 2001년 부시 행정부의 아동낙오방지법(NCLB)이라는 것에서 따온 것은 아닌가 의구심이 든다. 학생들의 학업 성취도 결과로 연방정부가 재정 지원을 해서 학교에 커다란 부담을 주던 그 제도.

그러면 이런 학업 성취도 평가의 목적은 무엇인가.
능력이 떨어지는 교사를 해고 시키는 것에 목적이 있었다. 그 기준은 '아무도 알 수 없는' 프로그램에 의한 평가. 기준은 학생들의 성적이었으며 학생들의 개인적인 환경은 고려 대상이 아니었다. 이런 것이 가능했던 기저에 알고리즘 설계자의 목표에 따라 해고나 파산을 선고하게 기능하는 대량살상 수학 무기 즉 Weapons of Math Destruction(WMD)이 있었다.

WMD는 진짜 무기는 아니다. 그러나 실체가 보이지 않기에 그 위험을 체감하기 어렵다. 확장성과 효율성이라는 특성 덕에 그 영향력은 날이 갈수록 확대되고 있으며 피해가 확산돼며 관료주의 메카니즘과 결합한다면 이의를 제기하거나 무력화시키기란 사실상 불가능 하다.(p7)

알고리즘을 설계하여 필요한 데이터를 모으고 페이스북, 구글 등에서 취합한 인간 행동의 일정한 패턴은 막강한 정보가 사람들을 지배하게 된다.

예를 들면 이렇다.
내가 오늘 저녁 인터넷으로 기웃거린 쇼핑 사이트는 내가 선호하는 의상, 먹거리, 취미 활동을 순식간에 파악하여 다음 번 쇼핑 목록을 알아서 화면에 올려준다. 또한 지난 달 과한 지출로 신용카드가 연체되었다면 이 정보가 프로그램 어딘가에 저장되었다가 신용평가에 반영되어 있다가 구직을 할 때 자산관리 혹은 경제 개념이 형편없는 사람으로 분류되어 서류심사에서 탈락이 되고 만다.

이런 모든 것이 가능한 것이 바로 Weapons of Math Destruction의 문제이다. 심지어 WMD의 이런 분류 기능은 유권자를 설득하는 광고를 그들에게만 띄우므로써 특정 후보에게 투표하게 유도하기도 한다.

그러면 이렇게 골치아픈데 인터넷을 끊고 컴퓨터가 없었던 시대로 돌아가는 게 나을까.
우리는 이미 되돌릴 수 없는 인공지능과 빅데이터의 바다 한가운데에 있다. 다만 WMD의 폐해를 알아차리고 무자비한 알고리즘이 되지 않도록 도덕적인 피드백을 받도록 해야 한다.

이런 사회과학 서적을 읽으면 그야말로 수불석권이 된다.
그리고 이대로 가는 것이 타당한가 생각하게 된다. 너무 재미있고 걱정도 되어서 탈이지만.
강력 추천한다. 전혀 어렵지 않게 우리가 반드시 알아야 할 빅데이터와 인공지능의 문제점을 알려주고 있다.

캐시 오닐 // 김정혜 역 // 흐름출판 // 2019(원2017)//16,000원//사회과학