인공지능시대의 데이터 자유 결정권
광주과학기술진흥원 연속 기획 컬럼 6호
2019년 11월 25일
GIST 이흥노
전기전자컴퓨터공학부 교수
센서지능화 센터장/블록체인경제 센터장
미국은 기축통화 달러를 무분별하게 생산하고 확산하여 전 세계로 부동산과 주식 버블을 만들고 소득양극화를 유발해 왔습니다. 달러 공급력과 인공지능 기술의 활용성을 극대화한 미국의 기업들이 전 세계를 지배하고 있습니다. 전 세계인들을 대상으로 데이터를 확보하고 인공지능 기술을 고도화 하고 있으며 영업수익의 극대화를 추구하고 있습니다. 바로 구글, 페이스북, 아마존 이죠. 이들 기업이 감시 자본주의 시대를 열었습니다. 편리 제공을 앞세운 새로운 독점적 경제 시스템입니다. 경계해야 할 것들이 많습니다.
Digital Transformation에 의해 아날로그 세상의 사물은 디지털 데이터의 생산자로 바뀌고 클라우드에 저장되고 있습니다. 5G 통신 기술은 디지털화를 가속하게 됩니다. 즉, 세상의 모든 것이 디지털화 합니다. 공장, 학교, 병원, 행정 등 모든 것들이 Digital Twin이 만들어지게 됩니다. 디지털 현실 속 디지털 Twin들은 인공지능에 의해 최적화 됩니다. 스마트 공장, 스마트 학교, 스마트 병원, 스마트 행정이 됩니다. 실제적 현실에 영향을 주고, 또 현실이 디지털 현실로 다시 일체화 됩니다. 1986 년에 전 세계 정보의 1 %가 디지털화 되었습니다. 2013 년에 이르러서는 이미 98 %였다는 통계가 있습니다.
물리적 세상의 신호가 저장 가능한 데이터로 바뀌고 축적되게 되면 어떤 결과를 만드는가 생각해 봅니다. 데이터를 과거로부터 현재에 이르기 까지 저장해 놓으면 무엇을 할 수 있냐는 것이죠. 그 것은 바로 미래 예측 입니다. 다만 1분, 혹은 1초 일 지라도 미래를 예측할 수 있으면 그것으로 곧 큰 경제적 효과를 만들 수 있습니다. 가령 주식시장에서 거래되는 A 주식 값을 다만 1초 만이라도 남보다 앞서 예측 할 수 있다면 어떤 결과를 만들어 낼 수 있습니까? 값이 올라갈 것이 예측되면 Long 포지션을 취할 것 입니다. 값이 떨어질 것으로 예측되면 Short 포지션을 취하겠지요. 즉 해당 주식이 오르고 내릴 것을 정확하게 지속적으로 예측할 수 있으면, 커다란 경제적인 이득을 만들어 낼 수 있습니다.
알파고 충격을 국민이 온몸으로 받아들여야 했던 대한민국입니다. GIST는 “인공지능 중심 집적단지” 사업을 기획하였고, 그 뜻에 호응한 정부와 시민들의 도움으로 현재는 비 예타 4000억 규모 사업이 잘 진행되고 있습니다. 광주광역시뿐만 아니라, 문재인 정부는 국가 발전 미래 비전을 인공지능에서 찾고 있습니다. AI가 바로 미래 먹거리를 만들 것 이라는 것입니다. AI 에 기반한 혁신 성장을 국정 방향의 중요한 축으로 잡은 것입니다. AI 기술로 사회를 혁신하고 신 산업을 육성하고 일자리를 창출 하겠다는 전략 입니다. 정부와 지자체가 앞을 다투어 예산을 투입합니다. 기업 영역에서도 많은 투자가 이루어지고 있습니다. 바야흐로 AI를 공부하고 연구하는 기업 과 학교가 넘쳐나는 시대가 되었습니다.
그런데 이런 흐름은 이제 다양성 확보 훼손을 걱정해야 할 정도가 되었습니다. AI가 추구하는 새로운 국면들이, 너무 단기적 생산성과 효율성 극대화 측면에서만 강조되고 있습니다. 이제는 과잉 투자를 우려해야 할 시점으로 보입니다. 다양성이 훼손 되면 차기 혁신을 기대 할 수 없습니다. 나아가 인공지능 기술의 발전과 사용처가 급증함에 따르는 경제효과 증대보다는 이제는 사람이 인공지능과 센서의 감시 통제하에 놓여진 데이터 공급 대상으로 전락할 수 있다는 불안감이 생겨납니다. 인공지능 센서와 알고리즘에 의해 나에 대한 모든 것이 기록되고 클라우드에 저장되는 사회에서, 사생활을 보호받을 권리와 개인의 자주적 의사결정권은 심각하게 침해 될 수 있습니다. 나는 나의 데이터를 갖고 있지 않습니다. 활용할 수도 없지요.
이제는 AI기술의 효율성을 지나치게 강조한 나머지 혹시 다른 소중한 것들을 놓치고 있지는 않은지 점검하는 것이 필요한 시점이 되었습니다.
쇼사나 쥬보프는 미국의 저자이자 경영학자입니다. 지금은 은퇴한 51년생 Harvard Business School의 학자 입니다. 여러 편의 책을 썼습니다. 그 중에서도 저의 관심을 끌었던 것은 그녀의 최근의 저술입니다. 바로 ‘감시 자본주의의 시대’ (The Age of Surveillance Capitalism, January 15, 2019)입니다.
이 책에서 그녀는 페이스북과 구글 등 글로벌 기업이 영업 수익 극대화를 위하여 어떻게 인공지능을 활용하였고, 개인의 자유와 사생활을 보호 받을 권리를 침해해 왔는지 말합니다. 구글과 페이스북은 g-mail이나 페이스북 사용권을 무료로 제공합니다. 그런데 사실 무료가 아닙니다. 그에 대한 대가를 톡톡히 치르게 합니다. 우리의 소중한 것들을 포기하도록 유혹하고 있는 지 설명합니다. 즉, 이들 회사는 우리의 개인 정보 데이터를 수집합니다. 그 것을 통해 우리가 어떤 정치적 성향을 갖고 있는 지 파악할 수 있습니다. 우리의 위치 데이터와 정해진 위치에서의 소비패턴을 축적한 데이터를 통해 파악합니다. 위치 기반 소비 습관과 패턴을 파악하고 이 정보를 활용해 우리가 어떤 위치에서 어떤 경제적 행동을 할 것인지 미리 예측 할 수 있는 능력을 갖게 되었습니다. 이런 예측 능력을 어떻게 활용할 까요? 기업 수익의 극대화를 꾀해 왔다는 것입니다. 그녀는 그들이 어떻게 우리로부터 얻은 데이터를 이용해 정치적 경제적인 가치를 만들어 왔는지에 대해 이야기합니다. 이들 기업은 우리에게 어떤 시점에 어떤 장소에서, 어떤 정보를 제공해 줄 것인지 최적화하는데 성공하였습니다. 그런 능력을 십분 발휘하여, 맞춤 형 광고와 맞춤형 정보를 제공하고, 우리의 소비 성향, 정치적 성향을 바꾸는데 까지 영향을 주고 있다는 것입니다. 우리도 모르는 사이에 말 입니다.
그녀는 이런 상황은 우리가 주체적으로 행동할 기회를 무의식 중에 빼앗기는 것으로 해석합니다. 자주적 결정권을 상실한 우리네 보통사람들의 현 상태에 대해 심각한 우려를 표합니다. 데이터 정보의 생산자는 보통 사람들입니다. 그러나 그들이 데이터 생산자가 되는 것을 스스로 결정하지 않았습니다. 자신도 모르는 사이에 자신들에 관한 데이터가 수집되고 분석됩니다. 그렇게 생산된 정보를 기업이 또 다른 기업에게 제공하고 영업이익을 높이고 있는데 그런 과정에서 아무런 역할을 할 수 없습니다. 개인데이터는 디지털 세상에서의 개인의 디지털 자아입니다. 이 디지털 자아에 대한 핵심적 권리를 빼앗기게 되는 것입니다. 인간은 자유 의지를 갖고 있습니다. 그에 따라 주체적으로 행동합니다. 개인들이 자유 의지적 선택권을 빼앗기고 데이터 생산을 위한 또한 기업 이윤을 극대화 하기 위한 도구로 전락하는 것을 우려하는 것 입니다. 우리에게 무료 e-mail과 무료로 소통할 수 있는 편리한 플랫폼을 제공해 주고 그 댓가로, 소중한 천부적 권리, 즉 우리가 주체적으로 우리의 데이터를 제공해 주고 정보를 제공 받을 자기결정권을 빼앗아 간다는 것입니다. 글로벌기업의 수익생산모델을 극대화 하기 위해 우리의 위치정보, e-mail 컨텐츠, facebook에 올렸던 글과 사진 등이 빅데이터로 수집되고, 그 데이터 분석을 통해 생산된 소비 정보제공이 우리의 미래 행동을 우리도 모르는 사이에 지배하게 될 때, 우리는 자주적 의사 결정권을 빼앗기게 된다는 것입니다.
신학에서 말하는 하나님은 전지전능합니다. 모든 사람과 사물의 본질을 파악하고 있습니다. 각 개인의 필요와 생각을 알고있습니다. 모든 것을 파악하고 있으므로, 개개인이 어떤 상황에 어떻게 행동해야 모두에게 선이 되는 결과를 낳을 지도 다 알고있습니다. 그러나 하나님은 개개인의 인간에게 자기결정권을 부여하였습니다. 선과 악을 가르쳐 주었지만, 어떤 행동을 선택할 지 그 결정은 각자 개인의 판단에 맡겼던 것입니다. 왜 그랬을까요? 왜 모두가 선하게 행동하도록 우리 머릿속을 프로그램해서 강제하지 않았을까요? 만약 그렇게 했더라면, 이 세상의 모든 부조리와 악행은 사라지지 않았을까 라는 생각을 할 수 있습니다. 하나님은 자신의 형상 데로 사람을 만들었습니다. 하나님은 자기 결정권을 갖고 있습니다. 그래서, 사람도 자기 결정권을 갖게 한 것입니다.
글로벌 기업이 데이터수집과 인공지능 분석을 통하여 우리의 자기 결정권과 사생활을 침해 받지 않을 권리 와 같은 소중한 것들을 빼앗아 가게 그냥 보고 있을 수 만은 없습니다. 자주적으로 행동하고 사고하는 인간이 아닌 감시 통제의 대상자로, 데이터를 생산하는 Things중 하나인 존재 쯤으로 우리를 전락시키고 있지는 않은지 경계해야 합니다. 과학기술 발전은 지식의 지경을 높여주고 인류가 한 단계 진보할 수 있는 기회를 제공합니다. 과학 기술의 발전이 인간의 존엄성과 기본권을 증진하는데 더욱 기여할 수 있도록 건전한 질서를 만들어 가는 것은 우리의 몫입니다.
끝.