감시문화: David Lyon의 저서를 읽고

아마존 킨들 판의 표지 갈무리, 2018, Polity Press

그다지 읽기 쉬운 책은 아니었다. 그러나 적어도 우리가 사는 세상 혹은 앞으로 다가올 세상의 모습에 관심이 있는 사람이라면 충분히 읽을만한 가치가 있는 책이었다. 왜 그런가?

한 마디로 현재 우리에게는 감시(surveillance)에 관해 조지 오웰의 소설 <1984>로 대표되는 감시국가(surveillance state)를 넘어서는 새로운 관점이 필요한데, 이 책은 바로 그 필요를 충족시켜주기 때문이다. 저자인 데이비드 리욘 교수는 감시를 바라보는 관점이나 인식을 감시 상상 프레임 surveillance imaginaries이라고 부르는데, 그는 오늘날의 감시 현상을 포착하는데 적합한 새로운 감시 상상 프레임(아래에서는 간략히 감시 프레임이라고 부르겠다)인 ‘감시문화’를 제공하고 있다.

다수의 학자들이 감시국가 프레임이 오늘날의 감시 현상을 이해하는데 충분치 않다는 점을 지적하고 있으며 나도 그렇게 생각하고 있다. 리욘 교수가 제안하는 감시 문화(surveillance culture)라는 개념은 감시국가나 감시사회를 포용하면서 그것을 넘어서서 보다 포괄적이며 보다 현실적합한 이론적 구성물이라고 판단된다. 이 책은 그러한 개념을 제시하는 저서인데 그것으로 충분한 읽을만한 가치가 있지 않겠는가. 더구나 리욘 교수는 뛰어난 사회학자이면서 수십년 동안 감시에 대해 연구해 오지 않았던가.

감시국가, 감시사회, 감시문화

소설 <1984>는 빅브라더(Big Brother)로 불리는 전제국가(totalitarian state)의 전방위적 감시를  묘사하고 있다. 오세아니아라는 국가의 정부는 텔레스크린이라고 불리는 일종의 쌍방향 TV(CCT 포함)를 이용하여 국민들을 끊임없이 감시한다. 국가적 입장에서는 불법적 행동 혹은 반국가적 행위를 적발하기 위해서이고 국민의 입장에서 보면 자유와 사생활을 억압하기 위해서이다.

리욘 교수에 의하면, 감시에 관한 우리의 상상은 20세기를 통털어 ‘빅브라더’라는 감시 프레임(surveillance imaginary)에 의해 규정되어 왔다. 미국의 CIA나 NSA, 각국의 정보기관 혹은 수사기관이 범법자, 이민자, 넓게는 국민을 감시한다는 인식이 감시에 관한 우리의 상상을 붙들어놓고 있었다는 것이다. 그 프레임에서 감시란 훈련된 전문가들이 전문기술을 사용해서 범죄 예방이나 국가 안보, 혹은 정치적 탄압을 목적으로 특정인 혹은 일반인을 일방적으로 모니터링하고 추적하는 행위를 의미한다.

21세기에 들어오면서 정부가 아닌 민간 기업이나 민간 기관에 의한 감시가 점차 사회적 쟁점으로 등장했다. 인터넷과 휴대폰 같은 디지털 정보기술의 확산으로 기업들이 마케팅, 영업, 혹은 고객 서비스를 위해 대규모의 CCTV, 신용카드 정보, 회원 명부, 검색 기록 등을 이용하거나 거래하게 되면서 감시에 대한 보다 포괄적인 개념이 필요하게 되었고 ‘감시사회’라는 개념이 그 요구에 어느 정도 부응하였다.

리욘 교수에 의하면 지난 10여년 동안에 벌어진 소셜미디어의 등장과 확산은 다시 한번 ‘감시’의 성격을 바꾸어 놓았다. 특히 트위터나 페이스북 같은 SNS의 확산이 미친 영향이 지대했다. 소셜미디어는 감시의 일상화(normalization)를 초래했다. 자신의 개인정보를 노출하고 타인의 노출된 개인정보를 들여다보는 일은 많은 사람들의 일상이 되었다. 기가. 개인은 감시의 대상이고 동시에 감시자가 되었다. 감시는 국가의 정치적 억압이나 기업의 돈벌이 수단을 넘어서 일반인들의 재미, 정체성 추구, 혹은 시간죽이기의 중요한 일부가 되었다. 과거와는 감시의 개념이 달라졌다. 감시는 더 이상 전문기관 혹은 기업 혹은 특별한 전문가가 수행하는 전문적 혹은 업무적 행위만이 아니고 일반인들도 늘 실행하는 행위가 되었다. 소셜미디어에서 보듯이 감시 대상자가 감시에 관여하고 심지어 감시자가 된다. 다시 말해 감시자와 감시 대상의 구분이 애매해 진 것이다.

리욘 교수는 그러한 상황을 ‘감시문화(surveillance culture)’라는 개념으로 포착한다. 그는 감시가 정보기술문명의 문화 코드가 되었다고 인식한다. 사물인터넷(Internet of things), 스마트시티와 같이 사람들의 일상은 물론이고, 정부와 기업의 운영이 정보기술기반 위에서 돌아가는 시대에 감시는 텔레스크린이나 개인정보유출 사고 때 지녔던 억압적 뉘앙스를 잃고 편리와 안전, 그리고 재미를 위해 불가피하게 감당해야 하는 일상이 되었다는 것이다.

물론 그렇다고 그가 정치적 통제를 위한 국가의 감시나 이윤을 위한 기업의 감시가 자닌 엄중함을 가볍게 여기는 것은 아니다. 그는 그러한 감시가 시민적 저항이나 사회적 제어를 벗어나면 언제든 부메랑이 되어 우리의 사생활을 침해하고 우리는 자유를 위협할 것이라고 시사한다. (2021-07-10)

AI 감시의 시대

AI는 개인적인 문제은 물론이고 사회적인 과업, 나아가 국가적인 난제를 풀어가는 해결사로 기대를 모으고 있다. 그러나 AI를 제대로 작동하도록 훈련시키기 위해서는 감시(surveillance)가 필수적이라는 사실은 그다지 부각되지 않고 있다. AI에 대한 높은 기대에 가려진 것이다.

AI 감시는 두 가지 의미를 가지고 있다. 하나는, AI(즉, 알고리즘)가 현실에 응용되기 위해서는 먼저 훈련되어야 하는데, AI 훈련에는 대량의 훈련 데이터가 요구된다는 의미이다. 그 데이터는 대상에 대한 감시를 통해서 습득된 데이터인 경우가 대부분이다. 훈련과정에 현실적합성이 높은 양질의 데이터를 많이 사용할수록 AI는 잘 학습된다. AI가 과업을 잘 수행하게 된다는 말이다. 예컨대 날씨를 예측하는 AI는 양질의 기후 데이터를 많이 사용하여 훈련될수록 날씨를 정확히 예측하는 AI가 될 것이다. 또한 종업원의 고객 서비스를 예측하는 AI는 각 종업원의 고객 응대 데이터가 많이 수집되어 있을수록 종업원 개개인의 고객 서비스를 잘 예측할 수 있을 것이다.

다른 하나는, AI가 팬데믹 관련해서 사람들의 행동을 감시하고 신속하게 처리하는 수단으로 사용된다는 의미이다. 최근의 코로나 19 팬데믹에서 목격되고 있듯이 AI는 다양한 목적으로 활용된다. 예컨대 대중교통을 이용하는 사람들이 마스크를 착용하고 있는지를 감시하는데 사용되기도 하고 광장에서 사람들이 규정에 맞게 거리두기를 하고 있는지를 감시하는데 사용되기도 한다. 또한 재택근무나 원격근무하는 종업원들이 업무시간에 무엇을 하고 있는지 어떻게 행동하고 있는지를 감시하는 도구가 되기도 한다.

한 마디로 AI 감시란 AI 활용을 위한 감시를 의미하기도 하고 AI의 활용을 통한 감시를 의미하기도 한다. AI와 관련해서 개인정보보호와 프라이버시를 논의하려면 그 두 가지 측면의 감시(surveillance)를 모두 고려해야 할 것이다.

참고문헌

Melissa Heikkila. 2021/05/26. “The rise of AI surveillance”. POLITICO.EU.