네트워크에 접속한 당신은 엄청난 양의 데이터를 삶의 자국으로 남긴다
데이터로서의 우리의 의미를 '누가' 해석하는가?

네트워크화된 사회에 사는 우리는 “데이터로 가득 채워져” 있다. 스마트폰에서 간단한 웹 검색만 하더라도 새로운 긴 데이터 기록이 만들어진다. 여기에는 당신이 처음 검색한 용어, 당신 폰의 위치, 당신이 검색한 시각과 날짜, 당신이 이전 / 이후에 검색한 용어, 당신 폰의 운영체계, 당신 폰의 IP 주소, 심지어 당신 폰에 어떤 앱이 설치되어 있는가 하는 것도 포함된다. 이렇게 집계되는 우리 생활의 데이터는 우리의 디지털 환경에 대한 담론의 지형을 만든다. 이러한 범주적인 결과물이 온라인상에서 당신의 정체성이 된다. 우리가 남긴 데이터의 자취 그리고 그것에 대한 구글이나 페이스북 등의 분석에 따라 우리는 온라인상에서 유명인이 될 수도, 범죄자가 될 수도 있다. 우리의 알고리즘적 정체성이 분分마다 바이트마다 입력하는 것에 따라 달라지기 때문에 우리는 온라인상의 우리 정체성을 실제로 알 수도 없다. 즉, 온라인상의 당신은 당신이 생각하는 당신이 아니다.

당신도 모르게 알고리즘이 당신 세계의 윤곽을 결정한다
우리의 정체성은 우리에게 유용한 것이 아니라 다른 누군가에게 유용하다.

우리의 웹 서핑surfing 데이터, 우리의 얼굴 데이터, 심지어 우리의 친구관계 데이터에 대한 알고리즘의 해석이 온라인상의 정체성에 대한 새로운 독특한 규칙을 설정한다. 그리고 우리의 알고리즘적 정체성은 바로 이러한 규칙을 통해서 만들어진다. 여러 방식의 알고리즘적 처리를 통해 우리의 데이터는 우리가 직접 참여하지 않거나, 우리가 알지 못하거나, 혹은 흔히 우리의 동의 없이 범주적 의미를 할당받는다. 그리고 이러한 식별은 우리의 삶에 다시 영향을 미친다.

이 모든 것이 말하고자 하는 바는 구글과 같은 회사들이 그들의 알고리즘과 우리의 데이터를 사용해 우리의 현재와 미래에 엄청난 힘을 행사하고 또 앞으로도 계속 행사할 역동적인 지식의 세계를 만들어낸다는 것이다. 그리고 우리 역시 계속해서 데이터로 가득 차 있을 것이기 때문에, 이러한 알고리즘의 논리는 이 세계뿐만 아니라 우리도 만들어낸다._ 51쪽

데이터 오류조차 당신을 나타내며, 그 오류가 다시 당신을 규제한다
“만약 그것이 원칙적으로 측정할 수 없거나 측정되어 있지 않다면, 그것은 존재하지 않는다.”

데이터는 당신의 미소를 유형화하면서, 당신의 눈을 형성하는 화소들을 해석하여 판단한다. 인간의 정서가 데이터화하는 것이다. 우리의 정서는 ‘원자를 비트로 바꾸는’ 것만으로는 설명할 수 없는 것들을 가지고 있지만, 데이터에 의해 나타내지고 규제되기까지 한다. 데이터가 백인의 얼굴을 기준으로 할 경우 흑인의 존재는 오류를 일으키며, 데이터가 당신의 몸상태를 해석함에 따라서 당신은 지금 아픈데도 아프지 않은 사람으로 분류된다.

당신은 이전에는 HP의 얼굴 인식 알고리즘에 따라 인식되지 않을 수도 있었지만, 사무실 전등을 새로 구입하자 이제 HP는 당신의 ‘얼굴’을 알아본다. 그리고 어떤 이용자가 한 웹사이트에서 다른 웹사이트로 옮겨 다님에 따라, 그 이용자는 92% ‘남성’에서 몇 초 안에 88% ‘남성’으로 바뀔 수도 있을 것이다. 오늘 당신에게 보이는 이 세계의 모습과 오늘 오후 당신이 누구인가로 보이는 것은 당신이 어젯밤에 한 것에 대한 데이터화된 스크랩으로부터 구성된다. _ 54쪽

당신은 감시당하고 있지만, 감시의 성질은 재구성된다
데이터화된 세계에서 프라이버시의 규칙은 우리의 데이터가 유용해지는 방식에 대한 규칙이다

구글, 마이크로소프트, 야후!는 모든 이용 가능한 데이터로 그들이 동시에 전유專有하고 있는 디지털 왕국을 건설했고 그러한 왕국에 자금을 제공할 수 있었다. 구글은 우리를 “지켜보고” 있지만, 우리 역시 프라이버시에 대한 공식적인 권리를 포기시키는 서비스 계약 조건을 제멋대로 서둘러 받아들이면서 구글 서버에 자발적으로 로그인하고 있다. 이것은 분명 일종의 감시지만 무언가 다른 점도 있다. 이것은 감시와 감시 대상의 성질을 재구성한다. 우리는 구글과 마이크로소프트 그리고 NSA 등에게 감시당하고 있지만, 감시당하는 것은 우리의 자기self가 아니라 우리의 데이터이다. 데이터는 그 자체만으로는 아무런 중요한 의미를 지니지 않는다. 중요한 의미를 지니려면, 데이터는 반드시 유용하게 만들어져야 한다. 따라서 우리는 우리의 데이터에 따라 만들어지는 것이 아니라 그러한 데이터의 해석에 따라 만들어진다.

디지털 시대의 데이터, 새로운 알고리즘적 정체성 톺아보기
1장 ‘범주화: 데이터 유용하게 만들기’

1장에서는 알고리즘 사용 방법, 즉 컴퓨터가 데이터의 패턴을 통해 범주를 만드는 방법에 중점을 둔다. 이 범주들은 저자가 측정가능형으로 부르는 이 세계에 대한 알고리즘적으로 코드 변환되는 아이디어들을 구성한다. 알고리즘은 마법적이지도 않고 신비롭지도 않다. 그 대신, 알고리즘은 매우 복잡하지만, 매우 흥미롭기도 한 서로 다른 기술의 무리를 통해 데이터를 유용하게 만들고, 그런 다음 서로 다른 알고리즘적 정체성을 만들어낸다.

2장 ‘통제: 알고리즘이 당신을 쥐락펴락할 거야’

2장에서는 “시간이 지나면서 빠르게 계속 변하는 자기-변형self-deforming 주형鑄型; mold처럼, 혹은 시시각각 체 눈의 모양이 변하는 체처럼”으로 정의된 질 들뢰즈의 변조 개념을 중심으로 진행된다. 변조 개념의 도움을 받아 필자는, 우리가 온라인에서 만들어내는 넘쳐흐르는 데이터가 통제의 한 유형이 실행되게 하는 데 도움을 주는 방식을 이론화한다. 이러한 유형의 통제는, 전통적인 권력 행사 방식을 일부 학자들이 “통제 없는 통제”라고 불렀고, 저자는 부드러운 삶정치soft biopolitics로 부르는 것으로 대체한다. 이러한 부드러운 삶정치는 우리의 직접적인 참여나 인식 없이 우리의 알고리즘적 정체성이 삶을 규제할 수 있는 방식을 기술한다.

3장 ‘주체성: 그들은 당신이 누구라고 생각하는가?’

3장에서는 알고리즘이 알고리즘적 온라인 생활에 고유한 방식으로 사람들을 주체로 만드는 방법을 탐구한다. 우리의 데이터화된 주체 관계는 오직 데이터를 통해서 수행되며, 데이터는 이러한 급진적 비고정성이 고정되는 곳이다. 우리는 분명 데이터 외부의 권력 관계에 저항할 수 있지만, 만약 그러한 저항이 우리의 알고리즘적 정체성 식별을 거부하고자 하는 것이라면 그것은 반드시 데이터의 규칙 위에서 이루어져야 한다. 물론 이것은 우리가 문자 그대로 데이터로 만들어져 있기 때문이 아니라, 데이터가 이러한 권력의 알고리즘 체계가 알아볼 수 있는 유일한 것이기 때문이다.

4장 ‘프라이버시: 죽은 프라이버시든 산 프라이버시든 원해’

4장에서는 감시 시대에 프라이버시가 가능한지에 대한 질문을 던진다. 저자는 프라이버시가 프라이버시는 그저 당신이 자신의 이메일에 비밀번호를 설정해 놓았는지 혹은 욕실 내 화장실에 문이 있는지에 대한 것이 될 수 없다고 주장한다. 프라이버시는 편재적 감시에 내재해 있는 체험된 제약과 통제에 대한 실질적인 대응이어야 한다. 저자는 ‘혼자 있을’ 자유가 데이터화된 알고리즘 세계로 어떻게 변환될 수 있는지에 특히 초점을 맞춘 ‘분인 프라이버시’ 개념을 이론화한다.

결론: '기계 속의 유령'

결론에서 저자는 “기술적 미래주의의 특이점은 결코 도래하지 않을 것이다. … 왜냐하면 그것은 이미 어느 정도 여기에 있기 때문이다”라고 주장한다. 온라인에서 우리는 데이터에 따라 만들어지고, 읽히고, 해석되며, 이해될 수 있다. 우리의 세계와 우리 세계에 의미를 가져다주는 지식이 점차 데이터화되어 감에 따라 우리는 역동적이고, 소프트-코딩soft-coding되며, 변조되는 측정가능형들의 데이터화된 규칙 속에서 이해된다. 우리가 편재적 감시로 인해 현재 만나게 되는 것들은 저자가 부드러운 삶정치라고 부르는 권력과의 새로운 관계를 시사한다. 그리고 그로 인한 편재성遍在性과 새롭게 나타나는 이러한 서로 다른 유형의 지식 구성으로 인해 우리는 주체성이 어떻게 기능하고 프라이버시가 실질적으로 방어할 수 있는 것이 무엇인지 다시 생각해 보지 않을 수 없다.

도입
1. 데이터의 규칙에 따라 2. 데이터 전쟁과 데이터감시 3. 우리의 알고리즘적 정체성 4. 방법론 5. 이 책에 대한 개관

1장_ 범주화: 데이터 유용하게 만들기
1. ‘건초 더미’ 속의 ‘바늘’ 2. 측정가능형 정의하기 3. 알고리즘적으로 측정가능형 정의하기 4. 재즈를 학습하는 기계 5. 데이터가 무언가를 의미하도록 만들기 6. 소결론

2장_ 통제: 알고리즘이 당신을 쥐락펴락할 거야
1. 알고리즘적 조절과 통제 2. 커피와 데이터감시 3. 측정가능형의 삶정치 4. 알고리즘적 조절로서의 인공두뇌학 5. 부드러운 삶정치 6. 측정가능형의 중심 찾기 7. 소결론

3장_ 주체성: 그들은 당신이 누구라고 생각하는가?
1. 알고리즘적 ‘시민권’ 2. 알고리즘적 보간補間에 관하여 3. “너와 함께, 검둥이들과 부모님들” 4. ‘우리’는 데이터다 5. 사회적인 것의 중요성 6. 엘스 7. 소결론

4장_ 프라이버시: 죽은 프라이버시든 산 프라이버시든 원해
1. 프라이버시, 여기 편히 잠들다 2. 프라이버시의 법적 유산 3. 알레고리즘 4. 절차적 분인 적법 절차 5. 지버리시와 난독화 6. 분인 프라이버시를 향해 7. 분인 프라이버시는 어떤 모습인가? 8. 불가능성 9. 소결론

결론_ 기계 속의 유령
1. 프라이버시와 사유화 2. 기계 속의 유령 3. 알고리즘 논리의 미래 4. 우리는 데이터다