유럽의 노동운동은 알고리즘적 감시에 어떻게 대응하고 있을까?

노동자 개개인의 생리적 측면이나 감정까지 데이터화해 수집/분석하며 감시하는 기업들. 이에 그치지 않고 노동자의 데이터를 집적해 이윤을 축적하는 자본에 대항하는 유럽 노동자들의 투쟁!

※ 2021/12/9에 있었던 [국제 세미나] 신기술을 활용한 디지털 노동 감시에 대한 대응의 발표 내용을 편집한 영상입니다. 발표문 등 자료는 ☞ https://act.jinbo.net/wp/45092/

---

우리는 노동자들이 감시되고 있다는 걸 압니다.

불법적인 감시 도구에 의해서 말이죠. 

그리고 우리 혹은 노동자들의 데이터가 사용되고 있다는 것도 압니다.

이를 보여주는 극명한 사례들도 이미 있고요.

때문에 감시가 가시적이지 않더라도

유럽 당국과 세계 당국은 이에 대해 조치를 취해야 합니다.

감사합니다. 안녕하세요.

저는 '알고리즘적 노동감시' 혹은 'AI 시스템에 의해 구동되는 노동감시'라고 불리는

새로운 현상에 대한 발표를 준비했습니다.

우리는 노동감시가 매우 오랫동안 행해졌음을 알고 있습니다.

새로운 현상이 아니죠.

노동감시는 누군가가 다른 사람들을 쳐다보고 있고

그 다른 사람들은 감시받는 중임을 눈치채지 못하는 현상으로 여겨졌죠.

그러나 이제 우리가 보듯

쳐다보는 것, 즉 모니터링 행위와 AI 시스템에 구동되는 기능 간의 결합으로

단순한 모니터링에 비해 감시가 훨씬 더 강력해졌습니다.

이런 트렌드가 어떻게 진화해 왔는지

'딜로이트'라는 회사가 해온 작업을 통해 보여주고 싶습니다.

'인력 분석 툴(people analytics)'은 2011년부터 폭발적으로 발전해

더욱 정교한 인력 분석이 가능해지고 있습니다.

이런 데이터에 기반한 '인력 분석 툴'의 채택이 전 세계적으로 증가하고 있습니다.

한국은 물론이고 미국, 유럽, 남미 등 곳곳에서 볼 수 있는데

이는 노동자를 감시하는 데만 쓰이는 게 아니라

노동자들에게서 중요한 데이터, 개인정보를 추출해 내기도 하고,

회사의 이윤에도 기여합니다.

계약 세부 사항에 노동자의 데이터 추출에 관한 내용이 들어가 있지 않기 때문에

법적인 공백이 있습니다.

특정 부문에 국한된 노동감시 문제만이 아닌 것입니다.

이제 더 효율적인 감시 기술로

일련의 기술과 분석 속성을 조합해

이제 조직에서 강력한 의사 결정을 내리고

다양한 데이터를 관리자에게 넘길 수 있게 된 것입니다.

저는 23개의 다양한 소프트웨어를 분석해 보았습니다.

'마이크로소프트 365'는 제외했고요.

제가 인터넷에서 찾은 이 소프트웨어들은

클릭 한 번으로 쉽게 살 수 있고

저든 여러분이든 아무나 구입할 수 있습니다.

설치도 쉽고요.

그렇게 비싸지도 않아요.

데이터 분석 측면에서 정말 흥미로운 기능들을 제시하고 있습니다.

그런데 제가 또 굉장히 놀란 점은 마켓팅 아이디어들,

고용주에게 제품을 판매하려는 방식이었습니다.

이들 소프트웨어는 양적 데이터인 이메일, GPS도 모니터하지만

예를 들어 건물이나 창고에 들어가는 것과 같이

생체인식정보도 관찰하고 측정합니다.

또 언어에 대한 의미론적 분석도 하는 데다

심지어 감정과 행동도 분석합니다.

그렇게 사람의 생리적 측면, 태도, 감정을 관찰/측정하는 것은 불법입니다

아무 상관 없는 내용이니까요.

이와 같은 형태의 감시는 단순한 모니터링의 차원을 넘어섭니다.

팬데믹은 이 시장을 더 크게 만드는 데 좋은 핑곗거리였습니다.

두 가지 우려 지점이 있습니다.

먼저 이런 기술들로 노동자의 데이터를 취하는 메커니즘이 우려되고

두 번째론 기술의 사용 자체가 우려됩니다.

이 메커니즘은 실제 수집된 데이터의 분석 및 해석에 연관됩니다.

수집한 데이터 사이를 연결하고 패턴을 만드는 것을 통해

데이터를 매우 강력하게 만듭니다.

새로운 지식을 무상으로 갖게 됐습니다.

다른 한편, 기술의 사용 그 자체의 문제입니다.

구글에서 그냥 검색만 해도 무료 프로그램이 많습니다.

근데 이게 신뢰할 수 있는 기술인지 여부는 알 수 없습니다.

제조사가 유효성 검사를 했는지,

데이터 수집과 관리를 편향적이지 않게 하는지도 알 수 없습니다.

이들 소프트웨어가 개인정보 영향 평가, 투명성 및 책무성을 지켜서

개발되었는지 여부는 웹 사이트에 공개되지 않았기 때문에

알 수 없는 게 당연하죠.

그리고 예를 들어, 앞서 말했듯이

마케팅이 상당히 흥미진진합니다.

예를 들어 "근무 태만 직원 몰래 식별하는 방법"이라든지

"직원 수십억 명의 데이터 포인트를 행동으로 전환하세요"라든지

"직원들의 목소리를 자동으로 측정해"

"직원들의 감정을 제대로 알 수 있다면 어떨까요?"라든지요.

이건 제가 인터넷에서 모은 예시들인데요.

직원의 목소리를 측정하고 감정을 반영하기, 실시간 모니터링하기

정기적으로 노동자 모니터링하기 등등

프로그램이 상습적 지각생을 찝어내는 것부터

파업을 일으킬 수 있는 노동자를 찾아내는 것까지 뭐든 하겠다고 광고합니다.

이는 노동자를 향한 매우 강력한 진술로

기본적으로 노동자를 인간이 아닌 물건으로 여기는 거죠.

유럽에는 자동화된 의사결정에 대한 권리가

GDPR(유럽개인정보보호법)에 따라 대두되고 있습니다.

인간은, 혹은 노동자는 완전히 자동화된 의사결정의 대상이 될 수 없으며 

의사결정 과정의 어딘가에 사람이 있어야 한다는 것입니다.

좋은 얘깁니다, 저는 진심으로

이 권리를 행사하는 데 정말 좋은 기회라고 생각합니다.

그러나 이 권리에는 '어떻게'에 대한 부분이 없습니다.

GDPR은 노사관계에서 이 권리를 어떻게 행사할지에 대한 규정이 없습니다.

그래서 이행하기가 매우 어렵습니다.

요는 알고리즘적 노동감시가,

전에는 그냥 수면 위를 스캔하는 수준의 레이더였던 것이

이제는 수면 하에서 일어나는 모든 것에 대한 3D 이미지를 구축할 수 있는

훨씬 강력한 수중 음파 탐지기로 전환되고 있다는 것입니다.

단순히 수동적인 모니터링에 그치지 않고

노동자의 사생활을 긁어모으는 겁니다.

유감스럽게도 노동자에 대한 이미지를 구축하고 결정을 내리는데

그 이미지는 절대 사실이 아닐 것입니다.

당신이 어떻게 느끼고 행동할 지에 대해 기계가 수행하는 가정은

실제로 사람이 느끼고 행동하는 것과 결코 일치하지 않기 때문입니다.

GDPR에는 '사전 동의'에 대한 규정이 있습니다.

그런데 법도 매우 명확하고

유럽 규제 당국도 2017년 이래 매우 명확히 해온 것인데요,

이러한 사전 동의는 직원의 개인정보를 수집하고

처리하기 위한 유효한 법적 근거로 간주될 수 없습니다.

너무 당연한 겁니다.

절대적으로 힘이 불균형하니까요.

노동자는 절대 사업주에게 자유롭게 동의하거나 안 하거나 할 수 없습니다.

유럽에선 '사전 동의'로는 안 됩니다.

사업주가 개인정보를 수집하려면

수집을 위해 다른 법적 근거를 찾아야 합니다.

유럽의 규제 기관은

노동자 개인정보 수집이 합법적인지 여부를 판단하기 위해

고용주가 비례성 테스트를 수행해야 한다는 입장입니다.

그리고 여기에 노동조합의 개입력이 생깁니다.

비례성 테스트에 고용주와 함께 노조가 참여해야 합니다.

2020년 '삶과 노동 조건에 대한 유럽 재단'이라는 단체는

유럽의 고용주를 대상으로 설문조사를 실시했습니다.

데이터 분석툴을 사용하고 있는지

노동자를 모니터링하고 있는지였습니다.

보시다시피 유럽연합 27개국과 영국에서

모든 고용주가 직원들을 모니터링하는 소프트웨어를

사용하고 있다고 답변했습니다.

데이터 분석을 수행해서 노동자의 실적도 모니터링하고요.

어느 분야에서 데이터 분석툴을 쓸까요?

운수 부문에서 더 일반적으로 쓰이고 있다는 걸

지난 수년간의 경험으로 잘 알고 있는데요.

뿐만 아니라 제조업, 소매업, 식품 및 숙박 시설을 포함한 산업은 물론

건설 및 금융 서비스업에서도 데이터 분석툴이 사용되고 있습니다.

기본적으로 유럽의 모든 산업 부문에서

노동자 모니터링 툴을 사용하고 있습니다.

그러나 노동자에 대한 이러한 모니터링은 국내법으로 규제됩니다.

하지만 각 국내법에서 사람 분석이나 알고리즘 기술과 같은

신기술은 규제 대상이 아닙니다.

보여드리고 싶은 설문조사가 하나 더 있는데요

사업장 내 노동감시를 심화하는 신기술에 대해

유럽노총이 실시했던 설문조사입니다.

오스트리아, 벨기에, 이탈리아, 독일, 노르웨이, 스페인, 영국의 노조들과

기타 노동조합 연맹을 대상으로 했습니다.

그러나 우리는 이러한 기술이 정확히 어떻게 작동하는지에 대한 답변은 듣지 못했습니다.

사측이 노동조합에 알려주지 않으니 모를 수밖에요.

이런 기술이 어디까지 가능한지 알기 매우 어렵습니다.

이런 기술이 어디 배치돼 있는지도 모르고요.

그래서 저는 심층 인터뷰를 더 나눴습니다.

항상 대답이 같습니다. "무슨 일이 일어나고 있는지 우리는 알 수가 없다."

"정보를 얻어내기 너무 어렵다."

"매우 복잡한 그림이 있는데"

"경영진이 우리에게 알려주지 않기 때문에 우린 알 수가 없다."

그리고 "맞다, 우리는 불안하다"

"스트레스가 늘어나고"

"웰빙에도 악영향을 미친다"

그 외에 유럽에서 유럽 노동조합은 사회적 파트너와

일종의 집단적 방식으로 이 문제를 해결하고 있습니다.

2020년 "디지털화에 대한 사회적 파트너 프레임워크 협정"이 제정됐습니다.

이 협정에는 감시에 한 장이 할애돼 있습니다.

다른 유럽 노동조합총연맹들 또한 감시를 허용해서는 안 되며

규제해야 된다는 입장을 발표했습니다.

그리고 물론 이것은 유럽연합 집행위원회가 제정할

인공지능 규제 법안에 의해 규제돼야 합니다.

이 법안은 고위험 인공지능 시스템을 규제하기 위한 것입니다.

그 밖에도 국내적 차원에서 노동감시에 맞서는

여러 노동조합 이니셔티브들이 있습니다.

결론을 말씀드립니다.

노동감시는 여러 측면에서 고도화되고 있고

노동자들의 삶을 전 분야에 걸쳐 완전히 재편하고 있습니다.

감시는, 특정한 업무를 하는 노동자로서만이 아니라

인간으로서의 삶 자체에 영향을 미칩니다.

우리가 소셜 미디어를 사용할 때 행동하는 방식,

디지털 기술을 사용할 때 우리가 느끼는 방식,

우리가 행동하는 방식은 영향을 받을 수밖에 없습니다.

감정을 감시당하기 때문입니다.

그리고 노동의 범주를 넘어서는 결과와 위험이 있습니다.

법으로 이를 포착할 필요가 있고요.

예를 들어 특정 행동, 코로나 등 질병 감염과 관련된 건강 문제를 공개하거나

감정이나 사생활, 존엄과 자율성을 훼손하고

가장 중요하게는 자유와 기본권을 제한합니다.

이것은 인간성이 말살된 노동을 초래할 수 있습니다.

법률가로서, 노조 활동가로서 우리는 이를 재고해 봐야 합니다.

그리고 물론 곧 제정될 유럽의 AI 규제법에

우리가 꼭 넣어야 할 것은

AI 시스템이 노사관계의 맥락에서 구체적으로 규제되어야 한다는 것입니다.

지금 초안은 그렇지 않거든요.

지금 법안은 충분히 이를 다루지 않고 있습니다.

우리는 노동자 주체성이 반영될 수 있도록

유럽연합 집행위원회 및 의회와 협상해야 합니다.

그렇습니다!

왜냐면 2020년에

독일 함부르크에 있는 개인정보 감독기관은

H&M이라고 큰 패션 업체를 아실텐데요,

3,500만 유로(약 480억 원)의 벌금을 부과했습니다.

엄청 큰 액수인데요.

H&M의 콜센터였는데요,

경영진이 노동자를 감시하고 있었습니다.

직원들이 모르는 사이에 감시한 것도 모자라

관리자들은 그렇게 취득한 정보를 사용해서

징계에 활용하기도 했고

매우 사적인 데이터를 노출시키기도 했는데

노동자들은 이에 대해 알 수 없었습니다.

이 사건 언론에 보도됐고

그 덕에 유럽 개인정보 감독기관이 H&M에 대한 조사에 착수했고

조사 결과 노동자에 대한 불법 감시가 있었다는 사실이 밝혀졌습니다.

그 결과 H&M은 벌금형도 선고받았지만

노동자들에게 보상할 의무도 지게 됐습니다.

이것은 GDPR이 실제로 효과가 있다는 것을 보여주는

환상적인 케이스입니다.

또한 노동자들에겐 매우 강력한 권리가 있지만

권리를 행사해야만 함을 보여줍니다.

나는 항상 유럽의 노동조합들에

GDPR 상의 권리를 행사하도록 권장합니다.

굉장히 중요한 주제입니다.

암스테르담 법원에 영국 우버(Uber)를 상대로 한

사건이 계류 중인데요,

일부 라이더들이 데이터 관리로 인해 해고되었음을 알게 됐습니다.

이것은 라이더가 자신의 개인정보에 대한 접근을 요청하고

자신의 데이터가 뭐에 근거해서 사용되고 모아져서

의사결정에 사용됐는지 요구한 첫번째 법원 사건입니다.

기본적으로 GDPR 22조에 근거한 권리를 행사한 건데요,

GDPR의 22조는 요약하자면 자동화된 의사결정과 관련된 조항입니다.

법원은 일단은 노동자가 데이터에 접근권이 있다고

좀 긍정적으로 판단하고 있는데요

그러나 이 권리 행사에는 4가지 조건이 있습니다.

그 중 하나가 자동화된 의사결정 과정 어딘가에 사람이 꼭 개입해야 한다는 건데,

우버는 현재 그 과정에 사람이 개입돼 있다면서

라이더들의 주장이 옳지 않다고 주장합니다.

우버가 데이터를 집합적으로 사용했다는 걸

우리가 입증하기는 매우 어렵습니다.

그렇게 사용한다는 걸 우리가 다 알고 있는데도요.

알고리즘이 그렇게 작동하려면 말이죠.

집합적 데이터에 접근할 수 있는 실제 메커니즘을 갖는 것은 매우 어렵습니다.

우버가 노동자한테 주질 않거든요.

하지만 법원에는 제출합니다.

현재 기본적인 메커니즘은

재판이 시작되고, 판사가 사측에 집합적 데이터 제출을 요청해야 하는 겁니다.

현재 노동 조합에겐 쉽게 고용주에게 집합적 데이터를 요구할 수 있는

메커니즘이 없습니다.

노조는 집합적 데이터에 접근하기 위한

아이디어를 내거나 회사와 합의를 봐야 합니다.

집합적 데이터가 노동자들 개인 데이터를 기반으로 했을 경우에 말이죠.

하지만 쉽진 않을 것입니다.

유럽에는 지금 공백이 있습니다.

노사관계라는 맥락에서의 개인정보보호에 대해

개인정보 감독기관과 노동조합 사이에

포괄적인 논의가 없기 때문입니다.

그래서 여러분의 의견을 많이 듣고 싶습니다.

왜냐하면 유럽에는 개인정보와 프라이버시를 보호하는

GDPR이라는 훌륭한 법이 있지만

노사관계라는 맥락은..

개인정보 감독기관이 잘 모르는 영역인 것입니다.

노사 문제는 노동부의 영역인 거죠.

그래서 우리는 개인정보 감독기관과 노사관계라는 맥락을 연결해

노동현장에서 실제로 무슨 일이 일어나고 있는지

그들이 배울 수 있도록 해야 합니다.