하란

본문

미국에서 난민 신청자들의 진술을 통역하는 데 AI 기계번역을 쓰고 있대요. 그런데 아주 사소한 오역 때문에, '말을 바꿨다'며 난민 심사에 떨어뜨리는 일이 발생한다네요. 전문가들은 자동 번역이 관용구, 문화적인 뉘앙스, 사투리, 비속어 등을 잘 모른다며 오역을 줄이기 위해 인간의 개입이 필요하다고 입을 모읍니다.

* 팟캐스트처럼 들을 수 있게 만들어 봄
* 가져온 뉴스: AI translation is jeopardizing Afghan asylum claims

안녕하세요 따져보는 오늘의 기술 이야기 따오기입니다
오늘은 그니까 새로운 포맷...으로 계속 할 거예요, 이거?
또 이렇게 해보고 잘 돼야 하는 거 아니야?

파일럿인 거잖아

맨날 파일럿이야

그러니까

막 우리가 또 새로운 프로그램을 런칭했다, 이러면 안 될 것 같애

그러면 담이 님이 먼저 소개해야겠네

아, 근데 지금 말이, 뎡야핑 따라한 거여서

왜 따라해요, 이거 이게 뭐야-

저는 세계시민 뎡야핑입니다
아이브 얘기는 왜 썼냐면
그러니까 저는 제가 흥미로워 하는 거를
다른 사람들이 흥미로워하지 않는 게
잘 이해가 안 되거든요
근데 요즘 제일 많이 생각하는 게 아이브야

아~

어떻게 아이브를 안 좋아할 수가 있지?

다 좋아해

뉴진스 더 좋아하잖아

아이, 뉴진스도 좋아하고 아이브도 좋아하는 거지

똑같이 좋아요?

ㄴㄴ 뉴진스가 더 좋아

거봐

아무튼 그래서 아이브를 생각하면서
아이브를 제가 이렇게 좋아하는데
사람들이 안 좋아하는 게 잘 이해가 안 돼서
마찬가지로 제가 흥미로워하는 뉴스를...
사실은 작년부터 제가 아프가니스탄 뉴스를
따오기 통해서 얘기하고 싶었는데
계속 엄청 현타가 오는 거예요
이걸 한국 사람들이 누가 궁금해하나 하고
근데 이번에도 또 아프간 뉴스를...
아프간 뉴스는 아니고
아프간 난민들이 미국에서 난민 심사 신청을 할 때
겪는 고초 중에 하나가 뉴스가 나와가지고
그거를 오늘 가져와 봤어요
한국 사람들이 관심이 없을까 생각하다가
내가 아이브 좋아하지 못한 사람들을 이해 못하듯이
내가 다른 사람들의 호불호에 대해서 이해를 못 하는 건가 싶어 가지고

호불호라기보다는
그러니까 아프가니스탄에 대한 관심들도 없는데
이거에, 뎡야 님이 되게 문제라고 인식한 그 부분이
전혀 심각하게 느껴지지가 않아

공감이 안 돼

공감이 안 돼

그럼 공감능력이 떨어지는 거네

다른 사람들이

내가, 내가
그러니까 한국인에 대한 공감능력이 떨어지는 거지

아 그치그치, 집단에 대한

왜 이게 관심이 없지?
자기 소개가 길었는데
아프간이든 국제 이슈에 관심이 많은 사람이라서
저를 세계시민이라고 소개해 봤어요

국내 시민 현담이고요
저는 국내 여론을 항상 분석하고
온갖 커뮤니티를 섭렵하면서
그들이 어떤 생각을 갖고 있는지
항상 관심있게 지켜보고 있는데
그래서 제가 뎡야 님이 그 아프가니스탄 그걸 가져왔을 때
이건 안 된다
욕만 들어먹고 말 것이다 라고 조언을 했죠
그래서 갑자기 그 컨셉으로
그러면 영상을 촬영을 해보자
사람들이 어떻게 욕을 하는지 한번
제가 보여주겠다!
이 주제를 했을 때 어떻게 시비를 걸 것인지
제가 보여주려고

시비

온라인 상의 unknown(익명)들이 어떻게 시비를 거느냐
이걸 제가 오늘 대변을 해서 해보려고 하고요

그래 가지고 제가 오늘 하려는 얘기는
아프간 사람들이 미국에 난민 신청을 하고
난민 심사를 기다리는 사람들이 되게 많은데
이분들의 진술을
당연히 아프간 사람들은 자기네 말로 할 거 아니에요?
그거를 영어로 통역을 할 때
옛날 같으면 통역사를 썼었는데
요즘에는 AI 기계번역을 쓰고 있대요
자동번역을 쓰고 있는데
거기에서는 번역 중에 되게 사소한 오역 때문에
난민 심사에서 떨어지는 일이 지금 발생하고 있다고 합니다
예를 들어서 이건 실제로 있었던 일인데
내가 어떤 일을 겪었는지
주어를 뭐 'I' 라고 해서 얘기를 했을텐데
근데 그게 번역이 될 때 'WE'라고 바뀌었다는 거예요
그러니까 처음에 진술한 거는
내가 겪은 거라고 했던 거를
두 번째 진술에서는 자동 번역 결과 WE=우리가 겪었다
이렇게 말해서 네 진술이 모순된다
하고 난민 심사를 떨어뜨렸대

안타깝네여

안타깝지
그럼 어떻게 해야 돼

근데 안타까운데

안타깝긴 해?
그러니까 지금 현담 님은 지금
지금 자기 자신이 아니고
남의 모자를 쓰고

아니, 안타깝긴 하지
안타까운데
그러니까 이런 실수는 일어날 수 있는 건데
그래서 AI 번역을 하면 안 된다?
어쨌든 일처리를 단축하기 위한 여러 가지가 필요한 거고
안타깝지만 그런 일은 발생할 수도 있다

발생할 수도 있으니까 발생하지 않게 만들면 되는 거지
그게 안타까우면
발생하지 않게 할 방법으로
기계 번역을 아예 전면적으로 금지하라는 게 아니라
기계 번역을 감독하는 인간이 필요한 건 거죠
기술의 도움을 받을 수 있으면 당연히 좋은데
그 기술이 최종적으로 치명적인 결정을 하는 데
유일한 근거가 되어서는 안 되는 거죠
인간 통역사가 같이 이렇게 보면 되는 거지
통역사가 중심으로
근데 그거를 지금 미국 정부는
밀린 심사 빨리 처리하려면 기술 도입이 필요하다
효과적이라고

그러니까 너무 합리적인 도입이라고 저는 생각을 하고
ㅋㅋㅋㅋㅋㅋㅋ 아 현타 와
그러니까 합리적이 라고 볼 수 있다
지금 미국으로 들어오는 난민이 아프가니스탄 난민만 있냐고
전세계에서 다 들어온단 말이야
얼마나 많겠어요 이 사람들 다 심사하고 해야 되는데
(2022년 12월 기준, 미국 난민 심사 대기자 160만 명)
필수 아닐까?

뭐가 필수야?

AI 번역이?

번역이 필수적인 거야, 그 사람들을 떨어뜨리는 게 필수적이라고 생각하는 거야?

아이, 그거는 더 나중에 얘기합시다 떨어뜨리는 얘기는
난민 심사의 과정이 되게 여러 가지가 있고
근데 그 인원을 결과적으로
다 인터뷰를 해야 되는 건 맞잖아요
근데 그거를 다 사람이 붙어서 하기에는 한계가 있죠

아니 그러니까
기술 도입을 하지 말라는 얘기가 아니라고 말했잖아
보조적으로 도입해야 된다는 거죠

근데 이게 심사가 여러 과정이니까
이 사람이 바로 떨어진 게 아니잖아요
그 I, 아까 그 사례도

이거는 떨어진 거였어

아예?

응

근데 이의제기나 그런 게 있잖아

뭐 이의제기 절차를 당연히 하겠죠
재심 청구를 하겠지

저는 그런 게 다 보조적인 수단이라고
볼 수 있다고 생각하거든요

아 일단 떨어뜨리고?

응

일단 떨어뜨린 다음에 그러면
그 사람이 치러야 되는 비용이 너무 많잖아
그게 오히려 비합리적이잖아
만약에 기계가 'I'라고 제대로만 했으면 통과됐을 거다
만약에 그렇다면
그게 안 됐기 때문에 이 사람이
겨우 그 'I'를 'WE'로 번역한 그것 때문에
치러야 되는 비용이 너무 많잖아
시간과 대가가 너무 크잖아

치러야 된다고 보는 건데, 나는

그걸 개인이, 개개인이 다 감수해야 된다?

그런 오역은 사람이 해서도 나올 수 있는 문제고
그래서 많은 사람들이 그런 오역 때문에 다시
어떤 구제방법을 다시 신청을 하잖아요
그거랑 전 별 다를 게 없다
그러니까 물론 사람의 손길이 필요하지만
AI 번역에 있어서

아니 그래 뭐 사람이 오역을 하는 것도 당연히 문제죠
기계가 오역을 하는 것도 당연히 있을 수 있는 일이고
아니 그러니까 그러면 여기서 어떻게 해야 될 거냐를 얘기를 해보자면
그러면 그런 위험 부담을 최대한 낮추는 방향으로
방향을 우리가 생각해 봐야 되는 건 거지

그치

아니 사실 아프간 난민이 2021년에만 600만 명이래요
미국 때문에 이렇게 아프간 난민이
대량으로 발생한 거기 때문에
미국은 다른 것도 그렇지만 이 문제는 정말
직접 행위자라서 자기가 직접 책임져야 되는 거고
그 '행정부담이 크다'
뭐 당연히 크고 그래서 그거를 빨리 신속하게 처리하기 위해서
여러 기술이 도입되는 것도 당연히 좋은 거고
근데 활용할 수 있는 게 되게 많거든요
사실은 이 아프간에서 난민이라는 많은 사람들이
미국 정부에 협조했기 때문에
탈레반 하에서 억압받는 거거든요?
탈레반 하에서 자기가 죽을 수도 있는 건, 그 이유는
그래서 미국으로 난민으로 와야 될 수밖에 없는 건
미국 정부에 협력했기 때문인 건데
그 대부분이 뭐 미국이 세웠던 아프간 정부의 군인이었거나
아니면 미군을 위해서 통역가로 일했거나
그런 사람들이에요
그래서 이 사람들을 활용해서 통역을 지금
제대로 할 수 있는 여건인 건 거지
근데 이 사람들을 전혀 활용을 안 하고 있는 건 거지
쫓아내고 싶어서... 그러는 거 아니야?

쫓아내고 싶어서라기보다는...
그 통역사의 말을 믿을 수 있냐의 문제도 있는 거 아닌가
검증되지 않은
아메리카의 마인드를 가지고 있느냐

통역사가 다른 난민들을 위해서 통역을 할 경우에
그 사람을 믿을 수가 없을 것이다?

응

그러니까 이런 거 있잖아 예를 들어서
아이까... 아, 너무 쓰레기 같애
통역사이긴 하지만
얘 말 한 마디가 되게 중요할 거란 말이야?

그쵸, 중요하죠

그걸 어떻게 전달하느냐에 따라서 되게 중요한데
같은 나라의 사람인 거잖아
얼마나 가슴이 아프겠어

아프지, 같은 처지에 사람들로

그러니까 그러면은 얘가 중립적이라고 볼 수 있나?

아 직업윤리가 의심된다?

아 그렇죠 그렇죠

아니 그렇게 얘기할 거면 통역사만이 아니고
미국에서도 당연히 난민 문제로 활동하는
난민들한테 조력하는 변호사나 활동가들이 많은데
다 마찬가진 거지
통역사라고 해서 뭐 당연히 난민이
난민으로서 지위를 받을 수 있게 힘써야지 뭔 중립이야
중립을 가장하는 거지. 떨어뜨리려고

나는 어느 정도 수용을 할 수 있는 범위가 있다고 생각해요
나라가, 난민을

일단은 어쨌든 떨어뜨려야 된다는 관점을 계속 견지하고 있는 거잖아

그렇죠
어떻게 다 받아들여

그 사람들이 심지어는 적격이어도?
어떻게든 떨어뜨려야 된다?

그러니까 적격이 아닌 사람이 있을 수 있다니까?
그 차이가 있는 것 같아

아니 뭐 당연히 있을 수는 있죠

그 중에서도 아메리칸 드림을 꿈꾸고 온 사람이 있을 거란 말이야
... 그게 문제야...?
문제야

근데 그거 그거랑 똑같다
다 이거랑 똑같은 거구나
예를 들어서 사형제 반대할 때 뭐 여러가지 이유가 있지만
재판이 틀린 경우가 있거든요
그러니까 무죄인데 사형에 해당하는 유죄라고
판사가 잘못 생각하는데
최종적이잖아
죽였으면 이제 끝이야, 사형 집행하면
나중에 알고 봤더니 다른 놈이 범인이었다거나
뭐 그런 거 되게 많잖아요
그랬을 때 무고한 사람을 희생해서라도
더 잘못이 많은 놈들을 가려 내겠다
이거랑 기본적으로 논리는 똑같은 거네
이미 자국에서 고난을 겪고
지금 난민 신청한 사람들을 더 힘들게 만들어도 된다
색출하는 게 너무 중요해서
담이 님은 그렇게 생각하지 않지만
담이 님이 지금 쓰고 있는 모자는
그렇게 얘기하는 거죠

하
아니 그리고
진짜 내 입으로 말하기 싫다
무슬림들은 테러리스트도...

무슬림 테러리스트라고?

아니 테러리스트도 있을 수 있다

다짜고짜 그렇게 말하는 사람들이 있어?

당연하죠
난민의 지위를 이용해서
테러를 하고 싶어서 오는 사람이 있다
라는 댓글을 본 적 있어

자기가 어떤 환경에 처했느냐에 따라서
그런 극단적인 선택을 하는 사람들이 나오는 건데
그렇다면 그런 극단적인 선택을 할...
사람이 자기 목숨을 잃어도 좋다고 생각할 정도로
그 사람을 핍박을 안 하면 되잖아
문제의 원인을 안 만들면 되지

어쨌든 인식이
아 난민들 중에서 테러리스트가
이렇게 들어올 수도 있겠구나 이런
이런 걸 통해서

난민을 가장하고 테러범이 들어올 수도 있다?

아메리칸 드림 또는 테러를 하기 위해서
진짜 난민을 구별해야 한다

진짜 난민과 거짓된...

가짜 난민

으 드러워 가짜 난민?

아이 기사에서도 그렇게 쓰니까, "가짜 난민"이라고
우리나라에서 "가짜 난민"이라고 써요, 기자들이
그러니까 저는 쓰겠습니다
일단 가짜 난민
우리나라에서 제일 중요한 거는
가짜 난민하고 진짜 난민을 구별하는 거거든

그 사람들이 들어와서 공동체에 해가 될 수도 있다
그렇게 피해망상이 있는 거구나

응
그거는 전 세계적으로 있는 거잖아
유럽에서 일어나는 난민들의 어떤, 그게 팩트체크가 전혀 안 된

아 뭐 범죄를 저지른다고

범죄를 저질렀다거나 뭐 이런 거 있잖아요

이거는 난민은 제가 모르겠고
한국에서 이주노동자 관련해서는 통계를 봤었는데
이주노동자들이 뭐 한국에 와서 뭐 사람 죽이고
뭐 어쩌고한다
그런데 그게 일단 한국인이 피해자인 사례보다
이주노동자면은 자기 이주민 커뮤니티 내에서
벌어지는 일이 더 많고
그리고 인구 비율로 봤을 때
한국인 중에 범죄자 비율 vs 이주노동자 중에 범죄자 비율
압도적으로 이주노동자들의 범죄자 비율이 적어요

그럴 거 같애

한국 놈들 다 쫓아내 그럼?
난민은 더 심할 것 같은데
이 세상에 범죄자가 없지 않기 때문에
당연히 난민 중에도 범죄자들이 있는 거죠
지금 어떻게 하다 보니까 계속 난민 얘기만 하고 있잖아요
그거는 제가 갖고 온 뉴스의
추상화를 좀 잘못하는 것 같아요
그러니까 제가 갖고 온 뉴스에서 핵심은
자동 번역이 어떤 사람에게 돌이킬 수 없는
영향을 미치는 결정을 최종적으로 하는 게
그러니까 번역만이 아니라
그런 자동화된 의사 결정이 문제다
이거를 추출해야 되는 거죠

그쵸 그쵸

그런데 갑자기 난민이라고 꼬투리를 잡으면서
가짜 난민은 어떻게 할 거냐고

죄송합니다

사과하면 안 되지
자기의 논지를 견지해야지

그러니까 AI 번역이 필요한 이유는
미국이 그걸 다 받아들이지 않을 거잖아, 그 모든 난민을?
그러니까 과정이 필요할 수밖에 없고
하지만 난민 너무 많이 몰려드니까
AI 번역같은 기술 도움을 받을 수밖에 없고
그 모든 게 진짜 난민을 어쨌든 구별하기 위한 거잖아요

근데 일단 그게 재밌다 미국한테 감정이입하는 거
근데 실제 미국은 그런 식으로도 생각하지 않아요
미국 시스템에서 난민을 받아들이는 시스템이 되게
문제가 많다고 지적을 받지만
어쨌든 기본적으로
난민을 받아들이기 위해서 만들어 놓은 시스템인 거예요

그러니까 미국은 잘 돼 있는 거라니까?
근데 더 바라시는 거잖아요
더 많은 통역사를...

당연히
아니 어떤 시스템이든 완벽한 시스템이 어디 있어요
그 시스템에 결함이 있고
그 시스템을 그러면 개선해 나가야 되는 거지
원래 목적에 충실하게

개선을 해 나가야죠

그래서 자동번역을 반대하는 건 아니라고 했잖아
그게 최종적이어서는 안 된다
기계번역이랑 비슷한 챗gpt 같은 AI 생성기 만든 오픈AI도
정부 당국이 위험이 큰
예를 들어서 이런 난민이나 이주민 심사를 포함한
그런 의사결정을 할 때
AI챗봇을 이용하는 걸 금지한다 하고
올해 3월달에 이용약관을 업데이트했거든요
마찬가지인 거지
그런 기업이나 정부들도
지금 인공지능 기술이 최종적으로 의사결정하는 데 쓰인다
이거는 다 잘못됐다는 기본적인 합의가 있는 거죠
그 정도는 동의를 하셔야지

아, 그럼요

그러니까 그래서 최종적으로 그 자동 번역도
최종적으로 그렇게 판사가 판단했을 때
고것만을 근거로
너의 진술은 모순됐다라고 판단하는 근거가 돼서는 안 된다는 거죠
그것도 동의를 해야지

근데 현실적으로 지금
이걸 다 처리할 수 있는 방법이 없고

뭐 없어, 자꾸 없대

없지

왜 없어 있어!

그러니까 우리나라도 지금 뭐
우리나라는 지금 통역가들 해주는지 잘 모르겠는데 해 주겠지?

해 줘요

심사관이 진짜 적고 전문성이 없어가지고
되게 난리란 말이지

멀쩡한 사람들 다 떨어뜨리잖아

으음 그래
근데 걔네가 진짜 막 수백 건 씩 하니까
그게 어차피 안 된다니까

뭐가 안 돼
그럼 다 들어오라 그래
제대로 못 할 것 같으면

어떻게 들어오라 그래

아이 난민이
난민이 그 지위를 인정받는 게
그 사람들의 굳이 말하자면 권리예요

에 권리죠

왜 권리야, 왜?

원래 유엔 협약에 따라서 권리 아니야?

그래 한국도 그 난민 협약에 가입돼 있어
가입 당사국이야
탈퇴하든가 그럼

탈퇴해! 탈퇴해!

탈퇴하고 뭐 OECD도 탈퇴해 그럼

어쩔 수 없이 하는 거야, 어쩔 수 없이

그러니까 그럼 왜 어쩔 수 없이 하겠어요
그게 국제 기준이니까
근데 거기에
본인의 기준은 국제 기준에도 못 미친다는 걸 지금
실토하는 거잖아

한국은 정확하게 지금 국제 기준에 미달...인데

왜 그러고 살어

예산이 없다니까?

예산이 없다고요?

그러니까 정서상, 한국 정서상
난민에 그렇게 많은 예산을 투여하는 게
정서상 우리나라는 안 된다니까

아니 정서상 난민한테 예산 별로 없대니까?
한국 얘기하면, 2021년도에 나라 전체 예산 중
난민 관련 분야에 편성된 예산은
0.0004%
주로 공무원의 출장비, 통역비 등의 인건비로 사용됐다
이게 난민인권센터에서 낸 자료거든요
영점영영영사 프로
아이고 겁나 큰 돈이다
아이고 무서워라 아이고 그냥

그러니까 제대로 하려면 많은
더 많은 통역사와 더 많은 심사관을 두고

아 그쵸

그렇게 투자를 해야 되는 건데
그럴 필요가 있..

있어 있어
난민들 세금 내는 거 알아요?

그렇죠 인정받으면
돈도 벌고 세금도 하고 다 내죠
투표도 할 수 있다며 나중에 몇 년 지나면

됐네

그쵸 됐는데

근데 한국이랑 비교 말고 미국은
뭐 우리보다 천조국이니까
우리나라보다 돈도 많고 더 많지만
수가 너무 달라

미국에 오는 사람이 너무 많다?

어

아니 그거는 중요한 문제야
난민이 너무 많이 발생하잖아요
지금 특히 21세기 들어 가지고 정말
우리도 마찬가지잖아요
아무도 자기 나라를 떠나서
그렇게 힘들게 살고 싶은 사람 아무도 없어
난민 인정받는다고 해서 무슨
갑자기 무슨 베벌리 힐즈에 집 주고 이런 거 아니잖아
엄청 힘들게 살아야 돼 내가 어떤 직업을 가졌었던 간에
여기서는 그냥 0부터 다시 시작해야 되는 거야
누가 그러고 싶어해요
난민이 발생하지 않게 만드는 게 제일 중요한데
지금 전 세계에서 이미
강대국들이 그렇게 세계 질서를 어지럽혀 가지고
난민이 엄청나게 발생했어
그러면 첫 번째로 해야 되는 일은
저는 당연히 난민이 발생하지 않게 하는 일이다
그 나라들의 각국의 정치적인
정치적으로나 경제적으로나 상황이 안정될 수 있게
힘을 써야 되는 거고
그리고 두 번째로 근데 이미 엉망진창으로 만들었으니까
엉망진창으로 만든 놈들이 책임지고 그걸
그 고난을 피해서 오는 난민들을
1차적으로 받아들여야 되는 거죠
그리고 그분들은 대부분 정말
대부분 자기 고국의 상황이 안정되면 돌아가

그건 모르는 일이고...

아이 그치, 내가 그렇게 속단하면 안 되죠
근데 많은 사람들이 돌아가요 근데

이게 저는 과정에 있다고 보거든요?
기술이 발전하는 과정에 있고
과정에서 일어날 수 있는 문제들을
해결할 수 있는 장치도 있어야 되지만
그럼에도 불구하고
불합리한 일을 겪는 사람이 발생할 수밖에 없고
그것은 받아들여야 된다

아니 불합리한 일이 겪는 사람이 적어지도록
최선의 방책을 다 써야 된다, 이건 거죠

그러니까 그 최선의 방식으로
모든 걸 해줘야 된다라고 생각하시는 거잖아요
예산을 때려박고

아니 뭘 때려박어 0.0004에서

미국에서 그니까
더 많은, 그거를 다시 확인할 수 있는 통역관 두고
이렇게 하는 게 힘들다

뭐가 힘들어 자꾸

많은 걸 바라는 게 아닌가, 난민들이

아니 뭐 예를 들어서
우크라이나 난민 미국에서 되게 많이 받아들였거든요?
러시아가 작년에 우크라이나를 침공했잖아요
그런데 그 속도도 그렇고
비용도 전혀 안 받고
우크라이나 난민들을 위해서 특별한 프로그램을 만들어서
많이 받아들였어
근데 같은 기간 동안 아프간 난민은
한 명당 575달러, 한국 돈으로 75만원을 내야지만
비슷한 프로그램이 있는데
돈도 내야 되고
근데 그렇게 해가지고 인정받은 사람 수는
10개월 동안 123명, 말도 안 되는 숫자였고

이런 얘기하면 난 또 이런 얘기를 해야 하잖아

뭐요?

무슬림 얘기를... 문화 환경
문화 환경이 우크라이나는 미국과 비슷하고
우크라이나 전쟁 났을 때도 그랬어
유럽 애들이 너무 충격적이라고

얼굴이 백인이니까

그러니까 자기들은 그니까
진짜 너무 전쟁이 너무 충격적인데 이게 왜냐하면
자기 옆에 옆 나라 얘기니까
마치 우크라이나만 전쟁을 하고 있는 것처럼
비춰지는 그런 게 있단 말이야

미디어에서의 주목도가 다르죠
아니 그래가지고 우크라이나 난민에 대해서
그렇게 하는 게 잘못됐다는 게 아니고
우크라이나 난민에 대해서 하듯이
다른 난민들에 대해서도 해라, 할 수 있다
근데 담이 님은 그럼에도 불구하고
다른 난민들은 대부분 무슬림들이고
그 중에는 테러범도 많을 것 같다는
어떤 여론을 대변하고 계신데

사라지고 싶다, 화면에서
문화 사회적 환경이 그...
우리랑 너무 다르다

우리 누구야, 한국인? 아니면 미국인?

둘 다

미국은 엄청 다 다인종/다민족/다종교 국가라가지고
이미 무슬림 커뮤니티가 많이 있어

그럼 우리나라

한국이요?
한국도 근데 이민자들이 엄청 많이 늘어났는데

어디 한 지역만 가도 아프리카 커뮤니티가 있고
중동 커뮤니티가 있고 다 그런데

근데 그 사람들은 실제 무슬림 커뮤니티를
알고 하는 말이 아니고 그냥 뭐
미디어상의
유럽에서 어떤 난민
무슬림 난민이 저지른 범죄, 이런 거를 보고
그걸 전부라고 생각하는 거잖아요

그래서 결론
이거는 전혀 뉴스거리가 될 만한 게 아니다
안타깝지만 어디서나 일어날 수 있는 일이고
미국이 비용을 절감하고
사실 저는 더 더 많은 난민을 받아들이기 위해서
그렇게 했을 수도 있다, 빠르게 일처리를 해서
그렇게 볼 수 있는 문제다
사소한 것에 집착하지 말자
과정이다!

저는 통역사를
인간 통역사를 쓰는 게
미국 입장에서도 전혀 해로울 게 없다
일을 효율적으로 하는 것은
비용 문제만 효율성이 아니기 때문에
그러니까 이거는 지금
세계적으로 다 기계가 인간의 운명을 결정해서는 안된다
합의가 생기기까지 뭐
우리가 지금 인공지능이 이렇게 일반화된 시대를
처음 살아보기 때문에 여러 가지 일들이 있잖아요
이것도 그 중에 하나인 건 거예요
그래서 자동 번역을 아무튼
최종적인 의사결정에 결정적인 근거로 써서는 안 된다
너무 당연한 얘기야
뉴스거리도 안 되는데
미국에서 바로 그럼
아 이건 잘못된 결정이다, 하고 취소하고 그러면 되는데
그렇게 일을 제대로 못하니까 이게 뉴스가 되는 거죠

취소를 어떻게 합니까 바빠 죽겠는데

재심해야 돼
어차피 재심하고 그러는 게 맞아, 더 힘들어
괜히 쓸데없이
난민 딱 통과시켰으면 깔끔하게 딱 끝나는데
괜히 또 아이 뭘 잘못했고 어쩌고
서류를 백 장을 써 가지고

그거 난민이 쓰는 거잖아

판사도 시간 들어서 또 읽어봐야 되잖아요

판사 제대로 안 봐 어차피

~ 끝 ~

본문

유럽의 노동운동은 알고리즘적 감시에 어떻게 대응하고 있을까?

노동자 개개인의 생리적 측면이나 감정까지 데이터화해 수집/분석하며 감시하는 기업들. 이에 그치지 않고 노동자의 데이터를 집적해 이윤을 축적하는 자본에 대항하는 유럽 노동자들의 투쟁!

※ 2021/12/9에 있었던 [국제 세미나] 신기술을 활용한 디지털 노동 감시에 대한 대응의 발표 내용을 편집한 영상입니다. 발표문 등 자료는 ☞ https://act.jinbo.net/wp/45092/

---

우리는 노동자들이 감시되고 있다는 걸 압니다.

불법적인 감시 도구에 의해서 말이죠. 

그리고 우리 혹은 노동자들의 데이터가 사용되고 있다는 것도 압니다.

이를 보여주는 극명한 사례들도 이미 있고요.

때문에 감시가 가시적이지 않더라도

유럽 당국과 세계 당국은 이에 대해 조치를 취해야 합니다.

감사합니다. 안녕하세요.

저는 '알고리즘적 노동감시' 혹은 'AI 시스템에 의해 구동되는 노동감시'라고 불리는

새로운 현상에 대한 발표를 준비했습니다.

우리는 노동감시가 매우 오랫동안 행해졌음을 알고 있습니다.

새로운 현상이 아니죠.

노동감시는 누군가가 다른 사람들을 쳐다보고 있고

그 다른 사람들은 감시받는 중임을 눈치채지 못하는 현상으로 여겨졌죠.

그러나 이제 우리가 보듯

쳐다보는 것, 즉 모니터링 행위와 AI 시스템에 구동되는 기능 간의 결합으로

단순한 모니터링에 비해 감시가 훨씬 더 강력해졌습니다.

이런 트렌드가 어떻게 진화해 왔는지

'딜로이트'라는 회사가 해온 작업을 통해 보여주고 싶습니다.

'인력 분석 툴(people analytics)'은 2011년부터 폭발적으로 발전해

더욱 정교한 인력 분석이 가능해지고 있습니다.

이런 데이터에 기반한 '인력 분석 툴'의 채택이 전 세계적으로 증가하고 있습니다.

한국은 물론이고 미국, 유럽, 남미 등 곳곳에서 볼 수 있는데

이는 노동자를 감시하는 데만 쓰이는 게 아니라

노동자들에게서 중요한 데이터, 개인정보를 추출해 내기도 하고,

회사의 이윤에도 기여합니다.

계약 세부 사항에 노동자의 데이터 추출에 관한 내용이 들어가 있지 않기 때문에

법적인 공백이 있습니다.

특정 부문에 국한된 노동감시 문제만이 아닌 것입니다.

이제 더 효율적인 감시 기술로

일련의 기술과 분석 속성을 조합해

이제 조직에서 강력한 의사 결정을 내리고

다양한 데이터를 관리자에게 넘길 수 있게 된 것입니다.

저는 23개의 다양한 소프트웨어를 분석해 보았습니다.

'마이크로소프트 365'는 제외했고요.

제가 인터넷에서 찾은 이 소프트웨어들은

클릭 한 번으로 쉽게 살 수 있고

저든 여러분이든 아무나 구입할 수 있습니다.

설치도 쉽고요.

그렇게 비싸지도 않아요.

데이터 분석 측면에서 정말 흥미로운 기능들을 제시하고 있습니다.

그런데 제가 또 굉장히 놀란 점은 마켓팅 아이디어들,

고용주에게 제품을 판매하려는 방식이었습니다.

이들 소프트웨어는 양적 데이터인 이메일, GPS도 모니터하지만

예를 들어 건물이나 창고에 들어가는 것과 같이

생체인식정보도 관찰하고 측정합니다.

또 언어에 대한 의미론적 분석도 하는 데다

심지어 감정과 행동도 분석합니다.

그렇게 사람의 생리적 측면, 태도, 감정을 관찰/측정하는 것은 불법입니다

아무 상관 없는 내용이니까요.

이와 같은 형태의 감시는 단순한 모니터링의 차원을 넘어섭니다.

팬데믹은 이 시장을 더 크게 만드는 데 좋은 핑곗거리였습니다.

두 가지 우려 지점이 있습니다.

먼저 이런 기술들로 노동자의 데이터를 취하는 메커니즘이 우려되고

두 번째론 기술의 사용 자체가 우려됩니다.

이 메커니즘은 실제 수집된 데이터의 분석 및 해석에 연관됩니다.

수집한 데이터 사이를 연결하고 패턴을 만드는 것을 통해

데이터를 매우 강력하게 만듭니다.

새로운 지식을 무상으로 갖게 됐습니다.

다른 한편, 기술의 사용 그 자체의 문제입니다.

구글에서 그냥 검색만 해도 무료 프로그램이 많습니다.

근데 이게 신뢰할 수 있는 기술인지 여부는 알 수 없습니다.

제조사가 유효성 검사를 했는지,

데이터 수집과 관리를 편향적이지 않게 하는지도 알 수 없습니다.

이들 소프트웨어가 개인정보 영향 평가, 투명성 및 책무성을 지켜서

개발되었는지 여부는 웹 사이트에 공개되지 않았기 때문에

알 수 없는 게 당연하죠.

그리고 예를 들어, 앞서 말했듯이

마케팅이 상당히 흥미진진합니다.

예를 들어 "근무 태만 직원 몰래 식별하는 방법"이라든지

"직원 수십억 명의 데이터 포인트를 행동으로 전환하세요"라든지

"직원들의 목소리를 자동으로 측정해"

"직원들의 감정을 제대로 알 수 있다면 어떨까요?"라든지요.

이건 제가 인터넷에서 모은 예시들인데요.

직원의 목소리를 측정하고 감정을 반영하기, 실시간 모니터링하기

정기적으로 노동자 모니터링하기 등등

프로그램이 상습적 지각생을 찝어내는 것부터

파업을 일으킬 수 있는 노동자를 찾아내는 것까지 뭐든 하겠다고 광고합니다.

이는 노동자를 향한 매우 강력한 진술로

기본적으로 노동자를 인간이 아닌 물건으로 여기는 거죠.

유럽에는 자동화된 의사결정에 대한 권리가

GDPR(유럽개인정보보호법)에 따라 대두되고 있습니다.

인간은, 혹은 노동자는 완전히 자동화된 의사결정의 대상이 될 수 없으며 

의사결정 과정의 어딘가에 사람이 있어야 한다는 것입니다.

좋은 얘깁니다, 저는 진심으로

이 권리를 행사하는 데 정말 좋은 기회라고 생각합니다.

그러나 이 권리에는 '어떻게'에 대한 부분이 없습니다.

GDPR은 노사관계에서 이 권리를 어떻게 행사할지에 대한 규정이 없습니다.

그래서 이행하기가 매우 어렵습니다.

요는 알고리즘적 노동감시가,

전에는 그냥 수면 위를 스캔하는 수준의 레이더였던 것이

이제는 수면 하에서 일어나는 모든 것에 대한 3D 이미지를 구축할 수 있는

훨씬 강력한 수중 음파 탐지기로 전환되고 있다는 것입니다.

단순히 수동적인 모니터링에 그치지 않고

노동자의 사생활을 긁어모으는 겁니다.

유감스럽게도 노동자에 대한 이미지를 구축하고 결정을 내리는데

그 이미지는 절대 사실이 아닐 것입니다.

당신이 어떻게 느끼고 행동할 지에 대해 기계가 수행하는 가정은

실제로 사람이 느끼고 행동하는 것과 결코 일치하지 않기 때문입니다.

GDPR에는 '사전 동의'에 대한 규정이 있습니다.

그런데 법도 매우 명확하고

유럽 규제 당국도 2017년 이래 매우 명확히 해온 것인데요,

이러한 사전 동의는 직원의 개인정보를 수집하고

처리하기 위한 유효한 법적 근거로 간주될 수 없습니다.

너무 당연한 겁니다.

절대적으로 힘이 불균형하니까요.

노동자는 절대 사업주에게 자유롭게 동의하거나 안 하거나 할 수 없습니다.

유럽에선 '사전 동의'로는 안 됩니다.

사업주가 개인정보를 수집하려면

수집을 위해 다른 법적 근거를 찾아야 합니다.

유럽의 규제 기관은

노동자 개인정보 수집이 합법적인지 여부를 판단하기 위해

고용주가 비례성 테스트를 수행해야 한다는 입장입니다.

그리고 여기에 노동조합의 개입력이 생깁니다.

비례성 테스트에 고용주와 함께 노조가 참여해야 합니다.

2020년 '삶과 노동 조건에 대한 유럽 재단'이라는 단체는

유럽의 고용주를 대상으로 설문조사를 실시했습니다.

데이터 분석툴을 사용하고 있는지

노동자를 모니터링하고 있는지였습니다.

보시다시피 유럽연합 27개국과 영국에서

모든 고용주가 직원들을 모니터링하는 소프트웨어를

사용하고 있다고 답변했습니다.

데이터 분석을 수행해서 노동자의 실적도 모니터링하고요.

어느 분야에서 데이터 분석툴을 쓸까요?

운수 부문에서 더 일반적으로 쓰이고 있다는 걸

지난 수년간의 경험으로 잘 알고 있는데요.

뿐만 아니라 제조업, 소매업, 식품 및 숙박 시설을 포함한 산업은 물론

건설 및 금융 서비스업에서도 데이터 분석툴이 사용되고 있습니다.

기본적으로 유럽의 모든 산업 부문에서

노동자 모니터링 툴을 사용하고 있습니다.

그러나 노동자에 대한 이러한 모니터링은 국내법으로 규제됩니다.

하지만 각 국내법에서 사람 분석이나 알고리즘 기술과 같은

신기술은 규제 대상이 아닙니다.

보여드리고 싶은 설문조사가 하나 더 있는데요

사업장 내 노동감시를 심화하는 신기술에 대해

유럽노총이 실시했던 설문조사입니다.

오스트리아, 벨기에, 이탈리아, 독일, 노르웨이, 스페인, 영국의 노조들과

기타 노동조합 연맹을 대상으로 했습니다.

그러나 우리는 이러한 기술이 정확히 어떻게 작동하는지에 대한 답변은 듣지 못했습니다.

사측이 노동조합에 알려주지 않으니 모를 수밖에요.

이런 기술이 어디까지 가능한지 알기 매우 어렵습니다.

이런 기술이 어디 배치돼 있는지도 모르고요.

그래서 저는 심층 인터뷰를 더 나눴습니다.

항상 대답이 같습니다. "무슨 일이 일어나고 있는지 우리는 알 수가 없다."

"정보를 얻어내기 너무 어렵다."

"매우 복잡한 그림이 있는데"

"경영진이 우리에게 알려주지 않기 때문에 우린 알 수가 없다."

그리고 "맞다, 우리는 불안하다"

"스트레스가 늘어나고"

"웰빙에도 악영향을 미친다"

그 외에 유럽에서 유럽 노동조합은 사회적 파트너와

일종의 집단적 방식으로 이 문제를 해결하고 있습니다.

2020년 "디지털화에 대한 사회적 파트너 프레임워크 협정"이 제정됐습니다.

이 협정에는 감시에 한 장이 할애돼 있습니다.

다른 유럽 노동조합총연맹들 또한 감시를 허용해서는 안 되며

규제해야 된다는 입장을 발표했습니다.

그리고 물론 이것은 유럽연합 집행위원회가 제정할

인공지능 규제 법안에 의해 규제돼야 합니다.

이 법안은 고위험 인공지능 시스템을 규제하기 위한 것입니다.

그 밖에도 국내적 차원에서 노동감시에 맞서는

여러 노동조합 이니셔티브들이 있습니다.

결론을 말씀드립니다.

노동감시는 여러 측면에서 고도화되고 있고

노동자들의 삶을 전 분야에 걸쳐 완전히 재편하고 있습니다.

감시는, 특정한 업무를 하는 노동자로서만이 아니라

인간으로서의 삶 자체에 영향을 미칩니다.

우리가 소셜 미디어를 사용할 때 행동하는 방식,

디지털 기술을 사용할 때 우리가 느끼는 방식,

우리가 행동하는 방식은 영향을 받을 수밖에 없습니다.

감정을 감시당하기 때문입니다.

그리고 노동의 범주를 넘어서는 결과와 위험이 있습니다.

법으로 이를 포착할 필요가 있고요.

예를 들어 특정 행동, 코로나 등 질병 감염과 관련된 건강 문제를 공개하거나

감정이나 사생활, 존엄과 자율성을 훼손하고

가장 중요하게는 자유와 기본권을 제한합니다.

이것은 인간성이 말살된 노동을 초래할 수 있습니다.

법률가로서, 노조 활동가로서 우리는 이를 재고해 봐야 합니다.

그리고 물론 곧 제정될 유럽의 AI 규제법에

우리가 꼭 넣어야 할 것은

AI 시스템이 노사관계의 맥락에서 구체적으로 규제되어야 한다는 것입니다.

지금 초안은 그렇지 않거든요.

지금 법안은 충분히 이를 다루지 않고 있습니다.

우리는 노동자 주체성이 반영될 수 있도록

유럽연합 집행위원회 및 의회와 협상해야 합니다.

그렇습니다!

왜냐면 2020년에

독일 함부르크에 있는 개인정보 감독기관은

H&M이라고 큰 패션 업체를 아실텐데요,

3,500만 유로(약 480억 원)의 벌금을 부과했습니다.

엄청 큰 액수인데요.

H&M의 콜센터였는데요,

경영진이 노동자를 감시하고 있었습니다.

직원들이 모르는 사이에 감시한 것도 모자라

관리자들은 그렇게 취득한 정보를 사용해서

징계에 활용하기도 했고

매우 사적인 데이터를 노출시키기도 했는데

노동자들은 이에 대해 알 수 없었습니다.

이 사건 언론에 보도됐고

그 덕에 유럽 개인정보 감독기관이 H&M에 대한 조사에 착수했고

조사 결과 노동자에 대한 불법 감시가 있었다는 사실이 밝혀졌습니다.

그 결과 H&M은 벌금형도 선고받았지만

노동자들에게 보상할 의무도 지게 됐습니다.

이것은 GDPR이 실제로 효과가 있다는 것을 보여주는

환상적인 케이스입니다.

또한 노동자들에겐 매우 강력한 권리가 있지만

권리를 행사해야만 함을 보여줍니다.

나는 항상 유럽의 노동조합들에

GDPR 상의 권리를 행사하도록 권장합니다.

굉장히 중요한 주제입니다.

암스테르담 법원에 영국 우버(Uber)를 상대로 한

사건이 계류 중인데요,

일부 라이더들이 데이터 관리로 인해 해고되었음을 알게 됐습니다.

이것은 라이더가 자신의 개인정보에 대한 접근을 요청하고

자신의 데이터가 뭐에 근거해서 사용되고 모아져서

의사결정에 사용됐는지 요구한 첫번째 법원 사건입니다.

기본적으로 GDPR 22조에 근거한 권리를 행사한 건데요,

GDPR의 22조는 요약하자면 자동화된 의사결정과 관련된 조항입니다.

법원은 일단은 노동자가 데이터에 접근권이 있다고

좀 긍정적으로 판단하고 있는데요

그러나 이 권리 행사에는 4가지 조건이 있습니다.

그 중 하나가 자동화된 의사결정 과정 어딘가에 사람이 꼭 개입해야 한다는 건데,

우버는 현재 그 과정에 사람이 개입돼 있다면서

라이더들의 주장이 옳지 않다고 주장합니다.

우버가 데이터를 집합적으로 사용했다는 걸

우리가 입증하기는 매우 어렵습니다.

그렇게 사용한다는 걸 우리가 다 알고 있는데도요.

알고리즘이 그렇게 작동하려면 말이죠.

집합적 데이터에 접근할 수 있는 실제 메커니즘을 갖는 것은 매우 어렵습니다.

우버가 노동자한테 주질 않거든요.

하지만 법원에는 제출합니다.

현재 기본적인 메커니즘은

재판이 시작되고, 판사가 사측에 집합적 데이터 제출을 요청해야 하는 겁니다.

현재 노동 조합에겐 쉽게 고용주에게 집합적 데이터를 요구할 수 있는

메커니즘이 없습니다.

노조는 집합적 데이터에 접근하기 위한

아이디어를 내거나 회사와 합의를 봐야 합니다.

집합적 데이터가 노동자들 개인 데이터를 기반으로 했을 경우에 말이죠.

하지만 쉽진 않을 것입니다.

유럽에는 지금 공백이 있습니다.

노사관계라는 맥락에서의 개인정보보호에 대해

개인정보 감독기관과 노동조합 사이에

포괄적인 논의가 없기 때문입니다.

그래서 여러분의 의견을 많이 듣고 싶습니다.

왜냐하면 유럽에는 개인정보와 프라이버시를 보호하는

GDPR이라는 훌륭한 법이 있지만

노사관계라는 맥락은..

개인정보 감독기관이 잘 모르는 영역인 것입니다.

노사 문제는 노동부의 영역인 거죠.

그래서 우리는 개인정보 감독기관과 노사관계라는 맥락을 연결해

노동현장에서 실제로 무슨 일이 일어나고 있는지

그들이 배울 수 있도록 해야 합니다.