블랙 라이브즈 매러!
((피해자 ‘로버트 윌리엄’ 인터뷰 영상 삽입))
“‘이건 내가 아니에요. 흑인이 다 똑같이 생겼다고 생각하는 건 아니겠죠.’ 그러자 경찰이 하는 말이 ‘컴퓨터가 당신 맞다는데?’였죠.”
IBM이 얼굴인식 기술 개발 중단을 선언했습니다. 뒤이어 아마존과 마이크로소프트도 미국 경찰에 얼굴인식 기술 제공을 일시적으로 멈추겠다고 밝혔구요. 지금 미국 사회에서 가장 첨예한 이슈, ‘흑인의 생명도 소중하다’는 뜻의 Black Lives Matter 운동의 영향입니다.
((시그널))
5월 25일, 백인 경찰들이 아프리카계 미국인 ‘조지 플로이드’를 질식시켜 살해하는 영상이 공개된 후 수많은 사람들이 뿌리 깊은 경찰 폭력과 인종차별을 규탄하며 거리로 쏟아져 나왔습니다. ‘경찰 예산 폐기!’부터 ‘경찰 조직 해체!’까지, 경찰에 관한 다양한 요구도 쏟아져 나왔고요. 경찰에 엄청난 예산이 투여되지만, 정작 경찰이 하는 짓은 사회 구성원 보호가 아니라 공동체, 특히 흑인 공동체에 엄청난 폭력을 가하며 죽음으로 몰아가는 거였죠.
그리고... 이런 경찰에 기생해 온 것들이 있습니다. 바로 따오기의 관심사, 기술기업들이죠.
우리는 이미 얼굴인식 기술에 대해 아주 잘 알고 있습니다. 아주 먼 옛날… 페이스북이 내가 올린 사진에서 친구 얼굴에 네모칸을 치고 이름을 입력하라고 했을 때부터... 하루에도 수백 번 스마트폰 잠금해제를 위해 얼굴 인식 기술을 사용하는 지금까지 말이죠.
얼굴인식 기술이 가져다주는 편리함과 즐거움이 우리들의 개인정보와 맞교환된 결과라는 것은 어느 정도 아실 겁니다. 온갖 앱을 다운받으며 혹시 이 앱이 내 개인정보를 막 약탈해가는 거 아닌가 하는 불안감, 한 번 쯤은 다들 느껴봤을 테니까요.
그런데 얼굴인식 기술이 감시도구로, 경찰 같은 수사기관의 도구로 활용될 경우 커다란 인권침해가 이뤄집니다. 얼굴인식이 실패하든, 성공하든 말이죠.
요즘처럼 마스크를 항상 착용하게 되는 시기에는 스마트폰이 내 얼굴을 인식하지 못하는 일이 벌어집니다. (본인거부율 False Rejection Rate, FRR)
또는 나와 비슷한 얼굴을 가진 사람, 예를 들어 쌍둥이의 얼굴을 갖다대도 잠금해제가 되는 경우도 있습니다. (타인수락율 False Acceptance Rate, FAR)
얼굴인식 기술은 지문, 홍채 인식 기술에 비해 정확성이 굉장히 떨어집니다. 그럴 수밖에 없죠. 얼굴인식은 촬영 상태, 즉 화질, 빛, 얼굴 각도, 마스크나 안경을 꼈는지 등에 따라 오류 가능성이 천차만별로 달라질테니까요.
이 정도 오류는 일상생활에 큰 영향을 미치진 않죠. 그런데 이런 기술적 실패가, 경찰 수사에서 벌어진다면 문제가 달라집니다.
2020년 1월 9일, 디트로이트 경찰이 로버트 윌리엄 씨를 어린 두 딸의 눈앞에서 체포했습니다. 잘못된 얼굴인식 결과를 근거로 말이죠.
((피해자 ‘로버트 윌리엄’ 인터뷰 영상 삽입, 출처: 미국시민자유연맹(ACLU)))
“경찰이 사진 한 장을 내밀더니 ‘이거 당신 맞지?’ 하고 물었습니다. 저는 제가 아니라고 했고요. 다른 종이를 한 장 더 내밀더니 ‘이것도 당신 아니야?’라고 묻길래, 저는 그 종이를 들어 제 얼굴 옆에 대고 말했습니다. ‘이건 내가 아니에요. 흑인이 다 똑같이 생겼다고 생각하는 건 아니겠죠.’ 그러자 경찰이 하는 말이 ‘컴퓨터가 당신 맞다는데?’였죠.”
디트로이트 경찰 스스로 밝히길, 윌리엄 씨를 체포하는 데 사용한 시스템은 실패율이 96%에 달합니다. 이렇게 엄청나게 부정확한 시스템을 올해만 70 번 사용했는데, 인종을 알 수 없었다던 두 명을 제외한 68 명이 흑인 대상이었다고 하고요. 아 진짜 죽이고 싶다 대조에 쓰인 사진은 소셜 미디어(70개 중 31개)나 감시 카메라(70개 중 18개)에서 가져온 것이었구요. 엉망진창이네요
이런 오류와 실패는, 현실의 차별을 답습한 결과입니다. 얼굴인식 인공지능이 개발되고 학습하는 조건, 특히 개발팀의 인종/젠더 구성과 학습에 사용되는 데이터베이스의 구성은 결과의 정확성에 큰 영향을 미칩니다. 백인 남성 중심으로 개발된 기술은 백인 남성에게나 정확한 것이죠. 차별적인 기술이 수사 과정에 사용되면? 로버트 씨 사례에서 확인할 수 있죠.
하지만 이런 문제는 비교적 개선될 가능성이 높은 편입니다. 업계에서도 인공지능 개발과 학습 과정에 차별 요소를 줄여나가야 한다는 목소리가 높아지고 있고요.
그러면 문제가 끝나는 걸까요?
얼굴이나 지문은 어떤 상황에선 아이디나 패스워드 역할을 하기도 하죠. 얼굴, 지문, 홍채, 걸음걸이 같은 한 개인의 신체적 또는 행동적 특성에 기반하여 그 개인을 ‘인증’하거나 ‘식별’하기 위해 기술적으로 사용하는 ‘개인정보’를 생체인식 정보라고 합니다.
사람의 머리 스타일이나 키, 몸무게를 생체인식 정보로 활용할 수 있을까요? 힘들겠죠? 변하기도 쉽고, 다른 사람이랑 엄청 겹칠 테니까 말이죠.
그래서 생체인식 정보는 먼저 모든 사람에게 그 정보가 존재하고(자막: 보편성), 사람마다 그 정보가 각기 다르고(고유성), 대체로 그 정보가 변하지 않아야(불변성) 합니다.
불변성. 생체인식 정보는 바꿀 수 없습니다. 때문에 한번 유출되면 그 피해를 복구하는 것이 거의 불가능합니다. 특히 얼굴은 더 위험성이 큽니다. 인터넷을 잠깐만 둘러봐도 금방 찾을 수 있는 게 우리의 얼굴 이미지잖아요. 고마워요 페이스북! 내가 SNS를 하지 않더라도 주변인이 사진을 찍어 SNS에 업로드할 수도 있고, 거리엔 천만 대가 넘는 CCTV가 있죠.
우리가 길을 걸으며 CCTV에 촬영될 때, 셀카를 페이스북에 업로드할 때, 운전면허 시험을 치르고 사진을 제출할 때, 나의 얼굴이 얼굴인식을 위해 사용될 거라고 생각하지 않습니다. 하지만 현실은 그렇지 않죠.
IBM은 사진 공유 서비스 플리커(Flickr)에 올라온 사진을 아무런 고지도 없이 얼굴인식 학습용 데이터로 사용했고, 미국 FBI와 이민세관단속국은 운전면허증 사진을 얼굴인식 대조 데이터베이스로 활용했습니다. 클리어뷰 에이아이(Clearview AI)라는 업체는 SNS 같은 인터넷에 올라온 30억 장의 사진을 데이터베이스로 활용해 경찰에 제공했고요. 조지 플로이드 씨를 살해한 미니애폴리스 경찰도 그 중 하나였습니다.
이렇게 한 번 수집됐거나 제출된 얼굴 이미지가 어떻게 활용될지, 그 위험성은 아주 크지만 통제는 굉장히 부족합니다. 테러와의 전쟁, 치안, 안보 등을 핑계로 신기술을 도입하고 개발하는 건 권력기관과 기업 모두에게 윈윈일 테니까요. 그런데 인공지능 기술 개발과 판매에 열을 올리며 얼굴인식 기술 개발을 선도하던 거대 기술 기업 세 곳이 갑자기 개발 중단, 혹은 경찰과 협업 중단을 선언한 겁니다.
IBM은 얼굴인식 기술 개발 중단을 선언하며 “타사가 제공하는 얼굴인식 기술을 포함해 대량 감시와 인종 프로파일링과 같이 인권 침해의 소지가 있는 어떠한 기술의 사용도 강력히 반대한다”고 밝혔습니다.
사실 IBM은 뉴욕 경찰과 은밀한 협약을 맺어 시민의 ‘피부색’을 따로 인식하고 검색할 수 있는 기술을 개발해 제공한 경력이 있습니다. 단순히 특정 인물을 검색하는 걸 넘어서, 예를 들어 ‘흑인’만 따로 검색해서 영상을 찾아볼 수 있게 한 거죠.
아마존은 소비자 개개인이 구매한 자사의 스마트 도어벨, 그니까 감시카메라 제품 링(Ring)으로 촬영된 영상에 경찰이 접근하기 쉽게 포털 서비스를 만드는 등 경찰의 감시 능력을 부추겨왔죠.
마이크로소프트는 1000만개 이상의 사진 데이터베이스를 운용한 바 있구요.
이들이 Black Lives Matter 운동의 영향을 받아 지금이라도 기술 개발이나 제공을 멈춘 것은 잘한 일이긴 합니다. 하지만 이미 대기업들이 제공했던 데이터와 기술은 여전히 얼마든지 활용될 수 있습니다. 미국 여러 주에서 경찰에 납품하는 중소기업들이 갖다쓰고 있고요. 만 오천 원만 들이면 누구나 아마존의 얼굴인식 프로그램을 사용해 볼 수 있습니다.
또 얼굴인식 기술이 아니더라도 여전히 경찰에 클라우드, 인공지능 등 기술적 뒷받침을 해주는 게 바로 아마존, 마이크로소프트와 같은 기업이고요.
Black Lives Matter 운동의 성과로 미국의 여러 주에서 경찰 기구를 해체하거나 예산을 폐지하는 절차가 시작됐습니다. 미국엔 백년 가까이 경찰개혁이 좌초된 역사가 있는데요, 이번에는 같은 실패가 반복되지 않기를 멀리서나마 바라봅니다. 지금까지 따오기였습니다.
| AI 기계번역을 통한 비용 절감? 남의 인생 가지고 테스트하지 마 | 2023/05/31 |
| 새해 다짐: 재활용 마스터가 될 테다. 굴러다니는 스마트폰 재활용은 그 서막 | 2023/01/21 |
| 2009년 1월 21일 용산참사 현장에서, 조세희 선생님 연대 발언 | 2022/12/28 |
| 넷플릭스 애니메이션 《사이버펑크: 엣지러너》 | 2022/12/26 |
| (12.7 샌프란시스코 업뎃) 🇺🇸경찰을 믿고 킬러 로봇을 도입? 어딜 어떻게 ... | 2022/11/06 |
이스라엘군이 검문소에 설치한 안면인식 카메라로 팔레스타인인들의 생체정보를 수집해 데이터베이스화하고 있다. 군에 안면인식 기술을 제공하는 업체는 이스라엘의 스타트업 애니비전(Anyvision Interactive Technologies)이다. 애니비전은 퀄컴, 마이크로소프트 등 대기업의 투자를 성공적으로 유치하고 이스라엘군이 점령지 서안지구의 팔레스타인인들을 감시할 수 있는 기술을 제공하며 요 몇 년 새 괄목할 만한 성장을 이루었다.
애니비전이 개발한 안면인식 소프트웨어는 기종을 가리지 않고 대부분의 카메라와 연동해 바로 작동할 수 있게 설계돼 있다. 애니비전은 이스라엘군이 서안지구에서 진행하는 두 개의 감시 프로젝트에 기술을 공급한다. 첫 번째는 매일 각각 수천에서 수만의 팔레스타인인이 지나다니는 팔레스타인과 이스라엘 사이 검문소 27개에서 안면인식을 통해 통행 허가증 소지자인지를 자동 확인하는 것이다. 두 번째는 서안지구 안에 군이 설치한 검문소에서 일상적으로 촬영한 팔레스타인인들의 데이터를 수집해 ‘잠재적 테러리스트’를 감시하는 것이다. 두 번째 프로젝트에 대해서는 아직까지 자세히 알려진 바가 없다.
이스라엘 국방부는 최근 몇 년간 1천억여 원을 들여 팔레스타인과 이스라엘 사이 검문소의 시설을 ‘개선’하고 안면인식 카메라를 설치해 2019년 2월부터 새로운 검문 시스템을 도입했다. 잠시 이 검문소라는 것이 무엇인지 살펴보자.
이스라엘은 1967년 팔레스타인 즉 서안지구, 가자지구, 동예루살렘과 시리아의 골란 고원을 군사점령했다. 그 뒤 동예루살렘과 골란 고원을 자국 영토라 주장하고 있고, 가자지구와 서안지구의 많은 부분도 자국 영토로 불법 편입시켰다. 그리고 가자지구는 주기적으로 침공해 학살을 자행하며 13년간 육･해･공을 봉쇄 중이고, 서안지구는 2002년 주로 8미터 높이의 콘트리트 장벽으로 둘러싸는 공사를 시작해 거의 완공했다. 2004년 국제사법재판소는 이 장벽 건설이 불법이라고 결정했다. 그러나 이스라엘은 아랑곳하지 않고 마치 이 장벽이 서안지구와 이스라엘 사이의 ‘국경선’이라도 되는 양 장벽 곳곳에 검문소를 설치하고 ‘국경 검문소’라 부르고 있다. 장벽은 실제로는 서안지구 안쪽 땅을 깊숙이 침범하며 세워졌고, 많은 팔레스타인 마을이 장벽 때문에 갈라졌다. 이스라엘은 또다시 그 땅을 불법 병합했다.
장벽의 검문소는 서안지구 안 곳곳에 세워진 검문소와 함께 이스라엘의 대표적인 군사점령 만행의 장소로 꼽힌다. 검문소에 가로막혀 이 안에서 출산을 하다가 사망한 임산부나 병원에 가지 못해 사망한 환자의 사례가 적지 않다. 물론 사망자 중엔 어린이들도 있다.
일상적으로는 매일 아침 서안지구에서 이스라엘로 출퇴근하는 팔레스타인 노동자들이 4시간 가까이 검문소에 줄을 서서 통행을 허가받기 위해 대기해야 했다. 이스라엘은 1천여 억 원을 들여 검문소를 선진화한 덕분에 노동자들의 대기 시간이 4시간에서 10분으로 줄어들었다며 안면인식 기술 도입을 자화자찬하고 있다.
그렇다면 애초에 팔레스타인 노동자들은 출퇴근 길 8시간을 대기하면서까지 왜 이스라엘로 일하러 갔던 것일까. 이스라엘이 팔레스타인 노동자들로 자국을 위한 거대한 하부 인력시장을 만들었기 때문이다. 이스라엘은 팔레스타인을 군사점령한 뒤 팔레스타인 산업을 파괴하고 국경과 수출입을 통제해 경제를 고사시켰다. 이스라엘 화폐가 기본 통화로 지정되고 이스라엘로부터 공산품을 구입하도록 강제되며 팔레스타인의 물가는 이스라엘에 맞춰졌다. 이스라엘의 물가는 한국보다도 높다.
그리고 이스라엘의 유대인이 꺼려하는, 힘들고 임금이 적으며 법적인 보호 장치가 적은 직업군에 점령지 팔레스타인의 노동자를 데려오기 시작했다. 같은 일을 하고도 팔레스타인 노동자의 임금은 유대인 노동자 임금의 3분의 1에도 못 미친다. 그럼에도 팔레스타인에 제대로 된 산업이 성장할 수 없었고, 따라서 실업률 역시 몹시 높았기 때문에 많은 노동자가 일자리를 찾아 이스라엘로 향했다. 그러나 이스라엘 정부는 군사점령에 저항하는 팔레스타인인이 많다는 이유로 2000년대 중반부터 노동자의 출입을 엄격히 관리하기 시작하며 노동 허가 제도를 도입했다.
이스라엘군은 검문소에서 이스라엘로 출근하는 팔레스타인 노동자의 몸을 수색하고 노동 허가증 소지 여부를 검사했다. 이 과정 때문에 팔레스타인 노동자는 매일 아침 적어도 출근시간 4시간 전부터 검문소에 줄을 서야 했던 것이다. 때문에 바뀐 시스템을 달가워하는 이들도 적지 않다.
하지만 새 시스템에 따라 이제 노동 허가증을 받으려면 반드시 생체정보가 담긴 마그네틱 신분증을 만들어야 한다. 2019년 6월 현재 팔레스타인 점령지를 통치하는 이스라엘 국방부 산하의 군사정부(COGAT)는 서안지구 주민들에게 83,000개의 노동 허가증과 382,000개의 ‘스마트 신분증’을 발급했다.
유엔 인도주의 업무조정국(UNOCHA)에 따르면 2017년 1월 현재 서안지구에는 총 98개의 검문소가 있는데, 이 중 39개의 검문소는 베들레헴과 칼란디야 등 장벽에 위치한다. 이스라엘군은 장벽의 검문소 중 27개에 애니비전의 안면인식 카메라와 소프트웨어를 도입했다고 밝혔다. 하지만 스마트 신분증과 얼굴을 스캔당해 검문소를 통과하는 이들의 정보가 수집돼 다른 용도로도 쓰이냐는 질문에 대해서는 답변을 거부하고 있다.
장벽 외에 서안지구 안에 설치된 59개의 상시 검문소 중 어디에 애니비전의 카메라가 설치됐는지도 밝히지 않고 있다. 또 기습적으로 설치되는 이동식 검문소라는 것도 있는데, 유엔이 2016년과 2017년에 각각 5,587개, 2,941개가 설치됐다고 밝힌 바 있다. 카메라 어느 기종에나 설치 연동과 실행이 간편한 애니비전 안면인식 프로그램의 특성상 이동식 검문소에서도 사용될 가능성이 있지만 이 역시 알 수는 없다. 팔레스타인인은 언제 어디서 자신들이 촬영되는지, 그렇게 촬영된 데이터가 어떻게 수집･저장돼 활용되고 있는지 알 길이 없다. 통제는 더욱 불가능하다.
이스라엘군은 이미 검문소에서 신분증 정보와 전화번호, 차량 정보, 얼굴 사진 등 팔레스타인인들의 개인정보를 수집해 자칭 ‘테러 방지 데이터베이스’를 만들어 왔다. 네타냐후 총리는 여러 번 ‘빅데이터’를 활용해 ‘테러’를 예방했다고 언급한 바 있다. 기존에 검문소에서 수동으로 일일이 정보를 수집해야 했던 이스라엘 군인들이 업무 강도에 불만을 터뜨리기도 했다. 이제 생체정보가 담긴 스마트한 시스템의 도입으로 데이터 수집과 신분 확인 절차가 간소화되고 편리해졌다. 일견 이스라엘군과 팔레스타인 피점령민 양자 모두에게 이로운 일처럼 보인다.
이스라엘 국방부는 이런 안면인식 시스템의 도입을 통해 ‘국경 검문소’, 즉 27개 장벽의 검문소가 ‘공항 터미널’ 같아졌다고 말한다. 같은 인식을 많은 팔레스타인 사람들이 공유한다. 좁고, 지저분한데다 매일같이 붐비던 검문소가 쾌적한 공간으로 거듭났다. 피점령지 주민으로서, 점령당국의 폭력을 매일 면 대 면으로 경험하던 팔레스타인인들에게 점령군과 접촉이 최소화되는 것만도 큰 의미가 있을 것이다. 하지만 이런 감시의 고도화는 검문소를 정상적인 것으로, 아무런 불편함과 거리낌 없는 일상의 일부로 만든다. 궁극적으로는 이스라엘이 전력을 다해 시도하는 점령체제의 정상화에 이바지한다.
안면인식 기술과 생체정보의 DB화도 문제적이다. 2019년 5월 샌프란시스코 시의회는 미국 최초로 경찰 등 55개 행정기관이 범죄수사를 위해 안면인식 기술을 사용하는 것을 금지하는 내용의 조례를 통과시켰고 여러 도시들도 잇따라 같은 내용을 통과시켰거나 논의 중이다. 감시 기술이 인권 침해적인데다, 생체정보는 변경이 불가능하다는 특성 상 피해 발생 시 원상회복이 불가역적이기 때문이다.
거기다 이스라엘이 팔레스타인 사람들의 얼굴 사진 등 생체 정보를 저장해서 테러 예방 명목의 거대한 감시 체제를 만들고 있지만 당사자들은 정보가 어떻게 수집돼서 어떻게 활용되는지에 대한 접근권도 없다. 한편으론 이렇게 모인 생체정보들이 빅데이터화 돼 애니비전 같은 이스라엘 업체의 자산이 되고 기술 개발에 활용될 우려도 크다. 안면인식 기술의 정확도를 높이기 위해선 최대한 많은 데이터 수집과 분석이 필요하다. 그래서 안면인식 기술 개발을 위해 당사자의 동의를 구하지 않고 인터넷 상의 사진을 마구 가져다 데이터셋을 만든 기업들이 계속 문제가 되고 있다. 애니비전이 자랑하는 높은 정확도는 이런 문제제기로부터 안전하게, 아무런 통제 없이 팔레스타인인들을 이용해 개선되고 있는 건 아닐지 의심스럽다. 이 때문에 애니비전 투자자로서 마이크로소프트(MS)가 큰 비판을 받고 있다. 최근 미국 이민관리국이 이민자 단속을 위해 MS사의 안면인식 기술을 도입하겠다고 밝히자 비판 여론에 몰린 MS사가 기술을 제공하지 않겠다고 밝힌 일이 있다. 이와 같은 비판은 애니비전 투자에도 적용돼야 한다. MS사는 안면인식 기술 개발과 적용에 관한 6개의 윤리적 지침을 만들기도 했다.
매일 일터에 가기 위해 노동 허가증이 필요한 이들로서는 안면인식을 비롯한 감시 시스템을 거부할 방법이 없다. 반세기 넘게 극악한 점령정책과 경제 말살에 시달린 사람들에게 괴롭힘을 피할 쉬운 선택지로써 생체정보 제공은 너무나 유혹적이기도 하다.
이스라엘과 친미 아랍 국가들은 지금 오랜 반목을 공식적으로 깨고 미국의 ‘중동평화’ 구상에 따른 반(反)-이란 전선을 형성하고 있다. 이 과정에서 유화책으로 팔레스타인인들에게 ‘경제 번영’을 약속하고 있는데 원조 명목의 기금이 상당 부분 그랬듯 걸프 국가가 약속한 돈도 이스라엘로 쏟아져 들어갈 공산이 크다. 자본의 이동만큼 노동자의 이동 역시 자유로울 필요가 있기 때문에 이스라엘은 팔레스타인 노동자들이 전보다 쉽게 이스라엘로 일하러 가도록 시스템을 정비했다. 그러면서 동시에 선진화된 감시 시스템을 구축하고 있다.[워커스 59호]
| AI 기계번역을 통한 비용 절감? 남의 인생 가지고 테스트하지 마 | 2023/05/31 |
| 새해 다짐: 재활용 마스터가 될 테다. 굴러다니는 스마트폰 재활용은 그 서막 | 2023/01/21 |
| 2009년 1월 21일 용산참사 현장에서, 조세희 선생님 연대 발언 | 2022/12/28 |
| 넷플릭스 애니메이션 《사이버펑크: 엣지러너》 | 2022/12/26 |
| (12.7 샌프란시스코 업뎃) 🇺🇸경찰을 믿고 킬러 로봇을 도입? 어딜 어떻게 ... | 2022/11/06 |
최근 댓글 목록