블랙 라이브즈 매러!
((피해자 ‘로버트 윌리엄’ 인터뷰 영상 삽입))
“‘이건 내가 아니에요. 흑인이 다 똑같이 생겼다고 생각하는 건 아니겠죠.’ 그러자 경찰이 하는 말이 ‘컴퓨터가 당신 맞다는데?’였죠.”
IBM이 얼굴인식 기술 개발 중단을 선언했습니다. 뒤이어 아마존과 마이크로소프트도 미국 경찰에 얼굴인식 기술 제공을 일시적으로 멈추겠다고 밝혔구요. 지금 미국 사회에서 가장 첨예한 이슈, ‘흑인의 생명도 소중하다’는 뜻의 Black Lives Matter 운동의 영향입니다.
((시그널))
5월 25일, 백인 경찰들이 아프리카계 미국인 ‘조지 플로이드’를 질식시켜 살해하는 영상이 공개된 후 수많은 사람들이 뿌리 깊은 경찰 폭력과 인종차별을 규탄하며 거리로 쏟아져 나왔습니다. ‘경찰 예산 폐기!’부터 ‘경찰 조직 해체!’까지, 경찰에 관한 다양한 요구도 쏟아져 나왔고요. 경찰에 엄청난 예산이 투여되지만, 정작 경찰이 하는 짓은 사회 구성원 보호가 아니라 공동체, 특히 흑인 공동체에 엄청난 폭력을 가하며 죽음으로 몰아가는 거였죠.
그리고... 이런 경찰에 기생해 온 것들이 있습니다. 바로 따오기의 관심사, 기술기업들이죠.
우리는 이미 얼굴인식 기술에 대해 아주 잘 알고 있습니다. 아주 먼 옛날… 페이스북이 내가 올린 사진에서 친구 얼굴에 네모칸을 치고 이름을 입력하라고 했을 때부터... 하루에도 수백 번 스마트폰 잠금해제를 위해 얼굴 인식 기술을 사용하는 지금까지 말이죠.
얼굴인식 기술이 가져다주는 편리함과 즐거움이 우리들의 개인정보와 맞교환된 결과라는 것은 어느 정도 아실 겁니다. 온갖 앱을 다운받으며 혹시 이 앱이 내 개인정보를 막 약탈해가는 거 아닌가 하는 불안감, 한 번 쯤은 다들 느껴봤을 테니까요.
그런데 얼굴인식 기술이 감시도구로, 경찰 같은 수사기관의 도구로 활용될 경우 커다란 인권침해가 이뤄집니다. 얼굴인식이 실패하든, 성공하든 말이죠.
요즘처럼 마스크를 항상 착용하게 되는 시기에는 스마트폰이 내 얼굴을 인식하지 못하는 일이 벌어집니다. (본인거부율 False Rejection Rate, FRR)
또는 나와 비슷한 얼굴을 가진 사람, 예를 들어 쌍둥이의 얼굴을 갖다대도 잠금해제가 되는 경우도 있습니다. (타인수락율 False Acceptance Rate, FAR)
얼굴인식 기술은 지문, 홍채 인식 기술에 비해 정확성이 굉장히 떨어집니다. 그럴 수밖에 없죠. 얼굴인식은 촬영 상태, 즉 화질, 빛, 얼굴 각도, 마스크나 안경을 꼈는지 등에 따라 오류 가능성이 천차만별로 달라질테니까요.
이 정도 오류는 일상생활에 큰 영향을 미치진 않죠. 그런데 이런 기술적 실패가, 경찰 수사에서 벌어진다면 문제가 달라집니다.
2020년 1월 9일, 디트로이트 경찰이 로버트 윌리엄 씨를 어린 두 딸의 눈앞에서 체포했습니다. 잘못된 얼굴인식 결과를 근거로 말이죠.
((피해자 ‘로버트 윌리엄’ 인터뷰 영상 삽입, 출처: 미국시민자유연맹(ACLU)))
“경찰이 사진 한 장을 내밀더니 ‘이거 당신 맞지?’ 하고 물었습니다. 저는 제가 아니라고 했고요. 다른 종이를 한 장 더 내밀더니 ‘이것도 당신 아니야?’라고 묻길래, 저는 그 종이를 들어 제 얼굴 옆에 대고 말했습니다. ‘이건 내가 아니에요. 흑인이 다 똑같이 생겼다고 생각하는 건 아니겠죠.’ 그러자 경찰이 하는 말이 ‘컴퓨터가 당신 맞다는데?’였죠.”
디트로이트 경찰 스스로 밝히길, 윌리엄 씨를 체포하는 데 사용한 시스템은 실패율이 96%에 달합니다. 이렇게 엄청나게 부정확한 시스템을 올해만 70 번 사용했는데, 인종을 알 수 없었다던 두 명을 제외한 68 명이 흑인 대상이었다고 하고요. 아 진짜 죽이고 싶다 대조에 쓰인 사진은 소셜 미디어(70개 중 31개)나 감시 카메라(70개 중 18개)에서 가져온 것이었구요. 엉망진창이네요
이런 오류와 실패는, 현실의 차별을 답습한 결과입니다. 얼굴인식 인공지능이 개발되고 학습하는 조건, 특히 개발팀의 인종/젠더 구성과 학습에 사용되는 데이터베이스의 구성은 결과의 정확성에 큰 영향을 미칩니다. 백인 남성 중심으로 개발된 기술은 백인 남성에게나 정확한 것이죠. 차별적인 기술이 수사 과정에 사용되면? 로버트 씨 사례에서 확인할 수 있죠.
하지만 이런 문제는 비교적 개선될 가능성이 높은 편입니다. 업계에서도 인공지능 개발과 학습 과정에 차별 요소를 줄여나가야 한다는 목소리가 높아지고 있고요.
그러면 문제가 끝나는 걸까요?
얼굴이나 지문은 어떤 상황에선 아이디나 패스워드 역할을 하기도 하죠. 얼굴, 지문, 홍채, 걸음걸이 같은 한 개인의 신체적 또는 행동적 특성에 기반하여 그 개인을 ‘인증’하거나 ‘식별’하기 위해 기술적으로 사용하는 ‘개인정보’를 생체인식 정보라고 합니다.
사람의 머리 스타일이나 키, 몸무게를 생체인식 정보로 활용할 수 있을까요? 힘들겠죠? 변하기도 쉽고, 다른 사람이랑 엄청 겹칠 테니까 말이죠.
그래서 생체인식 정보는 먼저 모든 사람에게 그 정보가 존재하고(자막: 보편성), 사람마다 그 정보가 각기 다르고(고유성), 대체로 그 정보가 변하지 않아야(불변성) 합니다.
불변성. 생체인식 정보는 바꿀 수 없습니다. 때문에 한번 유출되면 그 피해를 복구하는 것이 거의 불가능합니다. 특히 얼굴은 더 위험성이 큽니다. 인터넷을 잠깐만 둘러봐도 금방 찾을 수 있는 게 우리의 얼굴 이미지잖아요. 고마워요 페이스북! 내가 SNS를 하지 않더라도 주변인이 사진을 찍어 SNS에 업로드할 수도 있고, 거리엔 천만 대가 넘는 CCTV가 있죠.
우리가 길을 걸으며 CCTV에 촬영될 때, 셀카를 페이스북에 업로드할 때, 운전면허 시험을 치르고 사진을 제출할 때, 나의 얼굴이 얼굴인식을 위해 사용될 거라고 생각하지 않습니다. 하지만 현실은 그렇지 않죠.
IBM은 사진 공유 서비스 플리커(Flickr)에 올라온 사진을 아무런 고지도 없이 얼굴인식 학습용 데이터로 사용했고, 미국 FBI와 이민세관단속국은 운전면허증 사진을 얼굴인식 대조 데이터베이스로 활용했습니다. 클리어뷰 에이아이(Clearview AI)라는 업체는 SNS 같은 인터넷에 올라온 30억 장의 사진을 데이터베이스로 활용해 경찰에 제공했고요. 조지 플로이드 씨를 살해한 미니애폴리스 경찰도 그 중 하나였습니다.
이렇게 한 번 수집됐거나 제출된 얼굴 이미지가 어떻게 활용될지, 그 위험성은 아주 크지만 통제는 굉장히 부족합니다. 테러와의 전쟁, 치안, 안보 등을 핑계로 신기술을 도입하고 개발하는 건 권력기관과 기업 모두에게 윈윈일 테니까요. 그런데 인공지능 기술 개발과 판매에 열을 올리며 얼굴인식 기술 개발을 선도하던 거대 기술 기업 세 곳이 갑자기 개발 중단, 혹은 경찰과 협업 중단을 선언한 겁니다.
IBM은 얼굴인식 기술 개발 중단을 선언하며 “타사가 제공하는 얼굴인식 기술을 포함해 대량 감시와 인종 프로파일링과 같이 인권 침해의 소지가 있는 어떠한 기술의 사용도 강력히 반대한다”고 밝혔습니다.
사실 IBM은 뉴욕 경찰과 은밀한 협약을 맺어 시민의 ‘피부색’을 따로 인식하고 검색할 수 있는 기술을 개발해 제공한 경력이 있습니다. 단순히 특정 인물을 검색하는 걸 넘어서, 예를 들어 ‘흑인’만 따로 검색해서 영상을 찾아볼 수 있게 한 거죠.
아마존은 소비자 개개인이 구매한 자사의 스마트 도어벨, 그니까 감시카메라 제품 링(Ring)으로 촬영된 영상에 경찰이 접근하기 쉽게 포털 서비스를 만드는 등 경찰의 감시 능력을 부추겨왔죠.
마이크로소프트는 1000만개 이상의 사진 데이터베이스를 운용한 바 있구요.
이들이 Black Lives Matter 운동의 영향을 받아 지금이라도 기술 개발이나 제공을 멈춘 것은 잘한 일이긴 합니다. 하지만 이미 대기업들이 제공했던 데이터와 기술은 여전히 얼마든지 활용될 수 있습니다. 미국 여러 주에서 경찰에 납품하는 중소기업들이 갖다쓰고 있고요. 만 오천 원만 들이면 누구나 아마존의 얼굴인식 프로그램을 사용해 볼 수 있습니다.
또 얼굴인식 기술이 아니더라도 여전히 경찰에 클라우드, 인공지능 등 기술적 뒷받침을 해주는 게 바로 아마존, 마이크로소프트와 같은 기업이고요.
Black Lives Matter 운동의 성과로 미국의 여러 주에서 경찰 기구를 해체하거나 예산을 폐지하는 절차가 시작됐습니다. 미국엔 백년 가까이 경찰개혁이 좌초된 역사가 있는데요, 이번에는 같은 실패가 반복되지 않기를 멀리서나마 바라봅니다. 지금까지 따오기였습니다.
| AI 기계번역을 통한 비용 절감? 남의 인생 가지고 테스트하지 마 | 2023/05/31 |
| 새해 다짐: 재활용 마스터가 될 테다. 굴러다니는 스마트폰 재활용은 그 서막 | 2023/01/21 |
| 2009년 1월 21일 용산참사 현장에서, 조세희 선생님 연대 발언 | 2022/12/28 |
| 넷플릭스 애니메이션 《사이버펑크: 엣지러너》 | 2022/12/26 |
| (12.7 샌프란시스코 업뎃) 🇺🇸경찰을 믿고 킬러 로봇을 도입? 어딜 어떻게 ... | 2022/11/06 |
최근 댓글 목록