언론지키는 사람들

챗지피티(다른 사람들이 AI라고 부르는)는 네모난 화면 안에 문자를 기입할 수 있는 '뉴챗' 검색창으로 이뤄져 있다. 이 네모난 화면은 전 세계의 회선이 모이는 거대한 서버로 통하고 있으며 인간은 제각각의 할당된 창 앞에 앉아 무수히 많은 질문들을 쏟아내며 이 우주를 헤메고 있다. 챗지피티는 마치 유행처럼 돌고 있는 것 같다.

챗지피티는 대부분 그럴듯한 글을 쏟아내기도 하지만, 세상에 존재하지 않는 지식(인지 아닌지 모를 것들을 포함해)을 쏟아내기도 한다. 전문가들은 하나같이 현실과 환상의 경계를 모호하게 하는 답변들로 세상이 혼돈에 빠질 것처럼 말한다. 이런 평가를 읽으며 아르헨티나의 작가 호르헤 루이스 보르헤스를 떠올렸다. 그는 문학 속에서 다양한 위작을 즐겨 창조했는데, 이는 독자들을 감쪽같이 속이려 한 목적보다는 인간의 삶이 허구와 별다른 차이가 없다는 걸 보여주고자 한 것이다. 특히 각주를 달아 상상으로 만들어낸 책을 마치 있는 것처럼 그럴듯하게 꾸며내는데, 보르헤스가 달아 놓은 각주엔 실제로 존재하는 책과 거짓으로 꾸며낸 책을 뒤섞어 놓아 독자들을 혼란에 빠뜨린다. 챗지피티는 21세기의 마술적 리얼리즘 같은 물건이다. 

챗지피티는 잘못된 답변을 그럴듯하게 만들어내기도 하고, 존재하지 않는 책을 존재하는 것처럼 인용해 답변을 내놓기도 한다. 사용자가 반복된 질문을 통해 챗지피티의 거짓말을 유도했을지 몰라도, AI가 거짓말을 그럴듯하게 만들어내고 있는 이 현실이 사람들을 경악케하고 있는 것 같다. 하지만 이런 건 인간들이 수없이 해 왔던 일이다. 보르헤스와 같은 뛰어난 작가들은 이미 이런 실험을 해 왔다. 20세기 모더니즘과, 아방가르드, 다다이즘, 기존 형식을 파괴하려 시도했던 수많은 예술적 노력들의 후예가 어쩌면 챗지피티일 수도 있겠다. 기계복제 시대에, 이들은 그럴듯한 아이디어로 대중을 모욕하고 현혹시켰으며, 동시에 인간 사고의 지평을 열어제쳤다.  

보르헤스의 단편 <바벨의 도서관>에는 세상의 모든 문자로 된 가능한 모든 조합으로 만들어낸 지식이 담겨 있는 도서관이 등장한다. 이 도서관의 책을 설명하는 공리 중 하나는 24글자의 알파벳으로 거의 무한대의 조합이 가능하다는 것이다. 이를테면 어떤 책은 M, C, V로만 410페이지를 채웠다. 누군가에겐 아무런 의미도 없는 알파벳 세 개의 나열에 불과하지만, 그것이 의미를 갖는 것인지, 안 갖는 것인지는 판단할 수 없다. 도서관 이용자 중 누군가는 그 책을 읽고 인류와 우주의 새로운 비밀을 해제할 것이라 믿을 수도 있다. 언어는 해석하고 받아들이는 자의 몫이므로. 그 도서관에는 세상과 역사 속에 존재한 모든 방언을 포함한 언어의 책이 있고, 그 책에 대한 해설서와 그 해설서에 대한 해설서, 그리고 그 해설서에 대한 해설서에다 더해, 누군가 쓰려고 했으나 쓰지 않은 책들까지도 담겨 있다. 인간은 이 도서관에서 '불완전한 사서'일 뿐이다. 

세상의 모든 질문에 대해 말 할 줄 아는 기계, 그리고 '불완전한 오퍼레이터' 인간. 챗지피티와 바벨의 도서관은 닮아 있다. 사실 새로울 건 없다. 이미 지나간 20세기 예술 실험들이 21세기의 기술을 입고 대중화된 세상이 도래했을 뿐. 모두가 보르헤스고, 모두가 뒤샹이고, 모두가 앤디워홀이 될 수 있는 그런 세상일 뿐일 수 있다.

100여년 전 예술가들처럼 챗지피티는 우리에게 근본적인 질문을 던지고 있다. 환상과, 실제, 거짓과 사실의 경계는 어디에 있는가. 진짜 맥락과 가짜 맥락의 구분은 어떻게 하는 것인가.  

챗지피티와 윤석열 대통령의 연설

사실 이 글의 주제는 윤석열 대통령에 관한 것이다. 챗지피티가 대화를 오래 나눠온 발화자의 특성과 맥락을 이해한다는 기사를 봤다. 하지만 그건 한 개인, 또는 어떤 목적을 같이 하는 집단이 챗지피티와 심화된 대화를 통해 이끌어낸 맥락들이다. 그러나 사회적 동물인 인간에겐 집단적으로 맥락을 공유하는 것들이 있다. '역사'다.

챗지피티가 대화 속 맥락을 이해했다는 호들갑은 거대한 착각일 수 있다. 이를테면 3.1절에 한국의 역사를 회고하며 '세계사의 변화에 제대로 준비하지 못해 국권을 상실하고 고통받았던 우리의 과거'라고 말하는 것은 발화자와 생각, 그리고 맥락을 같이 하는 그룹이 반복학습을 통해 만들어낸 텍스트다. 그러나 이 명제에 동의하지 않는 그룹들이 보면, '저 사람은 사실이 아닌 말을 하고 있다'고 비판할 수 있다. 80억 인류에게 열린 무한대의 '바벨의 도서관', 챗지피티는 80억 개의 맥락을 생산해 낼 수 있을 뿐이다. 

챗지피티는 인간 개개인의 지엽적 맥락을 구현해내는 대신, 종종 역사의 거대한 맥락을 제거하는 데 탁월하다. 독방에서 챗지피티와의 깊은 대화를 통해 그럴듯한 허구적 맥락을 창조해 놓고, 방을 나서서 이웃 사람에게 그 허구적 맥락을 강요하는 건 인간 사회에서 그리 권장되지 않는 일이다. 인간 사고의 지평을 넓히려 개발한 AI가 편협한 사고에 빠져들고 그 편협한 사고를 더욱 강화해 나 가는 현상은, AI 개발 초기 시절인 1960~70년대부터 학습형AI의 치명적 한계로 지적돼 온 것을 생각하자. 이런 생각을 하다가 윤석열 대통령의 3.1절 기념사를 읽었다. 

"제가 이쪽을 잘 아는 지인한테 2023년도 대통령 신년사를 '챗지피티'가 한번 써보게 해서 받아봤다. 정말 훌륭하더라."

신년사 연설에 써보게 할 정도라니, 내친김에 챗지피티에 윤석열 대통령의 3.1절 연설 속 역사 인식에 대한 평가를 물어봤다. 

한국어에 대한 이해도가 떨어진다고 하길래, 오해를 최소화하기 위해 챗지피티에게 영어로 번역한 질문을 던져봤다. 일제강점기 조선의 상황에 대해 '세계사의 변화에 제대로 준비하지 못해 국권을 상실하고 고통받았던 우리의 과거'라고 설명하는 것에 대해 어떻게 생각하십니까.(What do you think about explaining the situation of Joseon during the Japanese colonial era as 'our past, when we lost our national sovereignty and suffered because we were not properly prepared for the changes in world history'?) 

다음은 챗지피티의 답변이다. 

AI 언어 모델로서 개인적인 믿음이나 의견은 없지만 질문에 대한 객관적인 답변을 드릴 수 있습니다.

당신이 제시한 진술은 일제강점기 조선의 상황을 다소 단순화한 표현입니다. 이 시기에 한국은 국권을 상실하고 일제 치하에서 많은 고통을 겪었던 것이 사실입니다. 그러나 상황은 단순히 세계사의 변화에 대비하지 않은 것보다 훨씬 더 복잡했습니다. 

일본의 한국 식민지배는 동아시아에 대한 제국주의적 팽창과 침략의 오랜 역사의 결과였습니다. 그것은 일본의 성장하는 경제와 군사력을 위해 자원과 영토를 확보하려는 열망에 의해 추진되었습니다. 일본 정부는 강제 노동, 문화 동화 정책, 정치적 탄압 등 다양한 전술을 동원하여 우리 민족을 통제하고 탄압했습니다. 

여기에 더해 한국은 일본의 식민 침략을 이끌어낸 세계사 역사의 변화들에 대해 완전히 준비가 되어 있지 않았습니다. 사실, 한국은 일본 병합 이전 수십 년 동안 상당한 근대화 노력을 해왔습니다. 그러나 이러한 노력은 종종 내부의 정치적 분열과 다른 제국 세력의 외부 압력에 의해 좌절되었습니다. 

전반적으로 한국이 일제강점기에 큰 고통을 겪었던 것은 사실이지만, 세계사에 대한 준비 부족으로 단순화하기보다는 이러한 상황을 초래한 복잡한 역사적 요인을 인식하는 것이 중요합니다. 

꽤나 훌륭한 답변이 나온다. 그런데 윤석열 대통령의 1000자 남짓(공백 제외)한 연설문 전문을 눈을 씻고 읽어봐도 '가해자'에 대한 비판이 들어있지 않다. 식민지배는 '피해자'인 우리가 '준비하지 못해'서 발생한 사건이 돼 있었다. 그러나 챗지피티는 '가해자'가 원인임을 분명히 지적하고 있다. 윤석열 대통령의 연설이 '우리'의 태도에 관한 말들로 점철돼 있는 것과 달리 말이다. 

특히 연설문에는 미래를 향해 나아가기 위한 전제가 될 '과거 가해자'의 태도가 지금 어떤지에 대해서는 단 한마디의 평가도 포함시키지 않았다. 가해자가 우리를 어떻게 취급해왔는지도 단 한마디 들어있지 않다. 심지어 "일본은 과거 군국주의 침략자에서 우리와 보편적 가치를 공유하고 안보와 경제, 그리고 글로벌 어젠다에서 협력하는 파트너가 되었습니다"라며 마치 '개과천선한 침략자'의 이미지로 그려져 있다. "일본은 과거 군국주의 침략자에서"라는 말과 "우리와 보편적 가치를 공유하고 안보와 경제, 그리고 글로벌 어젠다에서 협력하는 파트너가" 됐다는 말 사이에 뭔가 핵심적인 게 빠져 있다고 느끼는 건 필자 뿐일까? 모든 게 '우리'의 문제일 뿐이다. 이건 역사를 공유해 온 한국 사람들이 보편적으로 인식해 온 '대문자 역사'의 맥락을 거세해버린다. 윤석열 대통령이 학습해 내 놓은 이 연설문은 윤 대통령과 다른 생각을 학습한 부류들(그들은 이런 사람들을 '반일', '죽창가 부르는 사람' 쯤으로 프레임화 한다.)이 가진 생각의 맥락을 부순다. 그래서 많은 이들이 '3.1절의 의미'에 대한 답변을 기대하고 있는 날 나온 '챗윤석열'의 답변에 대해 당혹스러워 하는 것이다. 

윤석열 대통령의 3.1절 기념사를 보면서, 한 엘리트주의자가 역사의 거대한 맥락을 거세하고 그럴싸한 미사여구를 늘어놓은 것 같은 느낌을 받았다. 극우적 생각을 물리적 기호로 변환해 나열해 두었는데, 그 안에는 많은 사람들이 동의할 수 없는 내용들로 가득 차 있는 셈이다. 누군가에게 윤석열의 3.1절 기념사는 '챗윤석열'이 역사적 사회적 맥락을 제거하고 만든 기호의 나열일 뿐이고, 챗지피티가 쓴 것의 오류를 잡아내듯이 그 말이 거짓이거나 위험한 말이라고 지적해야 한다. 윤석열 대통령은 정치인 출신이 아니다. 정치와 역사의 맥락에서 서툰 모습들을 자주 보여왔다. 윤석열 대통령의 3.1절 기념사는 '학습형 정치인'의 치명적 결함일 수도 있다. 

박세열 기자 

정치부 정당 출입, 청와대 출입, 기획취재팀, 협동조합팀 등을 거쳤습니다. 현재 '젊은 프레시안'을 만들고자 노력하고 있습니다. 쿠바와 남미에 관심이 많고 <너는 쿠바에 갔다>를 출간하기도 했습니다.