폐쇠중

본문

요즘은 우리나라에서도 웬만한 기업의 경우에는 거의 모든 직원들이 컴퓨터에 쉽게 접근할 수 있는 환경이 구축되고 있고, 사회적으로는 마치 컴퓨터를 모르면 당장 낙오자로 도태할 것 같은 분위기가 팽배해 있다. 신문이나 잡지를 통하여 컴퓨터에 대한 대중의 관심이 계속 높아가는 이 때에, 과학 소설(SF)의 관점이 아니라 과학적인 관점에서 컴퓨터의 능력과 가능성을 고찰해 보는 일은 중요하다고 생각된다.

우리는 흔히 주변에서(특히 선정주의적 언론으로부터) 마치 컴퓨터가 만능의 기계이며 머지않은 장래에는 인간 역할의 대부분을 대치할 수 있을 것 같은 인상을 주는 얘기를 듣는다(전산학에서 이렇게 인간의 지적 기능을 컴퓨터에게 부여하려고 하는 연구 분야를 인공 지능 분야라고 한다). 한편으로 컴퓨터의 실제 사용자들로부터는 컴퓨터란 인간의 작업 지시(=프로그래밍)가 없이는 아무 일도 못하는 쇳덩어리에 불과하며 지능이라고 부를 만한 고유한 속성은 전혀 가지고 있지 않다는 얘기도 듣는다. 과연 어떤 말이 진실일까?

컴퓨터가 종종 의인화되긴 하지만 컴퓨터의 속성과 인간의 속성에는 중요한 차이가 존재한다. 컴퓨터는 엄밀하게 정의된 업무를 매우 빠르고 정확하게 처리하도록 설계되었고, 실제로 잘 처리하고 있다. 그러나 컴퓨터는 상식적인 일을 잘 처리하지 못한다. 반면에 사람은 가끔 복잡한 계산에는 허둥대지만 이해하고 사고할 수 있는 능력이 있다. 핵물리학의 문제를 계산할 수 있다고 컴퓨터를 똑똑하다고 생각할 지 모르나, 컴퓨터는 풀고 있는 문제를 이해하는 것도 아니고 똑똑하다는 의미 자체도 이해하지 못한다.

그러나 한편으로는 이러한 비평은 컴퓨터에게 너무 가혹하다고 할 만도 하다. 비록 지시된 계산을 단순히(?) 수행하는 것이 추리나 판단같은 능력보다는 저급일지 몰라도 이러한 측면 역시 지능의 한 구성 요소라고 보는 것이 보다 공정한 판단일 법하다. 또한 어느 정도의 인식력과 추리력같은 지적 능력을 보일 수 있도록 컴퓨터를 프로그램할 수 있다는 것도 사실이다. 그러나 이러한 능력이 정말로 컴퓨터에 지능의 존재를 나타내는 것인가에 대해서는 여전히 많은 논란이 일고 있다. 지능적으로 보일 수 있다는 사실은 큰 의미를 갖기 때문에, 윤리적인 의문을 제기하거나 오늘날의 기술 능력을 공상 과학 소설의 세계로 확장하기에 충분하다. 따라서 실체를 파악하기 위해서 주어진 프로그램(보다 정확하게 표현하자면 "잘 정의된 기계적 절차" --- 이것을 수학과 전산학 분야에서의 전문 용어로는 "알고리즘(algorithm)"이라고 한다)을 실행하는 컴퓨터의 궁극적인 능력을 알기 위한 과학적인 조사가 필요하다.

컴퓨터 능력의 한계에 관한 많은 연구 결과는 20세기초에 논리학 분야에서 수행된 것이다. 따라서 우리가 지금 사용하는 컴퓨터의 능력은 컴퓨터가 발명되기 전부터 충분히 예견되고 있었다. 한동안 수학으로 분류되던 분야가 요즘은 전산학으로 분류되고 있다. 어느 분야에 속하냐에 관계없이 이 주제는 수학적 사고의 능력과 한계를 연구한다는 점에서 매우 흥미가 있다.

20세기가 시작될 무렵, 수학자 힐베르트(Hilbert)는 어떤 수학적인 명제가 입력으로 주어질 때 이의 참과 거짓을 알아내는 알고리즘을 찾고자 하는 일종의 "수학 자동화" 연구를 시작하였다. 그후 1931년에 이 방면의 연구에서의 금자탑(사실은 수학 분야뿐만 아니라 모든 철학과 과학 분야를 통털어 20세기의 가장 위대한 업적중의 하나)이라고 할 수 있는 괴델(Godel)의 논문이 발표되었다. 즉 그러한 알고리즘은 존재할 수 없음을 증명한 유명한 "불완전성 정리(Incompleteness Theorem)"를 발표한 것이다. 그의 결과를 간단하게 설명하면, 모든 수학적인 논리 체계에는 그 논리 자체로써는 증명할 수 없는 참인 명제들이 존재한다는 것이다.

간단한 초등 기하학의 명제일지라도 그 내용은 경험이나 관찰의 결과와는 전혀 상관하지 않는다. 기하학에서는 경험이 아닌 연역, 즉 논리적 증명으로 정리가 확정되기 때문이다. 이것이 곧 공리적 방법의 특징이다. 신뢰의 바탕은 감각이 아니라 이성이다. 기하학의 공리적인 방법은 희랍 이후 강한 영향을 학문 세계에 끼쳐 왔다. 몇 개의 공리(이걸 공리계라고 한다)가 무한히 많은 명제를 도출하고, 논리만이 그 진리성을 보증한다. 이 간단한 방법을 통하여 인간은 수학적 공리계를 과학적 지식의 모델로 삼을 수가 있었다.

괴델의 이론은 이 공리적 방법에 한계가 있음을 밝힌 것이다. 이로 말미암아 희랍 이후의 전통적인 수학의 진리관이 일대 충격을 받은 것은 말할 나위가 없다. 괴델은 어떤 수학의 논리 체계도 본질적으로는 불완전함을 증명했기 때문이다. 예를 들어서 n개의 공리를 채택하는 수학 체계에서는 이 n개만의 공리를 바탕삼은 연산으로써는 답을 낼 수 없는 명제가 반드시 존재한다는 것이다. 바꾸어 말한다면 이 체계를 완전히 증명하기 위해서는 이 체계 밖에서 적어도 한 개의 새로운 공리 즉 n+1번째의 공리의 도움을 받아야만 한다는 이야기이다. 이제 이 새로운 공리를 도입하여 문제의 명제를 증명했다고 생각하자. 그러나, 설령 이 명제가 증명되었다 해도 새로이 보충된 공리로 인해 만들어지는 새로운 공리계는 또 다시 자신 내에 자신의 공리계만으로는 증명하지 못하는 또 다른 명제가 있다는 것이다. 모순이 없는 어떤 공리계가 주어졌을 때, 여기서 유도될 수 없고, 그러면서 참인 명제가 그 체계 안에 있다는 것은 공리계로서는 견딜 수 없는 치부이다. 이 괴델의 정리는 모순이 없는 완전한 수학을 만들려는 인간의 의도를 허망한 바램이라고 단정하는 것이다. (괴델의 불완전성 정리의 철학적인 면을 확대시켜서 어떤 학문 체계나 조직 사회에 적용되는 논리 구조를 생각하면, 그 속에서 통용되는 어떤 공리(척도)를 가지고 학문이나 조직의 완전성을 증명하기 위해서는 그 척도가 아닌 새로운 하나의 공리가 반드시 더 필요한 것이다. 이 원리를 확대하면 정치 문제, 경제 문제, 사회 문제 등은 언제나 그 자체 속에서는 해결할 수 없는 문제를 갖는다는 철학적인 명제가 된다. 실제로 이 원리의 내용은 수학뿐만이 아니라 철학계나 사상계에 큰 충격을 주었다.)

이렇게 일단 풀 수 없는 문제가 존재함이 증명된 후 많은 학자들은 풀 수 있는 문제들에 대한 연구에 몰두하여 여러가지 계산 모델을 제안하였다. 클레이너(Kleene)는 "부분 재귀 함수(partial recursive function)"를, 처치(Church)는 "람다 연산(Lambda Calculus)"을, 포스트(Post)는 "포스트 체계(Post System)"를, 그리고 튜링(Turing)은 "튜링 기계(Turing Machine)"를 각각 제안하여 풀 수 있는 문제의 범위를 결정하는 목적으로 이용하였다. 이런 시도는 대개 1935년을 전후하여 된 것으로, 현대적인 컴퓨터가 발명되기 이전에 이미 사람들은 알고리즘으로 풀 수 있는 문제들에 관심을 기울였다. 이렇게 서로 다르게 정의되어 성능면에서도 차이가 있을 걸로 생각되는 여러가지 모델들이 실제로는 계산 능력면에서 동등함이 밝혀졌으며, 이에 근거하여 이 모델들에 의해서 계산될 수 있는 문제들이 바로 알고리즘을 이용하여 풀 수 있는 문제들과 정확히 일치할 것이라는 가정이 있는데 이를 "처치 논제(Church Thesis)" 또는 "처치-튜링 논제(Church-Turing Thesis)"라고 한다. 물론 이 가정은 아직 증명되지 않고 있는데, 그 이유는 우리가 "풀 수 있는 함수 또는 문제"에 대해서 아직 정확한 정의를 내리지 못하고 있기 때문이다. 이 가정은 옳을거라는 심증이 아주 강하기 때문에 가정(conjecture)이라 하지 않고 논제(thesis)라 한다. 이들 모델중에서 현대 전산학 분야에서 가장 중요하게 취급되는 것이 바로 튜링 기계이다.

여러 기종의 컴퓨터가 존재하기 때문에 컴퓨터의 궁극적인 능력을 조사하는 데에는 컴퓨터의 속성에 대한 일정한 기준을 설정해야 한다는 것은 당연한 추론이다. 놀라운 일이지만 컴퓨터 기술이 개발되기도 전인 1930년대에 튜링이 이 작업을 완료하였다. 튜링은 그의 1936년 논문에서 괴델의 이론을 재구성하여 그것을 구체적으로 기계에 적용할 수 있게 만들었다. 튜링 기계라고 불리우는 튜링의 추상적인 기계는 계산 과정에서 없어서는 안 될 요소를 모두 포함하고 있다. 그리고 어떠한 알고리즘 기계도 튜링 기계의 한 특수한 경우라고 여겨지고 있다. 다시 말해서 알고리즘적 처리에 의하여 해결 가능한 모든 것은 튜링 기계에서도 수행할 수 있다. 더구나 튜링 기계는 알고리즘으로 성취할 수 있는 일만을 수행한다. 따라서 어느 문제가 튜링 기계로 해결할 수 없음을 보임으로써 그 문제는 어떤 알고리즘 기계로도, 즉 현대의 최신형 컴퓨터로도 해결할 수 없음을 보여줄 수 있다. 그것은 사실상 컴퓨터가 아무리 성능이 좋다고 할지라도 그 자체로는 해결할 수 없는 일정한 과제가 있다는 것을 의미한다. 즉 인간이 아무리 훌륭하게 프로그램을 할 지라도 모든 문제(인간이 가지고 있는 정서적인 면과 관련한 문제는 아예 차치하고 수학적인 뜻을 가지고 있는 문제)를 해결하는 컴퓨터를 만들 수 없다는 뜻이다.

그렇다면 이제 우리는, 컴퓨터는 결코 인간의 지적 기능을 대치할 수 없다는 결론을 내릴 수 있는 것인가? "보라! 정서적인 측면은 고사하고 수학적이고 논리적인 측면에서조차 컴퓨터 혹은 알고리즘적 기계는 해결할 수 없는 문제가 존재함이 수학적으로(수학의 한계와 수학의 능력!) 증명되지 않았는가!"라고. 실제로 이러한 주장이 인공 지능에 대한 수학적 비판의 핵심을 이루고 있다.

그러나 여기서 얘기가 끝나는 것은 아니다. 이 주장의 헛점은 인간의 두뇌가 논리 체계가 아니라고 가정하고 있다는 점이다. 이러한 단정은 전혀 근거가 없을 뿐만 아니라 오히려 인간의 지적 능력의 상당 부분은 알고리즘적 논리 체계라고 보는 것이 타당하다고 여겨진다. 그렇다면 기계와 마찬가지로 인간의 두뇌도 어느 정도는 동일한 괴델의 한계에 얽매이게 된다. 약 10년전에 퓰리처상을 수상한 호프스태터(Hofstadter)의 조심스러운 주장에 따르면, 괴델의 한계를 만드는 논리 체계의 특성이 오히려 컴퓨터에게 의지나 자아와 같은 인간적 특징을 나타내게 할 수 있는 근거가 되는 것이 아닌가하고 말하고 있다.

이 이론에는 또 다른 단점이 있는데, 이는 어떠한 시스팀도 스스로의 문제점을 완벽하게 처리할 수 없다고 말하고 있으나 동시에 다른 시스팀의 도움으로 문제를 해결할 수 있다는 점을 고려하지 못하였다. 인간의 경우에도 그 스스로 문제를 해결할 수 없을 때는 다른 사람의 도움을 받아 이 결함을 보충하고 있다. 이와 마찬가지로 하나의 컴퓨터가 스스로 해결할 수 없는 복잡한 문제에 봉착했을 때는 다른 시스팀들의 도움을 받아 극복할 수 있을 것이다.

결론적으로 컴퓨터의 능력에 대한 수학적 한계는 분명하게 그어져 있다. 그러나 이 한계를 새로운 가능성의 씨앗으로 삼으려는 시도가 이루어지고 있음을 볼 때 철학, 수학, 논리학, 언어학, 심리학, 생리학, 뇌신경학, 전산학 등의 종합 학문으로서의 인공 지능 연구는 그 장래가 여전히 열려 있다고 하겠다.

참고로, 이러한 내용의 전모를 쉽게 이야기해주는 괜찮은 교양서가 한권 있다.

제목: 괴델(원제: Go"del- A Life of Logic) / 몸과마음 / 2002년