컴퓨터와 인공지능의 역사, 불교와 알고리즘

컴퓨터와 인공지능의 역사

불교와 알고리즘

석봉래

미국 앨버니아대학교 니액 연구 교수

해탈을 알고리즘화할 수 있는가?

논리적 사고의 형식을 발견한 것 그리고 수학적 진리를 알고리즘적 과정을 통해 설명한 것은 정보처리 체계인 컴퓨터와 컴퓨터의 기능을 극대화한 인공지능의 발전에 바탕이 된다. 그런데 이러한 알고리즘적 사고 모델은 불교의 깨달음과 어떤 관계가 있을까? 컴퓨터와 인공지능의 발전에 결정적인 역할을 한 생각은 사고와 계산의 형식적 구조가 존재하며 이 형식적 구조를 가지고 있는 문제라면 그 어떤 문제도 해결할 수 있는 자동화된 기계를 만들 수 있다는 것이다. 보편 튜링머신의 가능성이 바로 그것이다. 그렇다면 마음과 생각의 변화를 통해 나타나는 불교의 깨달음도 이런 방식으로 설명될 수 있을까? 해탈을 알고리즘으로 표현할 수 있을까? 알파고(AlphaGo)가 천재 바 둑 기사를 이길 수 있다면, 알파몽크(Alpha Monk, 인공지능 승려)는 해탈할 수 있을까?

많은 불교 학자들은 불성(佛性)이나 자발적 의식의 여부를 통해서 인공지능의 깨달음 문제에 접근한다. 필자는 깨달음이 보여주는 마음과 생각의 특징을 가지고 이 문제에 접근해보려 한다. 불교는 무엇보다도 마음의 종교이다. 깨달은 마음으로 번뇌를 극복하고 있는 것을 그대로 보는 것이 불교의 이상적 목표이다. 따라서 마음의 작용과 그 근본적 구조를 이해하는 것은 불교의 최대의 관심사이다. 하지만 마음은 불교뿐만 아니라 인지과학, 컴퓨터과학 그리고 인공지능이 모두 관심을 갖는 주제다. 이것은 불교가 인공지능에 (그 실용적 사용뿐만 아니라 마음에 관련된 그 원리에 대해) 관심을 가질 수밖에 없는 이유이기도 하다. 그렇다면 마음에 대한 불교적 접근과 알고리즘적 접근은 어떻게 비교될 수 있을까? 불교적 인지철학 혹은 인공지능에 관한 불교적 인식론이 필요한 단계에 이른 것이다.

알고리즘적 과정은 컴퓨터와 인공지능에서 인지 과정을 설명하는 가장 기본적 시각이다. 알고리즘적 과정에 따르면, 참된 생각이란 순차적인 과정을 규칙에 따라 진행해 한정적 시간 내에 그 결과(참, 거짓)를 도출하는 것이다. (여기서 한정적 시간이라는 것은 짧은 시간이라는 의미가 아니라, 끝이 있는 시간이라는 뜻이다.) 이러한 일반적 시각에서 알고리즘적 사고와 불교적 사고의 기본적인 공통점을 찾는다면 그것은 이 둘이 모두 숨어 있는 혹은 우리가 잘 알지 못하는 마음을 추적해 설명하려 한다는 것이다. 마음이 작동하는 기본적 구조와 그 기반을 이해하려는 동기와 노력은 알고리즘에 기반하는 컴퓨터나 깨달음을 추구하는 불교나 다를 바가 없다. 마음의 근본적 성격과 기능에 대한 깊은 이해의 추구가 과학에서는 인지과학의 혁명적 발전이 시작된 발단이 되었고 불교에서는 깨달음의 발단이 되는 것이다. 즉 쉽게 드러나지 않는 마음의 기본적 본성이나 과정에 관심을 갖는다는 점에서 인공지능이나 불교는 같은 길을 간다. 그러나 그렇다고 이 둘이 마음과 생각에 대해 의견이 같은 것은 아니다. 깊은 생각을 통한 불교적 깨달음이라는 것은 알고리즘의 과정을 거칠까? 깨달음의 알고리즘 혹은 깨달음의 레시피는 과연 존재할까?

불교의 깨달음은 단순한 알고리즘적 과정과 다른 점이 많다. 아니, 알고리즘을 초월하는 경우가(정확히 말해서 알고리즘을 들락날락하는 경우가) 많다. 순차적이고 체계적인 과정을 거치는 앎의 과정이 아니라 그 과정을 이해하고 그 과정 자체를 넘어서면서 다시 그 과정으로 돌아오는 경우가 많다. 9세기 당나라 선종의 일파인 임제종(臨濟宗)을 창시한 임제 스님(臨濟義玄, ?~866)은 부처를 만나면 부처를 죽이고 조사(祖師 큰스님, 종조)를 만나면 조사를 죽이라는 ‘살불살조(殺佛殺祖)’의 충격적인 주장을 편다. 깨달음의 길에는 부처도 없고 조사도 없다는 뜻인가? 널리 알려진 임제 스님의 일화에 따르면 임제 스님은 황벽 스님(중국 당나라의 유명한 선사인 黃蘗希運)에게 불교의 깊은 뜻이 무엇인지 세 번이나 물었는데 황벽 스님은 임제 스님을 그때마다 20방씩 때렸다. 너무도 황당한 사건이다. 그런데 그것이 끝이 아니다. 임제 스님은 그에게 불법을 질문하는 스님들에게 자주 “할(喝)”이라고 고함을 쳤다고 한다. 도대체 얼핏 보면 이해하기 어려운 이런 일들은 불교의 깊은 깨달음과 어떤 관련이 있을까? 도대체 임제 스님과 황벽 스님은 무슨 생각으로 이런 행동을 한 것일까?

물론 이러한 일화는 선종(禪宗, 명상과 직관적 집중을 통해 깨달음을 추구하는 불교의 일파)의 특징을 드러내는 것이기 때문에 불교 전체에 일반화하기는 어렵지만 깨달음의 한 특징을 보여주는 것으로서는 손색이 없다. 즉 깨달음에는 단순한 기능의 일괄적 과정을 거치는 알고리즘으로는 설명되지 않는 측면이 있다. 불교적 수행에는 알고리즘이 아니라 직관적 시각이 중요한 경우가 많다. 아무리 좋은 규칙과 설명도 그 원래 의미와 전체적인 맥락을 놓치면 혼란과 집착과 번뇌가 남는다. 알고리즘의 해결사 기능이 오히려 혼동과 고통을 야기할 수도 있다. 미국에서는 버스 노선을 이탈해서는 안 된다는 회사 규칙 때문에 심장마비가 난 승객을 병원 응급실로 운송해야 할지 고민한 버스 운전기사의 이야기가 화제가 된 적이 있다. 한 사람의 생명을 살리기 위해서는 당연히 병원으로 직행하는 것이 옳지만 회사 규칙은 어떤 경우든 노선 이탈을 금지하고 있다. 사람의 생명과 회사 규칙이 버스 운전기사의 마음속에서 충돌을 일으킨 것이다. 알고리즘적 사고는 이런 충돌과 예외적 상황에 취약하다. 물론 예외적인 상황에 대처하기 위한 또 다른 규칙을 만들어놓을 수도 있다. 하지만 예외적인 상황을 모두 예측하고 그 규칙을 모두 만드는 일은 불가능할 것이다. 주어진 규칙과 과정을 예외 없이 따르는 것은 알고리즘으로 이해된 생각이고 마음이다. 불교의 깨달음은 이런 구속에서 자유로울 것을 요청한다. 그것은 규칙을 무시하라는 뜻이 결코 아니다. 규칙의 안과 밖을 잘 살피라는 것이다. 깨달음은 알고리즘 안에도 있고 밖에도 있다. 그런데 이것을 알기 위해서는 알고리즘을 그 안과 밖에서 그 양 측면을 이해할 수 있는 능력이 있어야 한다. 그래서 황벽 스님은 임제 스님을 구타하고 임제 스님은 다른 스님에게 큰 소리로 호통을 친 것이다. 구타와 협박이 이런 일화의 초점이 아니다. 딱딱한 생각의 껍질을 깨보라는 뜻으로 황벽 스님과 임제 스님은 이런 기이한 행동을 한 것이다.

알고리즘적 사고와 불교의 깨달음의 중요한 차이점을 이해하는 것이 중요하다. 알고리즘이 주어진 규칙이나 조건성을 충실히 따라가는 것이라면 깨달음은 근본적으로 알고리즘적 생각 너머에 다른 생각(깨어 있는 의식)이 있음을 아는 것이다. 그렇다고 해서 깨달음이 알고리즘적 의식과 깨어 있는 의식을 완전히 분리함으로써 나타나는 것은 아니다. 이 모든 것이 상호 조건적인 관계로 연결되어 있음을 이해하는 것이 진정한 깨달음이다. 인간의 마음에는 알고리즘적 생각과 직관적 깨달음이 혼재하는 체계라면 불교적 명상과 수행은 마음 전체가 오직 알고리즘에만 집착하지 않게 마음을 열도록 하는 일을 하고 있다. 불교가 알고리즘을 거부한다거나 알고리즘이 나쁘다고 하는 것은 아니다. 다만 우리의 마음이 알고리즘에 집착하는 것을 경계하 는 것이다. 마음을 열고 있는 것을 있는 그대로 보는 것이 중요한 이유는 알고리즘에 집착하는 강박증이 번뇌와 고통에 빠지는 마음 자세를 만들어내기 때문이다. 중요한 것은 마음과 생각이 고착되는 것을 경계하는 것이다. 마음이 생각의 논리인 알고리즘을 따라가는 것은 바른 생각을 하기 위해 중요한 일이다. 하지만 주어진 알고리즘을 넘어서 새로운 알고리즘을 만들고 또 알고리즘을 변경하는 다른 종류의 생각도 있다. 즉 알고리즘의 안과 밖을 모두 보는 것이 중요하다. 깨달음은 바로 그 안과 밖을 모두 보는 과정이다. 집착을 부수어가면서 있는 것을 그대로 보는 과정이다. 황벽 스님이 인공지능 체계에 대고 몽둥이찜질을 하고 임제 스님이 호통을 치는 것을 상상해본다. 인공지능을 만나면 인공지능을 죽여야 하는가? 인공지능의 성공은 알고리즘에 집착하는 인공지능을 죽여야 가능한 것인가?