챗봇을 어떻게 대우해야 할 것인가?

챗봇을 어떻게

대우해야 할 것인가?

이한구

경희대학교 석좌교수

요술 램프와 비슷한 챗봇

이슬람 문학을 대표하는 『아라비안나이트』에는 알라딘의 요술 램프 이야기가 나온다. 주인공 알라딘이 요술 램프를 손으로 문지르면 요정 지니가 나와 어떤 소원이든 들어준다. 요즘 세계적으로 뜨거운 화제가 되고 있는 대화형 인공지능은 요술 램프와 비슷하다.(대화형 인공지능이란 ChatGPT나 Bard를 가리킨다. Chat은 ‘대화’이고, GPT는 Generative Pre-trained Transformer의 약자이다. 즉 생성 형태로 미리 훈련된 변환기이다. ‘생성형 인공지능’이라고도 한다. 여기서는 간단히 챗봇(Chatbot)이라 부르기로 한다.)

어떤 질문을 하든 지체 없이 척척 대답한다. 그뿐만 아니라 그 대답의 수준이 보통이 아니다. 시험 삼아 ‘챗GPT에 대해 설명해주시오’라는 요청을 했더니, 한 쪽 정도의 대답이 나왔다. 간추리면 다음과 같다.

챗GPT는 OpenAI에서 개발한 인공지능 언어 모델 중 하나로, “챗”이라는 단어는 대화를 의미합니다. GPT는 “Generative Pre-trained Transformer”의 약자로, 자연어 생성 및 이해를 위해 Transformer 아키텍처를 기반으로 한 모델입니다. GPT 모델은 대량의 텍스트 데이터를 사전 훈련(pre-training)하여 언어 이해와 생성 능력을 갖추도록 학습한 후, 특정 작업에 맞게 추가적인 미세 조정을 통해 특화된 모델로 만들 수 있습니다.

GPT 모델은 큰 텍스트 코퍼스에서 언어의 구조, 문법, 의미, 문맥 등을 학습하며, 이를 기반으로 텍스트를 생성하거나 이해하는 능력을 갖추게 됩니다. 이런 특성을 활용하여 다양한 자연어 처리 작업에 적용할 수 있습니다. 예를 들어, 기사 작성, 대화형 시스템, 문장 생성, 번역, 요약, 질문 응답 등 다양한 분야에서 활용될 수 있습니다.

GPT-3.5는 GPT 시리즈의 최신 버전 중 하나로, 더 많은 파라미터와 훈련 데이터를 기반으로 하여 놀라운 언어 이해와 생성 능력을 갖추고 있습니다. 이 모델은 대화형 인터페이스에서 사용자와의 자연스러운 대화를 주고받을 수 있는 능력을 갖추고 있어, 특히 챗봇 및 가상 비서와 같은 응용 분야에서 유용하게 사용됩니다.

불과 3~4초 만에 작성된 대답인데, 거의 흠잡을 데가 없다. 챗봇에 대해 글을 쓰려고 몇 주간 여러 권의 책과 글들을 읽은 나로서도 이 정도의 설명을 기술하려면 아마도 시간이 꽤 걸리지 않았을까 싶다. 어떤 대답이 마음에 들지 않아 새로 생성할 것을 요구하면, 즉시 체제를 바꾸어 대답한다. 정말 놀라지 않을 수 없다.

챗봇이 나타난 후 학자들의 논문 쓰는 방식까지 달라졌다는 이야기가 들린다. 주제를 다루는 절차와 방식부터 도움을 요청할 뿐만 아니라, 논문을 다 쓰고 나서도 챗봇이 쓴 논문과 비교해보고 보완한다는 것이다. 대학생들이 리포트를 쓸 때 챗봇을 허용하느냐 마느냐가 논란의 대상이 되는 일도 이해하기 어렵지 않다.

지능(intelligence)이란 무엇인가?

챗봇이 지능적 존재라는 것은 의문의 여지가 없어 보인다. 지능(intelligence)이란 무엇인가? 지능에 대한 정의는 다양하고 쉬운 일이 아니지만, 일차적으로는 문제 해결 능력이라 할 수 있다. 물론 문제 해결 능력은 사태의 특성을 이해하는 인식 능력과 새로운 지식을 배우는 학습 능력을 필요로 하지만, 챗봇은 그런 능력까지도 겸비한 듯이 보인다.

우리가 인공지능이라 했을 때, 그것은 우리가 만든 기계가 이와 같은 능력을 갖는다는 의미이다. 기계가 어떻게 이런 지능을 갖게 되었는가? 그것은 그 기계가 알고리즘에 따라 작동하기 때문이다. 알고리즘이란 어떤 문제를 논리적으로 해결하기 위한 절차, 방법, 명령어들의 집합이다. 간단히 문제를 해결해나가는 연산 체계다

유발 하라리는 그의 『호모 데우스』 끝부분에서 다음과 같은 결론을 내린다. “과학은 모든 것을 아우르는 하나의 교의로 수렴하고 있고, 이 교의에 따르면 유기체는 알고리즘이며 생명은 데이터 처리 과정이다.” 그의 이런 결론은 우리의 삶도 결국은 문제를 해결하면서 살아가는 과정이라는 의미이다. 만약 생명과 기계가 모두 문제 해결의 알고리즘 체계라면 기계도 인간처럼 대우해야 할 것인가 하는 문제가 발생한다.

포스트 휴머니즘을 주장하는 사람들은 인간과 기계가 모두 문제 해결의 알고리즘 체계라는 논리에서 구별은 무의미하다는 주장을 편다. 그렇지만 이런 주장은 표면의 유사성만 보았을 뿐, 인간과 기계의 심층적 차이점을 간과했다고 생각된다. 다음과 같은 몇 가지 차원에서 그 차이점은 분명하다.

같은 알고리즘이라도 차이가 난다

첫째로, 챗봇은 문제를 풀지만 이해하지는 못한다. 그 이유는 챗봇의 지능은 의식과 분리된 지능이기 때문이다. 의식은 알아차림이며 모의실험을 할 수 있는 능력이다. 의식의 유무는 생존에 직결된다. 생명의 역사에서 보면 의식은 생명체가 탄생한 후, 오랜 진화의 과정을 거쳐 비로소 나타나며, 이 의식을 기반으로 문제를 해결하는 지능과 자신을 대상화하는 자기의식이 탄생한다. 그렇지만 챗봇은 의식의 기반이 없는 기계 지능이다.

존 설(John Searle)은 ‘중국어 방’이라는 사고 실험을 통해 진정한 이해와 가짜 이해를 다음과 같이 설명한다.

어떤 방 안에 영어는 알지만 중국어를 전혀 모르는 사람 A가 들어간다. A는 중국어로 된 질문과 중국어 대답이 적힌 지시 사항의 목록을 제공받는다. 이 목록은 어떤 형태의 질문에는 어떤 형태의 대답을 한다는 영어로 된 매뉴얼이다. 이 상태에서 중국어로 질문을 써서 방 안으로 집어넣는다면, A는 중국어를 전혀 모르더라도 매뉴얼을 토대로 알맞은 중국어 대답을 제시한다.

이때 외부의 관찰자는 A가 중국어를 할 줄 안다고 생각하겠지만, 실제로는 중국어에 대한 아무런 이해도 없는 상태에서 기계적으로 프로그램을 수행하고 있을 뿐인 것이다. 즉 A는 통사론만 가지고 있을 뿐 의미론을 가지고 있지는 않다.

둘째로, 챗봇은 참과 거짓을 구별하지 못한다. 우리가 인간을 이성적 동물이라고 부르는 것은 어떤 주장의 참과 거짓을 구별할 수 있기 때문이다. 구별하는 방법은 여러 가지이지만, 이 때문에 인간은 지식의 체계를 세울 수 있었다. 그렇지만 챗봇이 자연언어를 유능하게 잘 구사한다 해도, 참과 거짓의 차원에서 언어를 사용하지는 못한다. 그것은 단지 단어들의 연관성에 대한 통계 자료에 기초해서 문장을 만들 뿐이다. 언어학자 노엄 촘스키(Noam Chomsky)가 챗봇이 아무리 글을 잘 쓴다 해도 언어를 이해하고 쓰는 것은 아니며, 인간 이전의 인지 단계 수준이라고 한 것은 이런 맥락에서 나온 주장이다.

셋째로, 챗봇은 자신을 무화시키지 못한다. 무화시킨다는 것은 자신을 소멸시켜서 아무것도 없게 만드는 것이다. 노트에 쓴 글들을 지우개로 지우는 것과 같다. 불교식으로 말하면 자신을 공(空)으로 만드는 것이라고 할 수 있다.

우리가 사물을 관찰하는 패러다임 A에서 차원이 다른 패러다임 B로 바꿀 수 있는 것도 패러다임 A를 없애버릴 수 있기 때문이다. 더 나아가 우리는 명상을 통해 무념무상에 도달하거나 과거에 축적된 기억을 새롭게 재설정할 수 있다. 그렇지만 챗봇이 이런 일들을 할 수 있다고 생각되지는 않는다. 그것은 주어진 자료를 정리하고 융합하는 일은 잘 수행하지만, 지우개로 지우듯 자신을 무화시키면서 사태를 전혀 새롭게 바라볼 수 있는 능력을 갖고 있지는 않다.

챗봇의 의인화는 위험을 자초하는 행위이다

이런 논리에서 보면, 챗봇이 놀라운 기계 지능임은 분명하지만, 인간과 같은 이성적 존재는 아니다. 챗봇은 철학 논문도 쓰고, 설교나 법문도 하며, 판사 역할도 할 수 있다. 그러나 이런 일들을 수행한다고 해서 챗봇을 의인화해, 머지않은 장래에 인공지능이 우리 인간을 지배하게 될지 모른다고 두려워하거나, 새로운 인간 종의 탄생 운운하는 것은 매우 과장되고, 인간 스스로 노예의 길로 들어서는 큰 실수를 저지르는 것이다.

인간이 매우 유용한 기계를 만든 것은 확실하다. 동시에 그것을 오용하면 매우 위험스럽기도 하다. 많은 전문가들이 여러 측면에서 위험을 제기하고 있다. 그렇지만 챗봇의 의인화는 우리 스스로가 불필요한 위험을 자초하는 행위이다. 미래에 관한 한, 결정된 것은 아무것도 없다. 챗봇은 스스로 설명한 대로 단지 유용한 도구일 뿐이다. 날카로운 칼을 조심해서 다루어야 하듯 조심스럽게 다루어야 할 도구에 불과하다.

이한구

경희대 석좌교수이며 대한민국학술원 회원이다. 저서로 『역사학의 철학』, 『문명의 융합』, The Objectivity of Historical Knowledge 등이 있다.