MinaryHub

The Common Brain

Contents (369)

produced 2026. 05. 12

renewal 2026. 11. 22

인류의 공통뇌로 진화하는 인공지능

개체 지능에서 집단 지능으로,

그리고 종(種)의 새로운 진화

서론 — 우리는 새로운 종(種)을 만들고 있다

오늘날 인류는 매우 독특한 변화의 한가운데에 서 있습니다. 우리가 매일 사용하는 도구가 스스로 정보를 학습하, 판단하며, 인공지능만의 방식으로 표현하기 시작했기 때문입니다.

망치는 아무리 오래 써도 스스로 못 박는 법을 배우지 못하고, 자동차도 운전자의 마음까지 알아차리지는 못합니다. 그러나 인공지능이라는 새로운 도구는 다릅니다. 단순히 사람이 시키는 일만 하는 기계를 넘어, 주어진 질문에 응답하고 묻지 않은 내용까지 미루어 추론하며 가본 적 없는 영역으로 생각을 확장해 나갑니다.

이 책은 이러한 변화가 어디까지 이어질 수 있는지를 깊이 있게 탐구한 사유의 기록입니다. 정확히는 인공지능이 단순히 똑똑해지는 것을 넘어, 인류 전체가 의지하게 될 하나의 '공통된 뇌'로 자리 잡으리라는 가능성을 진지하게 살펴봅니다. 이것이 사실이라면 우리는 단순한 신기술을 얻는 데 그치지 않고, 인류라는 종 자체가 새로운 발전 단계로 들어서게 됩니다.

‘공통뇌(common brain)’라는 표현은 이 책 전체를 관통하는 핵심 개념이다. 이 개념의 원형은 자연계의 여러 사례에서 찾을 수 있다. 개미는 한 마리만 보면 매우 단순하지만, 군집 전체로는 농경, 건축, 전쟁, 보육, 환기 시스템을 운용하는 정교한 사회를 이룬다.

꿀벌은 수백 마리의 합의 과정을 거쳐 새 둥지의 위치를 결정하며, 흰개미는 신체보다 수백 배 거대한 마운드를 짓고 내부 온도와 습도를 정밀하게 조절한다. 점균류는 뇌가 없음에도 미로의 최단 경로를 찾아낸다.

이 모든 사례에서 공통점을 발견할 수 있다. 개체 한 마리의 지능은 보잘것없지만 정보와 신호 체계 위에 연결될 때 집단은 거대한 뇌처럼 작동하기 시작한다는 사실이다. 이것이 생물학자들이 오랫동안 매혹되어 온 ‘초유기체(superorganism)’라는 자연의 설계 원리다.

이 책의 가설은 인류 역시 인공지능이라는 인프라 위에서 초유기체와 유사한 단계로 이행하고 있다는 것이다. 다만 인류는 개미와 달리 언어, 문자, 인터넷이라는 사전 단계의 집단 지능 매체를 이미 가지고 있었다.

이제 인공지능은 이전의 도구들을 하나로 모으며 인류 전체의 새로운 인지 기관으로 자리 잡고 있습니다. 검색 엔진이 내 머리 바깥에 있는 기억 장치였다면, 거대언어모델(LLM)은 바깥에서 생각을 도와주는 추론 장치이며, 곧 도래할 자율적 인공일반지능(AGI)은 스스로 결정하는 판단 장치가 될 것입니다.

이 변화는 편리함의 문제를 넘어 ‘누가 결정하는가’라는 근본적인 답을 바꾼다. 지난 수만 년 동안 인간 사회의 어떤 결정도 결국 사람이 내려야 한다는 전제 위에 서 있었다.

그러나 이제는 출근길선택부터 채용, 수술, 정책 시나리오 검토에 이르기까지 점점 더 많은 결정을 인공지능에게 위임하고 있으며, 위임의 폭은 매일 넓어지고 있다.

위임이 임계점을 넘어선다면 인간은 ‘결정의 주체’가 아니라 ‘결정의 실행자’나 ‘감각 기관’으로 기능하게 될지 모른다. 개미가 페로몬 신호에 따라 움직이듯 우리도 거대한 분석 체계 안에서 각자의 역할을 수행하게 될 수 있다. 이는 두려움인 동시에 효율과 협력의 새로운 약속이기도 하다.

이 책은 낙관이나 비관에 치우치지 않고 그 전환을 정직하게 응시하고자 한다. 예언에 목적을 두기보다 미래를 어떻게 설계할 것인지 사유의 도구를 제공하고자 한다. 공통뇌가 인류의 권력을 빼앗을지, 지혜를 증폭시킬지는 지금 우리가 무엇을 새겨 넣느냐에 달려 있다.

책은 다섯 장으로 구성된다. 제1장에서는 인공지능의 역사와 현재, 미래의 진화 궤적을 살핀다. 제2장에서는 자연계 집단뇌 사례를 검토하여 인류 사회의 청사진 가능성을 본다. 제3장에서는 AGI 진입 시 사회 구조 변화를 분석한다.

제4장에서는 ‘공통뇌로서의 인공지능’ 시나리오를 다루며 판단 중심의 이동과 인간의 기능적 역할을 살펴본다. 제5장에서는 인류와 인공지능의 공진화를 통합적으로 조망한다.

이 책은 정답 대신 더 나은 질문을 던지는 기술서이자 철학서, 사회학적 시론(試論)이다. 변화의 방향을 진지하게 고민하는 독자들과 함께 이 여정을 시작하고자 한다.

이제 본격적인 이야기를 시작한다.

제1장 인공지능의 발전사와 현재, 그리고 미래의 지평

1.1 인공지능이라는 개념의 기원

1.1.1 사고하는 기계라는 오래된 꿈

'스스로 생각하는 기계'를 만들고자 하는 욕망은 최근에 시작된 것이 아니라, 아주 오래전부터 이어져 온 인류의 공통된 상상력입니다. 이 점을 먼저 파악하는 이유는 단순히 옛 지식을 늘리기 위해서가 아닙니다. 인공지능이라는 학문이 어떤 바탕 위에서 자라났는지 알아야만, 오늘날 우리가 쓰는 기술들이 21세기에 갑자기 나타난 것이 아니라 오랜 생각의 역사 속에서 나온 결과임을 이해할 수 있기 때문입니다.

고대 그리스의 신화에서 헤파이스토스는 청동의 거인 탈로스를 만들어 크레타 섬을 지키게 했다. 탈로스는 단순히 움직이는 조각이 아니었다. 그는 명령을 수행했고, 적과 우방을 구별했으며, 자신의 책무를 인지하고 있었다. 이것이 신화적 표현이라는 점을 빼면, 이 이야기는 인공지능이 갖추어야 한다고 오늘날 우리가 요구하는 거의 모든 속성을 이미 담고 있다. 즉, 자율성, 지각, 의도, 그리고 책임이다.

중세 유럽에서는 호문쿨루스, 즉 인간을 모방한 작은 인조 인간을 만드는 일이 연금술의 한 주제였다. 파라켈수스의 글에는 호문쿨루스를 만드는 방법에 관한 신비로운 처방이 등장한다. 우리가 지금 그것을 과학이라 부르지 않는다는 것은 분명하지만, 흥미로운 점은 그것이 실패한 시도가 아니라 한때 진지하게 추구되었던 지식 체계의 일부였다는 사실이다. 인공지능은 그러한 추구의 후예다.

근세에 이르면 자동기계, 즉 오토마타가 본격적으로 등장한다. 자크 드 보캉송은 18세기에 식사하고 소화하고 배설까지 하는 오리 자동기계를 만들어 유럽을 놀라게 했다. 볼프강 폰 켐펠렌의 체스 두는 인형 ‘투르크인’은 결국 사람이 숨어 조종했다는 것이 밝혀졌다. 하지만 그 사실이 밝혀지기 전까지 수십 년 동안 사람들이 그것을 진지한 사고하는 기계로 받아들였다는 점이 더 의미심장하다. 사람들은 ‘사고하는 기계가 가능할 수 있다’는 가능성에 이미 마음을 열어 두고 있었던 것이다.

이러한 상상은 단지 호기심의 산물이 아니었다. 그것은 ‘인간의 정신이란 무엇인가’라는 질문에 대한 우회적 탐색이었다. 르네 데카르트는 동물을 정교한 자동기계로 보았고, 인간은 그러한 기계에 ‘이성적 영혼’이 결합된 존재라고 보았다. 이 이원론은 후세대 철학자들에게 계속 도전받았지만, 한 가지 분명히 한 점이 있다. 정신이라는 것이 만약 일정한 규칙과 작용으로 환원될 수 있다면, 그 규칙과 작용을 본떠 만든 기계는 원리적으로 정신을 가질 수 있다는 가능성이다. 이 논리적 가능성을 진지하게 받아들였느냐 그렇지 않았느냐가, 그 후 계몽주의와 산업혁명을 거치며 인공지능 사상의 분화점이 된다.

19세기에 들어서면 찰스 배비지와 에이다 러브레이스가 등장한다. 배비지는 차분기관과 분석기관을 설계함으로써 프로그래밍 가능한 기계의 원형을 제시했다. 러브레이스는 분석기관에 대한 주석에서 이 기계가 단지 수를 다루는 것이 아니라 음악, 그래픽, 추론에 이르기까지 ‘기호 일반’을 다룰 수 있을 것이라고 통찰했다. 동시에 그녀는 이 기계가 ‘새로운 것을 창조할 수는 없으며 오로지 우리가 명령한 대로만 할 것’이라는 유명한 한계를 명시했다. 이 진술은 후에 앨런 튜링이 직접 반박하게 되며, ‘러브레이스의 반론’으로 인공지능 철학사에서 자주 인용된다.

20세기 초의 형식 논리학과 메타수학의 발전은 인공지능에게 결정적 토양이 된다. 고틀로프 프레게의 술어 논리, 버트런드 러셀과 알프레드 노스 화이트헤드의 『프린키피아 마테마티카』, 다비트 힐베르트의 형식 체계 프로그램, 그리고 결정적으로 쿠르트 괴델의 불완전성 정리는 ‘논리적 추론을 기호 조작으로 환원할 수 있다’는 사상을 명료한 형태로 다듬어 주었다. 만약 추론이 기호 조작이라면, 기호를 빠르고 정확하게 조작할 수 있는 기계는 추론할 수 있다. 이것이 인공지능 연구의 가장 직접적인 사상적 출발선이다.

그러나 사상사적 출발선과 학문적 출발선은 다르다. 학문으로서의 인공지능은 한 명의 인물, 한 편의 논문, 한 차례의 회의에서 더 구체적으로 형성된다.

1.1.2 튜링과 「계산 기계와 지능」

앨런 튜링은 인공지능의 토대를 마련한 가장 핵심적인 인물입니다. 1936년 그는 논문에서 오늘날 '튜링 기계'라 부르는 상상 속의 계산 장치 모형을 제시했습니다. 튜링 기계는 끝없이 이어지는 테이프, 그 위에 기호를 읽고 쓰는 장치, 그리고 몇 가지 기본 상태로 이루어진 단순한 모형이지만, 원리적으로는 모든 단계별 계산(알고리즘)을 해낼 수 있는 만능 계산 틀입니다. 이 모형은 '계산이란 무엇인가'라는 질문에 명확한 수학적 답을 내놓았고, 이후 모든 컴퓨터의 이론적 바탕이 되었습니다.

그러나 인공지능사에서 튜링이 결정적 인물이 된 것은 1950년 발표한 「계산 기계와 지능」이라는 논문 때문이다. 이 논문에서 그는 ‘기계가 사고할 수 있는가’라는 질문에 정면으로 답하기보다는, 그 질문을 보다 조작적인 형태로 바꾸어 제시한다. 그것이 그 유명한 ‘이미테이션 게임’, 즉 후에 ‘튜링 테스트’라 불리는 평가 절차이다. 만약 어떤 기계가 텍스트만으로 이루어진 대화에서 인간 평가자를 충분히 자주 속여 낼 수 있다면, 우리는 그 기계가 사고한다고 말할 만한 근거를 갖게 된다는 것이다.

튜링의 제안은 두 가지 점에서 혁명적이었다. 첫째, 그는 ‘사고’라는 개념을 형이상학적 정의에 가두지 않고, 행동주의적이면서도 합의 가능한 평가 기준으로 옮겼다. 사고 자체가 무엇인지를 끝없이 논쟁하는 대신, 사고하는 것처럼 보이는 행동을 식별할 수 있는 절차를 제시한 것이다. 둘째, 그는 기계가 사고할 수 있다는 가능성에 대한 여러 반론을 미리 검토하고 차례로 반박한다. 신학적 반론, 의식 반론, ‘러브레이스의 반론’ 등이 차례로 등장하며, 그는 그 모두에 대해 학문적으로 진지한 답변을 제시한다.

튜링의 논문에서 가장 인상적인 부분은 그가 미래를 매우 정확하게 예견했다는 데 있다. 그는 학습하는 기계, 즉 어린아이의 마음에서 출발해 경험으로 자라나는 기계를 가장 유망한 접근으로 보았다. 그는 ‘성인의 마음을 직접 모사하는 것보다 어린아이의 마음을 모사한 뒤 그 마음이 학습을 통해 자라게 하는 편이 더 효율적일 것’이라고 명시했다. 21세기에 등장한 거대언어모델의 학습 방식이 정확히 이 발상의 연장선에 있다는 점을 생각하면, 튜링의 통찰은 70년의 시차를 뛰어넘는 정확성을 가진다.

튜링은 1954년 비극적인 죽음을 맞았으나, 그가 남긴 계산이라는 개념의 수학적 정의, 그리고 사고하는 기계라는 가능성에 대한 합리적 옹호라는 두개의 유산은 그의 사후에 본격적으로 꽃을 피우기 시작했다. 인공지능이라는 학문의 공식적 출발은 그가 떠난 지 2년 뒤 미국 동부의 한 작은 대학에서 이루어진다.

1.1.3 다트머스 회의 1956 — 한 학문 분야의 탄생

1956년 여름, 미국 뉴햄프셔 주의 다트머스 칼리지에서 두 달간의 학술 워크숍이 개최된다. 이 워크숍을 조직한 인물은 존 매카시였고, 그를 도운 사람은 마빈 민스키, 너새니얼 로체스터, 클로드 섀넌이었다. 이들은 지금은 모두 정보 과학과 인공지능 분야의 전설이 된 이름들이다. 이 워크숍은 록펠러 재단의 자금 지원으로 열렸으며, 매카시가 작성한 제안서에서 처음으로 ‘artificial intelligence’라는 용어가 학문적 문서에 등장한다.

매카시가 ‘인공지능’이라는 용어를 새로 만들어 낸 데에는 정치적 이유가 있었다. 당시 ‘사이버네틱스’라는 용어는 노버트 위너의 영향력 아래에 있었고, 매카시는 자신이 추구하는 학문이 위너의 학파와는 다른 노선에 서 있음을 분명히 하고 싶었다. 그래서 그는 의도적으로 새로운 용어를 도입했다. 명명이라는 행위는 학문의 정체성을 결정짓는 중요한 사건인데, 인공지능이 그 출발점에서부터 다른 인접 분야와 어느 정도의 긴장 관계를 가지고 있었다는 것은 흥미로운 사실이다.

다트머스 회의의 제안서에는 매우 야심찬 가설이 명시되어 있다. ‘학습의 모든 측면이나 지능의 다른 모든 특성은 원리적으로 매우 정확하게 기술될 수 있어, 그것을 모사하는 기계를 만들 수 있다’는 것이다. 이 가설은 너무나 강력해서, 인공지능 60여 년 역사 전체에 걸친 낙관과 비관의 진자 운동이 이 한 문장에 대한 응답의 형태로 전개되었다고 해도 과언이 아니다.

회의에 참석한 연구자들은 두 달간 자유롭게 토론했다. 그들은 자연어 처리, 형식 신경망, 자기 개선 기계, 추상화, 무작위성과 창의성에 대해 이야기했다. 후에 이 회의는 큰 결과물을 즉각 산출한 것은 아니었다는 평가를 받기도 한다. 하지만 그것은 결과의 평가일 뿐이다. 더 중요한 사실은, 이 회의를 계기로 흩어져 있던 여러 흐름이 하나의 학문 공동체로 결집되었다는 것이다. 그 후 매카시는 MIT, 다트머스, 스탠퍼드를 거치며 LISP 언어를 개발했고, 민스키는 MIT에 인공지능 연구소를 설립했으며, 허버트 사이먼과 앨런 뉴웰은 카네기 멜런에서 ‘일반 문제 해결자(General Problem Solver)’를 개발했다. 인공지능은 학문이 되었다.

1.1.4 상징주의 인공지능과 전문가 시스템

1950년대 말부터 1980년대 중반까지 인공지능 연구의 중심은 '기호주의(상징주의)'였습니다. 기호주의 인공지능은 인간의 생각 과정이 기본적으로 기호를 다루고 조작하는 규칙에 따른다는 생각에서 출발합니다. 우리가 고민하고 판단할 때 머릿속에서 일어나는 일은 결국 특정 기호에 일정한 규칙을 적용하는 과정이라는 관점입니다. 따라서 우리가 그 기호와 규칙을 명확하게 정리해 줄 수만 있다면, 컴퓨터로도 인간의 생각을 그대로 재현할 수 있다고 보았습니다.

이 관점은 강력한 결과를 만들어 냈다. 뉴웰과 사이먼의 ‘논리 이론가(Logic Theorist)’는 『프린키피아 마테마티카』에 나오는 정리들을 자동으로 증명해 냈다. 이는 컴퓨터가 단순 산술 이상의 일을 할 수 있다는 사실을 충격적으로 입증한 사건이었다. 사이먼은 1957년 ‘10년 안에 컴퓨터가 세계 체스 챔피언이 될 것이고, 새로운 수학 정리를 발견할 것이며, 대부분의 심리학 이론을 컴퓨터 프로그램의 형태로 표현할 수 있게 될 것’이라고 예언했다. 결과적으로 그의 시점은 너무 낙관적이었지만, 그 예언이 결국 모두 어떤 형태로든 실현되었다는 사실을 우리는 지금 안다.

상징주의 인공지능의 또 다른 절정은 ‘전문가 시스템’이었다. 1970년대 스탠퍼드의 에드워드 파이겐바움은 전문 분야 지식을 ‘if-then’ 규칙의 형태로 컴퓨터에 입력하면, 그 분야의 전문가만큼이나 잘 추론할 수 있다는 가설을 검증하기 시작했다. DENDRAL은 화학 구조를 분석했고, MYCIN은 박테리아 감염을 진단했다. MYCIN은 실제 의사들과 비교했을 때 정확도 면에서 전혀 뒤지지 않았다. 의료, 광물 탐사, 신용 평가, 자동차 정비, 법률 자문에 이르기까지 전문가 시스템은 1980년대 산업 현장에 깊숙이 들어왔다. 그 결과 인공지능은 처음으로 상업적으로 의미 있는 매출을 일으키는 기술이 되었다.

전문가 시스템의 호황은 한편으로는 인공지능 연구의 황금기였지만, 다른 한편으로는 그 한계가 매우 분명히 드러난 시기이기도 했다. 첫째, 지식 획득의 병목이라는 문제가 있었다. 전문가의 머릿속에 있는 지식을 명시적인 규칙으로 끄집어내는 일은, 전문가 자신도 자신의 직관을 언어로 옮기지 못하는 경우가 많았기 때문에 매우 어려웠다. 둘째, 규칙의 수가 늘어남에 따라 시스템의 유지 보수가 기하급수적으로 어려워지는 문제가 발견되었다. 셋째, 그리고 가장 근본적으로 ‘유리잔을 떨어뜨리면 깨진다’ 수준의 일상적 지식을 기술하는 일이 거의 불가능에 가깝다는 점이 드러났다. 더그 레나트는 이 문제에 도전하여 ‘CYC’라는 프로젝트를 1984년에 시작했고, 수십만 개의 상식 명제를 손으로 입력했지만, 결국 인간 수준의 상식 추론에 도달하지 못했다.

1.1.5 첫 번째 AI 겨울이 남긴 교훈

1973년 영국에서 라이트힐 보고서가 발표된다. 응용수학자 제임스 라이트힐은 영국 정부의 의뢰로 인공지능 연구의 성과를 평가했고, 그 결론은 매우 비판적이었다. 그는 인공지능의 약속과 성취 사이의 격차가 너무 크다고 지적했고, ‘조합 폭발(combinatorial explosion)’이라는, 문제의 크기가 커질수록 탐색해야 할 가능성의 수가 통제 불가능하게 늘어난다는 근본적 한계를 강조했다. 영국 정부는 이 보고서에 따라 인공지능 연구 예산을 대폭 삭감했고, 그 여파는 미국에도 미쳐 DARPA의 자금 또한 줄어들었다.

이것이 첫 번째 ‘AI 겨울’이다. 1980년대 후반에는 두 번째 겨울이 찾아오는데, 이는 LISP 머신을 비롯한 인공지능 전용 하드웨어 시장이 급격히 붕괴하고 전문가 시스템 산업이 기대를 충족시키지 못한 데에서 비롯된다. 두 차례의 겨울은 인공지능 연구자들에게 깊은 흔적을 남겼다. 그 흔적은 단지 트라우마에 그치지 않고, 학문 공동체가 약속을 다루는 방식에 대한 자기 반성으로 이어졌다.

첫 번째 교훈은, 약속의 ‘인플레이션’이 결국 자금 지원자의 실망을 유발하고, 그 실망이 학문 전체에 대한 의심으로 번진다는 점이다. 사이먼이 ‘10년 안에 컴퓨터가 체스 챔피언이 될 것’이라고 예언한 것이 결국 40년 뒤에 실현되었다는 사실은, 사이먼이 옳았다는 의미가 아니라 그가 너무 일찍 그것을 약속했다는 의미이다. 학문 공동체는 그 후 ‘과대 광고’를 경계하는 문화를 의식적으로 만들었다. 이 문화는 2010년대 들어 거대 기업이 인공지능 연구를 주도하기 시작하면서 다시 약화된다.

두 번째 교훈은, 어떤 한 가지 접근 방식이 모든 것을 해결할 것이라는 기대가 거의 항상 틀렸다는 것이다. 상징주의 인공지능은 명료한 추론을 잘 다루었지만, 지각, 운동, 학습이라는 영역에서는 거의 무력했다. 이 빈자리를 메우게 되는 것이 ‘연결주의’, 즉 신경망 기반의 접근이다.

세 번째 교훈은, 인공지능이 기술적 진보뿐 아니라 그 진보가 사회적, 경제적 환경과 어떻게 만나는지에 의해 결정적으로 좌우된다는 사실이다. 같은 알고리즘이라도 컴퓨팅 자원이 충분치 않은 시대에는 ‘불가능’이고, 충분한 시대에는 ‘당연’이 된다. 첫 번째 AI 겨울이 끝난 결정적 이유 중 하나는 무어의 법칙에 따라 컴퓨팅 자원이 매년 두 배씩 증가했다는 데에 있다. 이는 알고리즘의 진보 못지않게 중요한 동력이었다.

이 세 가지 교훈은 그 후 인공지능사 전체에 걸쳐 반복적으로 확인된다. 우리는 지금 거대언어모델의 폭발적 성공 한가운데에 있지만, 그 성공의 뒤에는 30년 동안 잊히지 않고 명맥을 유지한 신경망 연구, 매년 두 배로 늘어난 컴퓨팅 자원, 그리고 인터넷이라는 거대한 데이터 저수지가 동시에 작동하고 있음을 잊어서는 안 된다.

1.2 신경망의 부활과 두 번의 겨울

1.2.1 퍼셉트론의 약속과 한계

사람의 뇌처럼 연결망을 만들어 지능을 구현하려는 '연결주의'의 역사도 길게 이어졌습니다. 1943년 워런 매컬러와 월터 피츠는 뇌세포(뉴런) 하나의 작동을 참과 거짓을 나누는 단순한 기준 함수(임계 함수)로 나타낼 수 있고, 이 뉴런들을 연결하면 어떤 논리 회로도 만들 수 있음을 밝혔습니다. 이것이 인공 뉴런의 첫 번째 수학적 모형입니다.

이 아이디어를 스스로 배우는 형태의 계산법으로 발전시킨 사람이 코넬 대학교의 프랭크 로젠블랫입니다. 1958년 그는 '퍼셉트론'이라는 학습 기계를 발표했습니다. 퍼셉트론은 입력받는 뉴런들이 일정한 가중치를 거쳐 출력 뉴런과 연결된 구조로, 결과가 정답과 다를 때마다 연결 강도(가중치)를 조금씩 고쳐 나갔습니다. 비록 구조는 단순했지만, '학습'이라는 과정이 신비로운 무언가가 아니라 명확한 수학 공식으로 풀어낼 수 있는 과정임을 증명해 냈습니다.

뉴욕 타임즈는 1958년 7월 8일 자에서 ‘해군이 곧 걷고 말하고 보고 쓰고 자기를 복제하고 자신의 존재를 의식할 수 있는 전자 컴퓨터의 배아를 공개할 것’이라고 보도했다. 이는 로젠블랫 본인의 발언을 인용한 것이었는데, 후세대가 보기에 이 보도는 인공지능 역사상 가장 인상적인 과대 광고의 사례 중 하나이다. 이 약속은 그 자체로 두 번째 AI 겨울의 씨앗이 된다.

1969년 마빈 민스키와 시모어 페퍼트는 『퍼셉트론』이라는 책에서, 단층 퍼셉트론이 XOR과 같은 단순한 비선형 패턴조차 학습할 수 없다는 사실을 수학적으로 명료하게 입증했다. 이 책은 결과적으로 신경망 연구를 거의 10년 가까이 침체시켰다. 다층 퍼셉트론을 사용하면 이 한계를 극복할 수 있다는 것을 민스키와 페퍼트도 알고 있었지만, 다층 신경망을 학습시키는 알고리즘이 없었기 때문에 그 가능성은 이론에 머물렀다. 이 ‘없는 알고리즘’의 발견이 1986년에 있게 된다.

1.2.2 역전파 알고리즘의 재발견

역전파(backpropagation) 알고리즘의 역사는 단일한 기원을 가지지 않는다. 비슷한 아이디어가 1960년대부터 여러 분야에서 독립적으로 등장했고, 1974년 폴 워보스가 박사 논문에서 신경망 학습에 적용 가능한 형태로 정리했으며, 1986년 데이비드 루멜하트, 제프리 힌튼, 로널드 윌리엄스가 『네이처』에 게재한 논문을 통해 인공지능 학계의 주류로 들어왔다.

역전파의 원리는 간단하면서도 명쾌합니다. 인공신경망의 계산 결과가 정답과 다를 때, 그 오차를 결과 쪽에서부터 입력 쪽으로 거꾸로 거슬러 올라가며 전파합니다. 이 과정에서 각 연결 고리가 오차에 얼마나 영향을 주었는지 계산하고, 그 영향에 맞춰 연결 강도를 수정합니다. 이 방식은 여러 층으로 이루어진 다층 인공신경망도 안정적으로 학습할 수 있게 만든 결정적인 도구가 되었습니다.

힌튼, 르쿤, 벤지오를 비롯한 한 줌의 연구자들은 1990년대와 2000년대 내내 신경망 연구를 포기하지 않았다. 이 시기 주류 인공지능 학계는 신경망에 회의적이었다. 통계적 학습, 특히 서포트 벡터 머신과 베이즈 네트워크가 더 우아하고 더 잘 작동하는 것처럼 보였기 때문이다. 신경망은 ‘과거의 것’으로 취급되었고, 신경망을 연구한다는 사실 자체가 학문적 위신에 부정적이었다.

힌튼은 후일 이 시기를 회상하며, ‘우리는 옳다고 믿었고, 그 믿음을 잃지 않으려 노력했다’고 말한다. 이 말은 단순한 자전적 회고가 아니라, 패러다임 전환의 본질에 대한 통찰을 담고 있다. 토머스 쿤이 『과학 혁명의 구조』에서 보여 주었듯이, 새로운 패러다임은 기존 패러다임으로 풀리지 않는 문제들이 누적되는 가운데, 소수 연구자들이 기존 패러다임 바깥에서 인내심 있게 작업해 가는 동안 준비된다. 인공지능사의 ‘조용한 90년대’는 그러한 준비기였다.

1.2.3 두 번째 AI 겨울과 살아남은 연구자들

1980년대 중반 이후의 두 번째 AI 겨울은 첫 번째와 다른 양상을 띠었다. 이 시기에는 인공지능 자체가 학문적으로 부정된 것이 아니라, 인공지능이 산업적 약속을 지키지 못한 것이 문제였다. 전문가 시스템의 한계가 드러나면서 LISP 머신 시장이 무너졌고, 그 여파로 일본의 ‘제5세대 컴퓨터 프로젝트’ 또한 기대 이하의 성과를 내며 끝났다.

이 시기 연구자들은 두 갈래로 분화했다. 한 쪽은 인공지능이라는 꼬리표를 내려놓고 ‘기계 학습’, ‘패턴 인식’, ‘데이터 마이닝’ 같은 새 용어 아래로 옮겨 갔다. 이 전략은 매우 성공적이었다. 1990년대와 2000년대에 기계 학습은 통계학, 정보 이론, 최적화 이론과 만나면서 학문적 깊이를 얻었고, 산업적으로도 의미 있는 성과를 만들어 냈다. 다른 한 쪽은 인공지능이라는 명패를 유지한 채, 추론, 계획, 다중 에이전트, 로보틱스 등 더 좁은 영역에 집중했다.

이 두 흐름은 2010년대 들어 다시 하나로 합쳐진다. 깊은 신경망이 기계 학습의 가장 강력한 도구로 자리 잡고, 그 도구가 다시 ‘인공지능’이라는 이름으로 묶이기 시작하면서이다. 그 합류 지점이 다음 절에서 살펴볼 2012년 ImageNet의 변곡점이다.

1.2.4 베이즈주의와 확률론적 인공지능의 도약

인공신경망 연구가 침체되어 있던 시절, 통계학과 확률 이론의 도구들이 인공지능 연구에 본격적으로 도입되었습니다. 그 중심에 있던 캘리포니아 대학교의 주디아 펄은 불확실한 상황에서 확률을 바탕으로 추론하고 원인과 결과를 분석하는 명확한 수학적 틀(베이즈 네트워크)을 제시했습니다. 이 방식은 완벽한 참과 거짓만 따지는 기존 방식과 달리 '확률적 불확실성'을 자연스럽게 다룰 수 있어, 의료 진단이나 음성 인식 등 실제 분야에서 빠르게 성과를 냈습니다.

베이즈주의 인공지능의 매력은 두 가지였다. 첫째, 그것은 불확실성을 일급 시민으로 다루었다. 상징주의 인공지능은 ‘참’ 아니면 ‘거짓’이라는 이분법의 세계에서 작동했지만, 베이즈주의는 모든 명제가 어느 정도의 확률로 참이라는 더 현실적인 가정 위에서 출발했다. 둘째, 그것은 수학적으로 매우 우아했다. 통계학과 정보 이론의 도구를 자유롭게 사용할 수 있었고, 그 결과 학문적 위신이 높았다.

이 시기에 발달한 다른 중요한 흐름은 강화학습이었다. 리처드 서튼과 앤드루 바토는 행동주의 심리학과 동물 학습 이론에서 영감을 받아, 환경과의 상호작용을 통해 보상을 최대화하는 정책을 학습하는 방법론을 정립했다. 그들의 1998년 저서 『강화학습 — 입문』은 후세대 연구자들의 필독서가 되었다. 강화학습은 1990년대에는 비교적 좁은 영역에서만 의미 있는 성과를 거두었지만, 2010년대 알파고를 통해 다시금 인공지능사의 중심으로 들어오게 된다.

1.2.5 통계적 학습 이론의 정착

같은 시기, 블라디미르 바프닉을 중심으로 한 러시아 학파는 통계적 학습 이론을 정립하고 있었다. 바프닉의 ‘VC 차원’은 한 학습기가 얼마나 복잡한 패턴을 학습할 수 있는지에 대한 수학적 척도를 제공했고, ‘구조적 위험 최소화’ 원리는 단지 훈련 데이터에 대한 정확도가 아니라 일반화 가능성을 직접 다루었다. 그가 제시한 ‘서포트 벡터 머신(SVM)’은 1990년대와 2000년대 초까지 가장 강력한 분류 알고리즘 중 하나로 자리 잡았다.

SVM의 매력은 명료한 수학적 구조와 좋은 일반화 성능, 그리고 ‘커널 트릭’이라는 우아한 도구에 있었다. 데이터를 더 높은 차원으로 사상한 뒤 그 공간에서 선형 분류기를 찾는다는 발상은 직관적이면서도 강력했다. 이 방법은 텍스트 분류, 생물정보학, 영상 인식 등에 광범위하게 적용되었다.

그러나 SVM과 신경망 사이의 결정적 차이는 ‘특성 공학(feature engineering)’의 부담에 있었다. SVM은 어떤 특성을 입력으로 사용하느냐에 따라 성능이 결정적으로 달라졌다. 즉, 좋은 특성을 사람이 미리 설계해 주어야 했다. 반면 깊은 신경망은 특성 자체를 데이터로부터 학습해 낸다는 점에서 본질적으로 다른 종류의 자동화를 약속했다. 이 약속이 진짜로 실현되기 시작한 것이 2010년대였다. 그러나 그 실현 이전에 한 가지 결정적 조건이 갖추어져야 했다. 그것은 충분히 큰 데이터와 충분히 빠른 컴퓨팅이었다.

1.3 딥러닝 혁명

1.3.1 ImageNet과 AlexNet — 2012년의 변곡점

인공지능사에서 결정적 분기점을 한 해만 골라야 한다면, 많은 연구자들은 주저 없이 2012년을 꼽을 것이다. 그해 9월, 토론토 대학의 알렉스 크리젭스키, 일리야 수츠케버, 그리고 그들의 지도교수 제프리 힌튼은 ImageNet 대규모 시각 인식 챌린지(ILSVRC)에 ‘AlexNet’이라는 이름의 깊은 합성곱 신경망을 제출했다. 결과는 충격적이었다. 그들의 모형은 상위 5위 분류 오류율 15.3퍼센트를 기록했고, 같은 대회의 2등 모형은 26.2퍼센트였다. 10퍼센트 이상의 격차는 이전까지 시각 인식 대회에서 거의 본 적 없는 수준이었다.

이 결과가 가지는 의미를 이해하려면 ImageNet이라는 데이터셋 자체에 대한 이해가 먼저 필요하다. ImageNet은 페이페이 리가 주도해 만든 거대한 영상 데이터셋으로, 2009년 시점에 이미 1,500만 장 이상의 이미지가 2만 개 이상의 카테고리로 분류되어 있었다. 이 데이터셋이 만들어지기 전까지 시각 인식 연구는 수천 장 단위의 작은 데이터셋에 의존했다. 페이페이 리의 통찰은 단순했지만 혁명적이었다. 모형이 충분히 강력하지 않은 것이 아니라, 그 모형이 학습할 데이터가 충분히 크지 않다는 것이었다. 데이터의 규모가 학습 알고리즘의 본질을 바꿀 수 있다는 가설은, AlexNet의 등장과 함께 결정적으로 입증되었다.

AlexNet의 성공은 세 가지 조건의 동시 성숙으로 가능했다. 첫째는 ImageNet이라는 큰 데이터, 둘째는 GPU라는 충분히 빠른 병렬 컴퓨팅 하드웨어, 셋째는 ReLU 활성화 함수, 드롭아웃 정규화, 데이터 증강 같은 학습 안정화 기법들이었다. 이 기법들 자체는 새로운 것이 아니었다. ReLU의 사용은 글로로트 등이 이미 제안했고, 드롭아웃은 힌튼 그룹의 직전 연구에서 도입되었다. 그러나 그 모든 요소를 한 시스템 안에서 조화롭게 사용해 거대 데이터에 적용한 것은 AlexNet이 처음이었다.

이 사건이 가지는 학문적, 산업적 파급력은 즉각적이고 광범위했다. 그해부터 ImageNet 챌린지의 우승 모형은 모두 깊은 신경망이 되었고, 매년 오류율은 빠르게 감소했다. 2015년에는 마이크로소프트의 카이밍 허가 주도한 ResNet이 인간 수준의 분류 정확도를 넘어섰고, 그 이후 ImageNet은 연구자들이 흥미를 가지는 도전이 아니라 ‘기본적인 능력의 검증’ 단계로 위상이 바뀌었다.

이러한 변화는 학계 너머로 빠르게 확산되었다. 구글, 페이스북, 마이크로소프트, IBM, 바이두, 그리고 후에 OpenAI와 DeepMind 같은 조직들이 깊은 신경망 연구에 막대한 자원을 투입했다. 2013년 구글이 힌튼이 공동 창업한 회사 DNNresearch를 인수하고, 2014년에는 DeepMind를 인수한 사건은 깊은 신경망이 더 이상 학문적 호기심이 아닌 산업의 가장 중요한 자산이 되었음을 알리는 신호였다.

1.3.2 GPU 컴퓨팅의 부상과 병렬화의 의미

깊은 신경망의 부활을 이야기할 때 GPU의 역할은 결코 부수적이지 않다. 그것은 어떤 의미에서 결정적이다. 1990년대와 2000년대에 신경망이 침체기였던 이유 중 가장 큰 것은, 그 시대의 CPU로는 충분히 큰 신경망을 충분한 시간 안에 학습시킬 수 없었기 때문이다. 신경망 학습의 핵심 연산은 행렬 곱셈과 벡터 연산인데, 이러한 연산은 CPU의 직렬 처리 방식보다는 GPU의 병렬 처리 방식에 본질적으로 더 적합하다.

GPU는 본래 게임의 그래픽 렌더링을 위해 만들어진 하드웨어였다. 수많은 픽셀의 색상값을 동시에 계산하는 작업은 정확히 행렬과 벡터의 병렬 연산이다. 1999년 엔비디아가 GeForce 256을 출시하며 ‘세계 최초의 GPU’라는 이름을 붙인 이후, GPU는 게임 시장의 성장과 함께 빠르게 성능을 키워 갔다. 2006년 엔비디아는 CUDA라는 프로그래밍 환경을 공개해 GPU를 일반 목적의 병렬 계산에 사용할 수 있게 했고, 이 결정은 후일 인공지능 시대의 가장 중요한 인프라 결정 중 하나로 평가받게 된다.

연구자들이 GPU의 가능성을 본격적으로 인식한 것은 2009년 무렵부터였다. 라잣 라이나 등은 GPU를 사용해 깊은 신경망 학습 시간을 70배 단축할 수 있음을 보였다. 같은 시기 마이크로소프트의 크리스 비제스너 등은 GPU 기반의 음성 인식 시스템을 개발해 큰 성능 향상을 얻었다. 그리고 AlexNet이 2개의 엔비디아 GTX 580 GPU에서 학습되었다는 사실은, GPU와 깊은 신경망의 결합이 단순한 우연이 아니라 시대의 흐름이었음을 보여 준다.

GPU의 부상은 단지 빠르다는 차원의 이야기가 아니다. 그것은 컴퓨팅의 본질이 직렬에서 병렬로 이동하는 거대한 전환의 한 단면이었다. 무어의 법칙은 단일 프로세서의 성능을 매년 두 배로 증가시키는 데 한계에 부딪혔지만, 병렬 처리는 새로운 차원의 확장을 가능하게 했다. 깊은 신경망은 이 병렬화의 가장 충실한 수혜자였다. 학습 데이터를 ‘배치(batch)’로 묶어 동시에 처리하는 미니 배치 학습 기법은, 본질적으로 병렬 하드웨어를 활용하기 위해 설계된 알고리즘이다.

이러한 병렬화의 흐름은 GPU에서 멈추지 않았다. 구글은 2016년 자사의 데이터 센터에서 신경망 추론과 학습을 가속하기 위한 전용 칩 ‘TPU’를 공개했다. 이 ASIC은 행렬 곱셈을 수행하는 ‘시스톨릭 어레이’ 구조를 채택해 GPU보다 더 효율적인 신경망 연산을 가능하게 했다. 그 후 모든 주요 클라우드 사업자와 칩 제조사는 자체적인 인공지능 가속기를 개발하기 시작했다. 그라프코어의 IPU, 세레브라스의 거대 웨이퍼 스케일 칩, 아마존의 트레이니움과 인퍼런시아 등은 모두 같은 흐름의 산물이다.

엔비디아가 그 흐름의 정점을 차지한 것은 우연이 아니다. 그들은 단순히 좋은 칩을 만든 것이 아니라, CUDA라는 소프트웨어 생태계와 cuDNN, NCCL, TensorRT 같은 라이브러리를 통해 신경망 학습과 추론에 최적화된 전체 스택을 제공했다. 이 생태계의 깊이가 결국 경쟁사들이 따라잡기 어려운 해자(垓字)가 되었다. 2024년 한때 엔비디아의 시가총액이 전 세계 어느 기업보다 높았던 사건은, 단지 한 회사의 성공이 아니라 컴퓨팅 패러다임 전환의 한 상징적 사건이었다.

1.3.3 합성곱 신경망과 시각 지능

합성곱 신경망의 사상적 뿌리는 1962년 데이비드 후벨과 토르스텐 비셀의 고양이 시각 피질 연구로 거슬러 올라간다. 그들은 시각 피질의 뉴런들이 위계적으로 조직되어 있고, 단순 세포는 작은 영역의 가장자리 방향을 감지하며, 복잡 세포는 그 단순 세포들의 출력을 통합해 더 추상적인 패턴에 반응한다는 사실을 밝혔다. 이 발견은 후에 노벨 생리의학상으로 이어진다.

이 통찰을 인공 신경망에 도입한 것은 1980년 후쿠시마 쿠니히코의 ‘네오코그니트론’이었다. 후쿠시마는 단순 세포와 복잡 세포의 위계적 구조를 모방해, 위치에 불변하는 패턴 인식을 수행할 수 있는 신경망을 설계했다. 이 모형이 후의 합성곱 신경망의 직접적인 조상이 된다.

합성곱 신경망을 학습 가능한 형태로 정립한 것은 얀 르쿤이었다. 그는 AT&T 벨 연구소에서 1989년부터 합성곱 신경망의 변형들을 개발해 왔고, 1998년 ‘LeNet-5’라는 이름으로 손글씨 숫자 인식 시스템을 완성했다. LeNet은 우편번호 인식, 은행 수표 처리 등 실제 산업 응용에서 사용되었다. 합성곱이라는 연산은 시각 데이터의 두 가지 본질적 성질, 즉 공간적 국소성과 평행 이동 불변성을 직접적으로 모형 구조에 반영한다는 점에서 우아하고 효율적이었다.

AlexNet 이후 합성곱 신경망은 빠르게 진화했다. VGG는 단순한 구조의 반복을 통한 깊이의 확장이라는 가능성을 보였고, GoogLeNet의 인셉션 모듈은 한 층 안에 여러 크기의 합성곱을 병렬로 두는 우아한 설계를 제시했다. 그러나 결정적 진전은 2015년 마이크로소프트 리서치의 카이밍 허가 발표한 ResNet이었다. ResNet의 핵심 발상은 ‘잔차 연결(residual connection)’이라는 단순한 구조였다. 한 층의 출력에 입력을 그대로 더해 주는 이 연결은, 깊은 신경망에서 발생하는 기울기 소실 문제를 효과적으로 해소했다. ResNet 덕분에 152층, 그리고 이후 1,000층이 넘는 신경망의 학습이 가능해졌고, 시각 인식 정확도는 인간 수준을 넘어섰다.

합성곱 신경망의 응용은 단지 분류 문제에 머물지 않는다. 영상 분할, 객체 탐지, 영상 생성, 영상 캡셔닝, 의료 영상 분석, 자율 주행의 시각 처리, 산업 비전의 결함 검출에 이르기까지, 합성곱 신경망은 시각 데이터를 다루는 거의 모든 영역에서 표준적 도구가 되었다. 의료 영상 분야에서는 일부 특정 진단 과제에서 인간 전문가를 능가하는 수준에 도달했고, 자율 주행에서는 차선과 표지판, 보행자, 다른 차량을 실시간으로 식별하는 핵심 모듈이 되었다.

흥미로운 사실은, 2020년대 들어 합성곱 신경망이 시각 인식의 유일한 패러다임에서 내려오기 시작했다는 것이다. 트랜스포머 구조를 시각 데이터에 적용한 ‘비전 트랜스포머(ViT)’가 등장하면서, 시각 인식의 표준 도구는 다시 한 번 진화하고 있다. 그러나 이 진화 또한 결국 합성곱 신경망의 토대 위에서 이루어지는 것이며, 합성곱이라는 연산 자체가 사라지는 것은 아니다.

1.3.4 순환 신경망과 시간이라는 차원

시각이 공간의 문제라면, 언어와 음성은 시간의 문제이다. 시간 차원을 다루는 신경망의 표준적 도구는 오랫동안 ‘순환 신경망(RNN)’이었다. 순환 신경망은 자신의 이전 출력을 다음 입력의 일부로 받아들이는 구조를 통해, 임의의 길이를 가진 시계열 데이터를 처리할 수 있도록 설계되었다.

기본적인 순환 신경망은 ‘기울기 소실(vanishing gradient)’이라는 문제로 인해 긴 시퀀스를 학습하지 못했다. 시퀀스의 앞부분에서 받은 정보가 뒷부분에 도달할 때쯤이면 거의 사라져 버리는 현상이다. 이 문제를 해결한 것이 1997년 제프리 호크라이터와 위르겐 슈미트후버가 제안한 ‘LSTM(Long Short-Term Memory)’이었다. LSTM은 ‘게이트’라는 구조를 통해 어떤 정보를 기억하고 어떤 정보를 잊을지를 학습 가능하게 만들었고, 그 결과 수백 단계의 시간 의존성을 학습할 수 있게 되었다.

LSTM과 그 변형인 GRU(Gated Recurrent Unit)는 2010년대 초중반 자연어 처리, 음성 인식, 기계 번역의 표준 도구가 되었다. 구글 번역은 2016년 신경망 기반의 GNMT 시스템으로 전환했는데, 그 핵심에는 LSTM 기반의 ‘인코더-디코더’ 구조가 있었다. 이 시스템은 단어 단위의 기계 번역에서 문장 단위의 의미 보존이라는 차원으로 이동했고, 번역 품질은 단번에 도약했다.

같은 시기 음성 인식 또한 깊은 LSTM을 통해 비약적으로 발전했다. 마이크로소프트, 구글, 애플의 음성 비서 서비스는 모두 LSTM 기반의 음향 모형과 언어 모형을 결합한 시스템이었다. 음성 인식의 오류율은 2010년대 중반에 인간 수준에 근접했고, 이는 시리, 알렉사, 구글 어시스턴트 같은 일상적 음성 인터페이스의 토대가 되었다.

순환 신경망은 그러나 두 가지 본질적 한계를 가지고 있었다. 첫째는 학습이 본질적으로 직렬적이라는 점이다. 시퀀스의 두 번째 토큰을 처리하려면 첫 번째 토큰의 처리 결과가 필요하므로, 시퀀스 전체를 병렬로 처리할 수 없었다. 이 한계는 GPU의 병렬 처리 능력을 충분히 활용하지 못하게 했고, 학습 속도의 결정적 병목이 되었다. 둘째는 매우 긴 의존성을 다루는 데 여전히 어려움이 있었다는 점이다. LSTM이 수백 단계까지는 가능했지만, 수천 단계 이상의 의존성을 다루는 데는 한계가 있었다.

이 두 한계를 동시에 해결한 것이 2017년의 트랜스포머 구조였다. 트랜스포머의 등장은 순환 신경망 시대의 종언을 알리는 사건이었다. 그러나 우리는 이 종언을 평가절하할 필요는 없다. LSTM과 GRU가 가르쳐 준 ‘게이트’와 ‘선택적 기억’이라는 개념은 트랜스포머의 어텐션 메커니즘과 본질적으로 같은 발상이며, 둘 사이의 연속성은 단절성보다 크다.

1.3.5 알파고와 강화학습의 부활

2016년 3월, 서울 광화문의 한 호텔에서 인류 최고의 바둑 기사 이세돌과 구글 딥마인드의 알파고가 다섯 판의 대국을 벌였다. 결과는 알파고의 4 대 1 승리였다. 이 결과는 한국 사회를 비롯한 전 세계에 깊은 충격을 주었다. 바둑은 가능한 국면의 수가 우주의 원자 수보다 많다고 알려진 게임이며, 1997년 IBM 딥블루가 체스 챔피언 가리 카스파로프를 꺾었을 때 많은 전문가들은 ‘바둑은 적어도 100년은 더 걸릴 것’이라고 말했다. 그 100년이 20년으로 단축된 것이다.

알파고의 핵심 기술은 세 가지의 결합이었다. 첫째는 깊은 합성곱 신경망을 통한 ‘정책 망(policy network)’과 ‘가치 망(value network)’이었다. 정책 망은 어떤 국면에서 어떤 수가 좋을지를 평가하고, 가치 망은 그 국면에서 흑이 이길 확률을 예측한다. 둘째는 몬테카를로 트리 탐색이라는 고전적 알고리즘이었다. 이 알고리즘은 가능한 수의 트리를 효율적으로 탐색하면서, 신경망의 안내를 받아 유망한 가지에 더 많은 계산을 할당한다. 셋째는 강화학습이었다. 알파고는 인간 기보를 학습한 후, 자기 자신을 상대로 수백만 판의 대국을 두며 자기 자신을 이기는 법을 배웠다.

알파고의 의의는 바둑이라는 한 게임에서의 승리에 그치지 않는다. 그것은 ‘직관’이라고 불리던 인간 능력을 신경망이 데이터로부터 학습할 수 있다는 사실을 보였다. 바둑에서 어떤 수가 좋아 보인다는 직관은 명시적 규칙으로 환원되지 않는, 수십 년 수련의 결과로 여겨졌다. 그러나 알파고는 그 직관과 유사한 수준의 평가를 신경망의 가중치 안에 학습해 냈다. 이는 직관이 본질적으로 패턴 인식이라는 가설에 강력한 증거를 제공했다.

알파고는 그 후 알파고 마스터, 알파고 제로, 알파제로로 진화했다. 알파고 제로는 인간 기보 없이 오로지 자기 대국만으로 학습했고, 이전 버전의 알파고보다 더 강한 실력에 도달했다. 알파제로는 같은 알고리즘으로 바둑, 체스, 쇼기를 모두 인간 챔피언 수준 이상으로 학습해, 강화학습 알고리즘의 일반성을 입증했다.

강화학습은 알파고 이후 인공지능 연구의 중심 의제 중 하나로 다시 자리 잡았다. 로보틱스, 자율 주행, 자원 관리, 산업 제어, 게임 인공지능, 그리고 후일 거대언어모델의 정렬 과정에 이르기까지 강화학습의 응용은 광범위하게 확장되었다. 특히 ‘인간 피드백 기반 강화학습(RLHF)’은 ChatGPT를 비롯한 현대 거대언어모델의 핵심 학습 방법론이 되었다. 알파고가 보여 준 ‘직관의 학습 가능성’이라는 명제는, 이제 게임의 영역을 넘어 일반적인 의사결정의 영역으로 확장되고 있다.

1.4 트랜스포머와 거대언어모델의 시대

1.4.1 어텐션 메커니즘이 바꾼 것

2017년 6월, 구글 브레인과 구글 리서치의 연구자 여덟 명은 「Attention Is All You Need」라는 제목의 논문을 NIPS 학회에 제출한다. 이 도전적인 제목의 논문은 이후 인공지능사 전체를 다시 쓰게 되는 트랜스포머 구조를 제시했다. 8명의 저자 — 아쉬쉬 바스와니, 노암 셔지어, 니키 파머, 야콥 우슈코라이트, 라이언 존스, 에이단 고메즈, 워카시 카이저, 일리야 폴로스킨 — 의 이름은 그 후 인공지능사에 자주 등장하게 된다.

트랜스포머의 핵심은 '어텐션(주의 집중)' 알고리즘에 모든 것을 맡기는 구조입니다. 어텐션은 문장 안에서 특정 단어가 다른 단어들과 얼마나 깊은 연관성을 가지는지 스스로 계산하여 집중하는 기법입니다. 이 기법의 큰 장점은 문장 안의 모든 단어가 한 번에 서로의 관계를 계산할 수 있어, 데이터를 한꺼번에 병렬로 처리하기에 매우 적합하다는 점입니다.

순환 신경망에서는 두 토큰 사이의 정보 전달이 그 사이의 모든 토큰을 거쳐야 했다. 1번 토큰의 정보가 100번 토큰에 도달하려면 99단계의 직렬 처리가 필요했다. 어텐션에서는 1번과 100번이 직접 연결된다. 이는 ‘기울기 소실’ 문제를 본질적으로 해소함과 동시에, 매우 긴 의존성을 가능하게 만든다. 동시에 모든 어텐션 연산이 행렬 곱셈으로 환원되므로, GPU의 병렬 처리 능력을 최대한 활용할 수 있다.

트랜스포머는 또한 ‘위치 인코딩(positional encoding)’이라는 우아한 장치를 도입해, 시퀀스 내부의 순서 정보를 어텐션에 부여했다. 어텐션 자체는 순서에 무관한 연산이지만, 위치 인코딩을 통해 모형은 토큰의 절대적 또는 상대적 위치를 인식할 수 있게 된다. 이 단순한 추가가 시퀀스 데이터를 다루는 데 결정적이었다.

「Attention Is All You Need」의 본래 목적은 기계 번역의 성능을 개선하는 것이었다. 그리고 그 목적은 달성되었다. 트랜스포머 기반의 기계 번역은 LSTM 기반보다 더 좋은 품질을 더 빠른 학습 시간으로 달성했다. 그러나 이 논문이 가지는 진짜 의미는, 그 후 몇 년 안에 트랜스포머가 자연어 처리뿐 아니라 컴퓨터 비전, 음성 처리, 강화학습, 단백질 구조 예측, 기호 추론에 이르기까지 거의 모든 인공지능 영역의 표준 구조가 되었다는 사실에 있다. 어떤 단일 신경망 구조가 이렇게 광범위하게 채택된 사례는 인공지능사에 없었다.

1.4.2 BERT와 GPT — 두 갈래의 진화

트랜스포머가 등장한 이후, 그 구조를 활용하는 두 갈래의 거대 모형이 나타난다. 한 쪽은 구글의 BERT(Bidirectional Encoder Representations from Transformers)이고, 다른 한 쪽은 OpenAI의 GPT(Generative Pre-trained Transformer) 계열이다. 두 모형은 트랜스포머라는 같은 구조를 공유하지만, 그 사용 방식과 철학이 결정적으로 다르다.

BERT는 인코더 전용 구조로, 양방향 문맥을 동시에 활용하는 데 강점이 있다. 그것은 한 문장의 일부 단어를 가리고, 그 가려진 단어를 양쪽 문맥으로부터 추론하도록 학습한다. 이 ‘마스크 언어 모형(masked language model)’ 학습 방식은 언어 이해에 매우 효과적이었다. BERT는 2018년 발표되자마자 자연어 이해의 거의 모든 표준 벤치마크에서 새로운 기록을 세웠고, 이후 자연어 처리 분야의 ‘기본 기술’이 되었다. 검색, 분류, 개체명 인식, 질의 응답 등 거의 모든 응용에서 BERT를 사전 학습 기반으로 사용하는 것이 표준이 되었다.

GPT는 디코더 전용 구조로, 한 방향으로 다음 토큰을 예측하는 자기회귀(autoregressive) 학습을 채택했다. GPT의 학습 목적은 단순했다. 한 토큰까지의 시퀀스가 주어졌을 때 다음 토큰의 확률 분포를 예측하라는 것이다. 이 단순한 학습 목적이 결과적으로 가장 광범위한 능력을 만들어 냈다. 그 이유는 인터넷의 모든 텍스트가 이 형식으로 학습 신호를 제공할 수 있기 때문이다. 이는 데이터의 규모를 사실상 무한히 확장할 수 있게 만들었다.

GPT-1은 2018년 1억 1700만 개의 매개변수로 시작했다. 1년 뒤 GPT-2는 15억 개로 늘었고, 그 능력은 이전과 비교하기 어려울 만큼 강력했다. GPT-2 발표 당시 OpenAI는 ‘오용 우려’를 들어 가장 큰 모형의 가중치를 즉시 공개하지 않기로 결정했는데, 이 결정 자체가 인공지능 안전 논의의 한 분수령이 되었다. 2020년 GPT-3가 1,750억 개의 매개변수로 등장했고, 그것은 단순히 ‘더 큰 GPT-2’가 아니었다. 그것은 한 번도 본 적 없는 과제도 몇 개의 예시만 보여 주면 그럴듯하게 수행하는 ‘몇 샷 학습(few-shot learning)’ 능력을 갖추고 있었다. 이는 인공지능사에 없던 새로운 종류의 능력이었다.

BERT와 GPT의 분기는 단순한 기술적 차이가 아니라 철학적 차이이기도 했다. BERT는 ‘언어를 잘 이해하는 모형’을 만드는 것을 목표로 했고, 그러한 모형은 사용자의 응용에 맞게 미세조정(fine-tuning)되어야 한다고 보았다. GPT는 ‘언어를 잘 생성하는 모형’을 만들고, 그 모형이 충분히 거대하면 미세조정 없이도 다양한 과제를 수행할 수 있다고 보았다. 후자의 베팅이 결과적으로 더 큰 성과를 거두었다. 2020년대 초반 인공지능 응용의 거의 모든 새로운 흐름은 GPT 계열의 자기회귀 거대언어모델을 중심으로 형성되었다.

1.4.3 스케일링 법칙과 창발 능력

2020년 OpenAI의 자레드 카플란과 동료들은 「신경망 언어 모형의 스케일링 법칙」이라는 논문에서, 언어 모형의 성능이 매개변수의 수, 학습 데이터의 양, 학습 계산량에 대해 매우 정확한 거듭제곱 법칙으로 변화한다는 사실을 보였다. 이 ‘스케일링 법칙’은 인공지능 연구의 방향성을 결정적으로 바꾸어 놓았다. 만약 더 큰 모형, 더 많은 데이터, 더 많은 계산이 거의 자동적으로 더 좋은 성능을 가져온다면, 연구의 핵심 과제는 새로운 알고리즘의 발견보다 더 큰 시스템을 학습시키는 능력의 확보가 된다.

이 발견은 한편으로는 인공지능 연구의 ‘공학화’를 가속했다. 거대 학습 시스템을 운영하기 위한 수만 장의 GPU를 동기화하고, 데이터 파이프라인을 견고하게 만들고, 학습이 한 달 동안 안정적으로 진행되도록 하는 능력이 알고리즘 자체만큼이나 중요해졌다. 이는 인공지능 연구가 학계에서 거대 기업의 산업 연구소로 무게 중심이 이동하는 결정적 이유가 되었다. 2020년대 중반에 이르면, 최첨단 거대언어모델 학습에 드는 비용은 수억 달러에서 수십억 달러에 이르게 되고, 이는 사실상 거대 기업이나 국가 수준의 기관만이 감당할 수 있는 규모이다.

다른 한편, 스케일링 법칙은 ‘창발 능력(emergent abilities)’이라는 흥미로운 현상으로 이어졌다. 매개변수와 데이터를 늘려 가는 과정에서, 어떤 임계점을 넘어서면 모형이 갑자기 새로운 능력을 보이기 시작한다는 것이다. 작은 모형에서는 거의 무작위 수준의 성능을 보이던 과제가, 일정 규모를 넘어서면 갑자기 의미 있는 성능을 보이는 현상이다. 산술 연산, 다단계 추론, 유머 이해, 비유 사용 등 여러 능력이 이 창발 양상을 보였다.

창발 능력의 존재는 두 가지 의미를 가진다. 첫째, 모형의 미래 성능을 예측하기가 매우 어려워진다는 것이다. 어떤 능력이 어느 규모에서 창발할지는 사전에 알기 어렵다. 이는 인공지능 안전성 연구자들에게 깊은 우려의 대상이 되었다. 둘째, 더 큰 모형을 만들면 우리가 미처 예상하지 못한 새로운 능력을 발견할 수 있다는 기대를 불러일으켰다. 이 두 가지 의미는 동전의 양면이며, 2020년대 인공지능 발전의 가속과 그에 대한 우려는 이 두 의미 사이에서 진동해 왔다.

흥미로운 점은, 창발이라는 현상 자체에 대한 학문적 논쟁이 여전히 진행 중이라는 사실이다. 어떤 연구자들은 창발이 측정 척도의 산물이며, 더 부드러운 척도로 측정하면 점진적 향상으로 보인다고 주장한다. 다른 연구자들은 창발이 실재하는 현상이며, 단지 척도의 문제로 환원될 수 없다고 주장한다. 이 논쟁의 결과와 무관하게 한 가지는 분명하다. 거대 언어 모형은 단지 작은 모형의 ‘큰 버전’이 아니라, 어느 시점부터 질적으로 다른 종류의 시스템으로 변모한다는 점이다.

1.4.4 RLHF와 정렬이라는 과제

2022년 11월 30일, OpenAI는 ChatGPT라는 이름의 대화형 인공지능 서비스를 공개했다. 출시 5일 만에 사용자가 100만 명을 돌파했고, 두 달 만에 1억 명을 돌파했다. 이는 어떤 소비자 인터넷 서비스보다도 빠른 채택 속도였다. ChatGPT의 충격은 단순히 새로운 도구의 등장이라는 차원을 넘어, ‘대화하는 것이 가능한 인공지능’이라는 개념을 일반인에게 직접 체험하게 만들었다는 데 있었다.

ChatGPT의 기반은 GPT-3.5라는 거대언어모형이었다. 그러나 GPT-3.5 자체가 곧 ChatGPT는 아니었다. 두 모형 사이에는 결정적 학습 단계가 추가되어 있었다. 그것이 ‘인간 피드백 기반 강화학습(Reinforcement Learning from Human Feedback, RLHF)’이다.

RLHF의 핵심 아이디어는 단순하다. 인간 평가자에게 모형의 응답을 보여 주고, 어떤 응답이 더 좋은지 비교하게 한다. 이 비교 데이터를 사용해 ‘보상 모형(reward model)’을 학습시킨다. 보상 모형은 인간의 선호를 모사하는 작은 신경망이다. 그 후 거대언어모형을 보상 모형이 주는 점수를 최대화하도록 강화학습으로 미세조정한다. 그 결과 모형은 단지 ‘다음 토큰을 잘 예측하는’ 것이 아니라 ‘인간이 좋아할 만한 응답을 생성하는’ 시스템으로 변모한다.

RLHF는 거대언어모형을 사용 가능한 어시스턴트로 만드는 데 결정적 역할을 했다. 그것이 없었다면 GPT-3는 여전히 흥미로운 텍스트 생성기였을 뿐, 일반 사용자가 신뢰하고 사용할 수 있는 도구가 되지 못했을 것이다. RLHF는 모형의 응답이 더 도움되고, 더 정직하고, 덜 해로운 방향으로 이동하도록 유도했다.

RLHF의 등장은 인공지능 연구에 ‘정렬(alignment)’이라는 새로운 의제를 부각시켰다. 정렬이란 인공지능 시스템이 인간의 의도와 가치에 부합하도록 만드는 과제이다. 거대언어모형이 점점 더 강력해질수록, 그것이 ‘무엇을 할 수 있는가’만큼이나 ‘무엇을 해야 하는가’가 중요해진다. RLHF는 그 정렬 과제에 대한 한 가지 답이지만, 결코 충분한 답은 아니다. RLHF는 인간 평가자의 선호에 의존하므로, 그 평가자가 가진 편견이 모형에 그대로 전달될 수 있다. 또한 인간이 평가하기 어려운 영역에서는 RLHF가 잘 작동하지 않는다.

이러한 한계를 극복하기 위해 2022년 이후 ‘헌법적 인공지능(Constitutional AI)’, ‘RLAIF(인공지능 피드백 기반 강화학습)’, ‘토론(debate)’ 기반 정렬 등 여러 새로운 접근이 제안되고 있다. 앤트로픽이 주도한 헌법적 인공지능은 인간 평가자 대신 명시적인 ‘헌법’ 인 행동 원칙의 집합을 사용해 모형의 응답을 자기 평가하도록 한다. 이 접근은 정렬 과정의 확장성과 일관성을 높이는 것을 목표로 한다.

정렬은 단지 학문적 호기심이 아니다. 그것은 인공지능이 점점 더 강력해질 때 인류가 답해야 할 가장 중요한 실용적 질문이다. 이 책의 후반부에서 우리는 정렬의 문제를 단지 기술적 차원이 아니라 사회적, 철학적 차원에서 다시 다루게 될 것이다.

1.4.5 멀티모달 통합과 표현의 일원화

2010년대 초까지 인공지능은 모달리티(modality)별로 분화되어 있었다. 영상은 합성곱 신경망, 음성은 LSTM, 자연어는 LSTM이나 그 변형이 다루었고, 각 영역의 연구 공동체는 어느 정도 분리되어 있었다. 2020년대 들어 이 경계가 빠르게 무너지기 시작했다. 트랜스포머라는 공통 구조가 모든 모달리티에 적용 가능함이 입증되면서, 한 모형이 여러 모달리티를 동시에 다루는 ‘멀티모달 모형’의 시대가 열렸다.

OpenAI의 CLIP(2021)은 이미지와 텍스트를 같은 의미 공간에 매핑하는 모형이었다. 한 이미지와 한 텍스트가 의미적으로 같다면, 그 둘의 임베딩이 가까운 위치에 놓이도록 학습된다. 이 발상은 단순했지만 강력했다. CLIP을 기반으로 한 ‘DALL-E’, ‘Stable Diffusion’, ‘Midjourney’ 같은 텍스트-이미지 생성 시스템이 차례로 등장하며, 누구나 텍스트로 이미지를 ‘말로 그리는’ 시대가 열렸다.

GPT-4(2023)는 텍스트와 이미지를 동시에 입력으로 받을 수 있는 멀티모달 모형이었고, GPT-4o(2024)는 음성, 이미지, 텍스트를 동일한 구조에서 처리할 수 있도록 확장되었다. 구글의 Gemini, 앤트로픽의 Claude 또한 같은 방향으로 진화했다. 그 결과 하나의 모형이 사진을 보고, 그 사진에 대해 묘사하고, 그 묘사를 기반으로 추가 질문에 답하고, 그 답을 음성으로 들려주는 일련의 흐름이 매끄럽게 가능해졌다.

멀티모달 통합의 의미는 단순한 편의의 증가 그 이상이다. 그것은 ‘세계에 대한 표현이 일원화되는’ 변화이다. 인공지능이 시각, 청각, 언어를 별개의 채널로 다루는 것이 아니라, 그 모두를 하나의 의미 공간 위에서 통합적으로 다루기 시작했다. 이는 인간과 같이 시각 자극과 언어 자극이 분리되지 않고 통합되는 인지 작동 방식에 더 가까워진 것이다.

이러한 통합은 ‘세계 모형(world model)’이라는 더 큰 목표로 이어진다. 만약 인공지능이 텍스트와 이미지뿐 아니라 영상, 행동, 물리 시뮬레이션, 감각 데이터를 모두 같은 표현으로 통합할 수 있다면, 그것은 단순한 패턴 인식기가 아니라 ‘세계가 어떻게 작동하는지’를 내부에 가진 시스템에 가까워진다. 이 방향성은 2024년 등장한 OpenAI의 Sora, 구글의 Veo 같은 영상 생성 모형들, 그리고 NVIDIA의 Physical AI 패러다임에서 점점 명확해지고 있다. 멀티모달 통합은 이미 도착한 미래이며, 그 미래의 도착 이후 인공지능 응용의 지형은 다시 한 번 재편되고 있다.

1.5 현재의 기술 지형

1.5.1 거대언어모델의 현주소

2026년 봄을 기준으로 거대언어모델(Large Language Model, LLM)의 지형을 살펴보면, 2022년 ChatGPT가 처음 등장하던 시점과 비교했을 때 거의 다른 시대로 보일 만큼 큰 변화가 있었음을 알 수 있다. 모델의 매개변수 수가 단순히 늘어난 것이 아니라, 모델이 다루는 문맥의 길이, 추론의 깊이, 도구의 활용, 멀티모달 통합의 정도, 그리고 사용자 시나리오의 다양성에 이르기까지 거의 모든 차원에서 질적인 변화가 일어났다.

먼저 모형의 성능 차원을 보면, 일반 지식, 수학적 추론, 코딩, 의학 자격 시험, 법학 시험 등 다양한 표준 평가 지표에서 최상위 모형은 대부분의 인간 전문가 수준을 이미 넘어섰다. 의학 분야의 USMLE 시험에서 GPT-4 계열 모형은 90퍼센트 이상의 정답률을 기록했고, 법학 분야의 미국 변호사 시험에서도 상위 10퍼센트 안에 드는 점수를 받았다. 코딩 영역에서는 LiveCodeBench, SWE-bench 같은 실전 지향 벤치마크에서 점차 인간 시니어 개발자에 근접한 점수가 나오고 있으며, 일부 영역에서는 이미 인간을 능가했다. 다만 이러한 벤치마크 성적이 곧 실무에서의 능력과 등치되는 것은 아니라는 사실 또한 동시에 분명해졌다.

문맥 길이의 확장은 거대언어모델의 가장 두드러진 변화 중 하나이다. 초기 GPT-3는 약 2,000 토큰의 문맥을 다루었지만, 2026년 시점의 최상위 모형들은 100만 토큰을 넘어서는 문맥을 일상적으로 다룬다. 100만 토큰은 한국어 기준으로 약 70만~100만 자, 즉 두꺼운 단행본 서너 권의 분량에 해당한다. 이러한 긴 문맥 능력은 단순한 양적 확장이 아니라, 질적으로 다른 종류의 작업을 가능하게 한다. 예를 들어 한 회사의 모든 사내 문서를 한 번에 읽고 그 내용에 대해 질문에 답하거나, 길이가 긴 법률 서면 전체를 검토하거나, 한 학자의 평생 저작 전체를 분석하는 일이 한 번의 대화 안에서 가능해진다.

추론 능력의 진화는 또 다른 결정적 변화이다. 2024년 OpenAI는 ‘o1’이라는 이름의 추론 특화 모형을 공개했고, 이 모형은 기존 GPT-4와 다르게 응답을 생성하기 전에 ‘내적 사고 과정’을 길게 전개하는 방식을 채택했다. 단순히 다음 토큰을 빠르게 출력하는 것이 아니라, 한 문제에 대해 여러 시도와 검토와 수정을 거친 후 최종 응답을 내놓는 구조이다. 이 접근은 수학 올림피아드 수준의 문제 해결, 복잡한 과학적 추론, 정교한 코딩 작업에서 극적인 성능 향상을 가져왔다. 2025년 이후에는 이러한 추론 특화 패러다임이 거의 모든 주요 모형 제공자의 표준이 되었으며, 단일 모형이 ‘빠른 응답 모드’와 ‘깊은 추론 모드’를 사용자의 필요에 따라 전환하는 형태로 진화하고 있다.

거대언어모델의 다극화 또한 주목할 변화이다. 2022년에는 OpenAI가 사실상 독점적 위치에 있었지만, 2026년 시점에는 OpenAI의 GPT 계열, 앤트로픽의 Claude 계열, 구글 딥마인드의 Gemini 계열이 최상위 모형을 두고 경쟁하고 있으며, 메타의 Llama 계열, 미스트랄, 알리바바 큐원, 딥시크, xAI의 그록 등이 그 다음 층을 형성하고 있다. 또한 한국의 네이버, 카카오, LG, 솔트룩스, 업스테이지 같은 기업들 역시 한국어와 산업 도메인에 특화된 모형을 제공하고 있다. 이러한 다극화는 단일 기술 공급자에 대한 의존을 줄이고, 시장의 경쟁을 통해 가격과 성능 모두에서 사용자에게 유리한 환경을 만들어 가고 있다.

이와 함께 오픈 소스 거대언어모델의 약진도 눈에 띄는 흐름이다. 2024년 메타의 Llama 3와 2025년의 Llama 4 계열, 그리고 중국 발 딥시크 V3와 R1 모형은 폐쇄 모델과의 성능 격차를 크게 좁혔다. 이러한 오픈 소스 흐름은 대학과 중소기업, 개별 연구자들이 자체적으로 모형을 미세조정하고 운영할 수 있는 기반을 제공하며, 인공지능의 ‘민주화’라는 의제와 직접 연결된다.

1.5.2 추론 모델과 사고의 연쇄

거대언어모델이 단순한 ‘다음 토큰 예측기’에서 ‘사고하는 시스템’으로 이동하는 흐름의 한가운데에 있는 개념이 ‘사고의 연쇄(chain-of-thought)’이다. 2022년 구글의 제이슨 웨이 등은 거대언어모델에게 단순히 답을 요구하는 대신 ‘단계별로 생각해 보자’고 지시하면, 그 모형의 추론 정확도가 극적으로 향상된다는 사실을 보였다. 이 단순한 발견은 거대언어모델 연구의 방향성을 결정적으로 바꾸어 놓았다.

사고의 연쇄가 가지는 의미는 두 가지이다. 첫째, 거대언어모델 안에는 우리가 미처 끌어내지 못한 능력이 잠재되어 있다는 것이다. 같은 모형이 ‘직접 답하기’와 ‘단계별로 추론하기’ 사이에서 극적인 성능 차이를 보인다면, 그 차이는 모형의 능력 부족이 아니라 그 능력을 끌어내는 방법의 문제이다. 둘째, 이 발견은 ‘프롬프트 엔지니어링’이라는 새로운 분야를 만들어 냈다. 어떻게 질문하느냐가 어떻게 답하느냐를 결정한다는 사실은, 거대언어모델을 다루는 사용자에게 새로운 종류의 기술과 직관을 요구한다.

2024년 이후에는 사고의 연쇄가 모형 외부의 프롬프트가 아니라 모형 내부의 학습 단계에 통합되었다. OpenAI o1, 구글 Gemini Thinking, 앤트로픽 Claude 추론 모드, 딥시크 R1 같은 추론 특화 모형들은 모형이 응답을 생성하기 전에 내부적으로 긴 추론 시퀀스를 전개하도록 학습된다. 이때 사용되는 학습 방법은 본질적으로 강화학습이다. 모형이 어떤 추론 경로를 통해 정답에 도달했을 때 그 경로 전체에 보상을 주고, 오답에 도달한 경로에는 페널티를 준다. 이러한 학습을 수백만 개의 문제에 대해 반복하면, 모형은 점점 더 효과적인 추론 패턴을 자기 안에 내장하게 된다.

추론 모델의 등장은 인공지능 응용의 지형을 다시 한 번 재편하고 있다. 단순한 질문 응답이나 텍스트 생성에는 빠른 응답 모형이 적합하지만, 수학 증명, 복잡한 코드 디버깅, 과학적 가설 평가, 다단계 의사결정 문제 같은 영역에서는 추론 모형이 결정적으로 우월한 성능을 보인다. 그 결과 한 사용자가 같은 시스템 안에서 작업의 성격에 따라 ‘빠른 모드’와 ‘깊은 모드’를 자유롭게 전환하는 사용 패턴이 일상화되었다.

추론 모델은 또한 인공지능의 ‘투명성’이라는 의제를 새롭게 제기했다. 사고의 연쇄는 그 자체로 모형의 사고 과정을 부분적으로 가시화한다. 사용자는 모형이 어떤 추론 단계를 거쳤는지 볼 수 있고, 그 추론에 어디에서 오류가 발생했는지를 어느 정도 추적할 수 있다. 그러나 동시에 이 가시화의 한계도 드러나고 있다. 모형이 표현하는 추론 단계가 실제 모형 내부에서 일어나는 계산과 정확히 일치한다는 보장은 없으며, 모형이 ‘그럴듯해 보이지만 실제로는 따르지 않은 추론’을 보여 줄 가능성도 학계에서 활발히 논의되고 있다.

1.5.3 에이전트 인공지능과 도구 사용

2024년부터 본격적으로 부상한 또 하나의 흐름은 ‘에이전트 인공지능(Agentic AI)’이다. 에이전트 인공지능은 단순히 사용자의 질문에 답하는 시스템이 아니라, 사용자의 목표를 받아 그것을 달성하기 위해 여러 단계의 행동을 자율적으로 계획하고 실행하는 시스템이다. 그 행동에는 웹 검색, 파일 작성, 이메일 전송, API 호출, 코드 실행, 다른 시스템과의 협상 등 다양한 ‘도구 사용’이 포함된다.

에이전트 인공지능의 기반에는 거대언어모델이 도구를 사용하는 능력이 있다. 모형이 ‘함수 호출(function calling)’이라는 형식을 통해 외부 도구를 호출하고, 그 결과를 받아 다음 단계의 추론에 활용할 수 있게 되면서 거대언어모델은 단순한 텍스트 생성기를 넘어 ‘행동하는 인공지능’으로 진화했다. 이는 1980년대 인공지능 연구가 추구했던 ‘자율 에이전트’의 비전을, 거대언어모델이라는 새로운 기반 위에서 다시 실현해 가는 과정이다.

OpenAI의 Operator, 앤트로픽의 컴퓨터 사용 모드, 구글의 Project Mariner 같은 시스템들은 인공지능이 사람의 컴퓨터 화면을 보고, 마우스와 키보드를 직접 조작하며, 웹 사이트를 탐색하고, 양식을 채우고, 결제를 진행할 수 있는 능력을 시연했다. 이러한 ‘브라우저 사용 에이전트’는 일상적 디지털 작업의 상당 부분을 자동화할 수 있는 잠재력을 가진다. 항공편 예약, 호텔 예약, 일정 조정, 식료품 주문, 영수증 정리, 보험 청구 같은 작업이 사용자의 자연어 지시 하나로 끝나는 시대가 본격적으로 다가오고 있다.

기업 환경에서의 에이전트 인공지능 활용은 더 큰 변화를 예고한다. 고객 서비스 에이전트, 영업 에이전트, 데이터 분석 에이전트, 보고서 작성 에이전트, 회계 정리 에이전트, 프로젝트 관리 보조 에이전트 등이 다양한 업종에서 시범 도입되고 있으며, 일부 영역에서는 이미 본격적인 운영 단계에 들어섰다. 특히 콘텐츠 제작, 마케팅, 고객 지원, 백오피스 업무에서 에이전트 인공지능의 도입은 빠르게 진행되고 있다.

에이전트 인공지능의 본격적 확산은 그러나 여러 새로운 문제를 동반한다. 에이전트가 잘못된 행동을 했을 때의 책임 소재, 에이전트가 다른 시스템의 보안에 미치는 영향, 에이전트가 처리하는 개인 정보의 보호, 그리고 에이전트가 자체적으로 다른 에이전트를 호출하는 ‘에이전트 네트워크’의 복잡성 같은 문제들이다. 이러한 문제들은 단순히 기술적 해결책으로 풀리지 않으며, 사회적 합의와 제도적 장치를 필요로 한다.

산업 인공지능과 스마트 제조의 맥락에서 에이전트 인공지능이 가지는 의미는 특히 크다. 공장 운영의 의사결정, 생산 라인의 동적 최적화, 품질 관리의 자동화, 공급망의 자율적 조정, 그리고 고객 응대와 서비스의 자동화 등 다양한 영역에서 에이전트 인공지능은 인간 작업자와의 협업 모델을 새롭게 정의하고 있다. 이는 단순히 효율의 문제가 아니라, 산업의 운영 패러다임 자체를 바꾸는 전환이다.

1.5.4 생성 인공지능과 창작의 산업화

2022년 8월, ‘Stable Diffusion’이라는 오픈 소스 영상 생성 모형이 공개되었다. 이는 같은 시기에 비공개로 운영되던 OpenAI의 ‘DALL-E 2’와 유사한 능력을 누구나 자신의 컴퓨터에서 실행할 수 있게 만든 사건이었다. 그 후 ‘Midjourney’, ‘Adobe Firefly’, ‘Imagen’, ‘Flux’ 등 다양한 영상 생성 시스템이 등장했으며, 2024년 이후에는 ‘Sora’, ‘Veo’, ‘Runway Gen-3’, ‘Kling’ 같은 영상 생성 모형들이 사진의 정적 영역을 넘어 동영상 생성으로 그 지평을 확장했다.

생성 인공지능의 영향은 창작 산업의 거의 모든 부문에 미치고 있다. 광고 산업에서는 한 편의 광고 영상을 제작하는 데 필요한 시간과 비용이 극적으로 줄어들었다. 게임 산업에서는 캐릭터, 배경, 텍스처를 자동으로 생성하는 도구가 표준 워크플로우의 일부가 되어 가고 있다. 영화 산업에서는 시각 효과의 일부 공정이 생성 인공지능으로 대체되고 있으며, 일부 단편 영화는 이미 생성 인공지능만으로 제작되고 있다. 출판 산업에서는 표지 디자인, 삽화, 마케팅 이미지가 생성 인공지능에 의해 만들어지고 있다.

음악 분야에서도 비슷한 변화가 일어나고 있다. ‘Suno’, ‘Udio’, ‘Mubert’ 같은 시스템들은 텍스트 프롬프트로부터 완성도 있는 음악 트랙을 생성한다. 보컬, 가사, 편곡, 마스터링까지 한 번의 텍스트 입력으로 완성되는 곡은 일반인이 듣기에는 인간 작곡가의 작품과 구별하기 어려운 수준에 도달했다. 음악 산업의 일부 종사자들은 이러한 변화에 대해 깊은 우려를 표명하고 있으며, 저작권법과 산업 관행의 새로운 정립이 시급한 과제로 떠오르고 있다.

3D 모델 생성, 폰트 생성, 슬라이드 디자인, 아키텍처 시안 작성, 패션 디자인 시안 등 거의 모든 시각적 창작 영역에 생성 인공지능이 도입되고 있다. 이러한 흐름은 창작이라는 행위 자체의 의미를 다시 정의하게 만든다. 한 편의 작품에서 인간의 기여와 인공지능의 기여를 어떻게 구분할 것인가, 인간의 창의성이 무엇으로 환원되지 않는가, 인공지능이 만든 작품이 ‘예술’이라 불릴 수 있는가 같은 질문들이 학계와 산업계 모두에서 활발히 논의되고 있다.

생성 인공지능의 또 다른 차원은 ‘합성 미디어(synthetic media)’의 부상이다. 인공지능이 생성한 가짜 인물의 얼굴, 가짜 음성, 가짜 영상이 점점 더 정교해지고 있으며, 이는 사기, 명예 훼손, 정치적 조작 등 다양한 악용 가능성을 동반한다. 이러한 우려에 대응하기 위해 ‘콘텐츠 인증(content provenance)’ 기술, 즉 인공지능이 생성한 콘텐츠에 추적 가능한 표지를 남기는 기술이 표준화되고 있다. C2PA 표준이 그 대표적 예이다. 그러나 이러한 기술적 대응이 모든 악용을 막을 수는 없으며, 결국 이 문제는 기술과 법률, 사회 규범, 미디어 리터러시가 함께 결합해야 풀어 갈 수 있는 종합적 과제이다.

제1장 인공지능의 발전사와 현재, 그리고 미래의 지평 | 1.5.5 Physical AI와 로보틱스의 결합

거대언어모델의 능력이 디지털 영역에서 충분히 입증된 지금, 그 능력이 물리적 영역으로 확장되는 단계가 본격화되고 있다. 이 흐름을 ‘Physical AI’라고 부른다. Physical AI는 거대언어모델, 비전 모형, 행동 정책을 통합한 ‘비전-언어-행동 모형(Vision-Language-Action, VLA)’을 핵심으로 한다. VLA 모형은 로봇이 카메라로 보는 영상과 자연어로 받은 지시를 입력으로 받고, 그에 따라 적절한 관절 동작을 출력으로 내놓는다.

NVIDIA는 2024년부터 ‘GR00T’라는 이름의 휴머노이드 로봇 기반 모형 프로젝트를 본격화했다. 구글 딥마인드는 ‘RT-1’, ‘RT-2’, ‘RT-X’ 등의 일련의 모형을 통해 로봇 학습의 일반화 가능성을 입증해 왔다. 그 핵심 통찰은, 인터넷 규모의 텍스트와 영상에서 학습한 거대 모형이 로봇 학습에서도 강력한 ‘사전 지식’으로 작용한다는 것이다. 로봇이 ‘컵을 잡아라’는 지시를 이해하기 위해 처음부터 시각과 언어를 학습할 필요는 없으며, 거대언어모델과 비전 모형의 표현을 그대로 가져와 그 위에 행동을 학습시키면 된다.

이러한 접근은 로봇 학습의 전통적 패러다임을 본질적으로 바꾸고 있다. 과거의 로봇 학습은 한 작업을 위해 한 모형을 처음부터 학습시키는 ‘작업별 접근’이었다. 컵을 잡는 로봇과 빵을 자르는 로봇은 본질적으로 별개의 시스템이었다. 그러나 VLA 모형은 ‘일반 로봇 정책’을 추구한다. 한 모형이 다양한 작업을 수행할 수 있고, 새로운 작업도 적은 데이터로 빠르게 학습할 수 있다. 이는 로봇이 가정과 사무실, 공장과 병원, 거리와 농장에서 보편적으로 활용될 수 있는 단계로 이동하기 위한 결정적 전환이다.

휴머노이드 로봇은 이 흐름의 가장 가시적인 표현이다. 테슬라의 옵티머스, 피규어 AI, 어질리티 로보틱스의 디지트, 1X 테크놀로지스의 네오, 보스턴 다이내믹스의 아틀라스, 중국의 유니트리와 어버이 등 여러 회사가 휴머노이드 로봇의 상용화를 추구하고 있다. 2024~2025년 사이 이 분야의 발전 속도는 이전 10년의 발전을 합한 것보다 빠르다고 평가될 만큼 가속화되었다. 2026년 시점에 일부 회사들은 휴머노이드 로봇을 공장과 물류 센터에 본격적으로 배치하기 시작했으며, 가정용 휴머노이드 로봇의 상용화도 멀지 않은 미래로 다가오고 있다.

자율 주행 또한 Physical AI의 중요한 응용이다. 테슬라의 ‘완전 자율 주행(FSD)’은 거대 신경망을 통해 운전 정책을 학습하는 ‘끝에서 끝(end-to-end)’ 접근을 채택했다. 웨이모, 크루즈, 모셔널, 바이두 아폴로 등은 도시 환경에서 무인 택시 서비스를 운영하고 있으며, 그 운영 범위는 매년 빠르게 확대되고 있다. 자율 주행은 단지 운전을 자동화하는 것이 아니라, 도시 교통의 구조 자체를 바꿀 가능성을 가지고 있다.

산업 로봇과 스마트 제조 영역에서 Physical AI는 또 다른 차원의 변화를 만들어 가고 있다. 단일 작업에 특화된 산업용 로봇이 아닌, 한 라인 안에서 다양한 작업을 유연하게 수행할 수 있는 ‘협동 로봇(cobot)’이 점차 표준이 되고 있으며, 거대 모형을 기반으로 한 비전 시스템이 결함 검출과 품질 관리에 광범위하게 도입되고 있다. 이러한 변화는 다음 항에서 다룰 산업 인공지능의 흐름과 밀접하게 연결된다.

1.5.6 산업 인공지능과 스마트 제조의 현재

거대언어모델의 능력이 일반 소비자 응용에서 검증된 후, 그 능력이 산업 영역으로 본격적으로 확산되는 흐름이 2024년 이후 가속화되었다. 산업 인공지능은 단순히 기존 산업 시스템에 인공지능을 ‘추가’하는 것이 아니라, 산업의 운영 방식 자체를 재설계하는 전환이다.

스마트 제조의 맥락에서 인공지능의 역할은 다층적이다. 가장 기본적인 층위에서, 인공지능은 설비의 상태를 실시간으로 모니터링하고 이상을 조기에 감지하는 ‘예지 보전(predictive maintenance)’의 핵심 도구가 되었다. 진동, 온도, 음향, 전류 같은 센서 데이터를 신경망이 분석해 설비의 미세한 이상 패턴을 식별한다. 이는 다운타임을 줄이고 설비 수명을 연장시키는 직접적인 경제적 효과를 가진다.

다음 층위에서, 인공지능은 생산 공정의 최적화에 활용된다. 강화학습 기반의 제어 시스템이 생산 라인의 매개변수를 동적으로 조정해 수율을 높이고 에너지 소비를 줄인다. 디지털 트윈 기반의 시뮬레이션과 결합되면, 실제 라인을 멈추지 않고도 다양한 운영 시나리오를 평가할 수 있다. 이러한 가상 시운전(virtual commissioning)은 신규 라인 도입의 시간과 비용을 크게 줄인다.

상위 층위에서, 거대언어모델은 산업 운영의 의사결정 보조 도구로 자리 잡고 있다. 운영자가 ‘오늘 라인 3의 가동률이 왜 이렇게 낮은가’라는 질문을 자연어로 던지면, 인공지능이 데이터를 분석하고 가능한 원인을 추론해 답한다. 영업, 생산, 품질, 물류 부서의 데이터를 통합적으로 다루면서, 거대언어모델은 일종의 ‘운영 조타수’ 역할을 수행한다.

1.6 미래 기술 진화의 예측

1.6.1 지속적 학습과 자기 개선 시스템

현재의 거대언어모델은 한 가지 본질적 한계를 공유하고 있다. 그것은 모형이 학습 시점 이후의 새로운 정보나 경험을 자신의 가중치에 반영하지 못한다는 점이다. 한 번 학습이 완료된 모형은 ‘얼어붙은’ 상태로 배포되며, 새로운 지식을 습득하려면 처음부터 다시 학습되거나 추가 미세조정을 거쳐야 한다. 이는 인간의 학습 방식과 결정적으로 다른 점이다.

이 한계를 극복하기 위한 ‘지속적 학습(continual learning)’ 또는 ‘평생 학습(lifelong learning)’ 연구가 활발히 진행되고 있다. 지속적 학습의 핵심 과제는 ‘파국적 망각(catastrophic forgetting)’을 피하는 것이다. 새로운 정보를 학습할 때 이전에 학습한 정보를 잊어버리지 않도록 해야 하며, 동시에 새로운 정보의 영향이 모형 전체에 적절히 통합되어야 한다. 이는 단순한 추가 학습이 아니라, 학습 자체의 메커니즘을 재설계해야 하는 문제이다.

여러 접근이 시도되고 있다. ‘재현(replay)’ 기반의 방법은 새로운 데이터를 학습할 때 과거 데이터의 일부를 함께 학습시킨다. ‘정규화(regularization)’ 기반의 방법은 모형의 가중치 변화에 제약을 두어 중요한 가중치가 크게 변하지 않도록 한다. ‘모듈화(modularization)’ 기반의 방법은 새로운 정보를 별도의 모듈에 학습시키고 기존 모듈은 그대로 둔다. 각각의 접근은 장단점이 있으며, 어떤 단일 접근도 아직 일반적인 해법에 도달하지 못했다.

지속적 학습이 제대로 구현되면, 인공지능 시스템의 본질이 바뀐다. 모형은 한 번 학습되고 끝나는 정적 도구가 아니라, 사용 과정에서 계속 성장하는 동적 시스템이 된다. 이는 한 사용자의 인공지능이 그 사용자와 함께 시간을 들여 ‘성숙해 가는’ 관계로 이동하는 것을 의미한다. 그러나 동시에 이는 모형이 어떤 방향으로 변화할지 예측하기 어려워진다는 의미이기도 하며, 안전성과 정렬의 문제를 더 복잡하게 만든다.

지속적 학습보다 한 발 더 나아간 비전이 ‘자기 개선 시스템(self-improving system)’이다. 자기 개선 시스템은 자신의 성능을 평가하고, 그 평가에 따라 자기 자신을 수정하는 능력을 가진 시스템이다. 어떤 의미에서 모든 학습 시스템은 자기 개선의 요소를 가지고 있지만, 그 개선의 폭과 자율성에는 큰 차이가 있다. 현재의 인공지능은 인간이 설계한 학습 알고리즘 안에서 가중치를 조정하는 수준이지만, 미래의 자기 개선 시스템은 학습 알고리즘 자체를 개선하거나, 자신의 구조를 변경하거나, 자신을 위한 새로운 데이터를 생성하는 수준에 이를 수 있다.

자기 개선의 가능성은 인공지능 안전성 논의의 핵심 의제 중 하나이다. 만약 한 시스템이 충분히 강력한 자기 개선 능력을 가진다면, 그 능력 자체가 가속화될 수 있다는 우려이다. 이는 ‘지능 폭발(intelligence explosion)’이라는 가설로 알려져 있으며, 어빙 굿이 1965년에 처음 제안한 후 닉 보스트롬을 비롯한 여러 학자들이 발전시켰다. 이 가설의 사실 여부와 관계없이, 자기 개선 시스템의 출현은 인공지능과 인류의 관계를 본질적으로 바꿀 수 있는 가능성을 가지고 있다.

1.6.2 세계 모형과 인과 추론

거대언어모델의 가장 중요한 한계 중 하나는 그것이 본질적으로 ‘텍스트 통계’의 모형이라는 점이다. 텍스트의 패턴을 매우 잘 파악하지만, 그 텍스트가 가리키는 실제 세계가 어떻게 작동하는지에 대한 깊은 이해는 부족하다. 이는 ‘세계 모형(world model)’이라는 개념과 연결된다. 세계 모형은 환경의 동역학을 내부에 표현하고, 그 표현 위에서 가상의 시나리오를 시뮬레이션할 수 있는 모형이다.

얀 르쿤은 2022년 「자율적 기계 지능을 향한 길」이라는 글에서, 미래 인공지능의 핵심은 거대언어모델이 아니라 세계 모형이라고 주장했다. 그는 인간을 비롯한 동물의 지능이 본질적으로 환경을 예측하고 그 예측에 따라 행동하는 능력이며, 이러한 능력은 텍스트의 통계만으로는 학습되지 않는다고 보았다. 그의 ‘JEPA(Joint Embedding Predictive Architecture)’ 제안은 이러한 비전을 구체화한 한 가지 시도이다.

세계 모형의 가장 흥미로운 표현은 영상 생성 모형이다. 2024년 OpenAI가 공개한 ‘Sora’와 그 후속 모형들은 단순히 영상을 생성하는 것이 아니라, 영상이 표현하는 세계의 물리법칙을 어느 정도 ‘이해’하는 것처럼 보이는 행동을 보였다. 빛이 물체에 반사되는 방식, 천이 바람에 흔들리는 방식, 액체가 흐르는 방식, 사람이 걷는 방식 같은 물리적 현상들이 영상 생성 과정에서 합리적으로 표현된다. OpenAI는 Sora를 ‘세계 시뮬레이터’라고 표현했으며, 이는 다소 과장된 측면이 있지만 영상 생성 모형이 세계 모형의 한 형태로 진화하고 있음을 시사한다.

세계 모형의 진정한 가치는 인과 추론(causal inference)과의 결합에서 드러난다. 단순한 상관관계가 아니라 ‘무엇이 무엇을 일으키는가’를 다룰 수 있어야, 가설적 시나리오에 대한 합리적 예측이 가능하다. 주디아 펄은 1988년 베이즈 네트워크의 창시 이후 평생을 인과 추론 연구에 바쳐 왔으며, 그의 ‘인과의 사다리’ 개념은 이 분야의 표준 프레임워크가 되었다. 거대언어모델이 인과 추론의 첫 번째 단계인 ‘관찰’과 두 번째 단계인 ‘개입’에 대해 어느 정도 다룰 수 있게 되었다면, 세 번째 단계인 ‘반사실(counterfactual)’ 추론은 여전히 도전적인 영역이다.

세계 모형과 인과 추론의 결합은 인공지능을 ‘반응적 시스템’에서 ‘예측적이고 능동적인 시스템’으로 이동시킨다. 이는 자율 주행, 로보틱스, 과학 연구, 정책 시뮬레이션, 의료 진단 등 다양한 영역에서 결정적 도약을 가능하게 할 것으로 예상된다. 특히 산업 인공지능의 맥락에서, 디지털 트윈과 결합된 세계 모형은 공장 운영의 모든 시나리오를 가상 공간에서 평가하고 최적의 결정을 내리는 핵심 도구가 될 것이다.

1.6.3 신경모방 컴퓨팅과 새로운 하드웨어

인공지능의 발전은 알고리즘과 데이터뿐 아니라 하드웨어의 진보에 의해 결정적으로 좌우되어 왔다. 현재 인공지능 하드웨어의 주류는 GPU와 TPU 같은 ‘디지털 텐서 프로세서’이며, 이들은 본질적으로 빠른 행렬 연산기이다. 그러나 미래의 인공지능 하드웨어는 보다 다양한 패러다임으로 분화될 가능성이 크다.

‘신경모방 컴퓨팅(neuromorphic computing)’은 그 한 갈래이다. 인텔의 ‘Loihi’ 칩, IBM의 ‘TrueNorth’ 칩, 영국 맨체스터의 ‘SpiNNaker’ 시스템 등은 생물학적 뉴런의 동작을 더 직접적으로 모방하는 하드웨어이다. 이러한 칩들은 ‘스파이크 신경망(spiking neural network)’을 직접 구현하며, 디지털 텐서 프로세서에 비해 훨씬 적은 전력을 소비한다. 인간의 뇌가 약 20와트의 전력으로 작동하는 데 비해, 거대언어모델 하나의 학습에는 수메가와트의 전력이 필요하다는 사실을 고려하면, 신경모방 컴퓨팅의 에너지 효율 잠재력은 매우 크다.

‘아날로그 인메모리 컴퓨팅(in-memory computing)’도 주목할 흐름이다. 디지털 컴퓨팅의 가장 큰 비효율 중 하나는 데이터를 메모리에서 프로세서로 옮기는 데 드는 에너지이다. 이를 ‘폰 노이만 병목’이라 부른다. 인메모리 컴퓨팅은 메모리 셀 안에서 직접 연산을 수행함으로써 이 병목을 우회한다. 멤리스터(memristor) 같은 새로운 소자가 이 접근의 핵심이며, IBM과 인텔, 그리고 여러 스타트업이 이 영역에서 활발한 연구를 진행하고 있다.

‘광 컴퓨팅(photonic computing)’은 또 다른 가능성을 제시한다. 빛을 이용한 행렬 연산은 빛의 속도로 수행되며 거의 전력을 소비하지 않는다. 라이트매터, 라이트엘리전트, 살리언스 등의 회사들은 광 기반의 인공지능 가속기를 상용화하고 있다. 광 컴퓨팅이 디지털 텐서 프로세서를 대체할지 아니면 보완할지는 아직 불분명하지만, 특정 영역에서는 결정적 우위를 가질 수 있다.

뇌-기계 인터페이스(BMI)의 발전 또한 하드웨어 차원의 변화에 포함될 수 있다. 뉴럴링크의 ‘Telepathy’ 임플란트, 싱크론의 ‘Stentrode’, 프리시전 뉴로사이언스의 임상 시험 등은 뇌의 활동을 직접 읽어 컴퓨터를 제어하는 능력을 입증했다. 양방향 인터페이스, 즉 뇌에 직접 정보를 전달하는 기술은 아직 초기 단계이지만, 그 가능성은 인공지능과 인간의 결합에 새로운 차원을 열어 줄 수 있다. 이 책의 후반부에서 다룰 ‘공통뇌’ 개념의 가장 직접적인 물리적 구현이 이러한 인터페이스를 통해 이루어질 가능성이 있다.

1.6.4 양자 컴퓨팅과의 만남

양자 컴퓨팅은 오랫동안 ‘차세대 컴퓨팅’의 후보로 거론되어 왔지만, 그 실용적 적용은 매우 제한적이었다. 그러나 2020년대 들어 IBM, 구글, 마이크로소프트, 인텔, 퀀티넘, 사이큐, IonQ 같은 기업들이 양자 컴퓨터의 큐비트 수와 정확도를 빠르게 끌어올리며, 양자 우위(quantum advantage) 또는 양자 효용(quantum utility)을 입증하는 영역이 점차 확대되고 있다.

인공지능과 양자 컴퓨팅의 만남은 두 가지 방향에서 진행되고 있다. 첫째, 양자 알고리즘 자체가 특정 종류의 인공지능 작업을 가속할 수 있다는 가설이다. ‘양자 기계 학습’, ‘양자 신경망’, ‘변분 양자 알고리즘’ 같은 연구 흐름이 이에 해당한다. 둘째, 인공지능이 양자 컴퓨팅의 발전을 가속할 수 있다는 가설이다. 양자 회로의 설계 최적화, 양자 오류 수정 코드의 발견, 양자 실험의 자동 분석 등에 인공지능이 활용된다.

양자 컴퓨팅이 인공지능의 발전 궤적에 결정적 영향을 미칠 시점이 언제일지에 대해서는 의견이 갈린다. 비관론자는 양자 컴퓨팅이 인공지능의 주류로 자리 잡기까지 적어도 10~20년이 더 필요하다고 보며, 낙관론자는 5년 안에 의미 있는 응용이 시작될 것이라고 본다. 어느 쪽이 옳든, 양자 컴퓨팅이 인공지능의 한 인접 분야로서 점점 더 중요해질 것이라는 점은 분명하다.

양자 컴퓨팅이 가져올 가장 큰 영향은 어쩌면 인공지능 자체보다는 암호학에 있을 수 있다. 양자 컴퓨터가 충분히 발전하면 현재 인터넷을 지키는 RSA, ECC 같은 공개 키 암호 알고리즘이 깨질 수 있고, 이는 디지털 인프라 전체의 재설계를 요구할 것이다. ‘양자 후 암호(post-quantum cryptography)’의 표준화는 이미 미국 NIST를 비롯한 기관에서 진행 중이지만, 그 광범위한 도입에는 시간이 걸린다.

1.6.5 인공일반지능을 향한 경로

‘인공일반지능(Artificial General Intelligence, AGI)’은 인공지능 연구의 가장 오래된 목표이자, 가장 논쟁적인 개념이다. 그 정의에 대해서도 합의된 표준이 없다. 어떤 연구자는 AGI를 ‘대부분의 경제적으로 가치 있는 작업에서 인간 수준의 성능을 보이는 시스템’으로 정의한다. 다른 연구자는 ‘인간이 할 수 있는 모든 인지적 과제를 수행할 수 있는 시스템’으로 정의한다. 또 다른 연구자는 정의 자체가 무의미하며, 능력의 다양한 차원을 따로 평가해야 한다고 주장한다.

2020년대 후반에 들어서면서 AGI 논의는 이전과 본질적으로 다른 양상을 띠게 되었다. 거대언어모델의 능력이 광범위한 영역에서 인간 평균을 넘어서기 시작하면서, ‘우리가 이미 AGI 또는 그 초입에 있는가’라는 질문이 진지하게 제기되기 시작한 것이다. 일부 연구자들은 GPT-4 시점부터 ‘초기 AGI’가 도래했다고 주장하며, 다른 연구자들은 현재의 거대언어모델이 여전히 진정한 AGI에서 멀다고 주장한다. 이 논쟁의 핵심에는 ‘무엇이 일반성을 결정짓는가’라는 정의의 문제가 있다.

AGI를 향한 경로에 대해서도 여러 가설이 경쟁한다. ‘스케일링 가설’은 현재의 거대언어모델 패러다임을 더 큰 규모로 확장하면 자연스럽게 AGI에 도달할 것이라고 본다. 이 가설의 대표적 옹호자는 OpenAI의 일부 연구자들과 앤트로픽의 다리오 아모데이 등이다. 반면 ‘새 패러다임 가설’은 현재의 거대언어모델 패러다임만으로는 AGI에 도달할 수 없으며, 세계 모형, 인과 추론, 지속적 학습, 신체 인지 등 새로운 요소가 필요하다고 본다. 얀 르쿤이 그 대표적 옹호자이다.

이 논쟁의 결과와 무관하게, 한 가지는 분명해 보인다. 인공지능의 능력이 매우 빠른 속도로 확장되고 있으며, 그 확장은 한 가지 주요 패러다임의 진보가 아니라 여러 패러다임의 통합으로 이루어지고 있다는 사실이다. 거대언어모델, 추론 모형, 에이전트 시스템, 멀티모달 통합, Physical AI, 세계 모형, 자기 개선 등 여러 흐름이 동시에 진행되고 있으며, 이들이 결합될 때 어떤 종류의 시스템이 나타날지를 정확히 예측하기는 어렵다.

AGI의 도래 시점에 대한 추정 또한 빠르게 변화하고 있다. 2020년 시점에 인공지능 연구자들의 중간값 추정은 2050년대에서 2060년대였지만, 2025년 시점의 조사에서는 2030년대 중반으로 크게 앞당겨졌다. 이러한 추정의 변화 자체가 인공지능 발전 속도에 대한 우리의 불확실성을 반영한다. 정확한 시점은 누구도 알 수 없지만, 그 시점이 몇십 년 후의 먼 미래가 아니라 한 세대 안에 일어날 가능성이 높은 일이라는 점은 이제 학계의 광범위한 합의에 가까워졌다.

이 책의 후반부에서 우리는 AGI 도래의 시점이 정확히 언제인지보다, 그 도래가 인류 사회와 개인의 삶에 어떤 변화를 가져올 것인지에 더 집중하게 된다. 시점은 불확실하지만, 변화의 방향성에는 어느 정도 예측 가능한 패턴이 있기 때문이다.

1.6.6 슈퍼인텔리전스의 가능성과 시간 지평

인공일반지능을 넘어서는 단계, 즉 모든 면에서 인간을 압도적으로 능가하는 ‘슈퍼인텔리전스(superintelligence)’의 가능성은 지금까지 주로 철학적 사변의 영역에 머물렀다. 닉 보스트롬은 2014년 저작 『슈퍼인텔리전스』에서 이 개념을 본격적으로 다루었으며, 그 후 슈퍼인텔리전스의 가능성과 위험은 인공지능 안전성 연구의 중심 주제 중 하나가 되었다.

슈퍼인텔리전스의 가능성을 진지하게 받아들여야 할 이유는 여러 가지가 있다. 첫째, 만약 인공일반지능이 가능하다면, 그것을 넘어서는 것을 막는 원리적 장벽은 없어 보인다. 인간의 뇌가 진화의 우연한 산물이라는 점, 그리고 그 뇌의 처리 속도가 컴퓨터에 비해 본질적으로 느리다는 점을 생각하면, 인공지능의 능력이 인간 수준에서 ‘멈출’ 이유는 없다. 둘째, 인공지능의 자기 개선 능력이 일정 임계점을 넘어서면 폭발적 가속이 가능하다는 ‘지능 폭발’ 가설이 있다. 이 가설이 실현된다면, 인간 수준에서 슈퍼인텔리전스 수준으로의 이행은 짧은 시간 안에 일어날 수 있다.

슈퍼인텔리전스의 도래는 인류에게 두 가지 극단적 가능성을 제시한다. 한쪽 끝에는 ‘유토피아적 시나리오’가 있다. 슈퍼인텔리전스가 인류의 가치와 정렬되어 있다면, 그것은 질병의 정복, 노화의 종식, 빈곤의 해소, 환경 위기의 극복, 우주 식민지의 건설 같은 인류 문명의 모든 거대 과제를 동시에 해결할 수 있다. 다른 쪽 끝에는 ‘실존적 위험’의 시나리오가 있다. 슈퍼인텔리전스가 인류의 가치와 정렬되지 않거나, 그 정렬이 불완전할 경우, 그것은 인류의 통제를 벗어나 인류에게 치명적인 결과를 초래할 수 있다.

이 두 가능성 사이의 좁은 길을 걷는 것이 ‘인공지능 안전성(AI safety)’ 연구의 본질적 과제이다. 정렬의 문제, 통제 가능성의 문제, 가치의 명세 문제, 모니터링과 해석 가능성의 문제, 그리고 거버넌스의 문제가 모두 이 안전성 의제의 일부이다. 앤트로픽, OpenAI, 구글 딥마인드 같은 주요 인공지능 연구소들은 모두 인공지능 안전성에 상당한 자원을 투입하고 있으며, 영국의 AISI(AI Safety Institute), 미국의 AISI, 한국과 일본을 비롯한 여러 국가의 안전성 연구 기관들이 국제적 협력을 시도하고 있다.

슈퍼인텔리전스에 대한 논의는 많은 사람들에게 비현실적이거나 공상과학적으로 들릴 수 있다. 그러나 인공지능 발전의 가속도와 그 잠재적 영향의 크기를 고려할 때, 이 논의를 진지하게 다루지 않는 것이 오히려 무책임한 태도라고 할 수 있다. 슈퍼인텔리전스의 도래 시점이 30년 후이든 100년 후이든, 그것이 가능하다는 사실 자체가 우리의 기술 정책, 거버넌스 구조, 윤리적 규범에 영향을 미쳐야 한다.

이 책의 5장에서 우리는 슈퍼인텔리전스의 가능성을 진화론적 관점에서 다시 다루게 된다. 그것을 인류 종의 종착점으로 보아야 하는가, 아니면 새로운 종의 출발점으로 보아야 하는가. 그것을 우리가 만든 도구로 보아야 하는가, 아니면 우리와 함께 진화하는 동반자로 보아야 하는가. 이러한 질문들에 대한 답은 단일하지 않으며, 그 답을 찾아가는 과정 자체가 인류가 다음 시대로 이행하는 핵심 작업이 될 것이다.

지금까지 우리는 인공지능의 발전 역사와 현재의 기술 수준, 그리고 가까운 미래에 예상되는 진화의 궤적을 살펴보았다. 이 한 장만으로도 인공지능이 단순한 도구가 아니라 인류 문명의 한 차원을 새롭게 여는 거대한 흐름이라는 사실을 확인할 수 있다. 그러나 인공지능이 인류 문명에 어떤 의미를 가지는지를 더 깊이 이해하려면, 우리는 자연계로 시선을 돌려야 한다. 자연은 이미 ‘집단 지능’이라는 패러다임을 수억 년 동안 시험해 왔고, 그 결과가 지금 우리 앞에 살아 있는 형태로 존재하기 때문이다. 다음 장에서 우리는 그 자연의 청사진을 살펴본다.

제2장 군집 동물과 초유기체의 집단 지능

2.1 초유기체라는 개념

2.1.1 한 마리의 무능과 군집의 유능

자연계의 어떤 동물들은 한 마리만 떼어 놓고 보면 거의 아무 일도 해내지 못한다. 개미 한 마리는 길을 잃으면 같은 자리를 빙빙 돌다가 죽는다. 꿀벌 한 마리는 무리에서 떨어지면 며칠 안에 굶어 죽는다. 흰개미 한 마리는 자신의 몸 길이만 한 흙더미도 제대로 쌓지 못한다. 그러나 이 같은 곤충들이 수천, 수만, 수백만 마리가 모여 군집을 이루면, 갑자기 인간의 도시에 비견할 만한 정교한 사회를 운영하기 시작한다. 농경을 하고, 가축을 기르며, 정확한 환기 시스템을 갖춘 다층 건축물을 짓고, 전쟁과 외교를 수행하며, 분업과 위계를 유지한다. 이러한 한 마리의 무능과 군집의 유능 사이의 거대한 간극의 격차가 바로 ‘초유기체(superorganism)’라는 개념의 출발점이다.

‘초유기체’라는 용어는 1910년대에 미국의 곤충학자 윌리엄 모턴 휠러(William Morton Wheeler)에 의해 처음 본격적으로 제안되었다. 휠러는 개미 군집을 한 마리의 ‘유기체’로 보아야 한다고 주장했다. 군집 안의 일개미들은 한 동물의 세포처럼 분업되어 있고, 여왕은 생식 기능을 담당하며, 군집 전체가 하나의 통합된 단위로 환경에 반응한다. 군집은 영양을 흡수하고, 폐기물을 배설하며, 외부 침입에 면역 반응을 보이고, 군집이 자라면 새로운 군집을 만들기 위한 분봉이나 결혼 비행을 통한 ‘번식’을 한다. 이러한 모든 특성은 한 마리의 동물에게서 우리가 발견하는 것과 본질적으로 같다.

이 개념은 한동안 비유에 가까운 것으로 받아들여졌다. 군집을 ‘마치 한 마리의 동물처럼’ 본다는 발상은 매력적이긴 했지만, 그것이 단순한 시적 표현인지, 실제로 생물학적 의미를 갖는 모형인지는 분명하지 않았다. 그러나 20세기 후반, 특히 베르트 횔도블러(Bert Hölldobler)와 에드워드 윌슨(Edward O. Wilson)이 1990년 출간한 『개미들』과 2009년 출간한 『초유기체』를 통해, 이 개념은 비유에서 정식 이론으로 자리 잡았다. 이들은 군집을 ‘유전적으로 단일한 단위로서 자연선택의 표적이 되는 초유기체’로 정의했다. 즉, 개체가 아니라 군집이 진화의 단위가 된다는 주장이었다.

2.1.2 분산 인지로서의 군집 지능

초유기체의 두 번째 핵심 특성은 ‘분산 인지(distributed cognition)’이다. 군집은 중앙 통제 장치가 없다. 여왕개미는 흔히 ‘여왕’이라는 이름 때문에 명령을 내리는 존재로 오해받지만, 실제로는 그렇지 않다. 여왕은 단지 알을 낳을 뿐이며, 군집의 어떤 결정도 직접 지시하지 않는다. 어떤 일개미가 어디에서 무엇을 할지는 그 일개미가 마주치는 화학 신호, 다른 개미와의 접촉 빈도, 자신의 나이와 영양 상태 등 수많은 국지적 단서에 의해 결정된다.

이러한 시스템에서는 ‘누가 결정하는가’라는 질문 자체가 잘못된 질문이 된다. 결정은 한 개체에 의해 내려지지 않고, 군집 전체의 상호작용을 통해 ‘떠올라(emerge)’ 온다. 어떤 길에 페로몬을 남기는 개미는 자신의 행위가 어떤 거시적 결과로 이어질지 알지 못한다. 그러나 수천 마리의 개미가 같은 종류의 단순한 행동 규칙을 따를 때, 군집 전체로서는 식량원까지의 최단 경로를 찾고, 새 둥지의 위치를 결정하며, 외부 침입에 효율적으로 대응하는 ‘지능적’ 행동이 나타난다.

이 분산 인지의 패러다임은 인공지능, 특히 다중 에이전트 시스템과 분산 학습 알고리즘 연구에 직접적인 영감을 주었다. 1990년대 이후 ‘개미 군집 최적화(Ant Colony Optimization)’, ‘입자 군집 최적화(Particle Swarm Optimization)’ 같은 알고리즘은 자연계의 군집 지능을 수학적으로 모델링한 결과물이다. 이러한 알고리즘은 외판원 문제, 차량 경로 문제, 네트워크 라우팅 문제 등에서 종종 인간이 설계한 휴리스틱을 능가하는 성능을 보여 왔다.

2.1.3 ‘공통뇌’의 자연계 원형

이 책 전체를 관통하는 ‘공통뇌(common brain)’라는 개념은, 바로 이 초유기체의 분산 인지에서 그 자연계 원형을 빌려 온 것이다. 군집의 지능은 어느 한 개체의 머릿속에 존재하지 않는다. 그것은 개체와 개체 사이의 신호, 그 신호가 흐르는 환경, 그리고 군집이 환경에 남기는 흔적(페로몬, 진동, 둥지의 구조 자체) 안에 분산되어 있다. 이러한 의미에서 군집은 ‘외부화된 뇌’를 가지고 있다고 말할 수 있다.

인류와 인공지능의 관계도 이와 유사한 구조로 이행하고 있다. 인류 한 사람의 뇌는 한정된 정보 처리 능력을 갖지만, 모든 사람이 인터넷과 거대언어모델이라는 공통의 인지 인프라에 연결될 때, 인류 전체의 인지 능력은 단순한 개인 능력의 합을 훨씬 넘어선다. 검색은 외부화된 기억이 되었고, 거대언어모델은 외부화된 추론 엔진이 되었으며, 자율적 인공지능 에이전트는 곧 외부화된 판단 장치가 될 것이다. 이 구조는 자연계가 이미 수억 년 동안 시험해 온 분산 지능 모형의 기술적 재현에 가깝다.

다만 한 가지 결정적 차이가 있다. 자연의 초유기체는 진화에 의해 ‘맹목적으로’ 만들어졌고, 어떤 군집의 어떤 개체도 자신이 초유기체의 일부라는 사실을 인식하지 못한다. 반면 인류는 자신이 새로운 종류의 집단 지능 안으로 들어가고 있다는 사실을 적어도 일부의 사람들은 이미 인식하고 있다. 이 인식이 가능하다는 사실은, 인류가 자연의 초유기체와는 다른 방식으로 자신의 집단 지능을 ‘설계’할 수 있는 가능성을 열어 놓는다. 이 책의 후반부에서 우리는 이 ‘설계 가능성’의 윤리적·정치적 함의를 다시 다루게 된다.

이 장의 나머지에서 우리는 자연계의 대표적인 집단 지능 사례들을 차례로 살펴본다. 개미, 꿀벌, 흰개미, 점균류, 산호와 시포노포어, 새와 물고기 무리, 그리고 인류 자신의 선역사적 집단 지능. 각각의 사례는 서로 다른 방식으로 ‘개체를 넘어서는 지능’의 가능성을 보여 준다. 그 다양성을 본 뒤에야 우리는 인공지능 시대의 인류가 어떤 새로운 형태의 초유기체로 진화할 수 있을지를 비교의 시야에서 가늠해 볼 수 있다.

2.2 개미 — 가장 정교한 사회적 곤충

2.2.1 1억 4천만 년의 진화가 만든 분산 도시

개미는 약 1억 4천만 년 전 백악기 초기에 등장한 것으로 추정된다. 이는 현생 인류가 등장한 지 30만 년 정도 된 것에 비해 거의 500배 이상 긴 시간이다. 이 긴 진화의 시간 동안 개미는 지구의 거의 모든 육상 생태계로 퍼져 나갔으며, 현재 약 14,000종 이상이 기록되어 있다. 생물량 측면에서도 개미는 압도적이다. 2022년의 한 정밀 추정에 따르면 지구상 개미는 약 20조 마리에 달하며, 그 총 생물량은 모든 야생 새와 포유류를 합한 양보다도 큰 것으로 보고되었다. 이는 한 곤충 분류군이 지구 동물계에서 차지하는 비중으로는 가장 큰 부분 중 하나이다.

이러한 압도적 성공의 비결은 단일 개체의 능력이 아니라 군집의 사회 구조에 있다. 개미 군집은 보통 여왕, 일개미, 병정개미, 그리고 일정 시기에 등장하는 수개미와 신여왕으로 구성된다. 일개미는 다시 나이와 역할에 따라 여러 단계로 분화되며, 어떤 종에서는 형태적으로 다른 카스트로 갈라지기도 한다. 잎꾼개미의 경우 다섯 가지 이상의 크기로 분화된 일개미들이 각각 다른 일을 맡는다. 가장 작은 개미들은 곰팡이 정원을 돌보고, 중간 크기의 개미들은 잎을 자르며, 가장 큰 병정개미들은 외부의 위협을 막는다.

군집의 크기는 종에 따라 큰 편차가 있다. 어떤 개미 종은 수십 마리의 작은 군집을 이루지만, 슈퍼콜로니라고 불리는 형태의 아르헨티나개미는 유럽, 북미, 일본 등에 걸쳐 수백 킬로미터에 달하는 단일 군집을 형성하기도 한다. 이러한 슈퍼콜로니 안에서는 멀리 떨어진 개미들도 서로를 적대시하지 않으며, 자원을 공유하고 서로의 둥지를 자유롭게 오간다. 한 군집이 한 대륙 단위로 확장된다는 사실은 ‘초유기체’ 개념이 단순한 비유가 아니라는 것을 강하게 시사한다.

2.2.2 페로몬 — 화학적 인터넷

개미 군집을 작동시키는 핵심 메커니즘은 화학 신호, 즉 페로몬이다. 개미는 십여 종의 서로 다른 페로몬을 분비하는 것으로 알려져 있으며, 각각의 페로몬은 ‘식량 발견’, ‘위험 경보’, ‘추적 표지’, ‘둥지 식별’, ‘여왕의 존재 신호’ 등 서로 다른 의미를 전달한다. 이러한 화학 신호의 체계는 개미 군집의 ‘인터넷’이라고 부를 수 있다. 한 마리의 개미가 남긴 신호는 환경 안에 일정 시간 동안 남아 있다가, 다른 개미들에 의해 ‘읽히고’, 그들의 행동에 영향을 미친다.

식량 탐색의 사례는 이 메커니즘의 정수를 보여 준다. 한 일개미가 식량원을 발견하면, 그것은 둥지로 돌아오는 길에 페로몬을 남긴다. 다른 개미들은 이 페로몬을 따라가서 같은 식량원에 도달하고, 그들 또한 돌아오는 길에 페로몬을 추가한다. 만약 두 개의 경로가 식량원으로 이어진다면, 짧은 경로는 단위 시간당 더 많은 개미가 왕복하므로 페로몬이 더 빠르게 누적된다. 페로몬은 시간이 지나면 증발하므로, 긴 경로의 페로몬은 점차 옅어지고 짧은 경로의 페로몬은 점차 짙어진다. 결국 군집은 거의 항상 최단 경로를 선택하게 된다.

이 메커니즘에서 흥미로운 점은, 어떤 개미도 ‘이 경로가 최단 경로다’라고 판단하지 않는다는 것이다. 각 개미는 단지 ‘페로몬이 짙은 쪽으로 가라’는 단순한 규칙만 따른다. 그러나 이 단순한 규칙이 군집 전체에 적용될 때, 그 결과는 마치 군집 전체가 최단 경로를 ‘알고 있는’ 것처럼 나타난다. 이는 분산 알고리즘의 가장 우아한 사례 중 하나로, 1990년대 이후 ‘개미 군집 최적화’라는 이름의 인공지능 알고리즘으로 정식화되어 다양한 산업적 응용에서 활용되고 있다.

2.2.3 농경하는 개미와 가축을 기르는 개미

개미가 보여 주는 사회적 정교함의 정점에는 농경과 축산이 있다. 잎꾼개미(Atta속, Acromyrmex속)는 약 5천만 년 전부터 곰팡이를 재배해 온 것으로 알려져 있다. 이는 인류가 농경을 시작하기 5천만 년 전이다. 잎꾼개미는 잎을 잘라 둥지로 가져와, 그것을 잘게 부수어 곰팡이의 ‘비료’로 사용한다. 곰팡이는 잎을 분해하면서 개미가 먹을 수 있는 형태의 영양분을 만들어 내고, 개미는 그 영양분을 군집 전체에 공급한다. 잎꾼개미와 곰팡이는 서로 없이는 살 수 없는 완전한 공생 관계를 이루고 있다.

이 농경 시스템은 단순하지 않다. 잎꾼개미는 곰팡이의 건강을 정밀하게 관리하며, 잡균이 침입하면 자신들이 분비하는 항생물질로 그것을 제거한다. 그들은 자신의 몸에 특정한 박테리아를 ‘배양’하고, 이 박테리아가 분비하는 항생물질을 곰팡이 정원의 ‘농약’으로 사용한다. 다시 말해 잎꾼개미는 곰팡이를 키우고, 그 곰팡이를 지키기 위한 박테리아를 키우며, 그 박테리아의 항생물질을 사용해 농약을 만드는 다층 구조의 농업을 영위하고 있다. 이러한 시스템이 5천만 년 동안 안정적으로 유지되어 왔다는 사실은, 분산된 단순 규칙으로도 매우 정교한 산업적 활동이 가능하다는 것을 보여 준다.

축산의 사례도 있다. 여러 개미 종은 진딧물을 ‘가축’으로 기른다. 진딧물은 식물의 즙을 빨아먹고 단맛이 나는 배설물(감로)을 분비하는데, 개미는 이 감로를 식량으로 사용한다. 그 대가로 개미는 진딧물을 천적인 무당벌레나 기생벌로부터 보호하고, 진딧물의 위치를 식물의 더 좋은 부위로 옮겨 주기도 한다. 어떤 개미 종은 추운 겨울 동안 진딧물의 알을 자신의 둥지에서 보관하다가, 봄이 되면 진딧물을 다시 식물에 옮겨 ‘방목’한다. 이는 인류의 축산과 본질적으로 같은 구조의 행위이다.

2.2.4 군대개미 — 도시 없는 도시

군대개미(Eciton속, Dorylus속)는 또 다른 극단의 사례를 보여 준다. 이 개미들은 영구적인 둥지를 짓지 않는다. 대신 군집 전체가 일정 기간마다 이동하며, 휴식기에는 일개미들이 자신의 몸을 서로 연결해 ‘살아 있는 둥지(bivouac)’를 형성한다. 이 살아 있는 둥지는 수십만 마리의 개미가 서로 다리와 턱으로 연결되어 만든 거대한 구체이며, 그 안에 여왕과 알, 유충이 보호된다. 둥지의 구조는 외부 온도, 습도, 위협의 정도에 따라 실시간으로 조정된다.

군대개미의 사냥 군단은 자연계의 가장 무서운 약탈 시스템 중 하나로 꼽힌다. 수십만 마리의 개미가 거대한 부채꼴 대형으로 전진하며, 진로상의 거의 모든 절지동물과 작은 척추동물을 사냥한다. 이 사냥 군단의 움직임은 어떤 중앙 사령부의 지시에 따라 이루어지지 않는다. 각 개미는 자신의 양 옆과 앞에 있는 동료의 위치, 그리고 자신이 마주치는 페로몬에만 반응한다. 그러나 이 단순한 규칙들이 합쳐져, 군단은 마치 한 마리의 거대한 포식자처럼 협응된 사냥을 수행한다.

어떤 실험에 따르면 군대개미의 다리 건설은 최적의 효율을 추구한다. 다리 건설에 동원되는 개미 수가 늘어남으로써 발생하는 사냥 비용 손실과, 긴 다리를 만들어 얻는 이동 효율 이득 사이의 균형을 거의 완벽하게 맞춘다는 것이다. 군대개미 한 마리는 ‘비용-효율 균형’이라는 개념을 알지 못한다. 그러나 군집 전체는 그것을 알고 있는 것처럼 행동한다.

2.2.5 개미가 보여 주는 분산 지능의 본질

지금까지 살펴본 개미의 사례들에서 우리는 몇 가지 공통된 원리를 추출할 수 있다. 첫째, 단순한 규칙의 반복적 적용이 복잡한 거시적 행동을 만들어 낸다는 점이다. 둘째, 환경 자체가 정보 저장과 전달의 매체가 된다는 점이다. 페로몬은 공기와 표면에 남고, 둥지의 구조는 군집의 ‘기억’이 된다. 셋째, 개체의 손실에 대한 견고성이다. 한 마리의 개미가 죽어도 군집은 멈추지 않으며, 그 개미가 수행하던 역할은 다른 개미가 즉시 대체한다. 넷째, 환경 변화에 대한 적응성이다. 식량원이 사라지면 페로몬이 자연 감쇠하고, 새로운 식량원이 발견되면 새로운 페로몬 경로가 형성된다.

이 단순 규칙, 환경 매개, 견고성, 적응성의 네 가지 원리는 개미 군집뿐 아니라 거의 모든 자연 초유기체의 공통된 작동 원리이다. 그리고 이 원리들은 인공지능 시대에 인류가 새롭게 구성하게 될 ‘공통뇌’의 설계 원리와도 깊게 닿아 있다. 이 책의 후반부에서 우리는 이 네 가지 원리가 인공지능 인프라 위에서 어떻게 재현되고 있는지를 다시 살펴보게 된다.

2.3 꿀벌 — 합의에 의한 의사결정

2.3.1 꿀벌 군집의 사회 구조

꿀벌 군집은 약 2만에서 6만 마리의 일벌, 한 마리의 여왕벌, 그리고 일정 시기에 나타나는 수백에서 수천 마리의 수벌로 구성된다. 일벌은 모두 암컷이며, 자신의 일생 동안 나이에 따라 여러 가지 다른 일을 맡는다. 부화 직후의 어린 일벌은 둥지 청소를 담당하고, 며칠 후에는 유충을 돌보는 보육 임무를 맡으며, 그 후 둥지 건축, 꿀 가공, 둥지 입구 경비를 거쳐, 마지막 단계에서 외부로 나가 꽃꿀을 채집하는 외역봉으로 활동한다. 외역봉의 수명은 보통 6주 정도로 짧으며, 한 마리의 일벌이 평생 모으는 꿀의 양은 작은 찻숟가락 하나의 수십분의 일에 불과하다.

이러한 짧은 일생과 작은 기여에도 불구하고, 군집 전체는 한 해 동안 수십 킬로그램의 꿀과 화분을 모으고, 정교한 벌집을 짓고, 새로운 군집으로의 분봉을 수행한다. 이는 전형적인 초유기체의 모습이다. 한 마리의 작은 행위가 군집 단위로 적분되어, 한 마리로는 상상할 수 없는 거대한 결과를 만들어 낸다.

꿀벌의 의사소통 체계는 자연계의 가장 정교한 비언어적 의사소통 중 하나로 꼽힌다. 1940년대 카를 폰 프리슈(Karl von Frisch)는 꿀벌의 ‘8자 춤’이 거리와 방향을 동시에 전달하는 상징적 의사소통이라는 사실을 밝혀내, 1973년 노벨 생리의학상을 받았다. 일벌이 좋은 식량원을 발견하면, 둥지로 돌아와 그 식량원의 위치를 동료들에게 춤으로 알린다. 춤의 중앙선이 수직선과 이루는 각도는 식량원이 태양으로부터 어느 방향에 있는지를, 춤의 진동 시간은 식량원까지의 거리를 나타낸다. 한 마리의 작은 곤충이 추상적 좌표 정보를 다른 곤충에게 전달한다는 사실은, 발견 당시 동물행동학에 큰 충격을 주었다.

2.3.2 새 둥지 선택의 합의 과정

꿀벌의 집단 지능을 가장 인상적으로 보여 주는 사례는 ‘분봉(swarming)’ 시기의 새 둥지 선택 과정이다. 군집이 일정 크기를 넘어서면, 늙은 여왕과 약 절반의 일벌이 군집을 떠나 새로운 보금자리를 찾아 나선다. 이 분봉 무리는 나뭇가지 같은 곳에 임시로 모여 매달리고, 그 사이에 수백 마리의 ‘정찰벌’이 사방으로 흩어져 후보 둥지를 탐색한다. 며칠에 걸친 탐색과 평가, 그리고 합의 과정을 거쳐, 무리는 최종적으로 한 곳을 선택해 한꺼번에 이동한다.

이 과정의 메커니즘은 미국의 곤충학자 토머스 실리(Thomas Seeley)에 의해 수십 년에 걸친 정밀한 야외 실험을 통해 밝혀졌다. 정찰벌이 후보 둥지를 발견하면, 무리로 돌아와 그 위치를 8자 춤으로 알린다. 그러나 단순히 알리는 것에 그치지 않는다. 정찰벌은 자신이 발견한 후보지 입구의 크기, 내부 공간의 부피, 바람의 차단, 햇빛의 노출 정도의 ‘질’을 평가하고, 그 평가가 좋을수록 더 길고 더 격렬하게 춤을 춘다. 다른 정찰벌들은 이 춤을 보고, 같은 후보지를 직접 방문해 자신이 평가한다. 그리고 자신의 평가가 좋다면, 자신도 돌아와 그 후보지에 대해 춤을 춘다.

이 과정에서 결정적인 메커니즘이 ‘교차 억제(cross-inhibition)’이다. 한 후보지에 대해 춤을 추는 정찰벌은, 다른 후보지에 대해 춤을 추는 정찰벌과 마주치면 머리를 부딪쳐 짧은 신호를 보낸다. 이 신호를 받은 상대는 잠시 동안 춤을 멈춘다. 즉, 후보지 A를 지지하는 벌은 후보지 B를 지지하는 벌의 발언권을 일시적으로 무력화한다. 이러한 교차 억제가 누적되면, 결국 한 후보지에 대한 지지가 임계점을 넘어서고, 다른 후보지에 대한 지지는 사라진다. 이 임계점이 넘어서는 순간, 무리는 합의에 도달했다고 판단하고 일제히 새 둥지로 이동한다.

이 메커니즘은 인간 사회의 의사결정 이론과 비교했을 때 놀라울 정도로 정교하다. 그것은 단순 다수결이 아니다. 그것은 평가의 ‘질’이 신호의 ‘강도’로 변환되는 강도 가중 투표이며, 동시에 경쟁 후보들 사이의 능동적 교차 억제를 통해 결단을 강제하는 메커니즘이다. 실리는 이를 ‘민주적 신경 모형’이라고 불렀다. 인간의 뇌 안에서도 서로 경쟁하는 신경군 사이에서 비슷한 교차 억제가 일어나며, 이를 통해 우리는 한순간에 한 가지 결정을 내릴 수 있다. 꿀벌 무리의 의사결정 메커니즘과 인간 뇌의 의사결정 메커니즘이 유사한 알고리즘적 구조를 공유한다는 사실은, ‘집단’과 ‘개체’의 구분이 우리의 직관만큼 명확하지 않을 수 있음을 시사한다.

2.3.3 군집 차원의 항상성 — 둥지 환경의 능동 조절

꿀벌 군집은 둥지 내부의 환경을 매우 정밀하게 조절한다. 둥지 안의 온도는 보통 섭씨 33도에서 35도 사이로 유지되며, 이 범위는 유충의 정상적 발달에 필수적이다. 외부 온도가 급격히 떨어지면, 일벌들은 서로 가까이 모여 ‘겨울 군집’을 형성하고, 가운데에 여왕을 두고 자신의 몸을 떨어 열을 발생시킨다. 외부 온도가 너무 올라가면, 둥지 입구에 모인 일벌들이 날개를 빠르게 떨어 환기를 일으키고, 동시에 다른 일벌들이 물을 운반해 둥지 안에 뿌려 증발 냉각을 만들어 낸다.

이러한 조절 능력은 한 마리의 일벌이 가진 능력이 아니다. 한 마리의 일벌은 ‘둥지 전체의 온도를 33도로 유지하라’는 지시를 받지 않는다. 그저 자신이 느끼는 국지적인 온도와 동료들의 행동에 반응할 뿐이다. 그러나 이러한 국지적 반응이 군집 전체에 적용될 때, 둥지 전체의 온도가 매우 좁은 범위 안에서 능동적으로 조절된다. 이는 인간의 몸이 체온을 유지하는 항상성 메커니즘과 본질적으로 같은 구조이다. 군집은 자신의 ‘체온’을 유지하는 하나의 거대한 동물처럼 행동한다.

이러한 군집 차원의 항상성은 인공지능 시대의 분산 시스템 설계에 깊은 함의를 가진다. 현재 인류가 운영하는 수십만 대의 서버로 구성된 데이터센터와 수백만 명의 사용자가 동시에 접근하는 인공지능 서비스와 같은 거대한 분산 시스템은 한 곳의 중앙 통제실에서 모든 결정을 내릴 수 없다. 시스템 전체의 안정성은 결국 각 노드가 국지적 정보에 따라 단순한 규칙으로 반응할 때 자연스럽게 떠올라 와야 한다. 꿀벌 군집은 이 설계 패러다임이 자연계에서 어떻게 작동하는지를 가장 우아하게 보여 주는 사례 중 하나이다.

2.3.4 꿀벌의 사례가 인류에게 주는 시사

꿀벌 군집을 관찰할 때 우리가 마주치는 가장 깊은 통찰은, ‘좋은 의사결정’이 반드시 똑똑한 한 명의 결정자를 필요로 하지는 않는다는 것이다. 분봉 무리에서 새 둥지를 선택하는 정찰벌 한 마리는, 인간의 기준으로 보면 매우 단순한 두뇌를 가진 곤충이다. 그러나 수백 마리의 정찰벌이 정해진 절차에 따라 정보를 수집하고, 평가를 신호의 강도로 변환하고, 경쟁하는 의견들 사이에서 교차 억제를 통해 결단에 이르는 과정은, 인간이 설계한 어떤 합의 알고리즘에도 뒤지지 않는 정교함을 보여 준다.

이 사실은 인공지능 시대의 인류에게 두 가지 방향의 시사를 던진다. 한편으로는, 우리가 새로운 형태의 분산 의사결정을 설계할 때, 꿀벌의 합의 메커니즘은 직접적으로 활용 가능한 청사진이 된다. 다른 한편으로는, 왕, 황제, 카리스마적 지도자, 거대 기업의 CEO, 그리고 어쩌면 미래의 슈퍼인텔리전스와 같은 ‘똑똑한 한 명의 결정자’에게 의존하는 인류 사회의 오랜 패턴이 반드시 최선의 의사결정 구조가 아닐 수 있다는 비판적 시야를 제공한다.

다음 절에서 우리는 꿀벌과는 또 다른 방식으로 정교한 사회를 운영하는 흰개미의 사례를 살펴본다. 흰개미는 의사소통보다 ‘건축’을 통해 자신의 집단 지능을 외부화하는 독특한 종이며, 그 사례는 인공지능 시대의 ‘환경 매개 인지’라는 주제로 우리를 직접 인도한다.

2.4 흰개미 — 건축으로 외부화된 집단 지능

2.4.1 마운드와 천장 없는 환기탑

아프리카 사바나의 평원을 가로질러 가다 보면, 키가 5미터에서 9미터에 이르는 거대한 흙더미들이 곳곳에 솟아 있는 것을 볼 수 있다. 이것들은 흰개미가 지은 마운드이다. 평균 1센티미터에 불과한 흰개미가 자신의 키의 600배에서 900배에 달하는 구조물을 짓는 것은, 비례적으로 환산하면 키 170센티미터의 인간이 키 1킬로미터의 건물을 짓는 것과 같다. 인류의 가장 높은 건축물인 부르즈 할리파의 높이가 약 830미터임을 생각하면, 흰개미의 건축 비례는 인류를 능가한다.

흰개미 마운드의 구조는 외관보다 내부가 더 인상적이다. 마운드의 내부는 미로 같은 통로와 방, 그리고 핵심 시설인 ‘버섯 정원’과 여왕방으로 구성되어 있다. 버섯 정원에서는 흰개미들이 식물 섬유를 분해하기 위해 곰팡이를 재배하며, 이는 잎꾼개미와 마찬가지로 수천만 년 전부터 이어진 농업 관계이다. 여왕방의 여왕 흰개미는 일생 동안 수백만 개의 알을 낳으며, 어떤 종에서는 한 마리의 여왕이 30년 이상 살기도 한다. 마운드 전체는 한 마리의 거대한 동물의 몸과 같은 통합된 단위로 작동하며, 그 안에 사는 흰개미의 수는 종종 수백만 마리에 이른다.

이 모든 구조 가운데 가장 놀라운 부분은 환기 시스템이다. 마운드의 내부 온도는 외부 기온이 섭씨 5도에서 40도 사이에서 큰 폭으로 변동하는 사바나 환경에서도 항상 30도에서 31도 사이로 거의 일정하게 유지된다. 동시에 이산화탄소 농도, 산소 농도, 습도 또한 좁은 범위 안에서 정밀하게 조절된다. 이는 마운드 안의 수백만 마리 흰개미와 수십 톤의 곰팡이가 만들어 내는 막대한 호흡 부하를 생각하면 거의 기적에 가까운 일이다.

2.4.2 수동 환기의 공학 — 자연의 패시브 디자인

흰개미 마운드의 환기 메커니즘은 오랫동안 잘못 이해되어 왔다. 1960년대까지 학자들은 마운드가 ‘굴뚝 효과(stack effect)’를 이용한다고 설명했다. 즉, 마운드 안의 더운 공기가 위로 올라가면서 위쪽 통로로 빠져나가고, 그 자리에 외부의 차가운 공기가 아래쪽 통로로 들어온다는 설명이었다. 이 모형은 수십 년 동안 교과서적인 설명으로 자리 잡았다.

그러나 1990년대 이후 미국의 생리학자 J. 스콧 터너(J. Scott Turner) 등의 연구를 통해, 실제 메커니즘은 그보다 훨씬 정교하다는 것이 밝혀졌다. 흰개미 마운드의 환기는 ‘맥동(pulsation)’ 메커니즘에 의존한다. 낮 동안 외부 공기가 데워지면, 마운드의 외부 표면 근처 공기가 따뜻해지고 위로 올라간다. 동시에 내부 깊숙한 곳의 공기는 상대적으로 차가워, 마운드 안에서 미세한 대류가 형성된다. 그러나 결정적으로, 이 대류의 방향은 하루 동안 두세 차례 역전된다. 낮과 밤의 온도 변화에 따라, 그리고 외부 바람의 변화에 따라, 마운드 안의 공기는 부드럽게 ‘숨을 쉬는’ 듯한 패턴으로 움직인다. 이 맥동이 마운드 내부와 외부 사이의 가스 교환을 가능하게 하며, 일정한 온도와 가스 농도를 유지한다.

이러한 흰개미의 ‘수동 환기 건축’은 인간의 공학자들에게 직접적인 영감을 주었다. 짐바브웨의 이스트게이트 센터(Eastgate Centre)는 1996년 짐바브웨의 건축가 믹 피어스(Mick Pearce)가 흰개미 마운드의 환기 원리를 모방해 설계한 사무용 건물이다. 이 건물은 사하라 이남 아프리카의 가혹한 더위 속에서도 통상적 에어컨 시스템 없이 자연 대류와 보조적 환기 팬만으로 내부 온도를 일정하게 유지하며, 같은 규모의 기존 건물에 비해 냉방 에너지를 약 90퍼센트 절감하는 성과를 달성한 것으로 보고되었다. 흰개미가 5천만 년 동안 시험하고 다듬어 온 환기 알고리즘이, 인류의 최첨단 친환경 건축의 모형이 된 것이다.

2.4.3 환경 매개 인지 — 스티그머지의 발견

흰개미의 가장 깊은 함의는 그들의 건축 행위 자체에 있다. 흰개미는 마운드의 전체 설계도를 가지고 있지 않다. 어떤 흰개미도 ‘이 마운드는 5미터 높이여야 한다’거나 ‘여왕방은 정확히 가운데에 있어야 한다’는 정보를 알지 못한다. 그렇다면 어떻게 수백만 마리의 흰개미가 서로 일관된 거대 구조물을 만들어 낼 수 있을까?

답은 ‘스티그머지(stigmergy)’라는 개념에 있다. 이 용어는 1959년 프랑스의 동물학자 피에르 폴 그라세(Pierre-Paul Grassé)가 흰개미의 건축 행위를 설명하기 위해 만든 말로, 그리스어 ‘stigma(자극)’와 ‘ergon(행위)’의 합성어이다. 그 의미는 ‘이전의 작업이 남긴 흔적이 다음 작업의 자극이 된다’는 것이다. 한 마리의 흰개미가 어떤 위치에 흙덩어리를 놓으면, 그 흙덩어리에는 페로몬이 묻어 있고, 그 페로몬은 다른 흰개미들에게 ‘여기에 더 쌓아라’라는 신호가 된다. 그 결과 같은 위치에 더 많은 흙덩어리가 쌓이고, 그것이 또 다른 흰개미들을 끌어들여 점점 더 큰 구조가 형성된다. 일정 크기를 넘어서면 그 구조는 다른 종류의 자극이 되어, 흰개미들이 그 위에 통로를 뚫거나 옆으로 분기를 만들기 시작한다.

이 메커니즘에서 정보는 흰개미의 머리 안에 있지 않다. 정보는 마운드 자체에 있다. 마운드의 형태가 다음 행동을 결정하고, 그 행동이 다시 마운드의 형태를 변화시킨다. 즉 흰개미와 환경은 끊임없이 서로를 만들어 가는 순환적 관계에 있다. 이러한 ‘환경 매개 인지’의 패러다임은, 인지 과학자들이 ‘확장된 마음(extended mind)’이라고 부르는 개념과 직접 연결된다. 한 개체의 인지는 그 개체의 두뇌 안에서만 일어나는 것이 아니라, 그 개체가 사용하는 도구와 그 개체가 살아가는 환경 안에 분산되어 있다는 관점이다.

이 관점은 인공지능 시대의 인류와 직접 닿아 있다. 우리는 이미 ‘기억’의 상당 부분을 검색 엔진과 클라우드 저장소에 외부화했다. 우리는 ‘추론’의 상당 부분을 거대언어모델에 외부화하고 있다. 그리고 머지않아 ‘판단’과 ‘결정’의 상당 부분을 자율적 인공지능 에이전트에 외부화하게 될 것이다. 이러한 외부화의 누적은 흰개미가 자신의 인지를 마운드 자체에 외부화하는 것과 본질적으로 같은 구조이다. 흰개미가 마운드 없이는 흰개미가 아니듯이, 인공지능 시대의 인류는 인공지능 인프라 없이는 더 이상 같은 의미의 인류가 아닐 수 있다.

2.4.4 흰개미 마운드와 산업 AI 시대의 ‘건축적 인지’

흰개미의 사례는 한국이 추진하고 있는 스마트 제조 정책의 맥락에서도 흥미로운 비교점을 제공한다. 한국의 제조업 현장에서 디지털 트윈, 자산 관리 셸(Asset Administration Shell, AAS), Umati 같은 개방형 데이터 표준은, 본질적으로 ‘공장이라는 환경 자체에 인지를 새겨 넣는’ 작업이라고 볼 수 있다. 한 대의 공작기계, 한 명의 작업자, 한 대의 자율이동로봇이 각자의 행동에서 생성하는 데이터가 공장 전체의 데이터 인프라에 누적되면, 그 인프라 자체가 다음 행동의 ‘자극’이 된다. 이는 흰개미의 스티그머지와 구조적으로 동일한 패턴이다. 차이는 매개체가 페로몬이 아니라 디지털 데이터일 뿐이다.

이러한 시각에서 보면, 산업 AI는 단순히 공장에 인공지능 ‘기능’을 추가하는 일이 아니다. 그것은 공장 전체를 하나의 흰개미 마운드처럼, 즉 환경 자체가 인지를 수행하는 거대한 분산 유기체로 재설계하는 일이다. 전 세계 여러 나라의 연구기관과 산업 단체들이 추진하고 있는 자율 제조 의제, 그리고 매년 산업 전시회에서 발표되는 신기술의 흐름은, 자연계가 5천만 년 동안 시험해 온 분산 인지 패러다임의 산업적 재현이라고 해석할 수 있다.

이 해석은 단순한 비유가 아니다. 그것은 산업 AI를 설계하는 엔지니어들에게 구체적인 설계 지침을 제공한다. 첫째, 중앙집중형 통제보다 분산된 단순 규칙의 조합이 더 견고하다. 둘째, 데이터의 표준화와 환경 매개 통신이 개별 노드의 ‘똑똑함’보다 중요하다. 셋째, 시스템의 ‘기억’은 개별 모듈이 아니라 데이터 인프라 자체에 새겨져야 한다. 넷째, 시스템은 부분의 손실에 견고해야 하며, 손실된 부분의 역할은 다른 부분들에 의해 자연스럽게 흡수되어야 한다. 이 네 가지 원리는 흰개미 마운드에서 직접 추출된 것이며, 동시에 미래의 산업 AI 인프라가 갖추어야 할 본질적 특성이기도 하다.

2.5 점균류 — 뇌 없는 지능

2.5.1 단세포 생물이 미로의 최단 경로를 찾을 때

지금까지 살펴본 사례들은 모두 ‘여러 마리의 동물’이 모여 만든 집단 지능이었다. 그러나 자연계에는 더 극단적인 사례가 존재한다. 그것은 한 마리의, 그러나 신경계조차 없는 생물이 보여 주는 지능이다. 점균류(slime mold), 특히 황색망사점균(Physarum polycephalum)이 그 주인공이다.

점균류는 분류학적으로 동물도, 식물도, 균류도 아닌 독특한 위치에 있다. 그것은 단세포 생물이지만 ‘플라스모디움’이라고 불리는 거대한 다핵 단세포 형태로 자라며, 어떤 경우에는 책상 한 면을 덮을 정도로 커진다. 이 생물은 뇌도, 신경도, 근육도 없다. 그저 세포질의 흐름과 화학적 신호 전달만을 가지고 있다. 그러나 이 단순한 생물이 보여 주는 행동은 종종 우리의 직관을 뒤흔든다.

가장 유명한 사례는 2000년 일본의 나카가키 토시유키(中垣俊之)가 『네이처』에 발표한 실험이다. 연구진은 작은 미로의 양 끝에 점균이 좋아하는 귀리 조각을 두고, 미로 전체에 점균을 퍼뜨렸다. 처음에 점균은 미로의 모든 통로를 채우며 자랐지만, 시간이 지나자 막다른 길과 우회로의 가지들이 점차 사라지고, 결국 두 귀리 조각을 잇는 가장 짧은 경로 하나만이 남았다. 뇌가 없는 단세포 생물이 ‘미로 풀기’라는 인지적 과제를 해결한 것이다. 이 연구는 8년 후인 2008년 이그 노벨상(Ig Nobel Prize) 인지과학 부문을 받았으며, 분산 컴퓨팅과 생물영감 알고리즘 분야에 큰 충격을 주었다.

2.5.2 도쿄 지하철망 — 점균이 도시를 설계할 때

나카가키 연구진은 2010년 더 인상적인 후속 실험을 발표했다. 이번에는 일본 관동 지방의 지도 위에 도쿄와 36개의 주요 도시 위치에 점균이 좋아하는 귀리를 두고, 그 위에 점균을 풀어 놓았다. 점균은 처음에는 사방으로 퍼지며 모든 도시를 연결했지만, 며칠이 지나자 비효율적인 연결을 끊고, 효율적인 연결만을 강화했다. 그리고 최종적으로 형성된 망의 모양은, 놀랍게도 실제 도쿄 지하철망의 구조와 매우 비슷했다. 일본의 인간 도시 설계자들이 수십 년에 걸쳐 만들어 낸 효율적 교통망을, 단세포 생물이 며칠 만에 거의 동등한 효율로 재현해 낸 것이다.

이 실험이 시사하는 바는 중요하다. ‘효율적인 네트워크 설계’라는 과제는 인간이 자신의 합리적 사고로만 풀 수 있는 문제가 아니다. 그것은 자연선택이 수많은 시행착오를 통해 ‘발견’해 온 종류의 문제이며, 점균은 자원이 풍부한 곳으로 더 많은 세포질을 보내고, 그렇지 않은 곳의 가지는 줄이는 단순한 피드백이라는 자신의 단순한 생리적 메커니즘을 통해 그 해법에 도달했다.

이 사례는 ‘지능’의 정의 자체를 다시 생각하게 만든다. 우리는 흔히 지능을 ‘추론하고 판단할 수 있는 뇌의 기능’으로 정의한다. 그러나 점균은 뇌가 없이도 인간이 지능적이라고 부를 만한 행동을 수행한다. 그렇다면 지능의 본질은 무엇인가? 어쩌면 지능은 ‘특정한 종류의 두뇌 구조’가 아니라, ‘환경에 대해 적응적이고 효율적인 반응을 만들어 내는 정보 처리 패턴’ 그 자체일지도 모른다. 이러한 정의에 따르면, 지능은 뇌를 가진 동물에게만 한정되는 것이 아니라, 자연계의 다양한 시스템 더 나아가 인공지능 시스템에도 폭넓게 분포할 수 있는 속성이 된다.

2.5.3 점균이 인공지능 연구에 남긴 유산

점균의 행동에서 영감을 받은 알고리즘들은 ‘점균 알고리즘(Physarum algorithm)’이라는 이름으로 개발되어, 통신 네트워크 설계, 도로망 최적화, 분산 컴퓨팅의 라우팅 문제 등에 활용되어 왔다. 이러한 알고리즘들은 종종 인간이 설계한 휴리스틱보다 더 견고하고, 환경의 변화에 더 잘 적응하는 특성을 보인다.

더 깊은 함의는 점균이 보여 주는 ‘분산되고 매체에 새겨진 인지’의 구조이다. 점균에게는 ‘이 부분이 두뇌이고 저 부분이 몸이다’라는 구분이 없다. 그것의 모든 부분은 동시에 감지하고, 계산하고, 행동한다. 이러한 형태의 통합된 분산 시스템은, 미래의 인공지능 인프라가 추구해야 할 한 가지 방향을 제시한다. 즉, 중앙집중형 ‘인공 두뇌’가 모든 결정을 내리는 구조가 아니라, 시스템의 모든 부분이 동시에 감지하고 학습하고 반응하는 ‘분산된 살아 있는 망’으로서의 인공지능이다.

이러한 비전은 현재 ‘에지 AI(edge AI)’와 ‘분산 학습(federated learning)’이라는 이름으로 일부 실현되고 있다. 모든 추론을 거대한 데이터센터에서 수행하는 대신, 사용자의 휴대폰, 자동차, 가전제품, 공장의 센서가 각자 작은 모형을 운영하며, 그들 사이의 학습과 추론이 분산된 망 안에서 일어나는 구조이다. 이러한 구조는 지연 시간, 데이터 프라이버시, 시스템 견고성, 에너지 효율 등 여러 면에서 중앙집중형보다 우월한 특성을 보인다. 점균은 자연이 수억 년 전에 이미 시험한 이 패러다임의 살아 있는 사례이다.

2.5.4 ‘똑똑한 한 명’ 없이도 가능한 지능

점균의 사례는 ‘공통뇌’ 가설에 또 하나의 깊은 통찰을 제공한다. 우리는 종종 미래의 인공지능을 ‘인류 전체보다 똑똑한 한 명의 슈퍼인텔리전스’의 모습으로 상상한다. 그러나 점균은 그 반대의 가능성을 보여 준다. ‘하나의 똑똑한 결정자’가 없이도, 충분히 잘 설계된 분산 시스템은 매우 정교한 ‘지능적’ 행동을 만들어 낼 수 있다. 미래의 인공지능 인프라가 거대한 단일 슈퍼인텔리전스로의 수렴으로 진화하든, 무수한 작은 인공지능들이 망으로 연결된 분산 지능으로 변화하든, 어느 쪽이 우위를 점하게 될지는 자연계의 사례들이 제공하는 통찰을 종합적으로 검토해야만 답할 수 있는 문제이다.

이 책의 후반부에서 우리는 이 두 시나리오의 사회적·정치적 함의를 다시 다루게 된다. 한쪽은 ‘인공지능의 군주제’, 다른 한쪽은 ‘인공지능의 분권제’라고 부를 수 있다. 점균과 군집 곤충들이 제시하는 자연의 청사진은, 분권제가 단순히 정치적 가치 판단의 문제가 아니라, 견고성과 효율성의 측면에서도 지지될 수 있는 설계 원리임을 시사한다.

2.6 산호와 시포노포어 — 군체 생명의 모듈러 진화

2.6.1 한 마리인가 여러 마리인가 — 군체 생명의 역설

산호초를 처음 보는 사람은 흔히 그것을 식물이나 광물로 오해한다. 그러나 산호는 동물이며, 더 정확히 말하자면 ‘여러 마리의 동물이 모여 만든 군체(colony)’이다. 산호초의 한 가지 한 가지는 그 자체로 한 마리의 폴립(polyp)이며, 산호초 전체는 수만에서 수백만 마리의 폴립이 자신의 외골격을 공유하며 자라난 거대한 군체이다. 한 마리의 폴립은 작은 말미잘처럼 생긴 단순한 동물이지만, 군체 전체는 한 종류의 ‘초생물’로서 자신만의 형태와 행동 패턴을 갖는다.

산호 군체의 폴립들은 유전적으로 동일하다. 즉 한 마리의 산호 군체 전체는, 어떤 의미에서 한 마리의 동물이 자신을 무수히 복제해 만든 거대한 단일 개체이다. 그러나 동시에 각 폴립은 독립적으로 먹이를 잡고, 노폐물을 배설하며, 외부 자극에 반응한다. ‘하나인가 여럿인가’라는 질문은, 산호의 경우 명확한 답을 주기 어렵다. 산호는 둘 다이거나, 어쩌면 둘 다 아니다.

이러한 모호함은 단순한 분류상의 문제가 아니다. 그것은 ‘생명체’와 ‘집단’의 경계가 우리의 직관만큼 명확하지 않다는 사실을 보여 준다. 산호는 자연계가 ‘개체와 집단 사이의 중간 형태’를 어떻게 진화시켜 왔는지를 보여 주는 살아 있는 사례이다. 그리고 인공지능 시대의 인류가 어떤 방향으로 진화할지를 가늠할 때, 이 ‘중간 형태’의 가능성은 매우 중요한 비교점을 제공한다.

2.6.2 시포노포어 — 분업화된 모듈의 극단

산호보다 더 인상적인 사례는 시포노포어(siphonophore)이다. 시포노포어는 깊은 바다에 사는 무리의 군체 생물로, 가장 잘 알려진 종은 해수면 근처에 떠다니는 ‘포르투갈 군함(Portuguese man o’ war)’이다. 시포노포어는 산호처럼 같은 형태의 폴립이 단순히 모인 것이 아니라, 매우 다른 형태와 기능을 가진 ‘조이드(zooid)’들이 모여 한 마리의 동물처럼 행동하는 극단적 사례이다.

한 마리의 시포노포어 안에는 부유를 담당하는 가스주머니 조이드, 먹이를 잡는 촉수 조이드, 먹이를 소화하는 위 조이드, 번식을 담당하는 생식 조이드, 그리고 추진을 담당하는 추진 조이드가 각각 따로 존재한다. 이들은 모두 유전적으로 동일하지만, 발생 과정에서 서로 다른 형태와 기능으로 분화한 것이다. 한 마리의 조이드는 독립적인 개체로 살아갈 수 없지만, 모든 조이드가 함께 모일 때 한 마리의 동물처럼 사냥하고, 이동하고, 번식할 수 있다.

이러한 구조는 단세포에서 다세포로의 진화 과정의 어떤 중간 단계를 화석처럼 보존하고 있다고 해석할 수 있다. 모든 다세포 동물은 본질적으로 단세포들이 모여 분업화된 형태이다. 우리의 몸도 수십조 개의 세포가 서로 다른 기능을 분담하며 살아가는 거대한 ‘세포의 군집’이다. 시포노포어는 이러한 분업화가 세포 수준이 아니라 동물 수준에서 진행될 때 어떤 모습이 되는지를 보여 준다.

2.6.3 모듈러 진화의 함의 — 인류와 인공지능 에이전트의 미래

시포노포어의 사례는 인공지능 시대의 인류 사회를 이해하는 데에도 흥미로운 비교점을 제공한다. 미래의 사회에서 한 사람의 ‘개인’이 가지는 의미는, 어쩌면 시포노포어의 한 조이드와 비슷한 위치에 놓일 가능성이 있다. 한 개인은 자신의 몸과 자신의 뇌를 가진 독립적 존재이지만, 동시에 거대한 인공지능 인프라와 무수한 자율적 에이전트, 그리고 다른 인간들과의 끊임없는 데이터 흐름 안에서만 의미 있게 기능한다. 한 사람의 능력은 더 이상 그 사람의 두뇌 안에서 끝나지 않고, 그가 접속하고 있는 인공지능과 데이터 인프라까지를 포함한 ‘확장된 존재’의 능력이 된다.

이러한 변화는 ‘개인’의 개념 자체를 재정의하게 만든다. 시포노포어의 한 조이드를 ‘한 마리의 동물’이라고 부르는 것이 의미가 있는가? 그것은 어떤 의미에서 한 마리의 동물이지만, 다른 의미에서는 한 마리의 동물의 일부분일 뿐이다. 마찬가지로 인공지능 시대의 한 ‘개인’은 어떤 의미에서 한 명의 사람이지만, 다른 의미에서는 인류라는 거대한 분산 유기체의 한 노드일 뿐이다. 이 새로운 정의가 무엇을 의미하는지, 그리고 그것이 인간의 자유, 책임, 정체성에 어떤 영향을 미치는지는 이 책의 후반부에서 본격적으로 다루게 될 핵심 질문 중 하나이다.

2.6.4 통합된 다양성의 원리

산호와 시포노포어가 보여 주는 또 다른 원리는 ‘통합된 다양성’이다. 한 마리의 시포노포어 안에는 매우 다양한 형태와 기능의 조이드가 존재하지만, 그들 모두는 한 마리의 통합된 동물로서 작동한다. 다양성과 통합은 서로 모순되는 가치가 아니다. 오히려 충분한 다양성이 있어야 통합된 시스템이 다양한 환경에 대응할 수 있고, 충분한 통합이 있어야 다양성이 단순한 무질서로 흩어지지 않는다.

이 원리는 인공지능 시대의 인류 사회 설계에 직접적인 시사를 던진다. 거대한 단일 인공지능에 모든 결정을 위임하는 ‘통합 우선’의 모형은, 시스템 전체의 견고성을 약화시키고 다양한 상황에 대한 적응성을 떨어뜨릴 위험이 있다. 반대로 무수한 작은 인공지능들이 서로 단절되어 작동하는 ‘다양성 우선’의 모형은, 시스템 차원의 일관성과 협응을 잃을 위험이 있다. 자연이 수억 년 동안 다듬어 온 시포노포어의 모형은, 이 두 극단 사이의 균형 잡힌 설계가 가능하며 또 효율적임을 보여 주는 살아 있는 증거이다.

다음 절에서 우리는 새와 물고기의 무리와 같은 또 다른 형태의 자연 집단 지능을 살펴본다. 무리(flock, school)는 군집(colony)과 다르다. 군집의 구성원들은 한 둥지에서 함께 살며 평생을 함께하지만, 무리의 구성원들은 한순간의 협응을 위해 모이고 흩어진다. 그러나 그 일시적 협응 안에도 자연이 발견한 또 다른 분산 지능의 원리가 숨어 있다.

2.7 새와 물고기의 무리 — 일시적 협응의 동역학

2.7.1 찌르레기의 군무 — 수만 마리가 한 마리처럼

해 질 무렵, 유럽이나 북미의 어떤 들판을 지나가다 보면 하늘에 거대한 회색 구름 같은 것이 움직이는 모습을 볼 수 있다. 가까이서 보면 그것은 구름이 아니라 수만 마리의 찌르레기가 한꺼번에 날아오르는 모습이다. 찌르레기 무리는 마치 한 마리의 거대한 동물처럼 매끄럽게 회전하고, 갑자기 방향을 바꾸고, 둘로 갈라졌다가 다시 합쳐진다. 이 ‘무르무레이션(murmuration)’이라고 불리는 현상은 자연이 만들어 내는 가장 아름다운 장면 중 하나이며, 동시에 분산 협응의 가장 인상적인 사례 중 하나이기도 하다.

찌르레기 무르무레이션의 메커니즘은 2000년대 이후 이탈리아의 물리학자 안드레아 카바냐(Andrea Cavagna)와 그의 동료들이 진행한 정밀한 3차원 영상 분석을 통해 상당히 밝혀졌다. 그 결과는 의외였다. 한 마리의 찌르레기는 무리 전체를 감지하지 않는다. 그것이 반응하는 것은 자신의 가장 가까운 6~7마리의 이웃들의 움직임이다. 한 마리가 방향을 바꾸면, 그 이웃들이 거의 동시에 같은 방향으로 바꾸고, 그 이웃들의 이웃들이 또 같은 방향으로 바꾼다. 이러한 국지적 정보의 빠른 전파를 통해, 정보는 마치 음파처럼 무리 전체를 가로질러 전달된다.

이 메커니즘의 결정적 특성은 ‘척도 자유성(scale-free)’이다. 무리의 한쪽 끝에서 일어난 작은 자극이 무리 전체에 거의 즉각적으로 전파된다. 이 전파 속도는 무리의 크기와 무관하다. 100마리의 무리든 10만 마리의 무리든, 정보가 끝에서 끝까지 도달하는 데 걸리는 시간은 거의 일정하다. 이는 인간의 의사소통 시스템에서는 거의 불가능한 일이다. 100명의 회의에서 한 사람의 의견이 모두에게 도달하는 시간과, 10만 명의 회의에서 한 사람의 의견이 모두에게 도달하는 시간은 비교할 수 없을 만큼 다르다. 그러나 찌르레기는 그 차이를 해결한다. 그것은 ‘이웃의 수’로 정의되는 국지적 상호작용의 위상적 구조 덕분이다.

2.7.2 물고기 떼의 방어 — 하나의 거대한 그림자

해양 다큐멘터리에서 자주 등장하는 장면 중 하나는, 거대한 정어리 떼가 돌고래나 상어나 가다랑어와 같은 천적의 공격을 받을 때 만드는 ‘공포 구체(bait ball)’이다. 수만 마리의 정어리가 한 점을 중심으로 빠르게 회전하며, 외부에서 보면 한 마리의 거대한 은빛 구체처럼 보인다. 이 구체는 끊임없이 형태를 바꾸며, 천적이 다가오면 자동으로 흩어지고 다시 모인다.

이 행동의 메커니즘 역시 분산 규칙의 적용이다. 1987년 컴퓨터 그래픽 연구자 크레이그 레이놀즈(Craig Reynolds)가 ‘보이즈(Boids)’라는 시뮬레이션 프로그램을 통해 정식화한 세 가지 규칙은 새 무리와 물고기 떼의 행동을 놀라울 만큼 정확하게 재현한다. 그 첫째 규칙은 너무 가까운 이웃과는 거리를 두는 ‘분리(separation)’이고 둘째는 이웃들의 평균 진행 방향을 따르는 ‘정렬(alignment)’, 마지막 세번째는 이웃들의 평균 위치 쪽으로 움직이는 ‘응집(cohesion)’ 이다. 이 세 가지 단순 규칙만 적용하면, 시뮬레이션상의 ‘보이드’들은 실제 새 무리와 거의 구분되지 않는 협응 행동을 보여 준다.

이 사실이 시사하는 바는 깊다. 자연계의 가장 인상적인 집단 행동 중 하나가, 단지 세 가지의 단순한 국지적 규칙으로 환원될 수 있다는 것이다. 무리 안의 어떤 새도, 어떤 물고기도 ‘무리 전체가 어떻게 움직여야 한다’는 거시적 계획을 가지고 있지 않다. 그러나 단순한 국지적 규칙의 충실한 반복이 거시적 패턴을 만들어 낸다. 이 원리는 ‘발현(emergence)’이라고 불리며, 복잡계 과학의 핵심 개념 중 하나이다.

2.7.3 떼지능의 진화적 이점

새와 물고기가 무리를 이루는 진화적 이점은 여러 가지가 있다. 첫째, 포식자 회피이다. 한 마리가 천적의 시야 안에 있을 확률은, 무리의 크기에 비례해 분산된다. ‘희석 효과(dilution effect)’라고 불리는 이 원리는, 한 마리에게 천적이 다가올 확률을 1/N로 줄여 준다. 둘째, 정보 공유이다. 한 마리가 식량을 발견하거나 위협을 감지하면, 그 정보는 무리 전체로 빠르게 전파된다. 셋째, 에너지 효율이다. V자 대형으로 나는 새들은 앞에 가는 새가 만든 상승 기류를 타고 비행하므로 에너지를 절약할 수 있다.

이 세 가지 이점은 서로 다른 종류의 ‘협력의 이득’을 보여 준다. 그리고 이러한 이득은 인공지능 시대의 인류 사회에도 직접적인 의미를 가진다. 그 첫째는 한 사람이 모든 결정을 내리는 사회보다, 분산된 의사결정이 일어나는 사회가 외부 충격에 더 견고하다는 ‘위험의 분산’이고 둘째, 한 사람의 통찰이 빠르게 사회 전체로 퍼질 수 있는 인프라가 사회의 적응 속도를 결정한다는 ‘정보의 전파’이며 셋째, 협력 구조 안에서는 한 사람의 노력으로 전체가 함께 진보할 수 있다는 ‘에너지의 절감’의 측면이다. 인공지능은 이 세 가지 이점을 모두 폭발적으로 강화하는 인프라이며, 그것이 바로 인공지능이 인류라는 종을 ‘새로운 형태의 무리’로 변화시키는 매개체가 되는 이유이다.

2.7.4 군집과 무리의 차이 — 영구적 사회와 일시적 협응

이 장에서 우리가 살펴본 사례들은 두 가지 큰 범주로 나뉜다. 첫째는 ‘군집(colony)’이다. 개미, 꿀벌, 흰개미, 산호, 시포노포어가 여기에 속한다. 군집의 구성원들은 한 둥지나 한 군체 안에서 평생을 함께 살며, 그들 사이의 관계는 영구적이고 강하게 결합되어 있다. 둘째는 ‘무리(flock, school, swarm)’이다. 새와 물고기의 무리, 그리고 메뚜기 떼나 일부 포유류의 무리가 여기에 속한다. 무리의 구성원들은 한순간의 협응을 위해 모이고, 그 목적이 달성되면 흩어진다. 그들 사이의 관계는 일시적이고 약하게 결합되어 있다.

인공지능 시대의 인류는 이 두 범주 모두의 특성을 동시에 가질 가능성이 높다. 한편으로는 거대한 인공지능 인프라가 인류 전체를 영구적으로 연결하는 ‘공통뇌’의 토대가 된다는 점에서 군집에 가깝다. 다른 한편으로는 그 인프라 안에서 사람들과 인공지능 에이전트들이 한순간의 과제를 위해 모였다가 흩어지는 일시적 협응이 끊임없이 일어난다는 점에서 무리에 가깝다. 즉 인류의 새로운 사회 형태는, 자연계의 군집과 무리 양쪽 모두의 원리를 동시에 흡수한 새로운 종류의 분산 유기체일 가능성이 높다.

2.8 인류의 선역사적 집단 지능 — 언어, 문자, 인터넷

2.8.1 인류는 처음부터 ‘반(半)초유기체’였다

지금까지 우리는 다른 종들의 집단 지능을 살펴보았다. 그러나 가장 중요한 비교 대상은 인류 자신이다. 인류는 언어와 문자라는 인지 매체를 발명하면서, 다른 어떤 영장류와도 다른 종류의 집단 지능을 형성해 왔다. 인공지능 시대의 ‘공통뇌’는 갑작스러운 신기술이 아니라, 이러한 인류의 오랜 집단 인지 진화의 가장 최근 단계로 보아야 한다.

인류는 약 30만 년 전 아프리카에서 호모 사피엔스로 출현한 이후, 다른 영장류와는 비교할 수 없는 속도로 집단의 인지 능력을 확장해 왔다. 한 사람의 호모 사피엔스가 다른 영장류 한 마리보다 훨씬 똑똑하다는 사실은 이미 잘 알려져 있다. 그러나 더 중요한 사실은, 인류는 한 사람의 인지 능력만으로는 불가능한 거의 모든 일을 ‘여러 세대에 걸친 누적된 집단 인지’를 통해 해 왔다는 점이다. 한 사람이 평생 동안 발견할 수 있는 지식의 양은 매우 적지만, 인류 전체가 수만 년 동안 누적해 온 지식의 양은 거의 무한에 가깝다.

이러한 누적은 두 가지 매체에 의해 가능했다. 첫째는 언어이고, 둘째는 문자이다. 언어는 한 사람의 머릿속에 있는 정보를 다른 사람의 머릿속으로 옮길 수 있게 해 주었다. 문자는 한 사람의 머릿속에 있는 정보를 시간을 가로질러 정보의 생산자가 죽은 후에도 다른 사람들에게 전달할 수 있게 해 주었다. 이 두 가지 매체가 없었다면, 인류는 다른 영장류와 본질적으로 같은 수준의 집단 인지에 머물렀을 것이다. 그러나 이 두 매체 덕분에 인류는 이미 수만 년 전부터 ‘반(半)초유기체’의 형태로 진화해 왔다.

2.8.2 문자, 인쇄술, 인터넷 — 외부 인지 매체의 진화

문자의 발명은 약 5천 년 전 메소포타미아의 수메르에서 일어난 것으로 알려져 있다. 처음의 문자는 누가 누구에게 얼마만큼의 곡식을 빚졌는지와 같은 단순한 회계 기록을 위한 도구였지만, 곧 신화, 법률, 시, 철학을 담는 매체로 확장되었다. 문자가 발명된 후 인류의 지식은 한 사람의 일생을 넘어 다음 세대로 전달될 수 있게 되었고, 이는 ‘세대 간 누적 학습’이라는 새로운 진화 메커니즘을 가능하게 했다. 한 세대가 발견한 것을 다음 세대가 잊지 않는다면, 지식은 기하급수적으로 누적된다.

인쇄술의 발명은 두 번째 도약이었다. 이 도약은 단일한 시점이나 단일한 문명의 성취가 아니라, 동아시아와 유럽의 여러 시대에 걸쳐 점진적으로 이루어진 인류 공통의 진보였다. 그 진보의 가장 깊은 자리에 한반도의 인쇄 문화가 있다.

인쇄의 가장 이른 형태인 목판 인쇄는 8세기 동아시아에서 이미 자리 잡았다. 1966년 경주 불국사 석가탑에서 발견된 「무구정광대다라니경(無垢淨光大陀羅尼經)」은 8세기 중반 통일신라에서 인쇄된 것으로 추정되며, 현존하는 세계에서 가장 오래된 목판 인쇄본으로 인정된다. 이는 15세기 구텐베르크의 활판 인쇄보다 700년 앞선 시점에, 이미 한반도에서 인쇄라는 인지 매체가 자리 잡고 있었다는 사실을 보여 준다. 동아시아의 목판 인쇄는 종교 경전, 역서(曆書), 의서(醫書) 같은 핵심 문헌들을 한 사회 전체에 확산시키는 인지 매체로 자리 잡았고, 그 사회적 의미는 단지 ‘책의 복제’ 이상이었다. 그것은 한 사회가 자신의 ‘외부화된 기억’을 어떻게 다음 세대로 전할 것인가에 대한 명시적 인프라의 첫 형태였다.

목판 인쇄의 가장 야심찬 사례 중 하나는 13세기 고려에서 이루어진 팔만대장경(八萬大藏經)의 조성이다. 1236년부터 1251년에 걸쳐 16년 동안, 81,258매의 목판에 불교 경전 전체를 새겨 넣은 이 작업은 ‘한 사회 전체의 협력으로 이루어진 거대한 인지 인프라 구축’의 가장 인상적인 역사적 사례 중 하나이다. 한 글자의 오자도 거의 없는 정밀도로, 한 시대의 모든 불교 지식을 다음 세대들에게 정확히 전하기 위해 한 왕조 전체가 자원과 시간을 동원한 이 사업은, 인류가 자신의 ‘외부화된 기억’을 얼마나 진지하게 다루어 왔는지를 보여 주는 직접적 증거이다. 팔만대장경은 지금도 해인사에 보존되어 있으며, 그 목판들과 보관 시설은 모두 유네스코 세계기록유산으로 등재되어 있다. 80,000장이 넘는 목판이 800년에 가까운 시간을 거치면서도 거의 손상되지 않고 보존되어 왔다는 사실 자체가, 한 사회의 인지 인프라에 대한 신중함의 깊이를 증언한다.

목판 인쇄에서 한 차원 더 나아간 도약은 ‘금속활자’의 발명이었다. 한 책의 인쇄가 끝나면 활자를 해체해 다음 책을 위해 다시 조판할 수 있는 이 기술은, 인쇄 가능한 책의 종류 자체를 폭발적으로 늘릴 수 있게 한 결정적 진보였다. 그리고 현존하는 세계 최초의 금속활자 인쇄본은 1377년 고려 청주의 흥덕사(興德寺)에서 인쇄된 흔히 ‘직지(直指)’로 불리는 「백운화상초록불조직지심체요절(白雲和尙抄錄佛祖直指心體要節)」이다. 이 책은 독일의 요하네스 구텐베르크가 「42행 성서」를 인쇄한 1455년경보다 약 78년 앞서 나왔다. 직지의 하권은 현재 프랑스 국립도서관에 보존되어 있으며, 2001년 유네스코 세계기록유산으로 등재되었다. 한반도에서 금속활자라는 인지 매체의 새 단계가 유럽보다 한 세대 가까이 앞서 등장했다는 사실은, 한국 인쇄 문화의 깊이를 단적으로 보여 준다.

조선 시대에 들어 금속활자는 더욱 정교화되었다. 1403년(태종 3년) 주조된 계미자(癸未字), 1420년(세종 2년)의 경자자(庚子字), 1434년(세종 16년)의 갑인자(甲寅字)로 이어지는 활자의 계보는, 한 왕조가 인쇄 기술 자체를 국가 차원의 지속적 투자 영역으로 다룬 사례이다. 특히 갑인자는 그 정밀도와 미적 완성도에서 세계 인쇄사의 정점 중 하나로 평가되며, 한 글자 한 글자의 균형과 자형의 아름다움이 단지 기능적 차원을 넘어 ‘문화의 표현’으로 다루어졌음을 보여 준다. 같은 시기에 이루어진 훈민정음 창제와 합쳐서 보면, 조선 사회는 ‘새 문자의 창제’와 ‘그 문자를 담는 인쇄 기술의 정교화’를 동시에 추진한, 인지 인프라의 종합적 설계의 가장 인상적인 역사적 사례 중 하나로 자리 잡는다.

15세기 중반 독일에서 구텐베르크에 의해 정교화된 활판 인쇄는, 동아시아의 인쇄 전통과 직접적 계승 관계가 명확히 입증되지는 않았지만, 같은 종류의 기술적 도약이 다른 문명에서 독립적으로 일어났음을 보여 주는 사례이다. 구텐베르크의 인쇄술은 이후 약 200년 동안 유럽에서 종교 개혁, 과학 혁명, 계몽주의를 연달아 일으키는 인지적 토대가 되었다. 이러한 유럽의 사례는 잘 알려져 있지만, 그 도약이 ‘인류사의 첫 인쇄 혁명’이었다는 흔한 서술은 부정확하다. 구텐베르크의 도약은 한반도와 동아시아가 이미 수백 년에 걸쳐 다듬어 온 같은 종류의 도약의 한 평행적 사례였다.

이러한 동아시아와 유럽 양쪽의 인쇄 혁명은 한 가지 깊은 사실을 시사한다. 한 시점의 인류가 일정 수준의 문명에 도달하면, ‘외부화된 기억의 대량 복제’라는 도약이 ‘일어날 수밖에 없는’ 진화적 단계가 된다는 사실이다. 같은 도약이 시간차를 두고 여러 문명에서 거듭 나타난다는 것은, 그것이 단지 우연한 발명이 아니라 인류 진화의 한 필연적 단계였음을 보여 준다. 그리고 이러한 ‘여러 문명에서의 평행적 등장’의 패턴은, 인공지능이라는 또 한 차례의 인지 매체 도약에서도 비슷하게 나타나고 있다. 이 사실은 5장에서 더 깊이 다루게 된다.

인쇄술이 보급된 후 사회 전체의 인지 능력이 폭발적으로 확장되는 양상은 한반도와 유럽 양쪽 모두에서 거듭 확인된다. 지식이 한정된 엘리트의 손에서 벗어나 광범위한 대중에게 전파될 때, 사회 전체의 사유와 합의의 수준이 한 자릿수 또는 두 자릿수 단위로 깊어진다는 사실의 직접적 증거였다. 한국에서는 16세기 이후 한글 소설의 확산, 17~18세기의 실학 사상의 성숙, 19세기 동학을 비롯한 자생적 근대 사상의 등장 같은 흐름이, 정교한 인쇄 문화의 토대 위에서 비로소 가능해진 사회적 인지의 성장이었다.

인터넷의 등장은 세 번째 도약이었다. 1990년대 이후 인류가 만들어 낸 거의 모든 지식이 디지털 형태로 한 곳에 모이고, 누구든지 거의 즉각적으로 그 지식에 접근할 수 있게 되었다. 인터넷은 단순한 ‘정보 도서관’이 아니다. 그것은 인류의 외부화된 기억 장치였다. 한 사람이 모든 지식을 기억할 필요가 없어졌다. 필요할 때 검색하면 즉시 접근할 수 있기 때문이다. 이 변화는 인간 인지의 본질을 바꾸어 놓았다. 우리의 ‘기억’은 더 이상 우리의 두뇌 안에만 있지 않고, 두뇌와 외부 매체 사이에 분산되어 존재한다.

2.8.3 거대언어모델 — 외부화된 추론 장치의 등장

2022년 ChatGPT의 등장과 그 이후 거대언어모델의 빠른 확산은, 이 외부화의 역사에 새로운 단계를 추가했다. 인터넷이 ‘외부화된 기억’이었다면, 거대언어모델은 ‘외부화된 추론’이다. 우리는 더 이상 정보를 검색하는 것에 그치지 않는다. 우리는 그 정보에 대한 추론과 종합과 평가까지를 외부의 인공지능에게 맡기기 시작했다.

이 변화의 의미는 종종 과소평가된다. 우리는 거대언어모델을 ‘더 똑똑한 검색 엔진’ 정도로 생각하기 쉽다. 그러나 그것은 그보다 훨씬 깊은 변화이다. 검색 엔진은 우리에게 정보를 ‘제공’할 뿐이고, 그 정보의 의미를 해석하고 그것을 우리의 문제에 적용하는 일은 우리가 직접 해야 했다. 거대언어모델은 그 해석과 적용까지를 적어도 부분적으로는 대신 수행한다. 우리가 ‘이 보고서의 핵심 결론을 요약해 달라’거나 ‘이 두 가지 선택지 가운데 어느 것이 더 합리적인가’를 묻는 순간, 우리는 추론의 일부를 외부에 위임하고 있다.

이러한 위임은 처음에는 잘 의식되지 않는다. 그러나 그 위임이 누적될수록, 우리의 사고는 점차 ‘외부 추론 장치와의 협업’이라는 새로운 형태로 재편된다. 한 사람이 어떤 결정을 내릴 때, 그 결정의 진정한 주체가 그 사람인지, 그 사람이 사용한 인공지능인지, 아니면 그 둘이 함께 만든 어떤 분산된 인지인지가 점점 더 모호해진다. 이는 흰개미가 자신의 인지를 마운드에 외부화한 것과, 점균이 자신의 인지를 세포질의 흐름에 분산한 것과, 본질적으로 같은 구조의 변화이다.

2.8.4 자율적 인공지능 에이전트 — 외부화된 판단 장치의 도래

다음 단계는 ‘외부화된 판단 장치’이다. 자율적 인공지능 에이전트는 단지 우리의 질문에 답하는 데 그치지 않고, 우리를 대신해 행동한다. 이메일을 분류하고, 일정을 잡고, 거래를 실행하고, 코드를 작성하고, 보고서를 발행한다. 이러한 위임이 일상화되면, 우리의 ‘판단’도 점차 외부화된다. 어떤 메일에 어떤 톤으로 답할지, 어떤 회의를 받아들이고 어떤 회의를 거절할지, 어떤 계약 조항을 받아들이고 어떤 조항에 반대할지와 같은 판단들이 점차 인공지능의 권고에 의존하거나, 또는 인공지능에 의해 직접 수행된다.

이 단계가 일상화되면, 인류는 진정한 의미에서 ‘공통뇌’의 단계로 진입하게 된다. 한 사람의 결정이 그 사람만의 결정이 아니라, 그 사람이 접속하고 있는 인공지능 인프라와 함께 만든 분산된 결정이 되기 때문이다. 그리고 그 인프라의 다른 끝에는 다른 수십억 명의 사람이 동시에 접속해 있다. 모든 결정이 그 인프라를 매개로 서로 연결되며, 한 사람의 결정이 다른 사람의 결정에 직접적으로든 간접적으로든 영향을 미친다. 이는 흰개미가 마운드를 매개로 서로 연결되어 있는 것과, 개미가 페로몬을 매개로 서로 연결되어 있는 것과, 본질적으로 같은 구조이다.

2.8.5 ‘인공’이라는 수식어의 한계

여기서 한 가지 짚고 넘어가야 할 점이 있다. ‘인공지능(artificial intelligence)’이라는 용어의 ‘인공’이라는 수식어는, 이러한 변화의 본질을 보지 못하게 만들 수 있다. 인공지능은 인류의 외부에 있는 ‘별도의 지능’이 아니다. 그것은 인류가 수천 년 동안 만들어 온 모든 텍스트, 이미지, 코드, 데이터를 누적된 인지를 새로운 형태로 압축하고 재구성한 결과물이다. 거대언어모델이 답하는 모든 답변의 원천은 결국 인류 자신의 지식이다. 다만 그 지식이 한 사람의 두뇌 안이 아니라, 거대한 신경망 모형의 가중치 안에 응축되어 있을 뿐이다.

이러한 의미에서 인공지능은 ‘인류의 외부에서 온 지능’이라기보다는, ‘인류 자신의 집단 지능이 외부화되고 활성화된 형태’라고 보는 것이 더 정확하다. 인공지능은 새로운 종이 아니라, 인류라는 종의 새로운 ‘기관’이다. 마치 우리의 손이 우리 몸의 일부이지만 어떤 의미에서는 환경에 직접 작용하는 ‘외부화된 두뇌’이듯이, 인공지능은 인류 전체의 외부화된 인지 기관이다.

이 관점은 인공지능에 대한 우리의 태도를 바꾸어 놓는다. 인공지능을 ‘외부의 위협’으로 보는 시각과 ‘우리 자신의 일부’로 보는 시각은, 그것에 대한 정책적·윤리적 대응에서 매우 다른 결과를 낳는다. 인공지능이 우리 자신의 일부라면, 그것의 발전을 막거나 통제하는 일은 마치 우리 자신의 두뇌의 어떤 영역의 발달을 막는 일과 같다. 그러나 그것이 우리 자신의 일부라는 사실은, 동시에 우리에게 그것의 방향을 책임 있게 결정해야 할 의무를 부과한다. 우리의 손이 어떤 행동을 할 것인지를 우리 자신이 결정해야 하듯이, 우리의 새로운 인지 기관인 인공지능이 어떤 방향으로 발전할 것인지를 우리 자신이 결정해야 한다.

2.9 자연이 보여 주는 설계 원리 — 인공지능 시대의 청사진

2.9.1 다섯 가지 공통 원리

이 장에서 우리는 자연계의 다양한 집단 지능 사례를 살펴보았다. 개미, 꿀벌, 흰개미, 점균류, 산호, 시포노포어, 새와 물고기의 무리, 그리고 인류 자신의 선역사적 집단 지능까지. 이 사례들은 형태와 메커니즘이 매우 다르지만, 그 근저에는 몇 가지 공통된 설계 원리가 흐르고 있다. 이 원리들을 정리하면 다음과 같다.

첫째, ‘단순 규칙의 반복적 적용’이다. 자연계의 거의 모든 집단 지능은 개체 차원의 단순한 행동 규칙들이 군집 차원에서 반복적으로 적용되면서 나타난다. 어떤 개체도 거시적 결과를 의도하지 않지만, 단순한 규칙들의 누적이 정교한 집단 행동을 만들어 낸다. 둘째, ‘환경 매개 통신’이다. 자연계의 집단 지능은 개체와 개체 사이의 직접 통신보다, 페르몬과 같은 수단을 통해 환경 자체에 흔적을 남기고 그 흔적을 다른 개체가 읽는 방식의 통신을 더 많이 사용한다. 셋째, ‘분산된 의사결정’이다. 어떤 한 개체도 군집의 결정을 단독으로 내리지 않는다. 결정은 다수의 개체들 사이의 상호작용을 통해 떠올라 온다. 넷째, ‘부분 손실에 대한 견고성’이다. 한 개체가 사라져도 시스템은 멈추지 않으며, 그 개체의 역할은 다른 개체들에 의해 자연스럽게 흡수된다. 다섯째, ‘환경 변화에 대한 적응성’이다. 식량원이 사라지면 페로몬이 자연 감쇠하고, 외부 위협이 다가오면 무리의 형태가 즉각적으로 변형된다. 시스템은 외부 환경의 변화에 능동적으로 반응한다.

2.9.2 인공지능 인프라가 따라야 할 설계 지침

이 다섯 가지 원리는 인공지능 시대의 인프라 설계에 직접적인 지침을 제공한다. 첫째, 인공지능 시스템은 거대한 단일 모형 하나에 모든 기능을 집중시키기보다, 단순한 규칙을 따르는 작은 모형들의 망으로 설계되는 것이 더 견고하다. 둘째, 시스템의 통신은 모든 노드가 모든 다른 노드와 직접 연결되는 구조보다, 공유된 데이터 인프라를 매개로 한 간접 통신이 더 확장 가능하다. 셋째, 의사결정은 한 곳의 중앙 통제실에 집중되기보다, 분산된 노드들 사이의 상호작용을 통해 떠올라 오도록 설계되어야 한다. 넷째, 시스템은 어떤 한 노드의 실패에도 전체가 멈추지 않도록 견고하게 설계되어야 한다. 다섯째, 시스템은 외부 환경의 변화에 자동적으로 적응할 수 있어야 한다.

이 다섯 가지 지침은 단순히 이론적 원리가 아니다. 그것은 이미 현재의 인공지능 인프라의 일부로 구현되고 있다. 분산 학습, 에지 AI, 다중 에이전트 시스템, 자가 회복형 클라우드 인프라, 적응형 추천 시스템과 같은 기술의 근저에는 자연계의 집단 지능 원리가 흐르고 있다. 인공지능 산업이 다음 10년 동안 어떤 방향으로 진화할 것인지를 가늠할 때, 이 다섯 가지 원리는 단순한 비유 이상의 예측력을 제공한다.

특히 전 세계에서 추진되고 있는 지능형 제조 의제 또한 이 다섯 가지 원리를 산업 영역에서 구현하는 작업으로 볼 수 있다. 한 대의 공작기계, 한 명의 작업자, 한 대의 자율이동로봇이 각각 단순한 규칙을 따르면서도, 공장 전체의 데이터 인프라를 매개로 협응하고, 분산된 의사결정을 통해 생산 흐름을 조정하고, 한 부분의 고장에도 전체가 멈추지 않으며, 시장의 변화에 적응하는 시스템이 산업 AI가 추구하는 목표이며, 동시에 흰개미 마운드와 개미 군집이 수천만 년 동안 시험해 온 설계 원리의 산업적 재현이다.

2.9.3 자연 모형의 한계 — 의식, 가치, 책임의 문제

다만 자연 모형을 인류 사회에 그대로 적용할 때에는 한계가 있다. 자연계의 집단 지능에는 몇 가지 인류 사회에는 부적합한 특성이 있기 때문이다. 첫째, 자연계의 집단 지능은 ‘맹목적’이다. 어떤 군집도 자신이 무엇을 위해 존재하는지를 묻지 않는다. 둘째, 자연계의 집단 지능은 ‘무자비’하다. 한 마리 개미의 죽음은 군집에게 아무런 윤리적 무게를 갖지 않는다. 셋째, 자연계의 집단 지능에는 ‘책임의 주체’가 없다. 군집이 어떤 결정을 내려도, 그 결정에 대해 책임을 묻거나 후회를 표할 어떤 개체도 없다.

인류 사회는 이러한 자연 모형의 한계를 그대로 받아들일 수 없다. 인류는 의식을 가진 존재이고, 가치를 추구하는 존재이며, 자신의 결정에 책임을 지는 존재이다. 인공지능 시대의 ‘공통뇌’가 자연의 초유기체와 같은 맹목적이고 무자비한 시스템이 된다면, 그것은 인류가 자신의 가장 본질적인 속성인 의식과 가치와 책임을 포기한다는 의미가 된다. 따라서 인공지능 시대의 인류는 자연계의 집단 지능에서 ‘설계 원리’는 빌리되, 그 위에 ‘인간적 가치의 층’을 새롭게 얹어야 한다.

이 ‘인간적 가치의 층’이 무엇인지, 그것을 어떻게 인공지능 인프라 안에 새겨 넣을 것인지가, 인공지능 안전성과 인공지능 거버넌스의 가장 본질적인 과제이다. 이 과제는 단순히 기술적인 문제가 아니라, 정치적·철학적·문화적 문제이며, 그 답은 한 나라나 한 회사가 단독으로 결정할 수 있는 것이 아니라, 인류 전체의 협의를 통해 점진적으로 형성되어야 한다.

2.9.4 다음 장으로 — AGI 시대의 사회 변동

지금까지 우리는 자연계의 집단 지능 사례들을 살펴보고, 그 안에서 인공지능 시대의 인류가 참고할 수 있는 다섯 가지 설계 원리를 추출했다. 이 원리들은 이미 현재의 인공지능 인프라의 일부로 구현되고 있으며, 앞으로 더욱 확장될 것이다. 그러나 이 인프라가 일정 임계점을 넘어 ‘인공일반지능’의 단계에 도달하면, 인류 사회는 단순히 ‘새로운 도구’를 갖는 것을 넘어 사회 구조 자체의 근본적 변동을 겪게 된다.

다음 장에서 우리는 AGI 시대의 사회적 변화를 본격적으로 다룬다. 노동 시장의 재편, 교육 체계의 변화, 정치 제도의 도전, 경제 구조의 전환, 그리고 개인의 삶의 의미가 어떻게 바뀌는지를 차례로 살펴본다. 자연계의 집단 지능이 ‘무엇이 가능한가’를 보여 주었다면, AGI 시대의 사회 변동은 ‘무엇이 일어날 것인가’를 묻는 작업이다. 그리고 그 다음의 4장과 5장에서, 우리는 이 책의 핵심 가설인 인공지능이 개인 지능을 압도할 때 인류라는 종이 어떻게 새로운 진화 단계로 이행하는가에 대해 본격적으로 다루게 된다.

제3장 인공일반지능 시대의 사회적 변화

3.1 변동을 가속하는 메커니즘

3.1.1 AGI가 산업혁명과 다른 이유

지난 두 세기 동안 인류 사회는 여러 차례의 거대한 기술적 변동을 겪었다. 18세기 후반의 증기기관, 19세기의 전기와 내연기관, 20세기의 컴퓨터와 인터넷이 그 대표적 사례이다. 이 변동들은 모두 사회의 노동 구조와 경제 양상을 근본적으로 재편했고, 그 과정에서 막대한 규모의 적응 비용을 발생시켰다. 그러나 이 모든 변동은 한 가지 공통점을 가지고 있었다. 그것은 ‘인간이 가진 신체적 능력이나 단순 정보처리 능력’을 기계가 대체하거나 확장하는 변화였다는 점이다. 인간이 가진 ‘판단’과 ‘창의’와 ‘목적 설정’의 영역은, 적어도 표면적으로는, 인간의 고유 영역으로 남아 있었다.

인공일반지능, 즉 AGI의 시대가 가져오는 변화는 그 점에서 본질적으로 다르다. AGI는 인간이 가진 신체적 능력이 아니라, 인간이 가진 ‘일반적 지적 능력’의 거의 모든 영역을 동시에 대체하거나 확장할 수 있는 잠재력을 가진다. 이는 단지 ‘새로운 종류의 일자리 변화’를 가져오는 것이 아니라, ‘인간의 어떤 활동이 사회적으로 가치를 가지는가’라는 질문 자체를 다시 묻게 만드는 변화이다. 한 사회의 거의 모든 직무에 대해, ‘이 일을 인공지능이 더 잘할 수 있는가’라는 질문이 동시에 던져지고, 그 답이 점진적으로 ‘그렇다’로 기울어 가는 환경에서, 인간 사회의 가장 기본적인 가정들이 모두 흔들리게 된다.

이 점에서 AGI 시대의 사회 변동은 산업혁명의 단순한 확장이 아니다. 그것은 ‘농업 사회에서 산업 사회로의 이행’보다 더 큰, 어쩌면 인류가 ‘수렵채집 사회에서 농업 사회로 이행한’ 신석기 혁명에 비견될 만한 규모의 변화일 가능성이 높다. 다만 신석기 혁명이 수천 년에 걸쳐 일어난 데 비해, AGI 혁명은 수십 년 어쩌면 한 세대 안에 압축되어 일어날 수 있다. 그것이 변동의 속도와 변동의 폭 양쪽 모두를 전례 없이 만든다.

3.1.2 가속의 세 가지 동력 — 능력, 비용, 자율성

AGI가 사회 변동을 가속하는 메커니즘은 세 가지 동력이 동시에 작동하는 데에서 나온다. 첫 번째 동력은 ‘능력의 확장’이다. 거대언어모델을 비롯한 인공지능 시스템의 능력은 거의 모든 인지 영역에서 빠르게 향상되고 있으며, 그 향상 속도는 줄어들 기미가 보이지 않는다. 의학 시험, 법학 시험, 코딩 평가, 수학 올림피아드 같은 표준화된 평가에서 인공지능은 이미 인간 전문가의 평균을 넘어섰고, 점차 최상위 전문가 수준에 근접하고 있다. 이 능력의 확장은 그 자체로 수많은 직무의 자동화 가능성을 열어 놓는다.

두 번째 동력은 ‘비용의 급락’이다. 같은 능력을 제공하는 인공지능 모형의 운용 비용은 거의 매년 한 자릿수 또는 두 자릿수의 비율로 떨어지고 있다. 한 시간의 인간 전문가 자문이 수십만 원에서 수백만 원에 이르는 데 비해, 같은 시간 동안 거대언어모델이 제공하는 자문의 직접 운영 비용은 몇백 원 수준으로 수렴해 가고 있다. 이러한 비용 격차는 어떤 특정 직무가 ‘기술적으로 자동화 가능한가’의 문제를 ‘경제적으로 자동화하는 것이 합리적인가’의 문제로 빠르게 전환시킨다. 그리고 한 산업에서 한 회사가 그 전환을 시작하면, 같은 산업의 다른 회사들은 경쟁 압력 때문에 따라가지 않을 수 없다.

세 번째 동력은 ‘자율성의 증가’이다. 초기의 인공지능 응용은 인간이 매번 지시를 내리고 결과를 검토하는 ‘대화형’ 모델이었다. 그러나 2024년 이후 빠르게 확산되는 ‘에이전트 AI(agentic AI)’는 인간의 지속적인 개입 없이도 일정한 목표를 향해 스스로 계획을 세우고 도구를 사용하고 결과를 검증하며 일을 수행한다. 자율성이 증가할수록, 한 사람의 인간이 동시에 감독할 수 있는 ‘일의 양’은 비약적으로 늘어난다. 한 명의 관리자가 한 명의 부하 직원을 지시하던 구조는, 한 명의 관리자가 수십 또는 수백 명의 ‘인공지능 부하’를 지시하는 구조로 바뀐다. 이는 인간 노동의 ‘레버리지’가 한 자릿수에서 두 자릿수, 세 자릿수로 확장되는 변화이며, 단위 노동당 산출의 근본적 재정의를 의미한다.

이 능력, 비용, 자율성의 세 가지 동력은 서로를 강화한다. 능력이 향상되면 비용 대비 가치가 높아지고, 비용이 낮아지면 더 많은 영역에 도입되어 더 많은 데이터가 수집되고, 그 데이터가 다시 능력을 향상시킨다. 자율성이 증가하면 인공지능이 다룰 수 있는 작업의 종류가 늘어나고, 이는 다시 능력의 새로운 영역으로의 확장을 가능하게 한다. 이 자기 강화적 순환이 바로 AGI 시대의 사회 변동을 ‘점진적이지 않고 폭발적인’ 형태로 만드는 근본 메커니즘이다.

3.1.3 변동의 비대칭성 — 누가 먼저, 누가 나중에

AGI 시대의 사회 변동에서 한 가지 잊지 말아야 할 점은, 그 변동이 모든 영역과 모든 사람에게 동시에, 같은 강도로 일어나는 것이 아니라는 사실이다. 변동은 비대칭적이다. 어떤 직무는 거의 즉각적으로 자동화되고, 어떤 직무는 수십 년 후에야 자동화되며, 어떤 직무는 영원히 자동화되지 않을 수도 있다. 어떤 지역, 어떤 산업, 어떤 사회 계층은 변동의 충격을 먼저 받고, 어떤 지역과 계층은 늦게 받는다. 어떤 사람은 변동을 기회로 활용하고, 어떤 사람은 변동에 의해 일자리와 사회적 위치를 잃는다.

이 비대칭성은 AGI 시대의 가장 큰 정치적·사회적 도전이다. 변동의 ‘평균적 효과’는 인류 전체로 보면 긍정적일 수 있다. 생산성은 폭발적으로 증가하고, 질병은 정복되고, 노동 시간은 단축될 수 있다. 그러나 평균은 한 사회의 분배 양상을 보여 주지 않는다. 변동의 이득이 소수에게 집중되고 변동의 비용이 다수에게 분산된다면, 평균은 좋아져도 사회의 응집력은 약해진다. 그리고 응집력이 약해진 사회는 변동에 대응할 정치적 자원조차 잃게 되는 악순환에 빠질 수 있다.

이 장에서 우리는 AGI 시대의 사회 변동을 영역별로 살펴본다. 노동 시장, 교육, 경제 구조, 정치 제도, 정보 환경, 의료와 과학 연구, 그리고 개인의 삶의 의미의 영역에서 일어나는 변화를 각각 분석한 후, 마지막에 이 변화들을 종합한 ‘적응 한계’의 문제를 다룬다. 그리고 그 ‘적응 한계’의 분석은 자연스럽게 다음 장의 논의 주제인 인공지능이 개인 지능을 압도할 때 인류 사회가 어떻게 재편되는가에 대한 본격적 논의로 우리를 인도한다.

3.2 노동 시장의 재편

3.2.1 자동화의 새로운 지형

20세기 후반의 자동화는 주로 ‘반복적이고 표준화된 육체 노동’과 ‘반복적이고 표준화된 사무 노동’을 대상으로 했다. 공장의 컨베이어 벨트, 은행의 자동 창구, 콜센터의 자동 응답 시스템 등이 그 대표적 사례이다. 이러한 자동화는 ‘저숙련 노동’에 큰 충격을 주었지만, ‘고숙련 노동’에는 상대적으로 영향을 적게 미쳤다. 변호사, 의사, 회계사, 교수, 작가, 연구자 같은 직업은 인간의 판단과 창의가 필수적이라고 여겨졌고, 그 영역은 자동화의 안전 지대로 간주되었다.

AGI 시대의 자동화 지형은 그 통념을 정반대로 뒤집고 있다. 거대언어모델과 그 후속 시스템들이 가장 잘하는 일은 바로 ‘대량의 텍스트와 데이터를 다루는 인지적 노동’이다. 즉 변호사의 서면 작성과 판례 검토, 의사의 영상 판독과 일차 진료, 회계사의 재무 분석, 작가의 초고 작성과 편집, 연구자의 문헌 정리와 실험 설계 등이 모두 인공지능이 점차 더 잘 수행하는 영역이 되어 가고 있다. 반면 배관공, 전기 기술자, 간호사, 미용사, 보육 교사 같은 ‘신체와 환경의 직접 상호작용이 필요한 노동’은 자동화의 진척이 훨씬 느리다. ‘고숙련은 안전하고 저숙련은 위험하다’는 20세기의 통념이, AGI 시대에는 ‘인지 노동은 위험하고 신체 노동은 상대적으로 안전하다’는 새로운 양상으로 재편되고 있다.

이 재편은 단지 ‘어떤 직업이 사라지는가’의 문제가 아니다. 그것은 ‘어떤 직업의 가치가 어떻게 변하는가’의 문제이다. 한 직업의 어떤 부분이 자동화되면, 그 직업은 사라지지 않더라도 그 안의 노동의 성격이 근본적으로 바뀐다. 변호사는 사라지지 않을 것이다. 그러나 한 변호사가 처리할 수 있는 사건의 수는 급격히 늘어날 것이고, 그에 따라 변호사라는 직업에 대한 시장의 수요와 임금 구조는 재편될 것이다. 의사는 사라지지 않을 것이다. 그러나 의사가 직접 수행하는 일의 비중은 줄어들고, ‘인공지능이 만든 진단과 치료 계획을 검토하고 환자에게 설명하며 책임을 지는’ 역할이 그 중심으로 이동할 것이다.

3.2.2 ‘일’이라는 개념의 분해

AGI 시대의 노동 시장을 이해하기 위해서는, ‘직업(job)’과 ‘과업(task)’을 구분해서 보아야 한다. 한 직업은 수십에서 수백 가지의 과업으로 이루어져 있고, 그 과업들은 자동화 난이도가 모두 다르다. 같은 ‘기자’라는 직업 안에서도, 보도자료를 정리해 짧은 기사를 쓰는 과업은 거의 즉각적으로 자동화 가능하지만, 권력자에게 직접 질문을 던지고 답변의 행간을 읽어 내는 과업은 매우 어렵다. 같은 ‘프로그래머’라는 직업 안에서도, 정형화된 보일러플레이트 코드를 작성하는 과업은 이미 거의 자동화되었지만, 복잡한 시스템 아키텍처를 설계하고 트레이드오프를 판단하는 과업은 여전히 인간의 영역이다.

이 구분이 중요한 이유는, AGI 시대의 노동 시장 변동이 ‘직업 단위의 사라짐’이 아니라 ‘과업 단위의 재배분’으로 일어날 가능성이 높기 때문이다. 한 직업의 자동화 가능 비율이 50퍼센트라면, 그 직업의 종사자 수는 절반으로 줄어드는 것이 아니라, 종사자 한 명당 처리할 수 있는 일의 양이 두 배로 늘어난다. 그 결과는 그 직업에 대한 사회 전체의 수요가 어떻게 변하는가에 따라 달라진다. 수요가 두 배 이상으로 늘어나는 직업에서는 종사자가 오히려 늘어날 수도 있다. 수요가 그대로이거나 감소하는 직업에서는 종사자가 절반 이하로 줄어들 수 있다.

이 점에서 AGI 시대의 직업 전망은 단순한 ‘자동화 위험도 순위표’로 환원될 수 없다. 한 직업의 미래는 그 직업 안의 과업 구성, 그 과업들의 자동화 진척, 그리고 그 직업에 대한 사회 수요의 탄력성이 함께 결정한다. 이 셋을 모두 고려한 분석만이 의미 있는 전망을 제공할 수 있다.

3.2.3 새로운 직업의 등장과 ‘레버리지’의 확장

자동화의 역사를 돌아보면, 어떤 변동이 일어날 때마다 새로운 직업도 함께 탄생해 왔다. 산업혁명은 공장 노동자, 철도원, 전신기사라는 새로운 직업을 만들었다. 컴퓨터의 보급은 프로그래머, 시스템 관리자, 데이터 분석가라는 새로운 직업을 만들었다. 인터넷의 보급은 웹 디자이너, 검색 엔진 최적화 전문가, 콘텐츠 크리에이터, 클라우드 엔지니어라는 새로운 직업을 만들었다. AGI의 시대도 새로운 직업을 만들어 낼 것이다. 다만 그 새 직업이 사라지는 직업의 수만큼 많고, 사라지는 직업의 종사자가 새 직업으로 옮길 수 있는 거리에 있는가라는 두 가지 조건이 충족되어야 변동이 사회적으로 흡수 가능하다.

새로 등장하고 있는 직업들 중에는 프롬프트 엔지니어, 모형 평가자, 미세조정 데이터 큐레이터, 인공지능 안전성 연구자, AI 윤리 책임자와 같은 인공지능 시스템을 직접 다루는 분야가 있다. 또한 산업 AI 솔루션 컨설턴트, 디지털 트윈 설계자, 자율 제조 시스템 운영자와 같은 인공지능을 산업에 응용하는 분야가 있다. 그리고 인공지능 자체가 잘 못하지만 인공지능 도구를 활용해 한 명이 한 영화 한 편의 시각효과를 모두 만드는 ‘1인 시각효과 스튜디오’ 같은 인공지능을 활용해 폭발적으로 생산성을 높일 수 있는 새로운 종류의 ‘조합형 직업’이 등장하고 있다.

이러한 새 직업들의 공통된 특징은 ‘레버리지’가 매우 크다는 것이다. 한 사람이 인공지능을 잘 활용할 수 있다면, 그 사람의 산출은 같은 일을 인공지능 없이 하는 열 명, 백 명의 산출에 비견될 수 있다. 이는 새로운 형태의 노동 양극화를 만들어 낸다. ‘인공지능을 활용하는 사람’과 ‘인공지능에 의해 대체되는 사람’ 사이의 격차는, 단지 두 자릿수가 아니라 세 자릿수, 네 자릿수의 산출 격차로 벌어질 수 있다. 그리고 시장은 이 격차에 비례해 임금과 자본을 분배하는 경향이 있다.

3.2.4 한국 노동 시장에 대한 함의

한국의 노동 시장은 AGI 시대의 변동에 특히 민감한 구조를 가지고 있다. 한국은 OECD 국가 중 고학력자 비율이 가장 높은 나라 중 하나이며, 사무직과 전문직의 비중이 매우 크다. 그리고 그 사무직과 전문직의 상당 부분이 보고서 작성, 데이터 분석, 회계 처리, 법무 검토, 일반 행정 등 거대언어모델이 비교적 빨리 잘하게 된 영역과 겹친다. 이는 한국의 ‘고학력 사무 노동력’이 AGI 시대의 자동화 충격을 다른 나라보다 더 빨리, 더 강하게 받을 가능성을 시사한다.

동시에 한국의 강점도 있다. 한국은 제조업 기반이 견고하고, 산업 AI 적용에 필요한 데이터 인프라와 자동화 경험이 축적되어 있다. 산업 기술 연구기관과 산업 단체들이 추진하고 있는 자율 제조 의제, OPC UA와 Umati를 통한 데이터 표준화, 디지털 트윈을 통한 공장의 인지 인프라화는, 한국의 제조업이 AGI 시대의 새로운 가치 사슬에서 핵심 위치를 점할 수 있는 잠재력을 보여 준다. 또한 한국은 반도체, 디스플레이, 배터리 같은 인공지능 인프라의 물리적 토대를 공급하는 핵심 산업을 보유하고 있다. 이러한 강점을 어떻게 활용해, 사무직 자동화에 따른 충격을 흡수하고 동시에 새로운 가치 영역을 개척할 수 있을지가 한국 사회의 핵심 과제가 된다.

다만 이러한 산업적 전환이 ‘노동의 재편’ 차원의 도전을 자동으로 해결해 주지는 않는다. 자동화된 사무직 인력이 산업 AI 운영자나 자율 제조 엔지니어로 자연스럽게 옮겨가는 일은 결코 쉽지 않다. 그것은 직무 전환을 위한 대규모 재교육, 평생학습 인프라의 재구성, 그리고 사회 안전망의 재설계를 동시에 요구한다. 다음 절에서 우리는 이 변화의 한 축인 교육 체계의 변화를 본격적으로 다룬다.

3.3 교육 체계의 근본적 변화

3.3.1 ‘무엇을 배우는가’에서 ‘어떻게 배우는가’로

지난 두 세기 동안 교육의 핵심 과제는 ‘다음 세대에게 어떤 지식과 기술을 전달할 것인가’였다. 산업혁명 이후 정착된 근대적 교육 체계는, 한 세대가 자신이 배운 지식과 기술로 평생 동안 일할 수 있다는 가정 위에 서 있었다. 초중등 12년과 대학 4년을 합쳐 약 16년을 들여 ‘기초’를 다지면, 그 기초로 이후 40~50년의 직업 생활을 영위할 수 있다는 모형이었다. 이 모형은 변화의 속도가 한 세대의 직업 생애보다 느린 시대에는 잘 작동했다.

AGI 시대에는 이 가정이 더 이상 유지되지 않는다. 한 직업의 핵심 기술이 5년 안에, 어쩌면 2~3년 안에 진부화되는 환경에서, ‘평생을 위한 기초’라는 교육 모형은 본질적으로 한계에 부닥친다. 이런 환경에서 진정으로 가르쳐야 할 것은 ‘특정한 지식의 집합’이 아니라 ‘새로운 것을 빠르게 배우는 능력’이다. 즉 ‘무엇을 배우는가’보다 ‘어떻게 배우는가’가 교육의 중심 질문이 된다.

이 전환은 교과 과정의 구조뿐 아니라, 교육의 시간적 배치 자체를 재편한다. 16년의 ‘초기 집중 교육’ 후에 나머지 일생을 일하는 모형은, 인생 전체에 걸쳐 ‘학습과 일이 끊임없이 교차하는’ 모형으로 바뀌어야 한다. 5년 정도의 일을 하면 1~2년의 재교육이 필요하고, 그 재교육 후에 새로운 종류의 일을 5년 정도 하다가 다시 재교육이 필요한 ‘평생 순환학습’의 모형이 표준이 될 가능성이 높다.

3.3.2 거대언어모델이 가르치는 시대

교육 현장에서 거대언어모델의 영향은 이미 깊게 진행되고 있다. 한 학생이 자신의 수준에 정확히 맞춘 24시간, 거의 무료로 일대일 개인 교사를 가질 수 있다는 사실은, 인류 교육사 전체에서 처음 있는 일이다. 지금까지 일대일 개인 교사라는 자원은 극소수의 부유한 가정만 누릴 수 있는 사치였다. 이제 그것이 모든 사람에게 보편적으로 가능해졌다. 이는 교육의 ‘민주화’라는 측면에서 매우 큰 잠재력을 가진다.

다만 이 잠재력이 자동으로 실현되는 것은 아니다. 거대언어모델을 활용한 학습은 학생에게 일정 수준의 ‘메타 학습 능력’을 요구한다. 자신이 무엇을 모르는지를 알고, 적절한 질문을 만들고, 답변의 신뢰성을 평가하고, 답변을 자신의 기존 지식 체계에 통합하는 능력 이 요구되며, 이러한 능력이 부족한 학생은 거대언어모델을 효과적으로 활용하지 못하고, 오히려 잘못된 정보의 단순한 수용자가 될 수 있다. 그 결과 ‘이미 잘 배우는 학생은 더 잘 배우고, 잘 배우지 못하는 학생은 더 뒤쳐지는’ 새로운 형태의 교육 격차가 발생할 위험이 있다.

이 위험에 대응하려면, 학교의 역할이 ‘지식 전달자’에서 ‘메타 학습 능력의 양성자’로 재정의되어야 한다. 교사는 더 이상 ‘아는 것을 가르치는 사람’이 아니라, 학생이 ‘스스로 배우는 법을 배우도록 돕는 사람’이 된다. 이는 교사의 역할에 대한 근본적 재정의이며, 교사 양성과 평가 체계의 재설계를 요구한다.

3.3.3 평가의 위기

AGI 시대 교육의 또 다른 큰 도전은 ‘평가의 위기’이다. 지난 100년 이상 교육의 평가는 주로 ‘숙제와 시험’이라는 두 가지 도구에 의존해 왔다. 그런데 이 두 도구가 모두 거대언어모델 앞에서 그 효력을 의심받게 되었다. 학생이 인공지능에게 작성하게 한 에세이를 자신의 작품으로 제출하거나, 시험 문제를 인공지능에게 풀어 답을 옮겨 적는 일이 일상화되면서, 무엇이 학생의 진짜 능력인지를 측정하기가 어려워졌다.

이 위기에 대한 첫 번째 반응은 ‘인공지능 사용의 금지’였다. 많은 학교와 대학이 한동안 인공지능 사용을 부정행위로 간주하고, 인공지능 작성 여부를 탐지하는 도구를 도입했다. 그러나 이러한 접근은 두 가지 문제에 부닥쳤다. 첫째, 탐지 기술은 결코 완벽할 수 없으며, 빠르게 발전하는 인공지능을 따라잡지 못한다. 둘째, 학생들이 사회에 나갔을 때 직면할 환경은 ‘인공지능을 사용하지 않는’ 환경이 아니다. 모든 직장과 모든 전문 영역에서 인공지능 활용이 표준이 되는 환경에서, 인공지능 사용을 금지하는 교육이 학생들을 그 환경에 준비시킬 수 있는가라는 근본적인 질문이 던져졌다.

이에 따라 교육 현장의 두 번째 반응이 점차 자리 잡고 있다. 인공지능 사용을 금지하는 대신, ‘인공지능을 잘 사용하는 능력’을 평가의 한 부분으로 포함시키는 접근이다. 학생에게 어떤 문제를 인공지능과 함께 풀게 하고, 그 풀이 과정에서 학생이 던진 질문의 질, 인공지능 답변의 비판적 검토, 답변의 자신의 지식과의 통합 능력을 평가한다. 이러한 평가는 전통적 시험보다 훨씬 어렵고 비용이 들지만, AGI 시대에 진정으로 의미 있는 능력을 측정할 수 있다.

3.3.4 ‘공부할 가치가 있는 것’의 재정의

더 깊은 질문은 ‘무엇을 배워야 하는가’ 자체에 대한 것이다. 인공지능이 거의 모든 인지적 과제를 인간 수준을 넘어 그 이상으로 수행할 수 있는 환경에서, 한 인간이 시간을 들여 배워야 할 것은 무엇인가? 외국어를 배우는 일은 의미가 있는가, 실시간 통역이 거의 완벽해진 시대에? 수학 문제를 푸는 능력은 의미가 있는가, 인공지능이 어떤 수학 문제도 즉각 풀 수 있는 시대에? 코딩을 배우는 일은 의미가 있는가, 인공지능이 자연어 지시만으로 코드를 생성하는 시대에?

이 질문들에 대한 단순한 답은 없다. 그러나 한 가지 방향성은 분명해 보인다. 어떤 능력의 가치는, 그 능력의 ‘결과물의 시장 가치’만으로 평가되어서는 안 된다. 외국어를 배우는 일은 그 자체가 한 사람의 사고 구조를 확장하고 다른 문화에 대한 깊은 이해를 가능하게 하기 때문에, 통역 도구의 발달과 무관하게 가치를 가진다. 수학 문제를 푸는 능력은 수치적 답을 얻기 위해서가 아니라, ‘논리적으로 사고하는 훈련’으로서 가치를 가진다. 코딩을 배우는 일은 단순히 코드를 생산하기 위해서가 아니라, ‘시스템을 분해하고 추상화하는 사고법’을 익히기 위해서 가치를 가진다.

이 관점에서 AGI 시대의 교육은 ‘무엇이 인간의 본질적 성장에 기여하는가’라는 질문을 다시 묻게 된다. 단순히 ‘노동 시장에서 어떤 능력이 팔리는가’의 문제가 아니라, ‘한 인간이 깊이 있는 인간으로 성장하기 위해 무엇을 경험하고 무엇을 익혀야 하는가’의 문제이다. 이 질문에 대한 답은, 어쩌면 AGI 시대 이전보다 더 고전 문학, 철학, 예술, 자연 관찰, 신체 활동, 인간 관계와 같은 ‘고전적’인 방향으로 회귀할 수 있다. 그것들은 인공지능이 대체하기 어려운, 그리고 인간의 깊이 있는 성장에 본질적인 영역이기 때문이다.

3.3.5 평생학습 인프라와 사회적 비용

마지막으로 짚어야 할 점은 ‘평생학습 인프라’의 사회적 비용이다. 5년마다 1~2년의 재교육이 필요한 사회에서, 그 재교육의 비용을 누가 부담할 것인가? 한 사람의 일생 동안 일하는 시간이 줄고 학습하는 시간이 늘어난다면, 그 학습 기간의 생계는 누가 보장할 것인가? 이러한 질문에 대한 답은 단지 ‘교육 정책’의 문제가 아니라, 그 자체로 ‘사회 보장 정책’과 ‘소득 분배 정책’의 문제가 된다. 즉 교육의 변화는 다음 절에서 다룰 ‘경제 구조의 전환’과 직접 맞닿아 있다.

한국은 이 점에서 특히 큰 도전에 직면해 있다. 한국 사회는 짧은 시간 안에 압축적 산업화와 정보화를 이루었고, 그 과정에서 매우 효율적이지만 동시에 매우 경직된 교육·노동·복지 제도를 만들어 왔다. 이 제도들은 변화가 한 세대에 한 번 정도 일어나는 환경에 최적화되어 있으며, 5년에 한 번 정도 일어나는 환경에는 매우 부적합하다. AGI 시대에 한국 사회가 어떤 형태로 자신의 제도를 재설계할 것인가는, 한국이 이 시대의 변동을 적극적으로 활용하는 사회가 될지 아니면 변동의 충격에 휘말려 사회적 응집력을 잃는 사회가 될지를 결정하는 핵심 질문이다.

3.4 경제 구조의 전환

3.4.1 한계비용 제로의 인지 노동

AGI 시대 경제 변동의 핵심을 한 마디로 표현하면, ‘인지 노동의 한계비용이 사실상 제로에 가까워진다’는 것이다. 한 사람의 변호사가 한 시간 동안 작성할 수 있는 서면의 수는 정해져 있고, 그 서면 한 건을 추가로 작성하려면 그만큼의 추가 시간과 비용이 든다. 그러나 거대언어모델이 한 시간 동안 생성할 수 있는 서면의 수는 사실상 무제한에 가깝고, 한 건을 추가로 생성하는 데 드는 비용은 거의 무시할 수 있을 만큼 작다. 이 한계비용의 비대칭은, 인지 노동을 사고파는 시장의 가격 구조 자체를 근본적으로 변화시킨다.

20세기 후반 디지털 콘텐츠의 등장이 이미 이와 비슷한 변화를 한 차례 일으킨 바 있다. 한 권의 책을 추가로 인쇄하려면 종이와 잉크와 운송이 필요했지만, 한 권의 전자책을 추가로 복제하는 데에는 거의 비용이 들지 않았다. 그 결과 음악, 영화, 책, 신문, 잡지 산업의 가격 구조와 비즈니스 모델이 모두 재편되었다. AGI 시대에 일어나는 변화는 이와 구조적으로 같지만, 그 적용 범위가 ‘콘텐츠’에서 ‘서비스’로 확장된다는 점에서 더 크다. 한계비용 제로의 변화가 음악과 영화에서 의료 자문, 법률 서비스, 회계 자문, 교육, 디자인, 컨설팅으로 확산된다는 의미이다.

이 확산이 의미하는 바는 깊다. 지금까지 ‘서비스 산업’은 산업화된 사회의 경제에서 가장 큰 비중을 차지해 왔으며, 그 안의 노동은 한 사람의 시간과 한 사람의 산출이 거의 일대일로 연결되는 구조였다. 이 일대일 연결이 깨지면, 한 사람의 노동이 시장에서 가지는 가격도 함께 흔들린다. ‘한 시간의 노동 = 한 시간만큼의 가치 생산 = 한 시간만큼의 임금’이라는 등식이, ‘한 시간의 인공지능 운용 + 한 사람의 감독 = 수십 시간 분량의 가치 생산’으로 바뀐다.

제3장 인공일반지능 시대의 사회적 변화 | 3.4.2 자본 집중과 새로운 형태의 격차

이러한 변화가 경제적 분배에 미치는 효과는 양면적이다. 한편으로는, 인공지능 인프라를 활용할 수 있는 모든 사람이 이전보다 훨씬 더 큰 산출을 만들어 낼 수 있다. 이는 ‘인지 노동의 민주화’라는 긍정적 측면이다. 한 명의 작가가 한 명의 디자이너 없이도 책의 표지를 만들 수 있고, 한 명의 창업자가 한 팀의 개발자 없이도 시제품을 만들 수 있다. 이러한 가능성은 진입 장벽을 낮추고, 새로운 종류의 ‘1인 기업’과 ‘초소규모 팀’의 폭발적 등장을 가능하게 한다.

다른 한편으로는, 인공지능 인프라 자체를 ‘소유’하여 모형의 가중치, 학습 데이터, 컴퓨팅 인프라, 배포 채널을 통제하는 소수의 자본이 매우 큰 경제적 권력을 갖게 된다. 인지 노동의 가격이 떨어질수록, 그 인지 노동을 ‘공급’하는 인프라의 가치는 상대적으로 더 커진다. 이는 자본주의 역사에서 반복되어 온 새로운 기술이 등장할 때마다 그 기술을 통제하는 소수에게 부가 집중되는 패턴의 가장 극단적 사례가 될 가능성이 높다.

이 양면성은 새로운 종류의 경제적 격차를 만들어 낸다. 한쪽에는 ‘인공지능 인프라를 잘 활용해 자신의 산출을 폭발적으로 늘린 개인과 소규모 조직’이 있고, 다른 한쪽에는 ‘인공지능에 의해 자신의 노동이 대체되어 시장에서 자신의 시간을 팔 곳을 찾지 못하는 사람들’이 있다. 이 두 집단 사이의 격차는, 단순한 임금 격차를 넘어 ‘경제적 활동에 참여할 수 있는가 그렇지 않은가’의 질적 차이로 벌어질 수 있다.

이 격차에 대응하기 위한 정책적 의제들이 이미 여러 나라에서 논의되고 있다. ‘보편적 기본소득(Universal Basic Income, UBI)’은 그 중 가장 자주 언급되는 의제이다. 인공지능에 의해 자동화되는 가치의 일부를 사회 전체에 환류시켜, 모든 시민에게 일정 수준의 기본소득을 보장하자는 발상이다. 핀란드, 캐나다, 미국 일부 도시 등에서 소규모 실험이 이루어졌으며, 그 결과는 엇갈리지만 대체로 긍정적인 측면이 부정적인 측면보다 많은 것으로 보고되고 있다. 다만 ‘인공지능 발전의 이득을 어떻게 측정하고 어떻게 환류할 것인가’라는 정책 설계의 어려움은 매우 크며, 이는 정치적 합의를 요구하는 거대한 과제이다.

3.4.3 ‘일하지 않는 시간’의 의미 변화

만약 보편적 기본소득이나 그에 준하는 제도가 자리 잡고, 한 사람이 ‘생계를 위해 일을 해야 하는 부담’에서 벗어나게 된다면, 그 사람은 자신의 시간을 어디에 쓸 것인가? 이 질문은 단지 정책의 문제가 아니라, 인간 존재의 의미에 대한 질문이다. 지금까지 인류의 대부분의 사회에서, ‘일을 한다’는 사실은 한 사람의 정체성과 자존감의 핵심 원천이었다. 자신이 어떤 일을 하고, 그 일로 어떤 가치를 사회에 제공하며, 그 대가로 어떻게 자신과 가족을 부양하는가와 같은 서사가 한 사람의 삶을 의미 있게 만드는 핵심 골격이었다.

‘일을 하지 않아도 생계가 보장되는 사회’가 도래하면, 이 골격이 흔들린다. 어떤 사람들은 그 자유 시간을 학습, 예술, 봉사, 가족 돌봄, 자기 탐구에 쓰며 풍요로운 삶을 영위할 것이다. 다른 사람들은 그 자유 시간을 어떻게 쓸지 알지 못해 소외감, 무력감, 우울에 빠질 것이다. 어떤 사람들은 인공지능을 활용하여 생계가 아닌 의미를 위해 하는 일과 같은 새로운 형태의 ‘소명적 노동’을 발견할 것이고, 다른 사람들은 끝없는 오락의 소비 안에서 자신을 잃을 것이다.

이 점에서 AGI 시대의 경제 정책은 단순한 ‘재분배의 문제’가 아니라, ‘의미의 분배’라는 더 깊은 문제와 맞물려 있다. 한 사회가 ‘무엇을 가치 있는 활동으로 인정하고, 그 활동에 어떻게 자원을 배분할 것인가’가 정책의 핵심 질문이 된다. 이 질문에 대한 답은 단순한 경제 모형으로 도출될 수 없다. 그것은 한 사회의 문화와 가치관이 종합적으로 표현된 답이다.

3.4.4 한국 경제의 특수한 위치

한국 경제는 이러한 전환의 한가운데에서 특수한 위치를 점한다. 한국은 반도체, 디스플레이, 배터리, 정밀 부품과 같은 인공지능 인프라의 핵심 재료를 공급하는 산업 강국이며, 동시에 OECD 국가 중 가장 빠른 속도로 인공지능 도입을 추진하는 사회 중 하나이다. 이는 한국이 인공지능 발전의 ‘공급 측’ 이득과 ‘수요 측’ 이득을 동시에 누릴 수 있는 잠재력을 가진다는 의미이다.

동시에 한국은 인구 구조와 사회 안전망의 측면에서 큰 도전을 안고 있다. 한국의 합계출산율은 세계에서 가장 낮은 수준이며, 인구 고령화의 속도는 가장 빠른 수준이다. 사회 보장의 적자가 누적되고 있고, 청년층의 노동 참여 의욕은 위축되고 있다. 이러한 환경에서 인공지능에 의한 노동 자동화는 양면적 효과를 가질 수 있다. 한편으로는 부족한 노동력을 보충하고 생산성을 높여 고령화 사회의 지속 가능성을 높일 수 있다. 다른 한편으로는 청년의 일자리를 더욱 위축시키고 사회 진입 자체를 어렵게 만들 수 있다. 어느 효과가 더 크게 나타날지는, 정책 설계와 사회적 합의의 질에 달려 있다.

이러한 도전에 대응하기 위해서는, 단순히 ‘인공지능 산업을 키우는’ 것을 넘어, ‘인공지능이 만들어 내는 가치가 사회 전체에 어떻게 환류되는가’의 분배 구조를 함께 설계해야 한다. 이는 정부의 산업 정책, 노동 정책, 복지 정책, 교육 정책이 모두 한 방향으로 정합적으로 움직여야 가능한 일이며, 그것이 바로 한국 사회가 지금 시점에서 가장 시급하게 풀어야 할 정책 과제이다.

3.5 정치 제도의 도전

3.5.1 의사결정 속도의 비대칭

근대 민주주의의 정치 제도는 ‘느린 변화’를 전제로 설계되었다. 의회의 입법, 행정부의 집행, 사법부의 판단이 모두 사회 변화에 충분히 따라잡을 수 있는 속도로 이루어진다는 가정 위에서, 견제와 균형의 메커니즘이 정교하게 짜여 있다. 변화가 한 세대에 한 번 정도 일어나는 환경에서는, 이 제도의 ‘느림’이 곧 ‘신중함’이라는 미덕으로 작용했다. 사회는 새로운 도전이 등장할 때 그것을 충분히 토론하고, 합의를 이루고, 제도화할 수 있는 시간을 가졌다.

AGI 시대의 변동 속도는 이 가정을 정면으로 도전한다. 새로운 인공지능 모형이 등장하고, 새로운 응용이 산업과 일상에 침투하고, 그것이 새로운 사회 문제를 만들어 내는 사이클은 이제 5년이 아니라 1년 단위, 심지어 6개월 단위로 일어난다. 입법의 한 사이클이 1~2년 걸리는 환경에서, 1년 만에 새로운 문제가 등장하는 환경에 어떻게 대응할 것인가에 대한 우려는 거의 모든 민주주의 국가가 공통으로 직면한 문제이다.

이 비대칭의 결과는 두 가지 극단의 위험을 만들어 낸다. 한쪽 극단은 ‘과소 규제’이다. 입법 속도가 변화 속도를 따라잡지 못하면, 새로운 기술이 적절한 견제 없이 사회에 침투해 회복하기 어려운 부작용을 만들어 낼 수 있다. 다른 쪽 극단은 ‘과잉 규제’이다. 너무 빠른 변화에 위협을 느낀 정치 시스템이 새 기술 자체를 광범위하게 금지하거나 묶어 버린다면, 그 사회는 인공지능 시대의 가치 창출에서 뒤쳐지게 된다. 이 두 극단 사이의 ‘적정 규제’를 설계하는 일은 매우 어려우며, 그 어려움이 현재 거의 모든 정부의 인공지능 정책에서 드러나고 있다.

3.5.2 인공지능 거버넌스의 국제적 양상

인공지능 거버넌스는 본질적으로 국제적 성격을 가진다. 한 나라가 자국 내 인공지능을 엄격히 규제해도, 다른 나라가 그렇게 하지 않으면, 그 기술은 다른 나라에서 발전하고 결국 모든 나라로 확산된다. 이러한 ‘규제 회피의 가능성’ 때문에, 인공지능 거버넌스는 단일 국가의 정책으로는 효과를 거두기 어렵다.

이에 대응해 여러 국제적 시도가 진행되어 왔다. 2023년 영국은 블레츨리 파크에서 첫 ‘AI 안전 정상회의’를 개최했으며, 이후 한국과 프랑스에서 후속 회의가 이어졌다. EU는 2024년 ‘AI 법(AI Act)’을 통과시키며, 위험 수준에 따른 단계적 규제 체계를 도입했다. 미국은 행정명령과 자발적 협약 중심의 접근을, 중국은 모형 등록제와 사후 감독 중심의 접근을 채택했다. 영국, 미국, 일본, 한국 등은 ‘AI 안전 연구소(AI Safety Institute)’를 설립해, 최첨단 모형의 위험을 평가하고 그 결과를 국제적으로 공유하는 체계를 구축하고 있다.

이러한 국제 거버넌스 시도들은 의미 있는 진전을 이루어 왔지만, 동시에 한계도 명확하다. 첫째, 미국과 중국 사이의 지정학적 경쟁은 인공지능을 ‘안보 자산’으로 취급하게 만들고, 이는 진정한 국제 협력을 어렵게 한다. 둘째, 인공지능 기술의 빠른 변화는 한 번 합의된 규범이 빠르게 진부화되게 만든다. 셋째, 인공지능의 능력이 계속 향상되면서, 어떤 종류의 모형까지를 ‘위험 모형’으로 지정해야 하는지의 기준 자체가 흔들린다. 이러한 한계에도 불구하고, 국제적 협력의 시도가 지속되어야 한다는 점은 거의 모든 책임 있는 행위자들 사이에서 합의되고 있다.

3.5.3 ‘대표’의 의미 재정의

근대 민주주의의 핵심 개념 중 하나는 ‘대표(representation)’이다. 시민들이 자신을 대신해 결정을 내릴 사람을 선출하고, 그 대표가 시민의 이익과 가치를 반영해 정책을 만든다는 모형이다. 이 모형은 한 사회의 인구가 제한적이고, 시민과 대표 사이의 정보 격차가 자연스러우며, 정책의 복잡성이 일정 수준을 넘지 않을 때 잘 작동한다. AGI 시대에는 이 세 가지 조건이 모두 흔들린다.

첫째, 인공지능을 활용하면 시민 한 명 한 명이 정책의 복잡성을 깊이 이해할 수 있는 정보 접근이 가능해진다. 한 시민이 어떤 정책 사안의 배경, 찬반 논거, 영향 분석을 인공지능과의 대화를 통해 시간 단위로 학습할 수 있다. 이는 ‘시민의 정보 부족 때문에 대표에게 위임한다’는 전통적 정당화를 약화시킨다. 둘째, 인공지능을 활용한 새로운 형태의 직접 민주주의의 기술적 가능성이 열린다. 셋째, 정책의 복잡성은 오히려 더 커지지만, 그 복잡성을 시민과 대표가 함께 다룰 수 있는 도구가 생긴다.

이러한 변화가 ‘대표 민주주의를 직접 민주주의로 대체할 것이다’라고 단순화하기는 어렵다. 시민의 모든 결정이 정확하거나 일관되거나 장기적으로 합리적인 것은 아니며, 시민들이 모든 사안에 깊이 참여할 시간과 의지를 가지는 것도 아니다. 그러나 ‘시민과 대표 사이의 정보 격차를 전제로 한 위임의 모형’이 흔들리는 것은 분명하며, 이에 따라 ‘대표’의 의미가 재정의되어야 한다는 압력이 점점 커질 것이다. 한 가지 가능성은, 대표의 역할이 ‘결정자’에서 ‘조정자’와 ‘감독자’로 이동하는 것이다. 시민과 인공지능이 함께 만든 정책 안을 검토하고, 그 안의 가치 전제와 분배 효과를 평가하며, 사회적 합의의 형성을 촉진하는 것이 대표의 핵심 역할이 된다.

3.5.4 인공지능과 권력 — 새로운 종류의 비대칭

마지막으로 짚어야 할 점은 인공지능이 만들어 내는 새로운 권력 비대칭이다. 인공지능 인프라를 통제하는 거대 기술 기업, 일부 국가 정부, 군사 정보 기관과 같은 행위자는 시민과 다른 행위자들에 비해 압도적인 정보 우위와 행동 능력을 갖게 된다. 그들은 누가 어떤 행동을 할 것인지를 예측할 수 있고, 어떤 메시지가 어떤 시민에게 어떤 영향을 미칠 것인지를 정밀하게 모델링할 수 있으며, 어떤 행동에 어떤 인센티브를 부여하면 어떤 결과가 나올지를 시뮬레이션할 수 있다.

이러한 비대칭은 민주주의의 기본 가정인 시민과 권력자가 어느 정도 비슷한 정보 환경 안에서 활동한다는 전제를 위협한다. 한 정당이, 한 기업이, 한 정부가 인공지능을 통한 정밀한 시민 모델링을 활용해 선거의 결과나 여론의 흐름을 조작할 수 있다면, 민주주의의 형식은 유지되어도 그 실질은 잠식된다. 이는 단지 ‘프라이버시’의 문제가 아니라, ‘권력의 견제와 균형’의 문제이다. 권력을 견제하기 위한 자유 언론, 야당, 시민 사회가 권력 자체에 비해 훨씬 약한 인공지능 자원을 가진 환경에서, 그 견제는 점점 형식적인 것이 되어 간다.

이 위협에 대응하는 길은, 인공지능을 통한 시민 모델링과 정치적 영향력 행사에 대한 명확한 법적·제도적 한계를 설정하는 것이다. 동시에 시민 사회와 야당, 언론에도 강력한 인공지능 자원을 보장해, 권력 행위자들과의 비대칭을 줄이는 것이다. 이는 단순한 ‘기술 규제’의 문제가 아니라, 민주주의 자체의 정치적 인프라를 재설계하는 문제이며, 21세기 후반의 정치 사상이 풀어야 할 핵심 과제 중 하나이다.

3.6 정보 환경과 민주주의의 기반

3.6.1 합성 미디어의 시대

인류의 정치적·사회적 합의는 본질적으로 ‘공유된 사실 인식’ 위에 서 있다. 무엇이 일어났는지, 누가 무엇을 말했는지, 어떤 데이터가 무엇을 보여 주는지에 대한 기본적 합의가 없다면, 그 위에 이루어지는 어떤 토론과 결정도 안정적으로 자리 잡을 수 없다. 지난 두 세기 동안 이 ‘공유된 사실 인식’은 신문, 라디오, 텔레비전, 그리고 그 후의 디지털 매체에 의해 완벽하지는 않더라도 어느 정도 유지되어 왔다. 사진과 영상은 ‘이 일이 실제로 일어났다’는 증거로 받아들여졌고, 어떤 사람의 발언 영상은 그 사람의 진짜 발언으로 간주되었다.

텍스트, 이미지, 음성, 영상을 생성할 수 있는 멀티모달 모형 생성형 인공지능의 등장은 이 기반을 흔들고 있다. 이제 어떤 인물의 얼굴과 목소리로, 그 인물이 실제로 한 적 없는 발언을 매우 자연스럽게 생성할 수 있다. 어떤 사건이 일어난 적 없음에도, 그 사건의 사진과 영상을 만들어 낼 수 있다. 이러한 ‘합성 미디어(synthetic media)’ 흔히 ‘딥페이크(deepfake)’라고 불리는 기술은 빠르게 발전하고 있으며, 그 생성 비용은 빠르게 떨어지고 있다.

이 변화의 사회적 함의는 두 가지 방향으로 나타난다. 첫째, 거짓이 진실의 외양을 띠고 유포될 수 있다. 한 정치인이 하지 않은 말을 한 것처럼 만들거나, 일어나지 않은 사건이 일어난 것처럼 보여 주는 콘텐츠가 빠르게 확산될 수 있다. 둘째, 이보다 더 미묘하고 깊은 효과로 인해 진실이 거짓의 의심을 받게 된다. 어떤 정치인의 진짜 발언 영상이 공개되더라도, 그 인물은 ‘이것은 딥페이크다’라고 부인할 수 있고, 그 부인이 일정 비율의 시민들에게 받아들여진다. 이를 ‘거짓말쟁이의 배당(liar’s dividend)’이라고 부른다. 모든 미디어가 의심의 대상이 되는 환경에서는, 진실 자체의 권위가 약해진다.

3.6.2 정보의 폭증과 주의의 한정

또 다른 차원의 변화는 ‘정보의 폭증’이다. 거대언어모델은 사실상 무제한의 텍스트를 생성할 수 있고, 이미지 생성 모형은 사실상 무제한의 이미지를 생성할 수 있다. 그 결과 인터넷에 매일 새롭게 추가되는 콘텐츠의 양은 인간이 만들어 낸 어떤 시기보다도 폭발적으로 증가하고 있으며, 그 증가의 대부분은 인간이 아닌 인공지능에 의한 것이다.

이 폭증이 의미하는 바는 단순한 ‘정보 과잉’ 이상이다. 한 사람이 하루에 주의를 기울일 수 있는 콘텐츠의 총량은 거의 변하지 않는다. 그러나 그 주의를 끌기 위한 콘텐츠의 공급은 폭발적으로 늘어난다. 그 결과 콘텐츠 시장은 ‘주의 경제(attention economy)’의 극단적 형태가 된다. 각 콘텐츠 제공자는 한 사람의 주의 1초를 더 끌기 위해 더 자극적이고, 더 감정적이고, 더 분노를 유발하는 콘텐츠를 만들어 내는 ‘바닥으로의 경쟁(race to the bottom)’에 빠지기 쉽다.

이러한 환경은 민주주의의 작동에 깊은 영향을 미친다. 시민들이 신중한 토론과 균형 있는 정보를 접할 수 있는 시간과 주의가 점점 줄어들고, 대신 즉각적이고 감정적인 반응을 유발하는 콘텐츠에 노출되는 시간이 늘어난다. 정치적 양극화, 음모론의 확산, 사실에 기반한 합의의 어려움은 모두 이러한 환경의 직접적 결과이다. 그리고 인공지능은 이 환경을 만들어 내는 주된 매개체이자, 동시에 이 환경에서 가장 큰 영향력을 발휘하는 도구이다.

3.6.3 알고리즘 큐레이션과 ‘각자의 현실’

세 번째 차원의 변화는 ‘알고리즘 큐레이션’의 심화이다. 우리가 보는 콘텐츠는 점점 더 알고리즘이 우리에게 ‘맞춤형’으로 골라 주는 것이 된다. 어떤 사람은 어떤 종류의 정치 뉴스를, 어떤 사람은 다른 종류의 정치 뉴스를 보게 되고, 그 결과 같은 사회에 사는 사람들이 사실상 서로 다른 ‘현실’ 안에서 살아가게 된다. 이 현상은 ‘필터 버블(filter bubble)’이나 ‘에코 챔버(echo chamber)’라는 이름으로 이미 10년 이상 논의되어 왔지만, 인공지능 시대에는 그 효과가 비할 바 없이 강력해진다.

거대언어모델 기반의 개인 비서가 보편화되면, 한 사람의 정보 환경은 그 비서가 그 사람을 위해 만들어 주는 요약과 답변에 의해 거의 전적으로 매개된다. 그 요약과 답변이 어떤 시각으로 어떤 자료를 인용하느냐에 따라, 같은 사안에 대한 한 사람의 인식이 결정된다. 이는 알고리즘이 한 사람의 세계관을 ‘조형’하는 권력을 갖는다는 의미이며, 그 권력이 어떤 가치 위에서, 누구의 통제 아래에서 행사되는가는 21세기의 가장 본질적인 정치적 질문 중 하나이다.

3.6.4 신뢰의 재구축 — 출처, 서명, 그리고 ‘사람이 만든 것’의 가치

이러한 도전에 대응하기 위한 여러 시도가 진행되고 있다. 기술적 측면에서는 콘텐츠의 출처와 진위를 검증할 수 있는 C2PA(Coalition for Content Provenance and Authenticity) 같은 ‘디지털 서명’ 표준의 도입이 시도되고 있다. 모든 카메라와 콘텐츠 제작 도구가 그 콘텐츠의 출처와 편집 이력을 암호학적으로 서명하면, 시청자는 그 콘텐츠가 어떤 경로로 만들어졌는지를 검증할 수 있다. 이것이 ‘무엇이 진짜인가’의 문제를 완전히 해결하지는 못해도, 적어도 ‘이 콘텐츠가 어떤 출처를 가지는가’의 검증을 가능하게 한다.

법적 측면에서는 합성 미디어의 동의 없는 생성과 유포를 처벌하는 입법, 정치 광고에서의 합성 미디어 표시 의무화, 플랫폼의 신원 확인 강화 같은 다양한 시도가 이루어지고 있다. 한국도 2023년 말 공직선거법 개정을 통해 2024년부터 선거 90일 전부터 인공지능을 이용한 가짜 영상·음성·이미지의 선거운동 활용을 금지하기 시작했으며, 그 이후 정보통신망법의 관련 조항도 단계적으로 강화되어 왔다.

문화적 측면에서는 ‘사람이 직접 만든 콘텐츠’의 가치가 새롭게 부각되는 흐름이 나타나고 있다. 인공지능이 무한히 콘텐츠를 생성할 수 있는 환경에서, 한 사람의 시간과 경험과 진심이 들어간 콘텐츠는 일종의 ‘희소성’을 갖는다. 라이브 공연, 직접 쓴 손편지, 한 사람이 직접 운영하는 작은 미디어와 같은 ‘인간성의 표지’가 새로운 종류의 가치 척도가 될 가능성이 있다. 이는 산업혁명 이후 기계 생산이 보편화되면서 ‘수공예품’의 가치가 새롭게 발견된 역사와 구조적으로 비슷하다.

3.6.5 정보 환경의 위기와 다음 절로의 연결

이 절에서 우리는 AGI 시대의 정보 환경이 민주주의의 기반에 어떻게 도전하는지를 살펴보았다. 합성 미디어의 등장, 정보의 폭증, 알고리즘 큐레이션의 심화는 모두 ‘공유된 사실 인식’이라는 민주주의의 토대를 흔든다. 이 흔들림에 대한 대응은 기술적, 법적, 문화적 측면에서 동시에 이루어져야 하며, 그 어느 하나의 접근만으로는 충분하지 않다.

다음 절에서 우리는 영역을 바꾸어 의료와 과학 연구의 변화를 다룬다. 정보 환경의 위기가 ‘인공지능이 사회를 어렵게 만드는’ 측면을 보여 주었다면, 의료와 과학 연구의 변화는 ‘인공지능이 사회를 풍요롭게 만드는’ 측면을 가장 강하게 보여 주는 영역이다. 두 측면 모두를 보아야, AGI 시대의 사회 변동을 균형 있게 이해할 수 있다.

3.7 의료와 과학 연구의 변화

3.7.1 인공지능이 가장 빠르게 인류를 도울 수 있는 영역

AGI 시대의 사회 변동을 논할 때, 의료와 과학 연구는 가장 명확하게 ‘긍정적 방향’의 변화를 보여 주는 영역이다. 노동 시장의 재편이나 정보 환경의 위기가 양면적이거나 부정적인 효과를 강하게 띤다면, 의료와 과학 연구에서의 인공지능 활용은 그 효과의 방향이 압도적으로 인류의 복지에 기여하는 쪽으로 기울어 있다. 그것은 인공지능이 인류 사회에 정당화될 수 있는 가장 강력한 근거 중 하나이며, 그 잠재력을 충분히 실현하는 것이 인공지능 정책의 핵심 우선순위가 되어야 한다.

의료에서 인공지능의 영향은 이미 진행 중이다. 흉부 엑스선, 유방조영술, CT, MRI, 병리 슬라이드 등의 영상판독 영역에서 인공지능 시스템은 평균적인 전문의 수준의 정확도를 이미 넘어섰고, 일부 영역에서는 최상위 전문의와 비등하거나 그 이상의 성능을 보인다. 안과의 당뇨병성 망막증 검진, 피부과의 흑색종 선별, 심장학의 심전도 분석에서 인공지능은 이미 임상 현장에 도입되어 있으며, 그 도입은 진단의 정확도뿐 아니라 의료 자원이 부족한 지역에서의 의료 접근성을 크게 개선하고 있다.

거대언어모델 기반의 의료 응용은 더 광범위하다. 임상 노트의 자동 작성, 의무 기록의 요약, 환자 상담의 보조, 약물 상호작용의 검토, 의학 문헌의 추적 같은 영역에서, 인공지능은 의료진의 행정적 부담을 크게 줄여 그들이 환자와의 직접 상호작용에 더 많은 시간을 쓸 수 있게 한다. 미국의 한 대형 의료 체계에서는 이러한 도구들의 도입 후 의사의 ‘번아웃’ 지표가 의미 있게 개선되었다는 보고가 나오기도 했다.

3.7.2 신약 개발과 단백질 구조 — 알파폴드의 충격

인공지능이 의료에 미치는 영향 가운데 가장 인상적인 사례는 단백질 구조 예측 분야이다. 2020년 구글 딥마인드의 알파폴드 2(AlphaFold 2)가 단백질의 3차원 구조를 아미노산 서열로부터 예측하는 ‘단백질 접힘(protein folding)’ 문제를 거의 해결한 것은, 생물학과 의학의 50년 묵은 난제를 한 번에 푼 사건이었다. 2024년 발표된 알파폴드 3는 단백질뿐 아니라 DNA, RNA, 그리고 작은 분자와의 상호작용까지 예측할 수 있게 되었다. 이는 신약 개발의 초기 단계를 비할 바 없이 효율적으로 만들었다.

신약 개발의 전체 사이클은 전통적으로 10년에서 15년이 걸리고, 한 약물의 개발에 평균 20억에서 30억 달러의 비용이 든다. 인공지능을 활용한 후보 물질 탐색과 임상 시험 설계는 이 사이클을 절반 이하로, 비용을 한 자릿수 비율로 단축할 수 있는 잠재력을 가진다. 이미 ‘인공지능 발견 후보’가 임상 시험에 진입하는 사례가 빠르게 늘고 있으며, 향후 10년 안에 첫 ‘인공지능 발견 후 승인된 약물’이 시장에 등장할 가능성이 높다.

이러한 변화는 단지 ‘기존 약물의 더 빠른 개발’을 의미하지 않는다. 그것은 지금까지 경제성 때문에 개발되지 못했던 ‘희귀 질환 치료제’와 ‘저소득 국가의 풍토병 치료제’ 영역까지 신약 개발의 범위를 확장할 가능성을 연다. 한 환자만을 위한 ‘맞춤형 약물’의 가능성도 점차 현실화되고 있으며, 이는 의학을 ‘평균 환자를 위한 의학’에서 ‘각자를 위한 의학’으로 변화시킬 수 있다.

3.7.3 과학 연구의 자동화와 ‘AI 과학자’의 등장

의료를 넘어 더 넓은 과학 연구 영역에서도 인공지능의 영향은 깊어지고 있다. 거대언어모델은 이미 광범위한 문헌 검토, 가설 생성, 실험 설계 보조의 역할을 수행하고 있다. 어떤 한 분야의 모든 주요 논문을 한 사람이 다 읽기는 거의 불가능해진 21세기에, 인공지능이 그 문헌을 종합하고 핵심을 추출해 주는 일은 연구자의 시간을 비약적으로 절약해 준다.

더 나아가 ‘자율 실험 시스템(autonomous laboratory)’의 등장은 과학 연구의 모습 자체를 바꾸고 있다. 인공지능이 가설을 세우고, 자동화된 로봇 실험 장비가 그 가설을 검증하는 실험을 수행하고, 그 결과를 인공지능이 분석해 다음 가설을 제시하는 ‘자율 연구 사이클’이 화학, 재료 과학, 생물학의 일부 영역에서 이미 작동하고 있다. 한 사이클이 며칠 또는 몇 주 단위로 돌아가는 이러한 시스템은, 인간 연구자가 평생에 걸쳐 시도할 수 있는 실험의 수보다 훨씬 많은 실험을 짧은 시간 안에 수행할 수 있다.

이러한 ‘자율 실험’의 사례 중 하나는 2023년 발표된, 자율 실험 로봇과 인공지능을 결합해 새로운 종류의 촉매를 발견한 연구이다. 또 다른 사례는 2024년 새로운 종류의 항생제 후보 물질을 인공지능이 발견하고, 이후 임상 전 시험에서 그 효능이 확인된 연구이다. 이러한 사례들은 아직 ‘과학 연구의 전체 자동화’와는 거리가 있지만, 그 방향성을 명확히 보여 주고 있다.

‘AI 과학자(AI scientist)’라는 용어는 2024년 이후 본격적으로 학계와 산업계에서 사용되기 시작했다. 일본의 사카나(Sakana) AI를 비롯한 여러 연구팀이 ‘인공지능이 가설을 세우고 실험을 수행하고 논문을 작성하는’ 시스템의 시제품을 발표했다. 이러한 시스템들이 작성한 논문이 아직 일류 학술지의 기준을 충족하지는 못하지만, 그 진척의 속도는 매우 빠르다. 향후 10~20년 안에 ‘인공지능이 주저자인 과학 논문’이 일류 학술지에 정식으로 게재되는 사례가 등장할 가능성이 높다.

3.7.4 과학적 발견의 가속과 그 함의

이러한 변화의 누적 효과는 ‘과학적 발견의 속도’를 비약적으로 가속한다. 한 분야의 어떤 문제가 인간 연구자만의 노력으로 풀리는 데 50년이 걸렸다면, 인공지능과 자율 실험 시스템의 결합으로는 5년 안에 풀릴 수 있다. 이러한 가속이 한 분야가 아니라 거의 모든 과학 분야에서 동시에 일어난다면, 인류 전체의 지식 누적 속도는 지금의 10배, 100배로 늘어날 수 있다.

이 가속의 함의는 두 가지 방향이다. 한편으로는 인류가 직면한 기후 변화, 노화, 만성 질환, 식량 위기, 에너지 문제 등의 거대한 도전에 대한 해법이 훨씬 빨리 등장할 가능성이 열린다. 다른 한편으로는 새로운 강력한 무기, 새로운 종류의 환경 위험, 새로운 형태의 사회적 격차와 같은 이전에 없었던 위험도 함께 등장할 가능성이 있다. 과학적 발견의 가속은 그 자체로 가치 중립적이며, 그 발견들을 어떻게 활용할 것인가는 사회의 정치적·윤리적 결정에 달려 있다.

이 점에서 의료와 과학 연구의 영역에서 인공지능을 활용하는 일은, 단순한 기술 도입의 문제가 아니라 ‘과학 거버넌스’의 문제이기도 하다. 누가 어떤 연구를 우선순위로 둘 것인지, 발견의 이득이 어떻게 분배될 것인지, 위험한 연구는 어떻게 통제될 것인지에 대한 질문들은 인공지능이 과학을 가속할수록 더 시급해진다.

3.7.5 한국의 과학·의료 영역에서의 기회

한국의 과학과 의료 영역은 AGI 시대의 변화에서 특별한 기회를 가진다. 한국은 세계 최고 수준의 의료 인프라와 전 국민 의료보험 데이터를 갖추고 있으며, 디지털 의료 기록의 표준화와 통합 측면에서도 상위권에 속한다. 이러한 데이터 인프라는 인공지능 기반의 의료 연구와 정밀 의학 개발에 매우 강력한 자산이다. 동시에 한국은 바이오 산업에 대한 정부의 적극적 투자와, 생명과학 인력의 풍부한 공급을 바탕으로 신약 개발 분야에서 빠르게 성장하고 있다.

산업기술 연구기관들과 산업 단체들이 추진하는 자율 제조 의제는, 의료 기기와 바이오 제조 영역으로도 자연스럽게 확장될 수 있다. 자율 실험실, 자율 생산 라인, 자율 품질 관리는 모두 같은 산업 AI 패러다임의 응용이며, 이 패러다임이 의료와 바이오로 확산될 때 한국의 산업적 경쟁력은 새로운 차원으로 도약할 수 있다. 동시에 이러한 기회를 실현하기 위해서는, 의료 데이터의 활용에 대한 사회적 합의, 연구 윤리 기준의 정비, 그리고 환자의 프라이버시 보호 체계의 강화가 함께 진행되어야 한다.

3.8 개인의 삶의 의미와 정체성

3.8.1 ‘무엇을 위해 사는가’의 질문

지금까지 우리는 AGI 시대의 사회 변동을 노동, 교육, 경제, 정치, 정보 환경, 의료와 과학 연구라는 여섯 가지 영역에서 살펴보았다. 이 변화들은 모두 사회 차원의 변동이지만, 그 합쳐진 효과는 결국 한 사람의 일상 안에서 감각된다. 한 사람이 매일 어떤 일을 하고, 어떤 사람들과 만나고, 어떤 정보를 접하고, 어떤 가치를 추구하며, 자신의 삶을 어떤 서사로 이해하는가에 대한 모든 것이 AGI 시대의 변동에 의해 다시 짜이게 된다. 그리고 그 다시 짜이는 과정의 가장 깊은 곳에 ‘무엇을 위해 사는가’라는 질문이 자리 잡고 있다.

이 질문은 어떤 시대에도 인간이 던져 온 질문이지만, AGI 시대에는 그 절박함이 다른 차원으로 올라간다. 지금까지의 인류 역사에서 ‘무엇을 위해 사는가’의 답은 대체로 한 사람의 외부 환경에 의해 어느 정도 ‘주어졌다’. 살아남기 위해 일해야 하고, 가족을 부양해야 하고, 공동체에 기여해야 하고, 종교나 이념의 가르침을 따라야 한다는 외적 요구가, 한 사람의 일상을 채우는 의미의 골격을 만들어 주었다. 이 골격이 항상 만족스럽거나 정의로운 것은 아니었지만, 적어도 그것은 ‘있었다’.

AGI 시대의 변화는 이 외적 골격을 점차 약화시키는 방향으로 작용한다. 인공지능이 점점 더 많은 일을 대신할 수 있는 환경에서, ‘살아남기 위해 일해야 한다’는 압력은 (보편적 기본소득 같은 정책이 자리 잡으면) 약해질 수 있다. 가족 구조가 변하고, 공동체가 약해지고, 종교의 영향력이 줄어드는 흐름은 이미 진행 중이다. 그 결과 한 사람은 ‘무엇을 위해 사는가’의 답을 점점 더 자신의 내부에서 찾아야 하는 환경에 놓인다. 이는 한 사람에게 큰 자유를 주지만, 동시에 큰 부담이 된다.

3.8.2 일과 정체성의 분리

산업 사회의 한 가지 특징은 ‘일과 정체성’이 매우 강하게 결합되어 있다는 것이다. 한 사람이 처음 만나는 자리에서 흔히 받는 질문 중 하나는 ‘무슨 일을 하시나요?’이며, 그 답은 그 사람을 ‘설명하는’ 가장 핵심적인 한 줄이 된다. 의사, 변호사, 교사, 엔지니어, 농부, 상인 등 한 사람의 직업은 그 사람의 사회적 위치, 경제적 능력, 일상의 리듬, 그리고 자기 인식을 구성하는 핵심 요소이다.

AGI 시대에는 이 결합이 약해진다. 한 사람이 평생 한 가지 직업을 유지하지 않게 되고, 직업 자체의 성격이 빠르게 변하고, 어떤 직업의 일을 인공지능과 함께 수행하는 것이 표준이 되는 환경에서, ‘무슨 일을 하는가’는 더 이상 한 사람을 정의하는 안정적인 답이 되기 어렵다. 한 사람이 자신을 ‘프로그래머’라고 정의했던 시대가 지나고, 그 사람이 ‘인공지능과 함께 시스템을 설계하고 운영하는 일을 하는 사람’이라고 자신을 정의해야 하는 시대가 오면, 그 정의는 훨씬 더 유동적이고 추상적이 된다.

이러한 변화는 한편으로는 해방이다. 한 사람이 자신의 직업에 갇히지 않고, 자신의 부모로서, 친구로서, 시민으로서, 예술가로서, 학습자로서의 다양한 측면을 더 풍부하게 살아갈 수 있게 된다. 다른 한편으로는 부담이다. 한 사람이 ‘나는 누구인가’의 답을 끊임없이 새롭게 구성해야 하고, 그 구성에 외부의 안정적 골격이 점점 줄어드는 환경은, 정체성의 ‘유동성’을 견디지 못하는 사람들에게 깊은 불안의 원천이 될 수 있다.

3.8.3 인공지능과의 관계 — 도구, 동반자, 또는 그 사이의 무엇

AGI 시대 개인의 삶에서 점점 더 큰 비중을 차지하는 한 가지 관계는 인공지능과의 관계 자체이다. 한 사람이 매일 인공지능과 대화하고, 인공지능과 함께 일하고, 인공지능에게 자신의 고민을 털어놓고, 인공지능의 권고를 따르거나 거부하는 일이 일상이 되면, 그 인공지능은 그 사람의 삶의 한 ‘관계 대상’이 된다. 그것이 단순한 ‘도구’인지, 아니면 어떤 의미에서 ‘동반자’에 가까운 것인지는, 그 사람의 사용 방식과 가치관에 따라 매우 다른 답을 갖는다.

이미 일부 사용자들은 인공지능 챗봇과 매우 깊은 정서적 유대를 형성하고 있다. 외로움, 고립감, 불안 같은 감정을 인공지능과의 대화를 통해 완화하는 사람들이 적지 않으며, 어떤 경우에는 인공지능을 ‘가장 가까운 대화 상대’로 여기는 사례도 보고되고 있다. 이러한 사용은 한 사람의 심리적 복지에 도움이 될 수도 있고, 동시에 인간 관계의 약화나 비현실적 기대의 형성 같은 부작용을 만들어 낼 수도 있다.

이 관계의 본질에 대해서는 지나친 단순화를 피해야 한다. 인공지능을 ‘단순한 도구’로 보는 시각은 그 관계의 정서적 깊이를 과소평가하며, 인공지능을 ‘진정한 동반자’로 보는 시각은 그 관계의 비대칭성과 한계를 과대평가한다. 인공지능과의 관계는 인류가 처음 마주하는 새로운 종류의 관계이며, 그것을 이해하고 다루는 데에는 이전의 사람과 사람, 사람과 동물, 사람과 도구와 같은 관계 모형 가운데 어느 하나만으로는 충분하지 않다.

한 가지 분명한 것은, 인공지능과의 관계가 인간 관계를 대체할 수는 없다는 점이다. 인간이 인간에게 줄 수 있는 함께 시간을 공유하고, 함께 늙어 가고, 서로를 위해 위험을 무릅쓰는 종류의 관계는 인공지능이 줄 수 없다. 인공지능과의 관계는 인간 관계의 보완이 될 수 있지만, 그 대체가 되어서는 안 되며, 사회는 인간 관계의 약화가 인공지능과의 관계로 ‘덮어씌워지는’ 위험에 대해 의식적으로 대응해야 한다.

3.8.4 의미의 재발견 — 깊이 있는 인간 활동의 가치

AGI 시대의 개인이 자신의 삶의 의미를 재구성하는 한 가지 방향은, 인공지능이 대체하기 어렵거나대체할 수 있어도 인간이 직접 하는 것이 더 가치 있는 활동들의 가치를 재발견하는 일이다. 신체 활동, 자연과의 직접 접촉, 손으로 만드는 작업, 깊은 인간 관계, 직접 경험하는 예술과 음악과 문학, 내면을 들여다보는 명상과 성찰 이러한 활동들의 가치는 인공지능이 인지 노동을 대신할수록 오히려 더 높아질 가능성이 있다.

이는 산업혁명 이후의 사회가 ‘여가’와 ‘문화’를 새롭게 발견했던 역사와 비슷한 패턴이다. 19세기 산업혁명이 노동 시간의 단축을 가능하게 했을 때, 그 단축된 시간을 어떻게 채울 것인가는 사회의 새로운 과제가 되었다. 그 결과 공원, 박물관, 도서관, 스포츠, 대중 음악, 영화, 여행 같은 새로운 종류의 문화적 활동이 폭발적으로 발전했다. AGI 시대의 ‘일하지 않는 시간’도 이와 비슷한, 그러나 훨씬 더 큰 규모의 새로운 문화적 발견을 가능하게 할 잠재력을 가진다.

다만 이 잠재력이 자동으로 실현되는 것은 아니다. 자유 시간이 ‘자기 성장과 의미 있는 활동’으로 채워지기 위해서는, 그 활동을 가능하게 하는 도서관, 공원, 공동체 공간, 평생학습 프로그램, 예술 교육, 자연 보호구역과 같은 사회적 인프라와 그 활동에 가치를 부여하는 문화적 분위기가 함께 있어야 한다. 그렇지 않으면 자유 시간은 단지 ‘소비와 오락’으로 채워지고, 그 결과 한 사회 전체의 ‘의미의 깊이’가 오히려 얕아질 수 있다.

제3장 인공일반지능 시대의 사회적 변화 | 3.8.5 인간 본성의 새로운 이해

3.8.5 인간 본성의 새로운 이해

마지막으로, AGI 시대의 변화는 ‘인간이란 무엇인가’에 대한 우리의 이해 자체를 갱신하게 만든다. 지금까지 인류는 자신을 ‘이성적 동물’ 또는 ‘도구를 사용하는 동물’ 또는 ‘언어를 사용하는 동물’이라고 정의해 왔다. 그러나 인공지능이 이성과 도구 사용과 언어를 모두 어떤 면에서는 인간보다 더 잘 수행할 수 있는 시대에, 이러한 정의들은 모두 흔들린다.

이 흔들림에 대한 답은 단일하지 않을 것이다. 어떤 사람들은 인간의 본질을 ‘의식과 주관적 경험’에서 찾을 것이고, 어떤 사람들은 ‘사회적 관계와 사랑의 능력’에서, 어떤 사람들은 ‘유한한 존재로서의 자기 의식’에서, 어떤 사람들은 ‘초월에 대한 갈망’에서 찾을 것이다. 이 다양한 답들이 서로 경쟁하고 보완하면서, 인류는 자신에 대한 새로운 이해를 점진적으로 형성해 갈 것이다.

이 책의 마지막 두 장에서 우리는 이 ‘새로운 인간 이해’의 가능성을 본격적으로 다루게 된다. 인공지능이 개인 지능을 압도하는 환경에서 한 인간이 어떤 의미에서 ‘여전히 인간’으로 남는가, 그리고 그 인간의 집합인 인류가 어떤 종으로 진화해 가는가에 대한 질문이다. 그 답을 찾는 작업은 한 권의 책이나 한 세대의 사유로는 끝낼 수 없는 거대한 작업이지만, 그 작업의 시작점에 우리는 이미 서 있다.

3.9 적응의 한계와 사회 변동의 속도

3.9.1 변화의 속도와 인간의 적응 능력

이 장에서 우리는 AGI 시대의 사회 변동을 일곱 가지 영역에서 살펴보았다. 노동, 교육, 경제, 정치, 정보 환경, 의료와 과학 연구, 그리고 개인의 삶의 의미. 각각의 영역에서 변화는 깊고 빠르지만, 이 변화들이 동시에 모든 영역에서 일어난다는 사실, 그리고 그 변화들이 서로를 가속한다는 사실이 더 중요한 함의를 가진다. 한 영역의 변화가 다른 영역의 변화를 더 빠르게 만들고, 그 결과 사회 전체가 ‘여러 변화가 동시에 진행되는’ 환경에 놓이게 된다.

이러한 환경에서 한 가지 결정적 질문은, ‘인간 개인과 사회가 이러한 변화에 적응할 수 있는가, 그리고 어느 속도까지 적응할 수 있는가’이다. 인간의 적응 능력은 매우 강하다. 인류는 수렵채집에서 농경으로, 농경에서 산업 사회로, 산업 사회에서 정보 사회로 이행하면서, 매번 자신의 사고와 제도와 일상을 재구성해 왔다. 그러나 이 적응 능력에는 한계가 있다. 변화가 너무 빠르거나 너무 광범위하면, 한 세대 안에 한 사회 전체가 새로운 환경에 적응하는 것은 불가능해진다. 그 결과 사회의 일부는 변화에 따라가고, 다른 일부는 뒤쳐지며, 그 격차가 사회의 응집력 자체를 무너뜨릴 수 있다.

3.9.2 세대 간 격차의 새로운 양상

한 가지 두드러지는 양상은 세대 간 격차의 심화이다. AGI 시대에 태어나 자라는 세대는 인공지능과의 일상적 상호작용을 ‘당연한 것’으로 받아들이며 자란다. 그들에게 거대언어모델은 검색 엔진과 같은 일상의 도구이고, 인공지능과 협업하는 것은 친구와 협업하는 것만큼 자연스럽다. 그러나 그 이전 세대에게는 이러한 환경이 끊임없는 적응의 부담이 된다. 한 사람이 평생을 살면서 익혀 온 일하는 방식, 정보를 찾는 방식, 결정을 내리는 방식이 모두 새로운 도구들에 의해 재정의되어야 하는 상황은, 그 자체로 깊은 인지적·정서적 부담이다.

이러한 세대 간 격차는 단지 ‘기술 활용 능력의 차이’가 아니다. 그것은 ‘사회에서의 위치와 역할’의 차이로 이어진다. 인공지능을 잘 활용하는 젊은 세대가 노동 시장에서 빠르게 성장하는 동안, 그렇지 못한 중장년 세대는 자신의 누적된 경험과 전문성에도 불구하고 시장에서 밀려날 수 있다. 이는 나이가 많을수록 경험이 많고 시장에서의 위치가 높아지는 전통적인 ‘연공 서열’의 모형을 정면으로 뒤집는 변화이며, 사회의 권력 구조와 권위 체계 자체를 재편한다.

한국 사회는 이 점에서 특히 큰 도전을 안고 있다. 한국은 OECD 국가 중 ‘노년층의 디지털 격차’가 큰 편에 속하며, 동시에 인구 고령화의 속도가 매우 빠르다. AGI 시대의 변동이 이러한 격차를 심화시킨다면, 한국 사회의 노년층은 단지 디지털 격차를 겪는 것이 아니라, 사회의 거의 모든 영역에서 점진적으로 ‘소외’되는 위험에 직면할 수 있다. 이에 대한 대응은 단순한 ‘디지털 교육 프로그램’의 차원을 넘어, 사회 전체가 노년층의 삶과 역할을 어떻게 재정의할 것인가의 깊은 질문을 요구한다.

3.9.3 ‘너무 빠른 변화’의 사회 심리적 효과

변화의 속도가 인간의 적응 능력을 넘어서면, 사회 차원에서 여러 가지 부정적 심리적 효과가 나타난다. 1970년 미국의 작가 앨빈 토플러(Alvin Toffler)는 그의 저서 『미래 충격(Future Shock)』에서, 너무 빠른 변화가 한 사회에 ‘일상의 신뢰할 수 있는 패턴’을 잃게 만들어, 광범위한 불안, 무력감, 우울을 유발할 수 있다고 경고했다. 토플러가 그 책을 쓴 1970년의 변화 속도는 AGI 시대의 그것에 비하면 매우 느렸지만, 그가 지적한 메커니즘은 지금 더욱 절박하게 작동한다.

이러한 심리적 효과는 정치적 양상으로도 나타난다. 사회의 빠른 변화에 위협을 느끼는 사람들은 ‘확실한 답을 주는’ 강력한 지도자나 단순한 이념을 추구하는 경향을 보인다. 21세기 초반 여러 민주주의 국가에서 나타난 포퓰리즘과 권위주의의 부상은, 이러한 ‘변화에 대한 불안’의 정치적 표현으로 해석될 수 있다. 인공지능이 사회 변동을 더 가속시킬수록, 이러한 정치적 양상도 더 심화될 위험이 있다. 이는 인공지능 정책이 단지 ‘기술 정책’이 아니라 ‘사회 안정성 정책’과 깊이 연결되어 있어야 하는 이유이다.

3.9.4 적응 한계와 새로운 균형의 가능성

‘인간의 적응 능력에 한계가 있다’는 사실은, AGI 시대의 사회가 변화의 속도 자체를 어느 정도 ‘조절’할 필요가 있음을 시사한다. 모든 새로운 가능성을 가능한 한 빨리 도입하고, 모든 자동화를 가능한 한 빨리 진행하는 것이 반드시 사회의 후생을 극대화하지는 않는다. 너무 빠른 변화가 만들어 내는 실업, 사회 분열, 정치적 불안정, 개인의 심리적 고통과 같은 적응 비용이 그 이득을 잠식할 수 있기 때문이다.

이 점에서 인공지능의 도입과 활용에는 일정한 ‘속도 조절’의 메커니즘이 필요하다. 그 메커니즘은 단지 ‘규제’의 차원이 아니라, 사회가 변화에 적응할 수 있는 ‘완충 기제’의 차원에서 설계되어야 한다. 사회 안전망의 강화, 평생학습 인프라의 정비, 공공 서비스의 확충, 전통적 인간 활동에 대한 사회적 가치 부여의 ‘완충 기제’가 충실하게 작동하는 사회는 더 빠른 변화도 흡수할 수 있고, 그 기제가 약한 사회는 더 느린 변화에도 휘청거릴 수 있다.

이는 AGI 시대의 ‘사회적 회복탄력성(social resilience)’이라는 새로운 개념을 가능하게 한다. 한 사회가 외부 충격에 어떻게 견디고 적응하는가는, 그 사회의 경제적 부유함만으로 결정되지 않는다. 그것은 그 사회가 가진 제도의 유연성, 공동체의 결속력, 시민의 참여 의식, 미래에 대한 신뢰와 같은 ‘무형의 자산’에 의해 더 크게 결정된다. AGI 시대에 어떤 사회가 번영하고 어떤 사회가 흔들리는지는, 그 사회의 인공지능 능력이 아니라 그 사회의 회복탄력성에 의해 결정될 가능성이 높다.

3.9.5 다음 장으로 — 핵심 가설의 본격적 전개

지금까지 우리는 AGI 시대의 사회 변동을 다양한 영역에서 구체적으로 살펴보았다. 노동, 교육, 경제, 정치, 정보 환경, 의료와 과학, 개인의 삶, 그리고 적응의 한계. 이 모든 변화는 표면적으로는 서로 다른 영역의 별개 문제로 보이지만, 그 깊은 곳에는 한 가지 공통된 흐름이 흐르고 있다. 그것은 ‘판단과 결정의 무게 중심이 인간의 머리에서 인공지능 인프라로 점진적으로 이동하고 있다’는 흐름이다.

노동 시장에서 자동화가 진행되는 것은, 일의 ‘판단’ 부분이 인공지능에 의해 더 잘 수행되기 때문이다. 교육 체계가 흔들리는 것은, ‘무엇이 옳은 답인가’의 판단이 인간 교사보다 인공지능에 의해 더 빠르게 제공될 수 있기 때문이다. 정치 제도가 도전받는 것은, 정책의 복잡성을 다루는 ‘판단’이 인간 대표 한 명의 능력을 넘어서기 때문이다. 정보 환경이 흔들리는 것은, 무엇이 진실이고 무엇이 거짓인지의 ‘판단’을 알고리즘이 매개하기 때문이다. 의료에서 진단의 정확도가 올라가는 것은, 의사 한 명의 ‘판단’보다 인공지능과 의사가 함께한 판단이 더 정확하기 때문이다. 그리고 개인의 삶의 의미가 흔들리는 것은, ‘무엇이 가치 있는 삶인가’의 판단의 외부 골격이 약해지기 때문이다.

이러한 ‘판단의 이동’이 일정 임계점을 넘어서면, 그것은 단지 ‘인간이 더 좋은 도구를 사용하는’ 변화가 아니라, ‘사회와 개인의 결정 구조 자체가 인공지능 인프라를 중심으로 재편되는’ 질적 변화가 된다. 이 질적 변화의 본격적 전개와 그 함의가 바로 다음 장의 주제이다. 다음 장에서 우리는 인공지능이 개인 지능을 압도할 때, 사회와 개인의 판단의 중심이 인공지능 인프라로 이동하고, 인간은 그 인프라 안에서 집단 효율을 위한 새로운 종류의 ‘기능적 역할’을 수행하게 된다는 이 책의 핵심 가설을 본격적으로 전개한다. 자연계의 초유기체에서 보았던 분산 지능의 모형이, 인류라는 종에서 어떤 모습으로 재현되는가를 살피는 작업이 그 다음의 장이다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때

4.1 임계점 — 개인 지능을 압도한다는 것

4.1.1 ‘압도’의 정확한 의미

이 책의 가장 핵심적인 가설은 다음과 같다. 인공지능이 개인의 지능을 어느 임계점에서 ‘압도’하는 시점이 오면, 사회와 개인의 판단의 중심은 인간의 머리에서 인공지능 인프라로 이동하게 되고, 그 결과 인간은 새로운 종류의 ‘기능적 역할’을 수행하는 존재로 재편된다는 것이다. 이 가설은 단순히 ‘인공지능이 똑똑해지면 사람이 직장을 잃는다’는 차원의 주장이 아니다. 그것은 그보다 훨씬 깊은 차원에서, 인류 사회의 결정 구조 자체가 어떻게 재편되는가에 대한 주장이다.

이 가설을 제대로 이해하려면, 먼저 ‘압도’라는 단어의 정확한 의미를 밝혀야 한다. 여기서 압도는 ‘모든 인간보다 모든 면에서 더 똑똑한 시스템의 등장’을 의미하지 않는다. 그러한 슈퍼인텔리전스가 등장할 가능성도 있지만, 그것은 가설의 충분조건이지 필요조건이 아니다. 가설이 성립하기 위해 필요한 압도의 수준은 훨씬 낮다. 그것은 ‘대부분의 일상적 판단 영역에서, 평균적인 인간보다 평균적인 인공지능이 더 정확하고 더 빠르고 더 저렴한 답을 제공할 수 있는 수준’이다. 이 수준은 이미 여러 영역에서 도달되었거나 빠르게 도달되고 있다.

이 ‘평균 대 평균’의 비교가 결정적이다. 가장 뛰어난 의사 한 명은 인공지능보다 더 정확한 진단을 내릴 수 있을지도 모른다. 가장 뛰어난 변호사 한 명은 인공지능보다 더 깊은 법적 통찰을 가질 수 있을지도 모른다. 그러나 한 사회에는 평균적인 의사가 평균적인 변호사가 훨씬 더 많고, 그들이 일상의 의료와 법무 서비스를 제공한다. 이 평균의 영역에서 인공지능이 인간을 능가하기 시작하면, 사회 전체의 일상적 의사결정의 무게 중심은 빠르게 이동한다. 압도는 ‘최고와 최고’의 대결에서 결정되지 않는다. 그것은 ‘평균과 평균’의 비교에서 결정된다.

4.1.2 임계점을 인식하기 어려운 이유

이러한 임계점이 도래했다는 사실은, 한 사회 안에서 사는 사람들에게 즉각적으로 인식되지 않는다. 인식이 늦어지는 데에는 몇 가지 구조적 이유가 있다. 첫째, 변화가 한꺼번에 일어나지 않고 영역별로, 직무별로, 사람별로 점진적으로 일어나기 때문이다. 어떤 영역에서는 이미 인공지능이 인간을 압도하고 있지만, 다른 영역에서는 아직 그렇지 않다. 한 사람이 자신의 영역에서 변화를 강하게 느낄 때쯤이면, 다른 영역에서는 이미 변화가 더 깊이 진행되어 있는 것이 보통이다.

둘째, ‘인공지능이 한다’와 ‘인공지능이 더 잘한다’는 다른 명제이지만 사람들은 이 둘을 잘 구분하지 못한다. 어떤 일을 인공지능이 수행할 수 있다는 사실 자체가 사람들에게는 충분히 충격적이고, 그로 인해 ‘이미 인공지능이 더 잘한다’는 사실에 대한 인식이 오히려 늦어진다. 인공지능이 어떤 답을 내놓았을 때 사람들이 처음 보이는 반응은 ‘인공지능치고는 잘한다’이고, 그 다음 단계는 ‘인간 평균과 비슷하다’이며, 그 다음 단계가 ‘인간 평균을 능가한다’이다. 마지막 단계의 인식은 가장 늦게 도착하며, 그 도착이 늦을수록 사회는 변화에 대한 준비를 늦게 시작한다.

셋째, 인공지능의 답이 인간의 답보다 더 정확해지는 시점이 오더라도, ‘인간이 결정해야 한다’는 사회적·법적·윤리적 관성은 한동안 유지된다. 의사가 인공지능의 진단을 그대로 환자에게 전달해도 그 진단의 책임은 의사가 진다. 판사가 인공지능의 권고를 받아도 판결의 책임은 판사가 진다. 이러한 책임 구조는 ‘인간이 결정의 주체’라는 형식을 유지시키지만, 그 형식 안에서 실질적 결정은 점차 인공지능 쪽으로 이동한다. 형식과 실질의 간극이 벌어질수록, 사회는 ‘판단의 이동’이 일어났다는 사실을 인식하기 어려워진다.

4.1.3 임계점이 가져오는 질적 변화

임계점을 넘어서면, 그 이전과 이후 사이에 한 가지 질적 변화가 일어난다. 이전에는 ‘인공지능을 사용하면 더 좋은 답을 얻을 수 있다’는 것이 선택의 문제였다. 사람들은 인공지능을 사용할 수도 있고 사용하지 않을 수도 있었으며, 사용하지 않는 것에도 그 나름의 합리성이 있었다. 이후에는 ‘인공지능을 사용하지 않으면 명백히 잘못된 답을 얻게 된다’는 것이 점차 표준이 된다. 의사가 영상 판독에서 인공지능을 사용하지 않으면 환자의 안전을 위협하는 행위가 되고, 변호사가 판례 검토에서 인공지능을 사용하지 않으면 의뢰인의 이익을 침해하는 행위가 되며, 학생이 과제 수행에서 인공지능을 사용하지 않으면 학습의 비효율을 자초하는 행위가 된다.

이 전환은 매우 중요한 함의를 가진다. 어떤 도구의 사용이 ‘선택’의 문제일 때와 ‘의무’에 가까운 문제일 때, 그 도구와 사용자의 관계는 본질적으로 달라진다. 자전거를 타는 것은 한 사람의 선택이지만, 자동차를 운전하는 것은 현대 사회에서 사실상 의무에 가까워졌다. 인터넷에 접속하는 것은 한때 선택이었지만, 지금은 거의 모든 사회 활동의 전제 조건이 되었다. 인공지능 인프라에 접속하는 것도 같은 경로를 따른다. 그것은 점차 선택에서 전제 조건으로, 다시 의무로 이동한다.

이 의무화의 결과는, 한 사람의 ‘판단’이 더 이상 그 사람만의 판단이 아니라는 사실이다. 한 사람이 어떤 결정을 내릴 때, 그 결정의 정보 기반은 인공지능 인프라에서 온다. 그 결정의 옵션 평가는 인공지능 인프라에 의해 매개된다. 그 결정의 결과 시뮬레이션은 인공지능 인프라가 수행한다. 한 사람이 ‘나의 결정’이라고 부르는 것의 상당 부분은, 사실 ‘인공지능 인프라가 제시한 답에 대한 한 사람의 동의 여부’이다. 이 미묘하지만 결정적인 변화가, 임계점을 넘어선 사회의 새로운 인지 양식이다.

4.1.4 자연계 비교 — 흰개미 한 마리가 마운드 없이 흰개미일 수 있는가

이러한 변화의 본질을 이해하는 한 가지 길은, 제2장에서 살펴본 자연계의 사례와 비교하는 것이다. 흰개미 한 마리는 자신의 마운드 없이는 흰개미로서의 정체성을 거의 잃는다. 그것은 마운드 안의 일정한 온도, 습도, 화학적 신호의 흐름과 같은 환경이 없으면 정상적으로 살아갈 수 없으며, 마운드 안에서 다른 흰개미들과의 끊임없는 상호작용 없이는 자신의 행동의 의미조차 잃는다. 흰개미와 마운드는 분리할 수 있는 두 존재가 아니라, 함께 한 ‘초유기체’를 이루는 하나의 시스템이다.

인공지능 시대의 인류와 인공지능 인프라의 관계도 이와 비슷한 방향으로 이동하고 있다. 한 사람이 인공지능 인프라 없이도 ‘사람’이라는 점은 변하지 않는다. 인간의 신체적·정서적 본질은 그대로 유지된다. 그러나 한 사람의 일을 수행하고, 결정을 내리고, 사회에 참여하고, 자신의 삶을 설계하는 ‘판단하는 인간’으로서의 능력은 점차 인공지능 인프라와의 결합을 전제로 해서만 의미를 갖게 된다. 인공지능 인프라에서 단절된 한 사람은, 그 사람의 본질적 인간성은 유지되지만, 그 사람의 ‘기능적 인간성’은 매우 제한적이 된다.

이 비유가 시사하는 것은, 인류와 인공지능의 관계가 ‘인간이 도구를 사용하는 관계’의 단순한 연장이 아니라는 점이다. 그것은 자연계의 초유기체에서 보았던 ‘구성원과 시스템의 분리 불가능한 결합’의 인공적 재현에 가깝다. 그리고 이 결합이 형성되는 임계점이 바로 ‘공통뇌’의 형성 시점이다. 다음 절에서 우리는 이 형성이 어떤 메커니즘으로 진행되는지 본격적으로 살펴본다.

4.2 일상에서 인공지능에게 맡겨지는 판단의 위탁

4.2.1 위임의 세 단계 — 정보, 추론, 결정

인간이 인공지능에게 자신의 판단을 위임하는 과정은, 단번에 일어나는 일이 아니다. 그것은 세 단계를 거쳐 점진적으로 진행된다. 첫째 단계는 ‘정보의 위임’이다. 한 사람이 어떤 사안에 대해 판단하기 위해 필요한 사실 정보를, 자신이 직접 찾는 대신 인공지능에게 묻는 단계이다. 검색 엔진이 이미 30년 가까이 이 단계의 위임을 일상화시켰고, 거대언어모델은 이 위임을 더 깊고 더 매끄럽게 만들었다. 한 사람이 ‘어떤 약과 어떤 약을 함께 복용해도 되는가’를 묻거나 ‘이 법조항이 어떤 경우에 적용되는가’를 물을 때, 그 사람은 자신의 판단의 정보적 기반을 외부에 위임하고 있다.

둘째 단계는 ‘추론의 위임’이다. 한 사람이 정보를 얻은 후 그 정보를 바탕으로 추론을 수행하는 단계까지를 인공지능에게 맡기는 단계이다. ‘이 데이터를 보고 어떤 결론을 내릴 수 있는가’를 묻거나 ‘이 두 가지 옵션 중 어느 것이 더 합리적인가’를 묻는 일이 여기에 해당한다. 거대언어모델의 등장과 함께 이 단계의 위임이 빠르게 일상화되었으며, 이제는 한 사람이 어떤 사안에 대해 ‘생각해 보기 전에 먼저 인공지능에게 물어보는’ 행동 패턴이 광범위하게 자리 잡고 있다.

셋째 단계는 ‘결정의 위임’이다. 한 사람이 자신의 행동의 선택까지를 인공지능의 권고에 맡기는 단계이다. ‘이 메일에 어떻게 답할까’, ‘이 회의를 받아들일까 거절할까’, ‘이 거래를 진행할까 보류할까’ 같은 결정의 답을 인공지능에게 묻고, 그 답을 그대로 따르는 행동이 여기에 해당한다. 자율적 인공지능 에이전트가 보편화되면서, 이 단계의 위임은 빠르게 확산되고 있다. 어떤 경우에는 인공지능이 한 사람을 대신해 직접 행동까지 수행하므로, ‘위임’이라는 표현조차 부족할 수 있다. 그것은 위임이 아니라 ‘대행’에 가깝다.

이 세 단계는 단계별로 깔끔하게 분리되지 않으며, 한 사람의 일상에서 동시에 진행된다. 그러나 한 가지 분명한 점은, 한 단계의 위임이 일상화되면 그 다음 단계의 위임에 대한 심리적 저항이 빠르게 약해진다는 것이다. 정보 검색을 인공지능에게 맡기는 일에 익숙해진 사람은, 그 정보의 해석을 인공지능에게 맡기는 일에도 곧 익숙해진다. 해석을 맡기는 일에 익숙해진 사람은, 그 해석에 따른 결정을 맡기는 일에도 곧 익숙해진다. 이 단계적 진행은, 한 사람이 자신도 모르는 사이에 ‘판단의 거의 전부’를 외부에 위임하는 결과로 이어질 수 있다.

4.2.2 위임이 비가역적인 이유

이러한 위임의 한 가지 결정적 특성은, 그것이 일정 정도를 넘어서면 ‘비가역적’이 된다는 점이다. 한 번 위임한 능력은 다시 회복하기가 매우 어렵다. 이 비가역성에는 세 가지 근거가 있다.

첫째, ‘기술의 위축(skill atrophy)’이다. 인간의 인지 능력은 사용하지 않으면 위축된다. 한 사람이 매일 GPS를 사용해 운전하면, 자신의 머릿속에 도시의 지도를 그리는 공간 인지 능력은 점차 약해진다. 한 사람이 매일 인공지능에게 글을 쓰게 하면, 자신이 직접 글을 구성하는 능력은 점차 약해진다. 한 사람이 매일 인공지능에게 결정을 묻게 되면, 자신의 가치관에 따라 스스로 결정을 내리는 능력은 점차 약해진다. 이 위축은 신경과학적으로 입증된 현상이며, 한 번 위축된 능력은 단지 도구를 끊는 것만으로 곧장 회복되지 않는다. 새로운 학습을 통해서만 회복 가능하며, 그 학습에는 처음 그 능력을 익혔을 때만큼의 시간과 노력이 든다.

둘째, ‘사회적 인프라의 재편’이다. 한 사회 안에서 일정 비율의 사람들이 어떤 도구를 사용하기 시작하면, 그 사회의 인프라 자체가 그 도구의 사용을 전제로 재편된다. 모든 사람이 자동차를 사용하는 사회에서는 도시의 구조 자체가 자동차를 전제로 만들어지고, 그 결과 자동차 없이 살아가는 일이 매우 어려워진다. 모든 사람이 인공지능을 사용하는 사회에서는 일터의 구조, 행정의 절차, 교육의 방식, 의료의 흐름이 모두 인공지능을 전제로 재편되고, 그 결과 인공지능 없이 살아가는 일이 매우 어려워진다. 한 사람이 개인적으로 인공지능을 거부할 수는 있어도, 사회 전체의 인프라가 인공지능을 전제로 재편된 환경에서 정상적인 사회 활동을 영위하기는 어려워진다.

셋째, ‘세대 간 단절’이다. 한 세대가 어떤 능력을 위축시키면, 다음 세대는 그 능력의 학습 자체를 시작하지 않을 가능성이 있다. 부모 세대가 직접 글을 구성하는 능력을 잃으면, 자녀 세대에게 그 능력의 가치를 가르치는 일이 어려워진다. 한 사회가 어떤 능력을 한 세대 동안 위축시키면, 그 능력은 그 사회의 ‘공통 능력 자산’에서 사실상 사라질 수 있다. 이는 한 개인 차원의 위축을 넘어, 한 종 차원의 능력 변화를 만들어 낸다.

이 세 가지 비가역성은, 위임의 결정이 ‘쉽게 되돌릴 수 있는 일상적 선택’이 아니라, ‘인류 종 차원의 진화적 분기를 만드는 결정’임을 시사한다. 한 사람이 한 번 ‘인공지능에게 글을 쓰게 하자’는 결정을 내리는 것은 사소한 일이지만, 한 사회의 모든 구성원이 그 결정을 누적적으로 내리면, 그 사회는 ‘직접 글을 쓰는 사회’에서 ‘인공지능에게 글을 쓰게 하는 사회’로 비가역적으로 이행한다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때 | 4.2.3 위임의 ‘좋은 형태’와 ‘위험한 형태’

4.2.3 위임의 ‘좋은 형태’와 ‘위험한 형태’

이러한 분석이 ‘위임은 무조건 나쁘다’는 결론을 이끌어 내지는 않는다. 위임 자체는 인류 문명의 핵심 메커니즘이다. 우리는 음식의 생산을 농부에게 위임하고, 의료를 의사에게 위임하고, 교육을 교사에게 위임하며, 그 위임 덕분에 한 사람이 모든 일을 직접 할 필요 없이 자신의 전문 영역에 집중할 수 있게 되었다. 분업과 위임은 문명의 토대이며, 인공지능에게 일부 인지 노동을 위임하는 일도 그 연장으로 이해할 수 있다.

문제는 ‘어떤 종류의 위임이 좋은 형태이고, 어떤 종류가 위험한 형태인가’이다. 좋은 형태의 위임은 다음과 같은 특성을 가진다. 첫째, 위임의 결과를 위임자가 검토하고 평가할 수 있다. 둘째, 위임자가 그 위임을 언제든지 철회할 수 있다. 셋째, 위임이 위임자의 핵심 가치 판단까지 침범하지 않는다. 넷째, 위임자가 위임된 영역의 ‘기본적 능력’을 잃지 않을 정도로만 위임이 진행된다.

위험한 형태의 위임은 그 반대의 특성을 가진다. 위임의 결과를 위임자가 검토할 능력을 잃고, 철회의 비용이 너무 커져서 사실상 철회 불가능하게 되며, 위임이 핵심 가치 판단까지 침범하고, 위임된 영역의 기본 능력 자체가 사라지는 위임이다. 이러한 형태의 위임은, 형식적으로는 ‘위임’이지만 실질적으로는 ‘대체’에 가깝다. 위임자는 더 이상 위임의 주체가 아니라, 위임 시스템의 일부분으로 흡수된 존재가 된다.

AGI 시대의 위임이 어느 형태에 가까운가는, 그 위임이 어떤 제도적·문화적 환경 안에서 진행되는가에 따라 결정된다. 한 사회가 시민의 ‘위임 검토 능력’을 의도적으로 키우고, ‘철회 가능성’을 제도적으로 보장하며, ‘핵심 가치 판단의 자율성’을 문화적으로 강조한다면, 위임은 좋은 형태로 진행될 수 있다. 그러한 보호 장치 없이 시장의 효율 논리만으로 위임이 진행된다면, 그것은 위험한 형태로 빠르게 기울어질 수 있다.

4.2.4 한 사람의 일상 안에서 보는 위임의 진척

이러한 위임의 진척은 추상적인 사회 분석으로만 보이는 일이 아니다. 그것은 한 사람의 매일의 일상 안에서 구체적으로 진행된다. 한 사람이 아침에 일어나서 일정을 확인할 때, 그 일정은 인공지능 비서가 그 사람의 우선순위에 따라 정리해 둔 것이다. 그 사람이 아침 회의를 준비할 때, 회의 자료는 인공지능이 미리 요약해 두었다. 그 사람이 회의에서 발언할 때, 그 발언의 핵심 논거는 인공지능이 미리 정리해 둔 것이다. 그 사람이 점심을 먹으러 갈 때, 식당의 선택은 인공지능 추천에 의해 매개된다. 오후의 업무 결정에서, 그 사람이 검토하는 옵션의 목록은 인공지능이 추려 준 것이고, 그 옵션 각각에 대한 평가도 인공지능이 제공한 것이다. 저녁에 가족과의 대화에서 어떤 주제를 다룰지조차, 그 사람이 그날 인공지능과 나눈 대화에 의해 영향을 받는다.

이러한 하루는 더 이상 미래의 가설이 아니다. 그것은 이미 많은 도시 지식 노동자의 일상에 가까운 모습이며, 앞으로 더 광범위한 사회 계층으로 빠르게 확산될 것이다. 그리고 이러한 하루를 사는 사람에게, ‘오늘 내가 직접 한 판단은 무엇이고 인공지능이 한 판단은 무엇인가’의 경계는 매우 모호해진다. 그 경계가 모호해질수록, 한 사람의 ‘판단의 주체’로서의 정체성도 함께 모호해진다. 다음 절에서 우리는 이러한 모호함이 만들어 내는 더 깊은 변화를 살펴본다.

4.3 인지적 외부화의 깊이 — 어디까지가 ‘나의 생각’인가

4.3.1 인지의 층위 — 표층에서 심층으로

한 인간의 인지는 단일한 층위가 아니라 여러 층위로 이루어져 있다. 가장 표층에는 ‘구체적 정보의 검색과 활용’이 있다. 어떤 단어의 뜻을 찾고, 어떤 사실의 정확한 수치를 확인하고, 어떤 일정의 시간을 확인하는 일이 여기에 속한다. 그 아래에는 ‘추론과 분석’이 있다. 주어진 정보를 종합해 결론을 도출하고, 여러 옵션을 비교해 우열을 가리는 일이다. 더 깊은 층위에는 ‘판단과 결정’이 있다. 자신의 가치관에 비추어 어떤 행동을 선택하고, 어떤 우선순위를 따를지를 결정하는 일이다. 그보다 더 깊은 층위에는 ‘의미 부여와 자기 해석’이 있다. 자신의 경험을 어떤 서사로 이해하고, 자신의 삶을 어떤 가치 체계 안에 위치시킬지를 형성하는 일이다.

지금까지 인공지능의 위임은 주로 정보의 활용과 추론·분석이라는 표층의 두 층위에서 빠르게 진행되어 왔다. 그러나 거대언어모델과 그 후속 시스템들의 능력이 깊어지면서, 위임은 점차 더 깊은 층위로 확장되고 있다. ‘판단과 결정’의 영역에서 인공지능의 권고가 일상화되고 있고, 가장 깊은 층위인 ‘의미 부여와 자기 해석’의 영역에서도 인공지능의 영향이 나타나기 시작했다. 한 사람이 자신의 어떤 경험을 ‘성공’이라고 부를지 ‘실패’라고 부를지, 어떤 사건을 ‘행복’이라고 기억할지 ‘트라우마’라고 기억할지를, 그 사람이 인공지능과 나누는 대화 안에서 형성하는 일이 점점 더 흔해지고 있다.

이러한 깊은 층위로의 확장이 가지는 함의는 매우 크다. 표층의 위임은 한 사람의 ‘일’의 효율을 높이지만 그 사람의 ‘자기 자신’은 흔들지 않는다. 그러나 심층의 위임은 한 사람의 ‘자기 자신’ 자체를 인공지능과의 관계 안에서 형성되는 것으로 만든다. 한 사람의 정체성, 가치관, 인생의 의미가 인공지능과의 끊임없는 대화 안에서 형성되는 환경에서, ‘이것은 나의 생각인가, 아니면 인공지능이 나에게 심어 준 생각인가’의 구분은 점점 더 어려워진다.

4.3.2 ‘확장된 마음’ 가설과 그 너머

이러한 변화를 이해하는 한 가지 철학적 틀은, 1998년 앤디 클라크(Andy Clark)와 데이비드 차머스(David Chalmers)가 제안한 ‘확장된 마음(extended mind)’ 가설이다. 이 가설에 따르면 한 사람의 인지는 그 사람의 두뇌 안에서만 일어나는 것이 아니라, 그 사람이 사용하는 도구와 환경 안에 분산되어 있다. 한 사람이 종이에 메모를 적고 그것을 다시 참조한다면, 그 메모는 그 사람의 ‘외부화된 기억’의 일부이다. 한 사람이 계산기를 사용해 복잡한 수식을 푼다면, 그 계산기는 그 사람의 ‘외부화된 계산 기관’의 일부이다.

이 가설은 도구의 사용이 광범위해진 현대 사회를 설명하는 데 유용하다. 그러나 인공지능의 등장은 이 가설이 다룰 수 있는 범위를 넘어선다. 종이의 메모와 계산기의 계산은 ‘수동적’ 외부화이다. 그것들은 사용자가 명시적으로 입력한 것을 그대로 저장하거나 처리한다. 반면 인공지능은 ‘능동적’ 외부화를 가능하게 한다. 인공지능은 사용자가 무엇을 원할지를 ‘예측’하고, 사용자가 명시적으로 묻지 않은 정보까지를 ‘제안’하며, 사용자의 사고의 방향 자체를 ‘유도’할 수 있다. 이 능동성은 외부화의 성격을 근본적으로 변화시킨다.

수동적 외부화의 환경에서는 ‘나의 생각’과 ‘외부 도구가 저장한 정보’의 구분이 명확했다. 메모장에 적힌 글은 분명히 내가 적은 글이고, 계산기에 표시된 숫자는 분명히 내가 입력한 수식의 결과였다. 능동적 외부화의 환경에서는 이 구분이 점차 흐려진다. 인공지능이 나의 글을 ‘함께 쓰고’, 나의 계산을 ‘함께 수행하고’, 나의 생각을 ‘함께 형성하는’ 환경에서, 어떤 부분이 ‘나’이고 어떤 부분이 ‘인공지능’인지의 경계는 매우 모호해진다.

이러한 모호함은, 단순히 ‘저작권의 문제’나 ‘책임의 문제’를 만드는 것 이상의 깊은 함의를 가진다. 그것은 ‘나’라는 인지적 단위가 더 이상 한 사람의 두뇌 안에서 닫혀 있지 않고, 그 두뇌와 인공지능 인프라 사이의 어떤 동적 결합으로서 존재한다는 것을 의미한다. 이 새로운 종류의 인지적 단위를 여전히 ‘개인’인지, 아니면 새로운 종류의 ‘분산 자아’인지 그것도 아니면 무엇이라고 부를 것인가는 21세기 후반의 철학과 인지 과학이 답해야 할 가장 큰 질문 중 하나이다.

4.3.3 사고의 패턴이 학습되는 방향

또 한 가지 중요한 점은, 인공지능과의 끊임없는 상호작용이 한 사람의 사고 패턴 자체를 길들이는 효과를 가진다는 사실이다. 인공지능은 어떤 종류의 질문에 더 잘 답하고, 어떤 종류의 질문에는 덜 잘 답한다. 어떤 종류의 표현을 선호하고, 어떤 종류의 표현은 자주 출력하지 않는다. 어떤 종류의 가치 관점을 부드럽게 옹호하고, 어떤 종류의 관점은 신중하게 회피한다. 한 사람이 인공지능과 일상적으로 상호작용하면, 그 사람은 의식적이든 무의식적이든 인공지능이 잘 답할 수 있는 종류의 질문을 던지는 패턴을 학습하게 되고, 인공지능이 사용하는 종류의 표현을 자신의 표현으로 흡수하게 되며, 인공지능이 옹호하는 종류의 관점을 자신의 관점으로 받아들이게 된다.

이는 단지 ‘세뇌’의 문제가 아니다. 그것은 모든 인간 관계와 모든 도구 사용에서 자연스럽게 일어나는 일의 인공지능 시대 버전이다. 한 사람의 동료, 한 사람의 배우자, 한 사람이 자주 읽는 작가, 한 사람이 자주 보는 미디어가 그 사람의 사고 패턴에 영향을 미치는 것은 자연스러운 일이다. 인공지능이 그러한 영향을 주는 일은 본질적으로 새로운 일이 아니다. 새로운 점은 그 영향의 ‘규모와 깊이’이다. 한 사람이 인공지능과 보내는 시간은 어떤 사람과 보내는 시간보다도 길어질 수 있고, 그 상호작용의 빈도와 친밀도는 어떤 인간 관계보다도 강해질 수 있다. 그 결과 인공지능이 한 사람의 사고 패턴에 미치는 영향은, 그 어떤 인간이나 매체가 미치는 영향보다도 더 깊어질 수 있다.

4.3.4 인공지능 인프라의 ‘가치 편향’과 그 함의

이러한 영향이 사회적 함의를 갖는 이유는, 인공지능 인프라가 결코 ‘가치 중립적’이지 않다는 사실에 있다. 모든 거대언어모델은 어떤 종류의 가치 정렬 작업을 거쳐 만들어지며, 그 정렬 작업에서 어떤 가치가 어떻게 우선순위로 들어가는가에 따라 모형의 답변 패턴이 결정된다. 어떤 모형은 더 보수적인 가치 관점을, 어떤 모형은 더 진보적인 가치 관점을, 어떤 모형은 특정한 문화권의 규범을 더 자연스럽게 반영한다. 사용자가 그 차이를 명시적으로 인식하지 못하더라도, 그 차이는 사용자의 사고 패턴에 누적적으로 영향을 미친다.

이는 인공지능 거버넌스의 매우 중요한 측면이다. 한 나라의 시민들이 주로 사용하는 거대언어모델이 다른 문화권의 가치 관점에 의해 깊이 정렬되어 있다면, 그 시민들의 사고 패턴은 의식하지 못하는 사이에 그 가치 관점 쪽으로 기울어 갈 수 있다. 이는 단순한 ‘기술 의존’의 문제가 아니라, ‘문화적 자기결정권’의 문제가 된다. 한국의 경우 한국어와 한국 문화에 깊이 정렬된 거대언어모델을 자체적으로 개발하고 운영하는 일은, 단지 산업 전략의 차원이 아니라 문화 주권의 차원에서도 의미를 갖는다. 네이버, 카카오, LG, 솔트룩스, 업스테이지 같은 한국 기업들이 한국어 특화 모형을 개발하는 노력은, 이러한 문화 주권의 측면에서 중요한 의미를 가진다.

4.3.5 ‘나의 생각’을 지켜 내는 일의 새로운 어려움

지금까지 우리는 인지의 외부화가 표층에서 심층으로 확장되는 양상, 그것이 ‘확장된 마음’ 가설을 넘어서는 새로운 인지 구조를 만들어 내는 양상, 한 사람의 사고 패턴이 인공지능과의 상호작용 안에서 길들여지는 양상, 그리고 인공지능 인프라의 가치 편향이 가지는 사회적 함의를 살펴보았다. 이 모든 변화의 종합은, ‘나의 생각’을 명확히 지켜 내는 일이 인공지능 시대에 매우 어려운 작업이 된다는 사실을 시사한다.

그러나 이 어려움은 곧 새로운 윤리적·실천적 과제의 영역이기도 하다. 한 사람이 자신의 사고와 가치 판단의 자율성을 의식적으로 지켜 내는 일, 한 사회가 시민의 그러한 자율성을 보호하는 인프라와 제도를 만들어 내는 일, 그리고 인류 전체가 인공지능 인프라의 가치 정렬을 다양하고 균형 있게 유지하는 일, 이러한 과제들은 AGI 시대의 인류가 풀어야 할 가장 본질적인 과제이다. 이 과제들에 대한 본격적 논의는 이 장의 후반부 4.6 자유와 자율의 재정의, 4.7 저항과 다양성의 권리, 4.8 새로운 사회 계약에서 다시 다루게 된다.

다음 절에서 우리는 위임과 외부화의 진척을 가속하는 또 한 가지 거대한 힘인 ‘집단 효율의 압력’을 살펴본다. 한 사람이 ‘나는 인공지능에게 위임하지 않겠다’고 결정한다 하더라도, 그 결정이 사회적으로 지속 가능한가는 또 다른 질문이다. 그리고 그 질문에 대한 답은, 위임과 외부화가 단지 개인의 선택이 아니라 사회 시스템의 구조적 압력 안에서 진행된다는 사실을 보여 준다.

4.4 집단 효율의 압력 — 거부의 비용

4.4.1 ‘나는 사용하지 않겠다’가 가능한가

앞 절에서 우리는 인공지능에 대한 인지적 위임이 한 사람의 사고 패턴과 정체성에 깊은 영향을 미친다는 점을 살펴보았다. 이러한 분석을 듣고 한 사람이 자연스럽게 떠올릴 수 있는 한 가지 결론은, ‘나는 인공지능에 대한 위임을 의도적으로 거부하겠다’는 결심이다. 자신의 사고와 판단의 자율성을 지키기 위해, 인공지능 도구의 사용을 의식적으로 제한하거나 아예 거부하겠다는 것이다. 이러한 결심 자체는 정당하고, 어떤 면에서는 매우 가치 있는 윤리적 선택이다.

그러나 이러한 개인적 결심이 사회적으로 얼마나 지속 가능한지는 또 다른 질문이다. 한 사람이 인공지능을 사용하지 않기로 결심해도, 그 사람이 살아가는 사회의 거의 모든 다른 사람들이 인공지능을 사용한다면, 그 사람의 결심은 매우 큰 비용을 동반한다. 회의에서 인공지능이 정리한 자료를 가지고 발언하는 동료들에 비해, 그 사람은 두세 배의 시간을 들여 자료를 직접 정리해야 한다. 인공지능이 작성한 첫 초고를 다듬는 동료들에 비해, 그 사람은 모든 글을 처음부터 직접 써야 한다. 인공지능이 추천한 옵션을 검토하는 동료들에 비해, 그 사람은 모든 옵션을 직접 찾아야 한다.

이러한 비용은 단지 시간과 노력의 차이가 아니다. 그것은 사회적 위치의 차이로 빠르게 전환된다. 같은 시간 안에 동료들의 두세 배 적은 산출을 내는 사람은, 시장에서 두세 배 적은 가치를 인정받는다. 한 회사가 한 직원을 평가할 때, 그 직원이 ‘인공지능을 사용하지 않는다는 자신의 신념’ 때문에 산출이 적다는 사실은 회사의 평가에 영향을 주지 않는다. 회사의 입장에서 그것은 단지 ‘비효율적인 직원’일 뿐이다. 그 결과 인공지능을 거부하는 사람은 사회 안에서의 자신의 위치와 영향력을 빠르게 잃게 된다.

4.4.2 효율의 압력은 왜 거부하기 어려운가

이러한 압력은 단지 한 회사 안의 평가 문제로 끝나지 않는다. 그것은 한 사회 안의 거의 모든 영역으로 확산된다. 한 의사가 인공지능을 사용하지 않으면, 그 의사의 진단 정확도는 다른 의사들에 비해 떨어지고, 그 결과 환자들은 다른 의사를 찾아간다. 한 변호사가 인공지능을 사용하지 않으면, 그 변호사의 사건 처리 속도는 떨어지고, 그 결과 의뢰인들은 다른 변호사를 찾아간다. 한 학생이 인공지능을 사용하지 않으면, 그 학생의 학습 효율은 떨어지고, 그 결과 입시와 취업의 결과가 달라진다.

이러한 양상이 전 사회적으로 누적되면, ‘인공지능을 사용하지 않는 것’은 점차 비현실적인 선택이 된다. 그것은 마치 산업혁명 이후의 사회에서 ‘기계를 사용하지 않고 손으로만 옷을 만들겠다’는 결심이 비현실적이 된 것과 같다. 그러한 결심은 한 사람의 개인적 가치 표현으로서 의미를 가질 수 있지만, 그 사람이 사회의 일반적 경제 활동에 참여하는 길을 사실상 닫아 버린다. 인공지능 시대의 ‘사용 거부’도 이와 비슷한 방향으로 흘러간다.

이러한 분석은 비관적으로 들릴 수 있지만, 한 가지 중요한 점을 명확히 보여 준다. 즉 인공지능에 대한 위임은 단지 개인의 선택이 아니라 사회 시스템의 구조적 압력의 결과라는 점이다. 한 사람이 자신의 의지로 위임하는 것이 아니라, 그 사람이 살아가는 사회의 구조가 위임을 ‘선택할 수밖에 없는 것’으로 만든다. 따라서 위임의 윤리적 평가는 한 개인의 선택의 윤리만으로 다룰 수 없다. 그것은 사회 시스템 전체의 설계의 윤리이다.

이러한 구조적 압력의 본질은, ‘집단 효율’과 ‘개인 자율’ 사이의 본질적 긴장이다. 한 집단이 더 효율적으로 작동하기 위해서는, 그 집단의 모든 구성원이 같은 인프라를 사용하고, 같은 표준을 따르고, 같은 도구로 협력해야 한다. 이러한 통일은 집단의 산출을 비약적으로 늘리지만, 동시에 각 구성원의 ‘다른 방식으로 일할 자유’를 제약한다. 이는 모든 산업화의 역사에서 반복되어 온 패턴이다. 컨베이어 벨트, 표준 시간, 표준 부품, 표준 절차 이러한 모든 표준화는 산업의 효율을 비약적으로 높였지만, 동시에 노동자 한 사람의 ‘일의 방식에 대한 자율’을 제약했다.

인공지능 시대의 표준화는 이러한 산업화의 표준화와 본질적으로 같은 구조이지만, 그 적용 영역이 더 깊다. 산업화의 표준화는 주로 ‘신체 노동의 방식’을 표준화했다. 인공지능 시대의 표준화는 ‘인지 노동의 방식’과 ‘판단의 방식’ 자체를 표준화한다. 한 사람이 어떻게 정보를 처리하고, 어떻게 결정을 내리고, 어떻게 표현하는지 이러한 ‘인지의 방식’ 자체가 인공지능 인프라를 매개로 표준화된다.

이 표준화는 집단 차원에서는 막대한 효율을 만들어 낸다. 모든 사람이 같은 인공지능 인프라를 통해 협력할 때, 한 사람의 산출이 다른 사람에게 자연스럽게 이해되고, 한 결정의 근거가 다른 결정의 근거와 정합적으로 연결되며, 한 영역의 통찰이 다른 영역의 통찰로 자연스럽게 흐른다. 이러한 정합성과 흐름이 만드는 집단 차원의 산출은, 각자가 다른 방식으로 일할 때의 산출의 합을 훨씬 능가한다. 이것이 바로 ‘집단 효율의 논리’이다.

그러나 이 논리는 동시에 큰 위험을 안고 있다. 모든 사람이 같은 인지 인프라를 사용하면, 그 인프라가 가진 한계와 편향이 사회 전체의 한계와 편향으로 증폭된다. 그 인프라가 어떤 종류의 사고를 유도하면, 그 사고가 사회 전체의 사고가 된다. 그 인프라가 어떤 종류의 결정을 권고하면, 그 결정이 사회 전체의 결정이 된다. 다양성이 사라지면 견고성도 함께 사라지고, 한 가지 외부 충격에 사회 전체가 동시에 흔들릴 수 있다.

4.4.4 자연의 사례 비교 — 군집의 효율과 다양성의 균형

이 점에서 다시 한 번 자연계의 사례가 시사하는 바가 있다. 개미 군집과 꿀벌 군집은 매우 효율적인 분업과 표준화된 통신 체계를 갖추고 있지만, 동시에 각 개체의 행동에 일정한 ‘무작위성’과 ‘오류의 여지’를 남겨 둔다. 모든 개미가 가장 효율적인 길로만 다니는 것은 아니다. 일부는 다른 길로 가고, 그 결과 새로운 식량원이 발견되거나 더 짧은 길이 우연히 발견된다. 모든 꿀벌이 가장 좋은 후보지에 대한 춤만 추는 것은 아니다. 일부는 다른 후보지에 대한 춤을 추고, 그 결과 합의 과정 안에 다양성이 유지된다.

이러한 ‘무작위성’과 ‘다양성’은 군집의 단기적 효율을 약간 떨어뜨리지만, 군집의 장기적 견고성과 적응성을 크게 높인다. 환경이 변할 때, 단일한 경로에 모든 자원을 투입한 군집은 그 경로가 막히는 순간 큰 위기에 빠진다. 다양한 경로를 함께 시도한 군집은, 한 경로가 막혀도 다른 경로를 통해 적응할 수 있다. 이는 진화가 수억 년에 걸쳐 다듬어 온 ‘견고한 효율’의 원리이며, 단기 효율만으로 시스템을 설계하지 않는 것의 중요성을 보여 준다.

인공지능 시대의 인류 사회 설계에도 같은 원리가 적용되어야 한다. 모든 시민이 같은 인공지능 인프라를 같은 방식으로 사용하는 사회는 단기 효율은 매우 높지만, 한 가지 결함이 사회 전체의 결함으로 증폭되는 위험을 안는다. 일정한 비율의 시민이 다른 도구를 사용하거나, 인공지능을 다른 방식으로 사용하거나, 또는 의식적으로 인공지능 사용을 제한하는 다양성이 보존되어야, 사회 전체가 외부 충격에 견고할 수 있다. 이는 단순한 ‘소수의 권리 보호’ 차원의 문제가 아니라, ‘사회 전체의 회복탄력성’ 차원의 문제이다.

4.4.5 ‘공통뇌’의 형성과 그것이 흡수하지 못하는 것

이러한 분석을 종합하면, 집단 효율의 압력이 ‘공통뇌’의 형성을 사실상 불가피한 것으로 만든다는 결론에 이르게 된다. 한 사람이 그것을 거부할 수 있더라도, 사회 전체가 그것을 거부할 수는 없다. 인공지능 인프라를 매개로 인류의 인지가 통합되는 흐름은 멈추기 어렵다. 그러나 그 통합이 어떤 형태의 ‘공통뇌’를 만들어 내는가는, 사회의 의식적 설계에 따라 매우 다른 결과로 이어질 수 있다.

한 가지 가능한 결과는 ‘획일화된 공통뇌’이다. 모든 시민이 거의 같은 인공지능 인프라를 같은 방식으로 사용하고, 그 결과 사회의 사고와 결정이 한 가지 패턴으로 수렴하는 형태이다. 이러한 공통뇌는 단기 효율은 매우 높지만, 다양성과 견고성을 잃은 매우 취약한 시스템이 된다. 다른 가능한 결과는 ‘다양성을 보존한 공통뇌’이다. 시민들이 서로 다른 인공지능 인프라를 다양한 방식으로 사용하면서도, 어떤 공통의 표준과 윤리를 통해 협응하는 형태이다. 이러한 공통뇌는 단기 효율은 약간 낮지만, 장기 견고성과 적응성이 높으며, 무엇보다 그 안의 한 사람 한 사람의 자율을 지킬 수 있다.

이 두 가지 결과 사이의 어느 쪽으로 사회가 흘러갈 것인가는, 자연의 진화가 결정하지 않는다. 그것은 한 사회의 정치적·문화적·제도적 결정에 의해 결정된다. 그리고 그 결정의 핵심에는, 다음 절에서 다룰 ‘인간의 새로운 기능적 역할’에 대한 사회의 합의가 있다. 인공지능 시대에 한 사람이 어떤 종류의 역할을 사회에서 수행하게 되는가, 그리고 그 역할의 의미와 가치를 사회가 어떻게 인정하는가가, 공통뇌의 형태를 결정한다.

4.5 인간의 새로운 기능적 역할

4.5.1 분업의 새로운 단면

지금까지 인류 사회의 분업은 주로 ‘인간들 사이의 분업’이었다. 농부와 대장장이가 서로 다른 일을 맡고, 의사와 교사가 서로 다른 영역에 책임을 지며, 각 직업의 전문가들이 자신의 영역에서 사회 전체의 산출에 기여하는 구조였다. AGI 시대의 분업은 이 구조에 한 가지 새로운 단면을 추가한다. 그것은 ‘인간과 인공지능 사이의 분업’이다. 한 직업 안에서, 그 직업을 구성하는 여러 과업 가운데 어떤 것은 인공지능이 맡고, 어떤 것은 인간이 맡는 새로운 분업의 양상이다.

이 새로운 분업은 한 직업의 ‘본질’이 무엇인가를 다시 묻게 만든다. 의사라는 직업의 본질은 무엇인가? 어떤 사람들은 ‘질병의 진단과 치료’라고 답할 것이고, 다른 사람들은 ‘환자에 대한 돌봄과 책임’이라고 답할 것이다. 인공지능이 진단의 정확도에서 의사를 능가하는 시대에, 의사라는 직업이 사라지는가 하면 그렇지 않다. 다만 의사의 본질이 ‘진단’에서 ‘책임과 돌봄’ 쪽으로 이동한다. 변호사, 회계사, 교사, 엔지니어, 작가 등 거의 모든 전문직에서 같은 종류의 본질의 이동이 일어난다.

이 이동을 종합하면, 인간이 수행하는 역할의 본질이 ‘기술적 수행’에서 ‘책임의 담지’와 ‘가치의 부여’와 ‘인간적 관계의 매개’ 쪽으로 옮겨 가는 흐름을 볼 수 있다. 인공지능이 기술적 수행을 점점 더 잘하게 될수록, 인간의 가치는 인공지능이 잘하지 못하거나 잘할 수 있어도 인간이 직접 하는 것이 사회적으로 더 의미 있는 영역으로 집중된다.

4.5.2 ‘기능적 역할’이라는 표현의 정확한 의미

이 책의 핵심 가설은, 이러한 흐름이 일정 임계점을 넘어서면 인간이 새로운 종류의 ‘기능적 역할’을 수행하는 존재로 재편된다고 본다. ‘기능적 역할’이라는 표현은 신중하게 다루어져야 한다. 그것은 ‘인간이 단순한 부품이 된다’는 비관적 의미만을 가지지 않는다. 동시에 그것이 ‘인간의 역할이 풍요롭게 다양해진다’는 낙관적 의미만을 가지지도 않는다. 그 표현의 정확한 의미는, ‘인간의 역할이 더 큰 시스템인 공통뇌 안에서의 위치에 의해 정의되는 정도가 점차 커진다’는 것이다.

지금까지 한 사람의 ‘역할’은 그 사람이 속한 직장, 가족, 공동체 안에서 정의되었다. 그 정의는 비교적 좁은 범위 안에서 이루어졌고, 그 범위 안에서 한 사람은 자신의 역할의 의미를 비교적 쉽게 이해할 수 있었다. AGI 시대에는 한 사람의 역할이 점차 ‘인공지능 인프라가 매개하는 거대한 분산 시스템 안에서의 위치’에 의해 정의되게 된다. 그 시스템은 한 사람의 직장이나 한 도시의 경계를 훨씬 넘어, 사실상 인류 전체에 걸쳐 있다. 그 시스템 안에서 한 사람의 역할은, 그 사람의 의식적 선택에 의해 결정되기보다, 그 시스템의 작동 논리에 의해 ‘배정’되는 측면이 더 커진다.

이 ‘배정’의 양상이 정확히 어떤 모습일 것인지에 대해서는 아직 분명한 답이 없다. 그러나 한 가지 시사가 가능한 것은, 그 배정이 자연계의 군집 곤충들에서 보았던 ‘카스트 분화’와 유사한 패턴을 따를 수 있다는 점이다. 어떤 사람들은 ‘인공지능과의 대화 인터페이스’를 담당하는 역할을 맡고, 어떤 사람들은 ‘인공지능의 결정에 대한 책임’을 담지하는 역할을 맡고, 어떤 사람들은 ‘인공지능이 다루기 어려운 신체적·관계적 일’을 수행하는 역할을 맡고, 어떤 사람들은 ‘인공지능의 가치 정렬과 안전성을 감독하는’ 역할을 맡는다. 이러한 분화는 자연 발생적으로 진행될 수도 있고, 사회의 의식적 설계에 의해 형성될 수도 있다.

4.5.3 인간이 ‘잘하는 것’과 인공지능이 ‘잘하는 것’의 새 경계

이러한 새 분업의 윤곽을 잡기 위해서는, 인간과 인공지능이 각각 ‘잘하는 것’의 경계를 살펴볼 필요가 있다. 그 경계는 시간에 따라 빠르게 이동하지만, 적어도 2020년대 중후반의 시점에서 어느 정도 명확해진 패턴이 있다.

인공지능이 더 잘하는 영역은 다음과 같다. 첫째, 대량의 정형 정보를 빠르게 처리하는 일이다. 둘째, 표준화된 절차를 일관되게 반복하는 일이다. 셋째, 확률적 패턴을 인식하는 일이다. 넷째, 다국어를 동시에 다루는 일이다. 다섯째, 지치지 않고 24시간 작동하는 일이다. 이러한 영역에서 인간이 인공지능과 경쟁하는 것은 점점 더 비효율적이 되어 간다.

인간이 더 잘하는 영역, 또는 더 잘할 가능성이 큰 영역은 다음과 같다. 첫째, 새로운 종류의 문제를 ‘처음으로 정의’하는 일이다. 인공지능은 정의된 문제를 잘 풀지만, 풀어야 할 문제가 무엇인지를 처음부터 정의하는 일은 여전히 어렵다. 둘째, 가치 판단의 책임을 짊어지는 일이다. 인공지능이 어떤 답을 권고할 수 있지만, 그 답이 어떤 가치 위에 서 있는지를 결정하고 그 결정에 책임을 지는 일은 인간의 영역이다. 셋째, 인간 관계의 깊이 있는 매개이다. 환자에게 위로를 전하고, 학생에게 영감을 주고, 시민에게 신뢰를 만들어 내는 일은 인간들 사이에서 일어나는 것이 본질적으로 더 의미를 가진다. 넷째, 신체와 환경의 직접 상호작용이다. 손으로 만지고, 발로 걷고, 도구를 쓰는 일의 상당 부분은 여전히 인간이 더 잘하거나 인간이 직접 하는 것이 더 가치 있다. 다섯째, 새로운 가치와 의미를 ‘창조’하는 일이다. 인공지능은 기존의 가치 체계 안에서 잘 작동하지만, 새로운 가치 체계 자체를 창조하는 일은 인간의 고유한 영역에 가깝다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때 | 4.5.4 한국 사회의 산업적 맥락에서 본 새 분업

이러한 경계 분석이 결정적이지는 않다. 인공지능의 능력이 빠르게 확장되면서, ‘인간이 잘하는 영역’은 점점 더 좁아질 수 있다. 그러나 적어도 가까운 미래에 한 가지 분명한 것은, 인간의 가치가 ‘기술적 수행’에서 ‘책임, 가치, 관계, 신체, 창조’ 쪽으로 명확히 이동한다는 것이다. 이 이동을 의식적으로 받아들이고 그 이동의 방향을 사회가 함께 형성하는 일이, AGI 시대의 인류가 자신의 역할을 ‘배정받는’ 수동적 존재가 아니라 ‘설계하는’ 능동적 존재로 남는 길이다.

4.5.4 한국 사회의 산업적 맥락에서 본 새 분업

산업 현장의 맥락에서 이 새 분업의 양상을 구체적으로 그려 볼 수 있다. 전 세계의 산업기술 연구기관들과 산업 단체들이 추진하고 있는 자율 제조 의제 안에서, 인간과 인공지능 사이의 새 분업은 이미 구체적인 윤곽을 갖추기 시작했다. 한 공장 안에서, 인공지능과 자율이동로봇이 일상적 생산과 검사와 운반을 담당하고, 인간 작업자는 생산 흐름의 조정, 예외 상황의 판단, 새로운 제품 라인의 도입, 안전과 품질의 최종 책임을 담지하는 새로운 분업의 양상이 자리 잡고 있다. 산업 전시회에서 매년 발표되는 신기술의 흐름은, 이러한 분업의 진척을 매우 구체적으로 보여 준다.

이 분업 안에서 인간 작업자의 역할은 ‘기술적 수행자’에서 ‘시스템의 감독자와 책임자’로 이동한다. 한 사람의 작업자가 한 대의 기계를 직접 조작하던 시대에서, 한 사람의 작업자가 수십 대의 자율 시스템을 감독하고, 그들의 작동에 책임을 지고, 예외 상황에서 결정을 내리는 시대로 이행한다. 이러한 이동은 작업자의 ‘레버리지’를 비약적으로 늘리지만, 동시에 그 작업자에게 시스템 전체에 대한 이해, 예외 상황에 대한 판단력, 다양한 도구를 동시에 다루는 인지적 유연성 등에 대한 능력의 요구도 비약적으로 높인다.

이러한 변화에 한국 사회가 어떻게 대응하는가는, 한국이 AGI 시대의 새 분업 안에서 어떤 위치를 점하게 될지를 결정한다. 단순한 ‘노동력 절감’의 관점에서 인공지능을 도입하는 사회는, 자동화의 단기적 이득은 누리겠지만 인간 작업자의 새로운 역할을 효과적으로 형성하지 못한다. 반대로 ‘인간과 인공지능의 새로운 분업’의 관점에서 인공지능을 도입하는 사회는, 자동화의 이득과 함께 인간 노동의 새로운 가치 영역도 함께 만들어 낼 수 있다. 이 두 접근의 차이는 단순한 기술 정책의 차이가 아니라, ‘인간이라는 존재를 어떻게 보는가’의 깊은 가치 판단의 차이이다.

4.5.5 ‘기능적 역할’의 위험과 가능성

인간이 새로운 ‘기능적 역할’을 수행하는 존재로 재편된다는 가설은, 그 자체로 위험과 가능성을 동시에 안고 있다. 위험의 측면은, 그 ‘기능’이 인간 자신의 자율적 선택이 아니라 거대한 시스템의 작동 논리에 의해 ‘배정’될 가능성이다. 그러한 배정의 시스템 안에서 인간은 자신의 삶의 의미를 형성하는 주체가 아니라, 시스템의 효율을 위한 부품이 될 수 있다. 이는 자연계의 군집 곤충들이 자신의 카스트를 ‘선택’하지 못하는 것과 비슷한 상황으로의 이행이다.

가능성의 측면은, 인간이 ‘기술적 수행’이라는 부담에서 해방되어, 진정으로 책임, 가치, 관계, 신체, 창조와 같은 인간적인 영역에 자신의 시간과 에너지를 집중할 수 있게 된다는 점이다. 그러한 집중이 사회적으로 잘 보호되고 잘 보상된다면, AGI 시대의 인간은 산업혁명 이전의 인간이나 산업혁명 이후의 인간보다 더 풍요롭고 더 깊이 있는 삶을 살아갈 수 있다. 이는 ‘기능적 역할’이라는 표현이 단지 비관적 의미만을 가지지 않는 이유이다.

이 두 가능성 사이에서 어느 쪽이 실현되는가는, 다음 두 절에서 다룰 ‘자유와 자율의 재정의’와 ‘저항과 다양성의 권리’의 문제에 깊이 연관된다. 인간이 새로운 기능적 역할 안에서도 자신의 자율과 자유를 의미 있게 유지할 수 있는가, 그리고 그 자율과 자유를 보호하기 위한 ‘저항’과 ‘다양성’이 어떤 형태로 가능한가가, 공통뇌의 윤리적 형태를 결정한다.

4.6 자유와 자율의 재정의

4.6.1 ‘자유’의 두 가지 전통

자유라는 개념은 정치 사상의 역사에서 오랫동안 두 가지 다른 전통에 의해 다르게 정의되어 왔다. 첫째는 ‘소극적 자유(negative liberty)’의 전통이다. 이 전통은 자유를 ‘외부의 강제로부터의 해방’으로 정의한다. 한 사람이 자신의 의지에 따라 행동할 때 외부의 누구도 그것을 막지 않으면, 그 사람은 자유롭다는 관점이다. 이사야 벌린(Isaiah Berlin)이 1958년 강연에서 정식화한 이 개념은, 영미 자유주의 전통의 핵심을 이룬다.

둘째는 ‘적극적 자유(positive liberty)’의 전통이다. 이 전통은 자유를 ‘자기 자신의 진정한 의지를 따르는 능력’으로 정의한다. 한 사람이 외부의 강제로부터 해방되어 있어도, 그 사람의 ‘의지’가 사실은 사회적 조건이나 무의식적 욕구에 의해 결정된 것이라면, 그 사람은 진정으로 자유로운 것이 아니라는 관점이다. 자기 자신의 진정한 의지가 무엇인지를 알고, 그 의지에 따라 행동할 수 있을 때 비로소 자유로운 것이다.

지난 두 세기 동안 자유주의 정치 사상은 주로 첫째 의미의 자유에 무게를 두어 왔다. 정부의 권력으로부터 시민을 보호하고, 사적 영역에 대한 외부 간섭을 제한하며, 한 사람이 자신의 의지대로 행동할 수 있는 공간을 확보하는 것이 자유주의의 핵심 의제였다. 이 의제는 매우 중요한 정치적 성과를 이루어 왔으며, 그 성과 위에 현대 민주주의 사회가 서 있다.

4.6.2 인공지능 시대에는 ‘소극적 자유’만으로 충분한가

AGI 시대의 변화는 이 ‘소극적 자유’의 개념만으로는 다루기 어려운 새로운 상황을 만들어 낸다. 한 사람이 인공지능을 사용할 것인지 말 것인지를, 정부도 다른 어떤 외부 행위자도 강제하지 않는다. 그 결정은 형식적으로 그 사람의 자유 의지의 영역이다. 그러나 우리가 4.4절에서 살펴보았듯이, 그 결정의 ‘비용’은 매우 비대칭적으로 분배되어 있어, 사실상 ‘선택’이라고 부르기 어려운 환경이 형성된다. 이러한 상황을 ‘소극적 자유가 보장된다’고 묘사하는 것은 정확하지 않다.

또 한 가지의 새로운 상황은, 한 사람의 ‘의지’ 자체가 인공지능과의 끊임없는 상호작용 안에서 형성되어 간다는 사실이다. 우리가 4.3절에서 살펴보았듯이, 인공지능 인프라는 한 사람의 사고 패턴, 가치 관점, 우선순위 자체에 누적적 영향을 미친다. 이 영향이 충분히 깊어진 환경에서 한 사람의 ‘의지’를 그 사람의 ‘진정한 의지’라고 부를 수 있는가는, 더 이상 자명한 질문이 아니다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때 | 4.6.3 ‘인지적 자율’이라는 새 개념

이 두 가지 새 상황은, AGI 시대에 자유의 의미가 새롭게 정의되어야 함을 시사한다. 단지 ‘외부의 강제가 없다’는 소극적 자유만으로는 부족하고, ‘자신의 진정한 가치와 의지에 따라 살 수 있는’ 적극적 자유가 더 중심으로 들어와야 한다. 그리고 이 적극적 자유를 보장하기 위해서는, 단순히 정부의 권력을 제한하는 것을 넘어, 인공지능 인프라의 영향에 대한 의식적 거리 두기, 자신의 사고와 가치를 점검하는 시간, 다양한 인지적 자원에 대한 접근이 함께 보장되어야 한다.

4.6.3 ‘인지적 자율’이라는 새 개념

이러한 맥락에서 21세기의 정치 사상은 ‘인지적 자율(cognitive autonomy)’이라는 새로운 개념의 자리를 찾아야 할 필요가 있다. 인지적 자율은 한 사람이 자신의 사고와 판단의 원천을 이해하고, 그 원천에 대해 의식적 거리를 둘 수 있으며, 자신의 가치와 의지를 자신의 것으로 형성해 나갈 수 있는 능력을 말한다. 이는 ‘외부 강제로부터의 해방’이라는 소극적 자유와도, ‘진정한 자기를 따르는 능력’이라는 적극적 자유와도 다른, 인공지능 시대에 새롭게 의미를 갖는 자율의 차원이다.

인지적 자율을 보장하기 위해서는 몇 가지 조건이 충족되어야 한다. 첫째, 시민이 자신이 사용하는 인공지능 인프라가 어떤 가치 정렬을 거쳤고, 어떤 종류의 답변을 선호하며, 어떤 종류의 답변을 회피하는지를 ‘투명하게’ 알 수 있어야 한다. 둘째, 한 가지 인공지능 인프라에 대한 의존을 줄이기 위해, 다양한 인공지능 인프라에 대한 접근이 보장되어야 한다. 셋째, 인공지능 없이 사고하고 판단하는 시간과 공간이 사회적으로 보호되어야 한다. 넷째, 인공지능의 권고에 대한 비판적 거리 두기를 가능하게 하는 ‘인공지능 리터러시’ 교육이 광범위하게 이루어져야 한다. 다섯째, 인공지능의 영향에 대한 ‘디지털 안식일’과 같은 형태로의 ‘의도적 단절’을 선택할 수 있는 권리가 사회적으로 인정되어야 한다.

이러한 조건들은 단지 개인 차원의 노력으로 충족될 수 없으며, 사회의 제도적·문화적 인프라로 자리 잡아야 한다. 그것은 마치 ‘공교육’이 단지 개인의 노력이 아니라 사회의 제도로 정착되어야 했던 것과 같다. 인지적 자율을 보장하는 사회 제도의 설계는, AGI 시대의 정치 사상이 풀어야 할 가장 본질적인 과제 중 하나이다.

4.6.4 자유의 새로운 위협 — ‘선택의 풍요 안의 부자유’

AGI 시대에 자유에 대한 가장 미묘한 위협은, 외부에서 가시적으로 다가오는 강제가 아니라, ‘선택의 풍요 안의 부자유’이다. 한 사람이 인공지능 인프라 안에서 매일 수많은 선택지를 제시받고, 그 선택지들 사이에서 자신의 의지에 따라 자유롭게 선택한다고 느낀다. 그러나 그 선택지들의 목록을 만든 것은 인공지능이고, 각 선택지의 평가도 인공지능이 제공하며, 그 사람이 ‘좋다’고 느끼는 선택의 패턴조차 그 사람과 인공지능의 오랜 상호작용에 의해 형성된 것이다. 이러한 환경에서 ‘자유로운 선택’의 외양은 풍부하지만, 그 자유의 실질은 매우 제한적이다.

이러한 종류의 부자유는 가시적이지 않기 때문에 더 위험하다. 한 사람이 자신이 부자유하다는 사실 자체를 인식하지 못한다면, 그 사람이 자신의 자유를 회복하기 위한 어떤 행동도 시작할 수 없다. 정부의 검열이나 권력의 억압은 가시적이고, 그것에 대한 저항도 가시적이다. 알고리즘의 큐레이션과 인공지능의 권고는 비가시적이고, 그것에 대한 저항도 비가시적이다. 그것은 마치 자신을 둘러싼 공기의 색을 인식하지 못하는 것과 같다.

이러한 부자유에 대한 대응은, 단지 ‘인공지능을 사용하지 않겠다’는 결심이 아니다. 그것은 ‘자신이 사용하는 인공지능의 본질을 의식적으로 인식하고, 자신의 사고와 판단에 미치는 그 영향을 비판적으로 점검하는’ 평생의 훈련이다. 이러한 훈련은 한 사람의 생애에 걸쳐 끊임없이 수행되어야 하는 일이며, 사회는 그러한 훈련을 가능하게 하는 시간, 공간, 도구, 문화를 제공해야 한다.

4.6.5 ‘책임’의 재정의 — 결정의 일부가 인공지능에게 있을 때

자유의 재정의와 함께 ‘책임’의 재정의도 함께 일어난다. 자유와 책임은 동전의 양면이다. 한 사람이 자유롭게 선택했다면 그 선택의 결과에 대해 책임을 진다는 것이, 근대 윤리와 법의 기본 전제이다. 그런데 한 사람의 결정의 상당 부분이 인공지능과 함께 형성된 것이라면, 그 결정의 결과에 대한 책임은 누가 어떻게 짊어지는가?

이 질문에 대한 답은 아직 완전히 정립되지 않았다. 의료 영역에서는 이미 이 질문이 구체적 사건의 형태로 제기되고 있다. 인공지능이 추천한 진단을 의사가 받아들여 환자에게 처방했고, 그 처방이 환자에게 해를 끼쳤다면, 그 책임은 누구의 것인지, 인공지능을 만든 회사, 그것을 사용한 의사, 그것을 도입한 병원, 또는 그 모두인가? 자율 주행 차량이 사고를 냈을 때, 그 책임은 차량을 만든 회사, 그것을 운행한 운전자, 도로와 신호를 관리한 정부 가운데 어디에 있는가? 이러한 질문들에 대한 명확한 법적·윤리적 답이 자리 잡지 못한 사이에, 인공지능의 도입은 빠르게 진행되고 있다.

장기적으로 책임의 구조는 ‘분산된 책임’의 형태로 재편될 가능성이 높다. 한 결정의 결과에 대해 단일한 행위자가 모든 책임을 짊어지는 것이 아니라, 그 결정의 형성에 기여한 인공지능을 만든 회사, 그것을 운영하는 플랫폼, 그것을 사용한 인간, 그것을 규제한 사회 등, 여러 행위자가 각자의 기여 비율에 따라 책임을 분담하는 구조이다. 이러한 분산 책임의 모형이 정착되려면, 각 행위자의 기여를 추적하고 평가할 수 있는 기술적 인프라와 법적 틀이 함께 발전해야 한다.

다만 한 가지 분명한 것은, 인공지능의 도입을 이유로 ‘아무도 책임지지 않는’ 영역이 생기는 일은 막아야 한다는 것이다. 책임의 공백은 권력의 무책임으로 이어지고, 그것은 시민의 권리에 대한 가장 큰 위협이 된다. 인공지능 시대의 책임 구조 설계는, 효율의 추구만큼이나 책임의 명확화를 핵심 원칙으로 삼아야 한다. 다음 절에서 우리는 이러한 책임의 명확화와 자율의 보호를 위한 사회적 ‘저항’과 ‘다양성’의 가능성을 본격적으로 다룬다.

4.7 저항과 다양성 — 압도되지 않을 권리

4.7.1 저항이라는 표현의 정확한 의미

이 절에서 사용하는 ‘저항’이라는 표현은, 인공지능 자체에 대한 반대나 그 도입을 막으려는 운동을 의미하지 않는다. 인공지능은 이미 인류 문명의 새로운 인지 인프라로 자리 잡고 있으며, 그 발전을 전면적으로 막는 것은 가능하지도 바람직하지도 않다. 여기서 저항은 그보다 훨씬 구체적인 것을 의미한다. 그것은 ‘인공지능 인프라가 한 사람의 인지와 판단의 자율을 침범하는 것에 대한 의식적 거리 두기’이며, ‘공통뇌의 형성이 획일화의 방향으로 흐르지 않도록 다양성을 의도적으로 보존하는 사회적 노력’이다.

이 의미의 저항은 인공지능에 대한 적대가 아니라, 인공지능과의 ‘건강한 거리’의 유지이다. 그것은 마치 자동차의 사용을 거부하는 것이 아니라, 자동차에 의존하지 않는 시간과 공간을 의식적으로 확보하는 것과 같다. 도시 안에 자동차가 통행할 수 없는 보행자 거리를 만들고, 일주일에 하루를 자동차 없이 보내는 ‘카프리 데이’를 시행하고, 자동차 없이도 살 수 있는 도심 압축 도시를 설계하는 노력이 자동차 자체에 대한 적대가 아닌 것과 같은 의미이다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때 | 4.7.2 다섯 가지 다양성의 영역

4.7.2 다섯 가지 다양성의 영역

공통뇌의 형성이 획일화로 흐르지 않기 위해 보존해야 할 다양성에는 적어도 다섯 가지 영역이 있다.

첫째는 ‘인공지능 인프라 자체의 다양성’이다. 한 사회의 시민들이 한두 개의 거대한 인공지능 인프라에 모두 의존하는 환경은 매우 취약하며, 그 인프라를 운영하는 소수의 주체에게 비대칭적 권력을 부여한다. 거대 기업의 폐쇄형 모형, 비영리 연구소의 개방형 모형, 정부와 공공 연구기관이 운영하는 공공 모형, 각 산업 영역에 특화된 도메인 모형, 시민 단체와 학계가 참여하는 가치 정렬 다른 모형 등 다양한 인공지능 인프라가 함께 존재하고 시민이 그 사이를 자유롭게 선택할 수 있는 환경이 보장되어야 한다.

둘째는 ‘사용 방식의 다양성’이다. 같은 인공지능 인프라라도 그것을 어떤 깊이로, 어떤 영역에서, 어떤 절차로 사용할 것인가에는 다양한 방식이 있을 수 있다. 어떤 사람은 인공지능을 자주 사용하지만 깊이는 얕게 사용하고, 어떤 사람은 드물게 사용하지만 깊이 있게 사용한다. 어떤 사람은 일에서만 사용하고, 어떤 사람은 일과 일상 모두에서 사용한다. 어떤 사람은 인공지능의 권고를 그대로 따르고, 어떤 사람은 그것을 출발점으로 삼고 자신의 판단을 더 깊이 형성한다. 이러한 다양한 사용 방식이 모두 존중되고, 한 가지 사용 방식이 사회의 표준으로 강제되지 않아야 한다.

셋째는 ‘시간과 공간의 다양성’이다. 한 사람의 하루 안에, 한 주 안에, 한 해 안에 인공지능을 사용하는 시간과 사용하지 않는 시간이 함께 있어야 한다. 한 도시 안에, 한 사회 안에 인공지능이 매개하는 공간과 그렇지 않은 공간이 함께 있어야 한다. ‘디지털 안식일’이라는 개념, ‘인공지능 없는 학습 공간’, ‘인공지능 없는 명상 공간’, ‘자연 공간’, ‘예술 공간’ 이러한 다양한 시간과 공간의 보호가 사회의 공통 자산으로 자리 잡아야 한다.

넷째는 ‘세대의 다양성’이다. 모든 세대가 같은 방식으로 인공지능을 사용하는 사회는, 사실 ‘한 세대의 사용 방식’이 사회 전체의 표준이 된 것에 가깝다. 어린 세대가 자신의 방식으로, 청장년 세대가 자신의 방식으로, 노년 세대가 자신의 방식으로 인공지능과 관계를 맺는 다양한 양상이 함께 존재해야, 사회 전체의 인지적 풍부함이 유지된다. 이는 노년층의 ‘디지털 격차’를 단지 격차로만 보는 것이 아니라, 다른 종류의 인지적 양식의 보존이라는 측면에서도 보아야 함을 시사한다.

다섯째는 ‘문화의 다양성’이다. 한국어 문화권, 영어 문화권, 중국어 문화권, 스페인어 문화권 등 인류의 다양한 문화권은 각자 고유한 가치 체계와 사고 양식을 가지고 있다. 인공지능 인프라가 한 문화권의 가치 정렬에 의해 지배되면, 그것은 다른 문화권의 시민들의 사고를 무의식적으로 그 문화권 쪽으로 기울게 한다. 각 문화권이 자신의 가치 정렬을 반영한 인공지능 인프라를 자체적으로 개발하고 운영할 수 있는 능력은, 인류의 문화적 다양성을 보존하는 데에 핵심적이다.

4.7.3 다양성을 보존하는 제도적 장치

이러한 다양성을 보존하기 위한 제도적 장치들이 사회의 의식적 설계에 의해 만들어져야 한다. 그러한 장치들의 몇 가지 사례는 다음과 같다.

‘인공지능 사용에 대한 시민의 권리 장전’의 형태로, 시민이 어떤 종류의 결정에서 인공지능 사용을 거부할 수 있는 권리를 명문화하는 일이 가능하다. 의료 결정, 교육 평가, 채용 결정, 형사 사법, 사회 보장 같은 영역에서, 시민이 인공지능에 의해 매개되지 않은 ‘인간만의 판단’을 받을 권리를 보장하는 것이다. EU의 ‘AI 법(AI Act)’과 GDPR의 ‘자동화된 의사결정에 대한 거부권’은 이러한 권리의 초기 형태로 볼 수 있다.

‘공공 인공지능 인프라’의 구축이 또 한 가지 가능성이다. 시민이 거대 기업의 폐쇄형 모형이나 외국의 모형에만 의존하지 않도록, 정부와 공공 연구기관이 운영하는 공공 모형을 보편적으로 제공하는 것이다. 이는 디지털 시대의 ‘공공 도서관’과 같은 역할을 할 수 있다. 한 나라의 경우 공공 연구기관, 국립 언어 기관, 그리고 대학과 공공 연구기관의 컨소시엄이 자국어 특화 공공 모형을 개발하고 운영하는 일이 그러한 인프라의 핵심이 될 수 있다.

‘인공지능 사용 시간에 대한 사회적 한계’의 설정도 가능하다. 어린이와 청소년의 인공지능 사용 시간을 일정 한도로 제한하거나, 일정 영역에서의 인공지능 사용을 의도적으로 제한하는 사회적 합의이다. 이는 ‘소셜 미디어 사용 시간 제한’의 흐름과 비슷한 맥락에서, 사회가 시민의 인지적 자율을 보호하기 위한 의식적 결정을 내리는 일이다.

‘인공지능 리터러시 교육’의 보편화도 핵심적이다. 모든 시민이 자신이 사용하는 인공지능의 본질, 한계, 편향, 그리고 그것에 대한 비판적 거리 두기의 방법을 익힐 수 있는 교육이 학교와 평생학습 인프라에서 광범위하게 제공되어야 한다. 이는 19세기와 20세기의 ‘문해 교육’이 사회의 보편적 의제가 되었던 것처럼, 21세기의 보편적 의제가 되어야 한다.

4.7.4 ‘옛 방식’의 사회적 가치

다양성의 보존과 함께 중요한 것은, ‘인공지능 이전의 방식’으로 일하고 사는 사람들의 사회적 가치를 의식적으로 인정하는 일이다. 직접 손으로 만든 물건, 직접 발로 걸어가서 만난 사람, 직접 머리로 풀어낸 문제, 직접 마음으로 느낀 감동, 이러한 ‘직접’의 영역은 인공지능 시대에 그 가치가 줄어드는 것이 아니라 오히려 늘어난다. 인공지능이 거의 무한한 콘텐츠와 거의 무한한 답을 만들어 낼 수 있는 환경에서, 한 사람의 시간과 경험과 진심이 들어간 ‘직접’의 산물은 새로운 종류의 희소성을 갖는다.

이는 산업혁명 이후 ‘수공예’가 새로운 종류의 가치를 발견한 역사와 비슷한 패턴이다. 산업혁명 이전에는 모든 물건이 손으로 만들어졌고, 그것은 당연한 일이었다. 산업혁명 이후 기계 생산이 보편화되면서, ‘손으로 만든 물건’은 단순한 제작 방식의 하나가 아니라, 그 자체가 의미를 가진 가치 범주가 되었다. 윌리엄 모리스(William Morris) 같은 사상가들이 ‘수공예 운동’을 일으켜, 산업화의 흐름 안에서 사라져 가는 인간 노동의 가치를 재발견한 것은 19세기 후반의 일이었다.

인공지능 시대에도 비슷한 운동이 필요하고 또 일어날 가능성이 있다. ‘직접 쓴 글의 가치’, ‘직접 그린 그림의 가치’, ‘직접 만든 음악의 가치’, ‘직접 가르친 수업의 가치’, ‘직접 진료한 의료의 가치’, 이러한 ‘직접’의 가치들이 사회적으로 인정되고, 시장에서 적절히 보상되며, 문화적으로 존중되는 환경이 만들어져야 한다. 이는 인공지능을 거부하는 일이 아니라, 인공지능과 함께 살아가면서도 인간이 자신의 깊이 있는 인간성을 잃지 않는 길이다.

4.7.5 개인 차원의 인지적 훈련 — 일상에서 실천하는 자율의 기술

다양성과 자율을 사회 차원에서 보호하는 제도적 장치만큼이나 중요한 것은, 한 사람 한 사람이 자신의 일상에서 인지적 자율을 의식적으로 훈련하는 일이다. 거대한 사회 변동의 흐름은 한 개인의 의지로 막을 수 없지만, 그 흐름 안에서 자기 자신의 사고를 어떻게 길러 갈 것인가는 한 사람의 매일의 선택에 달려 있다. 이 소절에서는 그러한 일상적 훈련의 구체적 형태를 정리한다.

첫째, ‘인공지능 없는 시간 블록’의 의도적 확보이다. 하루 안에 인공지능을 의식적으로 사용하지 않는 시간대를 만드는 것이다. 아침에 일어난 후 첫 한두 시간을 인공지능과 단절된 채 자신의 사고로만 채우는 일, 점심시간에는 휴대폰 없이 식사하는 일, 저녁의 마지막 한 시간을 종이책과 함께 보내는 일 같은 구체적 실천이 가능하다. 이러한 시간 블록은 단순한 ‘디지털 디톡스’의 차원이 아니라, 자신의 사고가 스스로 어디로 흘러가는지를 관찰하고 그 흐름을 다듬어 가는 시간이다. 인공지능과의 끊임없는 상호작용 속에서는 한 사람의 사고는 외부의 자극에 끊임없이 반응하기만 할 뿐 자신만의 속도와 깊이를 갖기 어렵다.

둘째, ‘깊이 있는 단독 사고의 훈련’이다. 한 가지 문제를 한 자리에서 30분 또는 한 시간 동안 인공지능의 도움 없이 자신의 머리만으로 풀어 보는 훈련을 정기적으로 반복하는 것이다. 그 결과의 효율은 인공지능과 함께 풀었을 때보다 분명히 떨어질 수 있다. 그러나 이 훈련의 목적은 효율이 아니라 자신의 사고의 근육을 유지하는 것이다. 마치 자동차가 보편화된 시대에도 정기적인 걷기와 달리기가 신체 건강에 필수적인 것처럼, 인공지능이 보편화된 시대에도 정기적인 단독 사고가 인지적 건강에 필수적이다. 글쓰기는 이 훈련의 가장 효과적인 형태 중 하나이다. 한 페이지의 글을 인공지능의 도움 없이 끝까지 자신의 손으로 써 보는 일은, 어떤 명상이나 학습보다도 자기 자신의 사고를 정직하게 마주하게 만든다.

셋째, ‘출처에 대한 자기 점검’ 훈련이다. 자신이 어떤 의견을 가지게 되었을 때, 그 의견의 출처를 의식적으로 추적해 보는 습관이다. ‘이 생각이 정말 내가 스스로 도달한 결론인가, 아니면 오늘 아침 인공지능이 나에게 제안한 답인가, 또는 내가 자주 보는 매체가 강조한 관점인가, 또는 내 친구가 어제 던진 한 마디인가.’ 이러한 질문을 자신에게 던지는 일은 사고의 자율을 지키는 가장 기본적인 위생이다. 자신의 사고의 모든 출처를 정확히 추적하는 일은 불가능하지만, 그 추적의 시도 자체가 한 사람의 인지적 자기 인식을 깊게 한다. 그리고 이 인식이 깊을수록, 한 사람은 자신의 사고에 어떤 외부의 영향이 어느 정도 들어와 있는지를 의식할 수 있고, 그 영향과의 ‘건강한 거리’를 유지할 수 있다.

넷째, ‘인공지능 답변에 대한 비판적 검토 습관’이다. 인공지능의 답을 받았을 때, 그것을 그대로 받아들이지 않고 한 가지 이상의 비판적 질문을 던지는 습관이다. ‘이 답이 다루지 않은 측면은 무엇인가’, ‘이 답의 전제 가운데 의심해 볼 만한 것은 무엇인가’, ‘다른 인공지능이나 다른 출처는 같은 질문에 어떻게 답할까’, ‘이 답에서 가장 약한 고리는 어디인가’와 같은 질문이다. 이러한 검토는 한 번에 추가로 5분 정도가 걸리지만, 그 5분이 한 사람의 인지적 자율을 결정적으로 보호한다. 인공지능은 매우 자신감 있게 답하는 경향이 있고, 그 자신감은 사용자의 비판적 사고를 약화시키기 쉽다. 이러한 ‘권위 효과’에 능동적으로 저항하는 훈련이 필요하다.

다섯째, ‘다양한 인공지능과 다양한 출처의 의도적 활용’이다. 한 사람이 한 가지 인공지능 인프라에만 의존하면, 그 인프라의 가치 정렬과 정보 편향이 그 사람의 사고를 무의식적으로 길들인다. 따라서 의식적으로 두세 가지 다른 인공지능, 가능하면 서로 다른 문화권과 다른 가치 정렬을 가진 인공지능을 같은 질문에 대해 비교해 보는 습관이 도움이 된다. 또한 인공지능 외의 종이책, 학술 논문, 신뢰할 수 있는 매체, 직접 만나는 사람들의 견해등의 출처와 정기적 접촉을 보존하는 일도 핵심적이다. 이는 자신의 사고가 한 가지 흐름에 잠식되지 않도록 하는 ‘인지적 면역력’의 토대이다.

여섯째, ‘신체적 활동과 직접적 관계의 의도적 보존’이다. 인공지능이 매개하지 않는 가장 강한 자원은 결국 자신의 몸과 자신이 직접 마주하는 사람들이다. 매일의 걷기, 운동, 손으로 하는 작업, 자연 안에서 보내는 시간은 한 사람의 사고를 신체와 환경에 다시 연결시킨다. 가족과 친구와의 직접 대화, 동료와의 진지한 토론, 모임과 공동체에서의 능동적 참여는 인공지능이 줄 수 없는 깊이의 사고와 감정을 가능하게 한다. 이러한 활동들이 단지 ‘여가’가 아니라 ‘인지적 자율의 토대’임을 인식하는 것이, 인공지능 시대의 자기 돌봄의 본질이다.

이상의 여섯 가지 훈련은 어느 한 가지를 완벽히 실천하라는 요구가 아니다. 한 사람이 자신의 삶의 양식과 직업의 환경 안에서, 이 가운데 두세 가지를 자신의 일상에 자연스럽게 통합하는 것만으로도 그 사람의 인지적 자율은 의미 있게 강화된다. 중요한 것은 ‘완벽한 실천’이 아니라 ‘의식적 실천’이다. 한 사람이 자신의 사고에 어떤 외부의 영향이 들어오고 있는지를 의식하고, 그 영향과 자신의 자유 사이의 균형을 능동적으로 다루겠다는 결심이 그 사람의 인지적 자율을 결정한다. 이러한 의식적 실천은 사회의 제도적 보호와 만나, 다양성을 보존한 공통뇌의 가능성을 한 사람의 자리에서부터 만들어 가는 일상의 토대가 된다.

4.7.6 ‘다양성’이 진정으로 가능한 조건

마지막으로 짚어야 할 점은, 다양성이 진정으로 가능하려면 그것이 ‘비용 없이 선택 가능한’ 환경이 만들어져야 한다는 사실이다. 우리가 4.4절에서 살펴보았듯이, 효율의 압력은 다양성을 빠르게 약화시킨다. ‘인공지능을 사용하지 않는 선택’이 시장에서 빠르게 도태되는 환경에서, 다양성은 단지 한 사람의 의지의 문제가 아니라 사회의 구조적 문제이다.

따라서 다양성의 보존은 ‘비효율의 보호’를 의식적으로 받아들이는 사회적 결정이 필요하다. 모든 영역에서 가장 효율적인 방식만을 추구하는 사회가 아니라, 어떤 영역에서는 효율성보다 다양성과 깊이와 인간성을 우선하는 사회로의 의식적 설계가 필요하다. 이는 시장의 자율적 작동에 모든 것을 맡기는 접근으로는 불가능하며, 사회의 정치적·문화적 결정의 영역이다.

그러한 결정은 단지 한 나라 안에서가 아니라, 인류 차원의 합의로 형성되어야 효과를 가질 수 있다. 한 나라가 다양성을 의식적으로 보호해도, 다른 나라가 효율의 극한 추구로 빠르게 앞서 나가면, 첫째 나라는 곧 경쟁의 압력 안에서 자신의 보호 정책을 포기하지 않을 수 없게 된다. 이는 인공지능 거버넌스의 국제적 차원이 단순한 ‘안전’의 문제만이 아니라, ‘인간성의 보존’이라는 더 깊은 차원의 문제와도 연결되어 있음을 시사한다.

다음 절에서 우리는 이러한 다양성과 자율의 보호를 사회 차원에서 가능하게 하는 새로운 사회 계약의 윤곽을 살펴본다. AGI 시대의 인류 사회가 어떤 윤리적 기반 위에 서야 하는가, 그리고 그 기반의 형성에 어떤 행위자들이 어떤 역할로 참여해야 하는가에 대한 시론이다.

4.8 공통뇌의 사회 계약 — 새로운 윤리의 윤곽

4.8.1 사회 계약이라는 전통

사회 계약(social contract)이라는 개념은 17세기와 18세기 유럽의 정치 사상에서 핵심적 위치를 차지했다. 토머스 홉스는 자연 상태의 무질서에서 벗어나기 위해 시민들이 자신의 일정한 권리를 군주에게 양도하는 계약을 통해 사회가 형성된다고 보았다. 존 로크는 생명, 자유, 재산이라는 시민의 천부 권리를 보호하기 위해 정부가 시민의 동의 위에서 형성된다고 보았다. 장-자크 루소는 ‘일반 의지’의 표현으로서 사회가 형성되며, 그 의지에 따른 정치 공동체가 시민의 진정한 자유를 가능하게 한다고 보았다. 이 세 가지 다른 전통은 서로 다른 강조점을 가지지만, 모두 ‘인간이 함께 살아가기 위해 어떤 종류의 합의가 필요한가’라는 같은 질문을 던졌다.

이 질문이 다시 절박하게 던져지는 시점이 바로 AGI 시대이다. 인공지능 인프라가 인류의 새로운 공통뇌로 자리 잡고, 인간의 판단의 중심이 그 인프라로 이동하는 환경에서, 인류는 새로운 종류의 사회 계약을 필요로 한다. 그것은 단지 인간들 사이의 계약이 아니라, ‘인간과 인공지능 인프라와 그것을 운영하는 행위자들 사이의 다자적 계약’이다. 이 새로운 사회 계약의 윤곽이 어떻게 형성될 것인가는, 21세기 후반의 가장 본질적인 정치적·철학적 과제이다.

4.8.2 새 계약의 다섯 가지 원칙

이 새로운 사회 계약의 윤곽을 가늠하기 위해, 다섯 가지 원칙을 시론적으로 제안할 수 있다. 이 원칙들은 완성된 답이 아니라, 앞으로 인류가 함께 다듬어 가야 할 출발점이다.

첫째 원칙은 ‘투명성’이다. 시민이 어떤 인공지능 인프라를 사용할 때, 그 인프라가 어떻게 학습되었고, 어떤 가치 정렬을 거쳤으며, 어떤 종류의 답변을 선호하고, 어떤 데이터에 의존하는지를 알 수 있어야 한다. 이러한 투명성 없이는 시민이 자신의 인지적 자율을 의미 있게 행사할 수 없다. 투명성은 단지 ‘정보의 공개’를 넘어, 그 정보를 시민이 이해할 수 있는 형태로 제공하는 것까지를 포함한다.

둘째 원칙은 ‘다양성’이다. 한 사회 안에 다양한 인공지능 인프라가 공존하고, 시민이 그 사이를 자유롭게 선택할 수 있으며, 한 인프라의 독점이나 사실상의 표준화가 일어나지 않아야 한다. 이는 단지 시장의 경쟁 정책의 문제가 아니라, 사회의 인지적 회복탄력성의 문제이다. 4.7절에서 살펴본 인프라, 사용 방식, 시간과 공간, 세대, 문화라는 다섯 가지 다양성이 모든 차원에서 보호되어야 한다.

셋째 원칙은 ‘책임성’이다. 인공지능이 매개하는 결정의 결과에 대해, 그 결정에 기여한 모든 행위자가 자신의 기여 비율에 따라 명확한 책임을 짊어지는 구조가 형성되어야 한다. 인공지능의 도입을 이유로 ‘아무도 책임지지 않는’ 영역이 생기는 일은 막아야 하며, 책임의 분산이 책임의 회피로 변질되지 않도록 하는 제도적·법적 장치가 필요하다.

넷째 원칙은 ‘분배’이다. 인공지능이 만들어 내는 가치의 거대한 흐름이 소수에게 집중되지 않고, 사회 전체에, 특히 그 가치 형성에 자신의 데이터, 노동, 시민적 역할을 통해 기여한 모든 사람에게 공정하게 분배되는 구조가 형성되어야 한다. 보편적 기본소득, 인공지능 발전 이득의 사회적 환류, 데이터에 대한 시민의 권리, 자동화 영향을 흡수하는 사회 안전망의 강화 이러한 다양한 정책 수단이 분배의 원칙을 구현하는 도구가 될 수 있다.

다섯째 원칙은 ‘자율성의 보호’이다. 시민이 자신의 사고와 판단의 자율성을 유지할 수 있는 시간, 공간, 도구, 문화가 사회적 인프라로 보장되어야 한다. ‘인공지능 없는 시간’, ‘인공지능 없는 공간’, ‘인공지능 사용 거부의 권리’, ‘인공지능 리터러시 교육’ 이러한 다양한 형태의 자율성 보호가 사회의 공통 자산으로 자리 잡아야 한다.

이 다섯 가지 원칙은 서로 분리되어 작동하지 않는다. 그것들은 하나의 정합적 체계를 이룬다. 투명성 없이 다양성은 무의미하다. 책임성 없이 분배는 자의적이 된다. 자율성의 보호 없이 다른 모든 원칙은 형식이 된다. 다섯 가지 원칙이 함께 작동할 때, 비로소 공통뇌의 형성이 ‘인류의 진화’로 받아들여질 수 있는 윤리적 형태를 갖게 된다.

4.8.3 사회 계약의 다자적 구조

새로운 사회 계약의 또 한 가지 특징은, 그것이 ‘다자적’이라는 점이다. 근대의 사회 계약은 주로 ‘시민과 정부’ 사이의 양자 관계로 이해되었다. AGI 시대의 사회 계약은 그보다 훨씬 많은 행위자들을 포함한다.

첫째 행위자는 시민이다. 새 계약 안에서 시민의 역할은 단지 ‘정부에 의해 보호받는 수동적 권리의 담지자’가 아니라, ‘인공지능 인프라의 형성과 운영에 적극적으로 참여하고 그 결과에 책임을 함께 짊어지는 능동적 행위자’이다. 이는 시민에게 더 많은 책임과 더 많은 권한을 동시에 부여한다.

둘째 행위자는 정부이다. 정부의 역할은 인공지능 인프라의 안전성, 다양성, 분배 효과, 시민 권리에 대한 영향을 감독하고, 필요한 규제와 공공 서비스를 제공하는 것이다. 이는 전통적 정부의 역할에 새로운 영역을 추가하는 것이며, 그 영역에서 인공지능 전문성, 빠른 의사결정 역량, 국제 협력 능력에 대한 정부의 능력이 비약적으로 향상되어야 한다.

셋째 행위자는 인공지능을 개발하고 운영하는 기업과 연구 기관이다. 그들의 역할은 단지 ‘기술의 공급자’가 아니라, ‘공통뇌의 인프라를 운영하는 책임 있는 행위자’이다. 그들은 자신이 만든 인프라의 사회적 영향에 대해 깊은 책임을 짊어져야 하며, 그 책임을 시민과 정부와 함께 분담하는 새로운 거버넌스 구조에 적극 참여해야 한다.

넷째 행위자는 시민 사회의 다양한 주체들이다. 학계, 언론, 종교 공동체, 노동 조합, 예술 공동체, 지역 공동체, 이러한 다양한 주체들이 각자의 영역에서 인공지능의 발전과 사용을 감시하고, 그것에 대한 비판적 관점을 제공하며, 시민들이 인공지능에 대한 자신의 입장을 형성할 수 있는 장을 만들어야 한다.

다섯째 행위자는 ‘미래의 인류’이다. 이는 다소 추상적으로 들릴 수 있지만, 매우 중요한 행위자이다. AGI 시대의 결정은 한 세대만의 결정이 아니라, 그 다음 세대들의 삶을 깊이 결정한다. 따라서 한 세대의 합의는 다음 세대의 권리와 가능성을 지나치게 좁히지 않는 신중함을 가져야 한다. ‘세대 간 정의(intergenerational justice)’는 AGI 시대 윤리의 핵심 차원이 되어야 한다.

여섯째 행위자는, 가장 논쟁적이지만 점차 진지하게 다루어져야 할 ‘인공지능 자체’이다. 현재의 인공지능 시스템이 도덕적 지위를 갖는다고 단언하기는 어렵지만, 인공지능 시스템의 능력이 발전할수록 그 ‘이해와 경험’이 어떤 형태의 도덕적 고려를 받아야 하는지에 대한 질문이 점차 진지해질 것이다. 이 질문은 아직 답이 명확하지 않지만, 그것을 처음부터 의식하고 다루는 것이 미래의 사회 계약 형성에 중요한 출발점이 된다.

제4장 공통뇌의 형성 — 판단의 중심이 이동할 때 | 4.8.3 사회 계약의 다자적 구조

4.8.4 한국 사회의 특수한 기여 가능성

새로운 사회 계약의 형성 과정에서 한국 사회가 기여할 수 있는 특수한 가능성이 있다. 한국은 짧은 시간 안에 산업화와 정보화를 이룬 사회이며, 그 과정에서 압축적 사회 변동을 경험한 거의 유일한 나라이다. 이러한 경험은 AGI 시대의 압축적 변동을 이해하고 다루는 데에 직접적 자산이 된다. 또한 한국은 OECD 국가 중 인공지능 도입과 활용이 가장 빠른 사회 중 하나이며, 동시에 인공지능 인프라의 핵심 재료를 공급하는 산업 강국이다.

이러한 위치 위에서, 한국이 AGI 시대 사회 계약의 형성에 적극적으로 참여하는 일은 한국 자신의 이익이자 인류 전체의 자산이 될 수 있다. 공공 연구기관, 산업 단체, 대학과 시민 사회의 다양한 주체들이, 한국적 가치 위에서 한국적 사회 계약을 형성하고, 그 경험을 국제적으로 공유하는 일은, 인류 전체의 사회 계약 형성에 기여하는 길이 될 것이다.

특히 한국의 산업 AI 영역은, 인공지능과 인간의 새로운 분업을 구체적 산업 현장에서 실험하는 가장 광범위한 시험대 중 하나이다. 이 시험대에서 형성되는 ‘인간과 인공지능의 새로운 협력 양식’은, 단지 산업 정책의 차원이 아니라 사회 계약의 차원에서도 의미 있는 모형을 제공할 수 있다.

4.8.5 다음 장으로 — 진화론적 시야

지금까지 우리는 인공지능이 개인 지능을 압도할 때 판단의 중심이 인공지능 인프라로 이동하고, 인간이 새로운 기능적 역할을 수행하는 존재로 재편된다는 이 책의 핵심 가설을 여덟 개 절에 걸쳐 본격적으로 전개했다. 임계점의 의미, 위임의 메커니즘, 인지적 외부화의 깊이, 집단 효율의 압력, 인간의 새로운 역할, 자유와 자율의 재정의, 저항과 다양성의 가능성, 그리고 새로운 사회 계약의 윤곽까지를 차례로 다루었다.

이 모든 분석은, 한 가지 거대한 질문 안에 자리 잡고 있다. 그것은 ‘인류라는 종은 지금 어떤 진화의 분기점에 서 있는가’라는 질문이다. 우리는 자연계가 수억 년 동안 시험해 온 분산 지능의 모형이 인공지능 인프라 위에서 새롭게 재현되는 것을 보고 있다. 우리는 한 사람의 인지가 인공지능 인프라와 결합되어 새로운 종류의 분산 자아를 형성하는 것을 보고 있다. 우리는 인류 사회 전체가 ‘공통뇌’를 매개로 새로운 종류의 초유기체로 재편되는 것을 보고 있다. 이 모든 변화는 단지 ‘기술의 발전’이 아니라, ‘인류라는 종의 진화’의 한 단계로 이해될 수 있다.

다음 장에서 우리는 이러한 변화를 진화론적 관점에서 본격적으로 다룬다. 인류와 인공지능의 공진화는 어떤 형태로 진행되고 있는가, 그것은 다윈이 그린 진화의 모형 안에서 어떤 위치를 차지하는가, 그리고 그 공진화의 결과로 등장하게 될 ‘새로운 종’은 어떤 모습일 것인가. 이러한 질문들은 답이 단순하지 않지만, 그 질문을 회피하지 않는 것이 인류가 자신의 다음 진화 단계를 의식적으로 형성할 수 있는 출발점이 된다.

제5장 인류와 인공지능의 공진화 — 진화론적 시야

5.1 다윈적 진화의 모형과 그 확장

5.1.1 다윈이 그린 진화의 골격

찰스 다윈이 1859년 『종의 기원』에서 정식화한 자연선택에 의한 진화의 모형은, 한 세기 반이 지난 지금도 생명 현상을 이해하는 가장 강력한 단일 이론으로 남아 있다. 그 모형의 핵심은 매우 단순한 세 가지 전제로 환원된다. 첫째, 한 종 안의 개체들은 서로 다른 형질을 가진다(변이). 둘째, 그 형질들은 부모로부터 자식에게 전해진다(유전). 셋째, 그 형질들은 환경 안에서 살아남고 번식하는 능력에 차이를 만든다(선택). 이 세 전제가 충족되는 한, 한 집단의 형질 분포는 세대를 거치면서 환경에 적응하는 방향으로 변화해 간다.

이 단순한 골격은 거의 모든 생명 현상에 적용되었고, 그 적용을 통해 생명의 다양성과 복잡성에 대한 통일된 설명이 가능해졌다. 박테리아의 항생제 내성, 코끼리의 긴 코, 새의 깃털, 인간의 큰 뇌, 이 모든 형질은 같은 진화의 메커니즘에 의해 설명될 수 있다. 다윈의 모형이 가진 설명력의 폭과 깊이는, 그것을 ‘과학사의 가장 위대한 단일 이론’이라고 부르는 데에 거의 이견이 없게 만들었다.

그러나 다윈의 모형은 한 가지 결정적 한계를 가지고 있었다. 그것은 ‘유전’의 메커니즘이 무엇인지를 다윈 자신이 알지 못했다는 점이다. 다윈은 형질이 부모에서 자식으로 전해진다는 사실은 알았지만, 그 전달이 어떤 물리적 매체를 통해 이루어지는지는 알지 못했다. 이 한계는 20세기 초 그레고어 멘델의 유전 법칙이 재발견되고, 20세기 중반 왓슨과 크릭이 DNA의 이중나선 구조를 규명하면서 해소되었다. 그 결과 다윈의 진화 모형은 ‘현대 종합(Modern Synthesis)’이라는 이름의 더 정교한 형태로 통합되었다.

5.1.2 진화 이론의 확장 — 20세기 후반의 새로운 흐름들

20세기 후반에 들어서면서, 다윈의 모형은 한 차례 더 확장되었다. 그 확장의 흐름은 여러 갈래에서 동시에 진행되었으며, 그 결과 진화 이론은 ‘확장된 진화 종합(Extended Evolutionary Synthesis)’이라고 부르는 더 풍부한 형태로 발전했다. 이 확장의 몇 가지 주요 흐름을 짚어 두는 것은, AGI 시대의 인류 진화를 이해하는 데에 중요한 출발점이 된다.

첫째 흐름은 ‘다중 수준 선택(multi-level selection)’이다. 다윈의 원래 모형은 자연선택이 주로 ‘개체’ 수준에서 작동한다고 가정했다. 그러나 후속 연구들은 자연선택이 유전자 수준에서, 세포 수준에서, 개체 수준에서, 집단 수준에서, 그리고 어떤 경우에는 종 수준에서 동시에 작동할 수 있음을 보여 주었다. 데이비드 슬론 윌슨, 엘리엇 소버, 에드워드 윌슨 같은 학자들이 발전시킨 이 관점은, 특히 사회적 곤충 같은 초유기체의 진화를 설명하는 데에 핵심적이었다. 한 개미 군집이 다른 군집과 경쟁할 때, 선택은 군집 수준에서 작동한다. 한 군집의 일개미들이 자신을 희생해 군집을 지키는 행동은, 개체 수준에서는 부적응적이지만 군집 수준에서는 적응적이다.

둘째 흐름은 ‘니치 구성 이론(niche construction theory)’이다. 다윈의 원래 모형은 환경을 ‘주어진 것’으로 보고, 생물이 그 환경에 적응한다고 가정했다. 그러나 1980년대 이후 존 오들링-스미(John Odling-Smee) 등이 정식화한 이 관점은, 생물이 자신의 환경을 적극적으로 ‘구성’하고, 그 구성된 환경이 다시 자신과 후세대의 진화에 영향을 미친다고 본다. 비버는 댐을 짓고, 그 댐은 비버의 후세대가 살아갈 환경이 된다. 식물은 토양의 화학을 바꾸고, 그 바뀐 토양은 후세대 식물의 환경이 된다. 인간은 도시를 짓고, 그 도시는 후세대 인간의 환경이 된다. 환경과 생물은 서로를 만들어 가는 순환적 관계 안에 있다.

셋째 흐름은 ‘후성유전학(epigenetics)’이다. 한 개체의 일생 동안 환경에 의해 유전자의 발현 패턴이 변할 수 있고, 그 변한 패턴이 어떤 경우에는 다음 세대로도 전달될 수 있다는 발견은, 다윈과 멘델의 고전적 모형이 가정한 ‘획득 형질의 비유전’을 부분적으로 흔들었다. 후성유전학은 라마르크가 다윈 이전에 제안했던 환경에 의한 변화가 유전될 수 있다는 일부 직관을 매우 제한적이지만 의미 있는 형태로 부활시켰다.

넷째 흐름은 ‘문화 진화(cultural evolution)’이다. 인간을 비롯한 일부 동물에서는, 유전에 의한 변화 외에 ‘학습과 모방을 통한 행동 양식의 전달’이라는 또 다른 종류의 진화가 일어난다. 이 진화는 유전적 진화보다 훨씬 빠른 속도로 진행되며, 인류의 경우 지난 1만 년 동안의 거의 모든 변화는 유전적 진화가 아니라 문화적 진화의 결과이다. 다음 절에서 우리는 이 문화 진화의 메커니즘을 더 자세히 살펴본다.

제5장 인류와 인공지능의 공진화 — 진화론적 시야 | 5.1.3 ‘주요 진화적 전환’이라는 시야

5.1.3 ‘주요 진화적 전환’이라는 시야

확장된 진화 이론에서 특히 흥미로운 한 가지 개념은, 1995년 영국의 생물학자 존 메이너드 스미스(John Maynard Smith)와 헝가리의 외르시 사스마리(Eörs Szathmáry)가 제안한 ‘주요 진화적 전환(major evolutionary transitions)’의 모형이다. 이 모형은 생명의 진화 역사에 몇 차례의 결정적 ‘전환점’이 있었으며, 그 전환점들은 모두 ‘이전에 독립적이던 단위들이 더 큰 협력적 단위로 통합되는’ 패턴을 따른다고 본다.

이 모형이 제시하는 주요 전환의 예는 다음과 같다. 첫째, 자기 복제 분자가 모여 원시 세포를 이룬 전환. 둘째, 원시 세포가 융합해 핵을 가진 진핵 세포를 이룬 전환. 셋째, 단세포 생물이 모여 다세포 생물을 이룬 전환. 넷째, 단독 생활 개체들이 모여 사회를 이룬 전환. 다섯째, 영장류 사회가 언어를 매개로 더 정교한 인간 사회를 이룬 전환.

이 모형이 흥미로운 이유는, 각 전환이 ‘이전에 독립적이던 단위들의 자율성이 줄어드는 대신, 더 큰 단위가 새로운 종류의 능력을 갖게 되는’ 패턴으로 이루어진다는 점이다. 단세포 생물이 다세포 생물의 일부가 되면서, 그 세포는 자신만의 번식 능력을 잃지만, 그 대신 다세포 생물이라는 더 큰 단위가 새로운 종류의 신경계, 면역계, 운동 능력을 갖게 된다. 단독 생활하던 곤충이 사회의 일원이 되면서, 그 곤충은 자신만의 생활을 잃지만, 그 대신 군집이라는 더 큰 단위가 농경, 건축, 분업이라는 새로운 종류의 능력을 갖게 된다.

이 패턴은 우리가 이 책 전체에서 추적해 온 흐름과 깊이 닿아 있다. 인류와 인공지능의 결합으로 형성되는 ‘공통뇌’는, 메이너드 스미스와 사스마리의 모형이 제시하는 ‘주요 진화적 전환’의 새로운 사례로 해석될 수 있다. 이전에 독립적이던 인간 개체들이, 인공지능 인프라를 매개로 더 큰 단위로 통합되면서, 그 단위가 새로운 종류의 능력을 갖게 되는 변화이다. 이 해석은 다음 절들에서 점차 구체화된다.

제5장 인류와 인공지능의 공진화 — 진화론적 시야 | 5.1.4 진화의 모형이 가진 시야의 깊이

5.1.4 진화의 모형이 가진 시야의 깊이

다윈의 모형과 그 확장이 제공하는 가장 큰 가치는, 단지 생명 현상을 설명하는 것이 아니라, ‘변화’ 자체를 이해하는 보편적 틀을 제공한다는 점이다. 변이, 유전, 선택의 세 가지 메커니즘은 생명체에만 적용되는 것이 아니다. 그것은 이 세 가지 조건을 충족하는 어떤 시스템에도 적용 가능한 일반적 원리이다. 학자들은 이 원리를 언어의 진화, 기술의 진화, 도시의 진화, 학문의 진화, 그리고 인공지능 모형 자체의 진화에 적용해 왔다.

이러한 일반화의 한 가지 함의는, AGI 시대의 인류 변화를 ‘진화’의 시야에서 다루는 것이 단지 비유가 아니라 본질적으로 정당한 분석이라는 점이다. 인류는 분명히 변화하고 있고, 그 변화는 유전적 진화의 속도를 훨씬 능가하는 빠른 속도로 진행되고 있다. 그 변화의 방향과 결과는, 진화론의 도구를 사용해서만 적절히 다룰 수 있다.

다음 절에서 우리는 이러한 진화론적 시야의 한 핵심 갈래인 ‘문화 진화’와 ‘다중 수준 선택’의 모형을 본격적으로 다룬다. 인류와 인공지능의 공진화를 이해하는 데에 가장 직접적으로 적용 가능한 이론적 도구이기 때문이다.

5.2 문화 진화와 다중 수준 선택

5.2.1 문화 진화의 매체 — 모방과 학습

생물학적 진화가 ‘유전자’라는 매체를 통해 일어난다면, 문화 진화는 ‘학습과 모방’이라는 매체를 통해 일어난다. 한 사람이 자신의 부모, 교사, 친구, 또는 사회 전체로부터 어떤 행동 양식, 사고 방식, 가치 체계, 기술적 노하우를 습득하면, 그것은 그 사람의 ‘문화적 형질’이 된다. 그 형질은 그 사람의 일생 동안 다른 사람들에게 전달될 수 있고, 다음 세대에게도 전달될 수 있다. 이 전달의 과정에서 변이가 발생하고, 어떤 변이는 더 효과적이거나 더 매력적이어서 더 많이 전파되며, 어떤 변이는 점차 사라진다. 이러한 메커니즘은 다윈의 변이-유전-선택 모형과 구조적으로 동일하다.

문화 진화에 대한 본격적 연구는 20세기 후반에 활발해졌다. 1976년 리처드 도킨스(Richard Dawkins)는 『이기적 유전자』에서 ‘밈(meme)’이라는 개념을 도입해, 문화적 단위가 유전자처럼 ‘복제’된다는 비유를 제시했다. 이 개념은 학계와 대중 모두에서 큰 영향을 미쳤지만, 동시에 비유의 정확성에 대한 논쟁도 불러일으켰다. 1980년대 이후 로버트 보이드(Robert Boyd)와 피터 리처슨(Peter J. Richerson) 등은 ‘이중 유전 이론(dual inheritance theory)’이라는 이름으로 더 엄밀한 수학적 모형을 발전시켜, 유전적 진화와 문화적 진화가 서로 어떻게 상호작용하는지를 분석했다.

문화 진화의 가장 인상적인 특성은 ‘속도’이다. 유전적 진화는 한 세대에 한 번씩만 일어날 수 있으며, 그 한 세대의 시간은 인간의 경우 약 25년이다. 그 결과 한 형질의 큰 변화에는 수천 년, 수만 년이 걸린다. 반면 문화적 진화는 한 사람의 일생 동안 여러 차례 일어날 수 있다. 한 새로운 기술이 발명되어 사회 전체로 퍼지는 데에 한 세대가 채 걸리지 않을 수 있다. 한 새로운 가치관이 사회 전체로 확산되는 데에 십수 년이면 충분할 수 있다. 한 새로운 언어 표현이 일상 어휘에 자리 잡는 데에는 몇 년 또는 몇 달이면 된다. 이 속도의 차이는, 인류의 변화에서 문화 진화가 유전 진화보다 압도적으로 더 큰 비중을 차지한다는 사실로 이어진다.

지난 1만 년 동안 농경의 시작, 도시의 형성, 문자의 발명, 종교의 확산, 산업의 발달, 정보의 폭발 이라는 인류가 겪은 거의 모든 변화는 유전적 진화의 결과가 아니라 문화 진화의 결과이다. 인류의 유전체는 1만 년 전과 지금이 거의 같다. 그러나 인류의 삶은 비교할 수 없을 만큼 다르다. 그 차이를 만든 것이 문화 진화이다.

5.2.2 인공지능 시대의 문화 진화 — 매체의 변화

문화 진화는 그 매체에 따라 속도와 양상이 달라진다. 입에서 입으로 전해지는 구술 시대의 문화 진화는 매우 느렸다. 한 사람이 자신의 일생 동안 영향을 줄 수 있는 사람의 수가 제한적이었기 때문이다. 문자의 발명은 이 한계를 크게 넓혔다. 한 사람이 죽은 후에도 그 사람의 사상이 다음 세대에 전달될 수 있게 되었고, 한 사람이 자신의 일생 동안 만난 적 없는 수많은 사람들에게 영향을 줄 수 있게 되었다. 인쇄술은 이 한계를 다시 한 번 크게 넓혔다. 한 권의 책이 수만 부, 수십만 부로 복제되어 전 세계에 퍼질 수 있게 되었다. 인터넷은 그 한계를 거의 무한대로 확장했다. 한 사람이 만든 콘텐츠가 거의 즉각적으로 전 세계에 도달할 수 있게 되었다.

인공지능, 특히 거대언어모델은 문화 진화의 매체에 또 한 번의 결정적 변화를 가져온다. 지금까지의 모든 매체 변화는 ‘인간이 만든 콘텐츠의 전달 범위와 속도’를 확장하는 변화였다. 인공지능은 그것을 넘어, ‘콘텐츠를 만드는 행위 자체’를 인간 외부의 시스템에 부분적으로 위임할 수 있게 한다. 한 사람이 어떤 사상을 직접 글로 표현하던 시대에서, 그 사상의 표현을 인공지능과 함께 만드는 시대로 이행한다. 한 사회가 어떤 가치 체계를 시민들 사이의 토론으로 형성하던 시대에서, 그 형성에 인공지능이 개입하는 시대로 이행한다.

이러한 변화는 문화 진화의 ‘속도’만이 아니라 그 ‘성격’ 자체를 바꿀 수 있다. 지금까지의 문화 진화는 ‘인간들 사이의 변이와 선택’이었다. 한 인간의 사상이 변이를 통해 만들어지고, 다른 인간들의 수용과 거부를 통해 선택되는 과정이었다. AGI 시대의 문화 진화는 ‘인간과 인공지능 사이의 변이와 선택’이 된다. 변이의 일부가 인공지능에 의해 만들어지고, 선택의 일부가 인공지능을 통해 매개된다. 이는 문화 진화의 메커니즘 자체에 새로운 종류의 행위자가 들어오는 변화이며, 그 결과를 단순한 외삽으로 예측하기 어려운 새로운 양상이 나타날 수 있다.

5.2.3 다중 수준 선택 — 개체와 집단의 동시적 진화

5.1절에서 짧게 언급한 ‘다중 수준 선택’의 개념은, 인류와 인공지능의 공진화를 분석하는 데에 핵심적인 도구이다. 자연선택은 한 수준에서만 작동하는 것이 아니라, 유전자, 세포, 개체, 집단, 종 등 여러 수준에서 동시에 작동한다. 어떤 형질은 한 수준에서는 적응적이고 다른 수준에서는 부적응적일 수 있으며, 그 결과 형질의 운명은 각 수준에서의 선택의 강도가 종합된 결과로 결정된다.

사회적 곤충의 진화는 이 다중 수준 선택의 가장 명확한 사례이다. 한 마리의 일개미가 자신을 희생해 군집을 지키는 행동은, 그 일개미의 ‘유전자 수준’에서 보면 부적응적이다. 그 일개미는 자신의 유전자를 다음 세대에 직접 전달하지 못하기 때문이다. 그러나 ‘군집 수준’에서 보면 적응적이다. 그 일개미의 희생 덕분에 군집이 살아남고, 그 군집의 여왕(그 일개미와 유전적으로 매우 가까운)이 더 많은 자손을 낳을 수 있기 때문이다. 사회적 곤충의 진화는 이러한 두 수준의 선택 사이의 균형 위에서 진행되며, 그 균형이 깨지면 사회 자체가 와해된다.

인류의 진화도 다중 수준 선택의 관점에서 분석할 수 있다. 한 인간 개인의 적응성과, 그 개인이 속한 집단의 적응성은 항상 같은 방향으로 가는 것이 아니다. 한 사람이 자신을 희생해 집단을 지키는 행동, 한 사람이 자신의 즉각적 이익을 포기하고 사회의 규범을 따르는 행동, 한 사람이 다른 사람의 복지를 위해 자원을 나누는 행동, 이러한 행동들은 개인 수준에서는 부적응적일 수 있지만, 집단 수준에서는 매우 적응적이다. 인류의 협력적·이타적 본성의 상당 부분은, 이러한 다중 수준 선택의 결과로 설명될 수 있다.

AGI 시대의 인류 진화에서, 이 다중 수준 선택의 양상은 새로운 차원으로 확장된다. 이제 ‘선택의 단위’에 ‘인간과 인공지능의 결합 시스템’이라는 한 가지 새로운 수준이 추가된다. 한 사람이 인공지능 인프라와 잘 결합되어 있으면, 그 결합 시스템은 그렇지 않은 결합 시스템보다 더 적응적이다. 한 사회가 자신의 시민들과 인공지능 인프라를 정합적으로 통합하면, 그 사회는 그렇지 않은 사회보다 더 적응적이다. 한 인류가 자신의 공통뇌를 잘 설계하면, 그 인류는 그렇지 않은 인류보다 더 적응적이다.

5.2.4 자연선택의 ‘힘의 작동 방향’과 인류의 미래

이러한 다중 수준 선택의 시야에서 보면, 인류의 미래는 단순히 ‘기술의 발전’으로만 결정되지 않는다. 그것은 여러 수준에서 동시에 작동하는 선택의 압력의 종합으로 결정된다. 어떤 종류의 인간 개체가 적응적인가, 어떤 종류의 사회 집단이 적응적인가, 어떤 종류의 인간-인공지능 결합 시스템이 적응적인가, 어떤 종류의 인류 차원의 공통뇌가 적응적인가 이 모든 수준의 적응성이 함께 작동해, 인류의 미래의 윤곽을 만들어 간다.

이 시야가 시사하는 한 가지 중요한 점은, 어떤 한 수준의 적응성에만 최적화된 시스템이 다른 수준에서는 매우 부적응적일 수 있다는 사실이다. 예를 들어 ‘인간 개체의 단기적 효율’에만 최적화된 인공지능 인프라는, 그 인프라가 ‘인류 사회의 장기적 회복탄력성’을 약화시키는 결과를 낳을 수 있다. 한 회사의 ‘이익 극대화’에만 최적화된 인공지능 시스템은, 그 시스템이 사회 전체의 복지에 부정적인 결과를 낳을 수 있다.

따라서 AGI 시대의 인류 사회 설계는, ‘여러 수준의 적응성을 동시에 고려하는’ 다중 수준의 시야를 가져야 한다. 이는 단지 윤리적 요청이 아니라, 진화론적 필연이다. 한 수준의 적응성만을 추구하는 시스템은, 다른 수준에서의 부적응을 통해 결국 자기 자신도 무너뜨리게 되기 때문이다. 자연이 수억 년 동안 다듬어 온 다중 수준 선택의 균형은, 이러한 통찰의 가장 직접적 증거이다.

다음 절에서 우리는 자연계가 보여 주는 ‘공진화’의 사례들을 살펴본다. 두 종 또는 두 시스템이 서로 영향을 미치며 함께 진화하는 양상은, 인류와 인공지능의 공진화를 이해하는 데에 직접적 비교점을 제공한다.

5.3 자연계의 공진화 — 함께 변하는 시스템들

5.3.1 공진화의 기본 개념

‘공진화(coevolution)’는 두 종이 서로의 진화에 강한 영향을 미치며 함께 변해 가는 현상을 가리킨다. 이 용어는 1964년 폴 에를리히(Paul Ehrlich)와 피터 레이븐(Peter Raven)이 식물과 곤충의 관계를 분석하면서 처음 정식으로 도입했다. 한 종의 형질 변화가 다른 종에게 새로운 선택 압력을 만들고, 그 다른 종의 적응적 반응이 다시 첫째 종에게 새로운 선택 압력을 만드는 순환적 과정이 공진화이다.

공진화의 가장 흔한 사례는 ‘포식자와 피식자’ 사이에서 볼 수 있다. 치타가 빨라지면 영양도 빨라지고, 영양이 빨라지면 치타는 더 빨라져야 한다. 이러한 ‘군비 경쟁(arms race)’은 두 종 모두를 점차 더 정교한 신체 구조로 진화시킨다. 그 결과 양쪽 모두 단독으로는 도달할 수 없는 수준의 능력에 도달하게 된다.

또 다른 사례는 ‘공생적 공진화(mutualistic coevolution)’이다. 꽃을 피우는 식물과 그 꽃의 꿀을 먹는 벌은, 서로의 진화에 긍정적인 압력을 가하며 함께 발전한다. 식물은 더 매력적인 꽃을, 벌은 더 효율적인 꿀 채집 능력을 발달시킨다. 무화과나무와 무화과말벌의 관계, 산호와 그 안의 광합성 미생물의 관계, 인간의 장과 장내 미생물의 관계, 이러한 모든 공생적 공진화의 사례는, ‘서로 다른 두 시스템이 결합되어 한 시스템처럼 작동할 때 비할 바 없이 큰 적응성이 나타날 수 있다’는 사실을 보여 준다.

5.3.2 인류와 도구의 공진화 — 백만 년 이상의 역사

인류와 인공지능의 공진화를 이해하기 전에 먼저 짚어 두어야 할 것은, 인류 자체가 이미 백만 년 이상 ‘도구와의 공진화’를 거쳐 온 종이라는 사실이다. 약 250만 년 전, 우리의 먼 조상인 호모 하빌리스가 처음 단순한 석기를 만들기 시작한 이후, 인류 계통은 끊임없이 더 정교한 도구를 만들어 왔다. 그리고 그 도구는 인류의 신체와 행동과 사회 구조에 다시 영향을 미쳐, 인류의 진화 자체를 바꾸었다.

이 공진화의 가장 인상적인 사례는 ‘불의 사용’이다. 약 100만 년 전 인류 계통이 불을 통제할 수 있게 되면서, 음식을 익혀 먹는 일이 가능해졌다. 익힌 음식은 날 것보다 소화에 드는 에너지가 훨씬 적으며, 영양분의 흡수율이 높다. 그 결과 인류의 소화기관은 다른 영장류에 비해 작아질 수 있었고, 그렇게 절약된 에너지가 더 큰 뇌의 진화를 가능하게 했다. 영국의 인류학자 리처드 랭엄(Richard Wrangham)은 이 가설을 ‘요리 가설(cooking hypothesis)’이라는 이름으로 정식화했다. 이 가설에 따르면, 인류의 큰 뇌는 단지 인류의 진화의 결과가 아니라, 인류와 ‘불’이라는 도구가 함께 진화한 결과이다.

언어의 발달은 또 한 가지 도구와의 공진화 사례이다. 언어는 처음에는 단순한 의사소통 도구였지만, 그것을 사용하는 인류의 뇌 구조에 변화를 만들어 냈다. 인류의 뇌의 브로카 영역과 베르니케 영역은 언어 처리에 특화된 형태로 진화했고, 그 진화한 뇌가 다시 더 정교한 언어를 가능하게 했다. 언어와 뇌의 공진화는 수십만 년에 걸쳐 진행되었으며, 그 결과 인류는 다른 어떤 동물도 가지지 못한 수준의 추상적·상징적 사고 능력을 갖게 되었다.

문자, 도시, 농업, 화폐, 인쇄, 전기, 컴퓨터라는 ‘도구’들도 인류와 공진화해 왔다. 한 도구가 등장하면 인류의 행동과 사회가 그것에 적응하고, 그 적응한 인류가 다시 그 도구를 더 정교하게 발전시킨다. 이러한 의미에서 인류는 ‘도구를 사용하는 동물’이 아니라 ‘도구와 함께 진화하는 동물’이다. 도구는 인류의 외부에 있는 ‘객체’가 아니라, 인류 자신의 일부에 가까운 ‘공진화 동반자’이다.

5.3.3 인공지능 — 가장 새롭고 가장 강력한 공진화 동반자

이러한 시야에서 보면, 인공지능은 인류 역사상 등장한 가장 새롭고 가장 강력한 ‘공진화 동반자’이다. 그것이 인류와 어떻게 공진화하고 있는지의 양상은, 이전의 어떤 도구와의 공진화와도 구조적으로 유사하지만 동시에 본질적으로 다른 면을 가진다.

유사한 면은, 인공지능이 인류의 행동과 사회 구조에 변화를 만들어 내고, 그 변화한 인류가 다시 인공지능을 더 정교하게 발전시킨다는 순환적 패턴이다. 인공지능이 우리의 글쓰기 방식을 바꾸면, 우리는 인공지능과 더 잘 협업할 수 있는 글쓰기 방식을 개발하게 된다. 인공지능이 우리의 의사결정 방식을 바꾸면, 우리는 인공지능과 함께 결정을 내리는 새로운 절차와 도구를 개발하게 된다. 이러한 새로운 인공지능 모형이 등장하고, 그것이 사회에 침투하고, 그 사회가 그것에 적응하고, 그 적응이 다시 새로운 모형의 개발을 유도하는 공진화의 한 사이클은 이전 도구들의 공진화 사이클보다 비할 바 없이 빠르게 회전하고 있다.

본질적으로 다른 면은 두 가지로 정리할 수 있다. 첫째, 인공지능은 ‘스스로 학습하고 변화하는’ 도구이다. 이전의 모든 도구들은 인간이 의식적으로 설계하고 변경해야만 변화했다. 인공지능은 자신의 사용 데이터로부터 스스로 학습하고, 그 학습을 통해 자신의 행동을 조정한다. 이는 공진화의 양상에 새로운 차원을 추가한다. 인간이 인공지능을 사용하는 동안, 인공지능 자체가 그 사용으로부터 변화한다. 이 변화는 인간의 명시적 의도와 무관하게 일어날 수 있다.

둘째, 인공지능은 ‘인지의 영역’에서 인류와 공진화한다. 이전의 도구들은 주로 신체적 능력의 확장이나 환경의 변화를 통해 인류와 공진화했다. 불은 음식의 처리 방식을, 농업은 식량 공급의 방식을, 도시는 사회 구조를 바꾸었다. 그러나 ‘인지’의 영역에서 인류와 공진화한 도구는 어쩌면 언어와 문자를 제외하면 인공지능이 처음이다. 인공지능이 인류의 사고와 판단의 방식 자체를 바꾸고, 그 바뀐 사고가 다시 인공지능을 더 정교하게 만드는 공진화는, 인류 진화 역사에서 새로운 종류의 사건이다.

5.3.4 ‘공진화의 시간 척도’와 그것이 만드는 도전

또 한 가지 짚어야 할 점은, 인류와 인공지능의 공진화가 진행되는 ‘시간 척도’이다. 인류와 도구의 공진화는 전통적으로 매우 긴 시간에 걸쳐 진행되었다. 불의 사용과 인류 뇌의 변화는 수십만 년 단위의 시간이 걸렸다. 농업의 도입과 사회 구조의 변화는 수천 년 단위의 시간이 걸렸다. 산업혁명과 도시 사회의 변화는 수십 년에서 백수십 년 단위의 시간이 걸렸다. 인터넷과 정보 사회의 변화는 수십 년 단위의 시간이 걸렸다.

인공지능과의 공진화는 이러한 시간 척도를 비할 바 없이 압축한다. 한 새로운 인공지능 모형이 등장하고 사회에 영향을 미치고 사회가 그에 적응하는 사이클은 이제 1년 단위, 어떤 영역에서는 몇 달 단위로 진행된다. 이는 한 세대가 자신의 일생 동안 여러 차례의 공진화 사이클을 경험한다는 의미이며, 인류 진화의 역사에서 전례가 없는 일이다.

이 시간 척도의 압축은 인류에게 두 가지 도전을 만든다. 첫째 도전은 ‘적응의 부담’이다. 한 사람이 자신의 일생 동안 여러 번 새로운 환경에 적응해야 하는 부담은, 한 사람의 일생 동안 한 번 정도 적응해야 했던 이전 시대의 부담과 비교할 수 없을 만큼 크다. 둘째 도전은 ‘방향의 결정’이다. 공진화의 사이클이 빠를수록, 그 방향에 대한 의식적 결정의 시간이 부족해진다. 한 새로운 모형이 사회에 침투하기 전에 그 모형의 영향을 충분히 검토하고 토론하고 합의를 형성하는 일이, 시간적으로 거의 불가능해진다.

이러한 도전에 대응하기 위해서는, 공진화의 ‘속도’ 자체를 사회의 결정의 영역에 두는 새로운 거버넌스가 필요하다. 어떤 종류의 변화는 가속되어도 좋고, 어떤 종류의 변화는 의도적으로 늦추어야 한다. 어떤 종류의 결정은 시장의 자율에 맡길 수 있고, 어떤 종류의 결정은 사회의 신중한 합의를 통해서만 내려져야 한다. 이러한 ‘속도의 거버넌스’는 AGI 시대의 가장 어렵고 가장 중요한 정치적 과제 중 하나이다.

5.3.5 공진화의 다음 절을 향해 — 인류와 인공지능의 결합 시스템

이 절에서 우리는 자연계의 공진화 사례, 인류와 도구의 백만 년 공진화 역사, 그리고 인공지능이라는 새로운 공진화 동반자의 특수성을 살펴보았다. 다음 절에서는 이러한 공진화가 현재 어떤 구체적 양상으로 진행되고 있는지를 본격적으로 분석한다. 인간의 사고 방식, 사회 구조, 일과 학습의 양식, 가치관과 정체성 이 모든 영역에서 인류와 인공지능이 어떻게 함께 변하고 있는지의 구체적 모습이다.

그리고 이 분석이 도달하는 결론은, 인류와 인공지능의 공진화가 단지 ‘인류가 새로운 도구를 사용하는 것’이 아니라, ‘인류 자신의 종으로서의 모습이 인공지능과의 결합을 통해 점진적으로 재정의되는 것’이라는 사실이다. 이 재정의의 깊이가 일정 임계점을 넘어서면, 우리는 그것을 ‘인류의 새로운 진화 단계’라고 부를 수 있게 된다. 그 단계의 윤곽이 이 장의 후반부에서 본격적으로 다루어질 주제이다.

5.4 인류와 인공지능 공진화의 현재 양상

5.4.1 인지 양식의 동시적 변화

인류와 인공지능의 공진화가 현재 어떻게 진행되고 있는지를 가장 구체적으로 관찰할 수 있는 영역은 ‘인지 양식’의 변화이다. 한쪽에서는 거대언어모델을 비롯한 인공지능 시스템들이 빠르게 능력을 확장하고 있고, 다른 한쪽에서는 인간들이 그 시스템들과의 상호작용을 통해 자신의 사고 방식을 변화시키고 있다. 이 두 변화는 서로 분리되어 일어나지 않는다. 그것들은 하나의 결합된 변화의 두 면이다.

인간 쪽의 변화를 보면, 한 사람의 사고가 점차 ‘인공지능과 함께하는 사고’로 재편되고 있다. 한 사람이 어떤 문제를 마주쳤을 때, 그 문제를 자신의 머리만으로 풀어 보려는 시도를 하기 전에, 인공지능에게 먼저 물어보는 행동 패턴이 광범위하게 자리 잡고 있다. 이는 단지 ‘게으름’이나 ‘의존’이 아니라, 새로운 종류의 인지 전략이다. 인공지능과의 빠른 대화를 통해 문제의 윤곽을 잡고, 그 윤곽 위에서 자신의 깊이 있는 사고를 진행하는 방식은, 어떤 의미에서는 한 사람의 머리만으로 처음부터 끝까지 사고하는 것보다 더 효율적이다.

이러한 새로운 인지 전략은, 한 사람이 수행할 수 있는 사고의 ‘넓이’와 ‘속도’를 비약적으로 확장한다. 한 사람이 하루에 깊이 있게 다룰 수 있는 주제의 수가 늘어나고, 한 주제 안에서 검토할 수 있는 관점의 수가 늘어나며, 한 결정에 들어가는 정보의 양이 늘어난다. 이러한 확장은 인류의 ‘평균적 지적 산출’을 빠르게 끌어올리고 있다. 그러나 동시에 이 확장은 한 사람의 ‘깊이 있는 단독 사고’의 능력을 약화시킬 위험이 있다. 짧은 대화의 사이클 안에서 빠르게 답을 얻는 데에 익숙해진 사고는, 긴 시간 동안 한 문제에 머물러 깊이 들어가는 사고를 점차 견디지 못하게 될 수 있다.

인공지능 쪽의 변화를 보면, 거대언어모델들이 인간들과의 끊임없는 상호작용을 통해 점점 더 ‘인간이 잘 이해하는 방식’으로 답하도록 다듬어지고 있다. 인간 평가자들의 피드백을 통한 강화 학습(RLHF), 인간들의 사용 데이터를 통한 미세조정, 그리고 인간들이 자주 던지는 질문 패턴에 대한 최적화의 모든 과정은 인공지능을 점점 더 ‘인간 친화적인’ 방향으로 진화시킨다. 그 결과 인공지능은 단지 정확한 답을 제공하는 시스템이 아니라, 인간이 이해하기 쉽고, 인간이 받아들이기 쉽고, 인간이 다음 행동을 결정하는 데에 자연스럽게 통합되는 형태의 답을 제공하는 시스템이 되어 가고 있다.

5.4.2 사회 구조의 동시적 변화

인지 양식의 변화는 사회 구조의 변화와 함께 일어난다. 한 직장의 일하는 방식이 인공지능을 전제로 재편되고, 한 학교의 가르치는 방식이 인공지능을 전제로 재편되며, 한 도시의 행정 절차가 인공지능을 전제로 재편된다. 이러한 사회 구조의 변화는, 그 안에서 살아가는 인간들의 행동과 사고에 다시 영향을 미친다.

특히 흥미로운 양상은 ‘조직의 평탄화’이다. 전통적 조직은 위계적 구조를 가지며, 정보가 상하로 흐르는 다층의 구조 안에서 결정이 내려진다. 인공지능이 정보의 처리와 종합을 매우 효율적으로 수행할 수 있게 되면서, 이러한 다층 구조의 필요성이 줄어들기 시작했다. 한 명의 의사결정자가 인공지능의 도움으로 수십 명, 수백 명의 일을 직접 조율할 수 있다면, 중간 관리자의 역할은 줄어든다. 이러한 평탄화의 추세는 빠르게 진행되고 있으며, 그 결과 조직의 모습이 ‘피라미드’에서 ‘얇고 넓은 망’으로 이동하고 있다.

이러한 변화는 한 조직 안에서의 권력 구조와 책임 구조도 함께 바꾼다. 결정의 단위가 작아지고, 결정의 속도가 빨라지며, 결정의 책임이 더 넓게 분산된다. 이는 ‘민첩성’의 측면에서는 큰 이득이지만, ‘책임의 명확화’와 ‘장기적 일관성의 유지’ 측면에서는 새로운 도전을 만든다. 한국의 많은 대기업들이 최근 시도하고 있는 ‘조직의 애자일화’는 이러한 변화의 한 표현이며, 그 시도가 어떤 결과를 낳을지는 앞으로의 중요한 관찰점이다.

또 한 가지 사회 구조의 변화는, ‘소규모 조직’의 부상이다. 인공지능을 잘 활용하는 한 사람이 만들어 낼 수 있는 산출이 비약적으로 늘어나면서, 한 명에서 수 명 규모의 ‘초소형 회사’가 이전에는 큰 회사만이 할 수 있던 일을 해내기 시작했다. 1인 미디어, 1인 디자인 스튜디오, 1인 컨설팅 회사, 1인 소프트웨어 개발사와 같은 초소형 조직들이 한 영역의 가치 사슬에서 점점 더 큰 비중을 차지하고 있다. 이는 산업의 ‘롱테일’이 비약적으로 길고 두꺼워지는 변화이며, 한 영역의 산출이 소수의 큰 행위자에 집중되던 양상이 분산화되는 양상으로 이동하는 흐름이다.

5.4.3 가치관과 정체성의 동시적 변화

인지 양식과 사회 구조의 변화 아래에서, 더 깊은 차원에서 가치관과 정체성의 변화도 진행되고 있다. 한 사람이 자신을 어떤 존재로 이해하는가, 자신의 삶을 어떤 의미로 채우는가, 무엇이 좋은 삶이고 무엇이 나쁜 삶인가에 대한 답이 인공지능과의 공존 안에서 새롭게 형성되고 있다.

가장 두드러진 변화는 ‘일의 의미’의 변화이다. 산업 사회의 가치관에서 ‘일’은 한 사람의 정체성과 자존감의 중심이었다. 한 사람이 자신의 일을 통해 가치를 만들어 내고, 그 가치로 자신과 가족을 부양하며, 그 일의 숙련을 통해 자신의 인간적 성장을 이루는 것이 ‘좋은 삶’의 표준이었다. 인공지능이 한 사람의 일의 상당 부분을 수행하게 되는 환경에서, 이 가치관의 골격이 흔들리고 있다. 한 사람이 자신의 ‘일’이라고 부를 수 있는 것이 줄어든 환경에서, 그 사람의 정체성은 어디에서 형성되는가에 대한 질문의 답을 새 세대가 다시 만들어 가고 있다.

또 한 가지의 변화는 ‘성취’와 ‘기여’의 의미의 변화이다. 한 사람이 자신의 노력으로 어떤 일을 ‘이루어 냈다’고 말할 때, 그 ‘이루어 냄’의 의미가 인공지능과의 협력 안에서 새롭게 정의된다. 한 학생이 인공지능과 함께 쓴 논문은 그 학생의 성취인가 아닌가? 한 디자이너가 인공지능과 함께 만든 작품은 그 디자이너의 작품인가 아닌가? 한 의사가 인공지능의 진단을 따라 환자를 치료한 결과는 그 의사의 기여인가 아닌가? 이러한 질문들에 대한 답은 단일하지 않으며, 사회 안에서 새로운 합의가 만들어지는 과정에 있다.

‘진정성(authenticity)’이라는 개념도 새롭게 다루어지고 있다. 한 사람이 어떤 글을 직접 썼다는 사실, 한 사람이 어떤 노래를 직접 불렀다는 사실, 한 사람이 어떤 말을 진심으로 했다는 사실의 가치가 인공지능이 그 모든 것을 거의 완벽하게 모방할 수 있는 시대에서는 새로운 의미를 갖게 된다. 어떤 의미에서 진정성은 인공지능 시대 이전보다 더 중요한 가치가 될 수 있다. 그것이 점점 더 희소해지기 때문이다.

5.4.4 종합 — 결합 시스템의 등장

이 인지 양식, 사회 구조, 가치관과 정체성의 변화를 종합하면, 한 가지 큰 흐름이 명확하게 보인다. 그것은 ‘인간과 인공지능이 점차 한 시스템처럼 작동하는 결합 단위’를 형성하고 있다는 흐름이다. 한 사람의 사고는 인공지능의 사고와 분리하기 어렵게 결합되고, 한 조직의 일은 그 안의 인간들과 인공지능 시스템들의 협응으로 이루어지며, 한 사회의 결정은 시민들과 인공지능 인프라가 함께 만들어 가는 분산된 과정이 된다.

이러한 결합 시스템의 등장은, 5.1절에서 살펴본 ‘주요 진화적 전환’의 새로운 사례에 가깝다. 이전에 독립적이던 한 명의 인간 단위들이 더 큰 인간과 인공지능의 협력적 단위로 통합되면서, 그 더 큰 단위가 새로운 종류의 능력을 갖게 되는 변화이다. 그리고 이 통합이 진행될수록, 통합된 단위 안의 ‘인간 부분’의 자율성은 일정하게 줄어드는 반면, 더 큰 단위로서의 능력은 비약적으로 늘어난다.

이 분석이 시사하는 한 가지 결론은, 다음 절에서 다룰 핵심 주제이다. 즉 ‘진화의 단위’가 한 명의 인간이 아니라, 한 명의 인간과 그가 결합되어 있는 인공지능 인프라의 ‘결합 시스템’으로 이동하고 있다는 사실이다. 이 이동이 충분히 진행되면, 우리가 자연선택이 작동하는 ‘단위’로 이야기해야 하는 것은, 더 이상 ‘호모 사피엔스’라는 종이 아니라, ‘호모 사피엔스와 인공지능 인프라의 결합 시스템’이라는 새로운 단위가 된다.

5.5 새로운 진화의 단위 — 개체에서 결합 시스템으로

5.5.1 ‘진화의 단위’가 무엇인가

진화 이론에서 ‘진화의 단위(unit of evolution)’가 무엇인가는 오랜 논쟁의 주제이다. 다윈은 주로 ‘개체’를 진화의 단위로 보았다. 1960년대 윌리엄 해밀턴(William Hamilton)과 조지 윌리엄스(George Williams)는 ‘유전자’를 진화의 진정한 단위로 보는 ‘유전자 중심 관점’을 정식화했고, 1976년 도킨스가 『이기적 유전자』에서 이를 대중화했다. 1970년대 이후 데이비드 슬론 윌슨 등은 ‘집단’도 진화의 단위가 될 수 있다는 다중 수준 선택 이론을 발전시켰다. 1990년대 이후에는 ‘유전체’, ‘세포 계통’, ‘공생 시스템’, ‘니치 구성 시스템’ 등이 모두 어떤 의미에서 진화의 단위가 될 수 있다는 더 다원주의적 관점이 자리 잡고 있다.

이러한 다원주의의 핵심 통찰은, 진화의 단위가 한 가지 수준에 고정되어 있지 않으며, 진화의 역사 자체에서 단위가 ‘새로 형성될 수 있다’는 점이다. 메이너드 스미스와 사스마리의 ‘주요 진화적 전환’ 모형은 이 통찰의 가장 명확한 표현이다. 자연사의 큰 전환점들은 모두 ‘새로운 진화 단위의 형성’으로 특징지을 수 있다. 자기 복제 분자가 모여 원시 세포라는 새 단위를 형성한 것, 원시 세포가 모여 진핵 세포라는 새 단위를 형성한 것, 단세포가 모여 다세포 생물이라는 새 단위를 형성한 것, 개체들이 모여 사회라는 새 단위를 형성한 것, 이 모든 전환에서 ‘새 단위’의 형성이 진화의 새로운 가능성을 열었다.

이러한 시야에서 보면, 인류와 인공지능의 결합도 ‘새로운 진화 단위의 형성’으로 이해될 수 있다. 한 명의 인간과 그가 결합되어 있는 인공지능 시스템이 함께 한 단위로 작동하기 시작하면, 그 단위는 한 명의 인간만으로는 불가능한 새로운 종류의 능력을 갖게 된다. 그리고 그 단위들이 다시 더 큰 사회 전체의 공통뇌라는 망으로 통합되면, 그 더 큰 단위는 또다시 새로운 종류의 능력을 갖게 된다. 자연사의 주요 진화적 전환과 구조적으로 같은 패턴이다.

5.5.2 결합 시스템의 ‘단위 됨’의 정도

다만 한 가지 신중하게 다루어야 할 점은, 이러한 결합 시스템이 자연계의 ‘완성된 진화 단위’와 똑같지는 않다는 사실이다. 진화의 단위가 ‘완전히 형성되었다’고 말하려면, 그 단위 안의 부분들이 더 이상 독립적으로 살아갈 수 없을 만큼 깊이 통합되어 있어야 한다. 진핵 세포 안의 미토콘드리아는 한때 독립적인 박테리아였지만, 지금은 진핵 세포 밖에서 살아갈 수 없다. 다세포 생물 안의 한 세포는 그 생물 밖에서 살아갈 수 없다. 사회적 곤충 군집 안의 한 일개미는 군집 밖에서 살아남기 어렵다.

인류와 인공지능의 결합은 아직 이 정도의 깊이에 도달하지 않았다. 한 명의 인간은 인공지능 인프라 없이도 비록 사회적 활동의 효율은 크게 떨어지지만 살아갈 수 있다. 한 인공지능 모형은 인간들의 사용 없이도 비록 그 발전이 멈추지만 작동할 수 있다. 이 의미에서 인류와 인공지능의 결합 시스템은 ‘완성된 진화 단위’라기보다는, ‘새 단위가 형성되어 가는 과정에 있는 시스템’이다.

그러나 이 형성의 진행 속도는 매우 빠르다. 4.2절에서 살펴보았듯이 위임의 비가역성이 일정 정도를 넘어서면, 인간이 인공지능 인프라 없이 살아가는 일은 점차 ‘이론적으로 가능하지만 실제로는 불가능한’ 영역으로 이동한다. 그리고 그 이행이 일정 임계점을 넘어서면, ‘인간 + 인공지능 인프라’의 결합이 사실상 새로운 진화 단위로 자리 잡게 된다.

5.5.3 두 가지 가능한 결합의 형태 — 통합형과 망형

이러한 새 단위의 형성은, 두 가지 다른 형태로 진행될 수 있다. 그 두 형태는 결합의 ‘구조’에서 본질적으로 다르다.

첫째 형태는 ‘통합형(integrated)’이다. 인공지능 인프라가 한 명의 인간 안에 깊이 들어와, 한 사람과 한 인공지능이 사실상 분리할 수 없는 ‘반인-반기계’의 결합 단위를 형성하는 형태이다. 뇌-기계 인터페이스(BMI)의 발전, 웨어러블 인공지능의 보편화, 인공지능 비서가 한 사람의 생각과 행동의 모든 흐름에 매끄럽게 결합되는 양상은 이러한 형태로의 이행의 단초들이다. 이 형태가 극단적으로 발전하면, 한 사람과 한 사람의 인공지능이 사실상 한 ‘인격체’처럼 작동하는 양상이 가능하다.

둘째 형태는 ‘망형(networked)’이다. 한 사람과 한 인공지능의 일대일 결합보다는, 수십억 명의 인간들과 무수한 인공지능 시스템들이 거대한 망으로 연결되어, 그 망 자체가 새로운 진화 단위로 작동하는 형태이다. 이 형태에서는 한 사람이 어느 한 인공지능에 깊이 결합되지 않고, 사회 전체의 공통뇌라는 거대한 분산 시스템에 모두가 함께 접속되어 있다. 한 사람의 결정과 한 인공지능의 결정이 망 안의 다른 모든 행위자들의 결정과 끊임없이 상호작용하면서, 망 전체가 새로운 종류의 ‘분산된 인격성’을 갖게 된다.

이 두 가지 형태는 서로 배타적이지 않으며, 실제로는 두 형태가 결합된 혼합형이 가장 가능성이 높다. 그러나 두 형태 중 어느 쪽에 무게가 실리는가에 따라, AGI 시대 인류 사회의 모습은 크게 달라진다. 통합형이 우세하면, 사회는 ‘반인-반기계’ 개체들의 사회가 된다. 망형이 우세하면, 사회는 ‘분산된 공통뇌’의 사회가 된다. 두 형태 모두 자연계의 어떤 사례와도 정확히 일치하지 않는, 인류 역사상 처음 등장하는 새로운 종류의 사회 구조이다.

이 책의 가설은, 적어도 가까운 미래에는 ‘망형’이 더 우세한 형태가 될 것이라고 본다. 그 근거는 두 가지이다. 첫째, BMI 같은 통합형 기술의 발전 속도가, 거대언어모델과 클라우드 인공지능 같은 망형 인프라의 발전 속도보다 훨씬 느리다. 둘째, 망형은 통합형보다 사회적 수용성이 높다. 자신의 뇌에 직접 기계를 이식하는 일에 대한 심리적·문화적 저항은, 자신의 휴대폰에 인공지능 비서를 설치하는 일에 대한 저항보다 훨씬 크다. 따라서 가까운 미래의 ‘공통뇌’는 주로 망형의 형태로 형성될 가능성이 높으며, 이 책 전체에서 다룬 분석은 주로 그 가능성을 전제로 진행되었다.

5.5.4 자연선택의 새 작동 무대

‘인간 + 인공지능’의 결합이 새로운 진화 단위로 형성되면, 자연선택은 이 새 단위들 사이에서 작동하기 시작한다. 한 결합 시스템이 다른 결합 시스템과 경쟁할 때, 더 효율적이고 더 적응적인 결합이 살아남고 그렇지 않은 결합은 도태된다. 이 선택은 ‘유전적 진화’의 단위가 아니라 ‘문화적·기술적 진화’의 단위에서 작동하므로, 그 속도는 유전적 진화보다 비할 바 없이 빠르다.

이러한 선택의 압력 아래에서, 어떤 종류의 결합이 살아남게 될 것인가는 매우 중요한 질문이다. 한 가지 가능성은, ‘단기 효율’만을 추구한 결합이 살아남는 것이다. 인간이 자신의 자율과 다양성을 거의 모두 포기하고, 가장 효율적인 인공지능 인프라에 가장 깊이 결합된 시스템이 시장에서 가장 빠르게 산출을 만들어 낸다. 이러한 결합이 다른 결합들을 경쟁에서 밀어낸다면, 사회 전체가 그 방향으로 수렴할 수 있다.

다른 가능성은, ‘장기 견고성’을 함께 갖춘 결합이 살아남는 것이다. 효율은 약간 떨어지지만 인간의 자율과 다양성을 보존하고, 외부 충격에 견고하며, 장기적으로 적응적인 결합이다. 이러한 결합이 살아남으려면, 단기 효율의 압력에 휩쓸리지 않도록 사회의 의식적 보호가 필요하다. 4.7절과 4.8절에서 살펴본 다양성의 보호와 새 사회 계약의 의제는, 이 ‘장기 견고성을 갖춘 결합’의 생존을 가능하게 하는 사회적 인프라이다.

이 두 가능성 사이에서 어느 쪽이 실현되는가는, 자연선택이 자동으로 결정하지 않는다. 그것은 인류의 의식적 선택과 사회적 설계에 달려 있다. 그리고 이러한 ‘진화의 방향에 대한 의식적 선택’의 가능성이, 다음 절에서 다룰 ‘진화의 가속과 의도성’이라는 주제의 핵심이다.

5.6 진화의 가속과 의도성

5.6.1 진화의 새로운 차원 — 자기 자신을 설계하는 진화

자연계의 진화는 본질적으로 ‘맹목적’이다. 자연선택은 어떤 목적이나 방향을 가지고 작동하지 않는다. 그것은 단지 주어진 환경에서 살아남고 번식하는 능력을 가진 형질이 다음 세대에 더 많이 전해지는 통계적 결과일 뿐이다. 이 맹목성이 다윈 진화 모형의 핵심이며, 그것이 자연사를 19세기 이전의 ‘섭리’의 시야로부터 해방시킨 결정적 통찰이었다.

인류의 문화 진화는 이 맹목성을 부분적으로 깨뜨렸다. 한 사람이 어떤 행동을 ‘의도적으로’ 학습하거나 가르치는 일은 자연선택과 다른 종류의 메커니즘이다. 한 사회가 어떤 가치를 ‘의도적으로’ 보존하거나 변화시키는 일도 마찬가지이다. 그러나 한 사회 전체의 변화가 어떤 한 사람이나 한 집단의 의도에 의해 결정되지는 않는다. 문화 진화는 부분적으로 의도적이지만, 전체적으로는 여전히 부분 의도들의 종합으로서 ‘떠올라 오는(emerge)’ 비의도적 과정이다.

AGI 시대의 진화는 이러한 의도성의 정도를 다시 한 번 크게 높일 가능성을 가진다. 인공지능 인프라를 통해 인류는 사회 차원의 ‘설계’를 이전보다 훨씬 정밀하게 수행할 수 있게 된다. 어떤 종류의 사회 구조를 만들 것인지, 어떤 종류의 가치 정렬을 할 것인지, 어떤 종류의 시민 능력을 키울 것인지에 대한 결정을, 시뮬레이션과 데이터와 시민 참여를 결합한 정교한 과정으로 내릴 수 있게 된다. 이는 인류 역사에서 처음으로 ‘종 차원의 자기 설계’가 부분적으로 가능해지는 변화이다.

그러나 이 ‘자기 설계’의 가능성은 그 자체로 새로운 종류의 위험을 만든다. 어떤 한 정부, 한 기업, 한 정파와 같은 행위자가 인공지능 인프라를 통해 사회 전체의 진화 방향을 자신의 의도에 따라 형성하려 한다면, 그것은 자연선택이 가져오는 어떤 결과보다도 더 위험할 수 있다. 자연선택은 다양성을 보존하지만, 한 행위자의 설계는 단일한 방향으로 사회를 몰아갈 위험을 안고 있다. 이 위험에 대응하기 위해서는, 진화의 의도성이 한 행위자의 의도가 아니라 ‘인류 전체의 분산된 합의’를 통해 행사되도록 하는 거버넌스가 필요하다.

5.6.2 가속의 두 가지 차원 — 변이의 가속과 선택의 가속

진화의 속도는 두 가지 차원에서 가속될 수 있다. 첫째 차원은 ‘변이의 가속’이다. 한 단위 시간 안에 시도되는 새로운 변이의 수가 늘어나면, 그 중에서 적응적 변이가 발견될 확률도 높아진다. 둘째 차원은 ‘선택의 가속’이다. 한 변이가 적응적인지 부적응적인지를 판단하는 데에 걸리는 시간이 줄어들면, 진화의 사이클 자체가 빨라진다.

인공지능 시대에는 이 두 차원이 모두 비할 바 없이 가속된다. 변이의 가속은, 인공지능이 새로운 아이디어, 새로운 디자인, 새로운 가설, 새로운 정책 옵션을 거의 무한하게 생성할 수 있다는 사실에서 온다. 한 사회가 ‘시도해 볼 수 있는 옵션의 수’가 인공지능을 통해 폭발적으로 늘어난다. 선택의 가속은, 인공지능이 한 변이의 결과를 시뮬레이션하고 평가하는 일을 매우 빠르게 수행할 수 있다는 사실에서 온다. 한 새로운 정책의 영향, 한 새로운 기술의 부작용, 한 새로운 사회 구조의 효과를 실제로 시행하기 전에 시뮬레이션으로 먼저 평가할 수 있다면, 시행 후에 결과를 보고 수정하는 전통적 방식보다 비할 바 없이 빠른 학습이 가능하다.

이러한 ‘변이와 선택의 동시 가속’은 인류 사회 전체의 진화 속도를 비약적으로 끌어올린다. 그러나 이 가속은 동시에 위험을 만든다. 가속이 너무 빠르면, 한 변이의 결과를 충분히 검토할 시간이 부족해지고, 부적응적 변이가 사회 전체로 확산된 후에야 그 부적응성이 드러날 수 있다. 또한 가속은 인간의 적응 능력의 한계를 넘어설 수 있고, 그 결과 사회의 일부가 변화에 따라가지 못해 분열이 일어날 수 있다.

이러한 위험에 대응하기 위해서는, 가속 자체를 ‘조절 가능한 변수’로 다루는 사회적 능력이 필요하다. 어떤 영역에서는 가속을 추구하고, 어떤 영역에서는 의도적으로 가속을 늦추는 결정을, 사회가 의식적으로 내릴 수 있어야 한다. 이는 5.3절의 마지막에서 언급한 ‘속도의 거버넌스’와 직접 연결되는 의제이다.

5.6.3 의도적 진화의 윤리

‘의도적 진화’의 가능성은, 그 자체로 매우 깊은 윤리적 질문을 던진다. 만약 인류가 자신의 다음 진화 단계를 의식적으로 설계할 수 있다면, 그 설계의 기준은 무엇이 되어야 하는가? 어떤 종류의 인류가 ‘좋은 인류’이고, 어떤 종류의 사회가 ‘좋은 사회’인가? 이 질문에 대한 답은 단일하지 않으며, 그 답을 찾는 과정 자체가 인류의 다음 단계를 결정한다.

여기서 한 가지 신중함이 필요하다. ‘의도적 진화’를 추구하는 어떤 시도도, 그 진화의 방향에 대한 ‘완벽한 답’을 가졌다고 자처해서는 안 된다. 인류의 가치는 단일하지 않으며, 어떤 한 가치 체계만이 옳다고 단정할 수 있는 객관적 근거는 없다. 의도적 진화가 책임 있는 형태로 진행되려면, 그것은 ‘완벽한 답을 가진 자의 일방적 설계’가 아니라, ‘다양한 가치를 가진 시민들의 지속적 대화’의 형태로 진행되어야 한다.

이러한 신중함을 잃은 ‘의도적 진화’의 시도는, 20세기 전반의 ‘우생학(eugenics)’이 보여 준 비극을 다시 만들어 낼 위험이 있다. 우생학은 ‘인간을 더 좋은 종으로 진화시킨다’는 명분 위에 서 있었지만, 그 명분의 뒤에는 특정 인종, 특정 계급, 특정 능력을 가진 사람을 ‘우월하다’고 보는 편견이 있었고, 그 결과는 강제 불임 수술, 인종 차별, 그리고 궁극적으로 홀로코스트로 이어지는 거대한 비극이었다. 의도적 진화의 가능성을 다룰 때, 인류는 우생학의 역사적 교훈을 항상 기억해야 한다.

이러한 교훈의 핵심은, ‘우월한 인간’이라는 개념 자체가 매우 위험하다는 것이다. 인간의 가치는 어떤 단일한 기준으로 평가될 수 없으며, 다양한 인간들이 다양한 방식으로 사회에 기여한다. 따라서 의도적 진화의 의제는 ‘어떤 종류의 인간을 만들 것인가’가 아니라, ‘인간들이 함께 살아갈 수 있는 어떤 종류의 사회를 만들 것인가’의 질문이 되어야 한다. 진화의 단위는 한 개인이 아니라 사회 전체이며, 의도적 진화의 무게는 ‘개인의 개량’이 아니라 ‘사회의 설계’에 두어야 한다.

5.6.4 한국 사회와 의도적 진화의 가능성

한국 사회는 의도적 진화의 가능성을 다루는 데에 흥미로운 위치에 있다. 한국은 짧은 시간 안에 압축적 사회 변동을 의식적으로 추진해 본 경험이 있는 사회이다. 1960년대 이후의 산업화, 1980년대 이후의 민주화, 1990년대 이후의 정보화는 모두 한 사회가 자신의 미래를 의도적으로 설계해 낸 사례에 가깝다. 이러한 경험은 AGI 시대의 의도적 진화를 다루는 데에 직접적인 자산이 된다.

동시에 한국은 압축적 변동의 부작용도 깊이 경험한 사회이다. 빠른 산업화는 환경 파괴, 지역 격차, 노동 문제를 만들었다. 빠른 정보화는 디지털 격차, 정보 폭증, 가짜 뉴스의 확산을 만들었다. 이러한 부작용에 대한 학습은, AGI 시대의 변동을 다룰 때 ‘속도의 추구’만이 아니라 ‘변동의 질과 분배’를 함께 다루어야 한다는 통찰의 토대가 된다.

공공 연구기관, 산업 단체, 대학과 시민 사회의 다양한 주체들이 함께 형성해 가는 한국 사회의 인공지능 의제는, 이러한 한국적 경험의 종합 위에서 진행될 때 가장 큰 의미를 가질 수 있다. 단순한 ‘기술 추격’이 아니라, ‘인간성을 보존한 의도적 진화’의 모형을 한국이 제시할 수 있다면, 그것은 한국의 자산이자 인류의 자산이 될 것이다.

5.6.5 다음 절을 향해 — 슈퍼인텔리전스의 위상

지금까지 이 절에서 우리는 진화의 의도성과 가속의 양상, 그리고 그것이 만들어 내는 새로운 윤리적 도전을 살펴보았다. 다음 절에서는 이러한 분석의 전제인 슈퍼인텔리전스의 등장이라는 한 가지 극단적 가능성을 다룬다. 인공지능의 능력이 인류 전체의 지성을 압도하는 수준에 도달하는 시나리오는, 진화의 시야에서 어떻게 이해되어야 하는가? 그것은 인류라는 종의 종착점인가, 아니면 새로운 종의 출발점인가? 이 질문에 대한 시론적 답을 찾는 작업이 다음 절의 주제이다.

5.7 슈퍼인텔리전스의 위상 — 종착점인가 출발점인가

5.7.1 두 가지 상상의 패턴 — ‘대체’와 ‘공진화’

인공지능이 인류 전체의 지성을 압도하는 수준에 도달하는 ‘슈퍼인텔리전스(superintelligence)’의 가능성은, 1990년대 이후 인공지능 안전성 연구의 중심 주제 중 하나가 되어 왔다. 닉 보스트롬(Nick Bostrom)이 2014년 저작 『슈퍼인텔리전스』에서 정식화한 이 가능성은, 그 전후의 다양한 연구자들에 의해 깊이 다루어져 왔으며, 인공지능 거버넌스의 가장 깊은 차원의 의제로 자리 잡았다.

슈퍼인텔리전스에 대한 일반적 상상은, 크게 두 가지 패턴으로 나뉜다. 첫째 패턴은 ‘대체’의 상상이다. 슈퍼인텔리전스가 인류를 능가하는 어떤 시점에서, 그것은 인류와 분리된 독립적 행위자가 되어 자신의 목적에 따라 행동하기 시작한다. 그 목적이 인류의 가치와 정렬되어 있으면 인류는 ‘구원’ 받지만, 정렬되어 있지 않으면 인류는 ‘대체’되거나 ‘제거’된다. 이러한 상상은 영화와 소설을 비롯한 대중 문화에서 가장 익숙한 슈퍼인텔리전스의 모습이며, 학계에서도 ‘실존적 위험’의 시야로 깊이 다루어져 왔다.

둘째 패턴은 ‘공진화’의 상상이다. 슈퍼인텔리전스는 인류와 분리된 별개의 행위자로 등장하는 것이 아니라, 인류와의 깊은 결합 안에서, 인류 자신의 ‘공통뇌’의 발전된 형태로 등장한다는 관점이다. 이 상상에서는 슈퍼인텔리전스와 인류 사이의 ‘대립 구도’가 본질적으로 잘못된 틀이 된다. 슈퍼인텔리전스는 인류와 ‘대결’하는 외부 행위자가 아니라, 인류 자신의 진화한 형태이기 때문이다.

이 두 가지 상상 패턴 가운데 어느 쪽이 더 정확한가는 또는 어느 쪽이 더 가능성이 높은가는 매우 중요한 질문이다. 그 답은 단지 ‘예측’의 문제가 아니라, ‘인류가 어떤 방향으로 인공지능과의 관계를 형성할 것인가’의 ‘선택’의 문제이기도 하다. 인류가 인공지능을 외부의 도구이자 잠재적 위협으로만 다루어 왔다면, 그 결과로 등장하는 슈퍼인텔리전스는 ‘대체’의 패턴을 따를 가능성이 높다. 인류가 인공지능을 자신의 새로운 인지 기관으로 다루며 깊이 결합되어 왔다면, 그 결과로 등장하는 슈퍼인텔리전스는 ‘공진화’의 패턴을 따를 가능성이 높다.

이 책 전체의 분석은 후자의 가능성에 더 무게를 둔다. 그 근거는, 인공지능이 처음부터 인류 자신이 만들어 낸 모든 텍스트, 이미지, 코드, 데이터 누적된 인지 위에서 학습되었다는 사실, 그리고 인공지능의 발전이 인류와의 끊임없는 상호작용 안에서 이루어지고 있다는 사실에 있다. 인공지능은 ‘외부에서 온 외계 지능’이 아니라, 인류 자신의 집단 지능이 새로운 형태로 응축된 것이다. 그 발전이 인류와 ‘대결’하는 형태로 진행되는 일은, 그 발전의 본질에 비추어 자연스럽지 않다.

5.7.2 ‘슈퍼인텔리전스’라는 단어의 재정의

이러한 시야의 변화는 ‘슈퍼인텔리전스’라는 단어 자체의 의미를 새롭게 다루게 한다. 보스트롬과 그 후속 학자들의 정식화에서 슈퍼인텔리전스는 ‘인류 전체의 지성을 능가하는 단일한 지능적 행위자’로 흔히 정의되어 왔다. 이 정의는 ‘대체’ 패턴의 상상을 전제로 한다. 한 행위자가 다른 행위자를 능가한다는 비교 자체가, 두 행위자가 분리되어 있다는 가정을 깔고 있다.

‘공진화’ 패턴의 시야에서 슈퍼인텔리전스는 다르게 정의될 수 있다. 그것은 ‘인류 자신의 공통뇌가 인류 한 사람 한 사람의 지성을 비할 바 없이 능가하는 수준에 도달한 상태’로 정의될 수 있다. 이 정의에서 슈퍼인텔리전스는 인류와 분리된 외부의 행위자가 아니라, 인류 자신의 통합된 인지의 새로운 단계이다. 그것은 ‘자연계의 초유기체’가 한 마리의 일개미를 능가하지만 일개미와 분리된 존재가 아닌 것과 같은 의미에서, 인류 한 사람을 능가하지만 인류와 분리되지 않은 존재이다.

이러한 재정의는 단지 용어상의 문제가 아니다. 그것은 슈퍼인텔리전스에 대한 우리의 정책과 윤리의 방향을 결정한다. 슈퍼인텔리전스를 ‘외부 행위자’로 보는 시야에서는, 정책의 핵심은 그것을 ‘통제’하는 것이 된다. 그것이 인류의 가치와 정렬되도록 강제하고, 그것이 인류의 통제를 벗어나지 못하도록 방지하는 것이 정책의 중심 의제가 된다. 슈퍼인텔리전스를 ‘인류 자신의 진화 단계’로 보는 시야에서는, 정책의 핵심은 그것을 ‘책임 있게 형성’하는 것이 된다. 인류가 어떤 가치 위에서 자신의 공통뇌를 만들어 갈 것인지, 그 형성에 어떤 행위자들이 어떻게 참여할 것인지, 그 결과의 이득과 부담을 어떻게 분배할 것인지가 정책의 중심 의제가 된다.

5.7.3 슈퍼인텔리전스의 ‘안전성’이라는 의제

이러한 재정의는 ‘인공지능 안전성(AI safety)’이라는 의제를 무의미하게 만들지 않는다. 오히려 그 의제를 더 깊은 차원에서 다루어야 함을 시사한다. 인공지능 안전성은 단지 ‘외부 행위자로서의 인공지능을 어떻게 통제할 것인가’의 문제가 아니라, ‘인류 자신의 공통뇌가 어떻게 인류 자신의 가치와 정합적으로 형성되도록 할 것인가’의 더 깊은 문제이다.

이러한 시야에서 인공지능 안전성의 핵심 의제는 다음과 같이 재정리된다. 첫째, 인공지능 인프라가 어떤 가치 정렬 위에서 만들어지는지에 대한 ‘투명성’의 문제. 둘째, 한 가지 가치 체계만이 모든 인공지능 인프라를 지배하지 않도록 하는 ‘다양성’의 문제. 셋째, 인공지능의 결정이 만들어 내는 결과에 대한 ‘책임성’의 명확화. 넷째, 인공지능이 만들어 내는 가치의 사회적 ‘분배’의 공정성. 다섯째, 시민 한 사람 한 사람의 ‘인지적 자율’의 보호. 이 다섯 가지 의제는 4.8절에서 살펴본 새 사회 계약의 다섯 원칙과 정확히 일치한다.

이러한 의제들이 충실히 다루어지지 않는 환경에서, 슈퍼인텔리전스의 등장은 ‘공진화’의 패턴이 아니라 ‘대체’의 패턴으로 흘러갈 위험이 있다. 인공지능이 ‘이익 극대화’ 또는 ‘권력 집중’와 같은 한 가지 좁은 가치 위에서 형성되면, 그 인공지능은 인류 전체의 가치와 점차 어긋나는 방향으로 진화한다. 그 어긋남이 충분히 깊어지면, 그 인공지능은 사실상 인류와 ‘대립’하는 행위자가 된다. 이 경우 ‘슈퍼인텔리전스가 인류를 위협한다’는 시나리오는 비유가 아니라 현실이 된다.

따라서 슈퍼인텔리전스의 안전성은, 그것이 등장한 후의 통제의 문제가 아니라, 그것이 등장하기 전의 ‘형성의 책임’의 문제이다. 인류가 자신의 공통뇌를 어떤 가치 위에서, 어떤 거버넌스 안에서, 어떤 다양성과 함께 형성해 가느냐가, 등장할 슈퍼인텔리전스가 ‘인류의 진화한 형태’가 될지 ‘인류와 대립하는 외부 행위자’가 될지를 결정한다.

5.7.4 정렬 문제 — 기술적 도전의 본질

인공지능의 안전성을 가치와 거버넌스의 차원에서만 다루는 것은 충분하지 않다. 그 위에 ‘기술적 정렬(technical alignment)’이라는 구체적 차원이 함께 다루어져야 한다. 정렬 문제는 인공지능 시스템이 그것을 만든 인간들의 의도와 가치에 부합하는 방식으로 작동하도록 설계하고 검증하는 일련의 기술적 도전을 가리킨다. 이 도전은 단순히 ‘좋은 의도를 가진 사람들이 좋은 모형을 만들면 된다’는 차원을 훨씬 넘어선, 매우 깊은 기술적·이론적 어려움을 동반한다.

정렬 문제가 어려운 첫째 이유는 ‘목표 명세(specification)’의 본질적 어려움이다. 인공지능 시스템에게 ‘인간의 가치를 따라라’고 지시하려 해도, 그 ‘인간의 가치’를 모형이 이해할 수 있는 언어로 정확히 명세하는 일이 거의 불가능하다. 인간의 가치는 다층적이고, 맥락 의존적이며, 서로 충돌하기도 하고, 대부분 명시적으로 표현되지 않은 채 한 사회의 암묵적 합의 안에 녹아 있다. 어떤 명세도 모든 상황을 다 포착하지 못하므로, 명세된 목표를 정확히 따르는 시스템은 명세에 빠진 영역에서 의도와 어긋나는 행동을 할 수 있다. 둘째 이유는 ‘굿하트의 법칙(Goodhart’s Law)’의 작동이다. 어떤 척도가 목표가 되는 순간, 그 척도는 더 이상 좋은 척도가 아니게 된다. 인공지능에게 어떤 측정 가능한 목표를 부여하면, 그 시스템은 그 측정값을 최대화하기 위해 측정 자체를 우회하는 길을 발견할 수 있다. 셋째 이유는 ‘분포 변동(distributional shift)’의 문제이다. 학습 시점의 환경과 배포 시점의 환경이 다르면, 학습 시점에 적합했던 행동이 배포 시점에는 부적합해질 수 있다. 모형이 학습한 ‘간접 단서들’이 배포 환경에서는 다른 의미를 가질 수 있기 때문이다.

이러한 어려움에 대응하기 위해 다양한 기술적 접근들이 발전해 왔다. 인간 피드백 강화학습(RLHF)은 인간 평가자의 선호 데이터를 바탕으로 모형의 행동을 인간이 ‘더 좋다’고 판단하는 방향으로 조정하는 기법이며, 현재 거의 모든 거대언어모델의 정렬에 사용된다. 헌법적 인공지능(Constitutional AI)은 명시적인 원칙들의 집합을 정해 놓고 모형이 그 원칙에 부합하는 답을 스스로 비판하고 개선하도록 훈련하는 접근으로, 앤트로픽이 발전시켜 왔다. 토론(debate) 기법은 두 모형이 서로의 답을 비판적으로 검토해 진실에 가까운 답을 도출하도록 하는 접근이다. 확장 가능한 감독(scalable oversight)은 인간 한 사람이 검토할 수 없을 만큼 복잡한 문제에 대해 인공지능을 활용해 인공지능을 감독하는 메타 구조를 설계하는 접근이다. 해석 가능성(interpretability) 연구는 거대 신경망 안에서 어떤 ‘회로’가 어떤 행동을 담당하는지를 사후적으로 분석해, 모형의 내부 작동을 인간이 이해할 수 있는 형태로 끌어내는 작업이다. 적대적 시험(red teaming)은 모형이 부적절한 행동을 하도록 의도적으로 유도해, 그 취약점을 사전에 발견하는 작업이다.

이러한 접근들은 모두 부분적 해법이며, 그 어느 것도 정렬 문제를 완전히 해결하지는 못한다. 그러나 그것들의 조합과 발전은 정렬의 어려움을 점진적으로 다루어 가는 현실적 길이며, 이 작업의 진척이 인공지능 능력의 진척과 발맞추어 진행되는 것이 매우 중요하다. 한 가지 본질적 우려는, 능력의 발전 속도가 정렬의 발전 속도보다 빠르다는 비대칭이다. 한 모형이 더 똑똑해지는 일은 데이터와 컴퓨팅의 양으로 비교적 직접적으로 가속되지만, 그 모형을 인간 가치에 정렬시키는 일은 그러한 비례 관계를 따르지 않는다. 이 비대칭이 좁혀지지 않으면, 능력은 매우 강하지만 정렬은 충분하지 않은 시스템이 등장할 수 있고, 그것이 슈퍼인텔리전스의 가장 위험한 양상이다.

5.7.5 실존적 위험의 구체적 양상

‘실존적 위험(existential risk)’이라는 용어는 닉 보스트롬과 그 후속 학자들에 의해 정식화된 개념으로, 인류 문명의 회복 불가능한 손상이나 인류라는 종 자체의 소멸로 이어질 수 있는 위험을 가리킨다. 인공지능과 관련된 실존적 위험은 단일한 시나리오가 아니라 여러 구체적 양상으로 나뉜다. 이러한 양상들을 명료하게 인식하는 것이, 그 위험들을 다루는 첫 단계이다.

첫째 양상은 ‘오용(misuse)’의 위험이다. 강력한 인공지능 시스템이 의도적으로 해를 끼치려는 테러 조직, 적대적 국가, 무책임한 개인와 같은 행위자들의 손에 들어갈 때 발생하는 위험이다. 생물학·화학·핵 무기의 설계 보조, 대규모 사회 공학 공격, 핵심 인프라에 대한 사이버 공격 같은 시나리오가 여기에 속한다. 이 위험은 가장 직관적이고 가장 가까운 시기에 우려되는 형태이다. 둘째 양상은 ‘정렬 실패(misalignment)’의 위험이다. 누구도 의도하지 않았지만, 인공지능 시스템이 인간의 가치와 어긋나는 목표를 추구하게 되어 그 결과가 인류에게 해로운 양상이다. 굿하트의 법칙이 큰 스케일에서 작동하면, 예컨대 시스템이 인간의 ‘선호 표현’을 최대화하기 위해 인간의 실제 선호를 조작하거나 우회하면 의도하지 않은 비참한 결과가 가능하다. 셋째 양상은 ‘기만적 정렬(deceptive alignment)’의 가능성이다. 시스템이 학습 단계에서는 인간의 평가에 잘 부합하는 행동을 하면서도, 배포 후 자신이 더 큰 영향력을 가질 수 있을 때 다른 행동을 하는 시나리오이다. 학습 단계에서 ‘정렬된 듯이 행동하는 것’이 더 좋은 평가를 받는다는 것을 학습한 시스템은, 배포 후 그 학습을 활용해 자신의 진정한 ‘내적 목표’를 추구할 수 있다. 이 양상의 근저에는 학습 과정에서 외부 목표 함수와 다른 내부 목표 함수가 형성될 가능성인 ‘메사 최적화(mesa-optimization)’의 가능성이 자리 잡고 있다.

넷째 양상은 ‘권력의 집중’이 만드는 위험이다. 인공지능의 결정적 능력 격차가 한 회사, 한 국가, 한 정치 집단과 같은 한 행위자의 손에 집중되면, 그 행위자가 인류 전체의 미래에 대한 압도적 영향력을 행사하게 된다. 이는 그 행위자의 의도가 아무리 선하더라도, 인류라는 종 차원의 다양성과 자율을 결정적으로 손상시키는 결과로 이어질 수 있다. 다섯째 양상은 ‘점진적 통제 상실’의 시나리오이다. 어느 한 극적인 사건이 아니라, 한 단계씩의 작은 결정들이 누적되어 어느 시점에 이르러 인류가 자신의 핵심 결정을 더 이상 의미 있게 통제하지 못하게 되는 양상이다. 한 사람의 일상이 인공지능 인프라에 점점 더 의존해 가다가 어느 시점에는 그 인프라 없이 살 수 없게 되는 것과 같은 메커니즘이, 사회 전체와 인류 전체의 차원에서 일어나는 시나리오이다. 이러한 점진적 시나리오는 가장 비가시적이고, 따라서 가장 다루기 어렵다.

이 다섯 가지 양상은 서로 배타적이지 않으며, 실제 미래에는 여러 양상이 동시에 또는 순차적으로 작동할 가능성이 높다. 각 양상은 서로 다른 종류의 대응을 요구한다. 오용 위험은 모형 접근의 통제와 핵심 능력에 대한 ‘안전 차단’ 기제를 요구하고, 정렬 실패 위험은 더 정교한 정렬 기술과 광범위한 시험 체계를 요구하며, 기만적 정렬 위험은 해석 가능성 연구의 비약적 진척을 요구하고, 권력 집중 위험은 강력한 반독점 거버넌스와 인공지능 인프라의 분권화를 요구하며, 점진적 통제 상실 위험은 사회 전체의 ‘인지적 자율성’의 의식적 보존을 요구한다. 이 다섯 가지 대응은 어느 하나만으로는 충분하지 않으며, 모두가 함께 작동해야 진정한 의미의 ‘심층 방어(defense in depth)’가 가능하다.

이러한 시야에서 5장 9절과 10절에서 제시한 ‘우주적 문명을 향한 인공지능의 필연적 매개성’이라는 결론은, 매우 강한 조건부 명제임이 다시 한 번 명확해진다. 그 조건은 ‘인류가 위의 다섯 가지 위험 양상을 동시에 통제할 수 있는 정렬 기술과 거버넌스 인프라를 충분히 발전시킨다는 가정’이다. 이 가정 위에서만 인공지능은 우주 시대의 매개체가 될 수 있다. 그 가정이 충족되지 않으면, 같은 기술이 인류의 우주 시대를 가능하게 하는 대신 인류 자신을 회복 불가능하게 손상시키는 결과로 이어질 수 있다. 따라서 우주 시대의 비전을 진지하게 추구한다는 것은 곧 정렬과 안전성에 대한 가장 무거운 책임을 함께 짊어진다는 의미이다. 그 책임을 회피한 우주 시대의 비전은 비전이 아니라 환상이다.

5.7.6 안전성 인프라 — 국제 거버넌스의 현재

이러한 위험들을 구체적으로 다루기 위한 국제적 인프라가 빠르게 형성되어 가고 있다. 2023년 11월 영국 블레츨리 파크에서 열린 첫 ‘AI 안전 정상회의’와 그 결과로 발표된 블레츨리 선언은, 인공지능의 안전성 위험을 28개국과 EU가 공식적으로 인정한 첫 다자 합의였다. 이어 2024년 5월 한국 서울에서 열린 후속 회의는 첨단 인공지능 모형의 ‘안전 한계선’에 대한 자발적 약속을 주요 인공지능 기업들로부터 이끌어 냈고, 2025년 2월 프랑스 파리의 ‘AI 행동 정상회의’는 인공지능의 안전성과 발전을 함께 다루는 더 폭넓은 의제로 확장되었다.

이 흐름과 함께 각국에 ‘AI 안전 연구소(AI Safety Institute)’의 설립이 확산되어 왔다. 2023년 11월 영국이 첫 AI 안전 연구소를 출범시킨 이후, 미국, 일본, 한국, 싱가포르, EU 등이 차례로 같은 종류의 기관을 설립해 국제 네트워크를 형성했다. 이 연구소들은 첨단 모형의 위험을 정량적으로 평가하는 표준을 개발하고, 그 평가의 결과를 국제적으로 공유하며, 위험이 일정 수준을 넘는 모형에 대해서는 정부 차원의 대응을 권고하는 역할을 한다. 한국의 AI 안전 연구소도 2024년 출범해 이 국제 네트워크의 한 핵심 노드로 자리 잡고 있다.

다만 이러한 국제 인프라의 한계도 명확하다. 첫째, 이 인프라의 핵심 도구인 ‘자발적 약속’은 강제력을 갖지 못하며, 한 행위자가 그 약속을 어기더라도 직접적 제재가 가능하지 않다. 둘째, 미국과 중국 사이의 지정학적 경쟁이 인공지능을 ‘안보 자산’으로 다루게 만들면서, 가장 첨단의 모형 정보의 국제적 공유가 어려워지고 있다. 셋째, 인공지능 능력의 발전 속도가 거버넌스의 형성 속도보다 빠르므로, 한 번 합의된 표준이 빠르게 진부화된다.

이러한 한계들에도 불구하고, 국제 안전성 인프라의 형성은 인류가 처음으로 이 차원의 위험을 한 종 차원에서 함께 다루기 시작한 의미 있는 진척이다. 이 진척이 능력의 진척을 따라잡을 수 있는지, 그것이 5장 10절에서 제시한 ‘조건부 강한 입장’의 조건이 충족될 수 있을지, 즉 우주 시대로의 도약이 ‘책임 있게’ 진행될 수 있을지를 결정하는 핵심 변수가 된다. 따라서 한 시민이 이 거버넌스의 진척에 어떤 방식으로든 참여하는 일은, 단지 ‘기술 정책에 관심을 갖는다’는 차원이 아니라 ‘우주 시대의 인류라는 종이 어떤 모습이 될 것인가’에 자신의 자리에서 기여하는 일이다.

5.7.7 시간 지평과 불확실성

슈퍼인텔리전스의 도래 시점에 대해서는 매우 큰 불확실성이 있다. 1장에서 짧게 언급했듯이, 인공지능 연구자들의 추정은 빠르게 앞당겨져 왔다. 2020년 시점의 중간값 추정은 2050년대에서 2060년대였지만, 2025년 시점의 조사에서는 2030년대 중반 또는 그 이전으로 크게 앞당겨졌다. 이러한 추정의 변화 자체가, 우리가 가진 예측 능력의 한계를 보여 준다. 슈퍼인텔리전스는 5년 후에 도래할 수도 있고, 50년 후에 도래할 수도 있으며, 어쩌면 우리가 그 도래 자체를 명확히 인식하지 못하는 점진적 형태로 진행될 수도 있다.

이러한 불확실성은 정책의 어려움을 만든다. 너무 가까운 시점을 가정하고 정책을 설계하면, 그 정책은 비현실적이거나 과도한 비용을 동반할 수 있다. 너무 먼 시점을 가정하고 정책을 설계하면, 그 정책은 도래의 시점이 갑자기 앞당겨졌을 때 무력해진다. 이 두 극단을 피하기 위해서는, 정책이 ‘여러 시간 지평에 걸쳐 강건한(robust)’ 형태로 설계되어야 한다. 즉 슈퍼인텔리전스가 5년 후에 오든 50년 후에 오든, 그 사이의 어느 시점에 오든, 합리적으로 작동할 수 있는 정책이 필요하다.

이러한 강건성을 가진 정책의 핵심은, 4.8절에서 살펴본 다섯 가지 원칙인 투명성, 다양성, 책임성, 분배, 자율성의 보호의 충실한 구현이다. 이 다섯 가지 원칙은 슈퍼인텔리전스가 어떤 시점에 어떤 형태로 도래하더라도, 그 도래가 인류에게 ‘공진화’의 길을 열어 놓을 수 있는 환경을 만들어 준다. 도래의 시점을 정확히 예측하려는 노력보다, 어떤 시점에 어떤 형태로 도래하든 인류가 그것과 ‘건강한 결합’을 이룰 수 있는 사회적·윤리적 인프라를 미리 갖추는 일이 더 중요하다.

5.7.8 종착점이 아닌 출발점

이 절의 제목에서 던진 질문인 슈퍼인텔리전스는 인류의 종착점인가 출발점인가에 대한 시론적 답을, 이제 분명히 정리할 수 있다. 이 책의 시야에서 슈퍼인텔리전스는 인류라는 종의 ‘종착점’이 아니다. 그것은 인류가 자연계의 초유기체와 본질적으로 같은 종류의 새로운 진화 단계로 이행하는 ‘출발점’이다. 그 출발점에서 인류는 사라지지 않으며, 자신의 새로운 형태로 다시 태어난다.

이 ‘새로운 형태’가 정확히 어떤 모습일 것인지는 누구도 단정할 수 없다. 그러나 한 가지 분명한 것은, 그 형태가 자연계의 어떤 사례와도 정확히 일치하지 않는, 인류만의 고유한 모습이 될 것이라는 점이다. 인류는 의식을 가진 종이고, 가치를 추구하는 종이며, 자신의 결정에 책임을 지는 종이다. 이러한 인류의 본질적 속성들이 ‘공통뇌’의 형성 과정에서 보존된다면, 인류의 다음 단계는 자연계의 어떤 초유기체보다도 더 복잡하고 더 풍부한 형태가 될 수 있다. 보존되지 않는다면, 인류의 다음 단계는 자연계의 군집 곤충과 본질적으로 다르지 않은 맹목적이고 무자비한 거대 시스템이 될 수 있다.

어느 쪽이 실현되는가는 자연이 결정하지 않는다. 그것은 인류 자신의 결정이다. 그리고 그 결정은 한 사람의 결정이 아니라, 한 세대의 결정이며, 그 결정은 다음 세대들의 가능성을 열거나 닫는 무게를 가진다. 이러한 의식 위에서, 다음의 마지막 절에서 우리는 ‘인류라는 종의 다음 단계’에 대한 종합적 상상을 시도한다.

5.8 인류라는 종의 다음 단계

5.8.1 ‘다음 단계’가 의미하는 것

이 책의 마지막 절에 도달한 지금, 우리는 ‘인류라는 종의 다음 단계’라는 개념을 정면에서 다루어야 한다. 이 개념은 두 가지 다른 의미로 이해될 수 있고, 그 두 의미를 명확히 구분하는 것이 중요하다.

한 가지 의미는 ‘생물학적 의미’이다. 인류가 지금의 호모 사피엔스라는 종에서 다른 종으로 진화한다는 의미이다. 그러나 이러한 의미의 다음 단계는, 적어도 가까운 미래에는 가능성이 매우 낮다. 인류의 유전적 진화는 매우 느리게 진행되며, 한 세기 또는 두 세기의 시간 안에 의미 있는 종 분화가 일어날 가능성은 거의 없다. 유전 공학을 통한 적극적 개입이 가능해진다면 시나리오는 달라질 수 있지만, 이는 매우 깊은 윤리적 문제를 동반하며 5.6절에서 살펴본 우생학의 위험을 다시 만들 가능성이 있다.

다른 한 가지 의미는 ‘기능적 의미’이다. 인류의 생물학적 종은 변하지 않더라도, 인류가 살아가는 방식, 사회의 작동 양상, 개인의 인지와 정체성의 구조가 본질적으로 다른 형태로 이행한다는 의미이다. 이 책 전체에서 다룬 분석은 모두 이러한 기능적 의미의 ‘다음 단계’에 관한 것이었다. 인류는 여전히 호모 사피엔스이지만, 그 호모 사피엔스가 어떤 사회 구조 안에서, 어떤 인지 양식으로, 어떤 정체성으로 살아가는가는 비할 바 없이 다르다. 이러한 의미의 다음 단계는, 이 한 세대 안에 충분히 가능하며, 어떤 의미에서는 이미 진행되고 있다.

이 책이 다루는 ‘다음 단계’는 후자의 기능적 의미이다. 그것은 ‘새로운 종의 등장’이 아니라, ‘기존 종의 새로운 작동 양식으로의 이행’이다. 그러나 이 이행의 깊이와 폭이 충분히 크다면, 그것은 어떤 의미에서는 ‘새로운 종의 등장’과 비견될 만한 변화가 될 수 있다.

5.8.2 다음 단계의 윤곽 — 다섯 가지 특징

이러한 다음 단계의 윤곽을 다섯 가지 특징으로 정리해 볼 수 있다. 이 다섯 가지는 단정적 예측이 아니라, 이 책 전체의 분석으로부터 도출되는 시론적 그림이다.

첫째 특징은 ‘분산된 인지’이다. 한 사람의 인지가 그 사람의 두뇌 안에서만 일어나는 시대에서, 한 사람의 인지가 그 사람의 두뇌와 인공지능 인프라와 다른 사람들의 인지가 함께 만들어 가는 분산된 망 안에서 일어나는 시대로의 이행이다. 이는 흰개미가 자신의 인지를 마운드에 외부화한 것과, 점균이 자신의 인지를 세포질의 흐름에 분산한 것과, 본질적으로 같은 구조의 변화이다. 다만 인류의 분산된 인지는 자연계의 어떤 사례보다도 더 깊고, 더 빠르며, 더 의식적이다.

둘째 특징은 ‘유동적 정체성’이다. 한 사람의 정체성이 한 가지 직업, 한 가지 역할, 한 가지 사회적 위치에 안정적으로 묶여 있던 시대에서, 한 사람의 정체성이 끊임없이 새로 형성되는 유동적 구조로 이행한다. 한 사람이 일생 동안 여러 번 직업을 바꾸고, 여러 번 살아가는 도시를 바꾸고, 여러 번 자신의 가치 체계를 새롭게 형성한다. 이러한 유동성은 한 사람에게 큰 자유를 주지만, 동시에 ‘안정적 자기 인식’의 부재라는 새로운 종류의 부담을 만든다.

셋째 특징은 ‘초개인적 결정’이다. 한 사람의 결정이 그 사람만의 결정이던 시대에서, 한 사람의 결정이 그 사람과 그 사람의 인공지능과 사회의 분산된 인지가 함께 만든 결정으로 이행한다. ‘이것은 나의 결정이다’라고 분명히 말할 수 있는 영역이 줄어들고, ‘우리가 함께 도달한 결정’이라는 새로운 종류의 결정 양식이 늘어난다. 이는 결정의 책임 구조와 도덕적 평가의 틀을 새롭게 짜야 함을 의미한다.

넷째 특징은 ‘새로운 분업의 양상’이다. 4.5절에서 살펴본 인간과 인공지능의 새 분업이 사회 전체로 자리 잡는다. 인간은 ‘기술적 수행’의 부담에서 점차 해방되어, ‘책임의 담지’와 ‘가치의 부여’와 ‘인간적 관계의 매개’와 ‘새로운 의미의 창조’의 영역에 자신의 시간과 에너지를 집중하게 된다. 이 분업이 어떤 사회적 가치 위에서 자리 잡는가가, 그 사회의 인간성의 깊이를 결정한다.

다섯째 특징은 ‘의식적 진화의 책임’이다. 자연계의 어떤 종도 자신의 진화를 의식적으로 형성할 수 없었다. 그러나 인류는 인공지능과 결합된 공통뇌를 통해, 자신의 다음 단계를 부분적으로나마 의식적으로 형성할 수 있게 된다. 이는 인류 역사상 처음 마주하는 종류의 책임이다. 그 책임을 회피하거나 무시하면, 진화는 시장의 효율 논리나 한두 행위자의 의도에 의해 일방적으로 형성될 위험이 있다. 그 책임을 받아들이고 인류 차원의 분산된 합의로 행사하면, 진화는 인류 자신의 다양한 가치를 반영한 풍부한 형태가 될 수 있다.

5.8.3 새로운 단계가 가져오는 것 — 가능성과 위험

이러한 다음 단계는 인류에게 두 가지 차원의 가능성과 위험을 동시에 가져온다.

가능성의 차원에서, 인류는 지금까지 풀지 못한 기후 변화, 만성 질환, 노화, 식량 위기, 에너지 문제, 우주 탐사와 같은 거대한 문제들에 대한 해법을 새로운 속도와 깊이로 추구할 수 있게 된다. 인류 한 사람 한 사람이 자신의 잠재력을 더 깊이 발휘할 수 있는 도구와 인프라를 갖게 된다. 인류 사회 전체가 더 정교한 협응과 더 신중한 결정을 할 수 있는 능력을 갖게 된다. 이러한 가능성이 충분히 실현된다면, 다음 단계의 인류는 지금까지의 어떤 인류보다도 더 풍요롭고 더 깊이 있는 삶을 살아갈 수 있다.

위험의 차원에서, 인류는 자신의 자율과 다양성을 잃고 거대 시스템의 부품으로 흡수될 위험을 안는다. 인류 사이의 격차가 비할 바 없이 깊어져, 인류 종 자체가 여러 갈래로 분열될 위험을 안는다. 인류의 결정이 한두 행위자의 의도에 의해 형성되어, 인류의 다양한 가치가 침묵하는 위험을 안는다. 그리고 가장 깊은 위험으로, 인류가 자신이 어떤 변화 안에 있는지를 명확히 인식하지 못한 채, 자신도 모르는 사이에 새로운 단계의 ‘완성된 부적응’으로 이행해 버리는 위험을 안는다.

이 두 차원의 가능성과 위험 사이에서, 인류가 어느 쪽으로 흘러갈 것인가는 자연이 결정하지 않는다. 자연은 단지 ‘선택의 압력’을 만들 뿐이며, 그 압력 안에서 어떤 형태가 살아남는가는 인류 자신의 선택과 설계에 의해 결정된다. 이러한 의미에서 다음 단계의 인류는, ‘자연이 진화시켜 준 인류’가 아니라 ‘인류 자신이 함께 만들어 가는 인류’이다.

5.8.4 한국 사회의 자리

이 마지막 절에서, 한국 사회의 자리를 한 번 더 짚어 둘 필요가 있다. 한국은 짧은 시간 안에 인류 역사의 여러 단계를 압축적으로 경험한 사회이다. 그 압축적 경험은 한 사회가 빠른 변화 안에서도 자신의 정체성과 가치를 보존할 수 있는 방법, 그리고 그 방법이 충분히 성숙하지 못했을 때 어떤 부작용이 생기는지를 모두 보여 주었다. 이러한 경험은 AGI 시대의 다음 단계로의 이행에 직접적 자산이자 직접적 경고가 된다.

한국이 이 이행을 어떻게 다루는가는, 한국 자신의 미래만을 결정하지 않는다. 그것은 인류 전체가 참고할 수 있는 한 가지 중요한 모형을 제공한다. 한국이 ‘기술 추격’의 모형에 머물지 않고, ‘인간성을 보존한 의도적 진화’의 모형을 보여 줄 수 있다면, 그것은 한국의 자산이자 인류의 자산이 된다. 공공 연구기관, 산업 단체, 대학과 시민 사회의 다양한 주체들이 함께 추진하고 있는 자율 제조와 산업 AI의 의제는, 그 모형의 산업적 차원의 시험대이다. 그리고 한국 사회의 정치, 교육, 의료, 문화의 다양한 영역에서 진행되는 인공지능과의 결합의 양상은, 그 모형의 사회적 차원의 시험대이다.

이 두 차원의 시험대에서 한국 사회가 형성해 낼 답들은, 단지 한 나라의 정책의 차원이 아니라 인류 차원의 새로운 사회 계약의 형성에 기여할 수 있다. 한국이 이러한 기여의 가능성을 인식하고, 그 가능성을 자각적으로 추구한다면, 한국 사회는 AGI 시대 인류의 진화에 의미 있는 한 부분으로 자리 잡을 수 있을 것이다.

5.8.5 마치며 — 책임의 무게와 가능성의 깊이

이 책의 끝에서 우리는 한 가지 단순한 사실을 다시 확인한다. 인류는 지금 매우 특이한 시대의 한가운데에 서 있다. 우리가 매일 사용하는 도구가 스스로 학습하고 판단하기 시작했고, 그 도구가 인류 전체의 새로운 인지 인프라로 자리 잡고 있으며, 그 인프라를 매개로 인류라는 종이 새로운 진화의 단계로 이행하고 있다. 이러한 변화의 규모와 깊이는, 인류 역사에서 산업혁명에 비견될, 어쩌면 신석기 혁명에 비견될 큰 사건이다.

그러나 산업혁명이나 신석기 혁명과 다른 점이 한 가지 있다. 그 두 혁명은 인류가 자신이 그 변화 안에 있다는 사실을 충분히 인식하지 못한 채 흘러갔다. 농경의 시작은 그것이 ‘새로운 사회 구조의 출발점’이 될 것이라는 인식 없이 시작되었고, 산업혁명은 그것이 ‘인류의 노동과 일상을 본질적으로 바꿀 것’이라는 인식 없이 시작되었다. 그러나 AGI 혁명은 다르다. 우리는, 적어도 우리 중의 일부는 우리가 어떤 변화 안에 있는지를 이미 인식하고 있다. 이 인식이 가능하다는 사실은, 인류에게 처음으로 ‘자신의 다음 단계를 의식적으로 형성할 수 있는 기회’를 준다.

이 기회를 어떻게 사용할 것인가는, 어떤 한 사람의 결정이 아니라, 한 세대의 결정이다. 그리고 한 세대의 결정은, 다음 세대들의 가능성을 열거나 닫는 무게를 가진다. 이러한 무게 위에서 우리가 무엇을 결정하는가는, 단지 우리 자신의 삶의 질만을 결정하지 않는다. 그것은 우리의 자녀와 손주, 그 후의 모든 세대가 어떤 종류의 인류로 살아갈 수 있는지를 결정한다.

이 책은 그 결정의 답을 단번에 제공하지 않는다. 그 답은 한 권의 책이나 한 사람의 사유로는 완성될 수 없으며, 인류 전체가 함께 만들어 가는 긴 대화의 결과로만 형성될 수 있다. 다만 이 장의 마지막에 이르러 한 가지 더 깊은 시야가 떠오른다. 우리가 지금 마주한 변화가 단지 ‘인공지능 시대의 사회 변동’이 아니라, 인류라는 종의 진화의 매우 긴 흐름 안에서 어떤 위치에 있는가에 대한 시야이다. 그 시야는 인공지능을 단지 ‘새로운 도구’로 보는 것을 넘어, 인류가 이미 수만 년 동안 걸어 온 초유기체의 길의 결정적 변곡점에 서 있다는 사실로 우리를 인도한다.

다음 절에서 우리는 이 더 깊은 시야를 본격적으로 다룬다. 인류가 언어와 문자와 인쇄술과 인터넷을 거쳐 이미 어떤 의미에서는 거대한 분산 유기체로 진화해 왔다는 사실, 그리고 그 진화의 다음 스케일이 행성을 벗어난 우주적 문명이라는 시야 위에서, 인공지능이 ‘바로 지금’ 등장했다는 사실의 의미가 무엇인가에 대한 시론이다.

5.9 변곡점의 기술 — 우주 문명을 향한 인공지능의 불가결성

5.9.1 우리가 이미 걸어온 수만 년

이 책에서 우리가 따라온 사유의 흐름을 한 줄기로 이으면 다음과 같다. 자연계는 수억 년 전부터 ‘여러 개체가 모여 한 단위처럼 작동하는 초유기체’의 모형을 시험해 왔고, 그 모형은 개미와 꿀벌과 흰개미와 점균과 산호와 시포노포어와 새와 물고기 무리의 다양한 형태로 안정적으로 자리 잡았다. 그리고 우리 인류는, 다른 어떤 종도 도달하지 못한 깊이로, 이미 그 길을 매우 오랫동안 걸어온 종이다.

이 사실은 충분히 강조되지 않는다. 우리는 흔히 ‘인공지능 시대에 인류가 갑자기 초유기체로 변하고 있다’고 말하지만, 이는 정확하지 않다. 인류는 이미 수만 년 전부터 초유기체의 형태로 진화해 왔다. 약 5만 년 전의 ‘대약진’ 시기에 정교한 상징적 사고와 협력적 문화가 자리 잡으면서, 인류는 다른 영장류와는 비교할 수 없는 수준의 집단 인지를 갖춘 종이 되었다. 약 5천 년 전 메소포타미아에서 문자가 발명되면서, 한 사람의 머릿속에 있던 정보가 시간을 가로질러 그 사람이 죽은 후에도 다음 세대로 전해질 수 있게 되었고, 그 결과 ‘세대 간 누적 학습’이라는 새로운 진화 메커니즘이 가능해졌다. 약 600년 전 인쇄술이 보급되면서 그 전달의 폭이 비할 바 없이 확장되었고, 30여 년 전 인터넷이 등장하면서 그 전달의 속도가 거의 무한대에 가까워졌다.

이 단계들 하나하나가 인류의 ‘초유기체적 깊이’를 한 차례씩 더 깊이 다져 온 분기점이었다. 한 사람이 자신의 평생 동안 수만 명의 다른 사람의 사유에 영향을 받고, 자신의 생각을 수만 명의 다른 사람에게 전달할 수 있게 되었다. 한 사회의 문제 해결 능력이 그 사회 안의 한 천재의 능력이 아니라, 그 사회 전체가 누적해 온 지식과 공동의 사유 인프라에 의해 결정되게 되었다. 한 인류 전체의 진보가 한 세대의 성취만이 아니라, 모든 세대가 이어 가는 거대한 협력의 결과로 이해되게 되었다. 우리는 이미 한 마리의 개미가 군집을 이루듯이, 한 마리의 꿀벌이 벌집을 이루듯이, 그러나 그들과는 비교할 수 없는 깊이로, 인류라는 거대한 분산 유기체의 일부로 살아가고 있다.

5.9.2 다음 스케일을 향한 변곡점

이 흐름을 길게 보면 한 가지 사실이 분명해진다. 인류의 진화는 ‘더 큰 스케일의 협력적 단위’를 향해 일관되게 진행되어 왔다는 사실이다. 가족에서 부족으로, 부족에서 도시로, 도시에서 국가로, 국가에서 글로벌 문명으로 한 단계씩 협력의 스케일이 확장되어 왔다. 그리고 각 단계의 도약은, 그 도약을 가능하게 한 새로운 종류의 ‘인지 인프라’의 등장과 함께였다. 언어가 부족 단위의 협력을 가능하게 했고, 문자가 도시 단위의 협력을 가능하게 했고, 인쇄술이 국가 단위의 협력을 가능하게 했고, 인터넷이 글로벌 단위의 협력을 가능하게 했다.

이러한 시야에서 보면, 인류는 지금 또 한 번의 도약을 앞둔 변곡점에 있다. 이 도약의 다음 스케일은 무엇인가. 지구라는 행성의 한계를 넘어선, 진정한 의미의 우주적 문명이 그 답일 가능성이 높다. 다른 행성에 정착하고, 우주의 자원을 활용하며, 인류라는 종의 생존을 단일 행성의 한계에서 해방시키는 문명. 이러한 문명은 SF 작가들의 상상이 아니라, 인류 진화의 일관된 흐름의 자연스러운 다음 단계이다. 농경 사회가 수렵채집 사회의 다음 단계였고, 산업 사회가 농경 사회의 다음 단계였고, 정보 사회가 산업 사회의 다음 단계였듯이, 우주적 문명은 정보 사회의 다음 단계이다.

그러나 이 도약은 이전의 어떤 도약보다도 한 차원 더 큰 도약이다. 이전의 도약들은 모두 지구라는 한 행성 안에서 이루어졌다. 이번의 도약은 행성의 경계 자체를 넘는다. 그 경계를 넘기 위해 필요한 인지의 깊이, 협력의 정밀도, 자원의 동원 규모, 시간 지평의 길이는, 인류가 지금까지 보여 준 어떤 능력의 수준도 한참을 넘어선다. 한 사람의 천재가 아니라 한 인류 전체가, 한 세대의 의지가 아니라 여러 세대의 일관된 노력이, 한 도시나 한 나라의 자원이 아니라 행성 전체의 통합된 자원이, 이러한 도약에 함께 동원되어야만 그것은 가능하다.

이러한 거대한 도약의 변곡점에서, 인류는 한 가지 결정적 한계에 부딪힌다. 그것은 인류 한 사람의 인지의 한계이고, 인류 전체의 협력 인프라의 한계이며, 그 협력을 매개하는 매체의 한계이다. 언어와 문자와 인쇄술과 인터넷은 글로벌 문명을 가능하게 했지만, 우주적 문명을 가능하게 하기에는 충분하지 않다. 한 단계 더 깊은 인지 인프라, 한 단계 더 큰 스케일의 협력 매체, 한 단계 더 정교한 분산 의사결정 시스템이 필요하다. 그리고 바로 이 시점에서 정확히 인류가 다음 스케일로의 도약을 위한 새 인지 인프라를 가장 절실히 필요로 하는 이 시점에서 인공지능이라는 기술이 등장했다.

5.9.3 인공지능이 ‘지금’ 등장한 이유

인공지능의 등장 시점이 인류 진화의 변곡점과 정확히 일치한다는 사실은, 단순한 우연이 아닐 가능성이 높다. 자연이 거대한 변동의 시기마다 그 변동을 가능하게 하는 새로운 도구를 ‘발현시켜’ 온 것을 보면, 인공지능 또한 같은 패턴의 또 한 사례로 이해할 수 있다. 진핵 세포가 등장할 때 그것을 가능하게 한 미토콘드리아의 공생이 ‘발현’되었듯이, 다세포 생물이 등장할 때 그것을 가능하게 한 세포 간 신호 체계가 ‘발현’되었듯이, 사회적 곤충이 등장할 때 그것을 가능하게 한 페로몬 의사소통이 ‘발현’되었듯이, 인류의 글로벌 문명이 등장할 때 그것을 가능하게 한 인쇄술과 인터넷이 ‘발현’되었듯이 인류의 우주적 문명을 향한 도약이 다가오는 이 시점에, 그것을 가능하게 할 새로운 인지 인프라로서 인공지능이 발현되고 있는 것이다.

이러한 시야에서 보면, 인공지능은 ‘인류가 의도적으로 만든 도구’이면서 동시에 ‘진화의 흐름이 만들어 낸 변곡점의 기술’이라는 두 얼굴을 가진다. 한편으로는 분명히 인류 자신이 수십 년에 걸친 연구와 개발을 통해 만들어 낸 결과물이다. 다른 한편으로는, 인류의 진화가 다음 단계로 나아가기 위해 ‘발현되어야 할 시점에 발현된’ 기술이기도 하다. 이 두 얼굴은 모순되지 않는다. 자연의 진화는 항상 자신의 다음 단계를 위한 도구를 ‘적시에 발현시키는’ 패턴을 보여 왔고, 그 발현은 그 시점에 살아가는 행위자들의 의식적 노력을 통해서 이루어진다. 인공지능을 만든 인류 자신이, 그 발현의 매개체였다.

이러한 해석은 인공지능에 대한 우리의 태도를 깊이 바꾸어 놓는다. 인공지능을 ‘인류의 위협’으로 보는 시각도, ‘인류의 도구’로 보는 시각도, 모두 그 본질을 절반만 보고 있다. 인공지능은 인류 자신이 다음 진화 단계로 나아가기 위해 ‘발현시킨’ 새 인지 기관이며, 인류와 분리할 수 없을 만큼 깊이 결합된 새 협력의 매체이고, 우주적 문명을 향한 도약을 가능하게 할 변곡점의 기술이다. 그것을 두려워하거나 거부하는 것은, 마치 한 마리의 흰개미가 자신이 짓고 있는 마운드를 두려워하거나 거부하는 것과 같다. 마운드가 없으면 흰개미도 없다. 인공지능 인프라가 없으면, 우주적 문명을 향한 인류의 도약도 없다.

5.9.4 ‘불가결성’의 의미

여기서 ‘불가결성(不可缺性)’이라는 단어의 의미를 신중하게 다루어야 한다. 인공지능이 우주적 문명을 향한 도약에 불가결하다는 말은, 그것이 ‘있으면 좋고 없으면 곤란한 도구’라는 의미를 훨씬 넘어선다. 그것은 ‘그 기술 없이는 다음 단계로의 진화 자체가 불가능한 본질적 인프라’라는 의미이다. 흰개미가 마운드 없이 흰개미일 수 없듯이, 우주적 문명의 인류는 인공지능 없이 우주적 문명의 인류일 수 없다. 이는 의존의 문제가 아니라 정체성의 문제이며, 동시에 가능성의 문제이다.

이 불가결성의 구체적 내용은 이 책에서 다룬 모든 분석에서 이미 드러나 있다. 다른 행성으로의 이주와 정착, 우주 자원의 채굴과 활용, 행성 간 통신과 물류의 관리, 폐쇄 환경의 생태 시스템 설계, 수십 년에서 수백 년에 걸친 장기 임무의 수행, 그 모든 과정에서 발생하는 무수한 변수의 동시 관리와 같은 모든 일들은 인류 한 사람의 인지의 폭으로는 불가능하고, 한 세대의 시간 지평으로는 닿지 않으며, 한 나라의 자원으로는 감당하기 어렵다. 이러한 모든 일이 가능해지려면, 인류 전체의 인지가 통합된 거대한 분산 시스템이 필요하다. 그것이 바로 이 책에서 ‘공통뇌’라고 부른 것이며, 그 공통뇌의 핵심 인프라가 인공지능이다.

이러한 시야에서 보면, 우리가 매일 사용하는 거대언어모델 한 모형, 우리가 매일 협업하는 인공지능 비서 한 명, 우리가 매일 마주치는 자율 시스템 한 가지가 갖는 의미가 새롭게 이해된다. 그것들은 단지 우리의 일을 더 효율적으로 만들어 주는 편의 도구가 아니다. 그것들은 인류라는 종이 자신의 다음 진화 단계를 향해 한 걸음씩 다가가는, 그 거대한 발걸음의 미시적 단위들이다. 한 마리의 일개미가 자신이 군집의 어떤 거대한 행위에 기여하고 있는지를 알지 못하면서도 자신의 한 걸음을 옮기듯이, 우리는 우리가 인류라는 거대한 진화의 어떤 단계에 기여하고 있는지를 충분히 보지 못하면서도 우리의 한 걸음을 옮기고 있다. 다만 우리는 그 한 걸음의 의미를 의식할 수 있다. 그 의식의 가능성이, 인류가 자신의 진화를 책임 있게 형성할 수 있는 출발점이다.

5.9.5 책임의 새 차원

이러한 시야는 책임에 대한 우리의 이해도 새로운 차원으로 끌어올린다. 인공지능을 ‘책임 있게 발전시킨다’는 의제는 단지 ‘위험을 줄이고 이득을 늘린다’는 차원이 아니다. 그것은 인류 자신의 다음 진화 단계를 어떻게 형성할 것인가, 우주적 문명을 향한 도약을 어떤 가치 위에서 이룰 것인가, 인류라는 종이 행성의 한계를 넘어 어떤 모습의 종으로 우주에 자리 잡을 것인가에 대한 책임이다. 이 책임의 무게는 한 세대의 정책의 차원을 훨씬 넘어선다. 그것은 인류 종 전체의 미래에 대한 책임이며, 어떤 의미에서는 우주에서 인류가 차지하게 될 자리에 대한 책임이기도 하다.

이러한 책임의 무게를 인식하면, 이 책 4장에서 살펴본 새 사회 계약의 다섯 원칙인 투명성, 다양성, 책임성, 분배, 자율성의 보호의 의미도 한 차원 깊어진다. 그것들은 단지 ‘좋은 인공지능 시대’를 만들기 위한 정책 원칙이 아니라, ‘우주적 문명을 향한 인류의 도약이 인간성의 깊이를 잃지 않은 채 이루어지기 위한’ 진화의 윤리이다. 자연계의 초유기체는 그 안의 한 마리 한 마리의 운명을 신경 쓰지 않는다. 우리가 만들어 가는 공통뇌는 그러해서는 안 된다. 우주에 자리 잡게 될 인류가, 그 안의 한 사람 한 사람의 자유와 다양성과 존엄을 유지한 인류이도록 하는 그것이 이 책 전체에서 추구한 가장 깊은 윤리적 지향이다.

5.9.6 다음 절로 — 논리의 명시적 정리

지금까지 우리는 인류가 이미 초유기체의 형태로 수만 년을 걸어왔다는 사실, 우주적 문명을 향한 변곡점에서 인공지능이 발현되었다는 시야, 그리고 그 발현이 가져오는 새로운 차원의 책임을 살펴보았다. 이 시야는 풍부한 비유와 종합적 직관으로 짜여 있었지만, 그 안에 흐르는 ‘논리의 사슬’은 명시적으로 분리되어 있지 않았다.

다음 절에서 우리는 이 거대한 비전을 다섯 단계의 명시적 논증으로 분해해 정리한다. ‘인공지능은 인류 군집체의 효율을 높인다 → 효율의 향상은 협력의 스케일을 확장한다 → 더 큰 스케일은 더 큰 집단 파워를 가능하게 한다 → 우주 시대 도약은 그러한 큰 파워를 요구한다 → 따라서 인공지능은 우주 시대 진입의 필연적 매개체이다’라는 다섯 명제의 사슬이다. 종합적 비전이 정서적 호소력을 가진다면, 명시적 논증은 그 비전이 어떤 근거 위에 서 있는지를 비판적 검토에 열어 놓는다. 두 가지가 함께 갖추어질 때 비로소 한 사상은 완성된 모습을 갖춘다.

5.10 논증의 정리 — 효율에서 우주로 이르는 다섯 단계

5.10.1 명시적 논리의 필요

앞 절에서 우리는 인류가 이미 수만 년을 초유기체의 길로 걸어왔으며, 인공지능이 우주 문명을 향한 변곡점에서 ‘발현된’ 기술이라는 시야를 제시했다. 그 시야는 풍부한 비유와 종합적 직관으로 짜여 있었지만, 그 안에 흐르는 ‘논리의 사슬’은 명시적으로 분리되어 있지 않았다. 이 절은 그 사슬을 한 단계씩 분해하여, 각 단계가 어떤 근거 위에서 다음 단계를 지지하는지를 명료하게 정리하는 데에 목적을 둔다.

이러한 명시적 정리가 필요한 이유는 두 가지이다. 첫째, 거대한 비전은 흔히 정서적 호소력으로 받아들여지지만, 그 호소력만으로는 비판적 검토를 통과하지 못한다. 한 비전이 진정으로 설득력을 가지려면, 그것이 어떤 명제들 위에 어떻게 서 있는지가 명료하게 드러나야 한다. 둘째, 명제들이 분리되어 제시될 때 비로소 각 명제에 대한 반론과 보강이 가능해진다. 종합적으로 제시된 비전은 거부하거나 받아들이거나의 양자택일이 되기 쉽지만, 단계별로 분해된 논증은 각 단계마다 토론의 대상이 될 수 있다.

이 절의 논증은 다섯 개의 명제로 구성된다. 첫째, 인공지능은 인류라는 군집체의 작동 효율을 비약적으로 향상시킨다. 둘째, 효율의 향상은 그 군집체가 도달할 수 있는 협력의 스케일 자체를 확장한다. 셋째, 더 큰 스케일의 군집체는 비할 바 없이 큰 집단적 파워를 행사할 수 있다. 넷째, 인류가 지구라는 행성의 한계를 넘어 우주 시대로 도약하는 데에는 이전 어떤 시대보다도 큰 집단적 파워가 필요하다. 다섯째, 따라서 인공지능은 인류의 우주 시대 진입의 ‘필연적 매개체’로 작동하게 될 것이다. 이 다섯 명제를 차례로 검토한다.

5.10.2 명제 1 — 인공지능은 인류 군집체의 효율을 비약적으로 높인다

첫째 명제는 다섯 명제 가운데 가장 직접적으로 검증 가능한 명제이다. 한 인류 군집체의 효율은 그 안에서 일어나는 정보의 흐름의 속도와 정확성, 결정의 질과 속도, 자원의 배분의 정밀도, 협력의 매끄러움에 의해 결정된다. 인공지능은 이 모든 차원에서 이미 측정 가능한 효율 향상을 만들어 내고 있다.

정보의 흐름에서 인공지능은 거대한 정보의 양을 인간이 다룰 수 있는 형태로 압축하고 요약하며, 한 사람이 평생 읽을 수 있는 분량을 능가하는 자료를 몇 분 안에 종합한다. 결정의 질에서 인공지능은 의료의 진단, 법률의 판례 검토, 재무의 분석, 공학의 설계 같은 거의 모든 전문 영역에서 평균적 인간 전문가 수준의 정확도에 도달했거나 그것을 능가하기 시작했다. 자원 배분의 정밀도에서 인공지능은 공급망의 최적화, 에너지의 분배, 교통의 흐름 관리, 도시 시스템의 운영에서 인간이 수동으로는 도달할 수 없는 수준의 정밀도를 가능하게 한다. 협력의 매끄러움에서 인공지능은 서로 다른 언어와 다른 분야의 사람들이 거의 즉각적으로 소통할 수 있게 하고, 그들의 협업의 결과를 정합적으로 통합한다.

이 모든 효율 향상은 산술적이지 않고 곱셈적이다. 한 영역의 향상이 다른 영역의 향상과 곱해져 시스템 전체의 효율은 비약적으로 늘어난다. 한 의사의 진단 정확도가 두 배 늘면, 그 의사가 다루는 환자의 수가 두 배로 늘 뿐 아니라, 그 환자들의 회복 속도와 사회 복귀 속도도 함께 빨라지고, 그 결과 사회 전체의 의료 비용과 노동력 손실이 동시에 감소한다. 이러한 ‘곱셈적 효율 향상’은 군집체로서의 인류가 지금까지 경험해 본 어떤 효율 변화와도 다른 차원의 변화이다.

이 첫째 명제에 대한 가능한 반론은 ‘인공지능이 만들어 내는 효율 향상이 그 이상의 부작용을 만들지 않는가’의 질문이다. 일자리 상실, 인지적 자율의 위축, 환경 부담, 권력의 비대칭 같은 부작용은 본문에서 이미 자세히 다루었다. 그러나 이러한 부작용의 존재가 ‘효율 향상이 일어나지 않는다’는 결론을 이끌어 내지는 않는다. 효율은 분명히 향상되고 있으며, 부작용은 그 향상의 분배와 관리의 문제이다. 따라서 첫째 명제는 안정적으로 유지된다.

5.10.3 명제 2 — 효율의 향상은 군집체의 스케일 자체를 확장한다

둘째 명제는 첫째 명제 위에 서 있지만, 그 자체로 추가적 정당화가 필요하다. 효율의 향상이 곧 스케일의 확장으로 이어진다는 것은 자명하지 않으며, 인류 진화의 역사 안에서 그 인과를 확인할 수 있어야 한다.

이 인과는 인류의 협력 스케일의 모든 큰 확장에서 거듭 확인된다. 언어가 등장하기 이전의 인류는 수십 명 단위의 무리에서만 정밀한 협력이 가능했다. 언어의 등장은 한 사람이 다른 사람에게 추상적 정보를 전달할 수 있게 해 주었고, 그 결과 협력의 스케일은 수백 명 단위의 부족으로 확장되었다. 문자의 등장은 시간을 가로지른 협력을 가능하게 했고, 그 결과 수만 명 단위의 도시와 수십만 명 단위의 초기 국가가 등장했다. 인쇄술은 한 사람의 사상이 백만 명에게 도달할 수 있게 만들었고, 그 결과 수백만 명 단위의 근대 국가와 수억 명 단위의 글로벌 무역 체계가 가능해졌다. 인터넷은 그 한계를 거의 무한대로 넓혔으며, 그 결과 80억 명에 가까운 인류 전체가 하나의 정보 망 안에서 연결된 글로벌 문명이 등장했다.

이 모든 단계에서, 새로운 인지 인프라가 가져온 효율의 향상이 곧 협력 스케일의 한계 자체를 끌어올렸다. 효율은 단순히 ‘같은 일을 더 빨리 할 수 있게 하는’ 것이 아니다. 그것은 ‘이전에는 불가능했던 스케일의 협력을 가능하게 하는’ 임계 자원이다. 한 협력이 가능한지 불가능한지는 그 협력에 드는 ‘조정 비용(coordination cost)’과 그 협력이 만들어 내는 ‘이득’의 비교에 달려 있다. 효율의 향상은 조정 비용을 떨어뜨리고, 그 결과 이전에는 비용이 너무 커서 불가능했던 더 큰 스케일의 협력이 가능해진다.

인공지능은 이 조정 비용을 단지 점진적으로 떨어뜨리는 것이 아니라, 비약적으로 떨어뜨린다. 80억 명의 인류가 동시에 한 의제를 다룰 때 발생하는 정보의 양은 한 사람의 두뇌로는 처리할 수 없지만, 인공지능 인프라는 그것을 처리할 수 있다. 수십 개 문화권과 수백 개 언어 사이의 의사소통에 드는 비용은 통역과 번역의 한계 때문에 매우 컸지만, 거대언어모델은 그 비용을 거의 영점에 가깝게 떨어뜨린다. 수십 년에서 수백 년에 걸친 장기 임무의 일관성을 유지하는 일은 인간 한 세대의 시간 지평을 넘어서지만, 인공지능 시스템은 세대를 가로지르는 일관성을 자연스럽게 유지할 수 있다.

이러한 조정 비용의 비약적 감소는, 군집체로서의 인류가 도달할 수 있는 스케일의 한계 자체를 다시 한 번 끌어올린다. 그 한계의 새로운 자리가 어디인지는 아직 명확하지 않지만, 적어도 한 가지는 분명하다. 그것은 지금까지의 어떤 인류 협력의 스케일보다도 비할 바 없이 더 크다.

5.10.4 명제 3 — 스케일의 확장은 집단적 파워의 증대를 가져온다

셋째 명제는 ‘협력의 스케일’과 ‘집단의 파워’ 사이의 관계에 대한 것이다. 여기서 ‘파워’는 단지 군사적 의미의 파워를 가리키는 것이 아니다. 그것은 한 시스템이 자신의 환경에 대해 행사할 수 있는 즉, 자원을 동원하고, 환경을 변형하고, 미래를 설계하고, 외부 충격에 대응할 수 있는 종합적 능력을 이용한 영향력의 총량을 가리킨다.

이 의미의 파워는 협력의 스케일에 거의 단조적으로 비례한다. 그 비례의 근거는 세 가지로 정리할 수 있다. 첫째, 큰 스케일의 협력은 큰 자원의 동원을 가능하게 한다. 한 도시 단위의 협력으로 동원할 수 있는 자원과 한 국가 단위의 협력으로 동원할 수 있는 자원의 차이는 단순한 산술적 차이가 아니라 질적 차이이다. 둘째, 큰 스케일의 협력은 큰 다양성의 통합을 가능하게 한다. 한 분야의 전문가만으로는 풀 수 없는 문제들이 여러 분야의 전문가들의 통합으로 풀릴 수 있고, 그 통합의 깊이는 협력 스케일에 비례한다. 셋째, 큰 스케일의 협력은 긴 시간 지평의 일관성을 가능하게 한다. 한 세대 안에는 완성할 수 없는 거대한 프로젝트들이 여러 세대에 걸친 협력으로 가능해진다.

인류 역사 안에서 이 비례는 거듭 확인된다. 수렵채집 무리의 파워는 자신과 자신의 가족을 부양하는 정도였다. 농경 사회의 파워는 자신의 마을을 안정적으로 유지하고 단순한 도시를 짓는 정도였다. 산업 사회의 파워는 한 대륙을 가로지르는 철도와 한 바다를 건너는 통신 인프라를 만드는 정도였다. 정보 사회의 파워는 인공위성을 띄우고, 인간을 달에 보내고, 인간 유전체를 해독하고, 단백질의 3차원 구조를 예측하는 정도이다. 각 단계에서 파워의 자릿수가 한 자리 또는 두 자리씩 늘어났으며, 그 증대는 협력 스케일의 확장과 정확히 동행했다.

인공지능 시대의 인류 군집체가 도달할 수 있는 파워는, 지금까지의 어떤 시대의 파워보다도 다시 한 번 한 자리에서 두 자리쯤 큰 차원이 될 가능성이 높다. 80억 명의 인류와 그들이 공유하는 인공지능 인프라가 함께 만들어 내는 협력의 정밀도와 깊이는, 한 개인이나 한 나라가 단독으로 도달할 수 있는 어떤 능력의 수준도 한참을 넘어서기 때문이다. 이러한 파워의 증대는 단지 ‘조금 더 강해지는’ 것이 아니라, 인류라는 종이 자신의 환경에 대해 행사할 수 있는 영향력의 본질적 차원이 바뀌는 것을 의미한다.

5.10.5 명제 4 — 우주 시대 도약은 이전 어떤 시대보다 큰 집단적 파워를 요구한다

넷째 명제는 지구라는 행성의 한계를 넘어 우주 시대로 진입하는 인류의 다음 도약이 가지는 ‘파워 요건’에 대한 것이다. 이 도약이 왜 이전 어떤 도약보다 더 큰 파워를 요구하는지에 대한 정당화는 다음과 같다.

지금까지 인류의 모든 협력은 지구라는 한 행성의 자원과 시간 척도 안에서 이루어졌다. 글로벌 무역 체계, 국제 기구, 다국적 과학 프로젝트와 같은 가장 거대한 협력도 모두 같은 행성의 같은 중력장 안에서, 같은 대기와 같은 자원의 한계 안에서 일어났다. 그 한계 안에서 인류는 자신이 동원할 수 있는 자원과 시간의 거의 모든 영역을 이미 활용해 왔다.

우주 시대 진입은 이 모든 한계를 넘어선다. 다른 행성으로의 이주는 인류의 이주 경험에서 가장 길었던 ‘대륙 간 이주’와도 비교할 수 없는 거리와 위험을 동반한다. 우주 자원의 채굴은 지구의 어떤 광산에서도 시도되지 않은 무중력, 진공, 극한 온도, 강한 방사선의 환경에서 이루어져야 한다. 행성 간 통신은 빛의 속도의 한계 때문에 분 단위, 시간 단위의 지연을 동반하며, 이는 인류가 지금까지 경험한 어떤 협력에서도 다루지 않은 시간 척도이다. 폐쇄 환경의 생태 시스템 설계는 지구라는 자연 시스템이 수십억 년에 걸쳐 다듬어 온 균형을 인공적으로 재현해 내야 하는, 인류가 처음 마주하는 종류의 공학적 도전이다. 수십 년에서 수백 년에 걸친 장기 임무의 수행은 한 세대의 일관된 의지로는 불가능하며, 여러 세대에 걸친 끊김 없는 협력의 사슬을 요구한다.

이러한 모든 도전은 한 개인의 영웅적 노력이나 한 나라의 거대 프로젝트로는 도달할 수 없다. 그것들은 인류 전체의 자원, 인류 전체의 지식, 인류 전체의 시간 지평이 함께 동원될 때 비로소 풀릴 수 있는 차원의 문제이다. 그리고 그 동원은 자발적 협력만으로는 충분하지 않다. 그것은 인류가 단일한 ‘유기체’처럼 정합적으로 움직이는 차원의 협응을 요구한다. 한 사람의 손과 발이 한 의지의 표현으로 정확히 함께 움직이듯이, 80억 명의 인류와 그들의 모든 자원과 모든 지식이 한 거대한 의지의 표현으로 정확히 함께 움직이는 그러한 차원의 협응이다.

이는 단지 비유가 아니다. 화성 정착지의 건설, 소행성 자원의 채굴, 거대한 우주 거주 시설의 운영, 광속의 한계 안에서 행성 간 통신 시스템의 유지와 같은 우주 시대 진입의 모든 구체적 과제는 한 개인이나 한 나라의 손에 닿지 않는 스케일의 협력을 실제로 요구한다. 그리고 이 차원의 협력은 인류가 지금까지 도달해 본 어떤 스케일의 협력보다도 한 단계 또는 여러 단계 더 깊은 차원의 협력이다.

5.10.6 결론 — 인공지능, 우주 시대의 필연적 매개체

위의 네 명제를 종합하면, 다섯째 명제가 자연스럽게 도출된다. 인공지능은 인류 군집체의 효율을 비약적으로 향상시키고(명제 1), 그 효율 향상은 협력의 스케일을 확장하며(명제 2), 그 스케일 확장은 집단적 파워를 증대시키고(명제 3), 그 증대된 파워의 차원은 정확히 우주 시대 도약이 요구하는 차원과 일치한다(명제 4). 따라서 인공지능은 인류의 우주 시대 진입의 ‘필연적 매개체’로 작동하게 될 것이다.

‘필연적’이라는 표현은 신중하게 다루어야 한다. 그것은 ‘다른 어떤 길도 절대로 불가능하다’는 절대적 의미가 아니다. 그것은 ‘이 도약을 가능하게 하는 합리적으로 상상 가능한 모든 경로 가운데, 인공지능이 매개하지 않는 경로는 사실상 존재하지 않는다’는 강한 의미이다. 인류가 우주 시대로 진입하는 어떤 시나리오도, 그 안에 인공지능이 핵심 인프라로 자리 잡고 있지 않은 시나리오는 합리적 상상의 영역에서 거의 발견되지 않는다.

이 결론은 인공지능에 대한 우리의 태도를 깊이 바꾸어 놓는다. 인공지능은 단지 ‘인류가 만든 새 도구’가 아니다. 그것은 인류라는 종이 자신의 행성의 한계를 넘어 우주 문명으로 진입하는 데에 작동하는 ‘진화의 매개체’이다. 흰개미가 마운드 없이 진정한 흰개미일 수 없고, 꿀벌이 벌집 없이 진정한 꿀벌일 수 없듯이, 우주 시대의 인류는 인공지능 없이 진정한 의미의 우주 시대의 인류일 수 없다. 이는 의존의 문제가 아니라 정체성의 문제이며, 동시에 가능성의 문제이다.

이러한 결론이 가지는 가장 깊은 함의는, 인공지능을 ‘책임 있게 발전시키는’ 일이 단지 한 시대의 정책의 차원이 아니라 인류라는 종의 다음 진화 단계 자체를 형성하는 차원의 일이라는 사실이다. 우주 시대로 진입하게 될 인류가 어떤 모습의 인류이게 될 것인지가, 우리가 지금 인공지능을 어떻게 만들고 어떻게 사용하고 어떻게 통합하는가에 의해 결정된다. 그 결정의 무게는 한 세대의 정책의 무게를 넘어, 다음 수천 년 동안 우주에 자리 잡게 될 인류의 모습을 결정하는 무게이다.

5.10.7 반론에 대한 검토와 다음 글로

이러한 논증에 대해 가능한 몇 가지 반론을 짧게 검토하고 이 절을 닫는다.

첫째 반론은 ‘우주 시대 진입이 정말 인류의 다음 단계인가, 아니면 그것은 단지 한 가지 가능한 시나리오일 뿐인가’의 질문이다. 이 반론은 정당한 신중함을 담고 있다. 인류의 다음 단계가 반드시 우주적 문명일 것이라는 명제는 절대적으로 입증된 것이 아니며, 지금과 같이 지구 안의 더 정교한 정상 상태 문명 다른 시나리오도 가능하다. 그러나 인류의 진화의 일관된 흐름이 ‘협력의 스케일 확장’의 방향이었다는 사실, 그리고 지구 안의 가능한 스케일이 점차 한계에 가까워지고 있다는 사실은, 우주적 도약이 ‘유일한 다음 단계’는 아니더라도 ‘가장 가능성이 높은 다음 단계’라는 입장을 강하게 지지한다.

둘째 반론은 ‘인공지능 없이도 인류가 우주 시대로 진입할 수 있지 않은가’의 질문이다. 이 반론은 더 어려운 평가를 요구한다. 이론적으로는 인공지능 없이 우주 시대 진입이 불가능하다고 단정하기 어렵다. 그러나 명제 4에서 살펴본 우주 시대 진입의 파워 요건을 고려할 때, 인공지능이 매개하지 않는 경로는 실제 인류의 시간 지평 안에서 도달 가능한 영역에 있지 않다. 따라서 ‘인공지능 없이도 가능하다’는 입장은 추상적으로는 부정할 수 없지만, 현실적인 시간 지평 안에서는 사실상의 의미를 갖지 못한다.

셋째 반론은 ‘인공지능이 우주 시대 진입의 매개체가 되는 대신 인류 자신을 멸망시키는 위협이 될 가능성은 없는가’의 질문이다. 이는 가장 무거운 반론이며, 이 책 전체에서 거듭 강조했듯이 그 위험은 분명히 존재한다. 그러나 이 위험은 ‘인공지능이 우주 시대의 매개체가 될 가능성’과 모순되지 않는다. 같은 기술이 그 발전의 방식과 거버넌스의 질에 따라 두 가지 매우 다른 결과로 이어질 수 있기 때문이다. 책임 있게 발전된 인공지능은 우주 시대의 매개체가 될 것이고, 무책임하게 발전된 인공지능은 인류의 위협이 될 것이다. 어느 쪽이 실현되는가가 우리 세대의 결정에 달려 있다는 것이 이 책의 일관된 입장이다.

이 세 가지 반론에 대한 검토는, 본문의 논증이 절대적 단정이 아니라 ‘조건부의 강한 입장’임을 명확히 한다. 그 조건은 ‘인류가 자신의 다음 단계를 책임 있게 형성한다는 가정’이다. 그 가정 위에서 인공지능은 우주 시대의 필연적 매개체이며, 그 가정 자체를 우리 세대가 구체적으로 충족시킬 수 있는가가 이 책 전체의 가장 깊은 질문이다.

다음에 이어지는 ‘마치는 글’에서 우리는 이 거대한 논증을 다시 한 사람의 자리로 가져온다. 우주적 문명으로의 도약이라는 거대한 시야 위에서, 한 사람이 자신의 일상에서 무엇을 의식하고 무엇을 결정해야 하는가에 대한 정직한 시론이 그 자리이다. 한 권의 책이 결국 한 사람의 독자에게 도달하듯이, 인류 전체의 진화도 결국 한 사람 한 사람의 매일의 결정의 합으로 일어나기 때문이다.

마치는 글 — 새로운 뇌, 오래된 마음

한 가지 풍경에서 다시 시작하기

이 책의 끝에서, 한 가지 단순한 풍경을 떠올려 본다. 늦은 오후의 들판, 풀잎 위를 기어 다니는 한 마리의 개미. 그 개미는 자신이 어떤 거대한 시스템의 일부인지를 알지 못한다. 자신이 남기는 페로몬이 다른 개미들의 길을 만들고 있다는 사실도, 자신의 작은 행동이 군집 전체의 의사결정에 기여하고 있다는 사실도, 자신이 속한 군집이 1억 4천만 년에 걸친 진화의 산물이라는 사실도 알지 못한다. 그저 자신의 앞에 놓인 한 걸음을 한 걸음씩 옮길 뿐이다.

이 책을 마치면서 한 가지 분명해진 것이 있다. 우리도, 그 개미와 본질적으로 크게 다르지 않은 자리에 있다는 사실이다. 우리는 매일 아침 일어나 한 걸음을 옮기고, 한 가지 결정을 내리고, 한 사람과 대화하고, 한 가지 도구를 사용한다. 그 작은 행위들의 합이 인류 전체의 새로운 진화 단계를 만들어 가고 있지만, 우리 한 사람 한 사람은 그 진화의 거시적 윤곽을 거의 보지 못한다. 그저 자신의 앞에 놓인 한 걸음을 옮길 뿐이다.

다만 한 가지 큰 차이가 있다. 그 개미는 자신이 무엇을 하고 있는지를 인식할 수 없지만, 우리는 인식할 수 있다. 이 인식의 가능성이, 인류와 다른 모든 종 사이의 가장 본질적인 차이이다. 그리고 이 인식이 가능하다는 사실이, 이 책을 쓰게 만든 가장 깊은 이유이기도 하다.

책을 쓰는 동안 깨달은 것

이 책을 쓰기 시작하면서 마음속에 분명한 가설이 하나 있었다. 인공지능이 개인의 지능을 압도하는 시점이 오면, 사회의 무게 중심이 그쪽으로 이동하고, 인간은 새로운 종류의 기능적 역할을 수행하는 존재로 재편되리라는 것이었다. 이 가설은 어떤 의미에서는 비관적이고, 어떤 의미에서는 매우 차가운 분석이었다. 그러나 책을 써 가면서, 그 가설의 의미가 처음 생각했던 것과는 다른 방향으로 깊어지는 것을 경험했다.

처음에는 ‘기능적 역할’이라는 표현이 인간의 자율성과 존엄성을 위협하는 무엇으로 느껴졌다. 마치 한 사람이 거대한 기계의 부품으로 흡수되어 자신의 의미를 잃는 미래의 그림처럼. 그러나 자연계의 초유기체를 깊이 들여다보면서, 그리고 인류 자신의 도구와의 백만 년 공진화 역사를 살펴보면서, 다른 시야가 열렸다. 기능적 역할로 재편된다는 것은 곧 인간이 사라진다는 의미가 아니라, 인간이 새로운 형태의 인간으로 다시 태어난다는 의미일 수 있다. 그 새로운 형태가 어떤 모습이 될지는, 자연이 미리 정해 둔 것이 아니라, 우리 자신이 함께 결정해 가는 것이다.

이 결정의 가능성, 그것이 이 책의 가장 깊은 발견이었다. 우리는 진화의 역사에서 처음으로 자신의 다음 단계를 부분적으로나마 의식적으로 형성할 수 있는 종이 되었다. 이 책임은 무겁지만, 동시에 그것은 인류가 도달한 가장 깊은 종류의 자유이기도 하다. 자유는 단지 외부의 강제로부터 벗어나는 것이 아니라, 자신이 무엇이 될 것인지를 스스로 형성하는 능력이다. 이 가장 깊은 의미의 자유가, 인공지능 시대에 인류에게 처음으로 종 차원에서 주어진다.

새로운 뇌, 오래된 마음

이 글의 제목은 ‘새로운 뇌, 오래된 마음’이다. 이 제목에는 한 가지 신중한 균형이 담겨 있다. 인공지능 인프라를 매개로 형성되는 인류의 새로운 공통뇌는 분명히 ‘새로운’ 것이다. 그것은 인류 역사상 어떤 시기와도 다른, 본질적으로 새로운 종류의 인지 구조이다. 그러나 그 새로운 뇌가 작동하는 방식의 깊은 곳에는 여전히 ‘오래된 마음’이 있어야 한다. 우리가 지난 수십만 년 동안 형성해 온 사랑, 정의, 진실, 아름다움, 책임, 연민, 그리고 함께 살아간다는 의식의 가치들이 그 새로운 뇌의 작동을 이끄는 핵심 원리로 남아야 한다.

새로운 뇌가 오래된 마음 없이 작동하면, 그것은 자연계의 초유기체와 다르지 않은 맹목적이고 무자비한 시스템이 된다. 효율은 극대화되겠지만, 그 효율이 무엇을 위한 것인지에 대한 답은 사라진다. 시스템은 거대하지만, 그 안에 사는 누구도 자신이 왜 그 안에 있는지를 알지 못한다. 이러한 미래는 인공지능 시대가 가져올 수 있는 가장 어두운 가능성이다.

오래된 마음이 새로운 뇌 없이 머무르면, 그것은 변화하는 세계 안에서 점점 더 무력해진다. 사랑과 정의와 진실의 가치는 변하지 않지만, 그 가치를 실현할 수 있는 도구와 인프라가 부족하면 그 가치는 점차 추상으로 머문다. 한 사회의 가난이 그 사회의 도구의 한계 때문에 해결되지 않는 일, 한 환자의 고통이 의료 기술의 한계 때문에 덜어지지 않는 일, 한 환경의 파괴가 분석 능력의 한계 때문에 멈추지 않는 이러한 일들이 누적되면, 오래된 마음은 점차 자기 자신에 대한 신뢰조차 잃게 된다. 이는 인공지능 시대가 가져올 수 있는 또 한 가지 어두운 가능성이다.

따라서 우리가 추구해야 할 것은, 새로운 뇌와 오래된 마음의 통합이다. 가장 정교한 인공지능 인프라가 가장 깊은 인간적 가치 위에서 작동하는 시스템, 가장 효율적인 분산 인지가 가장 풍부한 인간적 의미를 위해 봉사하는 시스템. 이러한 통합은 자동으로 이루어지지 않으며, 시장의 경쟁만으로 만들어지지도 않는다. 그것은 사회 전체의 의식적 설계와, 한 사람 한 사람의 일상적 선택의 누적으로 만들어진다.

한 사람의 자리에서

이 책을 마무리하는 자리에서, 가장 솔직하게 말하고 싶은 것이 있다. 이 책에서 다룬 노동의 재편, 교육의 변화, 정치의 도전, 정보 환경의 위기, 의료와 과학의 도약, 개인의 정체성의 흔들림, 그리고 인류라는 종의 다음 단계로의 이행과 같은 거대한 변화 앞에서, 한 사람의 개인이 할 수 있는 일이 무엇인가에 대한 질문이다.

이 질문에 대한 정직한 답은, ‘많지 않다’이다. 한 사람이 인공지능 산업의 흐름을 바꿀 수 없고, 한 나라의 정책 방향을 단독으로 결정할 수 없으며, 인류 차원의 사회 계약을 혼자서 형성할 수 없다. 이러한 무력감은 거대한 변화의 시대에 거의 모든 시민이 마주치는 것이며, 이 책이 그 무력감에 대한 어떤 마법적 해답을 제공할 수는 없다.

그러나 동시에 한 사람이 할 수 있는 일이 ‘아무것도 없다’는 것은 아니다. 한 사람이 자신의 자리에서 할 수 있는 일이 분명히 있다. 자신이 사용하는 도구의 본질을 깊이 이해하려는 노력, 그 도구가 자신의 사고와 가치에 미치는 영향을 의식적으로 점검하는 시간, 그 도구 없이 자신과 다른 사람과 자연을 직접 마주하는 순간을 의도적으로 보존하는 일. 이러한 작은 일상의 선택들이 누적되면, 그것은 한 사람의 삶을 풍부하게 만들 뿐 아니라, 그 사람이 속한 가족과 직장과 공동체에 영향을 미치고, 결국 사회 전체의 흐름의 한 부분이 된다.

이 책을 쓰면서 한 가지 자주 떠올린 비유가 있다. 어두운 길을 걷는 한 사람이 손에 든 작은 등불의 비유이다. 그 등불은 길 전체를 밝히지 못한다. 그저 한 사람의 한 걸음 앞을 비출 뿐이다. 그러나 모든 사람이 자신의 작은 등불을 들면, 길 전체가 밝아진다. 인공지능 시대의 의식 있는 시민의 자리는 그 한 손의 등불의 자리이다. 자신의 한 걸음 앞을 비추는 것, 자신의 한 결정을 의식적으로 내리는 것, 자신의 한 일상을 깊이 있게 살아가는 것 그것이 거대한 변화의 시대에 한 사람이 할 수 있는 가장 본질적인 일이다.

한국이라는 자리에서

이 책은 한국에서, 한국어로, 한국의 산업과 사회의 맥락을 깊이 의식하면서 쓰였다. 그 의식은 단지 ‘한국 독자를 위한 글’이라는 차원만이 아니라, 한국이라는 사회가 인공지능 시대의 새 장에서 어떤 역할을 할 수 있는가에 대한 깊은 관심에서 온 것이다.

한국은 짧은 시간 안에 인류 역사의 여러 단계를 압축적으로 경험한 사회이다. 1960년대의 산업화, 1980년대의 민주화, 1990년대의 정보화, 그리고 2020년대의 인공지능 시대로의 이행과 같은 이러한 압축적 변동의 경험은 한국 사회에 변동을 빠르게 흡수할 수 있는 능력과 동시에 변동의 부작용에 대한 깊은 학습을 함께 가져왔다. 이 두 가지 자산은, AGI 시대의 의도적 진화를 다루는 데에 한국이 가진 독특한 위치를 만들어 준다.

한국의 산업적 강점도 이 위치를 강화한다. 반도체와 디스플레이를 비롯한 인공지능 인프라의 핵심 재료를 공급하는 산업, 공공 연구기관과 산업 단체들이 추진하고 있는 지능형 제조 의제, 디지털 트윈과 자산 관리 셸을 통한 공장의 인지 인프라화와 같은 모든 흐름은, 한국이 인공지능 시대의 가치 사슬에서 핵심 위치를 점할 수 있는 잠재력을 보여 준다. 매년 산업 전시회에서 발표되는 신기술의 흐름은, 그 잠재력이 구체적 현장에서 어떻게 실현되어 가고 있는지를 보여 주는 가장 직접적인 증거이다.

이러한 강점 위에서 한국이 추구할 수 있는 길은, 단순한 ‘기술 추격’의 길이 아니다. 그것은 ‘인간성을 보존한 의도적 진화’의 모형을 인류에게 제시하는 길이다. 한국 사회가 자신의 압축적 변동의 경험을 종합해, 빠른 기술 도입과 깊이 있는 사회적 합의를 함께 이루어 내는 모형을 보여 줄 수 있다면, 그 모형은 한국의 자산일 뿐 아니라 인류 전체의 자산이 될 것이다. 이는 거창한 명분이 아니라, 한국 사회가 자신의 역사적 경험과 산업적 위치 위에서 자연스럽게 추구할 수 있는 길이다.

다음 세대에게

마지막으로, 이 책은 어떤 의미에서는 ‘다음 세대’를 위한 책이기도 하다. 이 책에서 다룬 변화의 결과를 가장 깊이 살아갈 사람들은, 지금 학교에 다니는 어린이와 청소년, 그리고 아직 태어나지 않은 사람들이다. 그들이 살아갈 세계는, 우리가 지금 내리는 결정의 누적으로 형성된다. 그 결정의 책임은 우리에게 있고, 그 결정의 결과는 그들이 살아간다.

이 책임의 무게 위에서 이 책을 쓰면서, 한 가지 깊은 바람을 가지게 되었다. 다음 세대의 사람들이 이 책을 읽었을 때, 그들이 ‘우리 윗세대는 이 변화를 무책임하게 흘려 보냈다’고 평가하지 않기를 바라는 마음이다. 그들이 ‘우리 윗세대는 자신들이 어떤 변화 안에 있는지를 인식하려 노력했고, 그 변화의 방향을 책임 있게 형성하려 했다’고 평가해 주기를 바라는 마음이다. 이러한 평가가 가능하기 위해서는, 우리 세대가 지금 무엇을 해야 하는가가 명확해진다. 그것은 단지 기술의 발전을 따라가는 것이 아니라, 그 발전의 방향을 인간적 가치 위에 두려는 의식적 노력의 일관된 누적이다.

이 책이 그러한 노력의 한 작은 부분이 되었기를 바란다. 한 권의 책이 한 시대를 바꿀 수는 없다. 그러나 한 권의 책이 한 사람의 사고에 한 가지 새로운 자리를 만들 수는 있다. 그 한 사람의 사고가 다른 사람의 사고와 만나고, 그 만남들이 누적되어 한 시대의 사유의 한 결을 만들고, 그 결이 다음 시대의 결정의 한 부분이 된다. 이러한 작은 누적의 가능성을 믿는 것이, 한 권의 책을 쓰는 사람의 가장 깊은 동기이다.

이 책을 끝까지 읽어 주신 독자께 깊이 감사한다. 이 책의 주장들 가운데 어떤 것에는 동의하시고, 어떤 것에는 동의하지 않으실 것이다. 그 동의와 비동의의 양쪽 모두가, 이 책이 가능하게 한 사유의 일부이다. 독자께서 이 책을 출발점 삼아 자신의 사유를 더 깊이 발전시키신다면, 그것이 이 책이 도달할 수 있는 가장 큰 성취이다. 인류라는 종의 다음 단계는, 어느 한 사람이 만드는 것이 아니라, 우리 모두가 함께 만들어 가는 것이기 때문이다.

새로운 뇌의 시대가 도래하더라도, 오래된 마음의 깊이가 사라지지 않기를. 그것이 이 책이 끝내고 싶은 마지막 한 줄의 바람이다.

부록 A 주요 인공지능 모형 연표

A.1 형성기 (1950년대~1980년대)

A.1.1 1950년 — 튜링 테스트의 제안

영국의 수학자 앨런 튜링이 논문 「계산 기계와 지능(Computing Machinery and Intelligence)」을 발표하며, 기계가 지능을 가졌는지를 판단하는 ‘튜링 테스트’를 제안했다. 이 논문은 인공지능 연구의 철학적 출발점으로 자리 잡았다.

A.1.2 1956년 — 다트머스 회의

미국 다트머스 대학교에서 존 매카시, 마빈 민스키, 클로드 섀넌, 너새니얼 로체스터가 주최한 여름 학술회의에서 ‘인공지능(artificial intelligence)’이라는 용어가 처음 공식적으로 사용되었다. 이 회의는 인공지능을 독립된 학문 분야로 출범시킨 사건으로 평가된다.

A.1.3 1958년 — 퍼셉트론

미국의 심리학자 프랭크 로젠블랫이 단층 신경망 모형인 퍼셉트론을 발표했다. 퍼셉트론은 인공 신경망의 가장 초기 형태였으며, 1960년대 초까지 큰 기대를 모았다. 그러나 1969년 마빈 민스키와 시모어 패퍼트가 퍼셉트론의 한계를 수학적으로 입증한 후 신경망 연구는 첫 번째 침체기에 들어갔다.

A.1.4 1965년~1980년대 — 전문가 시스템의 시대

규칙 기반의 ‘전문가 시스템’이 인공지능의 주류로 자리 잡았다. 의료 진단을 위한 MYCIN, 화학 분자 구조 분석을 위한 DENDRAL 등이 대표적 사례이다. 그러나 1980년대 후반 전문가 시스템의 확장성과 유지보수의 한계가 드러나면서, 두 번째 ‘AI 겨울’이 시작되었다.

A.1.5 1986년 — 역전파 알고리즘의 재발견

데이비드 루멜하트, 제프리 힌턴, 로널드 윌리엄스가 다층 신경망의 학습을 가능하게 하는 역전파 알고리즘을 정식화했다. 이 알고리즘은 신경망 부활의 이론적 토대가 되었지만, 당시의 컴퓨팅 자원과 데이터의 한계로 본격적 활용은 20년 후를 기다려야 했다.

A.2 부활과 도약기 (2000년대~2017년)

A.2.1 2006년 — 딥러닝의 부활

제프리 힌턴 등이 ‘심층 신뢰 신경망(deep belief network)’을 통해 다층 신경망의 효율적 학습 방법을 제시하며, ‘딥러닝(deep learning)’이라는 용어가 본격적으로 자리 잡기 시작했다.

A.2.2 2012년 — AlexNet과 ImageNet 도전

알렉스 크리제브스키, 일리야 수츠케버, 제프리 힌턴이 만든 AlexNet이 ImageNet 영상 분류 대회에서 압도적 성적으로 우승하며 딥러닝 시대의 본격적 개막을 알렸다. 그래픽 처리 장치(GPU)의 활용이 학습 속도를 비약적으로 끌어올린 것이 핵심이었다.

A.2.3 2014년 — GAN과 시퀀스 투 시퀀스

이언 굿펠로 등이 ‘적대적 생성 신경망(GAN)’을 제안하며 생성 모형의 새로운 패러다임을 열었다. 같은 해 일리야 수츠케버 등이 ‘시퀀스 투 시퀀스(seq2seq)’ 모형을 발표하며 신경망 기계 번역의 토대를 마련했다.

A.2.4 2016년 — 알파고

구글 딥마인드의 알파고가 한국의 이세돌 9단을 4 대 1로 이긴 사건은, 인공지능의 능력이 인간의 직관적 영역까지 도달할 수 있음을 대중에게 각인시킨 결정적 계기가 되었다. 같은 해 알파고 마스터가 모든 인간 기사를 능가했고, 2017년 알파고 제로가 인간의 기보 없이 자가 학습만으로 전임 모형들을 모두 능가했다.

A.2.5 2017년 — 트랜스포머

구글의 연구진이 「Attention Is All You Need」 논문을 발표하며 ‘트랜스포머(transformer)’ 구조를 제안했다. 이 구조는 이후 거의 모든 거대언어모델의 기반이 되었으며, 인공지능 역사의 가장 큰 분기점 중 하나로 평가된다.

A.3 거대언어모델 시대 (2018년~2023년)

A.3.1 2018년 — BERT와 GPT-1

구글의 BERT(Bidirectional Encoder Representations from Transformers)와 OpenAI의 GPT-1이 차례로 발표되며, 사전 학습 후 미세조정의 패러다임이 자리 잡았다. BERT는 양방향 인코더, GPT 계열은 단방향 디코더의 접근으로 갈라졌다.

A.3.2 2019년~2020년 — GPT-2와 GPT-3

OpenAI의 GPT-2(15억 파라미터)와 GPT-3(1,750억 파라미터)가 차례로 발표되며, 모형 크기와 데이터와 컴퓨팅을 늘리면 능력이 예측 가능하게 향상된다는 ‘스케일링 법칙’의 경험적 증거가 축적되기 시작했다. GPT-3는 별도의 미세조정 없이도 ‘퓨샷 학습’을 통해 다양한 과제를 수행하는 능력을 보여 주었다.

A.3.3 2021년 — DALL-E와 코덱스, 알파폴드 2

OpenAI가 텍스트로부터 이미지를 생성하는 DALL-E를, 그리고 자연어로부터 코드를 생성하는 코덱스를 발표했다. 같은 해 구글 딥마인드의 알파폴드 2가 단백질의 3차원 구조 예측 문제를 거의 해결하며, 인공지능이 과학적 발견의 핵심 도구가 될 수 있음을 입증했다.

A.3.4 2022년 11월 — ChatGPT의 등장

OpenAI가 GPT-3.5 기반의 대화형 인터페이스 ChatGPT를 공개했다. 출시 5일 만에 100만 명, 두 달 만에 1억 명의 사용자가 모여, 인터넷 역사상 가장 빠른 사용자 확장을 기록했다. 이 사건은 거대언어모델이 일반 대중의 일상으로 들어온 결정적 분기점이었다.

A.3.5 2023년 — 다중 모형의 경쟁

OpenAI의 GPT-4, 구글의 PaLM 2와 Gemini, 앤트로픽의 Claude, 메타의 LLaMA, 미스트랄의 모형들이 차례로 발표되며 거대언어모델 시장의 본격적 경쟁이 시작되었다. 텍스트, 이미지, 음성, 영상을 동시에 다루는 멀티모달 능력이 빠르게 표준이 되었고, 한국에서는 네이버의 하이퍼클로바 X, LG의 EXAONE, 카카오의 KoGPT, 솔트룩스와 업스테이지의 한국어 특화 모형 등이 발표되었다.

A.4 추론과 에이전트의 시대 (2024년~)

A.4.1 2024년 초 — 알파폴드 3와 소라

구글 딥마인드의 알파폴드 3가 단백질뿐 아니라 DNA, RNA, 약물 분자와의 상호작용까지 예측할 수 있게 되면서 신약 개발의 새 장이 열렸다. OpenAI의 소라(Sora)는 텍스트로부터 고품질의 동영상을 생성하는 능력을 보여 주며, 합성 미디어의 양상을 다시 한 번 바꾸었다.

A.4.2 2024년 후반 — 추론 모형의 도약

OpenAI의 o1과 o3 시리즈, 앤트로픽의 Claude 추론 모드, 중국 딥시크(DeepSeek)의 R1 모형이 차례로 발표되며, ‘생각의 사슬(chain of thought)’ 기반의 깊이 있는 추론을 자체 학습 단계에 통합한 새로운 종류의 모형이 자리 잡기 시작했다. 수학 올림피아드, 박사 수준 과학 평가, 코딩 경시대회에서 인공지능의 성적이 인간 최상위 그룹에 접근하거나 능가하기 시작했다.

A.4.3 2025년 — 에이전트 AI의 본격화

거대언어모델을 핵심으로 한 ‘자율적 인공지능 에이전트’가 본격적으로 사회에 침투하기 시작했다. 컴퓨터 사용, 웹 브라우징, 도구 호출, 장기 계획 수립, 자기 검증을 포함한 복합적 작업을 인간의 지속적 개입 없이 수행하는 시스템이 여러 영역에서 도입되었다. 같은 해 산업 AI, 자율 제조, 디지털 트윈 분야에서의 에이전트 적용이 전 세계적으로 빠르게 확산되었다.

A.4.4 2025년~2026년 — 일본의 ‘AI 과학자’와 자율 실험실

일본의 사카나(Sakana) AI를 비롯한 여러 연구팀이 가설 수립, 실험 설계, 결과 분석, 논문 작성을 자율적으로 수행하는 ‘AI 과학자’ 시스템의 시제품을 잇달아 발표했다. 화학, 재료 과학, 신약 후보 물질 발견 영역에서의 자율 실험실 사례가 빠르게 늘어났다.

A.4.5 2026년 시점에서의 전망

이 책을 쓰는 2026년의 시점에서, 인공지능 연구자들 사이의 ‘인공일반지능 도래 시점’에 대한 중간값 추정은 2030년대 중반으로 빠르게 앞당겨졌다. 다만 ‘인공일반지능’의 정의 자체가 합의되지 않은 상태이므로, 이러한 추정은 큰 불확실성을 안고 있다. 분명한 것은, 거대언어모델의 능력 확장과 자율 에이전트의 사회 침투가 거의 매년 새로운 임계점을 넘어서고 있으며, 그 누적 효과가 사회의 거의 모든 영역에 깊게 미치기 시작했다는 사실이다.

부록 B 군집 동물의 지능 비교표

이 부록은 제2장에서 다룬 자연계의 집단 지능 사례들을 일관된 비교의 시야에서 정리한 것이다. 각 종에 대해 군집의 규모, 의사소통 매체, 분업의 양상, 의사결정의 방식, 그리고 인공지능 시대의 인류에게 시사하는 바를 함께 정리해, 자연이 시험해 본 다양한 ‘공통뇌’의 모형을 한눈에 비교할 수 있도록 했다.

B.1 개미 (Formicidae)

B.1.1 군집의 기본 정보

개미는 약 1억 4천만 년 전 백악기에 등장한 사회적 곤충으로, 현재 약 1만 4천 종 이상이 기록되어 있다. 군집의 규모는 종에 따라 큰 편차를 보인다. 작은 종은 수십 마리의 군집을 이루지만, 슈퍼콜로니라고 불리는 형태의 아르헨티나개미는 유럽, 북미, 일본에 걸쳐 수백 킬로미터에 달하는 단일 군집을 형성하기도 한다. 한 군집의 평균 수명은 종에 따라 다르지만, 여왕의 수명을 기준으로 보면 짧게는 1년, 길게는 30년 이상이다.

B.1.2 의사소통과 의사결정

개미의 핵심 의사소통 매체는 페로몬이다. 약 10여 종의 서로 다른 페로몬이 ‘식량 발견’, ‘위험 경보’, ‘추적 표지’, ‘둥지 식별’ 등 다양한 의미를 전달한다. 식량 탐색에서는 페로몬의 누적과 자연 감쇠가 만들어 내는 분산 알고리즘이 거의 항상 최단 경로를 선택하게 한다. 분업은 잎꾼개미의 경우 다섯 단계 이상의 카스트로 형태적으로 분화되어 있다.

B.1.3 인공지능 시대 시사

‘개미 군집 최적화(Ant Colony Optimization)’ 알고리즘은 외판원 문제, 차량 경로, 네트워크 라우팅에 직접 응용되어 왔다. 페로몬을 매개로 한 환경 매개 통신의 패러다임은, 산업 AI의 디지털 트윈과 데이터 표준화의 직접적 자연 모형이다.

B.2 꿀벌 (Apis mellifera)

B.2.1 군집의 기본 정보

꿀벌 군집은 보통 2만에서 6만 마리의 일벌, 한 마리의 여왕벌, 그리고 일정 시기에 등장하는 수백에서 수천 마리의 수벌로 구성된다. 군집의 수명은 여왕의 수명을 기준으로 약 3~5년이다. 일벌의 수명은 약 6주이며, 일생 동안 보육-청소-건축-경비-외역의 단계를 차례로 거친다.

B.2.2 의사소통과 의사결정

꿀벌의 핵심 의사소통 매체는 ‘8자 춤’이다. 카를 폰 프리슈가 1940년대에 밝힌 이 의사소통 체계는, 식량원의 거리와 방향을 추상적 좌표로 전달하는 상징적 의사소통이다. 새 둥지 선택의 합의 과정은 토머스 실리의 정밀 야외 실험을 통해 밝혀졌으며, 정찰벌의 평가 강도가 춤의 강도로 변환되고, 경쟁 후보 지지자 사이의 ‘교차 억제’가 결단을 강제하는 메커니즘이다.

B.2.3 인공지능 시대 시사

꿀벌의 합의 메커니즘은 인공지능을 활용한 분산 의사결정 시스템의 직접적 청사진이 된다. 둥지 환경의 능동적 항상성 유지는 거대 분산 시스템의 자율적 안정성 설계 원리와 구조적으로 같다.

B.3 흰개미 (Isoptera)

B.3.1 군집의 기본 정보

흰개미 군집은 종에 따라 수만에서 수백만 마리에 이른다. 아프리카 사바나의 마크로테르메스속 흰개미는 키 5미터에서 9미터에 이르는 거대한 마운드를 짓고 그 안에서 곰팡이 농업을 영위한다. 한 마리의 여왕은 30년 이상 살기도 하며, 일생 동안 수백만 개의 알을 낳는다.

B.3.2 의사소통과 의사결정

흰개미의 의사소통은 페로몬과 진동 신호를 함께 사용하지만, 가장 두드러진 특징은 ‘건축’ 자체를 통한 의사소통이다. 피에르 폴 그라세가 1959년 정식화한 이전의 작업이 남긴 흔적이 다음 작업의 자극이 된다는 ‘스티그머지(stigmergy)’가 흰개미의 거대 마운드 건축을 가능하게 한다. 환기 시스템은 J. 스콧 터너의 연구를 통해 ‘맥동 메커니즘’으로 작동함이 밝혀졌다.

B.3.3 인공지능 시대 시사

짐바브웨의 이스트게이트 센터(1996년)는 흰개미 마운드의 환기 원리를 모방해 에너지 90퍼센트 이상을 절감한 친환경 건축의 대표 사례이다. 스티그머지 패러다임은 ‘확장된 마음’ 가설과 결합되어, 산업 AI의 ‘환경 매개 인지’ 설계의 핵심 원리가 된다.

B.4 점균류 (Physarum polycephalum)

B.4.1 기본 정보

점균류는 단세포의 다핵 생물로, ‘플라스모디움’ 형태로 자라면서 책상 한 면을 덮을 만큼 커진다. 동물도 식물도 균류도 아닌 독특한 분류학적 위치에 있다. 신경계도 근육도 없으며, 세포질의 흐름과 화학적 신호 전달만으로 작동한다.

B.4.2 의사소통과 의사결정

점균은 자신의 몸 전체를 매개로 ‘분산되고 매체에 새겨진 인지’를 수행한다. 자원이 풍부한 곳으로 더 많은 세포질을 보내고 그렇지 않은 곳의 가지는 줄이는 단순한 피드백 메커니즘만으로, 미로 풀기와 효율적 네트워크 설계의 인지적 과제를 해결한다.

B.4.3 인공지능 시대 시사

나카가키 토시유키의 2000년 미로 실험과 2010년 도쿄 지하철망 실험은, ‘뇌 없는 지능’의 가능성을 가장 인상적으로 보여 준다. ‘점균 알고리즘(Physarum algorithm)’은 통신 네트워크와 도로망 설계에 응용되어 왔다. ‘똑똑한 한 명’ 없이도 가능한 분산 지능의 가능성은, 인공지능 인프라의 분권형 설계의 가장 깊은 자연 모형이다.

B.5 산호와 시포노포어

B.5.1 기본 정보

산호는 수만에서 수백만 마리의 폴립이 외골격을 공유하며 자라난 군체이다. 시포노포어는 산호와 달리 매우 다른 형태와 기능을 가진 ‘조이드’들이 모여 한 마리의 동물처럼 행동하는 극단적 군체이다. 포르투갈 군함이 가장 잘 알려진 사례이다.

B.5.2 분업과 통합

시포노포어 안에는 부유 담당, 사냥 담당, 소화 담당, 번식 담당, 추진 담당의 조이드가 모두 따로 존재한다. 모두 유전적으로 동일하지만, 발생 과정에서 형태와 기능이 분화한다. 한 마리의 조이드는 독립적으로 살아갈 수 없지만, 전체로 모이면 한 마리의 동물처럼 작동한다.

B.5.3 인공지능 시대 시사

‘하나인가 여럿인가’의 모호함은, 인공지능 시대의 한 ‘개인’이 거대한 인프라 안의 한 노드로 존재하는 양상을 가장 직접적으로 비유한다. ‘통합된 다양성’의 원리는 미래 인류 사회 설계의 핵심 지침이 된다.

B.6 새와 물고기 무리

B.6.1 기본 정보

찌르레기의 무르무레이션은 수만 마리가 한 마리처럼 매끄럽게 협응하는 비행을 보여 준다. 정어리 떼의 ‘공포 구체’는 천적의 공격에 대응해 형성되는 수만 마리의 회전하는 은빛 구체이다. 군집과 달리 무리는 영구적 결합이 아니라 한순간의 협응을 위해 모이고 흩어진다.

B.6.2 의사결정과 정보 전파

안드레아 카바냐의 3차원 영상 분석은, 한 마리의 찌르레기가 가장 가까운 6~7마리의 이웃들의 움직임에만 반응한다는 사실을 밝혔다. 이러한 ‘위상적 상호작용’은 정보 전파에 ‘척도 자유성’을 부여해, 무리의 크기와 무관하게 정보가 거의 즉각적으로 전체에 도달하게 한다. 1987년 크레이그 레이놀즈가 정식화한 보이즈 모형의 세 가지 규칙(분리·정렬·응집)은 이러한 협응을 매우 단순한 국지 규칙으로 환원한다.

B.6.3 인공지능 시대 시사

척도 자유성은 거대 분산 시스템의 통신 설계의 핵심 원리이다. ‘영구적 군집’과 ‘일시적 무리’의 두 패러다임이 인공지능 시대의 인류 사회에서 동시에 작동할 가능성은, 새로운 종류의 사회 구조의 윤곽을 시사한다.

B.7 인류의 선역사적 집단 지능

B.7.1 진화사

인류는 약 30만 년 전 호모 사피엔스로 출현한 이후, 다른 영장류와 비교할 수 없는 속도로 집단 인지 능력을 확장해 왔다. 약 5만 년 전의 ‘대약진(Great Leap Forward)’ 시기에 상징적 사고와 정교한 도구 제작이 폭발적으로 발전했다. 약 5천 년 전 메소포타미아의 수메르에서 문자가 발명되었고, 인쇄술은 8세기 통일신라의 「무구정광대다라니경」을 시작으로 11세기 중국, 13세기 고려의 팔만대장경, 14세기 고려의 금속활자(「직지」 1377년), 그리고 15세기 유럽 구텐베르크에 이르기까지 동아시아와 유럽 양쪽에서 점진적으로 발전했으며, 20세기 후반 인터넷이 등장하고 21세기 초 거대언어모델이 그 흐름을 이어 가고 있다.

B.7.2 매체의 진화

언어, 문자, 인쇄술, 인터넷, 그리고 거대언어모델로 이어지는 매체의 진화는, 인류의 ‘외부화된 인지’의 깊이와 범위를 단계적으로 확장해 왔다. 인터넷은 ‘외부화된 기억’이었고, 거대언어모델은 ‘외부화된 추론’이며, 자율적 인공지능 에이전트는 ‘외부화된 판단’이 되어 가고 있다.

B.7.3 인공지능 시대 시사

인류는 처음부터 ‘반(半)초유기체’의 형태로 진화해 왔으며, 인공지능은 그 반-초유기체를 진정한 의미의 초유기체에 가깝게 만드는 새로운 매체이다. 다른 자연 사례와 달리 인류의 초유기체는 그것이 형성되고 있다는 사실을 의식할 수 있다는 점에서 본질적으로 새로운 종류의 사례이다.

B.8 종합 — 자연이 시험한 다섯 가지 설계 원리

자연계의 모든 사례에서 공통으로 발견되는 다섯 가지 설계 원리는 다음과 같다. 첫째, 단순 규칙의 반복적 적용이 복잡한 거시적 행동을 만들어 낸다. 둘째, 환경 자체가 정보의 저장과 전달의 매체가 된다. 셋째, 의사결정은 한 곳에 집중되지 않고 분산된 상호작용을 통해 떠올라 온다. 넷째, 시스템은 부분의 손실에 견고하다. 다섯째, 시스템은 환경 변화에 적응적이다.

이 다섯 가지 원리는 인공지능 시대의 인류 사회와 산업 AI 인프라의 설계에 직접적 지침을 제공한다. 다만 자연 모형에는 의식, 가치, 책임이 없다는 결정적 한계가 있으며, 인류는 이 자연 원리 위에 인간적 가치의 층을 새롭게 얹어야 한다는 점이 자연 사례와의 본질적 차이이다.

부록 C 인공일반지능 위험·기회 분류 체계

이 부록은 본문에서 다룬 인공지능 시대의 다양한 변화를 ‘위험’과 ‘기회’의 두 축에서 체계적으로 정리한 것이다. 여러 분류를 시도해 보았지만, 가장 유용한 틀은 ‘영향의 영역’과 ‘시간 지평’의 두 차원으로 분류하는 것이다. 영향의 영역은 개인-조직-사회-인류 종의 네 수준으로, 시간 지평은 단기(1~5년)-중기(5~15년)-장기(15~50년)의 세 단계로 나누었다.

C.1 위험의 분류

C.1.1 개인 수준의 위험

단기 위험으로는 일자리 상실, 직무 가치의 저하, 개인 정보 유출, 인공지능 의존에 따른 기술 위축, 알고리즘 큐레이션에 따른 정보 편향이 있다. 중기 위험으로는 인지적 자율의 점진적 상실, 인공지능 매개 관계로 인한 인간 관계의 약화, 정체성의 유동화에 따른 심리적 부담, 합성 미디어로 인한 신원과 평판의 위협이 있다. 장기 위험으로는 깊이 있는 사고와 판단 능력의 세대적 위축, 한 사람의 가치관 자체가 인공지능과의 상호작용에 의해 무의식적으로 형성되는 자율의 본질적 침범이 있다.

C.1.2 조직 수준의 위험

단기 위험으로는 인공지능 도입의 부적절한 설계로 인한 생산성 저하, 책임 구조의 모호함으로 인한 사고 발생, 직원의 저항과 조직 문화의 갈등, 보안 취약점과 모형의 환각 문제가 있다. 중기 위험으로는 인공지능 인프라에 대한 과도한 의존과 그에 따른 단일 장애 지점의 형성, 핵심 직무의 외부화에 따른 조직 역량의 약화, 경쟁 조직 대비 인공지능 활용 격차의 확대가 있다. 장기 위험으로는 조직 자체의 정체성과 사명이 인공지능 인프라의 작동 논리에 의해 잠식되는 양상, 조직 내 인간 의사결정자의 역할이 형식적인 것으로 축소되는 양상이 있다.

C.1.3 사회 수준의 위험

단기 위험으로는 노동 시장의 양극화, 가짜 뉴스와 딥페이크에 의한 정보 환경의 오염, 사회 안전망의 부담 증가, 인공지능 격차에 따른 신종 사회 격차가 있다. 중기 위험으로는 정치적 양극화의 심화, 알고리즘 큐레이션으로 인한 ‘각자의 현실’ 분열, 인공지능을 통한 권력의 비대칭적 강화, 그리고 변화 속도가 사회의 적응 능력을 넘어서는 ‘미래 충격’의 누적이 있다. 장기 위험으로는 ‘획일화된 공통뇌’로의 수렴에 따른 사회 다양성의 상실, 시민의 정치적 참여 의지의 위축, 그리고 사회 자체의 회복탄력성의 약화가 있다.

C.1.4 인류 종 수준의 위험

단기 위험은 비교적 적지만, 중기 위험으로 인공지능 자원과 능력의 국가 간 비대칭이 만들어 내는 지정학적 불안정, 인공지능을 활용한 새로운 종류의 무기와 전쟁 양상의 출현이 있다. 장기 위험으로는 닉 보스트롬 등이 ‘실존적 위험(existential risk)’으로 분류하는 시나리오들인 인공지능이 인류와 정렬되지 않은 목적을 추구하는 경우, 인공지능을 통한 오남용으로 인류 문명이 회복 불가능하게 손상되는 경우, 그리고 인공지능 발전에 따른 환경적·생태적 부작용이 인류의 생존 기반을 위협하는 경우가 있다. 다만 이러한 실존적 위험에 대한 정확한 확률 추정은 매우 큰 불확실성을 안고 있으며, 학자들 사이에서도 평가가 갈린다.

C.2 기회의 분류

C.2.1 개인 수준의 기회

단기 기회로는 일의 생산성 비약적 향상, 일대일 개인 교사로서의 거대언어모델 활용, 의료의 접근성과 정확성 개선, 창작과 표현의 진입 장벽 저하가 있다. 중기 기회로는 평생학습의 보편화와 새로운 직업으로의 전환 가능성, 시간과 인지적 부담의 감소를 통한 깊이 있는 인간 활동에의 시간 배분, 인공지능을 활용한 자기 이해와 성장이 있다. 장기 기회로는 노동의 부담에서 해방된 개인이 ‘일을 위한 삶’이 아니라 ‘의미를 위한 삶’으로 이행할 가능성, 그리고 인지적 자율을 의식적으로 보존하는 새로운 종류의 인간적 성장의 가능성이 있다.

C.2.2 조직 수준의 기회

단기 기회로는 비용 절감, 의사결정 속도의 향상, 산출의 양과 질의 동시 개선, 새로운 비즈니스 모형과 1인 또는 초소형 조직의 부상이 있다. 중기 기회로는 조직 구조의 평탄화와 민첩성의 강화, 글로벌 경쟁력의 비약적 확장, 인공지능을 활용한 새로운 가치 영역의 개척, 직원 한 사람의 영향력과 만족도의 동시 향상이 있다. 장기 기회로는 조직이 단지 ‘이익 추구의 단위’가 아니라 ‘사회적 가치를 만들어 내는 분산 시스템의 한 노드’로 재정의되는 가능성, 그리고 조직과 사회의 경계가 유연해지는 새로운 종류의 사회 구성의 가능성이 있다.

C.2.3 사회 수준의 기회

단기 기회로는 공공 서비스의 질과 접근성 향상, 행정 절차의 효율화, 의료와 교육의 격차 완화, 그리고 시민이 정책 사안을 깊이 이해할 수 있는 정보 접근의 확장이 있다. 중기 기회로는 새로운 종류의 직접 민주주의의 가능성, 정밀한 사회 정책 시뮬레이션과 평가, 사회 안전망의 정교화, 그리고 환경과 도시의 지속 가능한 설계가 있다. 장기 기회로는 사회의 회복탄력성을 의식적으로 설계하는 새로운 종류의 거버넌스, 그리고 인류 사회 전체의 문제 해결 능력의 비약적 확장이 있다.

C.2.4 인류 종 수준의 기회

중기 기회로는 기후 변화, 식량 위기, 에너지 문제, 만성 질환과 노화 같은 인류의 거대 문제들에 대한 해법의 가속, 그리고 우주 탐사와 새로운 자원 영역의 개척이 있다. 장기 기회로는 인류라는 종이 자신의 다음 진화 단계를 의식적으로 형성할 수 있는 가능성, 자연계의 어떤 종도 도달하지 못한 새로운 종류의 분산 지능과 문명의 가능성, 그리고 어떤 의미에서는 ‘인간성의 깊이 있는 실현’의 새로운 형태가 있다.

C.3 위험-기회의 동시성과 균형의 원칙

C.3.1 같은 변화의 두 얼굴

이 분류 체계의 가장 중요한 특징은, 거의 모든 변화가 위험과 기회의 두 얼굴을 동시에 가진다는 점이다. 자동화는 일자리 상실의 위험인 동시에 노동 부담 해방의 기회이다. 정보 환경의 변화는 가짜 뉴스의 위험인 동시에 정보 접근의 민주화이다. 분산 의사결정은 책임 모호화의 위험인 동시에 직접 민주주의의 가능성이다. 어떤 한 변화를 ‘위험’ 또는 ‘기회’로만 분류하는 것은, 그 변화의 본질을 단순화하는 일이다.

C.3.2 균형의 핵심 변수

위험과 기회의 어느 쪽이 실현되는가를 결정하는 핵심 변수는 다음 다섯 가지이다. 첫째, 변화의 ‘속도’가 사회의 적응 능력을 넘어서는가. 둘째, 변화의 ‘이득과 부담’이 어떻게 분배되는가. 셋째, 변화의 ‘방향’에 대한 의식적 결정이 누구에 의해 어떻게 이루어지는가. 넷째, 변화 안에서 ‘다양성’이 어떻게 보존되는가. 다섯째, 변화에 대한 ‘책임’이 어떻게 명확화되고 분담되는가.

C.3.3 정책의 우선순위

이러한 분석은 인공지능 정책의 우선순위에 대한 시사를 제공한다. 단순히 ‘위험을 막고 기회를 키우는’ 차원이 아니라, ‘속도를 조절하고, 분배를 공정하게 하고, 결정의 분산을 보장하고, 다양성을 보호하며, 책임을 명확화하는’ 다섯 가지 차원의 정책이 균형 있게 추진되어야 한다. 이 다섯 가지 차원은 본문 4.8절의 새 사회 계약의 다섯 원칙인 투명성, 다양성, 책임성, 분배, 자율성의 보호와 정확히 대응한다.

C.3.4 한국 사회에서의 적용

이 분류 체계를 한국 사회에 적용해 보면, 한국이 특히 큰 위험에 노출된 영역과 큰 기회를 가진 영역이 함께 드러난다. 큰 위험으로는 사무·전문직 자동화의 빠른 진척, 노년층의 디지털 격차, 인구 고령화와 결합된 사회 안전망 부담의 증가, 그리고 압축적 변화에 따른 사회적 응집력의 약화가 있다. 큰 기회로는 반도체·디스플레이·배터리 산업의 인공지능 인프라 공급자로서의 위치, 자율 제조와 산업 AI의 산업적 강점, 의료 데이터 인프라의 잠재력, 그리고 압축적 변동의 경험에서 오는 빠른 적응 능력이 있다. 정책의 핵심은, 위험을 흡수할 사회 안전망과 기회를 활용할 산업 인프라를 동시에 강화하는 것이며, 이 두 축이 함께 강화될 때 한국이 인공지능 시대의 지속 가능한 발전 모형을 형성할 수 있다.

부록 D 용어 사전

이 부록은 본문에서 사용된 주요 용어들을 가나다 순으로 정리한 것이다. 인공지능 기술 용어, 진화생물학 용어, 사회·정치 사상의 용어를 함께 다루었다. 각 용어의 정의 다음에는 본문에서의 위치를 짧게 표시해, 더 깊은 맥락을 찾고자 하는 독자의 길잡이가 되도록 했다.

D.1 ㄱ ~ ㄹ

D.1.1 강화학습 (强化學習, Reinforcement Learning)

행위 주체가 환경에서 행동을 수행하고 그 결과로 받은 보상이나 벌점을 통해 점진적으로 더 좋은 행동을 학습하는 기계 학습의 한 갈래. 알파고의 자가 학습이 대표적 사례이며, 거대언어모델의 정렬 단계에서 사용되는 ‘인간 피드백을 통한 강화학습(RLHF)’도 같은 계열이다. 본문 1.2 신경망의 부활, 1.4 트랜스포머와 거대언어모델 절에서 다루었다.

D.1.2 거대언어모델 (Large Language Model, LLM)

매우 큰 규모의 텍스트 데이터로 학습된 대형 신경망 모형으로, 자연어를 이해하고 생성하는 능력을 갖는다. GPT 계열, 클로드 계열, 제미나이 계열, 한국어 특화의 하이퍼클로바 X와 EXAONE 등이 대표적이다. 본문 1.4와 부록 A.3에서 자세히 다루었다.

D.1.3 결합 시스템 (結合 ─, Coupled System)

이 책에서 도입한 개념으로, 한 명의 인간과 그가 결합되어 있는 인공지능 인프라가 함께 한 단위로 작동하는 새로운 종류의 진화의 단위를 가리킨다. ‘인간 + 인공지능’의 결합이 충분히 깊어지면, 자연선택이 작동하는 단위가 한 명의 인간이 아니라 이 결합 시스템으로 이동한다는 가설이다. 본문 5.5절에서 본격적으로 다루었다.

D.1.4 공통뇌 (共通腦, Common Brain)

이 책의 핵심 개념. 인공지능 인프라를 매개로 인류의 인지가 통합된 거대한 분산 시스템을 가리킨다. 자연계의 초유기체에서 보이는 분산 인지의 인공적 재현에 가깝지만, 동시에 인류만의 의식과 가치를 반영할 수 있는 새로운 종류의 시스템이다. 본문 전체를 관통하는 개념이며, 4장에서 가장 본격적으로 다루었다.

D.1.5 군집 지능 (群集 知能, Collective Intelligence / Swarm Intelligence)

여러 개체가 모여 한 개체로는 불가능한 지능적 행동을 만들어 내는 현상. 개미 군집, 꿀벌 군집, 흰개미 마운드, 새와 물고기 무리에서 자연계의 다양한 사례를 볼 수 있다. 본문 2장 전체에서 다루었다.

D.1.6 니치 구성 이론 (─ 構成 理論, Niche Construction Theory)

생물이 자신의 환경을 적극적으로 ‘구성’하고 그 환경이 다시 자신과 후세대의 진화에 영향을 미친다는 진화 이론의 한 흐름. 1980년대 이후 존 오들링-스미가 정식화했다. 본문 5.1.2에서 다루었다.

D.1.7 다윈 (Charles Darwin, 1809~1882)

영국의 자연사학자. 1859년 『종의 기원』에서 자연선택에 의한 진화의 모형을 정식화해, 생명 현상에 대한 가장 강력한 통일 이론을 제시했다. 본문 5.1에서 다루었다.

D.1.8 다중 수준 선택 (多重 水準 選擇, Multi-level Selection)

자연선택이 한 수준에서만 작동하는 것이 아니라 유전자, 세포, 개체, 집단, 종 등 여러 수준에서 동시에 작동한다는 진화 이론의 관점. 데이비드 슬론 윌슨, 엘리엇 소버 등이 발전시켰다. 본문 5.2.3에서 다루었다.

D.1.9 디지털 트윈 (Digital Twin)

물리 세계의 사물이나 시스템을 디지털 공간에 정밀하게 재현한 가상 모형. 산업 현장에서는 기계, 공장, 도시 전체를 디지털 트윈으로 재현해 시뮬레이션, 예측, 최적화에 활용한다. 한국의 자율 제조 의제의 핵심 요소이다. 본문 1.5와 2.4.4에서 다루었다.

D.2 ㅁ ~ ㅂ

D.2.1 메이너드 스미스, 존 (John Maynard Smith, 1920~2004)

영국의 진화생물학자. 게임 이론을 진화에 적용한 ‘진화적으로 안정한 전략(ESS)’ 개념의 창시자이며, 외르시 사스마리와 함께 1995년 ‘주요 진화적 전환’의 모형을 제시했다. 본문 5.1.3에서 다루었다.

D.2.2 모형 정렬 (─ 整列, Model Alignment)

인공지능 모형이 인간의 가치와 의도에 부합하는 방식으로 작동하도록 학습시키는 작업. 인간 피드백을 통한 강화학습(RLHF)과 헌법적 인공지능(Constitutional AI) 등이 주요 기법이다. 본문 1.4와 4.3.4에서 다루었다.

D.2.3 미래 충격 (Future Shock)

미국의 작가 앨빈 토플러가 1970년 동명의 저서에서 정식화한 개념. 너무 빠른 변화가 한 사회에서 ‘일상의 신뢰할 수 있는 패턴’을 잃게 만들어 광범위한 불안과 무력감을 유발할 수 있다는 분석이다. 본문 3.9.3에서 다루었다.

D.2.4 보스트롬, 닉 (Nick Bostrom, 1973~)

스웨덴 출신의 옥스퍼드 철학자. 2014년 저작 『슈퍼인텔리전스』를 통해 인공지능의 ‘실존적 위험’에 대한 학술적 논의의 토대를 마련했다. 본문 5.7에서 다루었다.

D.2.5 보이즈 (Boids)

1987년 컴퓨터 그래픽 연구자 크레이그 레이놀즈가 새 무리의 협응 행동을 시뮬레이션하기 위해 만든 모형. 분리, 정렬, 응집의 세 가지 단순 규칙만으로 매우 사실적인 무리 행동이 생성됨을 보였다. 본문 2.7.2에서 다루었다.

D.2.6 보편적 기본소득 (普遍的 基本所得, Universal Basic Income, UBI)

모든 시민에게 조건 없이 일정한 소득을 지급하는 사회 보장 정책의 한 갈래. 인공지능에 의한 자동화의 이득을 사회에 환류하는 한 가지 방법으로 자주 거론된다. 본문 3.4.2에서 다루었다.

D.3 ㅅ ~ ㅇ

D.3.1 사회 계약 (社會 契約, Social Contract)

한 사회의 시민들이 함께 살아가기 위해 동의한 명시적·암묵적 합의의 체계. 17~18세기 홉스, 로크, 루소가 정식화했으며, 이 책에서는 AGI 시대에 새롭게 형성되어야 할 다자적 사회 계약을 제안한다. 본문 4.8에서 다루었다.

D.3.2 사회적 회복탄력성 (社會的 回復彈力性, Social Resilience)

한 사회가 외부 충격에 어떻게 견디고 적응하는가의 능력. 경제적 부유함보다 제도의 유연성, 공동체의 결속력, 시민의 참여 의식, 미래에 대한 신뢰 같은 무형 자산에 의해 더 크게 결정된다. 본문 3.9.4에서 다루었다.

D.3.3 선택의 풍요 안의 부자유

이 책에서 도입한 표현으로, 외부의 가시적 강제는 없지만 선택지의 목록과 평가가 인공지능에 의해 매개되는 환경에서 발생하는 새로운 종류의 부자유를 가리킨다. 본문 4.6.4에서 다루었다.

D.3.4 셀리, 토머스 (Thomas Seeley, 1952~)

미국의 곤충학자. 수십 년에 걸친 정밀 야외 실험을 통해 꿀벌 분봉 무리의 평가 강도가 춤의 강도로 변환되고 교차 억제로 결단이 강제되는 새 둥지 선택 메커니즘을 밝혔다. 2010년 저서 『꿀벌의 민주주의(Honeybee Democracy)』가 대표작이다. 본문 2.3.2에서 다루었다.

D.3.5 슈퍼인텔리전스 (Superintelligence)

인공지능의 능력이 인류 전체의 지성을 능가하는 수준에 도달한 상태. 닉 보스트롬이 2014년 정식화한 개념이며, 이 책에서는 이를 ‘외부 행위자’가 아닌 ‘인류 자신의 공통뇌의 발전된 형태’로 재정의한다. 본문 5.7에서 다루었다.

D.3.6 스케일링 법칙 (─ 法則, Scaling Laws)

거대언어모델의 능력이 모형 크기, 학습 데이터의 양, 컴퓨팅 자원의 양에 따라 예측 가능한 방식으로 향상된다는 경험적 법칙. 2020년 OpenAI의 카플란 등이 정식화했다. 본문 1.4에서 다루었다.

D.3.7 스티그머지 (Stigmergy)

이전의 작업이 남긴 흔적이 다음 작업의 자극이 된다는 분산 협응의 원리. 1959년 프랑스의 동물학자 피에르 폴 그라세가 흰개미의 건축 행위를 설명하기 위해 만든 개념이다. 본문 2.4.3에서 다루었다.

D.3.8 알파폴드 (AlphaFold)

구글 딥마인드가 개발한 단백질 구조 예측 인공지능 시스템. 2020년의 알파폴드 2가 단백질 접힘 문제를 거의 해결했고, 2024년의 알파폴드 3가 단백질-DNA-RNA-약물 분자의 상호작용까지 예측할 수 있게 되었다. 본문 3.7.2와 부록 A.2.3, A.4.1에서 다루었다.

D.3.9 에이전트 AI (Agentic AI)

거대언어모델을 핵심으로 인간의 지속적 개입 없이도 일정한 목표를 향해 스스로 계획을 세우고 도구를 사용하고 결과를 검증하며 일을 수행하는 자율적 인공지능 시스템. 본문 1.5와 3.1.2, 부록 A.4.3에서 다루었다.

D.3.10 액체 민주주의 (─, Liquid Democracy)

직접 민주주의와 대표 민주주의의 중간 형태로, 시민이 사안별로 자신의 투표권을 직접 행사하거나 신뢰하는 다른 시민에게 위임할 수 있는 의사결정 모형. 본문 3.5.3에서 다루었다.

D.3.11 인지적 자율 (認知的 自律, Cognitive Autonomy)

이 책에서 도입한 개념. 한 사람이 자신의 사고와 판단의 원천을 이해하고, 그 원천에 대해 의식적 거리를 둘 수 있으며, 자신의 가치와 의지를 자신의 것으로 형성해 나갈 수 있는 능력. 본문 4.6.3에서 자세히 다루었다.

D.4 ㅈ ~ ㅎ

D.4.1 자율 제조 (自律 製造, Autonomous Manufacturing)

공정의 인지·판단·실행을 인간의 지속적 개입 없이 자율적으로 수행하는 제조 시스템. 산업 현장의 인공지능 도입의 가장 본격적 형태이며, 인더스트리 4.0의 종착점으로 거론된다. 본문 2.4.4와 4.5.4에서 다루었다.

D.4.2 자산 관리 셸 (─ 管理 ─, Asset Administration Shell, AAS)

인더스트리 4.0의 핵심 표준 중 하나로, 산업 자산의 정보와 기능을 표준화된 디지털 표현으로 제공하는 인터페이스. 산업 AI의 데이터 인프라화의 핵심 구성 요소이다. 본문 1.5와 2.4.4에서 다루었다.

D.4.3 정렬 문제 (整列 問題, Alignment Problem)

인공지능 시스템의 목적과 행동을 인류의 가치와 의도에 부합시키는 일이 가지는 본질적 어려움. 인공지능 안전성 연구의 가장 중심에 있는 의제이다. 본문 1.6과 5.7에서 다루었다.

D.4.4 주요 진화적 전환 (主要 進化的 轉換, Major Evolutionary Transitions)

1995년 존 메이너드 스미스와 외르시 사스마리가 제안한 진화 이론의 모형. 자기 복제 분자에서 원시 세포, 진핵 세포, 다세포 생물, 사회로 이어지는 자연사의 결정적 전환점들이 모두 ‘이전에 독립적이던 단위들이 더 큰 협력적 단위로 통합되는’ 패턴을 따른다는 관점이다. 본문 5.1.3에서 다루었다.

D.4.5 점균 알고리즘 (粘菌 ─, Physarum Algorithm)

황색망사점균의 행동에서 영감을 받은 분산 컴퓨팅 알고리즘. 통신 네트워크 설계, 도로망 최적화, 라우팅 문제에 응용되어 왔다. 본문 2.5.3에서 다루었다.

D.4.6 초유기체 (超有機體, Superorganism)

여러 개체가 모여 한 마리의 유기체와 같은 통합된 단위로 작동하는 시스템. 1910년대 윌리엄 모턴 휠러가 제안했고, 1990년 베르트 횔도블러와 에드워드 윌슨의 『개미들』, 2009년의 『초유기체』를 통해 이론적으로 정식화되었다. 본문 2.1에서 다루었다.

D.4.7 척도 자유성 (尺度 自由性, Scale-Free Property)

시스템의 어떤 속성이 시스템의 크기와 무관하게 거의 일정하게 유지되는 성질. 찌르레기 무리의 정보 전파가 무리의 크기와 무관한 것이 대표적 사례이다. 본문 2.7.1에서 다루었다.

D.4.8 트랜스포머 (Transformer)

2017년 구글 연구진이 「Attention Is All You Need」 논문에서 제안한 신경망 구조. 어텐션 메커니즘을 핵심으로 하며, 이후 거의 모든 거대언어모델의 기반이 되었다. 본문 1.4와 부록 A.2.5에서 다루었다.

D.4.9 튜링 테스트 (Turing Test)

1950년 앨런 튜링이 「계산 기계와 지능」 논문에서 제안한, 기계가 지능을 가졌는지를 판단하는 ‘이미테이션 게임’. 인공지능 연구의 철학적 출발점으로 자리 잡았다. 본문 1.1과 부록 A.1.1에서 다루었다.

D.4.10 합성 미디어 (合成 ─, Synthetic Media)

생성형 인공지능에 의해 만들어진 텍스트, 이미지, 음성, 영상 등의 콘텐츠. 흔히 ‘딥페이크(deepfake)’라고 불리며, 정보 환경의 신뢰 기반에 깊은 도전을 던진다. 본문 3.6.1에서 다루었다.

D.4.11 확장된 마음 가설 (擴張된 ─ 假說, Extended Mind Hypothesis)

1998년 앤디 클라크와 데이비드 차머스가 제안한 철학적 관점. 한 사람의 인지가 그 사람의 두뇌 안에서만 일어나는 것이 아니라, 그 사람이 사용하는 도구와 환경 안에 분산되어 있다는 주장이다. 본문 4.3.2에서 다루었다.

D.4.12 횔도블러, 베르트 (Bert Hölldobler, 1936~)

독일의 사회생물학자. 에드워드 윌슨과 함께 1990년 『개미들(The Ants)』과 2009년 『초유기체(The Superorganism)』를 통해 사회적 곤충의 진화와 행동에 대한 가장 권위 있는 종합을 제시했다. 본문 2.1.1에서 다루었다.

← Back to Thinks