이대로는 안 된다

매년 몇 퍼센트 정도 성장하는 것에 우리 모두는 익숙하다. 그러나 역사를 전체적으로 살펴보면 매년 몇 퍼센트씩 성장하는 것은 실제로 말도 안 된다. (이것은 두 번째 도표에서 파란색 선이 수직상승하고 있는 부분이다.)

이 성장은 우리 모두가 기억하는 것보다 더 오래 지속되어 왔지만 전체적 맥락에서 보면 인류 문명 수천 년 역사 중 단지 몇 백 년에 지나지 않는 것으로 그리 길지 않다. 엄청난 가속도를 보이고 있으며 이 상태로는 오래 지속할 수 없다. (하단의 “이렇게는 오래 갈 수 없다”에서 부연설명 하겠다)

첫 장에서는 규칙성과 예상가능성을 논하고 둘째 장에서는 변동성과 극적으로 다른 미래의 모습들에 대해 이야기하겠다.

미래에 일어날 수 있는 경우의 수 중 하나는 스태그플레이션이다. 우리가 경제의 “최대치”에 이르러 성장이 근본적으로 멈추게 된다. 우리는 현재 가지고 있는 자원을 어떻게 나눌 것인가를 고민하게 될 것이고 규모를 키우는 역동적인 경제는 영원히 막을 내리게 될 것이다.

또 다른 경우는 경제폭발로, 세계 경제가 매년, 매주, 혹은 매 시간마다 두 배로 커질 때까지 성장에 가속도가 붙는 경우이다. 디지털 인력, 혹은 향후 논의하겠지만 고급 AI와 같은 복사기 같은 기술들이 이와 같은 성장으로 몰아갈 수 있다. 이러한 일이 발생한다면 인류가 소화할 수 있는 것보다 훨씬 더 빨리 모든 것이 변화할 것이다.

또한 전지구적 재앙이 인류문명을 굴복시키거나 인간성을 말살하는 붕괴를 생각해 볼 수 있다. 이 경우 우리는 절대 오늘날의 수준과 같은 성장에 도달할 수 없게 된다.

아니면 더한 일이 일어날지도 모를 일이다.

왜 이대로는 안 되는가?

편견을 극복하기에서 가져 온 다음 분석이 좋은 시작점이 되어줄 수 있겠다. 여기에는 내가 상황에 맞게 각색한 것을 공개한다.

• 세계 경제가 현재 매년 2 퍼센트 성장하고 있다고 가정하자.⁠d 이는 35년마다 경제 규모가 두 배가 된다는 것을 의미한다.⁠e
• 이 상태가 지속된다면 8200년 이후에는 경제 규모가 현재의 $3 \times 10^{70}$배가 된다.
• 우리 은하계에 $10^{70}$미만의 원자가 있는데⁠f 이는 우리가 8200년 이후의 삶은 상상이 불가능해 진다⁠g.
• 따라서 경제가 오늘날보다 $3 \times 10^{70}$배 커지고 $10^{70}$개 (또는 그 이하)의 원자만을 사용할 수 있다면 원자 하나 당 오늘날과 같은 전 세계 경제 규모와 비슷한 크기의 경제를 다수 유지해야 할 것이다.

8200년이 먼 미래로 느껴질 수 있겠지만 이는 인류가 존재해 온 기간보다 훨씬 짧다. 실제로 이는 농경을 기반으로 한 인류문명이 존재해 온 기간보다도 짧다.

현존하는 원자 하나당 오늘날의 문명 전체에 해당하는 크기의 문명을 여럿 지원할 기술을 개발하는 것을 상상하는 것이 가능할까? 당연히 가능할 것이다. 그러나 이를 위해서는 지금까지 인류 역사에 걸쳐 보아온 변화의 정도를 훨씬 넘어서는 근본적인 수준의 변화가 우리 삶과 사회에 필요할 것이다. 그리고 나는 이러한 수준의 변화가 앞으로 있을 수천 년 동안 일어날 것이라고 생각하지 않는다.

아마도 새로운 과학적 통찰, 기술적 혁신과 자원의 “고갈”을 겪을 것이고 “매년 몇 퍼센트씩 부유해지는” 시대 또한 종말을 고하게 될 것이다. 결국 이 번영의 시대는 고작 수백 년 정도만 지속하게 되는 것이다.

(이 글에서는 경제가 아닌 에너지에 관해 비슷한 분석을 제시하고 있다. 저자는 에너지에서의 한계는 떠 발리 올 것이라고 지적한다. 매년 에너지 소비가 2.3 퍼센트 증가하고 (1600년대 이후 미국의 역사적인 에너지 소비율보다 낮다) 이는 우리의 은하계의 행성 전체에서 향후 2500년간 생산될 에너지에 달하는 양을 고갈시킬 것으로 추정한다.⁠h)

폭발과 붕괴

앞으로 일어날 가능성이 있는 상황 중의 하나는 스태그플레이션이다. 성장은 점차 둔화되고 결과적으로 경제성장이 멈추게 된다. 그러나 나는 이러한 상황으로 치닫게 될 가능성은 낮다고 본다.

위의 도표에서는 성장 둔화가 보이지 않는다. 오히려 극적으로 가속도가 붙고 있는 것으로 보인다. 이와 같은 성장세를 그대로 적용한다면 우리는 어떠한 결과를 얻게 될까?

오픈 필란트로피의 데이비드 루드만 (David Roodman)이 제시한 인간 궤적 모델링 (Modeling the human trajectory)은 과거 경제 성장 패턴에 곡선을 적용하는 것으로 바로 이 질문에 대한 답을 구하고 있다.⁠i 이 추정은 금세기의 무한한 성장을 의미한다. 무한한 성장은 수학적 추상화이나 이것의 함의는 “한계에 도달하기 전에 가능한 가장 빠른 성장을 경험하게 될 것” 이다.

The Duplicator: Instant cloning would make the world economy explode에서 이 가능성에 대한 폭넓은 논의를 요약해 두었다. 낙관적으로 보면 우리가 인간의 사고를 ‘복사’할 수 있는 기술을 가지고 있거나 디지털 인류 혹은 고급 인공지능과 같은 효과적으로 동일한 목적을 달성할 무엇인가 있다면 폭발적 성장은 가능하다는 것이다.

폭발적 성장의 경우, 세계 경제가 매년 두 배로 커지는 100% 성장률을 달성할 수 있는데 이 경우 앞에서 설명한 대로 길어야 250년 안에 여러 측면에서 한계에 부딪히게 된다⁠j. 심지어 우리는 세계 경제가 매달 2배로 커지거나 (이 경우 최장 20년 안에 한계에 이르게 된다⁠k)이보다 더 빠른 성장을 보게 될 수도 있다.

이 과정은 매우 혼란스러울 것이다. 인간이 유의미하게 추적할 수 있는 정도 이상으로 생산물을 내놓는 AI의 주도 하에 걷잡을 수 없을 만큼 빠르게 성장이 이루어지고, 가능성의 한계에 빠르게 치닫게 되면서 어느 시점에서는 성장이 늦춰져야만 할 것이다.

스태그플레이션이나 폭발적인 성장 외에 제 3의 가능성인 붕괴도 있다. 전지구적 재앙은 오늘날과 같은 수준의 성장으로 절대 회복하지 못할 만큼 인류 문명을 쇠퇴시킬 수 있다. 인간의 멸종은 이와 같은 붕괴의 극단적인 형태일 것이다. 이와 같은 미래는 도표에서 제시되지 않았지만 우리는 이 또한 가능하다는 것을 알고 있다.

토비 오드가 극단 (사피엔스의 멸망: 벼랑세, 인류의 존재 위험과 미래 / Sapienseu ui myeolmang)에서 주장하듯 소행성과 다른 “자연적” 위험은 이와 같은 상황을 야기하지 않을 것으로 보이나 심각하고 수량화 하기 어려울 것 같은 몇몇 위험들은 여전히 존재한다. 즉, 기후 변화, 핵전쟁 (특히 핵 겨울), 팬데믹 (특히 생물학에서의 발전이 매우 위험한 생물 무기개발도 이어지는 경우), 그리고 고급 인공지능에 의한 위험들이 바로 그것이다.

정체, 폭발, 그리고 붕괴와 같은 이 세 가능성을 염두에 두고

• 우리는 역사를 통틀어 경제 성장이 가장 빠르게 이루어진 두 세기(20세기와 21세기)에 살고 있다.
• 아마도 이것이 적어도 인류 역사상 가장 빠른 성장을 이룬 80 세기 중의 하나가 될 것은 틀림없어 보인다.⁠l
• 만약 필요한 기술이 개발되어 폭발적인 성장을 이끌어 간다면 아마도 다른 세기와 비교가 되지 않을 정도로 성장이 빠르게 이루어진 세기가 될 것이다.
• 만에 하나 잘못되기라도 한다면 우리의 마지막 세기가 될 수도 있다.

여기서 보듯 이번 세기는 꽤 의미심장한 세기이며 가장 놀라운 세기가 될 가능성도 존재한다. 이것은 모두 인공지능에 관한 자세한 추론이 아닌, 기본적인 관찰을 기반으로 이루어진 것으로 인공지능에 대해서는 나중에 다루도록 하겠다.

과학 기술 발전

우리가 경제적 성장에 관한 도표를 작성하는 것과 같은 방식으로 과학기술이 얼마나 빨리 발전하고 있는가를 보여줄 간단한 도표를 만드는 것은 어렵다. 그러나 그 도표를 만들 수 있다면 대체적으로 경제적 성장 도표와 비슷한 양상을 보일 것으로 생각한다.

나는 아시모프 (Asimov)의 과학과 발견의 연대기 (Asimov’s Chronology of Science and Discovery)를 읽어 볼 것을 권한다. 책에서는 인류 역사상 가장 중요한 발명과 발견을 연대순으로 소개한다. 처음 몇 세기에서는 “돌도끼”, “불”, “종교” 그리고 “예술”이 등장하다가 마지막 장에서는 “핼리 혜성” 과 “따뜻한 초전도성”이 포함되어 있다.

이 책의 흥미로운 사실은 책은 기원전 4백만 전부터 일어난 일들을 포함하고 있음에도654 쪽 중 553 쪽이 1500년 이후에 일어난 일들에 관한 것이라는 점이다. 이 책과 비슷한 종류의 책들 모두에서 이와 같은 경향을 보일 것으로 생각되며⁠m 실제로 지난 500년 동안 이룬 과학 기술의 발전이 몇 백만 년 동안 일어난 것보다 훨씬 더 많다고 확신한다⁠n.

따라서 경제 성장과 마찬가지로 과학 기술의 발전 또한 역사의 다른 시기와 비교해 매우 빠르다. 경제 성장에서 보듯, 아마도 언젠가는 첨단기술의 발전 또한 한계가 있을 것이다. 그리고 경제 성장과 같이 지금부터 과학기술 발전은

• 정체, 이미 많은 사람들이 우려하는 바와 같이 일어나고 있다.
• 폭발, 만약 과학 기술 개발을 주도할 “지능” (인류, 혹은 디지털 인류, 또는 고급 인공지능)의 수를 극적으로 증가시킬 어떤 기술이 개발된다면 가능하다⁠p.
• 붕괴, 일부 전지구적 재앙에 의한

간과된 가능성

현재 평상시와 다름없는 세상으로 보는 마음가짐, 즉 우리가 앞으로 다가올 미래에도 기본적으로 안정적이고 일반적인 비율을 유지한다고 가정한다면 어떻게 보다 나은 세상을 만들 것인지 고민하며 살고 있는 사람들이 분명 있을 것으로 생각한다.

그리고 어떤 이들은 이대로는 안 된다는 마음가짐 속에 정체, 폭발 혹은 붕괴 등의 영향을 걱정하며 과연 우리의 행동이 이러한 상황이 발생하는 것을 막을 수 있을 것인가 고민하고 있을 것이다.

그러나 오늘날에는 거의 모든 뉴스와 분석이 평상시와 다름 없는 세상 마음가짐으로 이루어지므로 상황이 균형을 잃은 것처럼 보인다.

내 마음가짐을 비유로 표현하자면 마치 세상이 활주로에 착륙하는 비행기에 타고 있는 사람들과 같이 느껴진다는 것이다.

우리는 평소보다 빠른 속도로 달리고 있으며 이 속도를 오래 유지할 수 있을 만큼 활주로가 길지 않다… 게다가 우리는 가속을 하고 있다.

세상이 어떻게 돌아가고 있는지에 대한 평을 읽을 때마다 사람들은 안전벨트를 매는 것이 삶의 일부인 이상 어떻게 하면 가능한 한 편안하게 맬 수 있을지 논의하거나, 가족과 함께 앉아 옆으로 빠르게 지나가는 하얀 선들을 바라보는 것이 인생에 있어 얼마나 멋진 순간인지 이야기 하고, 또는 윙윙거리는 소리로 인해 대화를 나누기가 어려운 것이 누구의 잘못인지 따지고 있다.

내가 이러한 상황에 처해 있고 비행기가 언제 이륙하게 될지 모른다면 바른 판단을 내릴 수 없다고 해도 적어도 다음과 같이 생각하기를 바란다. “상황이 좀 많이 이상하고 특이한데다 일시적일 것으로 보인다. 여기서 속도를 더 높이거나 멈추거나, 또는 뭔가 이상한 일이 일어날 것이다”

이 글에 포함된 그래픽을 만들어 준 마리아 구티레스 로하 (María Gutiérrez Rojas)와 여기서 사용된 연대표의 기반이 된 초기 연대표를 제공한 루드비히 슈베르트 (Ludwig Schubert)에게 감사의 말을 전한다.

원본 게시물: Holden Karnofsky (2021) This can’t go on, Effective Altruism Forum, 8월월 3일.