도덕적 재앙이 지속될 가능성(내용 요약)

몇 년 전 지역 토론 모임을 준비하며 에반 G. 윌리엄스(Evan G. Williams)가 쓴 좋은 철학 논문 한 편을 요약해둔 적이 있는데, 이 자료가 EA 인터넷 커뮤니티를 통해 천천히 퍼지기 시작했다. 주변에서 이 요약본을 더 널리 공유하는 게 어떻겠냐는 제안을 해왔기에 이 곳에서 소개한다.

논문의 전문은 무료로 볼 수 있으니 시간이 날 때 정독해볼 것을 강력히 추천한다.

요약

I. 핵심 논지

도덕적 객관주의나 이와 유사한 시각을 갖고 봤을 때 큰 규모의 심각한 잘못을 범하고 있다는 사실을 아마 의식조차 하지 못하고 있을지도 모른다(‘지속적 도덕적 재앙’).

II. 정의: 도덕적 재앙을 정의하는 세 가지 조건:

심각하게 잘못된 행위일 것(가벼운 모욕이나 불편함을 초래하는 수준이 아닌 누군가의 부당한 죽음이나 노예제에 버금가는 상황)
규모가 클 것(일회성으로 저지른 잘못 혹은 한 사람에 대한 고문 행위 그 이상의 경우일 것)
사회 구성원 상당수에게 직접 가담 또는 방관에 대한 책임이 있을 것 (한 명의 독재자가 일삼은 피할 수 없는 독단적 행동이 아닐 것)

III. 생각지도 못한 도덕적 재앙을 초래했을 가능성이 큰 이유에 대한 두 가지 핵심 논점:

귀납 논법
1. 가정: 자신이나 사회의 도덕적 기준에 부합하는 행동이지만 심각한 도덕적 잘못을 초래할 수 있다.
  1. 기본 동기: 정직하고 진정성 있는 나치 당원이 결정적인 방식으로는 잘못된 행동을 한다.
  2. 이 사람의 잘못된 행동이, 모든 유대인은 세계적 음모에 가담하고 있다는 실증적 확신의 오류에 기인한 것인지 혹은 유대인은 인간 이하이며 도덕적 가치가 없는 존재라는 잘못된 가치관에서 온 것인지는 중요하지 않다.
2. 이러한 가정을 염두에 둔다면 역사에 알려진 거의 모든 주요 사회에서 재앙에 가까운 악행을 저질러 왔다는 결론에 도달한다.
  1. 콩키스타도르, 십자군, 칼리프 국가, 아즈텍인 등을 생각해보자. 이들은 자신들이 선하고 정의롭다고 믿는 신의 이름으로 타지역을 정복했다.
  2. 역사 속 이 모든 사람들이 진실된 마음 없이 자신의 믿음을 말로만 고백하거나 모두 거짓말을 한 것은 아닐 것이다.
  3. 존재 증거: 사람들은 의식하지 못한 채 큰 해악을 끼칠 수 있고, 실질적으로도 그렇다.
3. 우리가 지속적인 도덕적 재앙을 행하고 있을지도 모른다는 가능성의 이야기가 아니라 실제로 도덕적 재앙을 행하고 있을 공산이 크다.
  1. 우리는 이전 세대와 크게 다르지 않다: 수백 세대에 걸쳐 인류는 자신들이 옳다고 생각하고 자신들만이 올바른 도덕의식을 가졌다고 믿어 왔다.
  2. 가장 가까운 우리 부모님 세대만 해도 인종이나 성적 취향으로 인해 일부 사람의 인권을 더욱 특별히 보장해줘야 마땅한 것이라 믿었다.
  3. 우리는 현재 도덕적 격변의 시대에 살고 있다. 우리의 도덕의식은 우리 조부모 세대의 도덕의식과는 크게 다르다.
  4. 일부 세대가 완벽한 도덕의식을 갖게 되었다고 가정해봤을 때, 그들의 부모 세대는 완벽함에 근접한 도덕의식을 가진 세대일테다.
선언 논법
1. 사회 활동가들도 예외는 아니다. 가장 공들인 목표들이 결실 맺었다고 하더라도 우리 사회가 선하다는 뜻은 아니다. 여전히 수면 아래 도사리고 있는 도덕적 재앙이 있기 때문이다.
2. 한 사회 안에서 무언가 잘못될 여지가 다분하기 때문에 모든 것을 완벽하게 하기란 불가능에 가깝다.
  1. 이는 작은 걱정거리에 불과한 문제가 아니다. 홀로코스트에 비견될 만큼의 큰 잘못을 저지르고 있을 수도 있는 일이다.
3. 사회는 다양한 방법으로 잘못을 저지르고 있을 수 있다.
  1. 잘못된 대상을 도덕적 표준으로 삼을 수도 있다(예: 태아, 동물).
  2. 도덕적으로 중요한 이들에게 무엇이 해악을 가져오는지에 대해 경험적으로 잘 못 생각할 수 있다(예: 아이들에게 종교적 가치 주입).
  3. 우리가 고수하는 일부 도덕적 의무는 옳을 수 있지만, 이 외에는 잘못된 믿음일 수도 있다.
    1. 우리는 십자군처럼 잘못된 도덕적 의무에 사로잡혀 자원을 쏟아 부으며 부도덕한 행동을 할 수 있다.
  4. 무엇이 틀렸고 무엇을 고쳐야 하는지는 올바르게 짚어낼 수 있을지라도 다양한 해결 방법을 놓고 우선순위를 정하는 것은 제대로 하지 못 할 수 있다.
  5. 무엇이 틀렸는지 제대로 알아차려도 무엇을 고쳐야 할 책임이 있는지는 잘 모를 수 있다. (예. 빈곤, 국경 문제)
  6. 우리는 먼 미래에 관해 잘 못 생각할 수도 있다(인구 증가 정책, 존재론적 위험).
4. 각 항목의 범주 안에서도 잘못될 수 있는 여지가 많다.
  1. 게다가 일부는 상호배타적이다. 예: 임신 중절 반대론자들이 맞다면 낙태는 엄청난 죄악이고, 또는 태아의 생명에 큰 가치를 두지 않을 경우에는 예컨대 임신 후기 산모로부터 임신을 중절할 자유를 앗아간다면 도덕적으로 중대한 문제가 될 수 있다.
  2. 우리가 현재 이 모든 문제의 완벽한 타협점을 찾았을 가능성은 매우 낮다.
5. 괴리라는 것이 있기 때문이다.
  1. 주요 문제를 다루는 대부분의 경우에는 우리 스스로가 $95\%$ 는 옳다고 믿으며, $15$ 가지 정도 주요 문제가 있다고 가정한다면 우리가 맞을 경우의 전체 확률은 $95\%^{15} \approx 46\%$ 가 된다. (개별 문제가 서로 독립적이라는 조건 시)
  2. 실질적으론 모든 주요 문제에 대해 올바른 판단을 한다는 확신을 $95\%$ 나 갖고 있다는 것은 심각한 과신으로 보이며, 주요 문제가 $15$ 개 있다고 가정했지만 이건 사실 지나치게 적은 숫자다.

IV. 향후 개선과제

버려진 가능성: 연계 매매 확신이 없다면 도덕적으로 ‘안전한’ 선택을 하는 것이 좋다.
예: 가축이 감각이나 지각이 없다고 생각하거나 혹은 이런 쾌고감수의 유무가 도덕적으로 중요치 않다고 여기더라도 “혹시 모르니까” 채식주의자가 될 수도 있겠다.
이는 내실 있는 사고가 아니기 때문에 대개 효과적이지는 않다: 앞서 언급했듯이 잘못될 여지가 많고 심지어는 모순적인 상황도 발생할 수 있다.
잘못의 인지
1. 혹시나 대재앙 수준의 잘못을 저지르고 있지는 않은지 능동적으로 찾으려는 자세가 중요하다.
  1. 동물 의식 분야처럼 심각한 잘못을 범하고 있을지도 모를실용적 분야에 대한 연구 확대
  2. 도덕 철학에 관한 연구 확대
    1. 중요: 도덕적 지혜를 쌓지 않고 기술적 지식만 확대하는 것은 바람직하지 않다.
    2. 칭기즈 칸이 핵무기를 가졌다고 상상해보라.
  3. 학제간 소통의 필요성
    1. 의식이 있어야만 동물도 존귀하다는 철학자, 돌고래는 의식이 있지만 이 사실이 중요한지는 모르는 과학자 이 둘 모두 완벽하지 않다. 결국 이 두 학제 간 지식이 공유될 수 있는 사회가 되어야 한다.
2. 의미 있는 아이디어가 살아남을 수 있는 생각의 시장이 필요하다.
3. 급속한 지적 진전이 핵심이다.
  1. 나치를 무찌르거나 노예제 폐지를 위해 전쟁을 치르는 것이 가치있는 일이라고 본다면, 그와 마찬가지로 우리가 지금 무엇을 잘못하고 있는지를 파악하기 위해 사회적 손실을 보더라도 상당한 물질적 투자를 하는 것이충분히 가치 있는 일이다.
개선된 가치의 도입
1. 우리가 저지른 중대한 윤리적 잘못이 무엇인지 파악했다면 그 다음 단계로는 과거 해악에 대해 윤리적 변상을 하거나 적어도 향후에는 같은 방식으로 더 이상의 해악을 초래하지 않도록 최대한 빨리 멈춰야 한다.
2. 이를 위해서는 물질적으로 최대한 유연함을 갖추어야 한다.
  1. 극빈국이나 전쟁을 겪은 사회에서는 그에 요구되는 윤리적 변화를 신속히 만들기가 힘들 것이다.
  2. LZ 예시: 특정한 설계 방식에 따라 구축된 복잡한 시스템은 충격에 대한 회복력이 약하고 발 빠른 변화를 수용하지 못한다. Cf. Antifragile.
  3. 전쟁을 대비해 자원을 비축해두는 것처럼 미래의 도덕적 위기상황을 대비해 자원을 비축해둘 필요도 있겠다. 그래야만 배상을 하거나 유의미한 변화를 민첩하게 만들어 낼 수 있을 것이다.
    1. LZ: 이를 현실에 어떻게 적용할 수 있을지는 확실하지 않다. 예: 개인은 대체로 투자를 통해 자본을 축적하고 정부는 다른 정부의 부채나 민간부문에 투자함으로써 재원을 마련하지만 전체적으론 세상이 어떻게 ‘저축’하는지는 명확하지 않다.
3. 사회적 상황 속에서 유연함을 최대화해야 한다.
  1. 큰 변화를 이끌어 내는 것이 물질적으로 가능할지라도, 관성과 보후주의 편향 때문에 사회가 이러한 변화를 가로막을지도 모른다.
  2. 예를 들어 헌법 개정엔 의문스러운 부분이 있다.

V. 결론 및 추가발언

반론 1: 도덕적 재앙을 개선할 수 있는 사회를 구축하는 일은 도덕적 재앙을 실질적으로 타파하는 것과는 별개다.
반론 2: 앞서 언급한 도덕적 재앙에 대한 개선책 또한 결국 해악을 가져올 수 있다.
1. 예: 도덕 연구 기금이 세계 빈곤을 해결하는 데 사용될 수 있다. 최대한 유연한 사회를 구축하려다 현재 사람들의 인권을 가혹한게 제한하는 일이 발생할 수도 있다.
그렇다 할지라도 이 모든 노력이 단기적으로 봤을 때 의미가 있다.

이 문서의 저작권은 크리에이티브 커먼즈 저작권 표시 국제 라이선스 4.0를 따릅니다.

원본 게시물: Linchuan Zhang (2019) The possibility of an ongoing moral catastrophe (Summary), Effective Altruism Forum, 8월월 2일.

요약

I. 핵심 논지

도덕적 객관주의나 이와 유사한 시각을 갖고 봤을 때 큰 규모의 심각한 잘못을 범하고 있다는 사실을 아마 의식조차 하지 못하고 있을지도 모른다(‘지속적 도덕적 재앙’).

II. 정의: 도덕적 재앙을 정의하는 세 가지 조건:

심각하게 잘못된 행위일 것(가벼운 모욕이나 불편함을 초래하는 수준이 아닌 누군가의 부당한 죽음이나 노예제에 버금가는 상황)

규모가 클 것(일회성으로 저지른 잘못 혹은 한 사람에 대한 고문 행위 그 이상의 경우일 것)

사회 구성원 상당수에게 직접 가담 또는 방관에 대한 책임이 있을 것 (한 명의 독재자가 일삼은 피할 수 없는 독단적 행동이 아닐 것)

III. 생각지도 못한 도덕적 재앙을 초래했을 가능성이 큰 이유에 대한 두 가지 핵심 논점:

귀납 논법

가정: 자신이나 사회의 도덕적 기준에 부합하는 행동이지만 심각한 도덕적 잘못을 초래할 수 있다.
1. 기본 동기: 정직하고 진정성 있는 나치 당원이 결정적인 방식으로는 잘못된 행동을 한다.
2. 이 사람의 잘못된 행동이, 모든 유대인은 세계적 음모에 가담하고 있다는 실증적 확신의 오류에 기인한 것인지 혹은 유대인은 인간 이하이며 도덕적 가치가 없는 존재라는 잘못된 가치관에서 온 것인지는 중요하지 않다.
이러한 가정을 염두에 둔다면 역사에 알려진 거의 모든 주요 사회에서 재앙에 가까운 악행을 저질러 왔다는 결론에 도달한다.
1. 콩키스타도르, 십자군, 칼리프 국가, 아즈텍인 등을 생각해보자. 이들은 자신들이 선하고 정의롭다고 믿는 신의 이름으로 타지역을 정복했다.
2. 역사 속 이 모든 사람들이 진실된 마음 없이 자신의 믿음을 말로만 고백하거나 모두 거짓말을 한 것은 아닐 것이다.
3. 존재 증거: 사람들은 의식하지 못한 채 큰 해악을 끼칠 수 있고, 실질적으로도 그렇다.
우리가 지속적인 도덕적 재앙을 행하고 있을지도 모른다는 가능성의 이야기가 아니라 실제로 도덕적 재앙을 행하고 있을 공산이 크다.
1. 우리는 이전 세대와 크게 다르지 않다: 수백 세대에 걸쳐 인류는 자신들이 옳다고 생각하고 자신들만이 올바른 도덕의식을 가졌다고 믿어 왔다.
2. 가장 가까운 우리 부모님 세대만 해도 인종이나 성적 취향으로 인해 일부 사람의 인권을 더욱 특별히 보장해줘야 마땅한 것이라 믿었다.
3. 우리는 현재 도덕적 격변의 시대에 살고 있다. 우리의 도덕의식은 우리 조부모 세대의 도덕의식과는 크게 다르다.
4. 일부 세대가 완벽한 도덕의식을 갖게 되었다고 가정해봤을 때, 그들의 부모 세대는 완벽함에 근접한 도덕의식을 가진 세대일테다.

선언 논법

사회 활동가들도 예외는 아니다. 가장 공들인 목표들이 결실 맺었다고 하더라도 우리 사회가 선하다는 뜻은 아니다. 여전히 수면 아래 도사리고 있는 도덕적 재앙이 있기 때문이다.
한 사회 안에서 무언가 잘못될 여지가 다분하기 때문에 모든 것을 완벽하게 하기란 불가능에 가깝다.
1. 이는 작은 걱정거리에 불과한 문제가 아니다. 홀로코스트에 비견될 만큼의 큰 잘못을 저지르고 있을 수도 있는 일이다.
사회는 다양한 방법으로 잘못을 저지르고 있을 수 있다.
1. 잘못된 대상을 도덕적 표준으로 삼을 수도 있다(예: 태아, 동물).
2. 도덕적으로 중요한 이들에게 무엇이 해악을 가져오는지에 대해 경험적으로 잘 못 생각할 수 있다(예: 아이들에게 종교적 가치 주입).
3. 우리가 고수하는 일부 도덕적 의무는 옳을 수 있지만, 이 외에는 잘못된 믿음일 수도 있다.
  1. 우리는 십자군처럼 잘못된 도덕적 의무에 사로잡혀 자원을 쏟아 부으며 부도덕한 행동을 할 수 있다.
4. 무엇이 틀렸고 무엇을 고쳐야 하는지는 올바르게 짚어낼 수 있을지라도 다양한 해결 방법을 놓고 우선순위를 정하는 것은 제대로 하지 못 할 수 있다.
5. 무엇이 틀렸는지 제대로 알아차려도 무엇을 고쳐야 할 책임이 있는지는 잘 모를 수 있다. (예. 빈곤, 국경 문제)
6. 우리는 먼 미래에 관해 잘 못 생각할 수도 있다(인구 증가 정책, 존재론적 위험).
각 항목의 범주 안에서도 잘못될 수 있는 여지가 많다.
1. 게다가 일부는 상호배타적이다. 예: 임신 중절 반대론자들이 맞다면 낙태는 엄청난 죄악이고, 또는 태아의 생명에 큰 가치를 두지 않을 경우에는 예컨대 임신 후기 산모로부터 임신을 중절할 자유를 앗아간다면 도덕적으로 중대한 문제가 될 수 있다.
2. 우리가 현재 이 모든 문제의 완벽한 타협점을 찾았을 가능성은 매우 낮다.
괴리라는 것이 있기 때문이다.
1. 주요 문제를 다루는 대부분의 경우에는 우리 스스로가 $95\%$ 는 옳다고 믿으며, $15$ 가지 정도 주요 문제가 있다고 가정한다면 우리가 맞을 경우의 전체 확률은 $95\%^{15} \approx 46\%$ 가 된다. (개별 문제가 서로 독립적이라는 조건 시)
2. 실질적으론 모든 주요 문제에 대해 올바른 판단을 한다는 확신을 $95\%$ 나 갖고 있다는 것은 심각한 과신으로 보이며, 주요 문제가 $15$ 개 있다고 가정했지만 이건 사실 지나치게 적은 숫자다.

IV. 향후 개선과제

버려진 가능성: 연계 매매 확신이 없다면 도덕적으로 ‘안전한’ 선택을 하는 것이 좋다.

예: 가축이 감각이나 지각이 없다고 생각하거나 혹은 이런 쾌고감수의 유무가 도덕적으로 중요치 않다고 여기더라도 “혹시 모르니까” 채식주의자가 될 수도 있겠다.

이는 내실 있는 사고가 아니기 때문에 대개 효과적이지는 않다: 앞서 언급했듯이 잘못될 여지가 많고 심지어는 모순적인 상황도 발생할 수 있다.

잘못의 인지

혹시나 대재앙 수준의 잘못을 저지르고 있지는 않은지 능동적으로 찾으려는 자세가 중요하다.
1. 동물 의식 분야처럼 심각한 잘못을 범하고 있을지도 모를실용적 분야에 대한 연구 확대
2. 도덕 철학에 관한 연구 확대
  1. 중요: 도덕적 지혜를 쌓지 않고 기술적 지식만 확대하는 것은 바람직하지 않다.
  2. 칭기즈 칸이 핵무기를 가졌다고 상상해보라.
3. 학제간 소통의 필요성
  1. 의식이 있어야만 동물도 존귀하다는 철학자, 돌고래는 의식이 있지만 이 사실이 중요한지는 모르는 과학자 이 둘 모두 완벽하지 않다. 결국 이 두 학제 간 지식이 공유될 수 있는 사회가 되어야 한다.
의미 있는 아이디어가 살아남을 수 있는 생각의 시장이 필요하다.
급속한 지적 진전이 핵심이다.
1. 나치를 무찌르거나 노예제 폐지를 위해 전쟁을 치르는 것이 가치있는 일이라고 본다면, 그와 마찬가지로 우리가 지금 무엇을 잘못하고 있는지를 파악하기 위해 사회적 손실을 보더라도 상당한 물질적 투자를 하는 것이충분히 가치 있는 일이다.

개선된 가치의 도입

우리가 저지른 중대한 윤리적 잘못이 무엇인지 파악했다면 그 다음 단계로는 과거 해악에 대해 윤리적 변상을 하거나 적어도 향후에는 같은 방식으로 더 이상의 해악을 초래하지 않도록 최대한 빨리 멈춰야 한다.
이를 위해서는 물질적으로 최대한 유연함을 갖추어야 한다.
1. 극빈국이나 전쟁을 겪은 사회에서는 그에 요구되는 윤리적 변화를 신속히 만들기가 힘들 것이다.
2. LZ 예시: 특정한 설계 방식에 따라 구축된 복잡한 시스템은 충격에 대한 회복력이 약하고 발 빠른 변화를 수용하지 못한다. Cf. Antifragile.
3. 전쟁을 대비해 자원을 비축해두는 것처럼 미래의 도덕적 위기상황을 대비해 자원을 비축해둘 필요도 있겠다. 그래야만 배상을 하거나 유의미한 변화를 민첩하게 만들어 낼 수 있을 것이다.
  1. LZ: 이를 현실에 어떻게 적용할 수 있을지는 확실하지 않다. 예: 개인은 대체로 투자를 통해 자본을 축적하고 정부는 다른 정부의 부채나 민간부문에 투자함으로써 재원을 마련하지만 전체적으론 세상이 어떻게 ‘저축’하는지는 명확하지 않다.
사회적 상황 속에서 유연함을 최대화해야 한다.
1. 큰 변화를 이끌어 내는 것이 물질적으로 가능할지라도, 관성과 보후주의 편향 때문에 사회가 이러한 변화를 가로막을지도 모른다.
2. 예를 들어 헌법 개정엔 의문스러운 부분이 있다.

V. 결론 및 추가발언

반론 1: 도덕적 재앙을 개선할 수 있는 사회를 구축하는 일은 도덕적 재앙을 실질적으로 타파하는 것과는 별개다.

반론 2: 앞서 언급한 도덕적 재앙에 대한 개선책 또한 결국 해악을 가져올 수 있다.

예: 도덕 연구 기금이 세계 빈곤을 해결하는 데 사용될 수 있다. 최대한 유연한 사회를 구축하려다 현재 사람들의 인권을 가혹한게 제한하는 일이 발생할 수도 있다.

그렇다 할지라도 이 모든 노력이 단기적으로 봤을 때 의미가 있다.