“상업거래는 신뢰 때문에 가능”
“뇌 특정부위가 남의 평가에 민감”
인간의 이타성에 대해
믿음을 가질 수 있게 도와줘
“AI도 이타성을 가질 수 있나”
범위를 넓혀 새 문제도 파고들어
자율주행차가 인명사고를 냈다지만, 초보적 수준의 인공지능(AI) 무기 개발 얘기가 ‘킬러 로봇’ 개발 논란으로 번졌다지만, 시끌벅적한 이런 논쟁을 보고 있노라면 묘한 생각이 든다. 인간은 한 치의 실수도 없는가. 인간은 불필요하고 비도덕적인 살상을 전혀 하지 않는가.
AI를 곤란하게 만들기 위해 윤리학 교과서에나 등장하던 ‘이쪽 길로 가면 5명 죽고 저쪽 길로 가면 1명 죽는다면 어느 길로 갈래?’라고 묻는 사고실험 ‘트롤리 딜레마’를 끌어낸다. 그런데 그건 인간에게도 어려운 선택이라 ‘딜레마’라 부르지 않나. AI는 왜 그걸 완벽하게 해결해야 하나. 또 완벽히 해결하지 못한다 해서 그게 왜 AI만의 윤리적 문제여야 하는가.
불가능하다는 숱한 비판에도 불구하고 특이점(Singularity)를 돌파한, 인간을 뛰어넘는 초지능(Super-Intelligence)이라는 게 정말 탄생한다면, 그게 인류를 멸종시키지 말아야 할 이유는 또 어디 있는가. ‘이기적 인간’이 AI에게는 왜 ‘이타적 선택’을 요구하는가.
문제는 하나다. 인간이 AI에게 가혹하게 구는 건, 우리가 인간이기 때문이다. 간단히 말해 멋진 건 우리 인간만 해야 하는데, AI가 해버리면 재수없으니까. 판단과 결정의 주체는 인간이어야만 한다는 오랜 휴머니즘은, ‘호모 데우스’(김영사)를 쓴 유발 하라리의 주장처럼 거창하게는 인간 중심주의, 간단하게는 인간 이기주의의 한 단면일 뿐이다.
‘이타주의자’는 그래서 이제는 좀 시급한 문제가 되어버린 이타주의 문제를, 국내 학자들의 시각에서 다룬다는 점에서 참고해볼 만하다. 터미네이터의 잔혹한 인류 절멸 공격을 걱정해야 하는 AI시대를 맞은 이상, 우리 인간의 본성에도 알고 보면 이타주의라는 것이 있었노라고, 그래서 AI 너희들도 인간의 이타주의를 배워야 한다고 말해야 할 필요성이 커졌기 때문이다. 그간 이타주의라 하면 이상주의자들의 헛소리, 도덕 군자들의 하품 나는 충고쯤으로 조롱하고 경멸해왔던 탓에 어째 영 폼은 안 나지만.
책엔 동양 고전 연구자에서부터 과학사회학자까지 모두 일곱 명 학자의 글이 실렸는데, 첫 번째 타석에 경제학자인 최정규 경북대 교수가 들어선 것은 그래서 상징적이다. 최 교수는 게임이론을 통해 경제학에서 이타주의 문제를 연구해온 학자다.
최 교수는 초반부터 단도직입적으로 명제 하나를 던진다. “이타주의는 도덕이 아니라 실증의 문제다.” 그러니까 인간은 이타적이어야만 해서 이타적인 게 아니라 그 이전에 이미 이타적이다. 동시에 이타주의도 어깨에 힘을 빼야 한다. 최 교수는 이기적 개인을 내세워 이타주의를 부정하는 시장 논리를 ‘경제적 유토피아’라 비판하지만, 동시에 이타주의로 공동체를 이끌어나갈 수 있다는 주장도 ‘도덕적 유토피아’라 비판한다. 이름 그대로 유토피아란, 그 어디에도 존재하지 않는다.
최 교수는 혈연선택 가설, 직접적 상호성 가설, 간접적 상호성 가설, 집단선택 가설 등 이타성에 대한 여러 이론을 설명한 뒤, 시장 질서 뒤에도 이타성이 있다고 주장한다. 대규모 익명 상업거래를 가능하게 하는 것은 신뢰, 믿음 같은 이타주의 덕분이라는 연구결과, 상업과 산업이 발달한 근대적 사회일수록 이타적 행위가 더 많이 발견된다는 인류학적인 연구결과 등을 소개한다. 시장은 한판 승부가 벌어지는 곳이지만 결국 대규모 협력 체계라는 점을 감안하면, 겉으론 이기적인 것 같아도 그 밑에는 이타성이 깔려 있다는 얘기다.
아예 뇌의 ‘복내측 전전두피질’ 부위에 주목한 김학진 고려대 교수의 글도 흥미롭다. 이마 제일 앞 가운데 위치한 복내측 전전두피질은 가치판단, 감정, 사회성 등을 조율하는 부위로 알려져 있다. 눈치껏 요령껏 주변 상황에 맞춰 말하고 행동하도록 도와준다. 그래서 우리는 시장에서 거래할 때 단편적인 이익만 따지는 게 아니라 장기적 안정성이나 상대방과의 관계 등을 모두 고려한다. 그렇기에 김 교수는 복내측 전전두피질이 바로 “경제학 분야에서 오랫동안 찾아온 공동통화(Common Currency)라는 개념의 신경학적 실체”라고 주장한다. 시장은 이기적인 것만은 아니다. 정의, 공평 등 다른 사회적 가치도 경합한다. 최 교수의 경제학을 뇌과학으로 뒷받침하는 셈이다.
김 교수는 여기서 한걸음 더 들어간다. 복내측 전전두피질은 사회적 평가에 민감한데, 이는 이타적 행위가 인정 욕구와 연결되어 있다는 의미다. 멋있어 보이기 위해 봉사하고 기부하느냐는 비아냥이 나올 법한데, 김 교수는 오히려 그런 이타성이 더 좋다고 강조한다. 일시적이고 충동적인 이타성 보다 장기적이고 합리적인 이타성이 발휘될 여지가 커지기 때문이다. 경제학을 뇌과학으로 뒷받침한 데 이어, 연민이나 동정심 대신 철저하게 계산된 합리적 이타주의가 필요하다 주장하는 윤리학자 피터 싱어의 ‘효율적 이타주의자’(21세기북스)를 뒷받침하는 논리다.
자, 고맙게도 인간 본성에 이타성이 있다 해주시니, 이제 AI에다 이타성을 주입하는 문제를 따져볼 차례다. 책의 맨 마지막, 과학사회학자 홍성욱 서울대 교수의 글은 이 문제를 다룬다. 짐작하다시피 이 논의는 AI종말론자인 닉 보스트롬의 ‘슈퍼인텔리전스’(까치)와의 대결인데, 이건 직접 읽어보는 게 좋겠다.
이타주의자
최정규 등 지음
사회평론 발행ㆍ328쪽ㆍ1만5,000원
“마르크스가 만든 이론은 좋다. 다만 종(種)을 잘못 골랐을 뿐이다.” ‘이타주의적 공동체에 대한 꿈’을 두고 사회생물학자 에드워드 윌슨이 젊은 시절 쏘아붙인 냉소다. 적어도 우리가 젊은 윌슨보다는 인간에 대해 조금 더 온화한 표정을 지을 수 있도록 돕는 매력적인 책이다.
출판사와 두산아트센터가 손잡고 마련한 ‘두산인문극장’ 프로젝트의 일환이다. 지난 9일 최정규 교수가 서울 연지동 두산아트센터 연강홀에서 ‘오늘날 이타주의를 이야기해야 하는 이유’를 주제로 강연했다. 6월까지 이 책의 필자들이 차례차례 강연대에 오른다. 이 책은 사전에 만들어진 강연록인 셈이다. 일정, 참여방법은 두산아트센터 홈페이지(https://www.doosanartcenter.com/ko/education/1333)에서 확인할 수 있다.
조태성 기자 amorfati@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0