사회적 가치판단이 바람직하게 이루어져 선(善)한 결과를 낳으려면 높은 수준의 지성이 건전하게 작동돼야 한다. 수많은 가치관의 충돌 속에서 올바른 판단이 이루어지려면 지식뿐 아니라, 사안의 전반을 보는 통찰력이나 균형감각 등이 아울러 필요하기 때문이다. 잘못된 가치판단이 빚은 역사적 참화의 한 예가 나치 독일의 홀로코스트다. 히틀러도 더 나은 세상을 꿈꿨다. 하지만 그가 열망한 세상은 ‘우월한’ 독일인(아리안)이 세계를 지배하고, ‘열등하고 사악한’ 유대인은 박멸돼야 이루어질 수 있는 것이었다.
▦ 히틀러의 병든 사유 속에서 가치는 제멋대로 전도(顚倒)됐다. 생명과 인권 존중이라는 절대적 가치조차도 그가 임의로 설정한 ‘위대한 독일’을 위해선 서슴없이 무시돼야 했다. 그런 병적인 가치판단이 인류 역사상 최악의 만행으로 꼽히는 유대인 학살을 빚었다. 미국 SF 영화 ‘이글아이’(스티븐 스필버그 제작)에도 잘못된 가치판단이 빚는 섬뜩한 이야기가 펼쳐진다. 국가안보를 위해 작동하는 인공지능 슈퍼컴퓨터 이글아이가 오히려 미국 대통령과 장관들을 제거하기 위한 ‘참수작전’을 벌인다는 내용이다.
▦ 이글아이가 대통령을 제거하는 엉뚱한 음모를 꾸미게 된 이유는 다른 데 있지 않다. 대통령이 우려를 무시하고 드론 공격을 승인해 작전지역 민간인 피해를 일으킴으로써 미국에 대한 반감과 테러공격을 증폭시켰기 때문에, 대통령이야말로 가장 시급히 제거해야 할 안보 위협요인이라고 오판한 것이다. 이글아이는 접속 가능한 국가 정보통신망과 원격 제어망 등을 총동원하고, 인간 하수인을 움직여 대통령 제거 일보 직전까지 상황을 몰아간다.
▦ 저널리즘은 기사 작성과 편집이라는 뉴스 판단과정을 통해 날마다 사회적 가치판단 작업을 수행한다. 그 판단이 어렵고, 결과는 중대하기 때문에 괜찮은 언론사에서는 공식, 비공식의 유기적인 점검(게이트 키핑) 시스템이 상시 가동된다. 그런데 최근 네이버가 각 언론사로부터 받은 뉴스 기사를 임의로 배열(편집)했다가 비난을 사자, 아예 인공지능(AI)에게 편집을 맡기겠다는 대책을 냈다. 전형적 기사 작성이라면 모른다. 하지만 기껏해야 몇몇 제한적 알고리즘에 따라 작동할 뿐인 현 수준의 AI에 뉴스 판단의 중책까지 맡기겠다는 그 ‘자신감’이 어디서 비롯된 건지 도무지 이해가 어렵다.
장인철 논설위원 icjang@naver.com
기사 URL이 복사되었습니다.
댓글0