딥페이크의 경고

카멀라 해리스 미국 부통령을 연상시키는 여성이 옛 소련 국기와 유사한 깃발이 걸린 장소에서 연설하고 있는 이미지. 해리스 부통령에게 '공산주의자' 낙인을 찍을 의도가 엿보이는 이 이미지는 AI가 생성한 딥페이크로, 도널드 트럼프 전 대통령이 트루스소셜에 게시했다. 트루스소셜 캡처

“스티븐 스필버그 작품 같은 대형 영화도 AI를 활용하면 누구나 만들 수 있는 시대입니다.” 뉴스 앵커는 최근 열린 AI 영화 제작 워크숍 소식을 전하며 이렇게 운을 뗐다. ‘AI’ ‘누구나’ ‘대형 영화’… 꽤나 솔깃한 키워드의 나열 속에서 유독 귀를 쫑긋하게 만든 건 ‘스티븐 스필버그’였다. 영화계의 살아있는 전설, 그런 그의 작품과 비슷한 영화를 AI만 있으면 누구나 만들 수 있다고? 의구심을 품고 리포트를 보니, AI 기술로 제작 기간과 예산을 줄일 수 있다는 정도다. 결국 앵커 멘트가 나빴다. AI면 뭐든 다 될 것처럼, 맹목적 기대를 자극하는 무책임한 낚시질이라니.

엉겁결에 AI로 대체될 뻔한 스필버그 감독은 이미 오래전 AI를 주제로 영화를 만들었다. 그는 AI 기술이 아무리 발전해도 인간을 대체할 수 없음을 2001년 개봉한 영화 ‘A.I.’에서 그려냈다. AI 로봇의 도움이 일상인 미래 어느 날, 인간과 구별하기 어려울 만큼 정교한 AI 로봇이 흡사하지만 결국 인간과 일치하지 못하는 한계에 부딪히고, 관객은 인간과 AI, 진짜와 가짜의 관계를 재확인한다. 때문에 진짜와 유사할수록 드러나는 미묘한 차이로 인해 불편함을 느끼는 ‘불쾌한 골짜기’ 현상이 영화 전반에 걸쳐 흐른다. 불쾌한 골짜기는 AI가 생성한 이미지나 영상에서도 감지되는데, 인간이 본능적 감각으로 가짜와 진짜를 구별하는 유일한 수단이기도 하다.

스필버그의 A.I.가 등장한 지 23년, 지금 우리의 AI는 어떤 모습인가. 영화에서처럼 집안일을 알아서 척척 해주는 AI 로봇은 아직 탄생하지 않았고, 스필버그급 영화를 만들어주는 AI는 더더욱 없다. 다만, AI에 대한 관심만은 여러 분야에서 뜨겁고, 가짜와 진짜를 구별하기 어려울 만큼 비슷하게 영상과 이미지를 구현하는 기술도 수준급이다. 특히 얼굴 사진만 있으면 영상 속 실제 인물로 합성∙조작하는 ‘딥페이크’의 성행은 영화가 예상하지 못한 미래다.

스티븐 스필버그 감독의 2001년 작 'A.I.'의 한 장면.

서울여성회 페미니스트 대학생 연합동아리 회원들이 8월 30일 서울 강남역 10번 출구 인근에서 딥페이크 성범죄 OUT 말하기 대회를 하고 있다. 뉴시스

딥페이크는 AI 기술을 악용해 성범죄뿐 아니라 정치적인 의도로 대중의 판단을 흐리게 하거나 대규모 투자 사기의 수단으로 쓰이는데, SNS로 삽시간에 유포되기 때문에 근본적 처벌이 어렵다. AI와 미래를 다룬 책 'AI 2041'은 2041년이 되면 딥페이크로 만든 동영상과 진짜를 구별하기 어려울 것이라 예상했지만, 그보다 훨씬 빠른 2024년 이미 그렇게 되고 말았다. 가짜를 의심하고 가려낼 최후의 감각 불쾌한 골짜기마저 의도가 불순한 딥페이크 세상에선 무력화된다.

온 천지에 AI 열풍이 불고 있어도 당장 인류에게 절실한 AI 기술이 무엇인지 규정하기 쉽지 않다. 세계적인 로봇공학자 김상배 MIT 교수는 최근 언론 인터뷰에서 지금의 AI 기술은 집안일을 기계가 하고 인간이 그림을 그리는 게 아니라 집안일을 인간이, 그림은 기계가 그리는 격이라 인류에게 진짜 필요한 수준이 못된다고 꼬집었다. 인류에게 필요한 기술을 발전시키려면 인간의 사고력과 창의력이 중요한데, 깊이 생각하지 않아도 정보를 주는 생성형 AI 기술이 이를 훼손한다는 진단도 덧붙였다.

딥페이크는 어쩌면 인간이 아닌 기계가 그림을 그리면서 생긴 부작용인지도 모르겠다. 지금 유행처럼 번지는 AI 기술로부터 사고력과 창의력은 물론 윤리의식을 지키지 못한다면 인간은 영영 그림을 그리지 못할 수도 있다. 딥페이크 사태는 그 자체로 AI 시대를 사는 인간에 대한 경고다.