유튜브에 AI 악용한 가짜 영상 범람
해외 언론에서도 ‘팩트체크’로 다뤄
유엔 안보리에서도 AI 규제 논의
[아로마스픽(51)]7.10~14
편집자주
4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차), 반도체(Semiconductor), 보안(Security) 등에 대한 주간 동향을 살펴봤다.
지난달 15일, 한 유튜브 채널에 게재된 영상에서 프랑스 축구 스타인 킬리안 음바페가 기자들의 질문에 답을 하고 있다. 하지만 이 영상은 자막 내용과 무관한 지난 2021년 ‘유로 2020’ 기자회견 영상에 인공지능(AI)을 악용한 가짜영상으로 확인됐다. 유튜브 캡처
“이강인(22)이라는 한국 선수가 파리생제르맹(PSG)으로 온다고 들었다. 당신은 이것이 단순한 마케팅을 위한 영입이라고 생각하는가?”
못마땅한 답변 태도는 직선적인 질문에서 비롯된 것처럼 읽혔다. 잔뜩 찌푸린 인상에 고개를 좌우로 흔들면서 내비친 모습에선 불쾌한 기색이 역력했다. “질문의 의도가 무엇인지 모르겠지만 (이강인 선수가) 재능을 가졌기에 여기로 올 수 있는 것이고 이곳으로 온다는 것은 준비가 돼 있다는 것이다”라고 전한 프랑스 명문 축구 클럽 ‘PSG’ 소속의 세계적인 스타로 유명한 킬리안 음바페(25)의 답변과 맞물리면서다. ‘다른 일본 선수들에 대해선 어떻게 생각하는가?’란 질의에선 “당신 나라(일본)의 선수들에 대해서는 전혀 알지 못한다”고 직격했다. 이강인 선수의 실력은 인정한 반면 일본 선수들은 사실상 무시한 듯한 분위기였다. 지난달 15일, 세계 최대 동영상 플랫폼인 유튜브에 게재된 이 쇼츠 영상은 최근 삭제 직전까지 1,200만 건에 가까운 누적 조회수와 함께 누리꾼들의 이목을 집중시켰다. 우리나라 국민의 약 5분의 1에 가까운 누리꾼들이 시청한 셈이다. 하지만 이 영상은 인공지능(AI)을 활용한 ‘가짜영상’으로 뒤늦게 확인됐다. 지난 2021년 ‘유로 2020’ 기자회견 영상에 덧붙여진 거짓 내용의 인터뷰 자막 처리와 더불어 AI 음성으로 대신한 음바페의 답변이 빚어낸 짜깁기 영상이었던 것. 당시, 이강인 선수의 PSG 입단이 무르익고 있었던 시점이어서 PSG 소속의 스타플레이어인 음바페의 이 가짜 인터뷰 영상은 입소문을 타고 빠르게 확산됐다. 이 가짜 영상은 프랑스 내 언론에서도 ‘팩트체크’ 뉴스로 다뤄질 만큼, 화제를 불러모았다. 프랑스 공영방송인 ‘프랑스24’는 이 가짜 영상에 대해 “불편한 한국과 일본, 양국의 관계로 엄청난 조회수를 올렸다”며 해당 영상에 속아서 “시원하다” 등으로 올려진 댓글까지 소개했다.
프랑스 공영방송인 ‘프랑스24’는 자국의 축구 스타인 음바페가 한국의 이강인 선수에 대해 평가한 형태로 유튜브에 올려진 가짜 영상에 대해 “불편한 한국과 일본 양국의 관계로 엄청난 조회수를 올렸다”며 해당 영상에 속아서 “시원하다” 등으로 올려진 댓글까지 소개하면서 ‘팩트체크’ 코너로 다뤘다. 유튜브 캡처
지난해 말 등장한 오픈AI의 ‘챗GPT’를 계기로 불어닥친 생성형 AI의 열풍에서 부작용도 속출하고 있다. 저작권 논란에서부터 개인정보 도용 및 유출과 해킹 위협, 프라이버시 침해, 가짜뉴스 양산 등을 포함한 사회적인 혼란으로 이어지는 양상이다. 생성형 AI의 오남용에 따른 폐해는 월스트리트저널(WSJ)에서도 지적됐다.
12일(현지시간) WSJ에 따르면 생성형 AI 사용 급증과 함께 파생된 ‘정보 쓰레기’로 인터넷 오염도 시작됐다고 분석됐다. WSJ는 “챗GPT 돌풍 속에서 생성형 AI 사용자가 급증한 가운데 이에 따라 늘어난 수준 미달의 AI 콘텐츠도 넘쳐나고 있다”며 “챗GPT가 주는 편리함도 있지만 이로 인한 역효과도 나타나고 있다”고 짚었다.
사실, 생성형 AI를 악용한 가짜사진과 뉴스는 이미 임계점에 다다른 상태다. 지난 5월, 시커먼 연기 기둥에 휩싸인 듯한 형태로 사회관계망서비스(SNS)에서 빠르게 유통된 미국 국방부 청사 ‘펜타곤’ 가짜 사진이 전형적인 사례다. 이 사진은 안전자산으로 꼽힌 미 국채와 금 가격, 주가까지 출렁이게 했다.
이보다 앞선 지난 3월, 미국 공화당의 유력 대선 주자인 도널드 트럼프 전 대통령을 뉴욕 맨해튼 경찰이 체포한 조작 사진 역시 생성형 AI 작품이다. 지난 4월 유튜브 등에서 바이든 현 대통령이 내년 11월 선거를 통해 재선될 경우 경제악화와 범죄율 상승, 국경정책 후퇴 등에 따른 혼란까지 가중될 것이란 내용으로 공유된 32초짜리 가짜 동영상 또한 생성형 AI로부터 잉태됐다.
최근 프랑스의 프로축구 클럽인 파리생제르맹(PSG)에 입단한 이강인(왼쪽) 선수가 세계적인 브라질 축구 스타 네이마르와 함께 훈련 장면의 사진을 공개했다. PSG 홈페이지 캡처
상황이 이렇다 보니, 인터넷상에선 “생성형 AI가 의심병을 부추기고 있다”는 우스갯소리도 공공연하게 나온다. 오죽하면 최근 PSG에 입단한 이강인 선수가 팀내 간판 공격수인 브라질의 축구 슈퍼스타 네이마르(31)와 나란히 훈련 중이란 내용의 한 일간지 기사 제목이 “합성사진 아닙니다”라고 쓰였을까.
이런 흐름을 반영이라도 하듯, 세계 각국에서도 AI 규제 기류가 속속 감지되고 있다. 지난 3일 AP 통신 등에 따르면 유엔 안보리 순회 의장국인 영국의 바버라 우드워드 주유엔 대사는 “이달 18일 예정된 회의의 주요 안건으로 AI가 포함됐다”고 밝혔다. 제임스 클레벌리 영국 외무장관이 주재할 이번 회의에선 급진전 중인 AI 기술에 대한 국제 전문가들의 견해를 청취하고 15개 이사국이 그 영향에 대한 논의를 이어갈 계획이다. 중국 역시 이런 기조에 동참하는 모양새다. 중국 당국은 지난 13일 “생성형 AI 서비스 제공자들은 당국에 서비스를 등록하고 제품 출시 전, 보안 평가를 수행해야 한다”고 전했다. 이런 내용은 지난 13일 중국 국가인터넷판공실(CAC) 홈페이지에 게재됐다. 중국의 이런 방침은 8월 15일부터 시행될 예정이다.
아로마스픽
기사 URL이 복사되었습니다.
댓글0