"이거, AI가 만든 겁니다"... 메타, AI 생성 이미지에 '가짜 딱지' 붙인다

메타, AI로 만든 이미지에 라벨 부착기로
페이스북·인스타그램 등에 몇 달 내 도입

페이스북·인스타그램을 운영하는 사회관계망서비스 기업 메타의 로고. 로이터 연합뉴스

페이스북·인스타그램을 운영하는 미국 소셜미디어 기업 메타가 인공지능(AI)으로 만든 이미지엔 'AI 생성'을 표시한 라벨을 부착하겠다고 6일(현지시간) 밝혔다. 사회관계망서비스(SNS)가 딥페이크(이미지·목소리·영상 등을 진짜처럼 합성하는 기술) 콘텐츠 확산의 '공범'이라는 지적과 함께 부작용 논란이 확산하자, 그 폐해를 방지하기 위한 조치 강화를 약속하고 나선 것이다.

'식별 정확성 향상' 기술 표준 마련도 추진

뉴욕타임스(NYT) 등 미국 언론들에 따르면, 메타는 이날 "앞으로 몇 달 안에 AI 생성 이미지에 라벨을 붙일 것"이라고 발표했다. 지금까지는 메타의 이미지 생성 도구로 만들어진 이미지에만 '이매진드 위드 AI(Imagined with AI)'라는 라벨을 붙여 왔는데, 향후에는 오픈AI·마이크로소프트·어도비 등 타사 도구로 생성된 이미지에도 이를 적용하겠다는 것이다. 이를 위해 그동안 AI 생성 여부를 잡아내는 식별 도구를 개발하고 발전시켜 왔다고 설명하기도 했다. 메타는 "세계적으로 중요한 선거가 많이 치러지는 내년까지 라벨 부착 조치를 취하겠다"고 덧붙였다.

이와 함께 메타는 "AI 생성 여부를 확인할 수 있는 업계 표준 기술 마련을 추진하겠다"고도 밝혔다. 현재 이미지 생성 AI 도구들은 파일 속성 정보(메타 데이터)에 'AI로 만들어졌다'는 사실과 생성 시점 등을 표시하고 있다. 문제는 이 정보의 표기 방식이 회사마다 다른 탓에 식별 도구가 AI 생성 이미지를 100% 정확하게 걸러 내는 게 힘들다는 점이다. NYT는 "통일된 표준이 마련돼 널리 채택되면 사람들이 빠르고 쉽게 AI 생성 콘텐츠를 알아채는 데 도움이 될 것"이라고 짚었다.

게티이미지뱅크

라벨 잘라 내 무력화 가능... "창과 방패의 싸움"

이 같은 메타의 조치는 딥페이크 콘텐츠 폭증으로 사회적 우려가 커지는 상황에서 나왔다. 미국에선 지난달 최고 인기 가수인 테일러 스위프트의 얼굴을 제3자의 나체 사진과 악의적으로 합성한 이미지가 SNS를 통해 급속히 퍼졌는데, 이는 20시간도 안 돼 최소 2,000만 회 이상 조회됐다. 'SNS 기업들도 딥페이크 콘텐츠 확산 책임에서 자유롭지 않다'는 비판이 거세진 이유다. 소셜미디어 기업들 역시 가짜 이미지 확산 방지와 피해 최소화를 위한 기술을 개발하고, 촘촘한 모니터링에 더 적극적으로 나서야 한다는 목소리가 커졌다는 얘기다.

앞으로 AI 생성 콘텐츠에 라벨을 부착하는 조치가 시행되면 이용자들이 딥페이크에 속는 경우도 줄어들 전망이다. 그러나 이 역시 라벨을 잘라 내거나 속성 정보를 수정하는 등의 방식으로 무력화할 수 있다는 점에서 완벽한 해결책은 아니다. 그나마 딥페이크 이미지는 속성 정보를 통해 쉽게 식별할 수 있는 반면, 딥페이크 음성이나 영상은 현 기술 수준으로는 감지가 어렵다는 것도 큰 문제다. 닉 클레그 메타 글로벌정책담당 사장은 "나쁜 행위자들은 항상 우리가 만든 표준을 회피하려고 노력할 것"이라며 '창과 방패의 싸움'에 빗댔다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com