인터넷 보안업체 샌즈랩은 5일 실물 사진을 합성한 가짜 사진인 딥페이크를 찾아내는 '페이크체크' 서비스를 출시했다고 밝혔다. 이 서비스는 이용자가 딥페이크에 악용됐을 것으로 의심되는 사진을 올리면 몇 초 이내에 딥페이크 악용 여부를 판별해 알려준다.
이 서비스는 누구나 무료로 이용할 수 있으며 별도의 회원 가입이나 인증 등 번거로운 절차를 거치지 않아도 된다. 이 업체는 서비스 운용에 필요한 클라우드 비용 등을 사회공헌 차원에서 자체 부담하기로 했다.
샌즈랩에서 개발한 딥페이크 사진을 찾아내는 '페이크체크' 서비스. 샌즈랩 제공
페이크체크는 원본 비교 및 추론 탐지 등 여러 기술을 사용한다. 원본 비교는 이용자가 제공하는 원본 사진을 토대로 딥페이크를 찾아낸다. 그만큼 정확도와 탐지율이 높다. 반면 원본 사진이 없을 경우 픽셀 변화나 왜곡 변화를 감지하는 추론 탐지 방식을 사용하는데 정확도와 탐지율이 떨어진다. 업체 관계자는 "제출한 원본 사진을 저장하지 않고 탐지 후 삭제한다"고 말했다.
이 업체는 시험판으로 선보인 페이크체크를 지속적인 기술 개발을 통해 개선할 예정이다. 업체 관계자는 "현재는 딥페이크 사진만 찾지만 기술이 개선되면 영상까지 찾아낼 것"이라며 "이를 위해 계속 기술 개발을 하겠다"고 설명했다.
이 업체는 과학기술정보통신부와 정보통신기획평가원에서 발주한 '생성형 AI 역기능 억제 플랫폼'을 개발하고 있다. 이 플랫폼은 딥페이크나 저작권 침해 콘텐츠 등 AI를 부정적으로 사용한 결과물을 찾아내는 기술을 모아 놓는 솔루션이다. 4개년 계획으로 진행 중이어서 2028년 개발 완료 예정이다.
관련 이슈태그
기사 URL이 복사되었습니다.
다양한 주제의 콘텐츠를 둘러보세요.
댓글0