미 국방부 인근 가짜 화재 사진 공유
생성형 AI 관리 통제할 국제기구 필요성
유럽연합과 구글, 대책 마련 합의
[아로마뉴스(45)]5.22~26
편집자주
4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차) 등에 대한 주간 동향을 살펴봤다.
지난 22일(현지시간) 미국 국방부내 화재 발생으로 추측된다며 사회관계망서비스(SNS)를 통해 유통된 사진은 생성형 인공지능(AI)에 의해 조작된 것으로 드러났다. 트위터 캡처
얼핏 보면 실시간으로 전송된 폭발 사고 현장 사진으로 인식됐다. 도심 속 대형 화재 발생과 함께 시커멓게 솟구친 구름 모양의 연기 기둥이 미국 심장부인 국방부 건물을 뒤덮고 긴박한 상황에 직면한 것처럼 여겨지면서다. 2001년 미국을 뒤흔들었던 9.11 테러까지 연상되기에도 충분했다. 하지만 이 사진의 중심엔 생성형 인공지능(AI)이 자리했던 것으로 밝혀지면서 일단락됐다. 생성형 AI로 빚어진 이 가짜 사진이 사회관계망서비스(SNS) 등을 통해 약 10분 동안 유통된 가운데 벌어졌다는 미국 소방당국의 공식 설명도 뒤따랐다.
지난 22일(현지시간) 미 NBC 방송 등을 통해 전해진 이 소식은 SNS에 편승, 세계 각국으로 속속 전해졌다. 허무하게 마무리된 해프닝이었지만 파장은 컸다. 미국 정가 안팎의 혼란부터 가중된 데다, 금융시장까지 요동쳤다. 사고 당일 오전 9시30분 개장된 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 불안감을 느낀 일부 투자자들로 인해 0.3% 가량 떨어진 반면 안전자산으로 꼽힌 미 국채와 금 가격은 일시적으로 상승했다. 이내 정상 궤도를 찾았지만 이는 시장에 우려가 돌발했을 경우 나타난 전형적인 사례로 남겨졌다.
생성형 AI 대중화와 더불어 암울한 미래로 예견됐던 ‘디스토피아’가 실생활에서 속속 구현되고 있다. 지난해 말, 미국 스타트업인 오픈AI의 ‘챗GPT’ 출시를 계기로 인간계에 진입한 생성형 AI가 최근 들어선 문화와 예술 부문 등에서 벗어나 정치·사회 영역까지 오남용된 형태로 빈번하게 등장하면서다.
문제는 추세다. 갈수록 조작 내용이 심화되고 있다. 지난 3월, 미국 공화당의 유력 대선 주자인 도널드 트럼프 전 대통령을 뉴욕 맨해튼 경찰이 체포한 사진 역시 생성형 AI 작품이다. 지난달 유튜브 등에서 바이든 현 대통령이 내년 11월 선거를 통해 재선될 경우 경제악화와 범죄율 상승, 국경정책 후퇴 등에 따른 혼란까지 가중될 것이란 내용으로 공유된 32초짜리 동영상 또한 생성형 AI로부터 잉태됐다.
상황이 이렇다 보니, AI가 인간의 목숨까지 타깃으로 정할 수 있을 것이란 살벌한 경고도 나왔다. 영국 일간 텔레그래프와 포브스 등에 따르면 에릭 슈미트 전 구글 최고경영자(CEO)는 24일 월스트리트저널 주최로 열린 CEO 협의회에 참석해 “AI가 실존적인 위험을 가하고 있다”며 “실존적인 위험이란 아주 많은 사람이 다치거나 죽는 것을 뜻한다”고 밝혔다. 이어 “현재로선 허구이지만 추론 자체는 사실일 가능성이 높다”며 “그러면 우리는 악한 이들이 이를 오용하지 않도록 대비하고 있어야 한다”고 지적했다. 슈미트 전 CEO는 2000년대 이후 실리콘밸리 중심이 된 인터넷과 모바일 산업을 주도해온 인물로, 2019∼21년엔 미국 AI 국가안보위원회(NSCAI) 위원장도 역임했다.
샘 알트먼 오픈 인공지능(AI) 최고경영자(CEO)는 지난 16일(현지시간) 미국 워싱턴DC 더크슨 상원의원회관에서 열린 상원 법제사법위원회 사생활·기술·법소위 인공지능(AI) 청문회에 참석해 “AI 모델의 위험을 완화하기 위해 정부 규제 개입이 중요하다”며 관계 기관의 협조를 구했다. 워싱턴DC EPA=연합뉴스
생성형 AI 열풍을 불러온 오픈AI조차 자체 규제의 필요성에 공감하고 있다. 샘 알트먼 오픈AI CEO는 22일 자사 블로그에 “우리는 더 번영하는 미래를 가질 수 있지만 거기에 도달하려면 위험을 관리해야 된다”며 “AI의 잠재적 위험을 통제하고 부작용을 막기 위해선 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 제안했다. 비현실적으로 보일 수 있지만 IAEA와 같은 독립된 국제기구에서 생성형 AI에 대한 국제 표준을 정하고 별도 감사까지 진행할 필요가 있다는 게 그의 판단이다.
이런 정황들은 생성형 AI 악용 예방을 위한 적극적인 움직임으로 이어지고 있다. 지난 24일 유럽연합(EU)에 따르면 EU는 구글과 AI 오남용에 필요한 자발적인 대책 마련에 합의했다. 티에리 브르통 EU 내부시장 담당 집행위원은 이날 벨기에 브뤼셀을 방문한 순다르 피차이 구글 CEO와 회동 직후 트위터에 "구글 CEO와 모든 유럽 및 비유럽권 AI 관계자와 함께 (EU의) AI 규제 입법에 앞서 자발적으로 'AI 협정'을 마련하자는 데 합의했다"고 전했다. 또한 "유럽 내 업계가 데이터 보호, 온라인 안전, AI에 대한 모든 EU 규정을 존중하리라고 기대한다"면서 "피차이 CEO가 이를 인지하고 있으며 모든 EU 규정을 준수하겠다고 한 점을 환영한다"고 말했다. EU 집행위는 지난 2021년 EU 전역에 적용하기 위한 AI 규제 법안 초안을 마련한 가운데 최근 챗GPT와 미드저니 등 생성형 AI 등장으로 우려가 커지자 입법에 속도를 내고 있다.
한규민 디자이너
기사 URL이 복사되었습니다.
댓글0