과기정통부, AI안전연구소 개소식
'AI 기업 규제 아닌 협력' 방점
김명주 AI안전연구소장이 27일 경기 성남시 판교 글로벌R&D센터에서 열린 AI안전연구소 개소식에서 운영 비전을 소개하고 있다. 과학기술정보통신부 제공
과학기술정보통신부가 27일 한국을 대표할 인공지능(AI) 안전연구소를 띄우고 국내 24개 산·학·연 기관을 모아 '대한민국 AI안전컨소시엄'을 발족했다고 밝혔다.
이날 과기정통부는 경기 성남시 판교 글로벌R&D센터에서 개소식을 열고 연구소 출범을 알렸다. 이 연구소는 AI 기술의 오용과 통제력 상실 등 'AI 위험'을 연구하고 체계적으로 대응하기 위한 안전 연구 전담 조직이다. 미국·영국·일본 등에 먼저 만들어진 AI안전연구소들과 'AI안전연구소 네트워크를 꾸려 연구 성과를 나누고 통일된 국제 규범을 마련하는 역할도 맡는다.
김명주 초대 소장은 AI안전연구소의 역할이 '규제가 아닌 협력'에 방점이 찍혀 있다고 강조했다. 그는 이날 비전 발표를 통해 "연구소는 히말라야 산맥 등정을 돕는 셰르파 같은 역할을 하리라 생각한다"면서 "우리나라 AI 기업들이 1위 기업이 될 수 있게 여러 위험 요소를 미리 파악하고 돕겠다"고 말했다.
구체적으로는 미국의 국립표준기술연구소(NIST)가 2023년 제안한 AI 위험관리체계(RMF)를 본뜨되 한국 맥락에 맞는 '한국형 AI RMF'를 만드는 것을 목표로 제시했다. 이를 위해 AI 기업과 연구소가 위험 관리 가이드 라인을 공유하고 증거와 과학적 측정을 바탕으로 위험 평가 도구를 마련하겠다고 밝혔다. 딥페이크로 불리는 영상 합성물에 대항하기 위한 탐지·예방 기술 연구도 진행한다.
더 나아가 국내 표준을 국제 표준과 일치시켜 국내 AI 기업의 세계 시장 진출까지 돕겠다는 구상도 내놨다. 김 소장은 "세계 최초로 AI법을 만든 유럽연합(EU)과 협의해 기업들이 국내 AI 안전성 인증을 받으면 EU로 진출하는 데 어려움이 없도록 하는 방향을 희망한다"고 밝혔다.
산·학·연 기관 24개와 컨소시엄 구성
류광준 과학기술정보통신부 과학기술혁신본부장이 27일 경기 성남시 분당구 글로벌R&D센터에서 열린 AI안전연구소 개소식에서 딥페이크 합성 기술 탐지 및 예방에 대한 설명을 듣고 있다. 과학기술정보통신부 제공
AI안전연구소는 한국전자통신연구원(ETRI) 산하에 12인 규모로 출범해 내년까지 30인 규모로 키울 예정이다. 네이버·카카오·삼성전자 등 대기업과 스타트업, 주요 대학과 공공연구기관 24곳은 AI안전컨소시엄을 구성해 연구소의 위험 관리 체계 수립과 테스트베드 구축, 정책 연구 등에 힘을 보탠다.
유상임 과기정통부 장관은 "미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 AI안전연구소를 설립하고 전례 없이 기민하고 체계적으로 국제 AI안전 협력 체계를 구축하고 있다"면서 "한국에서도 AI안전연구소를 중심으로 산‧학‧연 연구 역량을 모아 AI안전의 기술‧정책 역량을 확보하고 AI산업 혁신을 촉진할 튼튼한 안전 기반을 구축해 나가겠다"고 밝혔다.
관련 이슈태그
기사 URL이 복사되었습니다.
댓글0