영국 과학혁신기술부 추진 '첨단 AI 안전 공약'에 16개 기업 서명
AI 서울 정상회의 로고.
한국과 미국·유럽·중국·중동에 걸친 16개 인공지능(AI) 개발 기업들이 21일 서울에서 개최된 'AI 서울 정상회의'를 맞아 "책임 있는 AI 개발" 선언에 동참한다.
이날 영국 과학혁신기술부에 따르면 한국의 삼성전자와 네이버, 글로벌 빅 테크(거대 기술기업)인 구글, 아마존, 메타, 마이크로소프트, AI 전문 개발기업인 앤트로픽과 오픈AI 등이 AI 서울 정상회의를 계기로 영국 정부가 내놓은 '첨단 AI 안전 공약'에 서명했다. 서명한 16개 기업 가운데는 중국의 스타트업 지푸AI와 아랍에미리트의 기술혁신연구소(TII), G42 등도 포함됐다.
서명한 AI 기술기업들은 △최첨단 AI 모델의 위험을 진단할 수 있는 안전 프레임워크 문서를 게시하고 △임계 수준을 넘어서는 위험을 완화하지 못할 경우에는 해당 모델이나 시스템의 개발을 중단하고 배포하지 않겠다는 데 동의하게 된다. 영국 정부는 '위험의 임계 수준'은 2025년 프랑스에서 열릴 차기 AI 정상회의 시점에 각국 정부와 기업 등의 논의를 거쳐 설정될 것이라고 예고했다.
지난해 AI 안전 정상회의를 주도해 '블레츨리 선언' 도출에 앞장선 영국 정부는 이번 공약에 서구뿐 아니라 중국과 중동 기업도 참여했다며 의미를 부여하고 있다. 리시 수낵 영국 총리는 "다양한 국가의 다양한 첨단 기업이 동일한 AI 안전 공약에 동의하게 된 첫 사례"라면서 "AI 안전성의 국제 규범에 선례로 자리매김할 것"이라고 밝혔다.
영국과 AI 서울 정상회의를 함께 개최하는 한국도 이를 지지했다. 이종호 과학기술정보통신부 장관은 "첨단 AI 안전 공약이 글로벌 AI 산업 생태계의 모범 사례로 자리매김할 것이라 확신한다"며 "기업이 정부와 학계, 시민사회와 지속적으로 대화하고 'AI 안전 연구소'와 협력망을 구축하길 바란다"고 밝혔다.
관련 이슈태그
기사 URL이 복사되었습니다.
댓글0