스스로 깨닫고 창의성까지…더 강력한 ‘알파고 제로’ 등장

‘셀프 바둑’으로 이전 알파고 능가

기존 틀에서 벗어나 창의성까지 발휘

스스로 깨우치는 '강화 학습'이 핵심

AI의 새로운 이정표 제시

인간의 한계 극복할 AI 시대 성큼

게티이미지뱅크

구글 자회사 딥마인드의 인공지능(AI) 바둑 프로그램 알파고는 지난해 3월 ‘인간 대표’ 이세돌 구단을 4대 1로 꺾어 전 세계에 충격을 안겼다. 올해 5월엔 세계 최강 중국의 커제 9단마저 정식 대국에서 알파고에 3대 0으로 무릎 꿇은 뒤 눈물을 흘렸다.

딥마인드는 이세돌 9단과 겨룬 AI를 ‘알파고 리(Lee)’, 보다 발전해 커제 9단을 격파한 버전을 ‘알파고 마스터(Master)’로 명명했다. 인간이 만든 정석을 외우거나 기보를 통해 바둑을 학습했다는 게 두 가지 알파고의 공통점이다.

AI의 신기원을 연 딥마인드는 여기서 더 나아가 백지상태에서 스스로 바둑을 깨우친 AI를 선보였다. 인간의 한계를 뛰어 넘은 것은 물론 창의성까지 발휘하는 ‘알파고 제로’다.

딥마인드 창업자이자 최고경영자(CEO) 데미스 하사비스와 딥마인드 소속 연구원 16명은 19일(한국시간) 세계적인 과학저널 ‘네이처’에 알파고 제로의 개발 과정 등을 담은 ‘인간의 지식 없이 바둑 마스터하기’(Mastering the game of Go without human knowledge)란 제목의 논문을 발표했다.

논문에 따르면 알파고 제로는 바둑 규칙 이외에 정석이나 기보 등 어떠한 사전 지식도 없는 상태의 신경망에서 출발했다. 이 상태에서 혼자서 바둑을 두며 데이터를 쌓아 스스로 바둑의 이치를 터득한 게 알파고 제로의 실체다.

커제 9단은 지난 5월 27일 중국 저장(浙江)성 우전(烏鎭) 인터넷 국제컨벤션센터에서 열린 ‘바둑의 미래 서밋’ 마지막 3국에서도 ‘알파고 마스터’의 벽을 넘지 못하자 대국 도중 눈물을 보였다. 우전=연합뉴스

인간의 지식으로 AI를 교육ㆍ감독하는 ‘지도학습 시스템’(supervised learning system)과 달리 알파고 제로에는 생물의 뇌와 유사하게 시행착오를 통해 이치를 깨닫는 ‘강화 학습 시스템’(reinforcement learning system)이 적용됐다.

이는 더욱 놀라운 AI를 만들어냈다. 한 수에 0.4초가 걸리는 초속기 바둑을 혼자 둔 알파고 제로는 인간이 쌓아온 바둑의 정수를 스스로 깨달았고 나아가 독특한 정석을 개발했다. 알파고 리의 실력은 독학 36시간 만에 넘어섰다. 40일간 2,900만 판을 둔 뒤에는 기존 최강 알파고 마스터와의 대국에서 89승 11패를 거두며 압도적 우위를 점했다.

알파고 제로는 컴퓨팅 파워까지 크게 줄였다. 알파고 리에는 구글이 만든 반도체 칩 텐서프로세싱유닛(TPU) 48개가 적용됐지만 알파고 제로는 고작 4개로 작동한다.

논문은 알파고 제로의 능력에 대해 “인간이 가진 지식의 한계에 구속되지 않기 때문에 더 강력해졌다”고 설명했다. 하사비스 딥마인드 CEO는 “고작 2년 만에 알파고가 얼마나 멀리 왔는지 보면 놀랍다”고 밝혔다.

구글 딥마인드 데미스 하사비스 CEO가 지난해 3월 알파고가 이세돌 9단에게 첫 승을 거둔 뒤 열린 기자회견에서 소감을 밝히고 있다. 구글코리아 제공

알파고 제로의 등장은 인간의 틀이 아닌 AI만 할 수 있는 새로운 지평을 제시했다. 데이터 조달 비용이 많이 들거나 아예 없어도 AI 스스로 데이터를 만들어 문제해결에 나설 가능성이 열린 것이다. 아예 인간 전문가가 전무하거나 접근조차 불가능한 새로운 영역에서 AI는 더욱 빛을 발할 수도 있다. 딥마인드는 블로그를 통해 “알파고 제로는 새로운 지식을 발견했고 새로운 수를 창조했다. 우리는 이런 창조력을 보고 인간의 독창성을 배가할 수 있을 것으로 확신했다”고 밝혔다.

김창훈 기자 chkim@hankookilbo.com