[WSF 2016]"초지능사회, 유토피아냐 디스토피아냐"

△닉 보스트롬 교수(왼쪽)와 김대식 교수는 오는 14~15일 이틀간 ‘일상의 변화:휴먼&디지털’이라는 주제로 열리는 제7회 세계전략포럼에서 세션1(15일) ‘AI가 바꾸는 세상, 유토피아 or 디스토피아?’를 주제로 대담을 펼칠 예정이다.

[이데일리 김영수 기자] “인간보다 뛰어난 지능을 지닌 기계가 출현하는 초지능 사회는 인류에게 어떤 미래를 가져올까?”

오는 14일부터 15일까지 이틀간 서울 신라호텔에서 열리는 제7회 세계전략포럼의 하이라이트는 15일 세션1에서 진행될 닉 보스트롬 옥스퍼드대 교수와 김대식 카이스트(KAIST) 교수 간 대담이다. ‘AI가 바꾸는 세상, 유토피아 or 디스토피아?’라는 세션의 주제에서 알 수 있듯이 초지능사회를 바라보는 시각은 미래를 연구하는 학자마다 제각각이다.

보스트롬 교수는 그의 저서 ‘초지능(Superintelligence)’에서 인간을 능가하는 지능의 가치, 문제점, 시나리오 등에 대한 진지한 화두를 던졌다. 이에 당대 최고의 물리학자인 스티븐 호킹, 테슬라 모터스의 엘론 머스크, 애플 공동 창립자 스티브 워즈니악, 빌 게이츠 등은 보스트롬 교수가 제기한 AI의 위험성을 지지했다. AI가 인류의 삶을 긍정적으로 바꿀 잠재력이 큰 만큼 파괴적인 결과를 초래할 가능성에 주목했다고 볼 수 있다.

뇌과학자이자 인공지능 연구자인 김대식 교수 역시 기계에 독립성이 생겨 강인공지능으로 나아간다면 더이상 인간이 해결할 수 없다는 부정적 의견을 피력했다. 이들 모두 인간보다 뛰어난 AI가 펼쳐질 미래를 걱정하고 있다고 볼 수 있다.

오래 전부터 과학기술의 발전과 인류의 미래를 연구해온 보스트롬 교수는 과학으로 인간을 개선시키거나 완벽한 존재로 만들어야 한다고 믿는 트랜스 휴머니스트이기도 하다. 그는 인간의 본성은 기본적으로 기술을 통해 향상될 수 있지만 인류가 어떻게 하느냐에 따라 기계와 공존하는 미래가 뒤바뀔수 있다고 보고 있다. 보스트롬 교수는 특히 딥 러닝과 같은 마스터 학습 알고리즘을 통해 자율성과 독립성을 인식하는 기계가 탄생한다면 왜 자신이 인간의 명령을 따라야 하는지 인간은 왜 존재하는지 등에 대한 질문을 할 수 있는 만큼 이에 대한 답을 준비해야 한다고 주장한다. 따라서 인간이 이에 미리 대비하기 위해서는 지속적인 연구가 진행돼야 한다고 강조한다.

반면 김대식 교수는 기계와 인간이 공생할지 여부는 인간이 아닌 기계가 결정할 문제라고 주장한다. 자율성 또는 독립적 자유의지를 학습한 범용적 인공지능이 나타난다면 인간의 제어에서 벗어날 것으로 보고 있기 때문이다.

김 교수는 “인간이 지구를 지배하게 된 것은 인간보다 더 뛰어난 도구를 만들어 제어할 수 있었기에 가능했다”며 “이와 마찬가지로 전통적으로 말하는 강한 인공지능은 두려운 존재가 아니지만 통제에서 벗어난 인공지능은 두렵다”고 말했다. 이어 “인공지능이 자유의지를 학습해서 스스로 자유의지가 있는 것처럼 행동할 수 있지 않겠느냐”며 “강인공지능을 자유의지 또는 독립성이라고 얘기하는데 자유의지가 있는 것과 자유의지가 있는 것 처럼 행동하는 것의 차이점이 무엇인지 묻고 싶다”고 강조했다.