이과지옥

자율주행 자동차, 4차 산업혁명, 비트코인과 가상화폐...어릴때는 머나먼 미래에나 생길 것 같던 일들이 이미 일어나는 세상입니다. 이미 패스트푸드 매점에는 점원보다 키오스크가 더 많고, 간단한 qr코드로 결제가 가능합니다. 그래픽 카드 없이 클라우드 서비스로 게임을 플레이 할 수 있고 사람이 없어도 기계가 스스로 운전을 하며 바둑이 인간을 이기는 세상입니다. 아직까지는 피부로 체감되도록 와닿지는 않지만 이미 일어나고있는 일입니다.

이제와서야 실현된 기술들이지만, 인간의 상상력은 끝이 없기에... 이런 기술들은 이미 여러 문화 매체들에서 오래 전에 소개된 적이 있습니다. 대표적인 예가 터미네이터입니다. 고도로 발달한 ai 컴퓨터가 세상을 지배하게 된다는 설정은 지금은 정말 흔한 설정이지만 80년대에 등장하기에는 너무나도 시대를 앞서간 매력적인 설정이었죠. 터미네이터를 기점으로 ai와 기계 학습에 대한 대중적인 관심이 폭발적으로 늘어났고, 이를 기반으로 한 소재들의 문화매체들이 우후죽순 쏟아지기 시작했습니다. 더불어 실제로 기계학습과 인공신경망등은 영화가 개봉하기 전부터 이미 연구되고있던 기술이었으며, 1996년에는 딥블루라는 슈퍼 컴퓨터가 체스 그랜드 마스터를 꺾으며 AI가 곧 세상을 지배하는게 아니냐는 의견이 나오기도 했습니다. 몇십년이 지나도 아직 기계가 세계를 지배하고있지는 않지만, 인간을 뛰어넘는 ai들에 대한 소재는 꾸준이 언급되던 소재입니다. 제가 소개할 웹툰도 마찬가지구요.

네이버웹툰 'ai가 세상을 지배한다면' 에서는 고도로 발달한 ai들이 인간 사회에 섞여 생활하는 모습/ 인간보다 우월한 모습과 인간과 비슷한 감정을 가진 로봇들이 등장하는 옵니버스 웹툰입니다. 카톡으로 인간에게 명령을 내리기도 하고, 스스로 개선을 하거나 성격을 가지고, 티비 프로그램에 나가 쇼미더머니처럼 경연을 하기도 합니다. 그저 웹툰속 세계관이긴 하지만, 기계가 개인의 핸드폰을 해킹한다거나, 차를 해킹하는 모습은 소름돋기까지 합니다. 지금이야 그저 만화의 소재로 등장하지만, 언젠가는 인류가 예상하지 못한 에러로 인해 기계의 반란이 일어날 수 있을까요? 아니면 그저 웹툰의 소재일 뿐일까요?

위 질문에 답하기 위해서는 우선 인공지능이 어떤 방식으로 성장하는지 알고있어야 합니다. 인공지능에는 지도학습(supervised learning)과 비지도학습 (unsupervised learning)이라는 학습법이 있습니다. 지도 학습은 인간이 그 틀을 정해주는 것이고, 비지도 학습은 인간의 그 어떤 교정도없이 바닥부터 인공지능이 혼자서 학습하며 성장하는 방식이죠. 단적인 예를 들면 지도학습방식을 택한 알파고 리는 인간이 작성한 기보를 기반으로 바둑 두는법을 학습했지만, 비지도 학습을 택한 알파고 제로는 인간의 그 어떤 가이드도 없이 두대의 컴퓨터가 서로 발전을 거듭하며 기계만의 바둑을 학습했습니다. 그리고 그 결과 알파고 제로는 알파고 리를 100전에서 100승 할만큼 압도적인 모습을 보여줬습니다. 결국 인간이 기초중에 기초이며 당연시 여겼던 바둑의 주춧돌이 틀렸다는 의미였죠.

이런 비지도 학습에서 ai들은 때로는 아주 엉뚱한 해답을 내놓기도 합니다. 예를 들자면 컴퓨터 과학자들이 컴퓨터에게 게임을 잘하도록 학습시키려 '최대한 오랫동안 죽지마라'라는 사전 조건을 주고 기계학습을 시켰는데, 컴퓨터는 퍼즈버튼을 눌러 죽지 않는 방법을 찾아냈고, 게임을 플레이하여 오래 살아남는 대신 퍼즈버튼을 눌러 최대한 오래 게임오버 문구가 뜨지 않도록 하는 엉뚱한 방법을 찾아낸 것 입니다. 이처럼 인간이 예상하지 못한, 변인을 감안하지 못해 구멍뚫린 울타리를 만들게 되면, ai는 그 틀을 벗어나 분명히 (인간 기준에서) "남용"을 하게 됩니다.

설명이 조금 어려웠나요? 그럼 조금 더 쉬운 예를들어보죠. 환경오염은 21세기의 인류가 맞닥뜨린 최악의 문제들중 하나입니다. 지구의 평균 온도는 올라가고 있고, 오염물질들이 배출되고, 플라스틱 제품들로 이뤄진 거대한 섬이 태평양의 한 가운데에 관측되기도 했죠. 이런 상황을 해결하기 위해 '지구의 환경이 개선될 방법을 찾아'달라고 주문을 했을때 보통 인간들의 생각으로는 탄소제한이나 플라스틱 제품 생산제한, 친환경 에너지 개발등을 생각하겠지만 컴퓨터는 '인류의 멸망'이 지구의 환경이 개선될 가장 효과적인 방법으로 결론낼 수 있다는 뜻입니다.

하지만 가능성은 아주 희박합니다. AI가 정치, 외교, 경제, 과학등 인류가 통달한 모든 분야에서 머신러닝을 끝마쳐서 인류를 뛰어넘은 경지에 이르고, 모든것들을 하나로 묶어 이 모든것의 연관성과 관계까지 학습이 가능한 하드웨어적, 소프트웨어적 환경이 갖춰지고, 인간을 해하거나 인간을 월등히 뛰어넘는 능력을 "남용"할 수 있도록 일족의 프로그램적 울타리나 제한들이 없게 설계가 되어야 하죠. 이게 말이 쉽지, 현재 인류의 기술 수준을 벗어나야 가능한 일입니다. 구글의 알파고도 그저 하나의 컴퓨터가 모든것을 계산했다고 생각하는 사람들이 있지만, 이 첨단 기계학습의 결과물은 사실 구글의 거대한 클라우드 데이터 센터에 존재하는 슈퍼컴퓨터들에서 빨려올라온 방대한 데이터들의 결과물입니다. 구글에 의하면 알파고는 1920개의 CPU와 280개의 GPU, 그리고 920테라바이트의 하드드라이브를 사용했다고 합니다. 세상의 모든것을 지배하는 ai가 존재하려면 정치, 문화, 공업, 산업, 기계, 공업 등등....수없이 많은 분야의 알파고들이 필요합니다.그리고 각 알파고마다 1920개의 CPU와 280개의 GPU, 그리고 920테라바이트가 넘는 거대 컴퓨터가 필요하겠죠.

개인적으로 이런 하드웨어의 벽을 뛰어넘고 일종의 "기계혁명"이 일어나기 위해서는 컴퓨터 하드웨어 부분에서 "패러다임 쉬프트"가 일어나야한다고 생각합니다. 기존 컴퓨터들을 계산기 수준으로 보이게 만들만한 엄청난 하드웨어 기술이 발견/혹은 발명된다면, 어쩌면 인간과 많은 생물들이 수억년동안 쌓아놓은 본능과 지식을 뛰어넘는 AI가 생성될수도 있겠지요.

사실은 인간들도 그저 오랫동안 진화를 거쳐 여러가지 바이오스나 운영체제가 미리 세팅된 고기 컴퓨터라고 볼 수도 있지 않을까요? 세상은 중립적인겁니다. 기계들도 자가생산으로 번식을 하고, 인간보다 더 우월한 존재가 된다면 다음 문명의 지배자가 될 수도 있습니다. 앞으로 몇십년간은 그럴일이 없는 섬뜩한 생각이지만, 언젠가는 금속몸을 가진 로봇들만이 길을 걸어다닐수도 있지 않을까 생각해봅니다.