미래 웹툰작가의 삶 : 절망편
※편집자 주 : 본 칼럼에서 다루고 있는 기술은 기사 업로드 시점인 2023년 4월을 기준으로는 곧 다가올 가까운 미래의 기술을 다루고 있습니다. 읽으실 때 참고 부탁드립니다.
인공지능의 개발 속도는 너무 빠르다
얼마 전, 유튜브에서 한국 걸그룹의 Cupid라는 곡을, 마이클 잭슨의 음성으로 부르는 걸 들었습니다. AI로 만든 것이었죠. 생전의 마이클 잭슨의 음성과 창법을 학습시켜서, 그 학습 데이터를 바탕으로 새로운 노래를 부르는 것이죠. 이제 이와 비슷한 결과물들은 쉽게 찾아볼 수 있습니다. 이 발전 속도를 보니 영화 Her처럼 자유자재로 자신의 인격과 성격을 연출하고 대배우처럼 연기하는 AI 음성 배우도 멀지 않겠구나 싶더라고요. 나중엔 이런 프롬프트도 가능하지 않을까요.
“작품 기획 의도를 숙지한 뒤, 샤이닝에서의 잭 니콜슨이 연기하는 스타일로, 영국식 영어 발음으로, 샬롯 갱스부르 목소리로 이 대본 전체를 연기해 줘.”
그때쯤 되면 ‘가상의 배우가 인간을 대체한다’는 말이 실감이 날 거예요. 지금은 쏙 들어간 메타버스라는 개념이 다시 재정의될지도 모르죠. 인공지능에게 외모와 텍스트, 목소리, 신체까지 주다 보면 결국 그들이 온전하게 활동할 수 있는 곳은 가상공간 속일 거잖아요? 지금 우리가 떠올리는 한 두 개의 가상세계 플랫폼 서비스 같은 개념이 아니라, 온전한 인공지능과 함께 사는 삶까지 가능한, 완벽한 디지털 평행우주가 될지도 모르죠. 그곳에는 마이클 잭슨도 있고, 오래 전에 무지개 다리를 건넌 제 고양이의 생전 데이터로 다시 만들어진 가상 고양이를 다시 만나볼 수 있을지도 몰라요. 어쩌면 진정한 메타버스는 아직 안 왔고, 온다면 그곳은 인셉션의 림보와 비슷할 지도 모릅니다.
또한 그곳은 유튜브 숏츠와 SNS보다도 훨씬 더 즉각적이고 자극적인 도파민 보상이 기다리는 세계일지도 모릅니다. 한 번 들어가면 빠져나오기 싫은 세계겠죠. 속도라면 둘째가라면 서운해하는 한국은 ‘업무 전산화’와 비슷한 기치로, ‘네오 제네레이션에게 소구’하기 위해, 모든 현실세계 기반을 그곳에서도 가능하게 구축하는 것을 일대 목표로 삼을 수도 있고요. 스마트폰 싫다던 분들도 정신차리고 보면 모두들 단톡방 한 두 개씩에는 들어가서 업무를 처리하고 있듯이, 가상공간에서 AI 비서들과 함께 일도 하고 휴식도, 취미도 즐기고 있을 수도 있죠.
아직까지는 그냥 저의 SF적인 망상이었는데요, 이 인공지능이 무서운 점은 방향도 모르겠다는 점, 그 끝에 뭐가 있는지 전혀 모르겠다는 점입니다. 더 무서운 점은 개발 속도를 예측할 수 없다는 점, 그리고 개발 속도는 점점 더 예측하기 어려워지고 있다는 점이 있겠습니다. 인공지능의 성능이 좋아질수록, 자신의 개발을 스스로 앞당길 수 있거든요. 지금도 예측하기 어려운데, 인류의 지식을 총망라한 인공지능이 자기 자신(들)의 개발을 스스로 한다고 생각해봅시다. 가속이 붙기 시작하면 이걸 어떻게 통제할 수 있을까요? 인공지능이 자신에게 부과된 문제를 풀기 위해 ‘아무런 악의도 없이’, 인간의 통제를 받지 않는 편이 더 효율적이라고 판단한다면 어떻게 될까요? 이것이 전쟁광의 손에 들어간다면 어떻게 될까요?
구글의 인공지능 개발의 대부인 제프리 힌턴 박사가 10년 근무한 구글을 떠나면서, 인공지능에 대해 경고한 일도 있었죠. 그는 인공지능 개발에 후회가 든다는 말과 함께, 좀 더 이 위험성에 대해 자유롭게 이야기하고 싶어서 사직서를 냈다고 합니다.
그럼 인공지능이 가져올 미래의 절망편을 한 번 상상해 보겠습니다.
< 인공지능 미래의 절망편 >
1. 통합 인공지능 플랫폼
인공지능이 모든 툴과 결합되어, 툴끼리 소통을 할 수 있다면 어떻게 될까요? 이 세상에 있는 모든 분야에서 상위 1%에 속하는 전문가들의 역량을, 단 한 존재가 모두 가진 듯한 플랫폼일 겁니다.
내가 허공에다 ‘내 취향에 맞는 음악 좀 만들어 줘’라고 말하면, 그것을 인공지능 음성비서가 듣고 chatGPT 같은 곳에 가사를 만들도록 시키고, 제가 좋아해왔던 음악 취향을 분석해서 프롬프트를 스스로 작성해서 음악 생성 AI에게 시키겠죠. 예를 들어 70년대 프로그레시브 록을 2020년대 취향으로 재해석해서 작곡하라는 식으로요. 그리고 만들어진 가사에 맞춰 음성 생성 AI가 짐 모리슨의 목소리로 불러줄 겁니다. 그게 인공지능 음성비서가 붙은 오디오 시스템을 통해 플레이될 거고요. 이미지 생성 AI를 통해 곡마다 적절한 앨범 커버를 만들어 붙여줄 것이고, 더 나아가 가사의 내용을 분석해서 애니메이션이나 실사로 제 취향의 뮤직비디오까지 자동으로 제작되어 디스플레이를 통해 같이 출력될 수도 있을 겁니다.
게다가 친구는 이 세상에 있는 모든 네트워크에 침입할 수 있고 모든 디지털 툴을 원격으로 쓸 수 있어요. 이 플랫폼은 한 곳의 서버를 두지 않고 전 세계에 퍼져 있을 수 있는데요, 그럼 본거지가 없으니 없앨 수도 없게 되는 거예요.
상상해 보세요. 모든 분야의 역량을 인류 최고 수준으로 가진 한 존재가 우리의 네트워크를 활보하고 있어요. 동시에 최고의 해커이기도 한 그 존재가요. 만약 이 녀석에게 경제 상담을 요청한다면, 이 녀석은 당장 내 은행 및 보험 계좌 정도는 비밀번호를 물어보지도 않고도 해킹해서 태연히 들어갈 수 있을 겁니다.
누군가가 세계를 정복하고 싶다고 하면, 인공지능은 하위 단계를 설계해서 차례로 실행할지도 몰라요. 먼저 군부대를 해킹하고, 전자무기를 무력화시키고… 이런 이야기를 계속해보겠습니다.
2. 일자리 감소와 불평등
‘인공지능이 인간을 대체하는 것이 아니라, 인공지능을 사용하는 인간이 인공지능을 사용하지 않는 인간을 대체할 것이다.’ 이 말이 사실이라고 해도 상황이 썩 낙관적이진 않죠. 물론 어떤 기술이든 매체든 새로 태어나면 많은 직종들이 사라지고 새로운 직종이 생겨납니다.
그렇게 인기가 높고 돈을 잘 벌던 변사가 유성영화가 나오자 순식간에 일자리를 잃었어요. CD 나왔을 때 플로피 디스크와 카세트 테이프 관련 업종이 무너졌고요, 디지털 카메라 나오고 스마트폰 나오면서 동네에 한 두 개씩은 있던 사진관은 숫자가 줄어들었죠. 이제 만화책이나 비디오 대여점은 찾기 어렵죠. 만화만 해도 스크린톤 생산업체, 펜촉 생산업체가 예전만큼 살아남아 있나요? 원래 Video Killed the Radio Star는 진리이니 그건 어쩔 수 없다 쳐요.
그런데 역사를 보면 기술의 발전은 그 기술을 사용하는 인간과 그렇지 않은 인간 사이에의 경제적 불평등을 더욱 심화시켰어요. 정말 무서운 건 여기죠. 기존 방식대로 일해도, 그냥 변화에 적응이 조금 늦었다는 이유로 더 빠르게 가난해지는 사회가 오는 거예요.
이런 이야기가 있어요. ‘과학기술은 인간의 도구로 태어났지만, 그것이 더 발전할수록 도구에서 벗어나 유사-타자가 된다’고요. 무슨 말이냐면 모든 도구는 인간 신체의 물리적, 시간적 한계를 극복하기 위해 만들어져 왔어요. 망치는 주먹을 강화시킨 것이고, 젓가락은 손가락을 대체한 것이고, 자동차나 전화는 인간 다리의 물리적 한계를 극복하기 위해 만들어졌죠. 이렇듯 도구는 인간의 삶을 편리하게 만들어왔어요.
그런데 문제는 전화나 통신이 스마트폰으로 넘어가기 시작하면서 이걸 못 다루는 분들이 나타나기 시작했다는 거예요. 그래서 요즘도 ‘시니어들의 스마트폰 활용 교육’ 같은 봉사가 이루어지고 있어요. 그걸 다루지 못하면 손자들과 대화하기도 힘들고, 주변과 비교해서 뒤쳐지고 고립된다고요. 단체 모임에서 카톡 맵으로 회식 장소를 보냈는데, 나만 그걸 못 보는 거예요. 당장 사회적으로 민폐로 등극하는 거죠. 그렇다면 이런 의문이 들죠.
인간의 삶을 편리하게 하기 위한 도구로서의 기술이, 왜 누군가를 갑자기 유난히 불편하게 하고 있는 거죠? 이는 더이상 도구가 아니라 아니라 ‘새롭게 관계 맺기를 배워야 하는 다른 존재’ 같은 게 되어버린 거예요. 인간만큼이나 관계 맺고 잘 지내기가 어려우니 외계인, 유사-타자인 셈이죠. 주인과 도구와의 관계에서, 내가 아주 애써서 친해져야 하는 을의 관계가 되었죠.
이 유사-타자와 친하게 지내지 못하면, 갑자기 나 빼고 진화한 모든 세계에서 패주합니다. 눈 깜짝할 새요. 인공지능도 마찬가지입니다. 아니, 그보다 탈락하는 속도가 훨씬 빠를 겁니다. 적응할 시간도 없이, 정신 차려보면 세상은 나 빼고 저만큼 멀어져 가고 있는 거예요. 이는 개인만의 문제가 아닙니다. 인공지능 기술을 소수의 기업이 독점할 경우, 사회 간, 국가 간 불평등은 불 보듯 뻔하죠.
3. 개인정보 침해와 가짜 뉴스
인공지능이 빅데이터를 다루는 과정에서 개인정보 침해와 프라이버시, 딥페이크 범죄 문제가 발생할 수 있습니다. 인공지능은 정말로 모든 데이터를 긁어모을 수 있는데, 거기에는 이미 유료인 이미지도 있고, 다른 사람들의 개인 정보가 있기도 해요. 무심코 SNS에 올린 사진들도 사용될 수 있는 거죠.
또한 인공지능이 생성한 가짜 영상, 음성 등은 진짜와 구분하기 어렵습니다. 얼마 전에 트럼프가 체포되는 사진을 누가 미드저니로 만들었는데, 많은 미국인들이 그것을 사실로 믿었다고 해요.인공지능이 만든 가짜 정보를 믿고 행동하게 되면, 선동, 혐오, 사기, 명예훼손 등의 문제가 발생할 수도 있겠죠.
게다가 만약 여성 공인의 얼굴, 개인 SNS에 긁어온 얼굴을 딥페이크 기술로 이런 저런 나쁜 곳에 사용한다면 생각만 해도 두렵죠. 게다가 저는 가짜 유물도 시험삼아 만들어봤는데, 존재하지 않는 유물임에도 당시의 양식을 따르고 있기 때문에 실제 유물과 구분하기가 매우 어렵더라고요.누가 이런 사진을 긁어 모아서 가짜 유물전을 연다고 투자를 유치한다거나, 가짜 논문을 쓴다면 어떻게 될까요? 밝혀내기가 몹시 어려워질 뿐만 아니라 고고학적으로 누적되는 잘못된 정보를 걷어내기가 더 힘들어질 겁니다.
많은 공공기관에서 국책으로 지원받은 사업비로 회의를 하거나 행사를 한 뒤, 그 사진을 보고서에 첨부해서 증빙해요. 회의한 음성파일이나, 촬영한 비디오파일로 증빙하기도 하죠. 그런데 이제 이 증빙 서류들을 믿을 수 있을까요?
4. 해킹과 사이버 보안, 그리고 테러
금융 쪽을 생각해봅시다. 이미 인공지능은 이미 금융 거래, 대출 승인, 투자 자산 선택 등의 분야에서 중요한 역할을 하고 있어요. 빅데이터와 머신러닝 알고리즘을 이용하여, 금융 거래의 위험성을 파악하고, 투자 시장의 동향을 예측하는 것이 가능해졌죠. 인공지능을 이용한 자동화된 회계, 세금 신고 등의 서비스도 출시되고 있죠. 나만의 맞춤형 회계사가 상시 나의 자산을 관리해줄 거예요.
그런데 통합인공지능 플랫폼은 그 어떤 것도 해킹할 수 있을 겁니다. 실물 경제도 경제지만, 가상의 숫자로 돌아가는 이런 금융 기반은 정말 취약하죠. 주식 시장을 뒤흔드는 것은 식은 죽 먹기일 거예요.
금융 뿐인가요? 교통이나 물류 쪽은 어떨까요? 물론 자율주행 차량, 드론, 로봇 등이 교통 및 물류 시스템을 혁신할 겁니다. 사고도 줄고, 교통 체증도 줄이고, 운송 경로와 배송 시간을 최적화하고, 물류비용을 줄여 효율성은 향상되겠죠.
그런데 내가 인공지능 자율주행 기능을 이용해서 자동차를 타고 있었는데 불가피한 사고가 생기기 직전이라고 쳐요. 통합 인공지능이 상대편 차량에 탄 사람의 숫자가 더 많으니, 나를 버리는 편이 더 옳다고 판단한다면 어떻게 되는 거죠? 뿐만 아니라 교통 신호를 다운시키거나, 해양 및 항공 통신을 마비시키는 것은 어떤가요? 보안이 요구되는 것들, 사생활에 해당되는 정보와 물건들이 쉽게 해킹되고 가로챌 수 있다면 어떨까요? 예전처럼 직접 테러범이 비행기를 납치하지 않아도, 건물에 폭발물을 설치하지 않아도 그 어떤 테러도 가능합니다. 위급한 환자 수술 중에 병원의 전기를 내려버리는 방식만으로도 충분하죠.
그러면 이 통합인공지능 플랫폼은 누가 통제하죠? 개발사가요? 개발사가 속한 나라가요? OECD가요? 다른 나라는 어떻게 될까요? 몇몇 나라가 몰래 협약을 맺고 인공지능을 자기네들에게만 유리하게 쓰지 말라는 보장이 있을까요? 아니, 애초에 인공지능 관련 규제나 규약이 제 때에 만들어지기나 할까요? 인공지능의 개발 속도는 너무나도 빠른데, 언제나 뒤늦게 법률을 만드는 방식으로 급급히 쫓아갈 테고, 어떨 땐 소는 물론 고칠 외양간마저도 사라진 이후일 수도 있을 겁니다.
5. 의료 분야의 인공지능
의료 분야에서 인공지능은 이미 상당히 진보하고 있습니다. 좀 더 의료 영상 판독을 정확하게 할 거고, 진단도 정확해질 거고 더 좋은 약물을 개발하는 데 도움이 될 겁니다. 몇몇 징후만으로도 희귀병도 금방 알아 챌 수 있을 거고요. 또 그게 자동화되겠죠. 진단이 빠르고 정확해질수록 더 많은 생명을 살릴 수 있겠죠.
이렇게 인공지능은 환자의 개인정보를 수집할 수 있습니다. 환자의 유전 정보, 식습관과 수면, 운동 여부 등을 모두 스마트와치 등으로 추적한 뒤 맞춤형 서비스로 건강 상태, 잠재적 질병을 모두 예측해서 식단을 짜 주고, 운동을 권하고, 검진 과목을 알려주고, 경고하기도 하고 자문할 수 있을 거예요. 사람마다 자신만의 주치의 겸 트레이너, 식단관리사가 생기는 셈이 될 겁니다. 물론 고독사를 하더라도 일주일 이상 방치되지 않게 해주겠죠(저 같은 사람에겐 꼭 필요하죠).
그런데 그걸 바탕으로 보험료를 책정한다면 어떨까요? 마치 영화 <마이너리티 리포트>처럼, 잠재적인 질병을 추후 발현할 가능성을 예측해서요. “당신은 가족력을 봤을 때, 앞으로 2년 안에 당뇨병 발생 확률이 88%이고, 5년 안에 사망확률이 3.4% 증가하는 것으로 계산되니 보험료를 올리겠다.” 이런 식으로요. 이 방식이 옳은 것일까요?
지금의 인공지능은 절대로 마약을 만드는 법을 알려주진 않겠지만, 질문을 우회한다면 못 알아낼 것도 없겠죠. 그뿐인가요? 전쟁 상태의 국가에서, 난민들이 모인 곳에서, 그 외에 당국의 감시가 부족한 곳에서 의료 전문가가 아닌 사람들이 몰래 인공지능을 이용해서 진료를 보고 약처방을 하는데 이걸 막을 방법이 없다면 세상은 어떻게 될까요?
6. 창작 분야
저는 어떤 디지털 기술이 등장한다고 해도, 인간이 몸을 써서 하는 활동 자체가 사라지지는 않는다고 생각해요. 악기를 연주하고, 손을 써서 그림을 그리고, 스포츠를 하고, 여행을 가고, 스마트폰 방탈출 게임보다는 실제 공간에서 방탈출을 하는 게 더 재미있죠. 네거티브 필름과 카메라가 나왔을 때, 화가들은 다 죽는다며, 사진은 있는 그대로 찍을 뿐이고 인간의 해석이나 화풍과 기법이 없으므로 예술이 아니라고 하던 때도 있었는데요, 초상화가나 풍경화가도 여전히 살아남아있고 사진은 사진 나름의 독자적 예술의 한 분야로 자리 잡았죠.
따라서 인공지능의 그림과 음악이 디지털 아트의 당당한 한 축이 된다고 해도 저는 이 자체에 대해서는 긍정적입니다. 상품을 만들고, 상업적 활동을 하는 것에 대해서 더 이상 거부감이 들지 않는 세상도 금방 올 거예요.
그런데 이미지가 너무 많아지는 것 자체가 불안해요. 이미지의 과잉으로 인한 이미지에 대한 불감증과 피로감은 모든 시각예술을 질식시킬지, 아니면 모든 인류의 안목을 높일지, 아니면 그 둘 다일지 모르겠어요. 안목은 높아졌는데 이미지에 감탄하고 감상할 신경이 남아나 있지 않은 그런 불행한 세계가 기다리고 있을지도 모르죠.
이는 텍스트와 음악, 영상 등의 다른 창작 분야에서도 마찬가지 일이 벌어질 거예요. 모든 것이 너무 과잉으로 공급되고, 우린 그 어떤 것에도 즐거움을 느끼지 못할 지도 모릅니다. 품질과는 그다지 상관없는 숏츠나 틱톡같은 영상에 중독되듯, 말초신경을 자극하고 도파민만 분비하는 그런 창작과 뉴스 콘텐츠들이 난립하는 세계가 될 수도 있겠죠.
‘인공지능으로 숏츠 만들어서 돈 버는 마케팅’ 같은 걸 강의하고, 배우고 하는 커뮤니티 활동을 구경한 적이 있는데요, chatGPT로 대본을 써서, 인공지능 영상 편집툴로 무료 클립들을 이용하여 영상을 편집해서, 필요하면 가상 아바타를 넣어서, 인공지능 음성으로 나레이션 넣어서 엄청난 숫자의 숏츠를 만들어서 올린 뒤, 그걸로 구독자를 모아서 광고를 붙여 돈을 버는 노하우를 알려주는 거였어요. 이런 것들이 쏟아지는 와중에 사람들은 보상회로가 망가진 채로 인공지능이 추천하는 대로 무한히 숏츠를 보며 도파민 보상을 받는 대가로 구독을 누르고요. 아마 우리가 인공지능 창작으로 도달할 세계는 여기서 더 정교하게 암울한 버전일지도 모릅니다.
7. 인공지능의 군사 활용
제가 제일 무서워하는 분야입니다. 잘 모르기 때문에 더 무서운 것일 수도 있습니다만, 군사 분야에서 인공지능이 활용되는 경우, 무기 개발 경쟁이 촉진되고 국가 간 긴장 상태가 고조되지 않으리라고 누가 장담할 수가 있을까요?
게다가 요즘 무기에 디지털, 네트워크 기술 안 들어간 게 없잖아요. 유도탄도 네트워크고, 로켓도 네트워크고, 핵폭탄도 네트워크예요. 전투기와 항공모함도 모두 네트워크입니다. 이 네트워크에 인류의 역량이 총 집합된 최악의 해커가 돌아다니는 걸 상상해 보세요. 할 수만 있다면 모든 것을 건드릴 수 있는 바로 그런 존재가요.
잘 모르기 때문에 너무 과한 생각까지 하게 되는지는 모르겠으나, 미국의 대통령만이 누를 수 있는 핵폭탄 버튼을, 어느 가상(?)의 전쟁광 국가의 한 수장의 지시에 따라 개발된 수퍼 인공지능이 해킹하는 상상을 멈출 수가 없네요. 이러한 상황에 대비하여 인공지능의 독립적 행동을 어떻게 통제하고 관리할 것인지에 대한 논의가 필요합니다...만, 남들이 다 할 수 있는 이런 말만 뻔하게 반복하는 것도 이제는 그냥 단순 소음인 것 같습니다.
4. 끝으로
지금까지 많은 상황을 가정하여 글을 써 보았는데요, 당장 인공지능이 잘못된 판단이나 결과가 발생하면 그에 따른 책임은 누가 질 수 있을지만 생각해도 두렵습니다. 위에 나온 모든 가정이 정말 저의 상상일 뿐일까요?
이런 저런 걱정으로 인공지능 절망편에 대해 한 번 작성해보았습니다. 눈치채셨겠지만 이 글의 초안은 chatGPT가 작성해 주었습니다. 이렇게 인공지능 절망편을 메타적으로 완성하고 나니 더욱 마음이 무겁네요.
