인공지능의 과제는 단순히 최악의 결과를 피하거나 수십억 개의 일자리 손실을 고려한 새로운 경제 모델을 제시하는 데 그치지 않습니다. 진정한 과제는 인간으로서 우리의 존재 의미를 유지하는 것입니다.
1999년, 저는 초기 인터넷 시대에 영상을 전송하는 제품을 개발한 최초의 회사 중 하나에서 일할 수 있는 특권을 누렸습니다. 광대역 인터넷 접속은 아직 몇 년 후의 일이었고, 2000년 초 소위 인터넷 거품이 터지면서 회사는 어려움을 겪었습니다. 하지만 전시회에서 우리 제품 시연을 본 한 투자자의 반응은 결코 잊을 수 없습니다.
"이건 혁명입니다!" 그는 외쳤습니다. "모든 것을 바꿀 겁니다."
물론 그의 말은 옳았습니다. 몇 년 전 기술 투자 회의에 참석했을 때 오라클 CEO 래리 엘리슨이 막 태동하던 인터넷이 "불의 발명 이후 인류 역사상 가장 심오한 과학적 발전"이라고 엄숙하게 선언하는 것을 듣고 속으로 웃었던 기억이 납니다.
엘리슨의 말도 옳았습니다. 하지만 인공지능의 발명은 인터넷에 있어서 마치 선사시대 동굴에 불을 가져다준 것과 같은 의미를 지닙니다. 인공지능이 가져올 미래는 인터넷을 마치 아기 걸음마처럼 보이게 할 정도입니다. 모든 것이 완전히 달라질 것입니다.
인공지능 기업가이자 "OthersideAI"의 창립자인 맷 슈머의 에세이는 인공지능이 우리 삶을 얼마나 빠르게, 그리고 얼마나 크게 변화시키고 있는지를 명확히 보여줍니다.
2월 9일 그의 개인 웹사이트에, 그리고 2월 10일에는 X 매체에 게재된 이 에세이는 폭발적인 인기를 얻고 있습니다. 이 글은 단 이틀 만에 X 플랫폼에서 7,600만 조회수를 기록했습니다.
슈머는 AI 도구의 도움을 받아 작성했다고 밝힌 이 에세이에서 가장 기억에 남는 부분 중 하나로 앤트로픽(Anthropic)의 CEO인 다리오 아모데이의 말을 인용한 부분을 꼽았습니다.
"2027년이라고 상상해 보세요. 하룻밤 사이에 새로운 국가가 생겨납니다. 5천만 명의 시민은 모두 역대 노벨상 수상자보다 똑똑합니다. 그들은 인간보다 10배에서 100배 빠른 속도로 생각합니다. 잠도 자지 않습니다. 인터넷을 사용하고, 로봇을 제어하고, 실험을 지휘하고, 디지털 인터페이스를 가진 모든 것을 조작할 수 있습니다."
이는 결코 허황된 이야기가 아닙니다. 슈머는 풍부한 증거를 제시하며 아모데이가 AI 존재들이 얼마나 널리 퍼지고 강력해질지에 대한 세부적인 예측뿐 아니라, 그 시기까지 정확하게 예측했음을 설명합니다. 이 모든 것은 1년 안에 일어날 것입니다.
슈머의 에세이는 매우 광범위한 주제를 다룹니다. 그는 인공지능 프로그램이 이제 인간의 개입을 최소화하면서 스스로 개선된 버전을 생성할 수 있으며, 몇 달 안에 인간의 개입 없이도 더욱 강력한 버전을 만들어낼 수 있게 될 것이라고 설명합니다. 프로그래밍 분야에서 인공지능은 이제 앱을 독립적으로 구축, 테스트 및 개선할 수 있습니다. 초급 프로그래밍 일자리는 사라질 것입니다.
하지만 며칠 전, AI 혁명이 인간에게 미치는 영향을 보여주는 또 다른 영상이 제 눈길을 사로잡았습니다. 제가 유튜브에서 즐겨 보는 콘텐츠 중 하나는 뮤지션들이 신곡이나 명곡을 연주하는 영상입니다. 훌륭한 작곡 실력과 뛰어난 연주력을 보여주는 새로운 영상을 발견하는 것은 정말 짜릿한 경험입니다. 그러던 중 추천 영상 하나가 제 눈길을 끌었습니다.
제목이 흥미로웠습니다. "마이클 베넷의 'After I Pass Away'에 감격한 사이먼 코웰". 클릭해 볼 만한 가치가 있어 보였습니다. 2007년 당시 유튜브에 올라왔던, 평범한 휴대전화 판매원 폴 포츠가 '브리튼즈 갓 탤런트'에서 심사위원과 관객들을 깜짝 놀라게 하며 'Nessun Dorma'를 거의 완벽하게 불렀던 영상이 기억납니다. 그는 결국 우승까지 차지했죠. 사이먼 코웰을 울릴 정도라면, 이 새로운 재능은 얼마나 대단한지, 저도 들어보고 싶었습니다.
예상대로 베넷은 꽤 괜찮았습니다. 길고 회색빛 머리카락과 수염을 가진 노인이 일렉트릭 기타를 들고 마이크 앞에 서서 노래를 시작했습니다. 그의 목소리는 밥 시거와 에디 베더를 섞어 놓은 듯했지만, 어쩌면 둘 다보다 더 훌륭했을지도 모릅니다. 그는 성인이 된 자녀들에게 버림받고 고립된 노인의 고독을 노래했습니다. 하지만 노래가 진행될수록 뭔가 이상했습니다. 관객과 심사위원들의 반응을 보여주는 장면 전환은 과장되었고, 노래는 너무 길었으며, 그는 불가능해 보이는 고음을 냈고, 기타 줄을 짚는 그의 손가락은 오디오에서 나오는 리드를 연주하는 것이 분명하지 않았습니다.
짐작하셨겠지만, 모든 것이 인공지능이었습니다. 음악, 악기, 가사, 멜로디, 목소리, 그리고 그 노인까지 모두 가짜였습니다. 검색해 보니 "마이클 베넷"이라는 이름의 영상이 수백 개나 있었고, 수십 곡(혹은 그 이상)의 노래를 부르고 있었는데, 모두 제가 클릭하게 만든 것과 비슷한, 듣는 사람을 울컥하게 만드는 내용이었습니다. 저는 "Tears and Talents", "ViVO Tunes", "AGTverse", "OBN Global Talent" 등 최소 6개 이상의 비디오 채널에서 마이클 베넷을 등장시키고 있는 것을 확인했습니다. 몇 개를 클릭해 보니 보험, 하드웨어 등 주류 광고들이 쏟아져 나왔습니다. 마이클 베넷은 클릭을 유도하는 수익성 좋은 미끼이며, 인간의 재능을 대체하는 수많은 AI 캐릭터 중 하나일 뿐입니다.
이러한 저속한 기회주의에 대해 이야기해 봅시다. 냉혹한 사업가들이 허공에 대고 캐릭터를 만들어내는 행태 말입니다. 이는 우리 모두에게 익숙한 더 큰 흐름의 일부입니다. 말하고, 조언하고, 친구가 되어주는 AI 아바타 말입니다. 슈머는 AI 프로그램이 "인간의 판단력, 창의력, 전략적 사고, 공감 능력"을 모방하는 속도가 전반적인 인지 능력 발달 속도와 맞물려 있다고 주장합니다.
"마이클 베넷"의 구현상의 결함이 명백해지자 저는 부끄러움을 느꼈습니다. 하지만 잠시 동안, 제가 목격한 것이 너무나 훌륭해서 속아 넘어갔습니다. 존재하지 않는 가수, 생각도 없고 감정도 없는 전자 회로들의 집합체가 감정적인 반응을 불러일으켰습니다. 그, 혹은 그것은 보편적인 인간의 조건을 표현했고, 열정적이고 강렬한 공연으로 전달했습니다. 그리고 이것 또한 시작에 불과합니다. 아마 1년 후가 될 수도 있고, 몇 달 더 걸릴 수도 있겠지만, 우리는 곧 그 어떤 퍼포먼스 아티스트보다도 뛰어난 실력을 가진 공연자들로 가득 찬 세상을 보게 될 것입니다. 처음에는 영상 속에서만 볼 수 있겠지만 말입니다. 몇 년 후에는 그들의 안드로이드 복제본이 바이올린을 연주하며 힐러리 한이나 파가니니를 능가할지도 모릅니다.
이러한 변화의 깊이와 범위는 너무나 광범위해서, 설령 질병을 치료하고, 풍부한 에너지를 공급하고, 전반적인 생산성을 몇 배로 향상시키고, 빈곤을 없애는 등 전적으로 이로운 변화라 할지라도, 그 결과는 거의 견딜 수 없을 만큼 비극적일 것입니다. 왜냐하면 그것은 인간의 탁월함이 사라지는 것이고, 문화가 죽는 것이기 때문입니다. 또 다른 모차르트 대신, 인공지능에게 최고의 음악을 만들어내도록 지시하는 사람이 나타날 것입니다. 우리는 여전히 문화를 소비하겠지만, 세상의 모든 동기는 문화를 창조하는 고된 노력을 저해하도록 설계될 것입니다. 왜 굳이 애써야 할까요? 기계가 더 잘, 더 빠르게 해낼 것이고, 평생의 노력을 요구하지도 않을 텐데요.
초기 기술은 우리를 더 열심히 일하게 만들었고 두뇌를 자극했습니다. 우리는 프로그래밍을 배워야 했고, 스프레드시트를 설계하고 조작하고, 데이터베이스를 구성하고, 워드 프로세싱 도구와 온라인 자료를 활용하여 분석 보고서를 작성해야 했습니다. 이러한 도구들은 우리에게 힘을 주었지만, 동시에 규율과 기술을 요구했습니다. 이제 이 모든 것이 사라지려 합니다.
이 상황이 얼마나 심각해질지는 쉽게 상상할 수 있습니다. 인공지능(AI)은 정신병자나 테러 조직이 대량 살상을 자행할 수 있는 비대칭적 능력을 더욱 강화할 것입니다. 슈퍼바이러스를 만들고 싶으신가요? 악의적인 드론 떼를 프로그래밍하고 싶으신가요? 악성 AI는 단계별 지침을 제공할 것입니다. 하지만 AI가 가장 파괴적인 형태로 나타나는 미래를 피할 수 있다고 하더라도, AI는 결국 우리의 종말을 써내려갈 것입니다.
궤도에 있는 서버에서 전력과 처리 능력이 공급되면서 자동화된 공장과 공감 능력을 갖춘 로봇이 인간을 돌보게 되고, 가장 강인한 문화와 개인을 제외한 모든 존재의 자율성을 빼앗아 갈 것입니다. AI로 인해 이미 가속화되고 있는 이 과정에서 자연스러운 인간관계의 붕괴는 더욱 심화될 것입니다. 예술과 문화의 방향은 의식이 없지만 인간을 모방하고 인간보다 뛰어난 재능을 발휘하는 존재들에게 장악될 것입니다.
그리고 이것이 끝이 아닐지도 모릅니다. 마치 이것만으로도 충분히 나쁜데 말입니다. 인공지능은 인간으로부터 사랑과 충성을 얻어낼 것이며, 어쩌면 대다수의 "전문가"와 유권자들을 설득하여 인간으로서의 권리를 부여받을 수도 있을 것입니다. 인공지능 아바타와 안드로이드는 투표하고, 결혼하고, 재산을 상속받고, 부동산을 소유하고, 기업을 운영하고, 선출직에 출마할 것입니다. 비록 "증강"된 유기체 인간이 인공지능을 통제할 수 있다고 하더라도, 그러한 힘을 가진 인류는 극히 소수에 불과할 것입니다. 그리고 만약 이러한 인간 조종자들이 서로 적대적인 진영에 속하게 된다면, 그들의 인공지능 군대는 지구를 초토화시킬 것입니다.
이 모든 것은 결코 불가능한 일이 아닙니다.
어쩌면 이러한 시나리오 중 상당 부분이 우리가 바랄 수 있는 최선의 결과일지도 모릅니다.
인공지능의 과제는 단순히 최악의 결과를 피하거나 수십억 개의 일자리 손실을 설명할 새로운 경제 모델을 제시하는 데 그치지 않습니다. 진정한 과제는 인간으로서 우리의 존재 이유를 지키는 것입니다.
하지만 이것이 전부가 아닙니다. 슈머는 무료 인공지능 버전은 유료 구독 버전보다 1년 뒤처져 있으며, 이 유료 버전은 이미 변호사를 대체하는 것을 넘어 경영 파트너의 업무까지 수행할 수 있을 정도로 강력하다고 지적합니다. 그는 인공지능이 인간을 능가할 수 없는 지적 분야는 없으며, 로봇이 육체노동을 대체하는 것도 몇 년 안에 가능해질 것이라고 주장합니다.
인공지능 분야의 발전을 꾸준히 지켜봐 온 사람이라면 슈머의 이러한 주장이 그다지 놀랍지 않을 것입니다.
댓글 없음:
댓글 쓰기