AI가 인류를 종말로 이끌 것인가? 아무도 모른다. 특히 그런 주장을 펼치는 이들조차도 말이다.
최고의 시절이자, 동시에 종말의 시절이었습니다...
이제는 선도적인 AI 연구소 관계자 중 누군가가 자신들이 개발 중인 기술이 인류를 몰살시킬 것이라고 경고하는 소리를 듣지 않고는 하루는커녕 몇 시간도 지나가기 힘든 지경이 되었습니다. 단순히 환경이나 사회에 어떤 식으로든 악영향을 미치는 정도가 아닙니다. 말 그대로 우리를 죽일 것이라는 이야기죠.
이제 이런 이야기는 비주류 온라인 커뮤니티나 베이 에어리어(Bay Area)의 저녁 식사 자리에서나 오가는 수준을 넘어섰습니다. 이러한 공포가 주류 담론으로 확산되고 있는 것입니다. 제 가족들도 끊임없이 이 문제에 대해 제게 묻곤 합니다. 대서양 건너 유럽까지 이 이야기가 퍼졌죠. 심지어 미국 대통령조차 이런 인식을 불식시키고 공포를 잠재우기 위해 기술 컨퍼런스에 전화로 깜짝 등장하는 방식을 취하기도 합니다. 물론, 결과적으로는 오히려 역효과를 낳고 말았지만요.
AI 기업 입장에서 그나마 다행인 점은, 이 문제로 인해 데이터 센터 관련 논쟁이 아주 사소한 일처럼 보이게 되었다는 것입니다. 하지만 나쁜 소식은... 글쎄요, 그 외의 모든 것이 문제라는 점이죠.
그래서 상황이 어떻냐고요? 우리는 정말 끝장난 걸까요?
예상했듯이, 현재 AI 분야에 종사하는 많은 이들이 이러한 신념을 따르는 사람들입니다. 그들은 스스로 이 일을 선택했으며, 의심할 여지 없이 자신들이 세상을 이러한 파멸로부터 보호하는 데 기여할 수 있다고 믿고 있습니다. 하지만 우리가 AGI(범용 인공지능)에 점점 더 가까워짐에 따라—사실 지금은 RSI(재귀적 자기 개선, Recursive Self-Improvement)라는 용어가 특히 문제가 되는 듯합니다(이에 대한 두려움은 '합리주의자'들이 등장하기 훨씬 전부터 존재했죠)—이들 중 다수는 자신들이 오랫동안 믿어왔던 그 '종말'이 임박했다고 확신하고 있습니다.
다시 말하지만, 그들이 틀렸다는 이야기가 아닙니다. 단지 그들이 실제로 미래를 알고 있다고는 생각하지 않는다는 것입니다. 그리고 그들이 그런 주장을 펼칠 때 내재된 편향성을 염두에 두어야 한다는 점을 말씀드리고 싶습니다. 또한 이러한 담론이 격화됨에 따라, 양쪽 진영 모두에서 말 그대로 FUD(공포, 불확실성, 의구심)를 이용하려는 사람들이 분명히 존재한다는 점도 지적하고 싶습니다.
어쨌든, 이러한 종말론자들보다 한 단계 위에는 다양한 AI 기업의 경영진이 있습니다. 이들은 종말론자들의 견해를 그대로 답습하지는 않지만, 그렇다고 완전히 일축하지도 않습니다. 이것이 바로 이 문제의 핵심입니다. 왜냐하면 경영진의 태도가 그러한 주장에 신빙성과 무게감을 실어주는 것처럼 보이기 때문입니다. 다리오 아모데이(Dario Amodei)의 배경과 기존 신념을 고려하면 이런 태도가 예상될 수 있지만, 그의 '철천지 원수'인 샘 올트먼(Sam Altman)조차 개발 속도 조절을 요구하고 나선 것은 의구심을 넘어 우려를 자아내기에 충분합니다.
단지 개발 속도를 늦추는 것이 OpenAI와 같은 선도적인 AI 연구소의 이익에도 부합하기 때문일까요? 그런 시각이 지나치게 냉소적이라고 생각하고 싶지만, 완전히 배제할 수는 없는 노릇입니다. 저는 여전히 이 현상의 주된 원인을 RSI에 다가감에 따라 무슨 일이 일어날지 아무도 모른다는 사실에서 찾습니다. 만약 우리가 의도치 않게 RSI 단계로 진입하게 된다면, 상황이 매우 나빠질 수도 있습니다! 물론 괜찮을 수도 있겠죠. 하지만 과연 그런 위험을 감수할 가치가 있을까요?
따라서 데미스 하사비스(Demis Hassabis)와 같이 업계에서 존경받는 리더들까지 개발 일시 중단을 촉구하고 나선 것은, 결국 이 기술이 정확히 어디로 향하고 있는지 아무도 모른다는 사실을 인정한 것이라고 봅니다. 애초에 누가 그걸 알 수 있겠습니까? 아모데이조차 최근 '속도 조절(pacing)'을 촉구하는 에세이에서 이러한 논리를 사실상 인정하고 있습니다.
얀 르쿤(Yann LeCun) 같은 인물들은 이 모든 것을 '헛소리'라고 치부합니다. 하지만 그에게도 편견은 있습니다! 바로 LLM(거대언어모델)에 대한 부정적인 시각이죠. 그는 오랫동안 많은 이들과 마찬가지로, LLM이 유용하긴 하지만 AGI(범용 인공지능)에 도달하기에는 근본적으로 너무 초보적인 수준이라고 믿어왔습니다. 그런 관점이라면, LLM의 인간 언어 모방 능력이 세상의 종말을 초래할 것이라고는 당연히 생각하지 않겠죠.
하지만 'AI의 대부' 중 한 명으로서 그가 아무리 화려한 이력을 가졌더라도, 현실은 그 역시 확실한 건 모른다는 사실입니다. 그 누구도 확신할 수 없죠. 우리는 미지의 영역에 들어와 있으며, LLM 회의론자들조차도 이 기술이 당초 많은 사람이 예상했던 수준을 훨씬 뛰어넘었다는 점은 인정할 수밖에 없을 것입니다.
그렇다면 빌 게이츠는 어떨까요? 글쎄요, 그의 이력 중에 미래를 예측하는 데 특별히 적합한 요소가 있을까요? 유감스럽지만 그렇지 않습니다. 그가 옳은 예측을 할 수도 있겠지만, 그건 그가 이 분야에 대해 남모르는 특별한 지식을 가지고 있어서가 아닐 겁니다.
결국 제 말은, 가능성이 있다는 뜻입니다. 하지만 가능성이 전혀 없을 수도 있다는 뜻이기도 하죠. 물론 이 말이 별로 도움이 안 될 수도 있겠지만, 적어도 세상이 곧 끝장날 것처럼 떠들어대는 사람들 때문에 불안해하는 이들의 마음을 조금은 진정시켜 줄 수는 있겠네요. 상황이 무사히 지나가는 것부터 파멸에 이르는 것까지, 그 사이에는 거의 무한한 범위의 결과가 존재합니다. 게다가 그중 상당수—아마 절반 정도는!—는 사회에 긍정적인, 혹은 아주 훌륭한 결과를 가져올 수도 있습니다.
이 분야에 종사하는 많은 사람들은 분명 이런 식으로 자신의 활동을 합리화할 것입니다. '합리화'라는, 다소 민감한 함의를 담은 단어를 계속 사용하는 게 꺼려지긴 하지만, 이 상황에 딱 들어맞는 표현이기도 하니까요. 인류의 종말이 올 가능성이 조금이라도 있다면 당장 일을 그만두지 않겠습니까? 물론, 자신의 연구로 세상을 구할 수 있다고 생각한다면 이야기는 다르겠지만요.
바로 여기에 명백한 긴장 관계가 존재합니다. 그리고 또 하나, 모두가 알면서도 언급하기 꺼리는 거대한 문제, 바로 중국이 있습니다. AI 연구를 완전히 중단하는 것은 고사하고 잠시 멈추기만 해도 중국이 우리를 앞질러 나갈 것이라는 두려움 말이죠. 트럼프 대통령이 이 문제에 대해 불만을 표출하며 강경한 발언을 쏟아내는 것도 바로 이런 이유 때문입니다. 그리고 그런 우려 또한 합리적인 측면이 있습니다! 만약 중국에 '합리주의자(Rationalist)'적 흐름이 없다면, 그들은 스스로 위험성을 판단하지 않는 한 계속해서 연구를 밀고 나갈 가능성이 큽니다. 그런 조짐이 약간 보이긴 하지만, 그들의 우려는 '세상의 종말'보다는 한 단계 낮은 차원, 즉 '재앙적인 안보 위협'에 초점이 맞춰져 있는 듯합니다.
그렇다면 앞으로 어떻게 해야 할까요? 저도 모릅니다. 사실 아무도 모르니까요. 분명 그 사실 하나만으로도 저는 기술 발전의 '속도 조절(pacing)'을 주장하는 신중론자 편에 서야 할지도 모릅니다. 하지만 저는 현실적인 측면도 고려하려 합니다. 중국에 대한 우려뿐만 아니라, 많은 기업이 기업공개(IPO)를 향해 질주하고 있다는 사실도 중요하니까요. 이 두 가지가 반드시 상충하는 것은 아니지만, 본질적으로 서로 얽혀 있는 부분이 분명 있습니다. 요점은, 현재 상황에서 이해관계가 제대로 맞물려 돌아가지 않고 있다는 것입니다.
적어도 지금 우리가 겪고 있는 것은 심각한 소통의 위기입니다. 내부 고발과 영화관에서 "불이야!"라고 소리치는 행위 사이에는 분명 경계선이 있는데, 우리는 지금 그 경계를 시험하고 있는 셈입니다. 물론 저는 누구나 AI가 세상을 멸망시킬 것이라는 의견을 자유롭게 개진할 수 있어야 한다고 생각합니다. 하지만 건설적이지 않고 오히려 파괴적인 결과를 초래할 수 있는 방식으로 그런 의견을 밖으로 표출해야만 한다고 느낀다면, 과연 최첨단 AI 연구소에 계속 고용되어 있는 것이 옳은지는 의문입니다. 당사자들은 자신들의 행동이 AI 연구 속도 조절(혹은 전면 금지) 주장에 힘을 실어준다고 생각하겠지만, 결국에는 역효과를 낼 수도 있습니다. 카일 리스(또는 T-800)가 과거로 돌아오기 전까지는 아무도 미래를 알 수 없다는 사실에는 변함이 없습니다.
글쎄요, 어쩌면 그럴지도 모릅니다! 하지만 아닐 수도 있죠. 저는 그저 '삼각 분석(triangulation)'이라는 기술을 활용하고 가능한 한 '오컴의 면도날' 원칙을 따르려 노력하는 외부 관찰자일 뿐입니다. 다시 말해, 합리적이려고 노력하지만 소위 '합리주의자(Rationalist)' 집단에 속하지는 않는 사람으로서 제가 내린 단순하고 명백한 결론은, 사실 아무도 정확히 알지 못한다는 것입니다.
별로 위로가 되는 말은 아니겠지만, 만약 이런 온갖 보도들 때문에 정말 미칠 듯한 공포를 느끼고 계신다면, 오히려 이 사실이 위안이 될 수도 있을 겁니다.
연구소 내부 인물들이 쏟아내는 이런 '종말론적' 이야기들을 믿지 말라는 뜻은 아닙니다(물론 그 발언자들 대부분이 경력이 짧거나 지위가 낮은 실무진이라는 점은 감안해야겠지만요). 다만 그들이 가진 편향성을 한번 살펴보시라는 말씀을 드리고 싶습니다. 대충 훑어보기만 해도 앞서 언급한 '합리주의자' 운동과의 명백한 연관성이 드러나는 경우가 많거든요. 흔히 '효과적 이타주의자(Effective Altruists)'들이 AI 종말론의 주범으로 몰리곤 하지만, 지난주 칼 뉴포트(Cal Newport)가 에세이에서 간결하게 정리했듯이, 사실 수십 년 전 이런 종말론의 씨앗을 뿌린 것은 (엑스트로피안(Extropians)을 거쳐 온) 합리주의자들이었습니다.
댓글 없음:
댓글 쓰기