요즘 인공지능(AI)이 대세입니다.
방대한 연산 능력, 수십억 권의 책과 문서에 대한 접근성, 스스로 학습할 수 있는 능력, 놀라운 처리 속도를 갖춘 기계가 어떻게 세상을 장악할지 헤드라인을 읽거나 뉴스를 켜지 않고는 알 수 없습니다.
어젯밤 폭스 뉴스의 진행자 터커 칼슨은 엘론 머스크와 AI에 대해 심도 있는 대화를 나누기도 했습니다. 머스크는 낙관적인 전망을 내놓지 않았습니다.
저는 수년 동안 AI와 그 잠재력을 연구해 왔습니다.
저는 최근 일반화된 초지능과 AI를 국가 안보 업무에 적용하는 프로젝트의 일환으로 세계에서 세 번째로 빠른 비정부 슈퍼컴퓨터를 몇일간 방문했습니다.
AI는 얼마나 발전하고 있을까요? 인간 지능과 대략적인 동등성에 얼마나 근접해 있을까요? 그리고 인류에게 어떤 위험을 초래할까요?
적어도 지금은 막을 수 있습니다.
실험가들은 이제 기계가 스스로 생명을 얻고 인간과 문명을 공격하는 모습을 상상합니다.
하지만 기계가 미쳐 날뛰면 플러그를 뽑으면 된다는 사실을 기억하는 것이 중요합니다.
AI 역량에 대한 옹호론자들은 한 곳을 비활성화해도 코드와 알고리즘이 다른 곳에서 나타나 공격을 계속하는 것을 막을 수 없는 캐치 미 이프 유 캔 시나리오에서 AI가 그 전략을 예상하고 다른 기계로 자신을 '내보내기' 때문에 플러그를 뽑는 것이 효과가 없을 것이라고 주장합니다.
그럴 수도 있습니다.
하지만 여기에는 필요한 처리 능력을 갖춘 충분한 컴퓨터의 가용성, 대체 컴퓨터가 방화벽과 디지털 해자에 둘러싸여 있을 가능성이 높다는 사실, 여러 가지 구성 및 상호 운용성 문제 등 모든 종류의 물류 문제가 있습니다.
이러한 제약 조건을 이해해야 하지만 지금은 일단 플러그를 뽑아두세요. 실제로 AI의 잠재적 피해를 제한하는 동시에 막대한 이점을 얻을 수 있는 여러 가지 안전장치가 제안되고 있습니다.
여기에는 투명성(제3자가 결함을 식별할 수 있도록), 감독, 약화된 형태의 적대적 학습(기계가 남는 시간에 인간을 상대로 음모를 꾸미지 않고 문제를 해결할 수 있도록), 승인 기반 수정(기계가 자율 머신러닝을 활성화하기 전에 '허락'을 받아야 함), 재귀적 보상 모델링(기계는 인간으로부터 '칭찬'을 받은 특정 방향으로만 이동) 및 기타 유사한 도구 등이 포함됩니다.
물론 인공지능의 배후에 있는 세력이 악의적이고 실제로 인류를 파괴하려는 의도를 가지고 있다면 이러한 안전장치는 아무런 소용이 없습니다. 이는 절망적인 아돌프 히틀러에게 원자폭탄을 맡기는 것과 같습니다. 우리는 그 다음에 무슨 일이 일어났을지 알고 있습니다.
**AI와 함께하는 제임스 본드**
이 경우의 해결책은 정치, 법의학 및 방어에 더 중점을 두어야 합니다. 정보 수집이 큰 역할을 할 것입니다. 물론 이는 기계 대 기계의 정보 수집과 기만 전쟁으로 빠르게 발전할 것입니다.
제임스 본드가 발터 PPK 대신 하이퍼컴퓨터를 가지고 있다고 상상해 보세요. AI와 GPT(생성형 사전 학습 트랜스포머)의 최신 개발로 인해 우리는 용감한 새로운 세계에 직면하게 되었습니다.
투자자들은 막강한 처리 능력에도 불구하고 금융 자문을 GPT 시스템에 의존하는 것에 주의해야 합니다.
예를 들어, AI는 이미 깨어 있는 이데올로기로 프로그래밍되고 있습니다. 깨어 있는 초지능이 만들어낼 수 있는 디스토피아적 미래를 상상해 보세요.
**깨어난 1984 (A Woke 1984)**
조지 오웰의 고전적인 디스토피아 소설인 『1984』(흔히 1984년으로 출판됨)를 잘 알고 계실 것입니다. 1948년에 쓰여진 이 소설의 제목은 1948년의 마지막 두 자릿수를 거꾸로 뒤집은 데서 유래했습니다.
이 소설은 오세아니아, 유라시아, 동아시아 등 세 개의 세계 제국이 끊임없는 전쟁 상태에 놓인 세계를 묘사합니다.
조지 오웰은 이 소설을 위해 독창적인 어휘를 만들었는데, 그 중 상당수는 오늘날에도 비꼬아 말하긴 하지만 흔히 사용되고 있습니다. 생각 경찰, 빅 브라더, 이중 사고, 뉴스 스피치, 기억의 구멍과 같은 용어는 모두 『1984』에서 유래한 것입니다.
조지 오웰은 2차 세계대전 이후 냉전이 시작되면서 특정 국가가 어떻게 변할 수 있는지에 대한 경고로 이 소설을 쓰려고 했습니다. 그는 분명 스탈린주의를 우려했지만, 그의 경고는 서구 민주주의에도 적용되었습니다.
1984년 새해가 밝았을 때 많은 사람들은 조지 오웰의 예언이 실현되지 않았다는 사실에 안도의 한숨을 쉬었습니다. 하지만 안도의 한숨은 시기상조였습니다. 조지 오웰의 악몽 같은 사회가 오늘날 공산주의 중국이라는 형태로 현실화되었으니까요...
**1984년 중국 출시**
중국은 조지 오웰의 책에 묘사된 전체주의 사회의 장치 대부분을 갖추고 있습니다. 중국은 얼굴 인식 소프트웨어와 유비쿼터스 디지털 감시를 통해 자국민을 추적하는 동시에 AI 개발에 매진하고 있습니다. 인터넷은 검열되고 감시됩니다. 정부나 정부 정책에 반대하는 의견을 표현하면 실제 사상경찰이 체포할 수 있습니다.
수백만 명의 중국인이 체포되어 '재교육' 수용소로 보내져 세뇌를 받거나(운이 좋은 경우) 마취 없이 비자발적으로 장기를 적출당했습니다(운이 나쁘면 극심한 고통 속에 죽어 곧바로 화장을 당합니다).
이러한 잔혹 행위는 미국이나 요즘 서방에서는 일어나지 않지만, 중국의 감시 국가에서는 덜 극단적인 측면이 있을 수 있습니다.
인기 없는 의견을 표명하거나 통념에 이의를 제기했다는 이유로 체포되지는 않겠지만(적어도 아직은), 다른 제재를 받을 수도 있습니다. 심지어 직장을 잃고 다른 직장을 찾기가 거의 불가능할 수도 있습니다.
**검열 (Censorship)**
소셜 미디어에서 금지될 수도 있습니다. 보수적인 성격의 소유자나 정치인이 아니라면 소셜 미디어(주로 Facebook, Twitter, Instagram, Snapchat, YouTube 및 기타 몇 가지 플랫폼)에는 무엇이든 올라갈 수 있습니다. 바로 여기서 검열이 시작됩니다.
많은 보수적인 소셜 미디어 사용자들이 협박이나 저속함 때문이 아니라 '진보적인' 견해에 대한 비판(다소 날카로운 비판이긴 하지만)으로 인해 계정을 폐쇄하거나 정지당했습니다.
반면, 진보적인 견해를 가진 사람들은 소셜 미디어에서 폭력을 암묵적으로 지지하는 것을 포함하여 거의 모든 말을 할 수 있습니다. 하지만 아무 일도 일어나지 않습니다.
다른 보수주의자들은 "섀도우 밴"의 표적이 되고 있다고 보고합니다. 이는 계정이 열려 있고 정상적으로 작동하는 것처럼 보이지만 사용자도 모르는 사이에 네트워크의 많은 부분에서 게시물이 차단되고 '좋아요' 및 '리트윗'과 같은 인기 있는 기능이 잘려서 배포되지 않는 경우입니다.
문제는 이러한 추세가 매우 빠르게 진행되고 있으며 이를 멈추기 어렵다는 것입니다. 그리고 시민을 감시하는 정교한 감시 기술이 이미 시행되고 있습니다...
"사람을 보여주면 범죄를 보여드리겠습니다"(“Show Me the Man and I’ll Show You the Crime”)
예를 들어, 최신 감시 기술이 적용된 카메라는 99% 이상의 정확도로 수백만 명의 얼굴을 실시간으로 찾아내고 매칭할 수 있습니다. 이러한 카메라는 대테러 및 범죄 방지 도구로 선전되고 있으며, 실제로도 그렇습니다.
하지만 스탈린의 무자비한 비밀 경찰 책임자 라브렌티 베리아가 말했듯이 "사람을 보여주면 범죄를 보여주겠다"는 말이 있습니다. 평범한 시민을 표적으로 삼기 위해 권력이 남용되는 것을 쉽게 볼 수 있습니다.
(참고로 베리아는 나중에 반역죄로 체포되어 처형됨으로써 결국 자신의 주장을 증명하게 됩니다).
문제는 악의적 인 행위자가 잘못된 정보로 문헌을 채우고 개발자의 편견이 코드에 침투하기 시작하면 AI가 폭정의 도구가 될 수 있다는 것이 분명하다는 것입니다.
AI는 분명 주시해야 할 대상이며, 우리는 중요한 질문을 던져야 합니다. 하지만 인공지능이 곧 세상을 장악할 것이라고 걱정할 필요는 없습니다.
그 대신 공산주의 중국처럼 되는 것을 걱정해야 합니다.
댓글 없음:
댓글 쓰기