제3차 세계대전의 위기? AI가 이란행 중국 선박에 핵무기 부품이 실려 있다고 '환각(오인)'하다

 통제 불능 상태의 인공지능(AI)이 미래의 제3차 세계대전을 촉발할 수 있을까?

이런 상황을 상상하기 위해 '터미네이터 2'의 스카이넷(SkyNet) 같은 영화가 필요한 것은 아닙니다. 이미 2026년인 지금, 핵무장국인 중국과의 실제 무력 충돌로 이어질 뻔했던 끔찍한 선례가 존재하기 때문입니다.

미국 정보기관 소속의 한 분석가가 AI가 수집한 데이터를 바탕으로 보고서를 작성하여 국방부(펜타곤) 내 기밀 채널을 통해 널리 공유했습니다. 하지만 문제는 그 분석가가 의존했던 챗봇이 이란으로 향하던 중국 선박에 핵무기 부품이 실려 있다는 '환각(실제로는 존재하지 않는 정보를 사실인 양 생성해내는 오류)'을 일으켰다는 점이었습니다.

참고 이미지: 미 제7함대 자료 사진, 정찰 해병대 훈련 모습

당연히 이 일은 워싱턴에 최고 수준의 경계 태세를 발령하게 만들었습니다. 당시 상황은 트럼프 대통령이 바로 그런 사태—이란이 핵무기 및 핵무기 부품을 확보하는 것—를 막겠다는 명분으로 시작한 '뜨거운 전쟁(실제 교전이 벌어지는 전쟁)'이 한창 진행 중이던 때였기 때문입니다.

이에 따라 군의 작전 계획 수립이 급물살을 탔고, 특수부대를 투입해 해당 선박에 승선·검색하는 작전이 임박한 상황이었습니다. 정예 병력과 장비가 이미 공중에 떠서 문제의 중국 선박으로 강하할 준비를 마친 상태였다고 합니다.

그러나 CNN의 금요일 특종 보도에 따르면, "당국자들이 정보 보고서를 면밀히 검토한 결과 해당 보고서가 AI 챗봇의 도움을 받아 작성되었다는 사실을 확인한 뒤에야 작전이 중단"되었습니다. 이 사건은 지난봄에 발생한 것으로 알려졌습니다.

자칫 세기의 지정학적 실책이자 재앙이 될 뻔했던 사태를 막기 직전에야 이 심각한 오류가 발견되었습니다. "챗봇이 해당 선박에 실린 물자를 잘못 식별했던 것"입니다.

결국 미국은 완전히 조작된 '정보'에 근거하여 중국과의 충돌로 치달을 뻔한 상황에 처했던 셈입니다.

이 이야기가 단지 과장되었거나 불필요하게 선정적이라고 생각할지 모를 사람들을 의식한 듯, 한 익명의 당국자는 CNN에 해당 정보 평가가 "완전히 거짓"이었으며, 결과적으로 "거의 전쟁을 일으킬 뻔했다"고 전했습니다.

미 태평양 특수작전사령부를 포함한 미 국방부 수뇌부는 아직 CNN의 질의에 답변하지 않고 있지만, CNN은 사건의 전말과 어떻게 이런 일이 발생할 수 있었는지 다음과 같이 정리해 보도했습니다.

이번 사례에서 분석관은 하와이에 본부를 둔 미 태평양 특수작전사령부에서 나온 선박 적하 목록 관련 정보 보고 내용을 두고 챗봇에 질의했습니다. 해당 챗봇이 시중에서 구할 수 있는 제품인지, 아니면 미국 정부가 자체 개발한 것인지는 명확하지 않았습니다.

군 및 정보 분석가들이 사용하는 AI 시스템에 정통한 한 전직 고위 당국자는 "내부용 도구라는 것들이 사실상 상용 제품에 겉모양만 그럴싸하게 꾸며놓은 것에 불과하다"고 말했습니다.

그 챗봇은 오픈 소스 정보(공개 정보)와 정부가 보유한 기밀 신호 정보(감청 등)를 결합하여, 해당 선박에 실린 물자에 대해 운명을 가를 만한 결론을 도출해냈습니다.

이어 분석관은 AI를 다시 활용해 그 결과를 군 관계자들이 신뢰하는 표준 정보 보고서 형태로 정리한 뒤 배포했습니다.

이 보고서는 애초에 해당 중요 평가에 사용된 정체불명의 AI 도구가 기준 미달의 부실한 수준이었다고 시사하는 듯합니다.

독자들에게 '위안'이 될 만한(혹은 씁쓸한) 사실은, 미 국방부와 정보기관 전반에 걸쳐 AI 도입이 '되돌릴 수 없는' 시대적 흐름으로 자리 잡은 만큼, 가까운 미래는 물론 먼 미래에도 이와 유사한 '아찔한 상황(near-misses)'이 필연적으로 발생할 것이라는 점입니다.

CNN은 다음과 같이 강조합니다. "미군과 정보기관 관계자들은 방대한 양의 원시 정보 분석 및 타격 목표 선정과 같은 핵심 업무부터 예산, 군수, 공급망 관리 등 일상적인 영역에 이르기까지 업무의 거의 모든 부문에 AI를 접목하려 추진하고 있습니다."

한편, 이번에도 AI 관련 작업이 또다시 실패로 돌아간 것일까요?

심층적인 조사와 비판적 사고를 대신해 AI에 지나치게 의존하는 것은 단지 게으른 대학생들만의 문제가 아닌 듯합니다. 이제는 미국의 정보 분석가들조차 이 기술을 사용하다가 자칫 세상을 뒤흔들 만한 실수를 저지를 수 있는 상황에 이르렀으니까요.