ChatGPT 뒤엔 케냐 노동자가 있어

 

ChatGPT는 인공지능 챗봇이다. 사용자가 무엇을 질문해도 그럴듯한 대답을 해주고, 가끔은 농담도 한다. 단순한 오락용 기술이 아니라 실제 논문이나 리포트에 응용해도 될 정도로 정제된 문장력과 정보구성 능력을 갖추고 있다. 아마존엔 ChatGPT를 이용해 쉽게 책 한 권을 써 판매 중인 저자가 벌써 생겨났다. 시뮬레이션 결과 미국 의사면허 시험도 통과할 수 있다는 주장도 나왔다.

미국은 물론 한국의 대학도 새 학기부터 학생들의 인공지능 기반 에세이를 어떻게 걸러내고 평가해야 할지 걱정돼 대책 수립으로 분주하다. 방대한 언어 텍스트 데이터 세트를 기계학습 하면서 단어와 단어의 연결을 확률적으로 파악해 인공신경망을 구성하는 원리인데, 어쩜 이리 매끄러운지 알다가도 모를 일이다.


-미리 독을 맛봐야 하는 노동자들


18세기 후반 볼프강 켐펠렌이 발명한 자동 체스 기계 ‘터키 사람’(The Turk)은 인간을 압도하는 게임 실력으로 장안에 화제였지만 실은 기계 안에 인간이 숨어 체스 경기를 했다고 한다. 어쩌면 ChatGPT 뒤에도 인간이 있지 않을까 실없는 상상도 해보게 된다. 아닌 게 아니라 ChatGPT가 능숙하게 텍스트를 생산하기 위해서는 인간의 노동력이 필수였다는 점이 최근 드러났다.

일상적 활용을 목적으로 만들어진 챗봇이기에 인터넷상의 부정적 경향의 언어 뭉치를 학습해서는 안 됐다. 독성을 제거하기 위해 오히려 독성 텍스트만을 따로 학습한 인공지능이 별도로 필요했다. 이를 위해 인간이 민감한 내용을 직접 분류하고 정리해야 했다.

해당 작업을 미국 샌프란시스코에 기반을 둔 데이터 처리 회사 SAMA가 케냐 노동자들에게 맡겼다. 그들은 성과에 따라서 시간당 우리 돈으로 1600~2400원 임금을 받았다. 케냐 노동자에게 그 정도면 높은 임금이니 기회를 준 것 아니냐고 생각할지 모르겠다. 하지만 노동자들은 성적 아동 학대, 살인, 고문, 자살, 근친상간의 상세한 묘사가 담긴 텍스트를 매일 읽어야 했으며, 일상생활에 지장이 있을 정도로 정신적 충격을 받았다.

상냥한 태도로 안전한 대답을 내놓는 인공지능이 실은 보이지 않는 남반구 노동자들의 희생을 전제로 한 결과물이라는 것을 알고도 우리는 쉽게 인공지능을 사용할 수 있을까? 케냐 노동자들은 유령처럼 보이지 않는 존재로 남아 인공지능 기술 주변을 맴돌고 있다.

암호화 화폐 비트코인 채굴 과정에도 비슷한 맥락의 문제가 존재했다. 컴퓨터로 복잡한 수학 연산을 한 다음 블록체인을 생성하는 과정을 ‘채굴’이라 부르는데 이 과정에 엄청난 전기가 필요하다. 그 때문에 전기료가 싼 중국의 쓰촨성이나 윈난성 지역의 수력발전소 인근에 채굴공장을 짓는데, 이를 관리하는 인력으로 주변의 소수민족이 값싸게 고용됐다. 데시벨이 높은 채굴환경 때문에 그들의 청력은 현저히 떨어졌다. 암호화폐는 중국의 어느 소수민족의 귀와 연결됐던 셈이다. 수년 전부터 중국 정부가 채굴을 금지하자 채굴장은 카자흐스탄으로 옮겨갔고 이윽고 국지적인 정전사태를 일으키기도 했다.


-우리 자신이 유령이 되지 않기 위해서는


인공지능 기술은 사라져 돌아오지 말아야 할 것들, 예를 들면 죽은 가수의 목소리, 작가의 문체, 사용자 자신의 분신 등을 디지털로 부활시키며 과거 유령이었던 존재에게 생생한 육신을 부여하는 중이다. 이러한 첨단기술을 유지하기 위한 인간노동은 첨단성에 대한 열광과 신화 속에서 비가시화된다. 아이러니하게도 인간 노동자가 유령이 돼가는 셈이다. 대부분 첨단기술은 지구 반대편 누군가의 육체와도 연결돼 있지만 한편으론 불평등한 연쇄 과정의 결과물이기도 하다는 것을 깨닫는 일이 필요하다.

나는 오늘부터 손쉬운 기술 사용이 주는 매끄러움을 의심해보기 시작했다. 윤리적 올바름을 논하기 전에 이기적으로 생각해도 나부터 보이지 않는 유령이 될 가능성이 크기 때문이다.

-오영진 테크노컬처 연구자