AI 스팸은 이미 인터넷을 망치기 시작했습니다.

 

The internet, once a place where humans posted things.

사기꾼들은 AI를 사용하여 Google을 속이는 웹페이지와 YouTube 동영상을 뱉어내고 있습니다.

이러한 사이트 중 일부는 가짜 부고 기사를 게재하기도 합니다. 미디어 웹사이트도 AI에 의해 스크랩 및 복사되고 있습니다.

최종 결과: Google에 쓰레기 같은 결과가 넘쳐나면 사용자와 Google 모두에게 좋지 않습니다.

ChatGPT가 공개된 지 1년이 조금 넘었을 때, 우리는 그것이 인터넷에 어떤 영향을 미칠 수 있는지에 대한 한 가지 예측이 실현되는 것을 보기 시작했습니다: AI 스팸이 웹에 넘쳐나고 있다는 것입니다.

지난 주에는 그 실체를 보여주는 세 가지 사례가 있었습니다.

먼저, 새로운 기술 블로그인 404 Media는 인공지능 스팸으로 인해 웹사이트를 수정해야 했다는 글을 올렸습니다.

최근 이 블로그는 검색 엔진 최적화에 유리한 스팸 사이트에 인공지능이 작성한 특종 기사가 표시되는 것을 발견했으며, 심지어는 Google 검색 결과에서 실제 404 Media 기사보다 위에 표시되기도 했습니다. 물론 사기꾼들은 AI가 생성한 페이지에 광고를 게재하여 돈을 벌고 있습니다.

404 Media가 기사 도용 코티지 산업(article-theft cottage industry)에 대해 살펴봅니다:

지난 몇 주 동안 Jason은 사용자를 위해 기사를 '회전'시키는 일련의 AI 도구를 연구하고 실험해 왔습니다. 그중 하나는 SpinRewriter로, 사용자는 클릭 한 번으로 동일한 글의 약간 다른 버전을 1,000개 만들 수 있고 유료 플러그인을 사용하여 원하는 만큼의 워드프레스 사이트에 자동으로 게시할 수 있습니다. 또한 사용자가 단일 대시보드에서 원하는 만큼의 웹사이트를 관리할 수 있는 도구도 제공합니다.

Byword라는 회사는 이 이상한 트릭(경쟁사의 사이트맵을 내보내고 1,800개의 기사를 AI가 생성한 버전으로 만드는 것)을 통해 "경쟁사로부터 총 360만 건의 트래픽을 훔쳤다"는 'SEO 강도'를 자랑스럽게 광고하고 있습니다. 

이러한 AI가 생성한 기사 버전은 뉴스 비즈니스에 타격을 주며, 실제 시간과 비용을 들여 보도하는 언론사의 클릭 수(및 수익)를 효과적으로 빼앗아 갑니다.

둘째, Wired는 2010년대 인기 인디 블로그인 The Hairpin이 인기 있는 기사 중 일부를 남기고 그 기사를 쓴 여성의 이름을 남성의 이름으로 바꾼 AI 클릭 농부에게 인수되었다고 썼습니다(ick).

마지막으로, AI 스팸의 가장 독한 끝에는 슬픔에 잠긴 가족에게 큰 고통을 주는 오류로 가득 찬 AI 생성 부고 기사가 있습니다. ChatGPT가 출시되기 훨씬 전인 2021년에 Wired는 '부고 기사 해적'이 장례식장 웹사이트를 스크랩하고 복사하고 있다고 보도한 바 있습니다. 이제 이들은 AI를 이용해 부고 기사로 유튜브 동영상과 스팸성 웹사이트를 만들어 최근 사망한 사람에 대한 정보를 찾는 사람들의 검색 트래픽을 확보하는 새롭고 수익성 있는 전략을 구사하고 있습니다.

최근 뉴욕 타임즈는 AI가 생성한 유튜브 동영상으로 인해 슬픔에 빠진 유가족이 겪은 고통에 대해 보도했습니다. 한 대학생이 뉴욕 지하철 선로에 실수로 떨어져 사망한 후, 유튜브 동영상과 AI가 생성한 기사가 빠르게 등장했습니다.

이러한 부고는 사기꾼들이 이 청년의 이름과 "지하철"이라는 단어에 대한 검색 관심이 급증하는 것을 알아차린 데 따른 것이었습니다. 사기꾼들은 재빨리 이 핵심 용어를 입력한 후 AI에게 대화하듯 부고 기사를 작성하라고 지시한 다음 웹사이트에 올렸다고 뉴욕타임스는 보도했습니다. (대부분의 세부 정보가 틀렸지만, 그렇다고 해서 해당 사이트가 Google 검색에 표시되는 것을 막지는 못했습니다.)

404 미디어의 카피캣, 더 헤어핀의 스쿼터, 부고 기사 해적의 세 가지 사례는 모두 세부 사항에서 차이가 있습니다. 하지만 한 가지 공통점이 있습니다. 악의적인 행위자, 사기꾼, 스패머들이 AI를 이용해 대량의 콘텐츠를 쏟아내어 Google 검색 결과 상단에 노출시킴으로써 돈을 벌려고 한다는 점입니다.

궁극적으로 이는 콘텐츠를 도난당한 언론인이나 디지털 도굴로 인해 슬픔에 잠긴 유가족에게만 해당되는 문제가 아닙니다. 이는 구글에게도 큰 문제입니다. AI 덕분에 점점 더 매력적인 다른 검색 옵션을 갖게 된 사용자들에게 쓰레기 같은 결과를 제공하게 됩니다.

구글은 뉴욕 타임즈와의 인터뷰에서 이러한 스팸성 광고에 대해 인지하고 있으며 이를 해결하기 위해 노력하고 있다고 밝혔습니다(일부 광고는 정책을 위반했기 때문에 삭제했습니다).

그러나 지난주 X에서 확산된 테일러 스위프트의 음란물 이미지가 AI에 의해 생성된 것처럼, 악플러는 종종 플랫폼보다 한 발 앞서 있습니다.

AI는 좋든 나쁘든 인터넷을 근본적으로 변화시킬 것입니다. 실제 피해를 최소화하는 것은 Google과 이러한 AI 도구를 만드는 회사에 달려 있습니다.