미국에서 가장 인기 있는 뉴스 앱 중 하나인 뉴스브레이크가 AI가 작성한 허위 기사를 배포한 혐의로 논란에 휩싸였다.
로이터 통신에 따르면 최근 뉴스브레이크는 “브리지턴, 뉴저지에서 크리스마스 날 비극 발생, 소도시에서 총기 폭력 증가”라는 제목의 기사를 게재했다. 하지만 해당 기사는 완전히 조작된 것이었으며, 기사에서 언급된 사건은 실제로 발생하지 않았다.
브리지턴 경찰서는 “기사에서 묘사된 지역에서 크리스마스 즈음이나 최근에 유사한 사건이 발생한 적이 없다”며 “이 ‘뉴스’ 매체의 AI는 허구를 작성해 독자들에게 배포하는 것에 전혀 문제가 없다”고 말했다.
로이터 통신에 따르면 뉴스브레이크는 2021년 이후 최소 40건의 AI 기반 허위 정보로 지역사회에 문제를 일으켰다. 일부 기사에는 노숙자와 소외 계층을 위한 프로그램에 대한 잘못된 정보, 건강 관리 제공에 대한 오류가 포함되었다.
전직 뉴스브레이크 직원들은 앱의 알고리즘 대부분이 캘리포니아에 본사를 두고 있음에도 불구하고 중국 사무소에서 개발된 것이라고 밝혔다.
뉴스브레이크가 이 문제를 인식한 지 오래된 것으로 보인다. 전 월스트리트 저널 및 로스앤젤레스 타임스의 편집장인 노름 펄스타인(Norm Pearlstine)은 뉴스브레이크 CEO 제프 정(Jeff Zheng)에게 자문 역할을 수행하면서 해당 문제에 대해 경고하는 메모를 작성했다.
펄스타인은 메모에서 “뉴스브레이크 브랜드를 파괴하는 가장 빠른 방법을 생각할 수 없다”고 썼다. 그는 “가짜 계정을 만들어 콘텐츠 출판사의 유료 벽 뒤에 있는 콘텐츠를 사용하는 것이 법적으로 문제될 수 있다”며 “LA 타임스에서 이러한 관행을 알았다면 변호사에게 금지 명령을 요청하고 손해 배상을 청구하도록 지시했을 것”이라고 로이터 통신과의 인터뷰에서 밝혔다.
미국 의원들은 중국 기업의 허위 정보에 대해 점점 더 우려하고 있으며, 최근 틱톡 금지 법안이 그 예이다. 이러한 상황에서 뉴스브레이크가 얼마나 더 버틸 수 있을지는 미지수다. 동시에 이 사건은 적절한 안전장치와 감독 없이 AI에 의존하는 것의 위험성을 경고하고 있다.
