선거 90일 전 허위 정보 유포 및 범죄 목적 사용 처벌
뉴저지주 의회가 인공지능(AI) 기술을 이용한 ‘딥페이크’ 콘텐츠 규제를 위한 두 개의 법안을 추진하고 있다. 이 법안들은 선거 기간 동안의 허위 정보 유포와 범죄 목적의 딥페이크 사용을 규제하는 내용을 담고 있다.
첫 번째 법안(A2818)은 선거 90일 전부터 유권자를 속이려는 의도로 제작된 허위 오디오나 영상을 유포하는 행위를 4급 범죄로 규정하고 있다. 이 법안은 루이스 D. 그린월드(Louis D. Greenwald) 의원이 대표 발의했으며, 선거와 관련된 허위 정보 유포를 막기 위한 목적으로 제안되었다.
두 번째 법안(A3540)은 범죄 목적으로 딥페이크를 제작하거나 유포하는 행위를 3급 범죄로 규정하고 있다. 허브 코나웨이 주니어(Herb Conaway, Jr.) 의원이 대표 발의한 이 법안은 딥페이크 기술을 이용한 다양한 범죄 행위를 방지하기 위해 마련되었다.
두 법안 모두 ‘기만적 오디오 또는 시각 미디어’를 “합리적인 사람이 보기에 실제로 발언, 행동, 글쓰기를 하지 않은 사람의 것으로 현실적으로 묘사되는 것으로 보이는 모든 비디오 녹화, 영화 필름, 음성 녹음, 전자 이미지, 사진, 이와 실질적으로 유사한 모든 기술적 표현, 또는 문서나 글의 위조나 모사”로 정의하고 있다.
법안에 따르면, 이러한 미디어의 제작은 다른 사람이 물리적으로 또는 언어적으로 모방하는 능력보다는 기술적 수단에 상당히 의존한 것이어야 한다.
그린월드 의원은 “이 법안은 유권자들이 정확한 정보를 바탕으로 투표할 수 있도록 보장하기 위한 것”이라고 설명했다. 코나웨이 의원은 “딥페이크 기술의 발전으로 인해 개인의 프라이버시와 안전이 위협받고 있다”며 법안의 필요성을 강조했다.
두 법안 모두 일부 예외 조항을 두고 있다. 비평, 논평, 풍자, 패러디, 뉴스 보도, 교육, 학술 연구 등의 목적으로 사용되는 경우, 그리고 해당 콘텐츠가 조작된 것임을 명확히 밝히는 경우에는 처벌 대상에서 제외된다.
또한, 인터랙티브 컴퓨터 서비스 제공자, 클라우드 서비스 제공자, AI 기술의 상업적 개발자나 제공자 등은 이 법의 적용을 받지 않는다. 방송국, 케이블 서비스, 라디오 방송국, 통신사업자, TV 방송국 등도 광고 시간이나 공간을 판매하는 데 국한된 경우 이 법의 적용을 받지 않는다.
두 법안 모두 현재 뉴저지주 의회에서 논의 중이며, 통과될 경우 즉시 시행될 예정이다. 이 법안들은 AI 기술의 발전으로 인한 새로운 형태의 위협에 대응하기 위한 뉴저지주의 노력을 보여주는 것으로 평가받고 있다.
전문가들은 이러한 법안이 표현의 자유와 충돌할 수 있다는 우려를 제기하고 있다. 그러나 입법자들은 이 법안들이 악의적인 목적의 딥페이크 사용을 막는 데 초점을 맞추고 있으며, 정당한 표현의 자유를 침해하지 않도록 주의를 기울였다고 강조하고 있다.
이번 법안들은 AI 기술의 발전에 따른 법적, 윤리적 문제에 대한 사회적 논의를 촉발할 것으로 보인다. 뉴저지주의 이러한 움직임은 향후 다른 주나 국가의 유사한 법안 제정에도 영향을 미칠 수 있을 것으로 전망된다.
