인공지능 기술 악용 방지 위한 강력한 법적 제재 마련… 피해자에게 민사소송 권리도 부여
뉴저지 주가 인공지능 기술을 이용한 ‘딥페이크’ 콘텐츠 제작 및 유포에 대한 강력한 형사처벌 법안을 통과시켰다. 지난 4월 2일 최종 승인된 이 법안(A3540)은 허브 코너웨이 주니어(Herb Conaway, Jr.) 의원 등이 발의했으며, 기만적 오디오·영상 미디어 제작 및 유포에 대한 형사 처벌을 규정하고 있다.
이 법안은 인공지능 기술의 발전으로 누구나 쉽게 접근할 수 있게 된 딥페이크 기술이 범죄 목적으로 악용될 가능성에 대응하기 위해 마련됐다. 법안에 따르면, 범죄 목적으로 딥페이크 콘텐츠를 제작하거나 생성하도록 하는 행위는 3급 범죄로 규정된다. 또한 범죄 목적으로 딥페이크 콘텐츠를 요청, 유포 또는 사용하는 행위도 3급 범죄에 해당한다.
특히 이 법안은 아동 성학대, 성착취, 정치 광고 조작, 명예훼손, 사이버 괴롭힘 등 다양한 범죄에 딥페이크 기술이 악용될 가능성을 명시적으로 언급하고 있다. 위반 시 최대 3만 달러의 벌금이 부과될 수 있으며, 다른 범죄와 병합되지 않고 별도의 연속 형을 선고받게 된다.
법안은 또한 피해자들에게 민사소송을 제기할 권리도 부여한다. 피해자는 위반 건당 최소 1,000달러의 손해배상과 함께 징벌적 손해배상, 변호사 비용 등을 청구할 수 있다. 형사 유죄 판결이 없더라도 민사소송은 가능하며, 명예훼손이나 사생활 침해 등 다른 법적 구제수단과 병행할 수 있다.
다만 이 법안은 비평, 논평, 풍자, 패러디, 뉴스 보도, 교육, 학술 연구 등의 목적으로 사용되는 콘텐츠에는 적용되지 않는다. 또한 인터넷 서비스 제공업체, 클라우드 서비스 제공업체, AI 기술 개발자 등에게는 47 U.S.C. s.230에 따른 면책 조항이 적용된다.
방송국, 케이블 서비스, 라디오 방송국, 통신사업자, TV 방송국, 인터넷 웹사이트, 모바일 앱, 비디오 스트리밍 서비스, 신문, 잡지 등 광고 매체를 통해 딥페이크 광고가 게재되는 경우에도 해당 매체가 광고 시간이나 공간을 판매하는 역할에만 국한되거나 연방법에 의해 광고 내용 검열이 금지된 경우에는 법안이 적용되지 않는다.
뉴스 보도 목적으로 딥페이크 콘텐츠를 방송하거나 출판하는 경우에는 해당 콘텐츠가 딥페이크임을 명확히 표시하는 면책 조항을 포함해야 한다. 또한 법 집행기관의 범죄 수사나 법원 명령에 따라 딥페이크 콘텐츠를 공개하는 경우, 학교 관리자나 변호사, 가족 구성원에게 위반 행위를 신고하기 위해 공개하는 경우, 사기나 사이버보안, 신원 도용, 괴롭힘 등에 관한 조사를 위해 공개하는 경우에도 법안 위반에 해당하지 않는다.
이 법안은 인공지능 기술의 적절한 사용을 장려하고 불법적인 목적으로의 악용을 억제하기 위한 뉴저지주의 강력한 의지를 보여주는 것으로, 즉시 발효된다. 전문가들은 이 법안이 딥페이크 기술의 오남용으로 인한 피해를 예방하고 피해자들에게 실질적인 구제 수단을 제공할 것으로 기대하고 있다.
