‘딥페이크’와 ‘치프페이크’ 등 조작된 미디어 대응… 생성형 AI 플랫폼에 자발적 예방 및 제거 촉구
뉴저지 주 의회는 최근 생성형 인공지능(generative AI)과 콘텐츠 공유 플랫폼이 자발적으로 유해 콘텐츠를 예방하고 제거하도록 권고하는 결의안(AR141)을 통과시켰다. 이번 결의안은 ‘딥페이크(Deepfake)’와 ‘치프페이크(Cheapfake)’ 미디어가 공공의 이해를 왜곡하고 진실을 조작하는 문제를 해결하기 위해 마련됐다.
딥페이크는 사람의 실제 행동이나 발언이 아닌 것을 기술적으로 만들어내어 진짜처럼 보이게 하는 영상, 사진, 음성 등을 의미하며, 치프페이크는 소프트웨어를 이용해 시청각 자료를 조작하는 모든 형태를 포함한다. 오픈소스 애니메이션 기술의 발전으로 초보자도 쉽게 제작할 수 있게 되면서 이러한 기술들이 명예훼손, 사기, 협박, 해킹, 정치적 혼란 등을 일으킬 수 있는 강력한 도구가 되고 있다.
결의안은 생성형 인공지능 플랫폼이 유해 콘텐츠를 사전에 예방하고 제거하기 위한 자발적 약속을 할 것을 촉구하고 있다. 소셜 미디어와 기타 디지털 커뮤니케이션 플랫폼의 확산으로 인해 딥페이크와 치프페이크는 광범위한 시청자를 대상으로 강력한 영향을 미칠 수 있기 때문에, 이러한 유해 미디어를 제거하기 위한 적극적인 조치가 필요하다는 것이다.
결의안의 주요 내용은 딥페이크와 치프페이크를 각각 기술적으로 조작된 미디어로 정의하고, 이러한 미디어가 공공의 이해를 왜곡하고 진실을 조작하는 문제를 강조한다. 또한 생성형 인공지능과 콘텐츠 공유 플랫폼이 유해 콘텐츠를 사전에 예방하고 제거하기 위한 자발적 약속을 할 것을 촉구하며, 인공지능 시스템의 책임 있는 사용을 위해 지속적인 모니터링과 잠재적인 유해성에 대한 검토가 필요함을 강조하고 있다.
결의안이 통과됨에 따라 뉴저지 주는 인공지능 기술의 책임 있는 사용을 촉진하고, 유해 콘텐츠로부터 공공을 보호하는 데 앞장서게 될 것으로 기대된다. 연방 정부와 다른 12개 주에서도 유사한 투명성과 책임성 기준을 마련하고 있는 만큼, 뉴저지 주도 이러한 흐름에 동참하여 안전하고 신뢰할 수 있는 미디어 환경을 조성하는 데 기여할 것이다.
결의안은 또한 생성형 인공지능과 관련된 학습, 기술 발전, 사회적 참여 가능성을 높이기 위한 긍정적인 역할을 기대하고 있다. 인공지능 시스템의 책임 있는 상업화를 위해 보안 테스트, 위협 보호, 잠재적 유해성 모니터링이 필요하다는 점도 강조된다.
이번 결의안을 통해 뉴저지 주는 인공지능 기술의 책임 있는 사용을 선도하고, 유해 콘텐츠로부터 공공을 보호하는 모범적인 사례가 될 것으로 보인다. 이로써 뉴저지 주는 책임 있는 미디어 기술의 선구자로 자리매김할 것으로 기대된다.
