AI 기업들에게 직원 보호와 안전한 시스템 평가를 위한 자발적 약속 이행 요구… 투명성과 책임성 확보 방안 제시
뉴저지주 의회가 최근 인공지능 기술의 급속한 발전에 따른 위험성을 고려해, AI 기업들의 내부고발자 보호 강화를 촉구하는 결의안을 통과시켰다. 이번 결의안은 AI 기업들이 직원들의 우려 제기를 자유롭게 할 수 있는 환경을 조성하고, 시스템 평가에 대한 법적·기술적 보호를 제공할 것을 권고하고 있다.
뉴저지주 의회는 지난 1월 30일 AI 기업들의 내부고발자 보호 강화를 촉구하는 결의안 158호를 최종 통과시켰다. 이 결의안은 크리스 털리(Chris Tully) 의원을 비롯한 3명의 민주당 의원들이 발의했으며, AI 기술이 인류에게 전례 없는 혜택을 제공할 수 있는 동시에 심각한 위험도 초래할 수 있다는 점을 지적하고 있다.
결의안은 현재 AI 관련 위험에 대한 규제가 미비하고, 직원들이 위험 관련 우려를 제기할 때 보복으로부터 보호받을 수 있는 내부고발자 보호 제도가 불충분하다고 평가했다. 특히 AI 기업 직원들이 위험성에 대해 가장 포괄적인 지식을 보유하고 있으며, 기업의 책임을 물을 수 있는 소수의 주체 중 하나라는 점을 강조했다.
의회는 AI 기업들에게 6가지 원칙을 준수할 것을 촉구했다. 첫째, 위험 관련 우려에 대한 비판을 금지하거나 경제적 불이익을 주는 계약을 체결하거나 집행하지 않을 것, 둘째, 현직 및 전직 직원들이 이사회와 규제기관, 독립 전문기관에 익명으로 우려를 제기할 수 있는 검증 가능한 절차를 마련할 것, 셋째, 열린 비판 문화를 지원하고 직원들이 기술적 우려를 공개적으로 제기할 수 있도록 허용할 것 등이다.
또한 기업들은 선의의 시스템 평가에 대한 법적·기술적 보호를 제공하고, 다른 절차가 실패한 후 위험 관련 기밀 정보를 공개하는 직원들에게 보복하지 않아야 한다. 마지막으로 적절한 익명 보고 절차가 마련될 때까지 직원들이 우려사항을 공개적으로 보고할 자유를 유지해야 한다.
결의안은 프론티어 모델 포럼(Frontier Model Forum)에 참여하고 있는 구글, 오픈AI, 마이크로소프트, 앤트로픽, 아마존, 메타 등이 AI 안전성과 책임성에 대해 조직 간 협력을 하고 있지만, 법적·기술적 보호를 통한 공정한 평가는 아직 부족하다고 지적했다. 특히 혐오 발언, 허위정보, 악의적 이미지 생성 등에 대한 평가가 계정 정지로 이어질 수 있다는 우려 때문에 시스템 결함 발견이 저해되고 있다는 점을 강조했다.
AI 기술이 기존 불평등을 심화시키거나 허위정보를 조작하고 확산시킬 수 있다는 우려가 커지는 가운데, 이번 결의안은 AI 기업들의 자발적인 개선 노력을 촉구하고 있다. 뉴저지주 의회는 결의안 사본을 오픈AI, 앤트로픽, 구글, 인플렉션, 메타, 미드저니, 코히어 등 주요 생성형 AI 기업들의 최고경영자들에게 전달할 예정이다.
한편 AI 전문가들은 이번 결의안이 법적 구속력은 없지만, AI 기업들의 투명성과 책임성을 높이는 데 기여할 것으로 평가하고 있다. 특히 내부고발자 보호 강화가 AI 시스템의 위험성을 조기에 발견하고 대응하는 데 도움이 될 것으로 기대된다.
