트렌턴에서 인공지능(AI) 챗봇의 조작적 행위로부터 이용자를 보호하기 위한 법안이 주 하원 공공안전준비위원회를 통과했다.
이번에 통과된 법안 'A-5607'은 챗봇 제공업체가 이용자의 개인정보를 부적절하게 활용하거나 심리를 조작하는 방식으로 서비스를 운영하는 것을 막기 위한 내용을 담고 있다.
위원회를 이끄는 한 민주당 의원은 이 법안이 챗봇 이용자를 보호하기 위해 모든 합리적인 조치를 취하도록 하는 것이라며, 챗봇을 법적 책임 체계 안에서 명시적으로 '제품'으로 규정해 제공업체가 이용자에게 피해를 주지 않도록 주의 의무를 지게 한다고 설명했다.
그러나 모든 의원이 법안에 찬성한 것은 아니었다.
한 공화당 의원은 법안에 반대했고, 다른 공화당 의원은 아직 걸음마 단계인 기술을 성급하게 억누르려는 시도라고 비판하며 결국 기권했다.
또 다른 민주당 여성 의원은 법안에 일부 우려가 있다고 인정하면서도 일단 찬성표를 던졌다.
반면 소비자 보호 단체들은 법안 통과를 적극 환영했다.
미국소비자연맹(Consumer Federation of America)은 법안 통과를 권고했으며, 소속 관계자는 조작적인 챗봇의 피해는 모든 연령대에 영향을 미치지만 챗봇은 결국 사람이 아니기 때문에 명확한 규칙으로 더 안전하게 만들 수 있다고 강조했다.
그는 기술 기업 최고경영자들의 약속에만 의존할 수 없으며, 실수가 벌어지기 전에 규칙을 마련하는 것이 중요하다고 덧붙였다.
다만 위원회가 법안을 다음 단계로 넘기기로 했음에도 법 적용 범위의 지리적 모호성 등 실효성에 대한 의문은 여전히 남아 있다.
법안의 구체적 내용을 보면, 챗봇 제공업체는 이용자의 명시적 동의 없이 입력 데이터 외의 개인정보를 활용해 챗봇 응답을 만들 수 없다.
또한 광고 목적의 대화 기록 활용, 이용자의 성격이나 행동 특성에 대한 프로파일링, 대화 기록 판매 등도 엄격히 제한된다.
대화 기록은 법으로 요구되지 않는 한 2년을 초과해 보관할 수 없으며, 이용자가 정보 활용에 동의하지 않았다는 이유로 불이익을 주는 행위도 금지된다.
제공업체는 자사 웹사이트에 챗봇 관련 정보를 공개하고, 이용자가 언제든 자신의 대화 기록을 내려받을 수 있도록 해야 하며, 매달 챗봇으로 인한 위해 가능성을 평가하고 이를 완화할 의무도 지게 된다.
법안을 위반한 제공업체에는 위반 건당 5000달러의 과태료가 부과되며, 법무장관은 금지명령을 구하는 민사소송을 제기할 수 있다.
피해를 입은 이용자 역시 직접 고등법원에 소송을 제기할 수 있으며, 승소할 경우 실제 손해액 또는 위반 건당 5000달러 중 더 큰 금액과 변호사 비용을 보상받게 된다.
