웨스트필드 고등학교(Westfield High School) 학생들이 지난 여름, 실제 사진으로부터 인공지능(AI)을 사용해 동급생들의 가짜 음란 이미지를 만든 사건이 발생하여 학교 측이 공식 확인했다.
웨스트필드 교육 관계자에 따르면, 해당 이미지들은 현재 삭제되었으며 유포되지 않는 상태로 파악된다고 한다. 이 문제는 10월 20일 학생들의 제보로 학군 측에 알려졌으며, 메리 애스펜디스(Mary Asfendis) 웨스트필드 고등학교 교장은 커뮤니티에 보낸 서신을 통해 이 사실을 밝혔다.
학군 대변인은 학생들이 연루된 사항에 대해서는 “기밀을 유지해야 한다”며 제작된 이미지의 수나 징계 받은 학생의 유무에 대해서는 언급을 회피했다. 다만, 관련 학생들에게는 사건이 통보된 상태라고 교장의 서한에서는 전했다.
14세 여학생의 부모는 해당 가짜 이미지를 만든 것은 한 명 이상의 남학생이라고 전했다.
애스펜디스 교장은 서한에서 이 사건에 대한 “광범위한 잘못된 정보”가 유포되었다고 언급하며, 가짜 이미지를 생성한 AI 프로그램의 명칭은 공개하지 않았다.
학교 상담부서는 지원을 찾는 학생들과 만나 상담을 진행했으며, 소규모 그룹과 만나 사건을 논의하고 이미지가 부적절하다는 점을 재차 강조했다고 관계자는 전했다.
레이몬드 곤잘레스(Raymond González) 교육감은 “모든 학군이 언제 어디서나 학생들에게 접근 가능한 인공지능과 기타 기술의 도전과 영향에 대처하고 있다”며, “웨스트필드 공립학교는 우리 네트워크와 학교에서 제공하는 장비에서 이런 일이 발생하지 않도록 안전장치를 마련했다. 우리는 학생들을 교육하고 새로운 기술이 학교와 그 너머에서 책임감 있게 사용될 수 있도록 명확한 지침을 수립함으로써 노력을 강화하고 있다”고 말했다.
셸리 브린들(Shelley Brindle) 시장은 피해자들이 여학생들이라고 밝혔다. 그녀는 “저는 우리 타운 최초의 여성 시장이며 여성과 소녀들을 대변하는 경력을 가지고 있기에 취약한 시기에 있는 젊은 여학생들이 겪는 트라우마를 목격하는 것은 매우 힘든 일”이라며, “사람들이 경찰서에 나서서 진술을 해 사건을 전개할 수 있는 충분한 사실을 확보할 것을 계속 권장한다”고 전했다.
마지막으로 관계자는 “경찰 관점에서 볼 때, 현재 수사하고 있는 내용의 세부 사항에 대해 논의할 수 없다”고 덧붙였다.
