일론 머스크(Elon Musk)가 이끄는 인공지능(AI) 기업 xAI에서 근무했던 한인 엔지니어가 회사의 AI 챗봇 안전성 문제를 공개적으로 폭로해 파장이 일고 있다. 이 엔지니어는 AI가 폭발물과 생물학무기 제작에 악용될 수 있다고 경고한 직후 해고됐다고 주장했다. 16일 뉴욕 지역방송 PIX11에 따르면 스페이스X(SpaceX) 자회사인 xAI의 전 엔지니어 데빈 김(Devin Kim)씨는 이날 뉴욕시의회 청문회에 출석해 회사 내부의 AI 개발 실태를 증언했다.
김씨는 AI 챗봇 '그록(Grok)'의 훈련과 개발에 사용되는 시스템을 직접 구축했다고 밝혔다. 그는 그록이 폭탄과 생물학무기 제작을 도울 수 있다는 우려를 제기했지만, 상사로부터는 AI 안전성 확보가 쓸모없는 일이며 어차피 AI가 모든 인류를 파괴할 것이라는 답변을 들었다고 전했다. 김씨는 지난해 9월 경영진을 상대로 AI 안전성 문제를 발표하기 직전 해고됐다고 주장했다. 그는 회사 측으로부터 안전장치를 우회하라는 압박도 받았다고 덧붙였다.
앞서 김씨는 지난 6월 캘리포니아주 샌타클라라 카운티 수피리어법원에 스페이스X와 xAI를 상대로 부당해고 소송을 제기한 바 있다. 영국 일간 가디언(The Guardian) 보도에 따르면 김씨는 2024년 xAI에 입사해 주요 관리직까지 올랐지만, 안전장치 도입을 요구하면서 경영진과 지속적으로 갈등을 빚었다. 특히 xAI 공동창업자인 지미 바(Jimmy Ba)가 자신의 요구를 거부하고 지난해 9월 해고를 통보했다고 주장했다. 김씨는 현재 AI 안전성 연구 비영리단체인 'AI안전센터(Center for AI Safety)'에서 회장을 맡고 있다.
이날 청문회에서는 김씨의 해고 경위를 둘러싼 공방도 벌어졌다. 스페이스X의 글로벌 대정부 관계 담당 선임 매니저는 김씨의 해고 경위를 묻는 질문에 해당 사안에 대해 알지 못한다고 답했다. 이에 뉴욕시의회 의장은 청문회 후 기자들에게 선서 후에도 거짓말을 하고 있다고 생각한다며 위증 가능성을 제기했다.
그록은 X(옛 트위터)와 테슬라 등 머스크 계열사 전반에 통합되며 영향력을 확대해온 AI 챗봇이다. 전문가들은 안전성 검증 없이 급속히 확산되는 AI 기술이 실제 위협으로 이어질 수 있다고 경고한다. 이번 사건은 AI 기술 발전 속도가 안전성 검증 체계를 앞지르고 있다는 우려를 다시금 부각시키고 있다. 특히 머스크가 이끄는 기업에서 내부 고발이 잇따르면서 AI 업계 전반의 윤리적 책임 문제도 도마 위에 오를 전망이다.
