인공지능(AI) 분야의 대표적인 선구자로 꼽히는 제프리 힌튼 박사(75)가 지난 1일(현지시간) 구글을 떠나며 AI의 급격한 발전으로 인한 위험 요소에 대해 주의를 당부했다.
힌튼 박사는 미국의 언론 매체 뉴욕 타임스를 통해 자신의 성취에 대한 후회를 표명하며 구글에서 사임했다. 또한, 힌튼 박사는 BBC와 진행한 인터뷰에서 AI 챗봇 사용에 따른 위험성 중 매우 무서운 요소도 있다고 말했다. “현재로서는 AI가 인간보다 높은 지능을 가지고 있지는 않지만, 가까운 미래에 그것을 따라잡을 수도 있다고 생각합니다.” 이와 함께 히튼 박사는 자신의 나이도 퇴사 결정에 영향을 미쳤다고 전했다.
힌튼 박사는 심리학과 컴퓨터 과학의 전문가로, 딥러닝 및 신경망 관련 연구를 통해 현대 AI 시스템을 개척한 인물로 알려져 있다. 힌튼 박사는 최근 인터뷰에서 AI 챗봇의 지식 수준이 인간의 두뇌에 저장된 정보를 곧 넘어설 것이라고 경고했다. “현재 GPT-4와 같은 모델은 일반적인 지식의 크기 면에서 이미 인간의 수준을 웃돌고 있습니다. 추론회고 같은 부분에서 아직 능력이 부족하지만, 간단한 추론 정도는 할 수 있습니다.” “빠른 발전 속도를 감안하면, 인공지능 모델의 발전은 상당히 빠르게 진행될 것입니다. 따라서 본격적으로 이 문제에 대해 우려하는 것이 필요하다고 강조했다.”
한편 뉴욕 타임스 기사에서 힌튼 박사는 AI가 “나쁜 일을 꾸미는 악의적인 이들”에 의해 악용될 위험을 언급한 바 있다. BBC가 더 자세한 내용을 요청했을 때, “극도로 안 좋은 상황이 벌어질 수 있다. 악몽처럼 무서운 상황이 발생할 수 있다”고 답했다. “예를 들어 블라디미르 푸틴 러시아 대통령 같은 악의적인 이들이 로봇에게 스스로 목표를 설정할 수 있는 능력을 부여하게 되면, 그 결과는 끔찍할 것”이라고 경고했다.
이에 힌튼 박사는 인공지능 로봇들이 ‘더 많은 힘을 갖게 될 수 있는 하류 목표’를 설정하는 것이 가능하다고 전했다. 경고를 발표한 힌튼 박사는 구글 회사 자체를 비난하고 싶지 않다고 말하며, 구글은 “매우 책임감이 있는 행동을 취하고 있다”고 강조했다.
여기에 추가로 제프 딘 구글 수석과학자는 성명을 통해 “AI 분야에서 책임감 있는 접근법에 충실하다. 이런 상황에서 새로운 위험 요소를 해결하고, 혁신을 위한 명쾌한 해결 방안을 계속 도모하고 나아갈 것”이라고 밝혔다.
