동네 모임에서 이웃 한 분이 이렇게 말씀하신다고 해 봅시다. "AI가 알려 준 전화번호로 걸었더니 없는 번호라고 나오더라고요." AI는 말투가 늘 차분하고 또박또박해서, 틀린 말도 맞는 말처럼 들릴 때가 있습니다.
지난 회에는 병원 속 AI를 살펴보며 어디까지 믿을지 생각해 봤습니다. 오늘은 우리가 휴대폰에서 쓰는 AI 앱이 어떻게 틀리는지, 그리고 틀린 말을 알아채는 습관을 배웁니다.
말솜씨 좋은 이웃처럼
AI를 아는 것 많고 말솜씨 좋은 이웃이라고 생각해 보세요. 이야기는 술술 잘하지만, 가끔은 확실하지 않은 일도 아는 것처럼 말합니다. 전문가들은 이렇게 AI가 그럴듯하게 지어낸 틀린 말을 '환각'이라고 부릅니다.
챗GPT를 만든 오픈AI의 도움말은 AI가 듣기에는 그럴듯해도 틀리거나 오해할 만한 정보를 줄 수 있다고 밝힙니다. 인용문이나 출처까지 지어낼 수 있으니 하나뿐인 자료로 삼지 말라고 합니다. 구글 제미나이 도움말도 부정확한 답을 낼 수 있다고 하고, 특히 사람에 대한 답은 다시 확인하라고 합니다.
얼마나 자주 틀릴까요
지난해 10월, 유럽 공영방송 연합(EBU)과 영국 BBC가 이끈 연구가 나왔습니다. 18개 나라, 14개 언어에서 3,000건이 넘는 AI 답을 살펴봤더니 45퍼센트에 중대한 문제가 하나 이상 있었고, 20퍼센트에는 지어낸 내용이나 오래된 정보 같은 큰 오류가 있었다고 합니다.
다만 이 연구는 뉴스에 관한 질문을 다뤘고 일 년 전 조사입니다. 모든 질문이 같은 비율로 틀린다는 뜻은 아닙니다. 그래도 AI가 틀릴 수 있다는 점을 보여 주는 큰 조사라서 알아 둘 만합니다.
공식 사이트로 확인하는 법
미국 정부의 웹 디자인 안내에 따르면 주소가 .gov로 끝나는 사이트는 미국의 공식 정부 기관 것입니다. 주소 앞에 자물쇠 모양이나 https://가 보이면 안전하게 연결됐다는 뜻이라고 합니다. 정부 기관이라며 내세우는데 .gov가 아니라면 한 번 더 의심해 보세요.
어느 기관 사이트인지 모르겠다면 미국 정부 안내 사이트인 USA.gov에서 기관과 서비스를 찾아볼 수 있습니다. 사회보장, 세금 같은 정보도 이곳에서 길을 찾을 수 있다고 소개합니다. 다음 순서로 확인해 보세요.
AI가 틀렸다면 앱에 알릴 수도 있습니다. 제미나이 도움말은 틀린 내용을 보면 엄지를 내린 단추를 눌러 의견을 보내라고 안내합니다. 앱마다, 휴대폰 버전마다 화면 모양과 단추 자리가 조금 다를 수 있으니 참고만 하세요. 구글도 제미나이를 의료·법률·재정 조언으로 삼지 말라고 알립니다.
오늘의 숙제
집에서 5분만 해 보세요. AI 앱에 내가 이미 잘 아는 것, 예를 들어 고향 도시의 유명한 명소나 음식을 물어보세요. 답이 내가 아는 것과 맞는지 비교하고, 어긋나는 곳이 있으면 AI에게 "그 부분이 확실한가요?"라고 되물어 보세요. 개인 정보는 넣지 마시고요.
다음 회 예고: 개인정보는 넣지 마세요 — 안전하게 쓰는 다섯 가지 습관
(자료: OpenAI 도움말센터 '챗GPT는 사실을 말하나요', 구글 제미나이 앱 도움말, Journalism UK의 EBU·BBC 연구 보도, 미국 정부 웹 디자인 시스템(USWDS)과 USA.gov)
