프랑스·이탈리아 연구진, AI 조언 제공만으로 ‘모른다’ 응답 급감하고 정확도 3분의 1, 확신은 2배 상승 확인

프랑스와 이탈리아 3개 대학 연구진은 AI 조언에 접근할 수 있게 하자 참가자의 “모른다” 응답률이 44%에서 3%로 떨어지고, 정확도는 27%에서 9%로 낮아졌다고 보고했습니다. 반면 자신감은 30%에서 76%로 상승했으며, 일부 참가자는 스스로 맞힐 수 있던 문제도 잘못된 AI 답변을 따른 뒤 오답을 냈습니다. 금전적 보상을 제시해도 무지 인정과 정확도 회복은 제한적이었습니다.

이번 결과는 AI가 단순히 잘못된 답을 제공하는 문제가 아니라, 사용자가 자신의 지식 한계를 점검하는 습관 자체를 약화할 수 있음을 보여줍니다. Wharton 연구진이 언급한 cognitive surrender와 맞물려, AI 제품 설계에는 답변 정확도뿐 아니라 불확실성 표시, 검증 유도, 판단 보류를 장려하는 UX가 핵심 안전장치로 부상하고 있습니다.