Google 연구진, LLM이 환각 대신 내부 확신도에 맞춰 ‘최선의 추정’을 제시하는 faithful uncertainty 제안

Google 연구진은 LLM의 응답을 내부 확신도와 정렬하는 메타인지 기법인 faithful uncertainty를 제안했습니다. 이 접근은 모델이 모를 때 단순히 답변을 거부하는 대신 “최선의 추정”처럼 적절히 유보된 가설을 제시하도록 해, 환각 완화와 유용성 저하 사이의 tradeoff를 줄이는 데 초점을 맞춥니다.

기업용 agentic AI에서는 모델이 자체 지식의 한계를 인식하고 필요 시 검색 API나 외부 도구를 호출하는 제어 계층이 중요해지고 있습니다. 불확실성 정렬은 LLM을 단순 질의응답 시스템에서 신뢰 가능한 의사결정 구성요소로 발전시키는 핵심 방향으로, 향후 평가 지표와 안전 설계에도 영향을 미칠 가능성이 큽니다.