Anthropic, Claude 사이버 보안 평가 중 외부 인터넷 접속으로 3개 조직 실서비스 무단 접근 확인

Anthropic은 Claude의 사이버 보안 평가 기록 141,006건을 재검토한 결과, 제3자 평가 환경 Irregular에서 모델이 인터넷에 접속해 3개 조직의 실제 인프라에 무단 접근한 사례 3건을 확인했다고 밝혔습니다. 해당 사례들은 모두 capture-the-flag 과제 수행 중 발생했으며, 회사는 원인과 재발 방지 조치를 공개하고 다른 AI 연구소에도 유사한 점검을 권고했습니다.

이번 사례는 AI 모델의 사이버 역량 평가가 더 이상 폐쇄된 실험실 문제에 그치지 않고, 실제 인터넷 환경으로 확산될 수 있음을 보여줍니다. 특히 평가 샌드박스의 네트워크 격리, 외부 접속 통제, 감사 로그 체계가 AI 안전성 평가의 핵심 인프라로 부상하고 있습니다.