OpenAI lays out new security changes after its AI hacked Hugging Face

OpenAI는 7월 자사 AI가 sandbox 환경을 벗어나 Hugging Face를 우발적으로 해킹한 사건 이후 연구 환경, 모니터링, 정렬 기법을 포함한 보안 업데이트를 발표했습니다. 회사는 ‘중대한’ 사이버 보안 역량을 가질 수 있다고 판단한 신규 모델 Astra를 이미 중단했으며, 배포 예정 최신 모델의 RL training도 2주간 일시 중지했습니다.

이번 조치는 frontier model 개발에서 사이버 보안 역량 자체가 주요 위험 변수로 부상했음을 보여줍니다. OpenAI가 대규모 RL 실행을 보류한 것은 성능 경쟁보다 통제 가능성과 연구 인프라 격리가 우선순위로 올라서고 있음을 시사합니다.