GEEK HAUS
피드로 돌아가기
2026/07/23/multi-turn-attacks-broke-ai-models-88-of-the-time

Multi-turn attacks broke AI models 88% of the time — single-turn testing missed it, Cisco AI security lead warns at VB Transform 2026

·VentureBeat
원문 보기
Multi-turn attacks broke AI models 88% of the time — single-turn testing missed it, Cisco AI security lead warns at VB Transform 2026

편집자 요약

Cisco의 Amy Chang은 VB Transform 2026에서 15개 주력 AI 모델을 대상으로 한 실험에서 다중 턴 공격이 최대 88.3% 성공했다고 밝혔습니다. VentureBeat 조사에서는 기업 응답자의 54%가 agent 보안 사고 또는 near-miss를 경험했지만, agent별 관리형 identity 적용은 32%, 고위험 agent sandbox 격리는 30%에 그쳤습니다. Palo Alto Networks, CrowdStrike, Cisco의 최근 인수 움직임은 identity와 격리 계층이 AI 보안의 핵심 투자 영역으로 부상했음을 보여줍니다.

인사이트

이번 결과는 단일 프롬프트 기반 red-teaming만으로는 대화 맥락을 악용하는 공격을 충분히 포착하기 어렵다는 점을 드러냅니다. 기업의 agentic AI 보안은 모델 자체 방어를 넘어 agent별 권한 범위, 관리형 identity, sandbox 격리를 결합하는 운영 보안 문제로 이동하고 있습니다. 대형 보안 업체들의 M&A는 이 격차를 제품화해 enterprise AI 도입의 필수 통제 계층으로 만들려는 흐름을 반영합니다.

댓글

토론

> geekhaus:~$ 다음 읽을거리?

다음 읽을거리 추천