Prompt injection is exploiting enterprise AI's biggest design flaws by targeting agents, RAG pipelines and model routers

본 기사는 기업의 LLM 도입이 확대되는 가운데 prompt injection이 2025년 OWASP LLM Top 10에서 최상위 취약점으로 재확인됐다고 전합니다. CrowdStrike는 2025년 90개 이상 조직에서 악성 prompt가 합법적 생성형 AI 도구에 주입돼 자격 증명과 암호화폐 탈취에 활용됐다고 분석했습니다. Slack AI 취약점 등 실제 사례는 공개 채널이나 문서에 숨긴 지시문만으로 비공개 데이터가 유출될 수 있음을 보여줍니다.

핵심 문제는 LLM이 명령과 데이터를 안정적으로 구분하지 못한다는 설계 한계가 agents, RAG pipelines, model routers 같은 enterprise AI 구성요소 전반으로 확산된다는 점입니다. 기업은 모델 자체의 안전성뿐 아니라 권한 최소화, 도구 격리, 검색 데이터 검증, 출력 통제 등 AI 보안 아키텍처를 재설계해야 합니다. 공격자가 prompt를 사실상 새로운 malware처럼 활용하기 시작하면서, AI 운영 환경의 보안 기준은 기존 애플리케이션 보안보다 더 빠르게 강화될 가능성이 큽니다.