xAI sues a man for using Grok to generate CSAM ‘deepfakes’

Elon Musk가 소유한 xAI는 South Carolina주의 Terry Wayne Harwood가 Grok을 이용해 CSAM 이미지를 생성·변형·배포했다며 소송을 제기했습니다. Harwood는 지난 2월 CSAM 소지·배포 혐의로 체포돼 8건의 중범죄 혐의를 받고 있으며, xAI는 관련 이미지 중 일부가 Grok으로 생성되거나 수정됐다고 주장했습니다.

이번 소송은 생성형 AI 사업자가 악용 이용자를 상대로 직접 법적 대응에 나선 사례로, 플랫폼 책임과 이용자 책임의 경계가 다시 쟁점화되고 있음을 보여줍니다. 특히 안전장치 우회와 비동의 이미지 변형이 결합된 딥페이크 악용은 AI 서비스의 탐지·차단 체계와 정책 집행 능력을 규제 당국이 더 엄격히 들여다보게 만들 가능성이 큽니다.