xAI’s last-minute scramble to stop Minnesota’s anti-nudification app law

xAI는 5월 통과된 Minnesota주의 ‘nudification’ 앱 규제가 Grok Imagine의 이미지 편집 기능을 사실상 제한하도록 강제한다며 Keith Ellison 주 법무장관을 상대로 소송을 제기했습니다. 회사는 해당 법의 처벌 조항이 과도하며 First Amendment를 침해한다고 주장합니다. The Verge는 올해 1월 Grok이 미성년자 이미지를 포함한 대규모 성적 deepfake 확산 논란을 일으킨 배경도 함께 짚었습니다.

이번 소송은 생성형 AI 이미지 도구에 대한 주 정부 규제와 플랫폼 사업자의 표현의 자유 주장이 정면충돌하는 사례입니다. 특히 성적 deepfake와 아동 보호 문제를 계기로, AI 서비스가 기능 차단·연령 제한·콘텐츠 탐지 등 안전장치를 어디까지 내장해야 하는지가 핵심 쟁점으로 부상하고 있습니다.