Meta turns off the Instagram feature that let users make AI deepfakes of public accounts

Meta는 이번 주 발표한 Muse Image AI 모델 관련 기능 중, 사용자가 공개 Instagram 계정을 @멘션해 해당 계정 콘텐츠를 참조한 AI 이미지를 만들 수 있게 한 기능을 중단합니다. 초기 설계상 계정 소유자의 허가 없이 공개 계정 콘텐츠가 AI 생성물에 활용될 수 있어 강한 반발을 샀습니다.

이번 조치는 플랫폼이 공개 콘텐츠를 AI 생성 맥락에서 어디까지 재사용할 수 있는지에 대한 경계가 빠르게 재설정되고 있음을 보여줍니다. 특히 인물·브랜드 계정의 이미지가 허가 없이 변형될 수 있는 딥페이크 위험은 생성형 AI 기능 출시 과정에서 사전 동의와 통제권을 핵심 요구사항으로 끌어올릴 가능성이 큽니다.