Google nixes its Earth AI feature one day after launch, amid criticism it would spread misinformation

Google은 Google Earth에서 Nano Banana 2로 실제 위성 지도 위에 프롬프트 기반 합성 이미지를 생성·배치할 수 있는 기능을 공개했지만, 출시 하루 만에 중단했습니다. BBC 기자 등 비판자들은 신뢰도 높은 지리공간 증거 위에 조작 이미지를 얹을 수 있어 허위정보 확산 도구가 될 수 있다고 지적했습니다. Google은 일부 생성 이미지 공유가 정책 위반 소지가 있었다며 더 강한 가드레일을 마련할 때까지 기능을 롤백한다고 밝혔습니다.

이번 사례는 생성형 AI 기능이 기존 신뢰 인프라와 결합할 때 위험이 단순 이미지 조작을 넘어 출처 신뢰성 오염으로 확장될 수 있음을 보여줍니다. 특히 Google Earth처럼 언론·연구자가 시각 증거로 활용하는 플랫폼에서는 콘텐츠 출처 검증과 워터마킹, 정책 집행이 제품 출시 전제 조건이 되고 있습니다. AI 기업들은 창의적 기능의 확산 속도보다 오용 가능성을 먼저 평가해야 한다는 압박을 더 크게 받게 됐습니다.