Google Earth genera desinformación con IA: Google retira la función

⏱ Tiempo de lectura: 4 min

Google desactivó temporalmente la función de generación de imágenes con IA integrada en Google Earth tras detectar uso malintencionado para crear desinformación. La herramienta Nano Banana 2 permitía a usuarios escribir prompts y generar imágenes falsas que simulaban ser satélites reales, abriendo puertas a la fabricación de conflictos armados, protestas y otros eventos ficticios con apariencia creíble.

Google retira función de IA en Google Earth por riesgos de desinformación

El 31 de julio, Google anunció el retroceso temporal de esta capacidad. La empresa reconoció que aunque «profesionales geoespaciales usaron la herramienta para propósitos útiles», también vieron «gente compartiendo capturas de imágenes generadas que violan nuestras políticas». Google indicó que trabajará en «protecciones más robustas» antes de relanzar la función. La decisión refleja creciente preocupación por herramientas de IA mal utilizadas.

Casos de desinformación confirmados antes del retiro

Investigadores del Digital Digging documentaron imágenes generadas que incluían tropas y tanques desplazándose por calles residenciales, refugiados masivos en la frontera mexicana, hospitales bombardeados en Gaza y plantas nucleares en Irán. Algunas simulaciones fueron tan convincentes que herramientas de detección de IA fallaron: una imagen de refugiados registró 99,2% de probabilidad de ser real al procesarla a través de Hive, porque el video de su creación era legítimo. Google respondió que incluye marca de agua digital SynthID, pero esto solo funciona si la imagen no se modifica ni redistribuye sin alteraciones.

Limitaciones de las medidas de protección

Google argumentó tener «protecciones contra temas dañinos» en constante actualización, pero la realidad fue distinta: la herramienta generó imágenes de conflictos armados en ciudades residenciales en segundos. El acceso monetizado — usuarios gratuitos limitados a dos imágenes diarias, mientras propietarios de Google Cloud pagan entre $75 y $150 mensuales — sugería que solo trolls ocasionales serían limitados, no propagandistas dedicados. Una marca de agua sin verificación pública no detiene redistribución malintencionada.

Preguntas frecuentes sobre la desinformación con IA en Google Earth

¿Por qué Google permitió generar imágenes de conflictos armados si tiene políticas contra esto?

Google reconoce la falla: la herramienta fue lanzada sin protecciones adecuadas para detectar prompts de desinformación antes de generar contenido. Solo después de que investigadores públicos documentaron abusos, Google tomó acción.

¿La marca de agua SynthID detiene la desinformación?

No efectivamente. La marca funciona solo si la imagen se redistribuye sin modificar desde Google Earth. Una vez descargada y compartida en redes sociales o editada, la marca se pierden y las herramientas de detección fallan frecuentemente, como mostró el caso del 99,2%.

¿Cuándo volverá la función?

No se especifica fecha en el anuncio. Google solo dijo que trabaja en «protecciones más robustas», sin timeline confirmado.

Nuestra lectura editorial

Este episodio expone un patrón recurrente: gigantes tecnológicos lanzan herramientas poderosas sin anticipar usos malintencionados, luego implementan parches reactivos. La confianza histórica en Google Earth como fuente de verdad geográfica la hizo especialmente peligrosa para desinformación.

En Gosu Blog creemos que la responsabilidad de detener desinformación no puede recaer solo en marcas de agua o usuarios individuales verificando autenticidad. Plataformas de escala global deben diseñar controles desde el inicio.

Fuente: www.pcgamer.com