Google eliminó las capacidades de generación de imágenes de NanoBanana 2 en Google Earth tras detectar un uso sistemático para fabricar contenido engañoso que contraviene las políticas de integridad de la tecnológica, obligando a una reestructuración de sus sistemas de seguridad.
El colapso del despliegue de Nanobanana 2
La tecnológica retiró la herramienta de inteligencia artificial apenas una semana después de su integración inicial debido a la creación de material visual que distorsiona la realidad.
La función, potenciada por el modelo Gemini 3.1 Flash Image, permitía a los usuarios manipular contenido satelital, aéreo y 3D dentro de la interfaz de Google Earth. La rápida intervención del equipo técnico se ejecutó tras constatar que la herramienta facilitaba la creación de escenarios alterados, socavando la precisión cartográfica que el servicio pretende ofrecer a sus usuarios.
Riesgos y vulnerabilidad ante la desinformación
La capacidad de generar imágenes falsas sobre eventos reales demostró una falla crítica en los filtros de seguridad de la plataforma.
- Uso malintencionado: La creación de imágenes satelitales falsas sobre manifestaciones ciudadanas expuso la vulnerabilidad de la IA ante la propaganda.
- Impacto reputacional: El incidente amenaza directamente la confianza de los usuarios, quienes emplean Google Earth como una fuente de consulta verídica sobre la geografía mundial.
- Respuesta de la empresa: La compañía confirmó el cese de operaciones de la función en la red social X para rediseñar barreras de protección más sólidas.
Limitaciones técnicas y medidas de mitigación
A pesar de la implementación de protocolos de seguridad previos, el sistema resultó insuficiente para evitar la generación de contenido engañoso.
La dirección de la empresa precisó que, aunque las imágenes creadas mediante NanoBanana 2 no formaban parte de la experiencia principal de la aplicación y portaban marcas de agua mediante SynthID, la naturaleza de las alteraciones detectadas resultó inaceptable bajo sus actuales estándares de cumplimiento. La restauración de esta capacidad queda supeditada a la implementación de sistemas de control que impidan la manipulación de la realidad visual.
