Google transforma el análisis de uso de inteligencia artificial asegurando privacidad total

La inteligencia artificial generativa (GenAI) está cada vez más presente en nuestras vidas, desde aplicaciones que transcriben nuestras conversaciones hasta asistentes personales que resumen textos.

Sin embargo, para mejorar estas tecnologías, es vital conocer cómo las usamos en la realidad, sin comprometer nuestra privacidad.

Google ha avanzado una solución innovadora llamada provably private insights (PPI), o “insights probablemente privados“, que permite estudiar el uso de IA en dispositivos sin que los datos personales puedan ser vistos o manipulados.

¿Qué son los “insights probablemente privados”?

Imaginemos que un “experto en datos” —representado por una inteligencia artificial avanzada conocida como modelo de lenguaje grande (LLM)— revisa automáticamente nuestros datos en el dispositivo (como grabaciones o notas), para entender qué temas abordamos o si, por ejemplo, estamos frustrados usando la app.

Este experto reside dentro de un entorno ultra seguro llamado ejecución confiable (TEE), que actúa como una caja fuerte digital donde nadie, ni siquiera Google, puede mirar lo que hay adentro.

La información que se extrae se convierte en estadísticas agregadas, con una protección extra llamada privacidad diferencial, que añade “ruido” o pequeñas modificaciones para que no sea posible identificar a ningún usuario de forma individual.

De esta forma, se pueden obtener tendencias fiables sin revelar detalles personales.

¿Cómo funciona este sistema en el día a día?

Un ejemplo práctico es la aplicación Recorder de Google Pixel, que transcribe y resume grabaciones.

Cuando los usuarios aceptan mejorar el servicio, fragmentos selectos de estas grabaciones se envían cifrados a este entorno seguro, donde un modelo llamado Gemma 3 clasifica y resume los temas tratados. Google solo recibe datos agregados de estas clasificaciones, sin acceso a las conversaciones originales.

Así, los desarrolladores logran entender si los usuarios usan la app para “Notas personales“, “Reuniones de trabajo” o “Recordatorios“, sin invadir la privacidad.

Además, esta técnica ayuda a mejorar la precisión de las funciones de IA en el dispositivo, evaluando de forma automática la calidad de los resúmenes sin comprometer datos sensibles.

Un compromiso abierto y transparente

Lo destacable de este avance es que Google ha hecho público todo el código y los procesos usados para este análisis —desde los modelos de IA hasta el software que protege la privacidad— permitiendo que expertos externos puedan verificar que la privacidad se garantiza efectivamente.

Esta transparencia es un paso fundamental para generar confianza en cómo la IA maneja nuestros datos.

Mirando hacia el futuro

La tecnología de insights probablemente privados abre la puerta a más análisis confidenciales y detallados de uso de inteligencias artificiales, con aplicaciones en temas que van desde el análisis de datos geoespaciales hasta la generación de datos sintéticos para entrenar nuevos modelos.

Al mismo tiempo, preserva al máximo la privacidad, un desafío clave en la era digital.

Google está liderando este campo justo cuando las IA comienzan a incorporarse directamente en nuestros dispositivos personales, marcando un precedente para que la innovación tecnológica no comprometa la protección de nuestra información privada.

¿Quieres entender mejor la inteligencia artificial?

Aquí encontrarás los términos básicos que necesitas para moverte con seguridad en este nuevo mundo digital.

Preparamos un glosario claro, completo y pensado para que cualquier persona —sin importar su nivel técnico— pueda comprender cómo funciona la IA, sus conceptos esenciales y sus aplicaciones prácticas.

Descarga el glosario en PDF y consérvalo como guía de consulta permanente

Nota de Transparencia

Esta nota fue generada 100% con IA. La fuente fue aprobada por Diario Occidente y el contenido final fue revisado por un miembro del equipo de redacción.

Comments