La ventaja de Google en IA: lo que ya sabe de ti

En un reciente episodio del podcast Limitless, Robby Stein, vicepresidente de Producto de Google Search, destacó que una de las mayores oportunidades de la compañía en inteligencia artificial (IA) radica en su capacidad para conocer mejor a los usuarios y personalizar sus respuestas. La promesa es una IA que sea excepcionalmente útil porque te conoce, pero el riesgo es que esta tecnología se perciba más como una vigilancia que como un servicio.

Stein explicó que la IA de Google tiende a responder más consultas que buscan consejos o recomendaciones, donde las respuestas subjetivas son más beneficiosas. "Creemos que hay una gran oportunidad para que nuestra IA te conozca mejor y sea única y útil gracias a ese conocimiento", afirmó Stein. Durante la conferencia de desarrolladores de Google, I/O, se discutió cómo la IA puede entender mejor a los usuarios a través de servicios conectados como Gmail.

Google ha estado integrando IA en sus aplicaciones desde hace tiempo, comenzando cuando Gemini era conocido como Bard. Recientemente, comenzó a incorporar datos personales en otro producto de IA, Gemini Deep Research. Además, Gemini se ha integrado en aplicaciones de Google Workspace como Gmail, Calendar y Drive.

Sin embargo, a medida que Google integra más datos personales en su IA, que abarcan correos electrónicos, documentos, fotos, historial de ubicación y comportamiento de navegación, la línea entre un asistente útil y uno intrusivo se vuelve cada vez más difusa. A diferencia de los servicios de opt-in, evitar la recopilación de datos de Google podría volverse más complicado a medida que la IA se convierta en un componente central de sus productos.

La propuesta de Google es que esta profunda personalización hace que la IA sea mucho más útil. La idea es que la tecnología de IA de Google pueda aprender de las interacciones del usuario a través de sus diversos servicios y utilizar ese entendimiento para hacer recomendaciones más personalizadas. Por ejemplo, si la IA descubre que un usuario prefiere ciertos productos o marcas, sus respuestas podrían favorecer esas opciones en sus recomendaciones.

Stein argumentó que esto sería "mucho más útil" que simplemente mostrar a los usuarios una lista genérica de los productos más vendidos en una categoría determinada. "Esa es, creo, muy mucho la visión: construir algo que pueda ser realmente conocedor para ti, específicamente", añadió.

Esta idea no es tan diferente de cómo los "Otros" en la exitosa serie de Apple TV, Pluribus, han absorbido el conocimiento del mundo, incluyendo detalles íntimos sobre los individuos. Cuando el sistema interactúa con la protagonista del programa, Carol, utiliza esos datos para personalizar todo: cocinar sus comidas favoritas, adoptar un rostro familiar para manejar sus comunicaciones y anticipar sus necesidades.

Sin embargo, Carol no considera que estas respuestas personalizadas sean amables; las encuentra invasivas. Nunca consintió compartir sus datos con la mente colectiva, pero esta la conoce mejor de lo que le gustaría.

De manera similar, parece que evitar las prácticas de recopilación de datos de Google se volverá cada vez más difícil en la era de la IA, y si Google no logra encontrar el equilibrio adecuado, los resultados podrían sentirse más inquietantes que útiles.

Es importante señalar que Google permite a los usuarios controlar las aplicaciones que Gemini utiliza para conocerlos mejor, lo cual se encuentra en "Aplicaciones Conectadas" en la configuración de Gemini.

Si un usuario comparte datos de aplicaciones con Gemini, Google afirma que guardará y utilizará esos datos de acuerdo con la política de privacidad de Gemini. Esta política recuerda a los usuarios que revisores humanos pueden leer algunos de sus datos y que no deben "ingresar información confidencial que no desearían que un revisor viera o que Google utilizara para mejorar sus servicios".

Sin embargo, a medida que más datos se integran en la mente colectiva de Google, es fácil ver cómo la IA podría convertir la privacidad de datos en un área gris.

A pesar de esto, Google cree tener una solución. Stein mencionó que Google indicará cuándo sus respuestas de IA son personalizadas.

"Creo que las personas quieren entender intuitivamente cuándo están siendo personalizadas, cuando la información está hecha para ellos, en comparación con cuando es algo que todos verían si hicieran esta pregunta", dijo.

Stein también señaló que Google podría enviar una notificación a los usuarios cuando un producto que han estado considerando después de varios días de investigación en línea esté disponible o esté en oferta.

"Hay muchas maneras en que Google ahora, a través de modos, a través de diferentes aspectos de tu vida, está siendo increíblemente útil para ti...", concluyó. "Y creo que eso es más de cómo pienso en el futuro de la búsqueda que cualquier característica específica o forma única".