Un fallo de los chatbots de inteligencia artificial está exponiendo teléfonos personales de usuarios a desconocidos que buscan servicios de empresas. El caso más reciente lo ha denunciado Daniel Abraham, un ingeniero de software que empezó a recibir mensajes de WhatsApp de personas que querían contactar con la atención al cliente de PayBox porque Gemini, el modelo generativo de Google, asociaba su número con esa aplicación de pagos.
La paradoja para los afectados es que incluso después de pedir la retirada del dato, el problema puede seguir activo. Abraham presentó una solicitud oficial de eliminación, pero asegura que el acoso continúa cada día, con contactos de personas que escriben a su móvil personal pese a que PayBox no ofrece atención al cliente por WhatsApp.
Gemini vinculó un móvil personal con el servicio de PayBox
Abraham explicó que al principio pensó que aquellos mensajes no eran reales. "Pensé que era un mensaje de spam", dijo, antes de plantear un riesgo añadido si el error va más allá de una simple confusión de contacto.
"¿Qué ocurriría si pregunta por dinero en lugar de resolver un problema?" - Daniel Abraham, ingeniero de software
El caso no es aislado. Meira Gilbert, investigadora de la Universidad de Washington, comprobó que Gemini también mostraba el teléfono personal de su colega Yael Eiger cuando alguien buscaba su información de contacto.
En ese caso, el número solo se había publicado antes para un taller tecnológico. La diferencia entre un contexto concreto y una respuesta abierta a cualquier consulta es precisamente lo que denunció Eiger.
"Dejar tu información para un público concreto y que Gemini la haga accesible para cualquiera son dos cosas totalmente diferentes" - Yael Eiger, investigadora
Las peticiones para borrar datos de la IA crecieron un 400% en siete meses
El volumen de reclamaciones también ha aumentado. Rob Shavell, cofundador y director ejecutivo de DeleteMe, afirmó que las solicitudes para eliminar datos personales de herramientas de IA crecieron un 400% en los últimos siete meses.
Google y OpenAI ya tienen portales y formularios para pedir la eliminación o corrección de datos personales en las respuestas de sus chatbots. Esos canales, sin embargo, no garantizan una retirada inmediata de la información.
Jennifer King, especialista en privacidad del Instituto de IA Centrada en el Ser Humano de la Universidad de Stanford, indicó que la legislación actual suele aplicarse sobre todo a la información que los usuarios entregan directamente a las compañías. También recomendó reducir al máximo la exposición de datos personales en internet.
Por ahora, sigue sin conocerse el mecanismo exacto que hace que esos sistemas expongan teléfonos u otros datos personales. Los casos detectados apuntan al uso de información personal identificable en los conjuntos de datos con los que se entrenan los grandes modelos de lenguaje.