Una fallada dels chatbots d'intel·ligència artificial està exposant telèfons personals d'usuaris a desconeguts que busquen serveis d'empreses. El cas més recent l'ha denunciat Daniel Abraham, un enginyer de programari que va començar a rebre missatges de WhatsApp de persones que volien contactar amb l'atenció al client de PayBox perquè Gemini, el model generatiu de Google, associava el seu número amb aquesta aplicació de pagaments.
La paradoxa per als afectats és que fins i tot després de demanar la retirada de la dada, el problema pot seguir actiu. Abraham va presentar una sol·licitud oficial d'eliminació, però assegura que l'assetjament continua cada dia, amb contactes de persones que escriuen al seu mòbil personal malgrat que PayBox no ofereix atenció al client per WhatsApp.
Gemini va vincular un mòbil personal amb el servei de PayBox
Abraham va explicar que al principi va pensar que aquells missatges no eren reals. "Vaig pensar que era un missatge de spam", va dir, abans de plantejar un risc afegit si l'error va més enllà d'una simple confusió de contacte.
"Què passaria si pregunta per diners en lloc de resoldre un problema?" - Daniel Abraham, enginyer de programari
El cas no és aïllat. Meira Gilbert, investigadora de la Universitat de Washington, va comprovar que Gemini també mostrava el telèfon personal de la seva col·lega Yael Eiger quan algú buscava la seva informació de contacte.
En aquest cas, el número només s'havia publicat abans per a un taller tecnològic. La diferència entre un context concret i una resposta oberta a qualsevol consulta és precisament el que va denunciar Eiger.
"Deixar la teva informació per a un públic concret i que Gemini la faci accessible per a qualsevol són dues coses totalment diferents" - Yael Eiger, investigadora
Les peticions per esborrar dades de la IA van créixer un 400% en set mesos
El volum de reclamacions també ha augmentat. Rob Shavell, cofundador i director executiu de DeleteMe, va afirmar que les sol·licituds per eliminar dades personals d'eines d'IA van créixer un 400% en els últims set mesos.
Google i OpenAI ja tenen portals i formularis per demanar l'eliminació o correcció de dades personals a les respostes dels seus chatbots. Aquests canals, però, no garanteixen una retirada immediata de la informació.
Jennifer King, especialista en privacitat de l'Institut d'IA Centrada en l'Ésser Humà de la Universitat de Stanford, va indicar que la legislació actual sol aplicar-se sobretot a la informació que els usuaris entreguen directament a les companyies. També va recomanar reduir al màxim l'exposició de dades personals a internet.
Per ara, continua sense conèixer-se el mecanisme exacte que fa que aquests sistemes exposen telèfons o altres dades personals. Els casos detectats apunten a l'ús d'informació personal identificable en els conjunts de dades amb què s'entrenen els grans models de llenguatge.