ChatGPT i Gemini estan mostrant números de telèfon personals reals en algunes respostes, un error que ja ha derivat en trucades i missatges a persones alienes als serveis que suposadament oferien. El problema apunta a la presència de dades identificables en el material amb què es van entrenar aquests models de llenguatge.
La paradoxa és que eines presentades com a assistents capaços d'ordenar i resumir informació estan difonent dades privades errònies com si fossin contactes vàlids. Aquest salt entre automatització i exposició personal ha multiplicat les consultes d'usuaris que intenten esborrar el seu rastre a internet.
DeleteMe va registrar un augment del 400% en consultes lligades a la IA generativa
L'empresa DeleteMe ha detectat un increment del 400% en les consultes vinculades a assistents d'intel·ligència artificial generativa. El seu cofundador i director executiu va explicar a MIT Technology Review que moltes d'aquestes peticions ja esmenten de forma expressa ChatGPT, Claude, Gemini i altres eines del mateix tipus.
Aquest canvi no respon només a una preocupació abstracta. Els nous casos descriuen com els sistemes lliuren telèfons reals en contestar preguntes d'atenció al client, serveis professionals o identificació de persones concretes.
Usuaris aliens van acabar rebent trucades per a serveis que no presten
Un usuari de Reddit va relatar que va començar a rebre trucades de persones que demanaven serveis d'advocat, dissenyador de productes i serraller, encara que no treballa en cap d'aquestes professions. En un altre cas, el número d'un desenvolupador de programari va aparèixer en respostes de Gemini com a suposat contacte d'atenció al client.
A partir d'aquí, el seu WhatsApp va quedar saturat per sol·licituds externes. L'error no consistia només en una resposta imprecisa, sinó en l'assignació d'un telèfon personal a una funció comercial o de suport que no li corresponia.
També una estudiant de postgrau de la Universitat de Washington va aconseguir que Gemini li facilités el número de telèfon d'un company d'estudis. L'episodi reforça la preocupació sobre la facilitat amb què alguns models poden retornar dades personals quan es formulen certes preguntes.
Les al·lucinacions de la IA converteixen una dada falsa en una via de contacte real
El problema s'agreuja quan les fallades pròpies de la intel·ligència artificial validen informació incorrecta. Si un model barreja un nom, una professió o una empresa amb un número real, la resposta pot circular com si fos fiable encara que el vincle sigui fals.
Aquí apareix una segona derivada. La dada inventada per la màquina no deixa de ser nociu perquè el telèfon existeixi de veritat, ja que converteix una persona concreta en destinatària de trucades, missatges o consultes que no li corresponen.
El director executiu i cofundador de DeleteMe va assenyalar a MIT Technology Review que les noves gestions dels usuaris ja fan referència específica a ChatGPT, Claude, Gemini i altres eines d'IA generativa.