Amnistia Internacional va advertir el dijous 28 que els sistemes d'intel·ligència artificial generativa funcionen, des del seu propi disseny, amb una recollida massiva de dades personals sense consentiment. L'organització situa el problema en models i eines ja estesos al mercat, entre ells GPT-3 d'OpenAI, Gemini de Google, Llama de Meta, DeepSeek, Midjourney i Stable Diffusion.
La tensió que assenyala l'informe és a la base del negoci. Aquestes eines es presenten com a productes d'eficiència i sofisticació, però el seu funcionament depèn, segons la investigació, d'una extracció il·legal d'informació publicada a Internet, incloses imatges i activitat a xarxes socials, amb efectes sobre la privacitat, la discriminació i el consum de recursos.
Amnistia situa en el disseny la captació massiva de dades personals
La investigació, titulada Unlawful by Design documenta violacions del dret a la privacitat, sosté que la IA generativa s'entrena amb milers de milions de publicacions i imatges públiques recollides de forma automatitzada al web. Amnistia Internacional afegeix que aquesta pràctica es realitza sense consentiment exprés de les persones afectades.
Likhita Banerji, directora de Rendició de Comptes sobre l'Ús d'Algoritmes a Amnistia Internacional, va afirmar que empreses de tot el món comercialitzen aquests sistemes sota una aparença d'eficiència quan, en realitat, perpetuen violacions massives de la privacitat.
"És possible una trajectòria diferent del desenvolupament tecnològic si les autoritats actuen amb urgència per corregir el rumb" - Likhita Banerji, directora de Rendició de Comptes sobre l'Ús d'Algoritmes, Amnistia Internacional
L'estudi afegeix que l'entrenament d'aquests models no només afecta la privacitat. També amplifica continguts que inciten a l'odi, la discriminació i estereotips racials i de gènere, i atribueix a la IA generativa riscos per al dret a la llibertat de pensament per la seva capacitat d'influir en idees i creences mitjançant suggeriments predictius.
Google va elevar un 48% les seves emissions i Microsoft les va augmentar un 29%
Amnistia Internacional vincula a més l'expansió de la IA generativa a un major consum d'energia, més centres de dades i una demanda creixent d'aigua per sostenir aquesta infraestructura. L'informe connecta aquest desplegament amb impactes que ja apareixen en la documentació de grans companyies tecnològiques.
En el cas de Google, el seu informe de sostenibilitat de 2024 va registrar que les emissions de gasos d'efecte hivernacle van augmentar un 48% des de 2019, un increment associat als centres de dades i a la cadena de subministrament. Microsoft, per la seva banda, va elevar les seves emissions un 29% entre 2020 i 2024 pels processos de suport a la IA als seus centres de dades.
Fora d'Europa, l'organització cita l'oposició de comunitats de Cerrillos, a Xile, Querétaro, a Mèxic, i Arizona, als Estats Units, a noves instal·lacions en zones afectades per sequeres i per problemes de subministrament elèctric.
La publicació va coincidir amb una crida del papa Lleó XIV a regular
La difusió de l'informe va coincidir amb l'encíclica Magnifica Humanitas del papa Lleó XIV, que adverteix que qui controli la intel·ligència artificial imposarà la seva pròpia visió moral i reclama als Estats que fixin regles.
Amnistia Internacional demana als Estats que prohibeixin els sistemes autònoms d'IA generativa basats en l'extracció il·legal de dades del web. També exigeix a les empreses que cessen immediatament la captació de dades personals sense consentiment per entrenar models.
L'organització reclama, a més, que els Estats exigeixin responsabilitats a les empreses per la seva participació en abusos contra els drets humans lligats a decisions de disseny i de negoci en el desenvolupament de la IA generativa.