Amnistía Internacional advirtió el jueves 28 de que los sistemas de inteligencia artificial generativa funcionan, desde su propio diseño, con una recogida masiva de datos personales sin consentimiento. La organización sitúa el problema en modelos y herramientas ya extendidos en el mercado, entre ellos GPT-3 de OpenAI, Gemini de Google, Llama de Meta, DeepSeek, Midjourney y Stable Diffusion.
La tensión que señala el informe está en la base del negocio. Estas herramientas se presentan como productos de eficiencia y sofisticación, pero su funcionamiento depende, según la investigación, de una extracción ilegal de información publicada en Internet, incluidas imágenes y actividad en redes sociales, con efectos sobre la privacidad, la discriminación y el consumo de recursos.
Amnistía sitúa en el diseño la captación masiva de datos personales
La investigación, titulada Unlawful by Design documenta violaciones del derecho a la privacidad, sostiene que la IA generativa se entrena con miles de millones de publicaciones e imágenes públicas recogidas de forma automatizada en la web. Amnistía Internacional añade que esa práctica se realiza sin consentimiento expreso de las personas afectadas.
Likhita Banerji, directora de Rendición de Cuentas sobre el Uso de Algoritmos en Amnistía Internacional, afirmó que empresas de todo el mundo comercializan estos sistemas bajo una apariencia de eficiencia cuando, en realidad, perpetúan violaciones masivas de la privacidad.
"Es posible una trayectoria diferente del desarrollo tecnológico si las autoridades actúan con urgencia para corregir el rumbo" - Likhita Banerji, directora de Rendición de Cuentas sobre el Uso de Algoritmos, Amnistía Internacional
El estudio añade que el entrenamiento de estos modelos no solo afecta a la privacidad. También amplifica contenidos que incitan al odio, la discriminación y estereotipos raciales y de género, y atribuye a la IA generativa riesgos para el derecho a la libertad de pensamiento por su capacidad de influir en ideas y creencias mediante sugerencias predictivas.
Google elevó un 48% sus emisiones y Microsoft las aumentó un 29%
Amnistía Internacional vincula además la expansión de la IA generativa a un mayor consumo de energía, más centros de datos y una demanda creciente de agua para sostener esa infraestructura. El informe conecta ese despliegue con impactos que ya aparecen en la documentación de grandes compañías tecnológicas.
En el caso de Google, su informe de sostenibilidad de 2024 registró que las emisiones de gases de efecto invernadero aumentaron un 48% desde 2019, un incremento asociado a los centros de datos y a la cadena de suministro. Microsoft, por su parte, elevó sus emisiones un 29% entre 2020 y 2024 por los procesos de apoyo a la IA en sus centros de datos.
Fuera de Europa, la organización cita la oposición de comunidades de Cerrillos, en Chile, Querétaro, en México, y Arizona, en Estados Unidos, a nuevas instalaciones en zonas afectadas por sequías y por problemas de suministro eléctrico.
La publicación coincidió con una llamada del papa León XIV a regular
La difusión del informe coincidió con la encíclica Magnifica Humanitas del papa León XIV, que advierte de que quien controle la inteligencia artificial impondrá su propia visión moral y reclama a los Estados que fijen reglas.
Amnistía Internacional pide a los Estados que prohíban los sistemas autónomos de IA generativa basados en la extracción ilegal de datos de la web. También exige a las empresas que cesen de inmediato la captación de datos personales sin consentimiento para entrenar modelos.
La organización reclama, además, que los Estados exijan responsabilidades a las empresas por su participación en abusos contra los derechos humanos ligados a decisiones de diseño y de negocio en el desarrollo de la IA generativa.