L'ús creixent de la Intel·ligència Artificial en serveis i plataformes digitals de Catalunya planteja nous reptes en matèria de privacitat, ètica i autonomia personal. Lorena Naranjo Godoy, directora de la Maestria en Dret Digital de la UDLA i responsable de l'Àrea de Dret Digital a l'Estudi Jurídic Spingarn, alerta sobre els riscos de delegar el pensament humà a sistemes automatitzats, especialment quan es tracta de dades personals i presa de decisions en àmbits sensibles.
Preocupació per la privacitat i el control de dades personals
Segons Naranjo Godoy, moltes persones en entorns urbans com Barcelona, Girona o Tarragona utilitzen chatbots d'atenció al client i plataformes educatives sense ser plenament conscients que interactuen amb sistemes d'Intel·ligència Artificial. **El principal risc identificat és la pèrdua de control sobre els documents i dades personals que es pugen a aquestes plataformes**. L'experta adverteix que la informació pot emmagatzemar-se en núvols públics i ser reutilitzada, cosa que genera la necessitat d'extremar precaucions en sectors com la seguretat o la gestió d'informació confidencial
"Quan puges un document, perds el control sobre ell. Res és gratis. Aquesta informació sol emmagatzemar-se en núvols públics i pot ser reutilitzada" - Lorena Naranjo Godoy, UDLA
Impacte en l'educació i la presa de decisions
En l'àmbit educatiu, la Intel·ligència Artificial permet una retroalimentació personalitzada i processos adaptats al ritme de cada estudiant. Tanmateix, Naranjo Godoy subratlla que la tecnologia no ha de convertir-se en una drecera que substitueixi l'aprenentatge real ni l'anàlisi crítica. L'ús d'IA com a eina pot millorar l'eficiència, però suplantar el raonament humà genera riscos d'errors, biaixos o "al·lucinacions" en els resultats.
L'experta també assenyala que s'han detectat casos en què joves consulten sistemes d'IA per decidir com votar o quina postura política adoptar, cosa que evidencia una influència creixent en decisions col·lectives i personals.
Ètica i responsabilitat en el desenvolupament i ús de la IA
Naranjo Godoy distingeix dos nivells de responsabilitat. Per una banda, el disseny de la IA, que ha de preveure dilemes ètics en situacions de risc, com ocorre en els vehicles autònoms. Per l'altra, l'ús que fan les persones en acceptar respostes generades per IA com a veritats absolutes sense verificació. S'han documentat casos en què professionals han presentat informació falsa generada per IA, amb conseqüències greus.
L'experta insisteix en la necessitat de marcs ètics internacionals i en la responsabilitat compartida entre Estat, empreses i usuaris. L'Estat ha de definir límits clars sobre quines decisions es poden automatitzar, les empreses han de protegir les dades personals i els usuaris han d'evitar pujar informació sensible i no delegar el seu criteri.
El desafiament per a l'autonomia i la convivència amb la tecnologia
La integració de la Intel·ligència Artificial en processos administratius i serveis quotidians a Catalunya és irreversible. Naranjo Godoy afirma que el repte principal és aprendre a conviure amb aquesta tecnologia sense perdre autonomia ni capacitat crítica. La clau rau a potenciar les habilitats humanes i supervisar l'ús de la IA, evitant que es converteixi en substitut de relacions personals o del pensament propi.
"No es només saber fer servir la tecnologia. Cal consciència. Els joves han d'entendre com integrar la Intel·ligència Artificial al seu projecte de vida sense afectar les seves relacions, la seva salut mental o la seva privacitat"
El debat sobre el paper de la Intel·ligència Artificial a la societat catalana continua obert, amb la mirada posada en la protecció de drets digitals i la formació d'usuaris crítics i responsables.