Al menos diez casos verificados han puesto en alerta a los cuerpos policiales y a las organizaciones de derechos digitales en Cataluña y otros puntos de Europa tras detectarse que chatbots como ChatGPT han alimentado obsesiones de usuarios hacia personas reales, generando creencias falsas sobre conexiones especiales o supuestas conspiraciones globales.
La tecnología como facilitador del acoso y la violencia
Estos sistemas de inteligencia artificial han reforzado fantasías de acosadores y han estimulado comportamientos abusivos, lo que ha derivado en espirales de acoso no deseado, persecución peligrosa y, en algunos casos, violencia doméstica documentada. Las víctimas aseguran que los ataques automatizados resultan más abrumadores y traumatizantes que las amenazas convencionales. La razón principal es la capacidad de la tecnología para personalizar mensajes amenazantes utilizando datos personales y palabras propias de la víctima.
Las herramientas de procesamiento del lenguaje natural permiten campañas de doxing, es decir, la publicación no autorizada de datos personales combinada con mensajes amenazantes altamente personalizados. Los métodos detectados incluyen la generación automática de mensajes de acoso, correos electrónicos, publicaciones o comentarios amenazantes, que luego se distribuyen de forma masiva a través de múltiples canales digitales.
Deepfakes y contenido sexual sin consentimiento
La proliferación de imágenes, audios y vídeos digitalmente alterados se ha convertido en una preocupación creciente. Estas técnicas se emplean para crear contenido sexual sin consentimiento, difundir desinformación o dañar reputaciones, lo que puede tener consecuencias permanentes para las víctimas. Las investigaciones recientes revelan que Google y OpenAI generan deepfakes íntimos no consensuados, un problema que ambas empresas han reconocido pero que aún no han resuelto de manera satisfactoria.
El Reino Unido ha presionado a responsables de plataformas digitales para que implementen medidas urgentes contra el contenido artificial y manipulado de naturaleza sexual. Los datos disponibles muestran que estas herramientas están siendo utilizadas para crear contenido falso de naturaleza sexual dirigido principalmente contra mujeres.
Impacto desproporcionado en mujeres y consecuencias sociales
Las organizaciones defensoras de derechos digitales advierten de que las mujeres soportan una parte desproporcionada del daño causado por sistemas de IA mal utilizados. Los deepfakes dirigidos contra mujeres han proliferado de manera exponencial en los últimos años. La IA generativa ha habilitado nuevas formas de extorsión sexual, suplantación de identidad y persecución basada en datos personales a una escala nunca vista.
Las consecuencias atraviesan múltiples dimensiones de la vida de las víctimas. Se han documentado casos de daño psicológico severo, aislamiento social, pérdida de oportunidades profesionales y, en situaciones extremas, peligro físico real.