Son innumerables los sectores y actividades donde se están empleando sistemas de inteligencia artificial que, gracias al procesamiento y combinación de ingentes cantidades de datos personales y no personales, pueden decidir de forma automatizada y con cierto grado de autonomía, por ejemplo, quién merece ser destinatario de un crédito o de una ayuda pública, quién es apto para un determinado puesto de trabajo, quién puede acceder a un centro educativo, o qué probabilidades de reincidencia tiene un preso.
Aunque los beneficios que conlleva esta tecnología son indiscutibles, en ocasiones se ven ensombrecidos por los riesgos que implica y que pasan desapercibidos para los ciudadanos. Además de amenazas a la intimidad o a la protección de datos personales, uno de los mayores peligros del uso de estos sistemas es la adopción de decisiones sesgadas y discriminatorias que lleven a reproducir, amplificar y consolidar estereotipos y desigualdades contra las que se lleva siglos luchando. De hecho, la perpetuación de patrones históricos de discriminación ha sido tenida en cuenta en el reciente Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, para clasificar los sistemas inteligentes dentro de uno u otro nivel de riesgo.
La presente monografía aborda los potenciales riesgos y daños al derecho a la igualdad de trato y no discriminación derivados del uso de sistemas de inteligencia artificial en la toma de decisiones. Se estudia, entre otras cuestiones, el concepto y las características de la discriminación algorítmica, las causas que pueden provocarla, los desafíos que plantea y las medidas que pueden adoptarse para hacerles frente. Todo ello mediante el análisis de la legislación sobre igualdad y no discriminación, sobre protección de datos y sobre inteligencia artificial, así como de otras soluciones propuestas desde el ámbito ético y tecnológico para prevenir los riesgos y reparar los daños que este fenómeno puede ocasionar.
ÍNDICE
CAPÍTULO I. EL IMPACTO SOCIAL DE LOS ALGORITMOS Y LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL EN LA TOMA DE DECISIONES
CAPÍTULO II. LA DISCRIMINACIÓN ALGORÍTMICA A GRUPOS VULNERABLES
CAPÍTULO III. PRINCIPALES DESAFÍOS QUE PLANTEA LA DISCRIMINACIÓN ALGORÍTMICA
CAPÍTULO IV. MEDIDAS PARA HACER FRENTE A LOS PROBLEMAS QUE PLANTEA LA DISCRIMINACIÓN ALGORÍTMICA (I): LA PREVENCIÓN DEL DAÑO
CAPÍTULO V. MEDIDAS PARA HACER FRENTE A LOS PROBLEMAS QUE PLANTEA LA DISCRIMINACIÓN ALGORÍTMICA (II): LOS DAÑOS DERIVADOS DE LA DISCRIMINACIÓN Y SU REPARACIÓN
Valoraciones
No hay valoraciones aún.