El Estado de Derecho y la toma de decisiones automatizada: Explorando los fundamentos de la gobernanza algorítmica

Título original:

The Rule of Law and Automated Decision-Making: Exploring Fundamentals of Algorithmic Governance

Contenido del libro:

El libro presenta observaciones relativas a la toma de decisiones automatizada desde un punto de vista general, al tiempo que analiza el modo en que ha evolucionado la praxis en algunas jurisdicciones en lo que respecta a la toma de decisiones automatizada y cómo se formulan los requisitos que le imponen los ordenamientos jurídicos.

El principio del Estado de Derecho debe aplicarse en el contexto de la toma de decisiones automatizada de las autoridades públicas tanto como cuando los responsables de la toma de decisiones son personas físicas. En sintonía con la creciente automatización de la toma de decisiones en las autoridades públicas, han empezado a surgir cuestiones problemáticas sobre la base jurídica adecuada para la toma de decisiones algorítmica. ¿Cómo debe aplicarse el principio del Estado de Derecho en el ámbito de la toma de decisiones automatizada, cómo debe regularse la toma de decisiones automatizada para que satisfaga los requisitos creados por el principio del Estado de Derecho y cómo debe concretarse el principio del Estado de Derecho en la toma de decisiones basada en algoritmos? La propuesta de Ley sobre IA lanzada por la Comisión Europea en abril de 2021, que incluye una identificación de los usos de alto riesgo de las técnicas algorítmicas, plantea nuevas cuestiones sobre las prácticas e interpretaciones relacionadas con la toma de decisiones automatizada.

El Estado de Derecho parte de la máxima de que los poderes públicos se ejercen dentro de un marco jurídico que hace previsible el ejercicio de los poderes públicos a la luz de las normas jurídicas. Asimismo, un Estado de Derecho exige que el contenido del ejercicio de los poderes públicos esté regulado por normas jurídicas, lo que significa que los ciudadanos deben poder conocer todo lo relevante sobre cómo se van a ejercer los poderes, no sólo quién los va a ejercer. Gracias a este tipo de normas y principios, entre los que se incluyen la no discriminación y la proporcionalidad, el ejercicio de los poderes no se convertirá en arbitrario.