Justicia artificial

Título original:

Artificial Justice

Contenido del libro:

Imagina que Eric, un joven, ha sido condenado por un delito relacionado con bandas: fue encontrado por la policía en el lugar de un robo perpetrado por sus amigos. El juez que dicta la sentencia tiene que tomar una decisión. Al no saber si Eric supone un riesgo para el público, recurre a una evaluación algorítmica del riesgo: un conjunto de reglas, desarrolladas a partir de correlaciones entre características individuales y actividad delictiva, que predice la probabilidad de reincidencia. Eric es un ciudadano concienzudo, que nunca antes ha tenido problemas con la ley. Sin embargo, se crió en un hogar de acogida, en una zona con altos índices de delincuencia, pobreza e inestabilidad residencial, hechos a los que el algoritmo atribuye una elevada puntuación de riesgo. El juez recomienda una condena de la máxima duración posible, con supervisión posterior a la puesta en libertad.

¿Qué importancia tiene esto? La respuesta más frecuente es que importa por la desigualdad, expresada a través del lenguaje de la "parcialidad" o la "discriminación": el uso de algoritmos puede exacerbar diferencias injustificadas entre las personas por motivos de raza, sexo o circunstancias socioeconómicas.

Utilizando un conjunto variado de estudios de casos, y formulando recomendaciones políticas claras a lo largo del camino, Justicia Artificial desentraña las razones que podríamos tener para oponernos al uso de algoritmos estadísticos para asignar las cargas de las decisiones políticas. Argumenta que estas razones van más allá de las preocupaciones igualitarias. Y lo que es más importante, incluyen razones que se derivan del valor de la elección individual, de tener la oportunidad de influir en lo que nos sucede eligiendo adecuadamente y estando preparados para ejercer bien esas elecciones.

El libro explora las razones de fondo que contribuyen a hacernos una idea de lo que está en juego para los individuos cuando utilizamos algoritmos estadísticos para tomar decisiones sobre cómo tratar a los demás, y formula sólidas recomendaciones políticas sobre el alcance y la naturaleza de la interacción entre humanos y algoritmos. Justicia Artificial es un texto convincente y accesible, que ofrece mucho a un público amplio e interdisciplinar de académicos, estudiantes y otras personas interesadas en aprender sobre la justicia algorítmica.