Causal Fairness Analysis: Un conjunto de herramientas causales para el aprendizaje automático justo

Título original:

Causal Fairness Analysis: A Causal Toolkit for Fair Machine Learning

Contenido del libro:

El reciente aumento del interés por los sistemas de inteligencia artificial ha suscitado preocupación en sectores morales sobre su uso ético y sobre si pueden demostrar procesos de toma de decisiones justos.

Los problemas de injusticia y discriminación son omnipresentes cuando las decisiones son tomadas por seres humanos, y se amplifican potencialmente cuando las decisiones son tomadas por máquinas con poca transparencia, responsabilidad e imparcialidad. En esta monografía, los autores presentan un marco para el análisis causal de la equidad con el fin de comprender, modelar y posiblemente resolver los problemas de equidad en los entornos de toma de decisiones de la IA.

Los autores vinculan la cuantificación de las disparidades presentes en los datos observados con la colección subyacente, a menudo no observada, de mecanismos causales que generan la disparidad en primer lugar, un reto que denominan el Problema Fundamental del Análisis Causal de la Equidad (FPCFA). Para resolver el FPCFA, estudian la asignación de variaciones y medidas empíricas de equidad a mecanismos estructurales y diferentes unidades de la población, culminando en el Mapa de Equidad. Esta monografía presenta el primer intento sistemático de organizar y explicar la relación entre diversos criterios de imparcialidad y estudia qué supuestos causales son necesarios para realizar análisis causales de imparcialidad.

El Fairness Cookbook resultante permite a cualquiera evaluar la existencia de impacto dispar y trato dispar. Se trata de una oportuna e importante introducción al desarrollo de futuros sistemas de IA que incorporen la justicia inherente y, como tal, será de gran interés no sólo para los diseñadores de sistemas de IA, sino para todos aquellos interesados en el impacto más amplio que la IA tendrá en la sociedad.