Auditoría de algoritmos: Entender los sistemas algorítmicos desde fuera

Título original:

Auditing Algorithms: Understanding Algorithmic Systems from the Outside in

Contenido del libro:

Los algoritmos son fuentes omnipresentes y fundamentales de información en línea y actúan cada vez más como guardianes de los usuarios que acceden o comparten información sobre prácticamente cualquier tema.

Esto incluye información sobre su vida personal y la de sus amigos y familiares, noticias y política, entretenimiento e incluso salud y bienestar. Como resultado, los contenidos seleccionados algorítmicamente atraen cada vez más la atención y el escrutinio de los usuarios, los medios de comunicación y los legisladores.

Estudiar este tipo de contenidos plantea retos considerables, ya que son a la vez dinámicos y efímeros. Una estrategia que ha demostrado su eficacia es la auditoría de algoritmos: un método que consiste en consultar repetidamente un algoritmo y observar sus resultados para extraer conclusiones sobre su opaco funcionamiento interno y sus posibles repercusiones externas. En este trabajo, los autores presentan una visión general de la metodología de auditoría de algoritmos.

Incluyen la historia de los estudios de auditoría en las ciencias sociales de los que se deriva este método; un resumen de las principales auditorías de algoritmos de las dos últimas décadas en diversos ámbitos como la salud, la política y la discriminación; y un conjunto de buenas prácticas para realizar auditorías de algoritmos en la actualidad. Los autores concluyen debatiendo las dimensiones sociales, éticas y políticas de la auditoría de algoritmos y proponen normas para el uso de este método.