Voces en el código: Una historia sobre personas, sus valores y el algoritmo que crearon

Opiniones de los lectores

Actualmente no hay opiniones de lectores. La calificación se basa en 7 votos.

Título original:

Voices in the Code: A Story about People, Their Values, and the Algorithm They Made

Contenido del libro:

Los algoritmos -reglas escritas en software- determinan momentos clave de nuestras vidas: desde quién es contratado o admitido en una escuela pública de primer nivel, hasta quién debe ir a la cárcel o recibir escasas prestaciones públicas. En la actualidad, los programas informáticos de alto riesgo rara vez se someten a escrutinio, pero su código plantea cuestiones morales: ¿Qué rasgos de una persona es justo tener en cuenta en una solicitud de empleo? ¿Quién merece prioridad en el acceso a los escasos recursos públicos, ya sean plazas escolares, vivienda o medicinas? Cuando alguien comparece por primera vez ante un tribunal, ¿cómo debe sopesarse su libertad frente a los riesgos que puede suponer para los demás?

Los responsables políticos y el público en general suelen considerar que los algoritmos son complejos, opacos e intimidatorios, y puede resultar tentador pretender que las cuestiones morales difíciles tienen respuestas tecnológicas sencillas. Pero este enfoque deja el micrófono moral en manos de los expertos técnicos e impide que quienes carecen de conocimientos técnicos hagan oír su voz. Hoy en día, los responsables políticos y los académicos buscan mejores formas de compartir la toma de decisiones morales en el software de alto riesgo, explorando ideas como la participación pública, la transparencia, la previsión y las auditorías algorítmicas. Pero hay pocos ejemplos reales de estas técnicas en uso.

En Voices in the Code, el académico David G. Robinson cuenta la historia de cómo una comunidad construyó un algoritmo de vida o muerte de forma relativamente inclusiva y responsable. Entre 2004 y 2014, un grupo diverso de pacientes, cirujanos, médicos, científicos de datos, funcionarios públicos y defensores colaboraron y se comprometieron a construir un nuevo algoritmo de compatibilidad de trasplantes, un sistema para ofrecer riñones donados a determinados pacientes de la lista de espera nacional de Estados Unidos.

Basándose en entrevistas con las principales partes interesadas, archivos inéditos y una amplia bibliografía académica, Robinson muestra cómo este nuevo Sistema de Asignación de Riñones surgió y evolucionó con el tiempo, a medida que los participantes fueron construyendo un entendimiento compartido tanto de lo que era posible como de lo que sería justo. Robinson encuentra en esta historia mucho que criticar, pero también mucho que admirar. En última instancia, ilustra tanto las promesas como los límites de la participación, la transparencia, la previsión y la auditoría de los programas informáticos de alto riesgo. El capítulo final del libro extrae lecciones para la lucha más amplia por construir tecnología de forma democrática y responsable.