Datos discriminatorios: Correlación, vecindad y la nueva política del reconocimiento

Opiniones de los lectores

Actualmente no hay opiniones de lectores. La calificación se basa en 9 votos.

Título original:

Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition

Contenido del libro:

Cómo el Big Data y el aprendizaje automático codifican la discriminación y crean agitados cúmulos de reconfortante rabia.

En Discriminating Data, Wendy Hui Kyong Chun revela cómo la polarización es un objetivo -y no un error- del Big Data y el aprendizaje automático. Estos métodos, argumenta, codifican la segregación, la eugenesia y la política de identidad a través de sus supuestos y condiciones por defecto. La correlación, que fundamenta el potencial predictivo del Big Data, procede de los intentos eugenésicos del siglo XX de "criar" un futuro mejor. Los sistemas de recomendación fomentan rabiosos grupos de similitud a través de la homofilia. Se "entrena" a los usuarios para que sean auténticamente predecibles mediante una política y una tecnología de reconocimiento. El aprendizaje automático y el análisis de datos pretenden perturbar el futuro haciendo imposible la perturbación.

Chun, que tiene formación en ingeniería de diseño de sistemas, así como en estudios de medios de comunicación y teoría cultural, explica que, aunque los algoritmos de aprendizaje automático no incluyan oficialmente la raza como categoría, incorporan la blancura por defecto. La tecnología de reconocimiento facial, por ejemplo, se basa en los rostros de famosos de Hollywood y estudiantes universitarios, grupos no famosos por su diversidad. La homofilia surgió como concepto para describir las actitudes de los residentes blancos de Estados Unidos ante la vida en viviendas públicas birraciales pero segregadas. La tecnología policial predictiva despliega modelos entrenados en estudios de barrios predominantemente desatendidos. Entrenados con datos seleccionados y a menudo discriminatorios o sucios, estos algoritmos sólo se validan si reflejan estos datos.

¿Cómo podemos liberarnos de las garras de los datos discriminatorios? Chun aboga por algoritmos alternativos, valores por defecto y coaliciones interdisciplinarias para eliminar la segregación de las redes y fomentar un Big Data más democrático.