Transparencia e interpretabilidad para representaciones aprendidas de redes neuronales artificiales

Título original:

Transparency and Interpretability for Learned Representations of Artificial Neural Networks

Contenido del libro:

La inteligencia artificial (IA) es un concepto cuyo significado y percepción han cambiado considerablemente en las últimas décadas. La IA, que comenzó en los años 50 con investigaciones individuales y puramente teóricas, se ha convertido en un campo de investigación plenamente desarrollado en los tiempos modernos y podría decirse que es uno de los avances tecnológicos más importantes de la humanidad.

A pesar de estos rápidos avances tecnológicos, algunas cuestiones clave que giran en torno a la transparencia, la interpretabilidad y la explicabilidad de la toma de decisiones de una IA siguen sin respuesta. Así, ha surgido un joven campo de investigación acuñado con el término general de IA explicable (XAI) a partir de los requisitos cada vez más estrictos para que la IA se utilice en ámbitos críticos para la seguridad o sensibles desde el punto de vista ético.

Una importante rama de investigación de la XAI consiste en desarrollar métodos que ayuden a facilitar una comprensión más profunda del conocimiento aprendido por los sistemas neuronales artificiales. En este libro se presentan una serie de estudios científicos que arrojan luz sobre cómo adoptar un enfoque empírico inspirado en la neurociencia para investigar la representación aprendida de una red neuronal con el mismo espíritu que los estudios neurocientíficos del cerebro.