Funciones y modos de interacción humana con los sistemas automatizados de aprendizaje automático: Una revisión crítica y perspectivas

Título original:

The Roles and Modes of Human Interactions with Automated Machine Learning Systems: A Critical Review and Perspectives

Contenido del libro:

En los últimos años hemos asistido a un nivel sin precedentes de adopción y compromiso tecnológico por parte de la sociedad en general. Desde los deepfakes para memes hasta los sistemas de recomendación para el comercio, el aprendizaje automático (AM) se ha convertido en un elemento habitual de la sociedad.

Esta transición en curso de los confines puramente académicos al público en general no es fácil, ya que el público no tiene la amplia experiencia en ciencia de datos necesaria para explotar plenamente las capacidades del ML. A medida que los sistemas automatizados de aprendizaje automático (AutoML) siguen avanzando en sofisticación y rendimiento, es importante comprender el "cómo" y el "por qué" de la interacción persona-ordenador (HCI) dentro de estos marcos. Esto es necesario para diseñar sistemas óptimos y aprovechar las capacidades avanzadas de procesamiento de datos para apoyar la toma de decisiones con participación humana.

También es clave para identificar las oportunidades y los riesgos que presentan los niveles cada vez mayores de autonomía de las máquinas. En esta monografía, los autores se centran en las siguientes cuestiones: (i) ¿Qué aspecto tiene actualmente la HCI para los algoritmos AutoML más avanzados? (ii) ¿Varían las expectativas de HCI en los marcos AutoML según los distintos tipos de usuarios y partes interesadas? (iii) ¿Cómo puede gestionarse la HCI para que las soluciones AutoML adquieran confianza humana y una amplia aceptación? (iv) A medida que los sistemas AutoML se vuelvan más autónomos y capaces de aprender de entornos complejos y abiertos, ¿evolucionará la naturaleza fundamental de la HCI? Para responder a estas preguntas, los autores proyectan la literatura existente sobre HCI al espacio del AutoML y revisan temas como el diseño de interfaces de usuario, la mitigación de los prejuicios humanos y la confianza en la inteligencia artificial (IA).

Además, para calibrar con rigor el futuro de la HCI, contemplan cómo puede manifestarse el AutoML en entornos efectivamente abiertos. En última instancia, esta revisión sirve para identificar direcciones de investigación clave dirigidas a facilitar mejor las funciones y modos de interacción humana con los sistemas AutoML actuales y futuros.