Interacción explicable entre el ser humano y la inteligencia artificial: una perspectiva de planificación

Título original:

Explainable Human-AI Interaction - A Planning Perspective

Contenido del libro:

Desde sus inicios, la inteligencia artificial (IA) ha tenido una relación más bien ambivalente con los humanos, oscilando entre su aumento y su sustitución. En la actualidad, a medida que las tecnologías de IA se incorporan a nuestra vida cotidiana a un ritmo cada vez más rápido, aumenta la necesidad de que los sistemas de IA trabajen en sinergia con los humanos.

Uno de los requisitos fundamentales de esta interacción sinérgica entre humanos e IA es que el comportamiento de los sistemas de IA pueda ser explicado por los humanos. Para ello, los agentes de IA deben ir más allá de la planificación con sus propios modelos del mundo y tener en cuenta el modelo mental del ser humano en el bucle. Como mínimo, los agentes de IA necesitan aproximaciones de los modelos de tareas y objetivos del ser humano, así como el modelo del ser humano de los modelos de tareas y objetivos del agente de IA.

Los primeros guiarán al agente para anticipar y gestionar las necesidades, deseos y atención de los humanos en el bucle, y los segundos le permitirán actuar de forma interpretable para los humanos (ajustándose a los modelos mentales que éstos tienen de él), y estar preparado para ofrecer explicaciones personalizadas cuando sea necesario. Los autores se basan en varios años de investigación en su laboratorio para analizar cómo un agente de IA puede utilizar estos modelos mentales para ajustarse a las expectativas humanas o cambiarlas mediante la comunicación explicativa.

Aunque el libro se centra en los escenarios de cooperación, también explica cómo pueden utilizarse los mismos modelos mentales para la ofuscación y el engaño. El libro también describe varios sistemas de aplicación en el mundo real para la toma de decisiones en colaboración que se basan en el marco y las técnicas aquí desarrolladas.

Aunque se basa principalmente en la propia investigación de los autores en estas áreas, cada capítulo proporciona amplias conexiones con la investigación relevante de la literatura más amplia. Los temas técnicos tratados en el libro son autónomos y accesibles a lectores con una formación básica en IA.