Redes neuronales gráficas para el procesamiento del lenguaje natural: Un estudio

Título original:

Graph Neural Networks for Natural Language Processing: A Survey

Contenido del libro:

El aprendizaje profundo se ha convertido en el enfoque dominante para abordar diversas tareas del procesamiento del lenguaje natural (PLN). Aunque las entradas de texto suelen representarse como una secuencia de tokens, existe una gran variedad de problemas de PLN que pueden expresarse mejor con una estructura de grafos. Como resultado, existe un gran interés en el desarrollo de nuevas técnicas de aprendizaje profundo sobre grafos para un gran número de tareas de PLN.

En esta monografía, los autores presentan una visión completa de las redes neuronales de grafos (GNN) para el procesamiento del lenguaje natural. Proponen una nueva taxonomía de GNNs para NLP, que organiza sistemáticamente la investigación existente de GNNs para NLP a lo largo de tres ejes: construcción de grafos, aprendizaje de representación de grafos y modelos codificador-decodificador basados en grafos. Además, presentan un gran número de aplicaciones de PNL que explotan la potencia de las GNN y resumen los correspondientes conjuntos de datos de referencia, métricas de evaluación y códigos de fuente abierta. Por último, discuten varios retos pendientes para hacer un uso completo de las GNN en PNL, así como futuras líneas de investigación.

Se trata de la primera descripción exhaustiva de las redes neuronales gráficas para el procesamiento del lenguaje natural. Proporciona a estudiantes e investigadores un recurso conciso y accesible para ponerse rápidamente al día en un área importante de la investigación en aprendizaje automático.