Transformadores para el procesamiento del lenguaje natural: Construya innovadoras arquitecturas de redes neuronales profundas para NLP con Python, PyTorch, TensorFlow, BERT, RoBER

Opiniones de los lectores

El libro es una guía completa sobre los transformadores en el procesamiento del lenguaje natural (PLN), elogiada por sus explicaciones detalladas, ejemplos prácticos y contenido actualizado sobre diversos modelos como BERT y GPT. Si bien constituye un excelente recurso para quienes tienen conocimientos fundamentales de aprendizaje profundo y PNL, puede quedarse corto para los principiantes absolutos debido a los conocimientos previos que presupone.

⬤ Explicaciones detalladas de transformadores y modelos como BERT y GPT.
⬤ Enfoque práctico con ejemplos de código y tutoriales prácticos.
⬤ Cobertura exhaustiva de las aplicaciones y tareas de la PNL.
⬤ Bien estructurado para estudiantes intermedios y profesionales.
⬤ Contenido actualizado sobre los métodos más avanzados de PNL.

⬤ Asume considerables conocimientos previos de PNL, lo que lo hace potencialmente inaccesible para principiantes.
⬤ Algunos ejemplos de código no funcionan o requieren modificaciones.
⬤ Carece de una sólida introducción teórica a los Transformers, lo que puede dejar algunos conceptos poco claros.
⬤ Algunos lectores lo encontraron una colección de materiales existentes en lugar de nuevos conocimientos.
⬤ Varias reseñas mencionan errores en las fórmulas y fallos en el código.

(basado en 32 opiniones de lectores)

Título original:

Transformers for Natural Language Processing: Build innovative deep neural network architectures for NLP with Python, PyTorch, TensorFlow, BERT, RoBER

Contenido del libro:

Conviértase en un experto en comprensión lingüística de IA dominando el salto cuántico de los modelos de redes neuronales Transformer.

Características principales

⬤ Construya e implemente modelos de lenguaje de vanguardia, como el Transformer original, BERT, T5 y GPT-2, utilizando conceptos que superan los modelos clásicos de aprendizaje profundo.

⬤ Vaya a través de aplicaciones prácticas en Python utilizando Google Colaboratory Notebooks sin nada que instalar en una máquina local.

⬤  Aprenda consejos de entrenamiento y métodos alternativos de comprensión del lenguaje para ilustrar conceptos clave importantes.

Descripción del libro

La arquitectura transformadora ha demostrado ser revolucionaria al superar a los modelos RNN y CNN clásicos que se utilizan en la actualidad. Con un enfoque de aplicar a medida que se aprende, Transformers for Natural Language Processing investiga con gran detalle el aprendizaje profundo para traducciones automáticas, voz a texto, texto a voz, modelado del lenguaje, respuesta a preguntas y muchos más dominios de PNL con transformadores.

El libro le lleva a través de NLP con Python y examina varios modelos eminentes y conjuntos de datos dentro de la arquitectura de transformadores creada por pioneros como Google, Facebook, Microsoft, OpenAI y Hugging Face.

El libro le forma en tres etapas. La primera etapa le introduce en las arquitecturas de transformadores, empezando por el transformador original, antes de pasar a los modelos RoBERTa, BERT y DistilBERT. Descubrirá métodos de entrenamiento para transformadores más pequeños que pueden superar al GPT-3 en algunos casos. En la segunda etapa, aplicará transformadores para la comprensión del lenguaje natural (NLU) y la generación de lenguaje natural (NLG). Por último, la tercera etapa le ayudará a comprender técnicas avanzadas de comprensión del lenguaje, como la optimización de conjuntos de datos de redes sociales y la identificación de noticias falsas.

Al final de este libro de PNL, comprenderá los transformadores desde la perspectiva de la ciencia cognitiva y será competente en la aplicación de modelos de transformadores preentrenados por gigantes tecnológicos a varios conjuntos de datos.

Lo que aprenderá

⬤ Utilizar los últimos modelos de transformadores preentrenados.

⬤ Comprender el funcionamiento del transformador original, GPT-2, BERT, T5, y otros modelos de transformador.

⬤ Crear programas Python de comprensión del lenguaje utilizando conceptos que superan a los modelos clásicos de aprendizaje profundo.

⬤ Utilizar una variedad de plataformas NLP, incluyendo Hugging Face, Trax y AllenNLP.

⬤ Aplicar programas de Python, TensorFlow y Keras al análisis de sentimientos, el resumen de textos, el reconocimiento de voz, las traducciones automáticas, etc.

⬤ Medir la productividad de los transformadores clave para definir su alcance, potencial y límites, en producción.

A quién va dirigido este libro

Dado que el libro no enseña programación básica, debe estar familiarizado con las redes neuronales, Python, PyTorch y TensorFlow para aprender su implementación con Transformers.

Los lectores que más se pueden beneficiar de este libro son los profesionales de aprendizaje profundo y PNL, analistas de datos y científicos de datos que desean una introducción a la comprensión del lenguaje de IA para procesar las crecientes cantidades de funciones impulsadas por el lenguaje.