Aprendizaje profundo a escala: En la intersección de hardware, software y datos

Opiniones de los lectores

El libro es un recurso sobre aprendizaje profundo escalable, elogiado por sus ejercicios prácticos y explicaciones claras, pero criticado por su cobertura superficial de temas avanzados y la falta de enfoque en la inferencia en la producción de modelos.

Se recomienda el libro por su fantástica recursividad, su elegancia a la hora de desmitificar conceptos complejos y sus eficaces ejercicios prácticos que construyen habilidades para el mundo real.

El libro es demasiado general en sus discusiones, carece de profundidad para los profesionales, se centra mucho en la formación más que en la inferencia, y no proporciona ideas sobre la construcción de servicios LLM/DL que cumplan los requisitos de fiabilidad.

(basado en 2 opiniones de lectores)

Título original:

Deep Learning at Scale: At the Intersection of Hardware, Software, and Data

Contenido del libro:

Llevar un proyecto de aprendizaje profundo a la producción a escala es todo un reto. Para escalar con éxito su proyecto, se requiere una comprensión básica del aprendizaje profundo de pila completa, incluidos los conocimientos que se encuentran en la intersección de hardware, software, datos y algoritmos.

Este libro ilustra conceptos complejos del aprendizaje profundo de pila completa y los refuerza mediante ejercicios prácticos para dotarle de herramientas y técnicas que le permitan escalar su proyecto. Un esfuerzo de escalado sólo es beneficioso cuando es eficaz y eficiente. Con ese fin, esta guía explica los intrincados conceptos y técnicas que le ayudarán a escalar con eficacia y eficiencia.

Comprenderá a fondo:

⬤ Cómo fluyen los datos a través de la red de aprendizaje profundo y el papel que desempeñan los gráficos de computación en la construcción de su modelo.

⬤ Cómo la computación acelerada acelera su entrenamiento y cómo puede utilizar mejor los recursos a su disposición.

⬤ Cómo entrenar tu modelo utilizando paradigmas de entrenamiento distribuido, es decir, datos, modelo y paralelismo de canalización.

⬤ Cómo aprovechar los ecosistemas PyTorch junto con las librerías NVIDIA y Triton para escalar el entrenamiento de tu modelo.

⬤ Depuración, supervisión e investigación de los cuellos de botella indeseables que ralentizan el entrenamiento de su modelo.

⬤ Cómo acelerar el ciclo de vida de la formación y agilizar el bucle de retroalimentación para iterar el desarrollo del modelo.

⬤ Un conjunto de trucos y técnicas de datos y cómo aplicarlos para ampliar su modelo de formación.

⬤ Cómo seleccionar las herramientas y técnicas adecuadas para su proyecto de aprendizaje profundo.

⬤ Opciones para gestionar la infraestructura informática cuando se ejecuta a escala.