Orquestación de datos en aceleradores de aprendizaje profundo

Opiniones de los lectores

Actualmente no hay opiniones de lectores. La calificación se basa en 3 votos.

Título original:

Data Orchestration in Deep Learning Accelerators

Contenido del libro:

Esta conferencia de síntesis se centra en las técnicas de orquestación eficiente de datos en aceleradores DNN. El fin de la Ley de Moore, junto con el creciente aumento del aprendizaje profundo y otras aplicaciones de IA, ha llevado a la aparición de aceleradores de redes neuronales profundas (DNN) personalizados para la inferencia eficiente energéticamente en dispositivos periféricos.

Las DNN modernas tienen millones de hiperparámetros e implican miles de millones de cálculos; esto requiere un gran movimiento de datos desde la memoria hasta los motores de procesamiento en chip. Es bien sabido que el coste del movimiento de datos supera hoy en día el coste del cómputo real; por lo tanto, los aceleradores de DNN requieren una cuidadosa orquestación de los datos a través de los elementos de cómputo, red y memoria en el chip para minimizar el número de accesos a la DRAM externa. El libro aborda los flujos de datos DNN, la reutilización de datos, las jerarquías de búferes, las redes en chip y la exploración automatizada del espacio de diseño.

Concluye con los retos de la orquestación de datos con DNN comprimidas y dispersas y las tendencias futuras. Está dirigido a estudiantes, ingenieros e investigadores interesados en el diseño de aceleradores de alto rendimiento y bajo consumo energético para la inferencia de DNN.