Episodio
2020 PyTorch Developer Day: DeepSpeed y ONNX Runtime
En esta charla, Yuxiong He, director de investigación asociado de Microsoft, presentó DeepSpeed, una biblioteca de código abierto para la optimización del entrenamiento de aprendizaje profundo compatible con PyTorch. DeepSpeed incluye innovaciones en el sistema y los algoritmos, como ZeRO, paralelismo 3D, Adam de 1 bit, etc. Acelera enormemente el avance del entrenamiento de modelos de gran tamaño mejorando la escala, la velocidad, el costo y la facilidad de uso, a la vez que lo democratiza para todos los que lo necesitan.
En esta charla, Yuxiong He, director de investigación asociado de Microsoft, presentó DeepSpeed, una biblioteca de código abierto para la optimización del entrenamiento de aprendizaje profundo compatible con PyTorch. DeepSpeed incluye innovaciones en el sistema y los algoritmos, como ZeRO, paralelismo 3D, Adam de 1 bit, etc. Acelera enormemente el avance del entrenamiento de modelos de gran tamaño mejorando la escala, la velocidad, el costo y la facilidad de uso, a la vez que lo democratiza para todos los que lo necesitan.
¿Quiere hacer algún comentario? Comunique un problema aquí.