エピソード
2020 PyTorch Developer Day - DeepSpeed > ONNX Runtime
この講演では、Microsoft のパートナーリサーチマネージャーである Yuxiong He が、PyTorch と互換性のあるオープンソースのディープ ラーニング トレーニング最適化ライブラリである DeepSpeed を発表しました。 DeepSpeed では、ZeRO、3D 並列処理、1 ビット Adam などのシステムとアルゴリズムのイノベーションが導入されています。スケール、速度、コスト、使いやすさを向上させ、必要な全員に民主化することで、大規模なモデル トレーニングを大幅に進めます。
この講演では、Microsoft のパートナーリサーチマネージャーである Yuxiong He が、PyTorch と互換性のあるオープンソースのディープ ラーニング トレーニング最適化ライブラリである DeepSpeed を発表しました。 DeepSpeed では、ZeRO、3D 並列処理、1 ビット Adam などのシステムとアルゴリズムのイノベーションが導入されています。スケール、速度、コスト、使いやすさを向上させ、必要な全員に民主化することで、大規模なモデル トレーニングを大幅に進めます。
ビデオの URL
HTML iframe
ご意見およびご提案がある場合は、 こちらから問題を送信してください。