Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Cursusaanbod
Introductie
- Overzicht van de uitdagingen op het gebied van deep learning-schaling
- Overzicht van DeepSpeed en zijn functies
- DeepSpeed in vergelijking met andere gedistribueerde deep learning-bibliotheken
Slag
- Opzetten van de ontwikkelomgeving
- PyTorch en DeepSpeed installeren
- DeepSpeed configureren voor gedistribueerde training
Functies voor DeepSpeed-optimalisatie
- DeepSpeed training pijplijn
- ZeRO (geheugen optimalisatie)
- Activering controlepunt
- Gradiënt controlepunten
- Parallellisme van pijpleidingen
Modellen schalen met DeepSpeed
- Basis schalen met DeepSpeed
- Geavanceerde schalingstechnieken
- Prestatieoverwegingen en best practices
- Technieken voor foutopsporing en probleemoplossing
Geavanceerde DeepSpeed-onderwerpen
- Geavanceerde optimalisatietechnieken
- DeepSpeed gebruiken met gemengde precisietraining
- DeepSpeed op verschillende hardware (bijv. GPUs, TPU's)
- DeepSpeed met meerdere trainingsknooppunten
DeepSpeed integreren met PyTorch
- DeepSpeed integreren met PyTorch-workflows
- DeepSpeed gebruiken met PyTorch Lightning
Probleemoplossing
- Veelvoorkomende DeepSpeed-problemen debuggen
- Monitoring en logboekregistratie
Samenvatting en volgende stappen
- Samenvatting van de belangrijkste concepten en functies
- Best practices voor het gebruik van DeepSpeed in productie
- Verdere bronnen voor meer informatie over DeepSpeed
Vereisten
- Gemiddelde kennis van deep learning-principes
- Ervaring met PyTorch of vergelijkbare deep learning frameworks
- Bekendheid met Python programmeren
Audiëntie
- Datawetenschappers
- Ingenieurs voor machine learning
- Ontwikkelaars
21 Uren
Leveringsopties
PRIVÉGROEPSTRAINING
Onze identiteit draait om het leveren van precies wat onze klanten nodig hebben.
- Pre-cursusgesprek met uw trainer
- Aanpassing van de leerervaring om uw doelen te bereiken -
- Op maat gemaakte overzichten
- Praktische, praktische oefeningen met gegevens / scenario's die herkenbaar zijn voor de cursisten
- Training gepland op een datum naar keuze
- Gegeven online, op locatie/klaslokaal of hybride door experts die ervaring uit de echte wereld delen
Private Group Prices RRP from €6840 online delivery, based on a group of 2 delegates, €2160 per additional delegate (excludes any certification / exam costs). We recommend a maximum group size of 12 for most learning events.
Neem contact met ons op voor een exacte offerte en om onze laatste promoties te horen
OPENBARE TRAINING
Kijk op onze public courses