Formation Deep Learning, Les fondamentaux Mixte : présentiel / à distance

• Actions Collectives OPCO Atlas
  Cette formation peut être prise en charge à 100% dans le cadre des Actions Collectives.
  Pour en bénéficier, contactez-nous à hello.institute@docaposte.fr et complétez votre inscription sur campusAtlas.

En savoir plus sur les dispositifs de financement

• Comprendre les concepts de Machine Learning et l'évolution vers le Deep Learning (réseaux de neurones profonds)
• Connaitre les briques de base du Deep Learning : réseaux de neurones simples, convolutifs et récursifs
• Appréhender les modèles plus avancés : auto-encodeurs, gans, apprentissage par renforcement
• Appréhender les bases théoriques et pratiques d'architecture et de convergence de réseaux de neurones
• Comprendre les méthodologies de mise en place de réseaux de neurones, les points forts et les limites de ces outils

• Développeurs
• Ingénieurs
• Data scientists
• Chefs de projet ayant une bonne maîtrise de l'informatique et des algorithmes, notamment en Python

• Avoir des bases en programmation et une bonne maîtrise des outils informatiques et statistiques,
• Connaitre les bases du Machine Learning est recommandé.

Introduction IA, Machine Learning et Deep Learning

• L'histoire, les concepts de base et les applications de l'intelligence artificielle sont loin des fantasmes du domaine.
• Intelligence collective:
• Connaissances agrégées partagées par de nombreux agents virtuels.
• Algorithme génétique:
• Développer une population d'agents virtuels par sélection.
• Apprentissage automatique normal :
• sens.
• Type de tâche : Apprentissage supervisé, apprentissage non supervisé, apprentissage par renforcement.
• Type d'action: Classification, régression, clustering, estimation de densité, réduction de dimensionnalité.
• Exemples d'algorithmes d'apprentissage automatique :
• Régression linéaire, Bayes naïf, Arbres aléatoires.
• Apprentissage automatique et apprentissage profond :
• Pourquoi le ML est-il toujours à la pointe (forêts aléatoires et XGBoost) ?

Concepts fondamentaux d'un réseau de neurones

• Rappel de base en mathématiques.
• réseau neuronal:
• Architectures, fonctions d'activation et poids d'activation précédents...
• Formation d'un réseau de neurones :
• Fonctions de coût, rétropropagation, descente de gradient stochastique...
• Modélisation d'un réseau de neurones :
• Modélisation des données d'entrée et de sortie selon le type de problème. Comprendre les fonctions avec les réseaux de neurones. Comprendre les distributions avec les réseaux de neurones. Croissance des données :
• Comment équilibrer le jeu de données ?
• Généralisation des résultats des réseaux de neurones. Initialisation et régularisation du réseau de neurones :
• Régularisation L1/L2, normalisation batch.
• Algorithmes d'optimisation et de convergence.

Démonstration : Fonctions d'ajustement et distributions à l'aide de réseaux de neurones.

Outils usuels Machine Learning et Deep Learning

• Outils de gestion de donnée : Apache Spark, Apache Hadoop.
• Outils Machine Learning usuel : Numpy, Scipy, Sci-kit.
• Frameworks DL haut niveau : PyTorch, Keras, Lasagne.
• Frameworks DL bas niveau : Theano, Torch, Caffe, Tensorflow. Démonstration
• Applications et limites des outils présentés.

Convolutional Neural Networks (CNN)

• Principes fondamentaux et applications.
• Fonctionnement fondamental d'un CNN : couche convolutionnelle, utilisation d'un kernel, padding et stride...
• Architectures CNN ayant porté l'état de l'art en classification d'images : LeNet, VGG Networks, Network in Network...
• Utilisation d'un modèle d'attention.
• Application à un cas de figure de classification usuel (texte ou image).
• CNNs pour la génération : super-résolution, segmentation pixel à pixel.
• Principales stratégies d'augmentation des Feature Maps pour la génération d'une image.

Etude de cas : Innovations apportées par chaque architecture CNN et leurs applications plus globales (convolution 1x1 ou connexions résiduelles).

Recurrent Neural Networks (RNN)

• Présentation des RNNs : principes fondamentaux et applications.
• Caractéristiques de base des RNN : activations cachées, rétropropagation dans le temps, versions dépliées.
• Développement pour GRU (Gated Recurrent Units) et LSTM (Long Short Term Memory).
• Problèmes de convergence et gradients de fuite.
• Types d'architecture classique : prévision de séries temporelles, classification... Architecture codeur-décodeur RNN. Utilisation de modèles en vedette.
• Applications NLP : encodage de mots/caractères, traduction.
• Application NLP : prédiction de la prochaine image générée d'une séquence vidéo.

Démonstration : Différents états et évolutions apportées par les architectures Gated Recurrent Units et Long Short Term Memory.

Modèles générationnels : VAE et GAN

• Présentation des modèles générationnels Variational AutoEncoder (VAE) et Generative Adversarial Networks (GAN).
• Auto-encoder : réduction de dimensionnalité et génération limitée.
• Variational AutoEncoder : modèle générationnel et approximation de la distribution d'une donnée.
• Définition et utilisation de l'espace latent. Reparameterization trick.
• Fondamentaux du Generative Adversarial Networks. Convergence d'un GAN et difficultés rencontrées.
• Convergence améliorée : Wasserstein GAN, BeGAN. Earth Moving Distance.
• Applications de génération d'images ou de photographies, génération de texte, super résolution.

Démonstration : Applications des modèles générationnels et utilisation de l'espace latent.

Deep Reinforcement Learning

• Reinforcement Learning.
• Utilisation d'un réseau de neurones pour appréhender la fonction d'état.
• Deep Q Learning : experience replay et application au contrôle d'un jeu vidéo.
• Optimisations de la politique d'apprentissage. On-policy et off- policy. Actor critic architecture. A3C.
• Applications : contrôle d'un jeu vidéo simple ou d'un système numérique.

Démonstration : Contrôle d'un agent dans un environnement défini par un état et des actions possibles.

Docaposte Institute propose plusieurs dispositifs pédagogiques adaptés aux apprenants :

• Formation en présentiel
• En groupe (inter-entreprises ou intra-entreprise)
• En individuel (monitorat)
• En journée ou en cours du soir (sur demande spécifique)
• Formation en distanciel
• Distanciel synchrone
• Distanciel asynchrone

• Alternance d'apports théoriques et de mises en pratique contextualisées.
• Progression pédagogique structurée, de la compréhension à la mise en œuvre opérationnelle.
• Pédagogie immersive favorisant une mise en application immédiate des compétences.
• Formation interactive et participative s'appuyant sur des ateliers pratiques, études de cas et échanges collectifs (+ 60 % du temps de formation.)
• Séquences pédagogiques rythmées et évaluations formatives régulières pour renforcer l'ancrage des apprentissages.
• Supports de cours, ressources documentaires et références mis à disposition par le formateur

En amont de la formation (évaluation en ligne dans l'extranet apprenant)

• Recueil des besoins et des attentes des participants.
• Auto-positionnement permettant d'évaluer le niveau initial des apprenants.

Tout au long de la formation

• Évaluations continues réalisées par le formateur travers des questions orales, exercices, QCM, études de cas et mises en situation pratiques.

À l'issue de la formation (évaluations en ligne dans l'extranet apprenant)

• Auto-positionnement afin de mesurer l'acquisition des compétences visées.
• Validation de l'acquisition des compétences par le formateur
• Questionnaire de satisfaction « à chaud » à l'issue de la formation
• Questionnaire de satisfaction "à froid", 45 jours après la formation afin d'évaluer l'ancrage des acquis et leur mise en application en situation professionnelle.

NB : dans le cadre d'une Action collective, chaque stagiaire bénéficiaire sera contacté par un prestataire choisi par l'Opco Atlas afin d'évaluer « à chaud » la qualité de la formation suivie.

• Admission sans disposition particulière