Formation Apache Kafka, Centraliser les flux de données en temps réel Mixte : présentiel / à distance

• Actions Collectives OPCO Atlas
  Cette formation peut être prise en charge à 100% dans le cadre des Actions Collectives.
  Pour en bénéficier, contactez-nous à hello.institute@docaposte.fr et complétez votre inscription sur campusAtlas.

En savoir plus sur les dispositifs de financement

• Apprendre le fonctionnement de Kafka et de la plate-forme Confluent ainsi que leurs principaux sous-systèmes.
• Apprendre comment mettre en place, administrer et configurer un cluster.
• Acquérir les bonnes pratiques de distribution de messages
• Savoir configurer Kafka pour intégrer les données de différents formats et de sources différentes
• Appréhender les différentes APIs de Kafka.
• Mettre en œuvre KSQL
• Travailler en sécurité avec Kafka

• Développeurs et équipes opérationnelles qui sont amenés à déployer, administrer et configurer un cluster Kafka.

• Bonne connaissance de Linux/Unix, et avoir des notions de base sur les réseaux TCP/IP.
• Des connaissances en Spring ou Node.js sont recommandées.
• Une connaissance de la machine virtuelle Java (JVM) est utile.
• Aucune connaissance préalable de Kafka n'est nécessaire

Apache Kafka : plateforme de streaming de données open source

• Complexité des systèmes
• L'avènement du traitement en temps réel
• Data streaming

Concepts de base de Kafka

• Kafka et ses généralités
• Producers
• Brokers
• Consumers
• Zookeeper
• Les différents systèmes traditionnels de brokers des messages

Bonnes pratiques pour la cohérence et éviter la perte de données

• Les concepts de réplication
• Cohérence de publication des messages
• Arrêt et panne d'un broker
• Rôle du Broker Controller
• Les fichiers de logs (de données) de Kafka
• Gestion des Offsets

Haute disponibilité (HA)

• L'architecture Kafka de référence
• Kafka Connect
• SchemaRegistry
• RESTProxy
• Multi-Data-centers

Gestion d'un cluster Kafka

• Installer et exécuter Kafka
• Surveillance et suivi d'un cluster
• Opérations de cluster de base
• Stockage et compression des journaux
• Elasticité d'un cluster

Optimisation des performances de Kafka

• Performance des Producers
• Performance des Brokers
• Panne d'un Broker et Délai de Recovery
• Répartition de la charge de consommation
• Test de performance des consommateurs

Sécuriser un cluster Kafka / Zookeeper

• Cryptage du réseau et authentification via SSL
• Authentification via SASL
• Chiffrer les données sur le disque
• Sécurisation de ZooKeeper, SchemaRegistry et RESTProxy
• Migration vers un cluster sécurisé

Kafka connect

• Motivation pour Kafka Connect
• Types de connecteurs
• Déployer Kafka Connect
• Mode de déploiement (autonome/distribué)
• Configurer le connecteur
• Envisager de mettre en œuvre
• Les différences avec d'autres systèmes

Docaposte Institute propose plusieurs dispositifs pédagogiques adaptés aux apprenants :

• Formation en présentiel
• En groupe (inter-entreprises ou intra-entreprise)
• En individuel (monitorat)
• En journée ou en cours du soir (sur demande spécifique)
• Formation en distanciel
• Distanciel synchrone
• Distanciel asynchrone

• Alternance d'apports théoriques et de mises en pratique contextualisées.
• Progression pédagogique structurée, de la compréhension à la mise en œuvre opérationnelle.
• Pédagogie immersive favorisant une mise en application immédiate des compétences.
• Formation interactive et participative s'appuyant sur des ateliers pratiques, études de cas et échanges collectifs (+ 60 % du temps de formation.)
• Séquences pédagogiques rythmées et évaluations formatives régulières pour renforcer l'ancrage des apprentissages.
• Supports de cours, ressources documentaires et références mis à disposition par le formateur

En amont de la formation (évaluation en ligne dans l'extranet apprenant)

• Recueil des besoins et des attentes des participants.
• Auto-positionnement permettant d'évaluer le niveau initial des apprenants.

Tout au long de la formation

• Évaluations continues réalisées par le formateur travers des questions orales, exercices, QCM, études de cas et mises en situation pratiques.

À l'issue de la formation (évaluations en ligne dans l'extranet apprenant)

• Auto-positionnement afin de mesurer l'acquisition des compétences visées.
• Validation de l'acquisition des compétences par le formateur
• Questionnaire de satisfaction « à chaud » à l'issue de la formation
• Questionnaire de satisfaction "à froid", 45 jours après la formation afin d'évaluer l'ancrage des acquis et leur mise en application en situation professionnelle.

NB : dans le cadre d'une Action collective, chaque stagiaire bénéficiaire sera contacté par un prestataire choisi par l'Opco Atlas afin d'évaluer « à chaud » la qualité de la formation suivie.

• Admission sans disposition particulière