Formation Talend : intégration de données pour le Big Data

Public admis

  • Salarié en Poste
  • Demandeur d'emploi
  • Entreprise
  • Etudiant

Financements

Eligible CPF Votre OPCO Financement personnel

Objectifs de la formation

À l'issue de cette formation Talend pour le Big Data, vous aurez acquis les connaissances et compétences nécessaires pour :

  • Lister les composants et fonctionnalités de Talend dans un environnement Big Data
  • Créer des jobs Talend faisant interagir des fichiers, et base de données Big Data
  • Connaître les bonnes pratiques de développements avec Talend
  • Lire et écrire des données sur HDFS et dans des bases de données NoSQL avec des Jobs Talend
  • Réaliser des Jobs de transformation à l’aide de Pig et Hive
  • Utiliser les composants de gestion de qualité de donnée
  • Réaliser des Jobs de migration de base de données relationnelles dans Hadoop avec Sqoop
  • Créer des traitements ETL (Extraction, Transform and Load) de bout en bout en environnement Big Data

PLB CONSULTANT


Informatique et Management
Voir la fiche entreprise

Tarif

A partir de 2 100,00 €

Durée 3 jours (21h)
Modes
  • Centre
  • Entreprise
  • Distance
Sessions
Lieux Partout en France

PLB CONSULTANT


Informatique et Management
Voir la fiche

Tarif

A partir de 2 100,00 €

Durée 3 jours (21h)
Modes
  • Centre
  • Entreprise
  • Distance
Sessions
Lieux Partout en France

Description

Considéré comme un pionnier de l'open source dans l'univers de la business intelligence, Talend (Talend Open Studio for Big Data) s'est également progressivement imposé comme une référence dans le Big Data. Tirant partie des bases de données cloud (Hadoop, NoSQL), Talend pour le Big Data s'appuie par ailleurs sur les modules Hadoop (HDFS, Hive, Pig) et sur de nombreux connecteurs cloud (AWS, GCP, Azure) afin de proposer de la gestion de fichiers, de l'orchestration des flux de données, de l'importation et chargement vers un data lake et naturellement les fonctionnalités ETL et ELT.

Programme

Jour 1

Concepts de bases

Tour d’horizon des composants et philosophie de l’outils
Ouvrir un projet 
Quelles différences pour Talend dans le contexte Big Data 
Les spécificités liées au Big Data 
Monitorer un cluster Hadoop
Créer un cluster de métadonnées

Lire et écrire des données en HDFS

Principes d’un système de fichiers distribué
Enregistrer un fichier sur du HDFS
Manipulations d’un grand nombre de fichiers et de gros fichiers
Lire les données de HDFS
Hbase une base NoSQL orientée colonnes au-dessus de HDFS
Travaux pratiquesUtiliser HBase pour sauvegarder les données charger dans HDFS avec des jobs Talend
Lecture écriture de données dans la base

Travailler avec les tables

Comment apporter la dimension relationnelle ?
Vue générale de Hive
Utiliser Sqoop pour faciliter la migration de bases de données relationnelles dans Hadoop
Travaux pratiquesRéaliser des Jobs de migration de base de données relationnelles dans Hadoop avec Sqoop
Création de tables dans HDFS avec Hive

Traitement des données et des tables en HDFS (Pig et Hive)

Traitement des tables Hive avec des jobs
Traitement des données avec Pig
Traitement des données par lots
Travaux pratiquesRéaliser des Jobs Talend de transformation à l'aide de Pig et HiveJour 2

Guide de dépannage et bonnes pratiques

Dépannage de votre cluster
Les composants de qualité de données
Travaux pratiquesRéaliser des Jobs de transformation et gestion de la qualité de donnée

Cas d'utilisation de clickstream (flux de clics)

Surveillance du cluster Hadoop
Créer un environnement de développement
Chargement des données dans HDFS
Enrichissement des logs
Calculer les statistiques
Conversion d'un job standard en un lot Big Data
Comprendre les jobs MapReduce
Travaux pratiquesUtilisation du studio pour configurer les ressource requests vers YARN

Cas d'utilisation : l'analyse comportementale

Chargement du dictionnaire et des données du fuseau horaire dans HDFS
Chargement des tweets dans HDFS
Traitement des tweets avec MapReduce
Planification de l'exécution du job
Jour 3

Introduction à Kafka

Exemples d’applications et de flux de messages
Problématiques posées pour la gestion et le dispatch de ces flux 
Ce que propose Kafka 
Publication de messages sur un sujet Kafka
Consommer des messages Kafka dans Talend
Travaux pratiquesLire des messages d'un sujet Kafka donné (broker list, starting offset, topic name, etc.), paramétrer la fréquence d’analyse, extraction de champs hashtag pour modifier la casse, compteur d’occurrence

Introduction à Spark

Comprendre les bases de Spark
Analyser les données des clients
Produire et consommer des flux en temps réel
Différents modes pour les job Talend Spark  (local, standalone, yarn client)
Création d’un job Spark
Tests de Jobs Spark à l’aide de scénarios de test
Travaux pratiquesCréation de jobs Spark deployés dans un cluster compatible Spark

Cas d'utilisation de traitement des logs : génération des logs enrichis

Introduction au cas d'utilisation du traitement des lois
Génération de logs bruts
Génération de logs enrichis

Traitement des logs cas d'utilisation : surveillance

Surveillance des logs enrichis

Cas d'utilisation de traitement des logs : rapports

Génération de rapports basés sur les fenêtres de données

Cas d'utilisation de traitement des logs : analyse des batchs

Ingestion de flux de données
Analyser les logs avec un batch job

Prérequis

Pour faciliter le déroulement de cette formation Talend pour le Big Data, il est souhaitable que les participants disposent de connaissances préalables sur Hadoop, Spark et Kafka.

Public

Ce cours Talend pour le Big Data s’adresse essentiellement à des consultants BI, des architectes, chefs de projets qui souhaitent gérer des flux de données avec Talend Big Data

Ces formations pourraient vous intéresser

Objectifs de la formation

  • Disposer d’une vision claire des obligations de l’entreprise et de ses partenaires concernant la législation informatique et liberté et son extension la GDPR
  • Définir les étapes permettant d’atteindre la conformité en matière de gestion des données à caractère personnel (DCP)
  • Appréhender les conséquences techniques et organisationnelles du règlement RGPD pour les métiers (marketing, RH, projets, DSI, …)
Tarif

A partir de 950,00 €

Durée

1j / 7h

Modes
  • Entreprise

Objectifs de la formation

À l'issue de cette formation Zabbix Certified Expert vous aurez acquis les connaissances et compétences nécessaires pour : 

  • Concevoir et exploiter des installations lourdement chargées
  • augmenter votre expertise dans le domaine des API, de la haute disponibilité/récupération d’urgence et le partitionnement de bases de données
Tarif

A partir de 2 850,00 €

Durée

5j / 35h

Modes
  • Centre
  • Entreprise
  • Distance

Objectifs de la formation

  • Comprendre les fonctions statistiques d’Excel et d’aide à la décision
  • Acquérir des compétences dans l’utilisation des fonctions d’analyse de données
  • Explorer les techniques de visualisation de données pour présenter les résultats 
Tarif

A partir de 850,00 €

Durée

2j / 14h

Modes
  • Entreprise

Objectifs de la formation

  • Sauvegarder le R81 Security Gateway and Management Server
  • Construire, tester et dépanner une Security Gateway en cluster
  • Mettre à niveau et dépanner le Management Server
  • Configurer et maintenir les solutions d'accélération de la sécurité
  • Gérer, tester et optimiser des tunnels VPN d'entreprise
  • Se préparer efficacement au passage de la certification officielle CCSE
Tarif

A partir de 3 000,00 €

Durée

3 jours

Modes
  • Centre
  • Entreprise
  • Distance

SQL Server 2016 - Mettre en oeuvre un Data Warehouse

Proposé par CIT FORMATION INFORMATIQUE

Objectifs de la formation

Avoir un rôle de développeur de Business Intelligence et acquérir les compétences et connaissances nécessaires pour approvisionner une base de données Microsoft SQL Server 2016. La formation couvre SQL Server 2016 à la fois "on premise" et dans Azure, aborde l’installation du produit et la migration à partir d’une installation existante.

Tarif

A partir de 2 790,00 €

Durée

5 jour(s)

Modes
  • Entreprise
  • Distance
  • Centre

Objectifs de la formation

A l'issue de cette formation, vous serez capable de :

  • Renforcer vos compétences en cybersécurité en lien avec la Blockchain (règlementation, sécurité des contrats intelligents, protection des portefeuilles de cryptomonnaie)
  • Utiliser les différentes techniques disponibles pour garantir et sécuriser les accès aux données stockées (cryptographie, hash, architectures distribuées)
  • Détecter et analyser les risques potentiels de sécurité et proposer des solutions adaptées en cas de faille de sécurité
  • Assurer la sécurité du programme contre les différentes tentatives de piratage possibles.
Tarif

A partir de 2 850,00 €

Durée

3j / 21h

Modes
  • Centre
  • Distance

Objectifs de la formation

  • Obtenir la certification EXIN Cloud Technology Associate CTA
  • Comprendre le Cloud Service Model
  • Gérer la virtualisation
  • Connaître les technologies et applications cloud
  • Gérer la sécurité, les risques et la conformité
  • Maîtriser le Cloud Service Management (CSM)
Tarif

A partir de 2 250,00 €

Durée

3 jours

Modes
  • Centre
  • Entreprise
  • Distance

Objectifs de la formation

A l'issue de cette formation, vous serez capable de :

  • Prendre en charge le développement d'applications informatiques dans le cadre de projets visant à automatiser un ou plusieurs processus d'une entreprise, en répondant à des demandes émanant d'une maîtrise d'ouvrage (demandes tansmises par un chef de projets si la taille et la complexité du projet le nécessitent, elles concernent de nouvelles applications ou la maintenance évolutive d'applications existantes)
  • Passer le Titre professionnel "Développeur Web et Web Mobile".
Tarif

Contacter l'organisme

Durée

142j / 994h

Modes
  • Centre
  • Distance

Objectifs de la formation

  • Utiliser facilement les 3 assistants Rapport de tableau croisé dynamique
  • Modifier et de réorganiser un tableau croisé dynamique
  • Mettre à jour les données d'un tableau croisé dynamique
  • Créer un rapport professionnel en un temps record
  • Identifier les options pratiques d'un tableau croisé dynamique
Tarif

A partir de 1 390,00 €

Durée

1j / 7h

Modes
  • Centre
  • Entreprise
  • Distance

Objectifs de la formation

  • Évaluation des compétences acquises via un questionnaire en ligne intégrant des mises en situation.
Tarif

A partir de 1 550,00 €

Durée

2 jours (14 heures)

Modes
  • Entreprise
  • Distance
  • Centre

Je cherche à faire...