Formation - IA Générative - Les modèles de langages massifs (LLMs)
Public admis
- Salarié en Poste
- Demandeur d'emploi
- Entreprise
- Etudiant
Financements
Eligible CPF Votre OPCO Financement personnel
Objectifs de la formation
- Pendant la formation, le formateur évalue la progression pédagogique des participants via des QCM, des mises en situation et des travaux pratiques. Les participants passent un test de positionnement avant et après la formation pour valider leurs compétences acquises.
| Tarif |
Contacter l'organisme |
| Durée | 2 jours (14 heures) |
| Modes |
|
| Sessions | |
| Lieux | Partout en France |
| Tarif |
Contacter l'organisme |
| Durée | 2 jours (14 heures) |
| Modes |
|
| Sessions | |
| Lieux | Partout en France |
Programme
1 - Introduction
- Un changement de paradigme
- Qu’est ce qui change ?
- Une publication fondatrice
- Une loi d’échelle pour les modèles de langage
- Évolution temporelle des LLMs
- De nouveaux écosystèmes
- L’ère du Post Deep Learning
- Personnalisation par Prompts
- Personnalisation par enrichissement
- Personnalisation par réglage fin
2 - Cas d'usage
- Agents conversationnels et assistants virtuels
- Génération de code et debuggage
- Analyse de sentiments / opinions
- Classification de texte et clusterisation
- Synthèse de texte ou corpus
- Traduction
- Génération de contenu
- Autres cas d'usages significatifs
- LAB : Proof of concept sur cas concrets
3 - Fondations
- Le traitement du langage naturel (TAL)
- L’architecture disruptive des Transformers
- La tokenisation des textes
- L’encodeur d’un Transformer
- La couche d’embedding
- L’encodage de positionnement
- Vecteur de positionnement
- Le mécanisme d’attention multi-têtes
- Points essentiels du mécanisme d’attention
- La “spécialisation” des têtes d’attention
- Calcul des scores d’attention
- Addition et Normalisation des sorties
- Le Décodeur d’un Tranformer
- L’entraînement d’un Transformer
- La couche d’auto-attention masquée
- La couche d’attention du décodeur
- Les couches supérieures du décodeur
4 - En pratique
- Choisir un LLM
- Critères de choix
- Trois classes de modèles
- Modèles à encodeur simple
- Focus modèles BERTs
- Modèles à décodeur simple
- Focus modèles GPTs
- Un foisonnement de modèles dérivés
- La bataille des LLMs
- La course vers des LLMs légers
- L’exemple de LLaMa
- Trois approches de réduction
- Écosystèmes clés
- APIs de modèles Fermés
- HuggingFace et les modèles ouverts
- Écosystèmes applicatifs type LangChain
- LLMops et MLFlow
Prise en main des écosystèmes LLMs clés
5 - Mise en oeuvre
- Choix service / in house / hybrid
- In house workflow
- Service workflow
- Écosystèmes d'entraînement et d'inférence
- L'entraînement d'un modèle massif
- L'étape d'évaluation des modèles
- Le réglage des hyperparamètres
- Déploiement d'un modèle
- Model fine-tuning
- Prompt engineering
- MLOps d'un LLMs
- LAB : Environnement de déploiement d'un LLM
6 - Le Prompt Engineering
- Configuration des paramètres des LLMs
- Qu’est ce qu’un token ?
- Notion de distribution des probabilités des LLMs
- Les échantillonnages Top-K et top-p
- La température du modèle
- Le réglage des paramètres en pratique
- Les composantes d’un prompt
- Règles générales
- L’approche Few-Shot Learning
- Zero, one to Few-shot learning
- L’approche Chain of thoughts
- L’incitation par chaînes de pensées
- Des approches plus avancées
- ReAct Prompting
- Méthode ReAct
Prompt Engineering sur cas concrets
7 - LLMs augmentés
- Au delà du prompt, l’enrichissement des LLMs
- Ajout de capacité mémorielle
- Mémoire tampon (Buffer Memory)
- Plusieurs mécanismes de mémorisation
- Les mémoires de l’écosystème LangChain
- Élargissement des connaissances
- Retrieval Augmented Generation (RAG)
- Le partitionnement des textes externes
- Projection sémantique des documents (Embeddings)
- Les bases de données vectorielles
- Les algorithmes du search dans les bases vectorielles
- Une galaxie d’outils possibles !
Mise en oeuvre d’un agent conversationnel
8 - Déploiement de LLMs
- Quand le prompt engineering ne suffit plus
- Qu’est ce que le réglage fin
- Trois techniques classiques
- Reinforcement learning by Human feedback (RLHF)
- Détails d’un réglage fin Supervisé
- Les trois options pour l’ajustement des paramètres
- Les approches PEFT (Parameter Efficient Tuning)
- La méthode LoRA (Low Rank Adaptation)
- Une variante efficiente : QLoRA
- Qu’est ce que la mise en service d’un LLM
- Journaliser le modèle dans le registre des modèles
- Création d’un point de terminaison vers le modèle
- Interroger le point de terminaison
Réglage fin et mise en service d’un LLM
Prérequis
- Une connaissance de base des principes de Machine Learning et de Deep Learning
- La maîtrise d’une langage de script type Python est recommandé
- Disposez-vous des connaissances nécessaires pour suivre cette formation ? Testez-vous !
Public
- Chefs de projets
- Développeurs
- Data scientists
Ces formations pourraient vous intéresser
Objectifs de la formation
A l'issue de cette formation, vous serez capable de :
- Concevoir des courriers, des notes et des documents dans Word
- Intégrer des dessins et des photos dans un document
- Créer des tableaux
- Gérer des tabulations
- Utiliser les outils de mise en forme et de mise en page d'un document afin de l'imprimer
- Définir les styles de paragraphe
- Utiliser les thèmes
- Créer et exploiter des modèles de document
- Gérer les longs documents en utilisant des sections
- Concevoir une table des matières grâce aux styles hiérarchiques
- Créer des tableaux élaborés
- Préparer un publipostage.
| Tarif |
Contacter l'organisme |
| Durée |
4j / 28h |
| Modes |
|
Dell EMC - PowerEdge MX Modular Platform - Installation, Implementation and Administration
Proposé par M2IObjectifs de la formation
A l'issue de cette formation, vous serez capable de :
- Identifier les fonctionnalités disponibles sur le châssis MX7000
- Configurer et gérer le MX7000 à l'aide d'OME-M
- Naviguer dans l'interface de gestion OME-M
- Démontrer l'intégration d'iDRAC avec la plateforme modulaire
- Expliquer le Redfish et son rôle dans le système
- Effectuer un démarrage initial du MX7000
- Installer un système d'exploitation sur un serveur modulaire
- Reconnaître le logiciel de gestion pour extraire les journaux
- Identifier et résoudre divers problèmes matériels
- Utiliser des outils de gestion pour configurer et gérer le stockage sur le MX7000
- Identifier les modèles de commutateurs et les exigences minimales pour la mise en réseau dans le MX7000.
| Tarif |
Contacter l'organisme |
| Durée |
3j / 21h |
| Modes |
|
Objectifs de la formation
Connaître les principaux Patterns d'architecture et les principales caractéristiques de développement pour le Cloud - Connaître les fondamentaux des règles de sécurité et de conformité - Savoir automatiser le déploiement et concevoir le dimensionnement « flexible » des environnements - Comprendre comment développer des applications multi-tenants - Connaitre les principaux modèles d'architecture applicative et de services - Savoir produire un code évolutif et mettre en place une stratégie de tests des développements| Tarif |
A partir de 2 075,00 € |
| Durée |
3j / 21h |
| Modes |
|
Développer et consommer des modèles d'Intelligence Artificielle (IA) avec Azure ML et Power BI
Proposé par M2IObjectifs de la formation
A l'issue de cette formation, vous serez capable de :
- Utiliser Power BI pour construire un bon modèle de données pour l'IA
- Sélectionner les modèles d'IA adaptés aux données et au but recherché
- Développer et entraîner des modèles sur Azure ML consommables dans Power BI
- Utiliser le feedback de l'IA pour définir vos nouveaux projets de Data valorisation.
| Tarif |
A partir de 2 550,00 € |
| Durée |
3j / 21h |
| Modes |
|
Objectifs de la formation
A l'issue de cette formation, vous serez capable de :
- Utiliser les règles de conception et de mise en page pour créer des présentations PowerPoint de manière efficiente
- Composer et gérer des masques et des modèles pour accélérer la conception
- Concevoir des présentations PowerPoint professionnelles grâce aux animations
- Intégrer des vidéos, des séquences sonores et des interactions
- Concevoir à plusieurs une présentation PowerPoint
- Diffuser et partager le diaporama PowerPoint.
| Tarif |
A partir de 370,00 € |
| Durée |
1j / 7h |
| Modes |
|
Formation NLP et API de OpenAI (ChatGPT, Fine-Tuning Dall-e 2) : Initiation + Approfondissement
Proposé par DAWANObjectifs de la formation
Maîtriser les principes de base du Natural Language Processing (NLP) - Savoir mettre en œuvre le NLP avec Python et utiliser les modèles open-sources - Maîtriser les RNN dans le contexte du NLP - Maîtriser les principes de fonctionnement de l'API d'OpenAI - Maîtriser les RNN dans le contexte du NLP - Maîtriser les principes de fonctionnement de l'API d'OpenAI| Tarif |
A partir de 2 775,00 € |
| Durée |
4j / 28h |
| Modes |
|
Objectifs de la formation
- Définir les concepts clés de MLOps
- Maîtriser l'ingénierie en Machine Learning
- Appliquer des techniques de compression des modèles
- Analyser et corriger les erreurs des modèles
- Déployer et mettre à l'échelle des modèles ML
| Tarif |
A partir de 1 500,00 € |
| Durée |
2 jours |
| Modes |
|
Objectifs de la formation
- Rédiger des prompts efficaces
- Créer du contenu optimisé
- Utiliser ChatGPT pour les multimédias et les documents externes
- Développer des IA personnalisées sur-mesure
| Tarif |
A partir de 890,00 € |
| Durée |
1 jour |
| Modes |
|
Objectifs de la formation
- Acquérir une vision complète du marketing stratégique et de son influence sur l'entreprise.
- S'approprier les modèles et outils d'aide à la décision stratégique
- Elaborer un positionnement marketing de valeur pour l'entreprise
| Tarif |
A partir de 1 390,00 € |
| Durée |
2j / 14h |
| Modes |
|
Formation Workshop : Utiliser des outils d' IA génératives pour améliorer sa veille
Proposé par LEFEBVRE DALLOZ COMPETENCESObjectifs de la formation
- Rédiger des prompts efficaces
- Utiliser les IA génératives pour améliorer sa veille
| Tarif |
A partir de 445,00 € |
| Durée |
2 heures |
| Modes |
|
