Evaluer et maîtriser les risques liés aux produits d'Intelligence Artificielle (IA)

Rappels sur l'IA et les risques associés

• Qu'est-ce que l'IA ?
• Similarités et différences entre l'IA et le développement d'applications traditionnelles
• Machine Learning vs Deep Learning
• Les différents types d'apprentissage de modèles
• Les grands modèles de langage
• De GPT-1 à GPT-4
• Risques liés à l'IA à travers des exemples

Contexte réglementaire autour de l'IA

• Loi sur l'IA de l'UE
• Les différents niveaux de risques
• Limité
• Elevé
• Inacceptable
• Les exigences de transparence applicables aux IA génératives
• Droit international sur l'IA : exemple du projet de convention-cadre du Conseil de l'Europe sur l'IA
• Aperçu des réglementations états-unienne, chinoise et britannique sur l'IA

Exigences applicables aux systèmes d'IA et évaluation des risques

• Rappel du cycle de vie d'un système d'IA
• Rappel de l'approche fondée sur les risques
• Identifier
• Evaluer
• Prévenir
• Atténuer
• Critères d'évaluation des risques IA
• Gravité
• Durée
• Réversibilité
• Obligations générales
• Principes de conception, de développement et de mise hors service de systèmes d'IA
• Transparence et contrôle
• Obligation de rendre des comptes et responsabilité
• Egalité et non-discrimination
• Vie privée et protection des données à caractère personnel
• Sûreté, sécurité et robustesse
• Innovation sûre
• Présentation d'une étude de cas : évaluation des risques d'un projet IA et actions de mitigation

Le contenu de ce programme peut faire l'objet d'adaptation selon les niveaux, prérequis et besoins des apprenants.

Modalités d’évaluation des acquis

• En cours de formation, par des études de cas ou des travaux pratiques
• Et, en fin de formation, par un questionnaire d'auto-évaluation