1/24
Bureautique et initiation à la programmation et à l'IA - CM2: Éthique, réglementation et usage responsable de l'IA Fichier
Hallucination
Production d’une information fausse ou inventée présentée avec assurance.
5 informations qu’il ne faut jamais donner à l’IA
-Données de patients
-Protocoles internes
-Résultats non publiés
-Données personnelles
-Contenus sous contrat
Chaîne de responsabilité
1. Fournisseur de données
2. Développeur du modèle
3. Intégrateur du service IA
4. Déployeur (hôpital, entreprise)
5. Utilisateur final
Stochasticité
Caractère variable des réponses d’un modèle
Les 5 principes du RGPD
1. Finalité
2. Minimisation
3. Exactitude
4. Limitation de conservation
5. Sécurité
Biais algorithmique
Écart systématique dans les résultats d’un système, souvent lié aux déséquilibres des données ou aux méthodes d’apprentissage.
Finalité
Collecter les données pour un objectif précis annoncé à l’avance.
Minimisation
Ne collecter que les données nécessaires.
Boucle de rétroaction
Mécanisme dans lequel les résultats d’un modèle influencent les données futures, renforçant potentiellement ses propres biais.
Exactitude
Maintenir des données justes et à jour.
Limitation de conservation
Ne pas conserver les données indéfiniment.
AI Act
Règlement européen sur l’intelligence artificielle qui adapte les obligations au niveau de risque des usages.
Sécurité
Protéger les données contre les accès et transferts non maîtrisés.
4 niveau de risque du AI act
1. Risque inacceptable — interdit
(notation sociale, manipulation et certaines utilisations de la reconnaissance faciale en direct dans l’espace public)
2. Haut risque — obligations strictes
(recrutement, crédit, éducation, dispositifs médicaux et infrastructures critiques.
Le système n’est pas automatiquement interdit : il doit respecter des exigences strictes.)
3. Risque limité — transparence
(chatbots, contenus générés et hypertrucages. L’utilisateur doit être informé de l’intervention de l’IA lorsque les règles l’exigent.)
4. Risque minimal — libre
(filtres antispam, jeux vidéo et recommandation de contenus.)
RGPD
Règlement général sur la protection des données personnelles.
Biais algorithmique
Un biais algorithmique est un écart systématique orienté dans une même direction. Ce n’est pas une erreur aléatoire.
Mésinformation
information fausse partagée de bonne foi.
Souveraineté numérique
Capacité à garder la maîtrise de ses données, outils et infrastructures numériques.
Désinformation
information fausse partagée de mauvaise foi.
Hypertrucage
image, son ou vidéo fabriqués ou manipulés par l’IA pour faire croire à un fait.
Sobriété numérique
Utilisation du numérique en limitant sa consommation de ressources matérielles et énergétiques.
L’obsolescence du corpus
Le modèle peut ignorer les informations apparues après la date de fin de ses données d’entraînement.
L’erreur de calcul et de raisonnement
Un modèle de langage prédit des séquences de chiffres et de mots ; il ne réalise pas nécessairement le calcul demandé.
La sycophantie
Le modèle tend à satisfaire l’utilisateur et peut finir par adopter son avis, même lorsque celui-ci est faux.
Lissage de consensus
Le modèle tend à présenter la formulation la plus fréquente, ce qui peut donner l’impression qu’une idée débattue est unanimement acceptée.