Algorithmique pour IA - Notes de Cours

Flashcards pour aider à réviser les concepts clés de la régression linéaire et de la classification dans le cadre de l'algorithmique pour l'intelligence artificielle.

Régression linéaire

Modélisation qui estime la relation entre variables quantitatives continues.

Analyse exploratoire

Processus d'examen des données pour résumer leurs principales caractéristiques.

Coefficient de corrélation de Pearson

Mesure de l'intensité et du sens d’une relation linéaire entre deux variables.

Homoscédasticité

Hypothèse selon laquelle la variance des erreurs doit être constante.

Indépendance des erreurs

Hypothèse stipulant que les erreurs ne doivent pas être corrélées avec les variables explicatives.

Normalité des erreurs

Hypothèse selon laquelle les erreurs suivent une distribution normale.

Multicolinéarité

Situation où les variables explicatives sont fortement corrélées entre elles.

Méthode des moindres carrés

Technique qui minimise la somme des carrés des différences entre valeurs observées et prédites.

Maximum de vraisemblance

Estimation des paramètres en maximisant la vraisemblance d'observer les données.

AIC (Akaike Information Criterion)

Critère pour la sélection de modèles, pénalisant la complexité.

BIC (Bayesian Information Criterion)

Critère similaire à l'AIC, mais avec pénalisation plus forte des modèles complexes.

Validité croisée K-plis

Technique pour évaluer la performance du modèle en utilisant des sous-ensembles de données.

Surapprentissage (overfitting)

Quand un modèle s'ajuste trop aux données d'apprentissage, perdant sa capacité à généraliser.

Sous-apprentissage (underfitting)

Quand un modèle ne capture pas les relations dans les données.

Matrice de confusion

Tableau qui permet d'évaluer la performance d'un modèle de classification.

Faux positif & Faux négatif

Faux positif: prédiction erronée d'une classe positive; Faux négatif: prédiction erronée d'une classe négative.

Courbe ROC

Graphique montrant la capacité de séparation d'un modèle entre les classes.

Gradient Descent

Algorithme d'optimisation pour minimiser une fonction de coût.

Régularisation L2

Méthode ajoutant une pénalité sur la magnitude des coefficients pour éviter le surapprentissage.

Validation croisée stratifiée

Méthode de validation croisée qui conserve la proportion de classes dans chaque pli.

Fonction de perte

Mesure utilisée pour évaluer la performance d'un algorithme d'apprentissage.