FACULTÉ DES S CIENCES DE T UNIS
A NNÉE U NIVERSITAIRE 2021-2022
F ILIÈRE : LCS3
Machine Learning
TP3 : Régression linéaire avec Sklearn
Exercice 1
Partie 1 Écrire un script python qui permet de :
1. Créer les deux tableaux X et Y suivants :
X 5 15 25 35 45 55
Y 5 20 14 32 22 38
2. Représenter le nuage de points.
3. Calculer et afficher les valeurs a et b en utilisant la méthode des moindres carrés.
4. Calculer et afficher les valeurs prédites (ŷi ) dans un tableau ypredit .
5. Représenter la droite de régression dans le même graphique.
6. Représenter les valeurs prédites sur la droite de régression.
7. Calculer et afficher la prédiction pour x0=10 et x0=50.
8. Ajouter une légende à votre graphique.
9. Calculer et afficher la valeur MSE (Mean Squared Error) ainsi que le coefficient de détermination
R2 .
Rappel : m est le nombre d’observations et où les moyennes considérées sont :
x̄ = m1 m
P
i=1 xi
ȳ = m1 m
P
i=1 yi
Pm
(x − x̄)(yi − ȳ)
Pm i
a = i=1 2
i=1 (xi − x̄)
b = ȳ − ax̄
1
1
Pm 1
Pm
M SE = m i=1 (ŷi − yi )2 = m i=1 ((axi + b) − yi )2
Pm
2 (yi − ŷi )2
R = 1 − Pi=1
m 2
i=1 (yi − ȳ)
Partie 2
Implémenter la Partie 1 en utilisant cette fois les fonctions de la bibliothèque sklearn.
— L’import : from sklearn.linear_model import LinearRegression
— Définition du modèle : model = LinearRegression()
— Entraînement du modèle : model.fit(x,y)
— Attributs du model : model.coef_ (a), model.intercept_(b)
— Prédiction : model.predict(x)
— Évaluation
— Coefficient de détermination (R2 ) : model.score(x, y)
— L’import : from sklearn.metrics mean_squared_error
— MSE : mean_squared_error(y, model.predict(x))
Partie 3 Une solution analytique peut-être donnée directement par l’équation normale :
θ = (X T X)−1 X T Y
Calculer et afficher les valeurs a et b en utilisant l’équation normale sur les tableaux X et Y .
NB : Transformez X en matrice et ajoutez une colonne remplie de 1.
