Les fondements du machine learning

Appréhender la régression linéaire polynomiale

TESTEZ LINKEDIN LEARNING GRATUITEMENT ET SANS ENGAGEMENT

Tester maintenant Afficher tous les abonnements
Ici, vous aborderez également les notions mathématiques et les règles d'approche de la régression linéaire polynomiale.
03:29

Transcription

En continuant à monter en puissance, il y a la régression polynomiale parmi les trentaines de techniques de régression existantes. La régression linéaire, on le sait, elle suppose qu'il existe d'office une relation linéaire entre les prédicteurs et les variables à prédire. Toutefois, en cas de non linéarité, la recherche d'une transformation des variables pour linéariser les variables peut s'avérer vraiment pas efficace à l'apprentissage de l'algorithme, on s'entend. Une des options qui se présente au machine learner, c'est-à-dire la personne qui fait donc du machine learning, c'est le recours à la régression polynomiale. Alors la fonction hypothèse pour une régression polynomiale n'est évidemment pas une droite puisqu'il s'agit d'une relation non linéaire. Alors il convient de considérer une forme de fonction polynomiale à quatre degrés pour une fonction hypothèse assez plausible. Par exemple considérons les cas suivants. On a donc trois exemples à l'écran : un polynôme de degré 2 à 1 variable, un polynôme de degré 2, 2 variables sans interactions comme vous pouvez le voir on a X1, X2, X1 carré + X2 carré. Et on a le cas général toujours sans interactions. Pourquoi on parle d'interactions ou sans interactions ? Parce que si on commence à multiplier les X1 par X2 puis on a un terme en X3 fois X4 fois X5, à ce moment-là on ne parle plus au fait de polynôme, rigoureusement parlant. Ceci ayant été présenté, c'est-à-dire la forme de ce type de fonction d'hypothèse, la régression polynomiale est une forme de régression linéaire dans laquelle la relation entre les variables d'entrée X et la variable de sortie Y est modélisée en apprenant une fonction hypothèse donc polynomiale, comme je viens de vous le montrer. Bien que la régression polynomiale corresponde à un modèle non linéaire aux données, au fait elle reste linéaire au sens des coefficients à estimer. Et c'est là l'astuce mathématiques lorsqu'on fait des mathématiques de la régression polynomiale, c'est pour ça que son étude est très simple. Lorsqu'on étudie donc cette mathématique et qu'on comprend cette approche astucieuse, on peut obtenir donc une relation fermée, c'est-à-dire analytique pour les coefficients en utilisant à nouveau la formulation matricielle ou également donc on pourra utiliser la méthode du gradient descent comme on l'a déjà dit et toujours dans l'optique de minimiser la fonction de coût, la loss function. Quand bien même elle peut représenter donc une panacée aux problèmes de non linéarité, la régression polynomiale, c'est l'un des modèles les plus sujets aux problèmes du sur-apprentissage ou au sous-apprentissage. En effet très souvent l'augmentation du degré du polynome tend à réduire l'erreur de prédiction dans les données d'entraînement mais malheureusement ce modèle se révèle avoir une faible capacité de prédiction avec les données ou échantillons tests. C'est très simple à le voir en pratique lorsqu'on fait des exemples vraiment même simplistes. Ainsi cette régression polynomiale, elle est rarement utilisée en machine learning et on lui préfère des méthodes plus complexes pour gérer la non linéarité notamment des régressions régularisées ou non paramétriques. Ce sera tout pour cette petite présentation sommaire de la régression polynomiale.

Les fondements du machine learning

Acquérez les bases du vocabulaire lié au machine learning. Découvrez les outils fondamentaux avec les idées, applications et concepts mathématiques sous-jacents à chacun.

3h04 (33 vidéos)
Aucun commentaire n´est disponible actuellement
Spécial abonnés
Date de parution :21 déc. 2017

Votre formation est disponible en ligne avec option de téléchargement. Bonne nouvelle : vous ne devez pas choisir entre les deux. Dès que vous achetez une formation, vous disposez des deux options de consultation !

Le téléchargement vous permet de consulter la formation hors ligne et offre une interface plus conviviale. Si vous travaillez sur différents ordinateurs ou que vous ne voulez pas regarder la formation en une seule fois, connectez-vous sur cette page pour consulter en ligne les vidéos de la formation. Nous vous souhaitons un excellent apprentissage avec cette formation vidéo.

N'hésitez pas à nous contacter si vous avez des questions !