Qu'est-ce que la régression linéaire régularisée ?
Qu'est-ce que la régression linéaire régularisée ?

Vidéo: Qu'est-ce que la régression linéaire régularisée ?

Vidéo: Qu'est-ce que la régression linéaire régularisée ?
Vidéo: Comprendre la régression linéaire en 3 minutes 2024, Novembre
Anonim

Régularisation . C'est une forme de régression , qui contraint/régule ou rétrécit les estimations de coefficients vers zéro. En d'autres termes, cette technique décourage l'apprentissage d'une méthode plus complexe ou flexible maquette , afin d'éviter le risque de surapprentissage. Une relation simple pour régression linéaire ressemble à ça.

En conséquence, qu'est-ce que lambda en régression linéaire ?

Quand on a un haut degré linéaire polynôme utilisé pour ajuster un ensemble de points dans un régression linéaire configuration, pour éviter le surapprentissage, nous utilisons la régularisation, et nous incluons un lambda paramètre dans la fonction de coût. Cette lambda est ensuite utilisé pour mettre à jour les paramètres thêta dans l'algorithme de descente de gradient.

Deuxièmement, quel est le but de la régularisation? Régularisation est une technique utilisée pour régler le fonction en ajoutant un terme de pénalité supplémentaire dans l'erreur fonction . Le terme supplémentaire contrôle la fluctuation excessive fonction de telle sorte que les coefficients ne prennent pas de valeurs extrêmes.

De cette façon, pourquoi a-t-on besoin de régulariser en régression ?

L'objectif de régularisation est d'éviter le surapprentissage, en d'autres termes nous essaient d'éviter les modèles qui s'adaptent extrêmement bien aux données d'apprentissage (données utilisées pour construire le modèle), mais qui s'adaptent mal aux données de test (données utilisées pour tester la qualité du modèle). C'est ce qu'on appelle le surapprentissage.

Que signifie régularisation ?

En mathématiques, statistiques et informatique, en particulier en apprentissage automatique et problèmes inverses, la régularisation est le processus d'ajout d'informations afin de résoudre un problème mal posé ou d'éviter le surapprentissage. Régularisation s'applique aux fonctions objectifs dans les problèmes d'optimisation mal posés.

Conseillé: