Från en praktisk synvinkel tenderar L1 att krympa koefficienterna till noll medan L2 tenderar att krympa koefficienterna jämnt. L1 är därför användbart för funktionsval, eftersom vi kan släppa alla variabler som är associerade med koefficienter som går till noll. L2, å andra sidan, är användbart när du har kollinjära/samberoende funktioner.
Vad är användningen av regularisering Vad är L1- och L2-regularisering?
L1-regularisering ger utdata i binära vikter från 0 till 1 för modellens funktioner och används för att minska antalet funktioner i en enorm dimensionell datauppsättning. L2-regularisering sprider feltermerna i alla vikter som leder till mer exakta anpassade slutmodeller.
Vilka är skillnaderna mellan L1- och L2-regularisering?
Den huvudsakliga intuitiva skillnaden mellan L1- och L2-regulariseringen är att L1-regulariseringen försöker uppskatta medianen för data medan L2-regulariseringen försöker uppskatta medelvärdet av data för att undvika överanpassning. … Det värdet kommer också att vara medianen för datadistributionen matematiskt.
Vad är L1- och L2-regularisering i djupinlärning?
L2-regularisering är också känd som viktnedgång eftersom den tvingar vikterna att avta mot noll (men inte exakt noll). I L1 har vi: I detta,, straffar vi det absoluta värdet av vikterna. Till skillnad från L2 kan vikterna reduceras till noll här. Därför är det mycket användbart när vi försöker komprimeravår modell.
Hur fungerar L1- och L2-regularisering?
En regressionsmodell som använder L1-regulariseringsteknik kallas Lasso-regression och modell som använder L2 kallas Ridge-regression. Den viktigaste skillnaden mellan dessa två är strafftiden. Ridge-regression lägger till koefficientens "kvadratstorlek" som straffterm till förlustfunktionen.
