Regularizers låter dig tillämpa straff på lagerparametrar eller lageraktivitet under optimering. Dessa påföljder summeras till den förlustfunktion som nätverket optimerar. Reguleringsstraff tillämpas per lager.
Vad är aktivitetsreglerare?
Aktivitetsregularizern fungerar som en funktion av utdata från nätet, och används mest för att reglera dolda enheter, medan weight_regularizer, som namnet säger, fungerar på vikterna (t.ex. få dem att förfalla).
När ska jag använda aktivitetsregulatorn?
Om du vill att utgångsfunktionen ska passera genom (eller har en skärning närmare) origo, kan du använda bias-regularizern. Om du vill att utdata ska vara mindre (eller närmare 0) kan du använda aktivitetsreguljären.
Hur använder jag Keras regularizer?
För att lägga till en regularizer till ett lager måste du helt enkelt skicka in den föredragna regleringstekniken till lagrets nyckelordsargument 'kernel_regularizer'. Keras regulariseringsimplementeringsmetoder kan tillhandahålla en parameter som representerar regulariseringshyperparametervärdet.
Vad är kärna och bias?
Dense class
Dense implementerar operationen: output=activation(dot(input, kernel) + bias) där aktivering är den elementmässiga aktiveringsfunktionen som skickas som aktiveringsargument, kärna är en viktmatris skapad av lagret, ochbias är en biasvektor som skapas av lagret (endast tillämpligt om use_bias är True).
