Varför använda kategorisk korsentropi?

Innehållsförteckning:

Varför använda kategorisk korsentropi?
Varför använda kategorisk korsentropi?
Anonim

Kategorisk korsentropi är en förlustfunktion som används i klassificeringsuppgifter i flera klasser. Det är uppgifter där ett exempel bara kan tillhöra en av många möjliga kategorier, och modellen måste avgöra vilken. Formellt är den designad för att kvantifiera skillnaden mellan två sannolikhetsfördelningar.

Varför använda korsentropi istället för MSE?

För det första är Cross-entropy (eller softmax-förlust, men cross-entropy fungerar bättre) ett bättre mått än MSE för klassificering, eftersom beslutsgränsen i en klassificeringsuppgift är stor(i jämförelse med regression). … För regressionsproblem skulle du nästan alltid använda MSE.

Vad är skillnaden mellan gles korsentropi och kategorisk korsentropi?

Den enda skillnaden mellan gles kategorisk korsentropi och kategorisk korsentropi är formatet för sanna etiketter. När vi har ett klassificeringsproblem med en etikett och flera klasser, är etiketterna ömsesidigt uteslutande för varje data, vilket innebär att varje datainmatning bara kan tillhöra en klass.

Hur tolkar du kategorisk korsentropiförlust?

Cross entropy ökar när den förutsagda sannolikheten för ett sampel avviker från det faktiska värdet. Att förutsäga en sannolikhet på 0,05 när den faktiska etiketten har värdet 1 ökar därför korsetropiförlusten. anger den förutsagda sannolikheten mellan 0 och 1 för det urvalet.

Varför är korsentropi bra?

Sammantaget, som vi kan se är korsentropin helt enkelt ett sätt att mäta sannolikheten för en modell. Korsentropin är användbar eftersom den kan beskriva hur sannolik en modell är och felfunktionen för varje datapunkt. Den kan också användas för att beskriva ett förutspått resultat jämfört med det verkliga resultatet.

Rekommenderad:

Intressanta artiklar
I vilken ålder dör de flesta rökare?
Läs mer

I vilken ålder dör de flesta rökare?

Studien visar att rökare dör relativt unga. Uppskattningsvis 23 procent av konsekventa storrökare når aldrig 65 år. Det är 11 procent bland lättrökare och 7 procent bland icke-rökare. Den förväntade livslängden minskar med 13 år i genomsnitt för storrökare jämfört med personer som aldrig har rökt.

Är natriumhypoklorit syra?
Läs mer

Är natriumhypoklorit syra?

Natriumhypoklorit är alkaliskt , och hushållsblekmedel innehåller också NaOH för att göra lösningen ännu mer alkalisk. Två ämnen bildas när natriumhypoklorit löses i vatten. Dessa är hypoklorsyra (HOCl) och hypokloritjonen (OCl -), där förhållandet mellan de två bestäms av vattnets pH.

Behöver därför kommatecken?
Läs mer

Behöver därför kommatecken?

Använd ett kommatecken för att sätta ut de flesta konjunktiva adverb (dock annars, därför på samma sätt, därav å andra sidan och följaktligen). Men använd inte kommatecken efter de konjunktiva adverben då, alltså snart, nu och också. Hur använder du konsekvent i en mening?