Den punktvisa ömsesidiga informationen representerar ett kvantifierat mått på hur mycket mer- eller mindre sannolikt vi är att se de två händelserna inträffa samtidigt, givet deras individuella sannolikheter och i förhållande till fallet där de två är helt oberoende.
Vad mäter punktvis ömsesidig information mellan två ord?
Inom beräkningslingvistik är andra ordningens samförekomst punktvis ömsesidig information ett semantiskt likhetsmått. För att bedöma graden av association mellan två givna ord använder den punktvis ömsesidig information (PMI) för att sortera listor över viktiga grannord för de två målorden från en stor korpus.
Vad är ömsesidig information i NLP?
Ömsesidig information mäter hur mycket information - i informationsteoretisk mening - en term innehåller om klassen. Om en terms fördelning är densamma i klassen som den är i samlingen som helhet, då..
Hur beräknas punktvis ömsesidig information?
Den allmänna formeln för punktvis ömsesidig information ges nedan; det är binär logaritmen för den gemensamma sannolikheten för X=a och Y=b, dividerat med produkten av de individuella sannolikheterna att X=a och Y=b.
Vad är PMI i maskininlärning?
PMI: Pointwise Mutual Information, är ett mått på korrelation mellan två händelser x och y. Som du kan se från ovan uttryck, är direkt proportionell mot antaletgånger båda händelserna inträffar tillsammans och omvänt proportionell mot de individuella antalet som finns i nämnaren.