Machine learning explainability (MLX) är processen att förklara och tolka maskininlärnings- och djupinlärningsmodeller. MLX kan hjälpa maskininlärningsutvecklare att: Bättre förstå och tolka modellens beteende.
Vad är förklaring i maskininlärning?
Explainability (även kallat "tolkbarhet") är konceptet att en maskininlärningsmodell och dess resultat kan förklaras på ett sätt som "ger mening" för en människa på en acceptabel nivå.
Vad är skillnaden mellan förklaring och tolkning?
Tolkbarhet handlar om i vilken utsträckning en orsak och verkan kan observeras i ett system. … Förklarbarhet är samtidigt i vilken utsträckning den interna mekaniken i en maskin eller djupinlärningssystem kan förklaras i mänskliga termer.
Vad är ML-förklaring?
Förklarlighet i maskininlärning innebär att du kan förklara vad som händer i din modell från input till output. Det gör modellerna transparenta och löser problemet med black box. Explainable AI (XAI) är det mer formella sättet att beskriva detta och gäller all artificiell intelligens.
Vad är modell som kan förklaras?
Explainability definierar att kunna förklara förutsägelser som härrör från en modell från en mer teknisk synvinkel till en människa. Transparens: En modell anses vara transparent om den är förståelig på egen hand utifrån enkla förklaringar.
