La transparence résout ce problème en utilisant des modèles facilement interprétables, dont nous aborderons certains dans la section suivante. L'explicabilité résout ce problème en "déballant la boîte noire", ou en essayant d'obtenir un aperçu du modèle d'apprentissage automatique, souvent en utilisant des méthodes statistiques.
Qu'est-ce que l'explicabilité du modèle ?
L'explicabilité du modèle est un vaste concept d'analyse et de compréhension des résultats fournis par les modèles de ML. Il est le plus souvent utilisé dans le contexte des modèles « boîte noire », pour lesquels il est difficile de démontrer comment le modèle est arrivé à une décision spécifique.
Qu'est-ce que l'explicabilité dans l'apprentissage en profondeur ?
L'explicabilité (également appelée "interprétabilité") est le concept selon lequel un modèle d'apprentissage automatique et sa sortie peuvent être expliqués d'une manière qui "a du sens" pour un être humain à un niveau acceptable … D'autres, comme les systèmes d'apprentissage en profondeur, tout en étant plus performants, restent beaucoup plus difficiles à expliquer.
Que signifie l'explicabilité dans le contexte d'un système d'IA ?
Andrew Maturo, analyste de données, SPR. Une IA explicable en termes simples signifie Une IA qui est transparente dans ses opérations afin que les utilisateurs humains puissent comprendre et faire confiance aux décisions Les organisations doivent se poser la question - pouvez-vous expliquer comment votre IA a généré cela ? une idée ou une décision spécifique ? » –
Qu'est-ce qu'un problème d'explicabilité ?
Les gens ont une aversion apparente pour les décisions de la boîte noire qui les affectent financièrement, sur le plan de la santé et des dizaines d'autres façons tout en étant inconscients de certains types de décisions. … Lorsque l'IA prend ces décisions, la demande d'explicabilité peut être entendue.
