courant de l’IA regroupant un ensemble de travaux visant à doter les systèmes d’IA (en particulier, ceux relevant de l’apprentissage profondapprentissage d’un réseau de neurones* comportant de nombreuses couches, réalisé en calculant le gradient de l’erreur (la dérivée de l’erreur par rapport aux poids) en sortie du réseau de neurones* et en modifiant les poids du réseau proportionnellement au gradient.... More*) de capacités d’explications intelligibles par l’humain des résultats qu’ils produisent, et à analyser la fiabilité de ces systèmes.
De quoi s'agit-il vraiment ?