Identifying the "Right" Level of Explanation in a Given Situation
Une méthode pour identifier le niveau optimal d'explication de l'IA dans une situation donnée
Valérie Beaudouin
(1, 2)
,
Isabelle Bloch
(3, 4)
,
David Bounie
(5, 2)
,
Stéphan Clémençon
(6, 4)
,
Florence d'Alché-Buc
(6, 4)
,
James R Eagan
(7, 8)
,
Winston Maxwell
(1, 2)
,
Pavlo Mozharovskyi
(6, 4)
,
Jayneel Parekh
(6, 4)
1
SID -
Sociologie Information-Communication Design
2 SES - Département Sciences Economiques et Sociales
3 IMAGES - Image, Modélisation, Analyse, GEométrie, Synthèse
4 IDS - Département Images, Données, Signal
5 ECOGE - Economie Gestion
6 S2A - Signal, Statistique et Apprentissage
7 DIVA - Design, Interaction, Visualization & Applications
8 INFRES - Département Informatique et Réseaux
2 SES - Département Sciences Economiques et Sociales
3 IMAGES - Image, Modélisation, Analyse, GEométrie, Synthèse
4 IDS - Département Images, Données, Signal
5 ECOGE - Economie Gestion
6 S2A - Signal, Statistique et Apprentissage
7 DIVA - Design, Interaction, Visualization & Applications
8 INFRES - Département Informatique et Réseaux
Valérie Beaudouin
- Fonction : Auteur
- PersonId : 9526
- IdHAL : valerie-beaudouin
- ORCID : 0000-0001-8505-6916
- IdRef : 033707510
Isabelle Bloch
- Fonction : Auteur
- PersonId : 175825
- IdHAL : isabelle-bloch
- ORCID : 0000-0002-6984-1532
- IdRef : 031277861
David Bounie
- Fonction : Auteur
- PersonId : 173670
- IdHAL : david-bounie
- ORCID : 0000-0002-4118-1480
Stéphan Clémençon
- Fonction : Auteur
- PersonId : 174491
- IdHAL : stephan-clemencon
- ORCID : 0000-0002-5879-9500
- IdRef : 08905203X
Florence d'Alché-Buc
- Fonction : Auteur
- PersonId : 743174
- IdHAL : florence-dalche-buc
- ORCID : 0000-0002-8353-0589
- IdRef : 070545782
James R Eagan
- Fonction : Auteur
- PersonId : 17453
- IdHAL : eaganj
- ORCID : 0000-0002-7107-7035
Winston Maxwell
- Fonction : Auteur
- PersonId : 183045
- IdHAL : winston-maxwell
- ORCID : 0000-0003-3518-4148
Pavlo Mozharovskyi
- Fonction : Auteur
- PersonId : 744820
- IdHAL : pavlo-mozharovskyi
- ORCID : 0000-0002-1925-3337
Jayneel Parekh
- Fonction : Auteur
- PersonId : 1184882
- IdHAL : jayneel-parekh
- ORCID : 0009-0008-4762-6998
- IdRef : 272004006
Résumé
We present a framework for defining the "right" level of AI explainability based on technical, legal and economic considerations. Our approach involves three logical steps: First, define the main con-textual factors, such as who is the audience of the explanation, the operational context, the level of harm that the system could cause, and the legal/regulatory framework. This step will help characterize the operational and legal needs for explanation, and the corresponding social benefits. Second, examine the technical tools available, including post-hoc approaches (input perturbation, saliency maps...) and hybrid AI approaches. Third, as function of the first two steps, choose the right levels of global and local explanation outputs, taking into the account the costs involved. We identify seven kinds of costs and emphasize that explanations are socially useful only when total social benefits exceed costs.
Format du dépôt | Fichier |
---|---|
Type de dépôt | Communication dans un congrès |
Titre |
en
Identifying the "Right" Level of Explanation in a Given Situation
fr
Une méthode pour identifier le niveau optimal d'explication de l'IA dans une situation donnée
|
Résumé |
en
We present a framework for defining the "right" level of AI explainability based on technical, legal and economic considerations. Our approach involves three logical steps: First, define the main con-textual factors, such as who is the audience of the explanation, the operational context, the level of harm that the system could cause, and the legal/regulatory framework. This step will help characterize the operational and legal needs for explanation, and the corresponding social benefits. Second, examine the technical tools available, including post-hoc approaches (input perturbation, saliency maps...) and hybrid AI approaches. Third, as function of the first two steps, choose the right levels of global and local explanation outputs, taking into the account the costs involved. We identify seven kinds of costs and emphasize that explanations are socially useful only when total social benefits exceed costs.
|
Auteur(s) |
Valérie Beaudouin
1, 2
, Isabelle Bloch
3, 4
, David Bounie
5, 2
, Stéphan Clémençon
6, 4
, Florence d'Alché-Buc
6, 4
, James R Eagan
7, 8
, Winston Maxwell
1, 2
, Pavlo Mozharovskyi
6, 4
, Jayneel Parekh
6, 4
1
SID -
Sociologie Information-Communication Design
( 554668 )
- Télécom Paris 19 Place Marguerite Perey 91120 Palaiseau.
Devient NOS: Numérique, Organisation et Société
- France
2
SES -
Département Sciences Economiques et Sociales
( 554515 )
- Télécom Paris 19 Place Marguerite Perey 91120 PALAISEAU
- France
3
IMAGES -
Image, Modélisation, Analyse, GEométrie, Synthèse
( 554445 )
- Télécom Paris 19 Place Marguerite Perey 91120 Palaiseau
- France
4
IDS -
Département Images, Données, Signal
( 554512 )
- 46, rue Barrault 75013 Paris ; 15 Place Marguerite Perey 91120 Palaiseau (depuis oct 2019)
- France
5
ECOGE -
Economie Gestion
( 554666 )
- Télécom Paris 19 Place Marguerite Perey 91120 PALAISEAU. Devient ECO-Télécom Paris: ECO-Economie, en mars 2022
- France
6
S2A -
Signal, Statistique et Apprentissage
( 554452 )
- Télécom Paris 19 Place Marguerite Perey 91120 Palaiseau
- France
7
DIVA -
Design, Interaction, Visualization & Applications
( 554443 )
- Télécom Paris 19 Place Marguerite Perey 91120 Palaiseau
- France
8
INFRES -
Département Informatique et Réseaux
( 121818 )
- 46, rue Barrault
75013 Paris
- France
|
Invité |
Oui
|
Date de publication |
2020-09-04
|
Volume |
2659
|
Date début congrès |
2020-09-04
|
Ville |
Santiago de Compostella
|
Date de production/écriture |
2020-03-12
|
Titre du congrès |
1st International Workshop on New Foundations for Human-Centered AI (NeHuAI) ECAI 2020
|
Date fin congrès |
2020-09-04
|
Source |
CEUR Workshop Proceedings
|
Page/Identifiant |
63-66
|
Vulgarisation |
Non
|
Comité de lecture |
Oui
|
Audience |
Internationale
|
Actes |
Oui
|
Pays |
Espagne
|
Langue du document |
Anglais
|
Projet(s) ANR |
|
Domaine(s) |
|
Mots-clés |
en
Explainability, Artificial Intelligence
|
Origine :
Fichiers produits par l'(les) auteur(s)
Loading...