From the archives
L'IA du Quotidien peut elle être Éthique ? : Loyauté des Algorithmes d'Apprentissage Automatique
Historical material. Affiliations, schedules and roles on this page describe their original context.
JournalName: Statistique et Société
Date: December, 2018
PageStart: 9
PageEnd: 31
Arxiv Number: 1810.01729
Hal Number: 01886699
Authors: Philippe BesseCéline Castets-RenardAurélien GarivierJean-Michel Loubès
Abstract: Associant données massives (big data) et algorithmes
d'apprentissage automatique (machine learning), la puissance des outils de décision
automatique suscite autant d'espoir que de craintes. De nombreux textes législatifs
européens (RGPD) et français récemment promulgués tentent d'encadrer les usages de ces
outils. Laissant de côté les problèmes bien identifiés de confidentialité des données et
ceux d'entrave à la concurrence, nous nous focalisons sur les risques de discrimination, les
problèmes de transparence et ceux de qualité des décisions algorithmiques. La mise en
perspective détaillée des textes juridiques, face à la complexité et l'opacité des
algorithmes d'apprentissage, révèle la nécessité d'importantes disruptions technologiques
que ce soit pour détecter ou réduire le risque de discrimination ou pour répondre au droit à
l'explication. La confiance des développeurs et surtout des usagers (citoyens, justiciables,
clients) étant indispensable, les algorithmes exploitant des données personnelles se doivent
d'être déployés dans un cadre éthique strict. En conclusion nous listons, pour ré-pondre à
cette nécessité, quelques possibilités de contrôle à développer : institutionnel, charte
éthique, audit externe attaché à la délivrance d'un label. Mots clefs Intelligence
artificielle, éthique, apprentissage automatique, discrimination, discrimination impact
assessment, droit à l'explication, qualité d'une décision automatique.
Direct link: Full text · Persée
Issue: 3
Volume: 6
Keywords:
