From the archives

L'IA du Quotidien peut elle être Éthique ? : Loyauté des Algorithmes d'Apprentissage Automatique

Historical material. Affiliations, schedules and roles on this page describe their original context.

JournalName:  Statistique et Société

Date:  December, 2018

PageStart:  9

PageEnd:  31

Arxiv Number:  1810.01729

Hal Number:  01886699

Authors:  Philippe BesseCéline Castets-RenardAurélien GarivierJean-Michel Loubès

Abstract:  Associant données massives (big data) et algorithmes d'apprentissage automatique (machine learning), la puissance des outils de décision automatique suscite autant d'espoir que de craintes. De nombreux textes législatifs européens (RGPD) et français récemment promulgués tentent d'encadrer les usages de ces outils. Laissant de côté les problèmes bien identifiés de confidentialité des données et ceux d'entrave à la concurrence, nous nous focalisons sur les risques de discrimination, les problèmes de transparence et ceux de qualité des décisions algorithmiques. La mise en perspective détaillée des textes juridiques, face à la complexité et l'opacité des algorithmes d'apprentissage, révèle la nécessité d'importantes disruptions technologiques que ce soit pour détecter ou réduire le risque de discrimination ou pour répondre au droit à l'explication. La confiance des développeurs et surtout des usagers (citoyens, justiciables, clients) étant indispensable, les algorithmes exploitant des données personnelles se doivent d'être déployés dans un cadre éthique strict. En conclusion nous listons, pour ré-pondre à cette nécessité, quelques possibilités de contrôle à développer : institutionnel, charte éthique, audit externe attaché à la délivrance d'un label. Mots clefs Intelligence artificielle, éthique, apprentissage automatique, discrimination, discrimination impact assessment, droit à l'explication, qualité d'une décision automatique.

Direct link:  Full text · Persée

Issue:  3

Volume:  6

Keywords: