Consultation de l’OENDDF sur l’intelligence artificielle
Pour une charte éthique de l’intelligence artificielle et un droit fondamental à l’intégrité psychologique
Charte éthique de l’intelligence artificielle : consultation publique de l’OENDDF sur le Livre blanc européen — Christine Monty, présidente de l’OENDDF, Paris, 18 mai 2020
Dans le cadre de la consultation publique lancée par la Commission européenne sur son Livre blanc sur l’intelligence artificielle, l’Observatoire Européen de la Non-Discrimination et des Droits Fondamentaux (OENDDF) a soumis une contribution appelant à la mise en place d’une charte éthique de l’intelligence artificielle, à respecter dès la conception des programmes de recherche. Cette consultation appelle également à la reconnaissance d’un nouveau droit fondamental européen : le droit à l’intégrité et à la continuité psychologiques.
Trois recommandations de l’OENDDF pour une charte éthique de l’intelligence artificielle
1. Mettre en place une charte éthique « pré-conception » de l’intelligence artificielle
L’intelligence artificielle (IA) est porteuse d’espoirs autant que de craintes : elle peut améliorer les politiques de santé publique, sécuriser les transports, ou encore mieux anticiper les crises climatiques et financières. Mais elle soulève aussi des questions juridiques et éthiques majeures, notamment le risque d’exclusion numérique des personnes déjà en situation de précarité. Face aux lignes directrices, jugées insuffisantes, établies par le groupe d’experts de haut niveau de la Commission européenne, l’OENDDF propose une véritable charte éthique de l’intelligence artificielle, réunissant sept principes non négociables : ne pas nuire à l’être humain ni à sa dignité, rester au service de chaque individu, respecter les droits fondamentaux, la vie privée et les données personnelles, garantir loyauté et bien-être individuel et collectif, promouvoir l’inclusion et la non-discrimination, et rester sous le contrôle de l’être humain — avec, pour toute décision automatisée aux conséquences cruciales (décision de justice, octroi de crédit, prestations sociales), un droit de recours humain systématique.
2. Développer la formation, l’éducation et le contrôle
Au-delà du cadre réglementaire, l’OENDDF recommande de former et sensibiliser à l’éthique tous les maillons de la chaîne algorithmique — concepteurs, professionnels, chercheurs et citoyens — dès le lycée. La consultation appelle également à la création de plateformes d’audit indépendantes et impartiales, notamment pour les applications à haut risque, en veillant à prévenir tout conflit d’intérêts dans la désignation de leurs responsables. Les associations et ONG, détentrices d’une expertise de terrain irremplaçable, doivent être associées de façon participative à l’élaboration de ces outils de contrôle.
3. Ajouter le droit à l’intégrité et à la continuité psychologiques à la Charte des droits fondamentaux de l’UE
L’intelligence artificielle risque de conduire à déléguer aux machines des pans entiers de l’activité humaine, au prix d’une perte de ce qui fait l’humanité de l’être humain : sa perception du monde, sa capacité d’action, sa capacité à se donner aux autres. Cette perte peut nourrir un stress individuel et collectif, voire des tensions sociales, par perte de sens et de liberté. Parce que ces technologies fonctionnent par répétition, reconnaissance et standardisation, elles laissent peu de place à la créativité, à la singularité et à la quête de sens qui caractérisent chaque personne. L’article 3 de la Charte des droits fondamentaux de l’Union européenne garantit déjà l’intégrité physique et l’intégrité mentale ; l’OENDDF propose d’y ajouter le droit à l’intégrité psychologique, entendu comme la reconnaissance de l’unicité de chaque personne dans sa façon de penser et d’interagir avec son environnement — un droit qui va au-delà de la seule protection contre le traumatisme psychique, et qui constitue selon l’Observatoire un fondement essentiel du bien-être individuel et collectif recherché par la Commission européenne.
📄 Télécharger la consultation complète (PDF, en anglais)
Consultation soumise par l’Observatoire Européen de la Non-Discrimination et des Droits Fondamentaux (OENDDF) dans le cadre de la consultation publique de la Commission européenne sur le Livre blanc sur l’intelligence artificielle, Paris, 18 mai 2020. Ce document n’ayant jamais fait l’objet d’une traduction française, seule la version originale en anglais est disponible au téléchargement ; le présent texte de présentation en constitue une synthèse en français. Read the English version.
Toute reproduction partielle ou totale doit mentionner la source : OENDDF.