Du besoin d'éthique plus que de morale. Le développement d'agents autonomes artificiels soulève aujourd'hui des problèmes d'éthique. En effet, les utilisateurs ont parfois des attentes éthiques distinctes des problématiques d'optimalité ou de légalité pour lesquelles les agents sont le plus souvent conçus. C'est pourquoi il y a un intérêt à doter des machines intelligentes et autonomes de comportements éthiques. Mais pourquoi des questions d'éthique et non de morale ? Si les deux mots désignent étymologiquement la même chose, l'usage en France les différencie. Selon Gilles Deleuze, la morale se présente comme un ensemble de règles contraignantes d'un type spécial, qui consiste à juger des actions et des intentions en les rapportant à des valeurs transcendantes (c'est bien, c'est mal, etc.) ; l'éthique est un ensemble de règles facultatives qui évaluent ce que nous faisons et disons d'après le mode d'existence que cela implique. Dans ce contexte, le projet ANR ETHICAA vise à répondre aux deux questions suivantes. Quels éléments permettent d'apprécier une situation lorsqu'il est question d'éthique et d'agents autonomes ? Quels sont les outils formels permettant de raisonner et d'implémenter dans des agents autonomes des principes éthiques ?

Un cadre de raisonnement éthique. Le projet ETHICAA propose un cadre de raisonnement éthique implémenté avec des langages de programmation logique sur une surcouche Java, permettant à des agents artificiels d'évaluer leur environnement, d'intégrer des principes éthiques et de déterminer à partir de la mise en œuvre de ces principes soit un plan d'actions, soit une évaluation du comportement d'autres agents. Ce cadre s'appuie sur deux distinctions explicites ainsi que sur un ensemble de fonctionnalités. La première distinction est celle entre morale et éthique, c'est-à-dire entre le raisonnement sur le bien et mal, et le raisonnement sur le juste et l'injuste. La seconde distinction est celle entre l'éthique individuelle et éthique collective, permettant à un agent de tenir compte de la pluralité des valeurs et principes des autres agents. Enfin, notre cadre s'appuie sur un ensemble de fonctionnalités : identifier les situations de dilemme, attribuer la causalité et les responsabilités, juger, décider et agir en fonction de principes éthiques, collaborer et faire confiance aux autres agents en fonction du jugement de l'éthique de leur comportement, et enfin être capable de vérifier formellement le comportement éthique d'un agent.

Résultats majeurs du projet. En privilégiant une modélisation de prise de décision éthique par raisonnement symbolique par rapport aux approches d'éthique par conception ou fondées sur l'apprentissage artificiel, le cadre du projet ETHICAA permet de justifier et argumenter les prises de décisions auprès d'opérateurs ou d'utilisateurs. Au-delà de ces résultats techniques, le projet ETHICAA – par l'intermédiaire de ses membres – joue un rôle dans plusieurs comités éthiques (CERNA, COERLE, COMETS, IEEE) et a co-organisé depuis 2015 trois Journées éthique & Intelligence Artificielle lors des Plates-Formes Intelligence Artificielle (PFIA) de l'AFIA, contribuant à l'émergence de cette thématique de recherche au niveau national.

Productions scientifiques depuis le début du projet. Les travaux réalisés au sein du projet ETHICAA ont été publiés à de nombreuses reprises : 2 revues et 16 communications internationales, et 8 revues et 9 communications nationales. Au-delà de cette production scientifique, le projet a mis l'accent sur la vulgarisation – car la réflexion éthique doit dépasser le cadre de chercheurs et trouver écho dans la société civile – avec une vingtaine d'articles ou communications grand public sur le sujet, ainsi qu'avec la participation à des écoles d'étés, des cours de formations doctorales, des tables rondes, des colloques pluridisciplinaires ainsi qu'à des comités scientifiques de manifestations grand public.