Programme ANR
Contenus numériques et interactions (CONTINT) 2013
Référence projet
ANR-13-CORD-0006
Coordinateur du projet
Grégory BONNET (Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen)
Début
janvier 2014
Durée
48 mois

Description du projet

À l'heure actuelle, les machines et les logiciels, agents exécutant un ensemble de tâches pour le compte des humains, deviennent de plus en plus autonomes et, par conséquent, agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. Toutefois, et en particulier lorsque les machines autonomes interagissent directement avec des humains, il est de première importance de s'assurer qu'elles ne peuvent les blesser, ni menacer leur propre autonomie. C'est pourquoi, la question de doter les agents autonomes de comportements éthiques régulés et ou contrôlés se pose. Les discussions à ce sujet dans la littérature et les médias mettent en lumière ce besoin.

L'objectif du projet eThicAa est de définir ce que devrait être un système composé d'un ou plusieurs agents, impliquant des humains, et capable de gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif. Les conflits éthiques que nous considérons peuvent survenir 1) au sein d'un agent, 2) entre un agent et les principes éthiques du système auquel il appartient, 3) entre un agent et un utilisateur ou un opérateur humain, 4) entre plusieurs agents incluant ou non des êtres humains. Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de « bonne » manière de les résoudre. Quoi qu'il en soit, les décision doivent être fondées sur l'évaluation des arguments qui les soutiennent et des conséquences qu'elles produisent. Le projet eThicAa, en produisant des modèles, des méthodes et des outils informatiques, proposera un cadre méthodologique permettant la définition et la gestion d'agents autonomes dotés de comportements éthiques.

eThicAa propose d'appliquer le cadre ainsi obtenu sur deux domaines d'application : la robotique et la gestion de la vie privée. Ces deux domaines ont été choisis pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre eThicAa sera utilisé pour gérer les conflits éthiques qui peuvent survenir lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains au sein d'un réseau social où des agents éthiques artificiels contrôlent et gèrent les politiques de vie privées de leurs utilisateurs humains.

Le projet eThicAa fournira ainsi (i) une représentation formelle des principes et des conflits éthiques, ainsi que (ii) des modèles de raisonnement automatique pour pouvoir les gérer, (iii) validés sur ces scénarios issus du monde réel. En conséquence, le résultat de projet eThicAa est un cadre général pour concevoir des systèmes d'agents artificiels dotés de comportements éthiques, capables de mettre en place des modes de régulation éthiques en fonction du contexte et des conflits éthiques pouvant impliquer d'autres agents artificiels et des êtres humains, quel que soit leur comportement.