Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique - Laboratoire d'InfoRmatique en Image et Systèmes d'information Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique

Résumé

The need to imbue Artificial Intelligence algorithms with ethical considerations is more and more present. Combining reasoning and learning, this paper proposes a hybrid method, where judging agents evaluate the ethics of learning agents' behavior. The aim is to improve the ethics of their behavior in dynamic multi-agent environements. Several advantages ensue from this separation: possibility of co-construction between agents and humans; judging agents more accessible for non-experts humans; adoption of several points of view to judge the same agent, producing a richer feedback. Experiments on energy distribution inside a Smart Grid simulator show the learning agents' ability to comply with judging agents' rules, including when they evolve.
Le besoin d'incorporer des considérations éthiques au sein d'algorithmes d'Intelligence Artificielle est de plus en plus présent. Combinant raisonnement et apprentissage, cet article propose une méthode hybride, où des agents juges évaluent l'éthique du comportement d'agents apprenants. Le but est d'améliorer l'éthique de leur comportement dans des environnements dynamiques multi-agents. Plusieurs avantages découlent de cette séparation : possibilité de co-construction entre agents et humains ; agents juges plus accessibles pour des humains non-experts ; adoption de plusieurs points de vue pour juger un même agent, produisant une récompense plus riche. Les expérimentations sur la distribution de l'énergie dans un simulateur de Smart Grid montrent la capacité des agents apprenants à se conformer aux règles des agents juges, y compris lorsque les règles évoluent.
Fichier principal
Vignette du fichier
2021 Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique.pdf (8.59 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

emse-03278353 , version 1 (08-11-2021)

Identifiants

  • HAL Id : emse-03278353 , version 1

Citer

Rémy Chaput, Jérémy Duval, Olivier Boissier, Mathieu Guillermin, Salima Hassas. Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique. Journées Francophones sur les Systèmes Multi-Agents, Jun 2021, Bordeaux, France. ⟨emse-03278353⟩
240 Consultations
110 Téléchargements

Partager

Gmail Facebook X LinkedIn More