Intelligence Artificielle et Explicabilité

Cet entretien est réalisé avec la direction Recherche et Développement d’EDF, et notamment les chercheurs des centres de recherche EDF Lab Paris-Saclay et EDF Lab les Renardières, en collaboration avec la direction de l’Action Régionale  en Occitanie, partenaire du Cluster Digital 113. Il s’articule autour des différents projets menés par la R&D autour de l’intelligence artificielle dans le domaine de la relation client.

Interview de David  MENGA, Ingénieur Chercheur à la R&D d'EDF

David Menga, pouvez-vous vous présenter ?

Bonjour, je suis ingénieur chercheur au sein d’EDF Lab Paris-Saclay. J’ai fait une école d’informatique (ENSIMAG à Grenoble) et comme tous les informaticiens, je m’intéresse à d’autres choses. Aujourd’hui, je porte mon attention sur tous les environnements smart (smart home, building, city, port) et plus particulièrement sur la smart home.
 

Comment l’IA* s’inscrit-elle dans vos missions chez EDF ?

Aujourd’hui, je travaille sur un projet de recherche baptisé SEIDO (ndlr : La R&D d’EDF et Télécom ParisTech collaborent depuis 2012 dans le cadre d’un laboratoire commun de recherche dont les travaux portent sur la thématique de l’Internet des Objets et la Cyber sécurité pour les systèmes électriques) et dans ce cadre, je co-dirige, avec Mathieu SCHUMANN, une thèse sur l’IA explicable dans le domaine de la « smart home » (maison intelligente).
 

Comment EDF se positionne en IA ?

EDF explore toutes les possibilités qu’offre l’IA pour l’ensemble de ses métiers.
Pour ce qui concerne la relation client, domaine sur lequel je travaille, il y a 2 types d’IA : 

1.  « L’aiguilleur » sous forme de BOT** qui assigne la bonne personne en fonction de la demande.
2. « Le téléconseiller augmenté », ici l’IA assiste le conseiller dans son travail en interaction avec le client, en lui donnant au bon moment et en temps réel les infos dont il a besoin pour répondre efficacement à ses demandes.

C’est l’IA qui assiste, conseille et recommande.

Chez EDF, nous utilisons aussi l’IA pour optimiser, généralement nous optimisons des processus non critiques (comme l’approvisionnement ou la maintenance). L’enjeu de demain est de rentrer dans les processus critiques (comme le fonctionnement d’une centrale de production électrique) …
 

Peut-on avoir confiance en l’IA ?

 La notion de confiance s’appuie sur plusieurs éléments :

• Il faut d’abord s’assurer que l’IA fasse bien ce pour quoi elle est faite ! Il faudrait une sorte de certification comme pour un Airbus ! C’est une condition sine qua non pour l’utiliser en toute sérénité.
• Le deuxième point, c’est d’avoir une certaine compréhension du fonctionnement de l’IA pour éviter toute surprise.

Enfin, l’IA doit être capable d’expliquer ses décisions et c’est là que la notion d’explicabilité intervient…
 

IA & explicabilité : pouvez-vous nous en dire plus ?

Quand une personne voit quelque chose qui ne correspond pas à ce qu’elle attendait, par exemple je n’ai pas la température demandée, la 1ère question qu’elle se pose est « pourquoi ça se passe comme cela ?». Un système intelligent doit être capable d’apporter des réponses soit à un professionnel, soit à un client ou un usager.
D’une part, pour le rassurer, d’autre part et en cas de problème, pour pouvoir le gérer efficacement, par exemple en lui suggérant une action. L’IA ne se contente pas d’analyser, mais d’agir avec le consentement éclairé de l’utilisateur car nous lui avons expliqué pourquoi. Nous passons ainsi d’une IA d’analyse et d’optimisation à une IA d’action.

L’explicabilité renvoie aux notions d’auditabilité et de gestion des risques. Nous allons vers plus de délégations d’actions, vers des systèmes autonomes. La crise sanitaire actuelle qui promeut les actions sans contact, à distance, renforce cette tendance.

Quels travaux sont menés au sein d’EDF sur ce thème ?

  L’explicabilité vient augmenter la confiance qui est un élément important et indispensable dans les processus critiques. Nous travaillons donc à intégrer plus d’IA dans les processus critiques comme la production d’énergie.
Et il y a également l’IA de confiance dans la maison.
Nous avons besoin de satisfaire les besoins de confort d’une famille ; confort mis en œuvre par des équipements qui s’adaptent aux différents contextes. Par ex : Ma belle-mère qui est frileuse arrive, il faut adapter le chauffage et monter la température.

Nous avons imaginé une IA capable de résoudre ces problèmes et qui est directement connectée aux équipements lourds en termes de valeur énergétique (comme la chaudière, la pompe à chaleur ou encore l’installation photovoltaïque). Ces équipements sont aussi ceux qui ont une haute valeur de confort pour le client, en fait cela correspond aux équipements critiques en production dans nos industries.
Physiquement, cette IA se logera dans le tableau électrique qui est le hub énergétique numérique de la maison.

Qu’est-ce qui est innovant dans cette offre ? Il existe déjà des Alexa ou encore Google Home ?

Effectivement avec Alexa ou Google Home, nous savons poser des questions et avoir des services, l’IA est déjà dans maison mais c’est une IA dans laquelle il y a peu de confiance. Aujourd’hui si nous voulons exister dans la maison, nous devons amener le conseiller et l’expert EDF dans chaque foyer comme un compagnon.
Ce compagnon, sorte de majordome numérique, est capable d’anticiper, de donner des conseils et d’agir. Il est au service des habitants, il est discret, silencieux et ne se manifeste que quand l’habitant a besoin de lui. Dans un premier temps, il sera capable de répondre à toutes les questions posées qui concernent son périmètre, c’est-à-dire l’énergie dans la maison.

Le client achète une tranquillité d’esprit et un fonctionnement sur mesure et au bon moment.
Si le client le souhaite, il est possible de déléguer à l’IA un pouvoir d’action. Plusieurs modes d’interventions sont possibles. Par exemple, il est possible de lui demander de résoudre le problème avant même qu’il n’arrive.

Où en êtes-vous de sa conception ?

Aujourd’hui, dans le cadre de la thèse sur l’IA explicable dans la smart home, nous défrichons le sujet de l’IA explicable et constituons un état de l’art. Nous commençons à émettre les premières hypothèses et à identifier des pistes.

Avez-vous quelques exemples de collaborations EDF / Start-up en IA ?

Nous commençons à regarder une entreprise régionale ADAGOS avec son produit Neureco2. Son IA est « embarquable » et consomme peu d’énergie, ce qui est important pour nous. Notre IA n’est pas dans le cloud mais dans le tableau, d’où l’intérêt de la solution.

Nous pensons aussi collaborer avec Métroscope, qui est aujourd’hui une filiale du Groupe EDF. Sa solution permet un diagnostic automatique et fiable d’une installation industrielle pour identifier, sans délai et avec une grande précision, un aléa affectant son process industriel et susceptible de générer une perte de production, une détérioration durable d’un composant, voire l’arrêt pur et simple de l’installation. Une innovation qui ne nécessite l’ajout d’aucun capteur supplémentaire.
 

Sur quels sujets les entreprises innovantes peuvent-elles collaborer avec EDF ?

Personnellement, j’aimerais bien travailler sur l’interaction naturelle et multimodale : geste, voix, image. Avoir une IA chez moi capable de dialoguer avec moi, de me comprendre et de savoir répondre à mes questions et agir de manière appropriée.

Selon vous, comment sera utilisée l’IA dans 5 ans ?

L’IA va se développer et prendre de plus en plus d’importance, d’abord dans les métiers et ensuite chez soi, l’enjeu est sur le modèle économique.
 
Les gens veulent du sur-mesure et chez eux, la pandémie liée à la COVID va accélérer cette tendance.
 
Nous allons passer d’un temps subi à un temps choisi pour faire des choses qui nous intéressent en délégant au maximum à des machines. C’est le sens de l’histoire !

Que pensez-vous des instituts d’intelligence artificielle créés partout en France ? Comment collaborez-vous avec eux ?

Ce qui est intéressant c’est le côté interdisciplinaire. L’IA l’est par nature, elle couvre tous les domaines et elle interagit avec les humains. Il est important de pouvoir faire travailler ensemble divers spécialistes (des sciences techniques aux sciences sociales…) sans oublier les experts métiers. Il faut que l’IA comprenne bien l’humain et réponde à des usages.
Aujourd’hui nous sommes partenaires d’ANITI, l'Institut Interdisciplinaire d'Intelligence Artificielle de Toulouse. Je suis notamment en lien avec un chercheur spécialiste de l’abduction sur des travaux dans le cadre de l’explicabilité, le processus cognitif par lequel il est tenté d’expliquer une situation donnée par un ensemble de causes.