L explication : une fonction

Transcription

1 L explication : une fonction importante des systèmes experts

2 Plan Des «Systèmes Experts Explicatifs» MYCIN : le concept de transparence Limites des Systèmes à Base de Règles Exemples de raisonnements explicatifs Conclusion

3 Des résolveurs de problèmes produisant des explications Système Expert Explicatif Système Module Expert d Explication Rôle du Module d Explication : «rendre compte» du raisonnement suivi iipar le Système Expert Pour cela, il exploite en donnée une «trace» du raisonnement Deux types d interlocuteurs sont à distinguer : L ingénieur de la connaissance L utilisateur final

4 Des explications destinées à l ingénieur de la connaissances Objectif : rendre explicite i la façon dont les connaissances sont interprétées Pourquoi le SE a t il (n a t il pas) conclu sur tel fait? Pourquoi / Commentle SEa a t il utilisé telle connaissance? Pourquoi le SE n a t il pas utilisé telle connaissance? L explication = une aide indispensable pour l acquisition et la mise au point de la Base de Connaissances

5 Des explications destinées à l utilisateur final Permettre de comprendre le raisonnement : Pourquoi le SE recommande t il telle thérapie? Comment le SE a t il établi son diagnostic? Convaincre du bien fondé des conclusions / du raisonnement : Le SE est il certain de son diagnostic? Peut il justifier sa conclusion? Peut il justifier son raisonnement? Pourquoi le SE n a t il pas pris telle décision? Enseigner la démarche de résolution de problèmes N y avait il pas plusieurs raisonnements possibles permettant d aboutir à la même conclusion? L explication = une faculté importante dont dépend l acceptation du logiciel auprès de l utilisateur

6 Exemple de dialogue explicatif DIAG = un SE «fictif» en diagnostic technique utilisé par des techniciens en milieu industriel. Technicien Quelles sont tes conclusions? DIAG La panne résulte d une défaillance du composant C26 Technicien Ton diagnostic est il certain? DIAG Les symptômes que vous m avez communiqués m ont fait penser à plusieurs diagnostics possibles. La plupart d entre eux ont pu être écartés, car peu probables compte tenu de la récence du matériel. Seuls deux diagnostics pouvaient être retenus. Celui que je viens de fournir me paraît le plus plausible. Technicien Pourquoi la panne ne viendrait elle pas du bloc moteur? DIAG Je n ai pas envisagé cette possibilité. Mais vous auriez dans ce cas des symptômes caractéristiques autres que ceux que vous m avez cités.

7 Second exemple de dialogue explicatif PEDAG = un SE «fictif» en résolution de problèmes de mathématiques, utilisé en milieu scolaire par des élèves Elève Quelle méthode as tu employée? PEDAG Il fallait remarquer que la fonction était impaire et utiliser les identités remarquables pour simplifier. Elève Pourquoi avoir simplifié l expression dès le début? PEDAG Pour la commodité des calculs. l Mais Mi on aurait très tè bien pu laisser l expression sous sa forme initiale.

8 Expliquer nécessite de mettre en œuvre de nombreuses connaissances Exemples de connaissances «explicatives» Des connaissances portant sur le domaine d application : Ex : pour justifier les connaissances de résolution de problèmes. Des connaissances portant sur l interlocuteur : Ex : pour ne pas lui réexpliquer quelque chose qu il connaît déjà. Des connaissances de rhétorique : Ex : est il nécessaire d argumenter sur le moment, ou bien attend on de savoir si l utilisateur a bien compris? Des connaissances de pédagogie : Ex : lorsque l élève demande à connaître la méthode de résolution, simplement lui indiquer la «clé» du raisonnement.

9 Architecture d un dun Système Expert Explicatif Système Expert Explicatif Système Expert Module d Explication Connaissances de Connaissances résolution de pb Explicatives Mécanismes Générateur d inférences d Explication

11 MYCIN : un premier Système Expert Explicatif 1976 : thèse de Davis > donne au résolveur de problèmes MYCIN des capacités d explication Les capacités d explication de MYCIN correspondent à des fonctionnalités de base que l on trouve associées à tout moteur de base de règles > L Arborescence de Déduction > Fonctionnement du Module d Explication > Discussion

12 L Arborescence de Déduction : une trace du raisonnement But Ri Rj Rk SButi1 SZButi2 Sbuti3 SButj1 SButj2 Sbutj3 SButk1 Sbutk2 Rl Rm SButl1 SButl2 SButl3 SButm1 SButm2

13 Architecture du SEE MYCIN Objectif du ME : «fournir au Système Expert une connaissance sur ses propres connaissances et la façon dont il les interprète» SEE : MYCIN Module d Explication Module SE de traitement Moduled aideà daide de lalanguelangue l acquisition des connaissances

14 Principesde conception dumoduled Explication d Davis : «Le module d explication doit permettre à l utilisateur d accéder au maximum de connaissances sur le résolveur de problèmes». Fonction = aide à l acquisition des connaissances et à la mise au point de la Base de Règles Utilisateur = Ingénieur de la Connaissance L utilisateur peut poser des questions : sur le contenu de la Base de Règles sur les décisions prises au cours d une résolution de problème : POURQUOI? / COMMENT?

15 Exemples de questions portant sur le contenu de la Base de Règles Utilisateurt Prescrivez vous parfois de la carbenicilline illi pour les infections par Pseudomonas? MYCIN Règles concernées : REGLE024, REGLE068 et REGLE138 Lesquelles désirez vous voir? Utilisateur MYCIN REGLE068 {imprime la règle} Utilisateurt Le chloramphenicol h l est il prescrit pour les infections par salmonelles?

16 Une question du type COMMENT? Utilisateur MYCIN Comment avez vous vous décidé que l identité la plus vraisemblable d organisme 1 était PSEUDOMONAS J ai utilisé REGLE163 pour conclure que l identité d ORGANISME 1 est PSEUDOMONAS. Ceci a donné un facteur de certitude cumulé de La dernière question posée avant que la conclusion soit tirée était la 26. J aiutilisé Jai REGLE084 pour conclure que l identité d ORGANISME 1 est PSEUDOMONAS. Ceci a donné un facteur de certitude cumulé de La dernière question posée avant que la conclusion soit tirée était la 24. J ai utilisé REGLE050 pour conclure que l identité d ORGANISME 1 est PSEUDOMONAS. Ceci a donné un facteur de certitude cumulé de La dernière question posée avant que la conclusion soit tirée était la 24. J ai utilisé REGLE040 pour conclure que l identité d ORGANISME 1 est PSEUDOMONAS. Ceci a donné un facteur de certitude cumulé de La dernière question posée avant que la conclusion soit tirée était la 21.

17 Une question du type POURQUOI? MYCIN 26) Jean Dupont (PATIENT 1) a t il subi une opération chirurgicale de GU ou une manipulation de l appareil urinaire (par exemple : pose d un cathéter, cystoscopie, etc.)? Utilisateur POURQUOI? MYCIN Je cherche à déterminer l identité d ORGANISME 1 Je sais déjà que : Le seuil d entrée dentrée de lorganisme l organisme est le GU supérieur La morphologie de l organisme est du type bâtonnet La coloration de l organisme est GRAM Le site de la culture est le sang Par conséquent, si : 1) Le patient n a pas subi de manipulation ou opération génito urinaire, et 2) Le patient n a pas été traité pour une infection de l appareil urinaire Alors : il existe une évidence suggestive (0.6) que l identité de l organisme soit E. COLI.

18 En bilan Le Module d Explication est indépendant d tdu domaine d application L explication du raisonnement se fait étape par étape La méthode d explication revient à une présentation telle quelle de la trace du raisonnement : méthode d explication = explication trace Concernant l adéquation de MYCIN à devenir un SEE : «Le raisonnement sous jacent, un enchaînement de modus ponens, est simple à comprendre» «d autant que les règles de production utilisent le vocabulaire de l expert»

19 Dialogue explicatif produit par un Système à Base de Règles courant Utilisateur Comment avez vous déduit le fait A? SBR J aiutilisé Jai Règle036 si B et C alors A qui m a permis de conclure sur A Utilisateur Et comment avez vous déduit le fait B?

20 Comment améliorer les capacités d explication d un SEE Système Expert texplicatif Système Module Expert d Explication vers des modèles vers la prise en de résolution de compte de véritables problèmes plus raisonnements déclaratifs explicatifs

22 Un exemple pour illustrer ces limites Contexte : On dispose d un générateur de Systèmes Experts à Base de Règles Domaine = entreprises Tâche = analyser la santé financière iè d une entreprise (diagnostic financier) Soit à représenter la connaissance suivante : Ratio rentabilité des capitaux = résultat net / capitaux permanents

23 Unerègle «compile» plusieursconnaissances rentabilité des capitaux = résultat net / capitaux permanents si le dividende augmente tandis que le diviseur reste stable alors le quotient augmente Les deux membres d une égalité ont même sens de variation RègleRentabilitéCapitaux Si CAPITAUX PERMANENTS STABLES ET RESULTAT NET AUGMENTE ALORS RENTABILITE DES CAPITAUX AUGMENTE

24 Conséquences sur le comportement explicatif du Système Expert SE Avons nous RESULTAT NET AUGMENTE? Utilisateur POUQUOI? SE Je sais déjà que : CAPITAUX PERMANENTS STABLES Donc, si je peux établir que : RESULTAT NET AUGMENTE J en déduirai que : RENTABILITE DES CAPITAUX AUGMENTE Utilisateur Oui, mais POURQUOI? SE?? Les connaissances compilées ne sont pas mobilisables pour justifier le raisonnement!!

25 Qu en est il des connaissances relevant de la démarche de diagnostic? Exemples de telles connaissances : «S enquérir des variables endogènes avant les variables exogènes» «Lors de la recherche des causes du déficit de l entreprise, privilégier l examen des causes structurelles» «Etablir le diagnostic avant de proposer p une thérapie»

26 Des connaissances représentées implicitement L ordre des conditions permet de représenter implicitement it t des connaissances de stratégie : REGLE SI : 1) Les stocks sont faibles 2) Le taux d utilisation des machines est 80% 3) La consommation des ménages connaît une relance ALORS : En conséquence le SE ne peut expliquer pourquoi il En conséquence, le SE ne peut expliquer pourquoi il s enquiert du niveau des stocks avant de l évolution de la consommation des ménages

27 Représentation explicite de la démarche de RP dans DIVA (CGE, Marcoussis, 1988) Etablir Reconnaissance de situations Raffiner Existence DIVA Abstraction de données Spécialisation Evaluation Acquisition des traits caractéristiques Evaluer la correspondance Evocation Vérifier les conditions Evaluer les attributs caractéristiques Vérifier les conditions de spécialisation Evaluer le pré requisrequis Choisir une méthode d évaluation Diagnostic...

28 Exemple de dialogue explicatif avec DIVA Utilisateur Pourquoime posez vous cette question (question 23)? DIVA Je suis en train d acquérir les traits caractéristiques de la situation Y. Je cherche à préciser le contexte du problème avant d élaborer un diagnostic. J ai Jai déjàétabliétabli la situation X et jecherche maintenant à la raffiner en Y. La première chose à faire lorsque l on envisage une situation, et avant de juger la correspondance, est de collecter les informations pertinentes dans ce contexte. Je vous pose cette question pour connaître la valeur de A. Ceci peut m aider à inférer la valeur de B qui est un trait caractéristique de la situation Y. Dans ce contexte, je m attends à la valeur V pour B.

30 Un exemple d explication négative produite par POURQUOI PAS (LRI, Orsay, 1987) Base de faits ouverture = cœur nb pique = 4 SE Conclusion nb cœur = 2 Annonce = pique nb carreau = 5 nb trèfle = 2 point honneur = 11

31 POURQUOI PAS est capable de résumer son raisonnement Pourquoi Annonce = pique? annonce = la majeure annonçable privilégier la majeure annonce p = carreau majeure annonçable pique annonçable pas couleur annonçable au même palier majeur annonçable palier 1 mineure annonçable palier 2 carreau annonçable ouverture <> trèfle point honneur 11 et la majeure annonçable = pique

32 Pourquoi pas Annonce = cœur? r1 r2 r3 a b c b d e b c f g r4 r5 r6 r7 r8 r9 h i j k i l m n o X X b (r1, r2, r3)

33 Pourquoi pas Annonce = cœur? Ouverture = cœur mais pour que Annonce = Ouverture plutôt que Annonce = La majeure il aurait fallu fll que : Soutien or la règle r77 qui affirme que Si : Ouverture majeure soutenable pas Changement de couleur pas Plutôt jeu de sans atout Alors : Soutien est invalide car : Nb cartes en soutien Minimum requis pour soutenir entraîne : pas Ouverture soutenable pas Ouverture majeure soutenable pas Soutien

34 Des explications tenant compte du modèle de l utilisateur APLUSIX (LRI, Orsay, 1990) Profil : (connu_rapproche bien) (connu_fac nb moyen) (connu_a 2 b 2 moyen) (connu_carré moyen) FACTORISER 1 3x 2 x (x 4) 48 rapprochement pour avoir 3x x 2 48 x (x 4) mise en facteur de 3 dans 3x (x 2 16) x (x 4) x 2 16 est une différence de 2 carrés 4 3 (x 4)(x + 4) x (x 4)

35 Des explications tenant compte du modèle de l utilisateur APLUSIX (LRI, Orsay, 1990) Profil : (connu_rapproche t bien) (connu_fac nb t bien) (connu_a 2 b 2 t bien) (connu_carré t bien) FACTORISER 1 3x 2 x (x 4) 48 factorisation de 3x (x 4)(x + 4) x (x 4)

37 Conclusion La représentation déclarative des connaissances confère aux logiciels des capacités à expliquer leurs raisonnements Les éléments de connaissances utilisés sont présentables Plus les modèles de raisonnement sont déclaratifs meilleures sont les capacités explicatives Seul ce qui explicite est explicable La modélisation de véritables raisonnements explicatifs est une nécessité Ceci entraîne la représentation de connaissances complémentaires