GIND5439 Systèmes Intelligents. Chapitre 3: Incertitude dans les systèmes à base de règles

Transcription

1 GIND5439 Systèmes Intelligents Chaitre 3: Incertitude dans les systèmes à base de règles

2 Contenu du chaitre Sources d incertitude Statistiques Théorème de Bayes Facteurs d incertitude 2

3 Incertitude Pourquoi y a-t il de l incertitude dans les systèmes à base de règles? Raisonnement aroximatif Raisonnement inexacte Information disonible de l exert humain Incomlète Incertaine Inconsistante De l information comme celle-ci n est tyiquement as utilisable our résoudre des roblèmes. 3

4 Sources d incertitudes dans des SE Imlications faibles Associations vagues entre la artie IF et la artie THEN d une règle On doit être en mesure d inclure des facteurs de certitude our indiquer un degré de corrélation Langage imrécis Le langage naturel est arfois ambiguë et imrécis; ex: arfois, souvent, jamais Difficile alors d exrimer ceci comme des règles IF THEN La quantification de ces termes rend les systèmes exerts caables de comarer les antécédents aux faits dans la base de données. 4

5 Sources d incertitudes dans des SE Données inconnues Si certaines données ne sont as disonibles, on doit acceter la valeur «inconnue» et continuer le raisonnement. Oinions de différents exerts Les exerts n ont as toujours les mêmes conclusions Des conclusions contradictoires roduiront des règles contradictoires Il n y a as de méthode systématique our obtenir des oids aux décisions. 5

6 Incertitude dans les systèmes exerts Un système exert doit être caable de fonctionner avec de l incertitude, uisque les systèmes réels contiennent toujours des données incomlètes. Plusieurs méthodes existent our travailler avec des incertitudes. On considère ici les deux méthodes les lus oulaires: le raisonnement Bayésien et les facteurs de certitude. 6

7 Statistiques L utilisation de la théorie de robabilité ermet de déterminer la robabilité qu un évènement se roduise. Probabilité La chance qu un évènement se roduise Proortion de cas où un évènement se roduit Situations où la robabilité est aroriée Domaine aléatoire; ex: cartes Monde réel; imossible de mesurer toutes les causes et effets Excetions aux règles Bases de l arentissage 7

8 Théorie de robabilité On eut l exrimer mathématiquement comme un intervalle: Zéro: imossibilité absolue Un: certitude absolue La luart des évènement ont un indice de robabilité entre 1 et 0 Chaque évènement a au moins deux résultats : Succès ou échec 8

9 Théorie de robabilité succès = Nombre de succès Nombre total de résultats échec = Nombre d'échecs Nombre total de résultats s = = s s + f f = q = s f + f + q = 1 9

10 Théorie de robabilité: évènements déendants Soit A et B deux évènements A & B se roduisent conditionnellement à l occurrence de l autre La robabilité que A se roduise si B se roduit est aelée la robabilité conditionnelle AB : robabilité que A se roduise étant donné que B s est roduit A B = Nombre de fois que A et B se roduisent Nombre de fois que B se roduit 10

11 11 Théorie de robabilité: évènements déendants La robabilité que A et B se roduisent est aelée la robabilité conjointe, A B B B A B A I = A A B A B I = A A B A B = I A A B B A = I B A A B B A =

12 12 Théorie de robabilité: évènements déendants Règle de Bayes B A A B B A = B B A B A I = = = = n i i i n i i B B A B A 1 1 I 1 A B A n i i = = I

13 13 Théorie de robabilités Si la robabilité qu un événement A se roduise déend seulement de deux événements exclusifs B et B le symbole veut dire not, alors on eut écrire: B B A B B A A + = On utilise l équation récédente dans la règle de Bayes: A A B A A B A A B B A + =

14 Raisonnement Bayésien Selon un échantillon aléatoire d évènements, la théorie de Bayes suorte le calcul d évènements lus comlexes à artir de résultats connus. Exemle: dans une artie de cartes à 4 ersonnes, où les cartes sont réarties également, si je n ai as la Dame de Cœur, chaque ersonne a 1/3 chance de l avoir, et aussi 1/9 chance d avoir la dame et l as de cœur, si les deux évènements sont indéendants. Probabilité A & B = robabilité A x robabilité B, si A et B sont indéendants. 14

15 Raisonnement Bayésien Probabilité antérieure Ou robabilité inconditionnée d un évènement est la robabilité associée à un évènement en l absence de données suortant son occurrence ou absence. C est la robabilité d un évènement dans l absence d évidence: évènement. Probabilité ostérieure Ou robabilité conditionnelle d un évènement est la robabilité d un évènement étant donné quelque reuve: évènementreuve La robabilité antérieure d une ersonne ayant une maladie est le nombre de ersonnes ayant la maladie divisée ar le nombre total de ersonnes dans le domaine de calcul. 15

16 Raisonnement Bayésien La robabilité ostérieure d une ersonne ayant une maladie avec des symtômes s est: d s = d I s où indique le nombre d éléments dans le domaine; i.e., le nombre de ersonnes ayant la maladie d et des symtômes s divisé ar le nombre total de ersonnes ayant des symtômes. Selon Bayes, on calcule ds selon: s d s = d s s d 16

17 17 Raisonnement Bayésien Les chiffres à droite de l équation sont lus faciles à obtenir: Il est lus facile de déterminer le nombre de atients qui ont la méningite ayant des maux de têtes que de calculer le nombre de ersonnes ayant des maux de têtes qui ont aussi la méningite. Aussi, eu de chiffres sont nécessaires. On commence à avoir des roblèmes lorsqu il faut considérer des maladies multiles avec des symtômes multiles. Plusieurs robabilités sont requises. & & & & & & & & & n n n s s s d s s s d s s s d K K K =

18 Raisonnement Bayésien Dans lusieurs situations il faut aussi travailler avec des informations négatives; ex: lorsqu un atient n a as un symtôme. On a: as s = 1 s as d s = 1 d s 18

19 Raisonnement Bayésien On suose que toutes les règles dans une base de connaissances sont exrimées comme suit: Si E est VRAI alors H est VRAI {avec robabilité } Qu arrive-t il si l évènement E s est roduit mais on ne sait as si H s est roduit? Peut-on calculer une robabilité de H quand même? 19

20 20 Raisonnement Bayésien Au lieu d utiliser des évènements A et B, on utilise une hyothèse H et une reuve E: où HE est la robabilité que H est vrai étant donné E H est la robabilité globale que H est vrai EH est la robabilité d observer E quand H est vrai H est la robabilité globale que H est faux E H est la robabilité d observer E quand H est faux H H E H H E H H E E H + =

21 21 Théorème de Bayes H H E H H E H H E E H + = H est la robabilité antérieure que l hyothèse H soit vraie EH est la robabilité que l hyothèse H soit vraie résulte en des reuves E H est la robabilité antérieure que l hyothèse H soit fausse E H est la robabilité d obtenir des reuves E quand l hyothèse H est fausse

22 Exemle 1 Suosez les robabilités suivantes our le bris d un roduit selon le niveau de contamination: échec Niveau de contamination 0.1 Élevé 0.01 Moyen Faible Dans une asse, 20% des uces ont un niveau élevé de contamination, 30% un niveau moyen et 50% un niveau faible. Si une uce semiconducteur a un bris, quelle est la robabilité que la uce fut exosée à un niveau élevé de contamination? 22

23 Exemle 1 2 HF = FHH/F = /F F = FHH + FMM + FLL = = HF = / =

24 Exemle 2 Une rocédure médicale est très efficace quand à la détection de maladies. La robabilité qu un test identifie correctement la maladie est La robabilité qu un test identifie correctement quelqu un sans la maladie est Le taux d incidence de cette maladie dans la oulation est Tu rends le test et le résultat est ositif. Quelle est la robabilité que tu aies la maladie? 24

25 Exemle 2 2 Soit d l évènement d avoir la maladie Soit s l évènement que le test soit ositif. On cherche alors ds. La robabilité que le test détecte correctement que quelqu un n a as la maladie est 0.95; donc la robabilité d avoir un test ositif sans avoir la maladie est s d = 0.05 Du théorème de Bayes: ds = sdd/[sdd + s d d] = /[ =

26 Exemle 2 3 Est-ce que ce résultat fait du sens? On rerend le roblème sous une autre forme. Soit ersonnes; de ce groue, 100 ersonnes ont la maladie et ne l ont as. Du groue de 100 ersonnes qui ont la maladie, 99 ont eu un test ositif. Du groue de qui n ont as la maladie, ersonnes 5% auront un test ositif. Il y a donc 4 groues distincts ici: Personnes ayant la maladie ayant un test ositif Personnes ayant la maladie ayant un test négatif Personnes n ayant as la maladie ayant un test ositif Personnes n ayant as la maladie ayant un test négatif 26

27 Exemle 2 4 Poulation: 1 million Ayant la maladie 100 N ayant as la maladie Avant le test Test ositif 99 Test négatif 1 Test ositif Test négatif Arès le test 27

28 Exemle 2 5 Ce qui nous intéresse, c est le nombre total de ersonnes ayant un test ositif. Il y a = ayant un test ositif. De ce nombre, 99 ont la maladie. Alors, = ce qui est la même solution. 28

29 Hyothèse multiles Qu arrive-t il si un exert, ayant une seule reuve E, ne eut as choisir entre les hyothèses H 1 H n? Ou, si l exert a lusieurs reuves E 1 E n qui euvent roduire lusieurs hyothèses? 29

30 Théorème de Bayes Le théorème de Bayes ermet de calculer la robabilité d une hyothèse H i, étant donné une reuve articulière, étant donné seulement les robabilités dont cette reuve rovient de causes actuelles. E Hi Hi Hi E = n E H H k = 1 H i E est la robabilité que l hyothèse H soit vraie étant donné E H i est la robabilité globale que l hyothèse H soit vraie EH i est la robabilité d observer E quand l hyothèse H est vraie n est le nombre d hyothèses k k 30

31 31 Hyothèse multiles k n k i k i i i i n i H H E H E H H E H E E E E H = = L L K On suose une indéendance conditionnelle entre les différentes reuves.

32 Hyothèses multiles Comment un exert eut-il calculer et classifier toutes les hyothèses ossiblement vraies? Étant donnée les robabilités récédentes Déterminer les robabilités conditionnelles Calculer les robabilités ostérieures Classifier les robabilités ostérieures 32

33 Raisonnement Bayésien Il y a deux conditions majeures our le théorème de Bayes: Toutes les robabilités des relations entre les différentes reuves et hyothèses doivent être connues, ainsi que les relations robabilistes entres les différentes reuves. Toutes les relations entre les différentes hyothèses et reuves, EH k, doivent être indéendantes. Cette suosition d indéendance doit être justifiée, ce qui est arfois difficile à faire. La luart des systèmes exerts utilisent des heuristiques our augmenter le théorème de Bayes. 33

34 Méthode Bayésienne Nécessite des valeurs de robabilités comme entrée rimaire. Ces valeurs ont tyiquement une comosante humaine jugement d une ersonne. Les humains ne euvent as exliciter des robabilités de façon consistante avec les règles Bayésiennes. Parfois, les humains sont très mauvais à exliciter des robabilités. Les exerts dans des domaines ont du mal à exrimer des robabilités conditionnelles. Parfois, les exerts nient l existence de robabilités imlicites cachées. 34

35 Raisonnement Bayésien s 1 s 2 s 3 s 4 s 5 s n cause 1 cause 2 cause m Vue des symtômes et causes d un non-exert. 35

36 Raisonnement Bayésien s 1 s 2 s 3 s 4 s 5 s n I 1 I 2 I 3 cause 1 cause 2 cause m Vue d un exert. Les symtômes sont groués ensemble en états intermédiaires; rend l inférence lus facile. 36

37 Préjugés dans le raisonnement Bayésien L utilisation du raisonnement Bayésien nécessite des robabilités comme entrées rimaires. Le calcul de ces robabilité nécessite souvent un jugement humain. Ceendant, des recherches sychologiques ont démontré que les humains ne euvent as exliciter des robabilités de façon consistante ou le font très mal. Ceci veut dire que les robabilités conditionnelles calculées euvent être inconsistantes avec les robabilités données ar un exert. 37

38 Préjugés dans le raisonnement Bayésien Exemle: On considère une voiture qui ne démarre as et qui fait des bruits étranges quand on essaie de la démarrer. Notre exert nous dit que la robabilité que la cause est le démarreur comme suit: IF «symtôme est un bruit étrange» THEN «démarreur est fautif» {r 0.7} Donc, la robabilité que le démarreur n est as fautif si la voiture fait des bruits étranges est: démarreur as fautifbruits étranges = démarreur est bonbruits étranges = =

39 Préjugés dans le raisonnement Bayésien On eut donc écrire une nouvelle règle: IF «symtôme est un bruit étrange» THEN «démarreur est bon» {r 0.3} Les exerts ont souvent de la difficulté avec les robabilités cachées imlicites le 0.3 dans notre cas. Dans notre cas, on utilise des données statistiques our obtenir les règles. 39

40 Préjugés dans le raisonnement Bayésien Si les statistiques démontrent que: IF «démarreur est fautif» THEN «symtôme est bruits étranges» {r 0.85} IF «démarreur est fautif» THEN «symtôme n est as bruits étranges» {r 0.15} Pour utiliser le raisonnement Bayésien, il faut la robabilité antérieure, soit la robabilité que le démarreur est fautif si la voiture ne démarre as. On a besoin ici du jugement d un exert. Suosons que l exert fournit une valeur de 5%. 40

41 Préjugés dans le raisonnement Bayésien Calculons maintenant: démarreur fautif bruits étranges = = ce qui est significativement lus faible que ce que l exert avait donné au début. D où vient la différence? La raison la lus logique est que l exert a fait différentes suositions quand il a évalué les robabilités conditionnelles et antérieures

42 Préjugés dans le raisonnement Bayésien On eut essayer de trouver l erreur de l exert en faisant un raisonnement inverse. On commence de la robabilité ostérieur démarreur fautifbruits étranges jusqu à la robabilité antérieure, démarreur fautif. On eut dire démarreur ok = 1 démarreur fautif. 42

43 43 Préjugés dans le raisonnement Bayésien On eut réarranger our obtenir: Où H = démarreur fautif HE = démarreur fautif bruits étranges EH = bruits étranges démarreur fautif E H = bruits étranges démarreur ok 1 E H H E H E E H H E E H H + =

44 Préjugés dans le raisonnement Bayésien Avec les valeurs données, on trouve que H = 0.2, ce qui est 4 fois lus élevé que ce que l exert avait donné au début. Il faut donc faire attention quand on obtient des robabilités des exerts; il faut utiliser des données statistiques autant que ossible si elles sont disonibles. 44

45 Facteurs de certitude

46 Facteurs de certitude C est une alternative au raisonnement Bayésien. Ces facteurs furent introduits dans MYCIN Les exerts n exriment as toujours leurs connaissances en termes mathématiquement consistants ou logiques. Aucune donnée statistique n était disonible. C est une mesure de la certitude d un exert. Facteur de certitude cf. 46

47 Arguments contre les robabilités Nécessite beaucou de données Nécessite l énumération de toutes les ossibilités Cache certains détails de l incertitude Les humains estiment mal les robabilités Difficiles à utiliser 47

48 Facteur de certitude Les facteurs de certitude exriment une croyance à un évènement. Fait ou hyothèse Basé sur des reuves Évaluation d un exert C est un chiffre qui eut être utilisé our: Guider un raisonnement Rendre un but inatrayant et enlevé de l esace de recherche Classifier les hyothèses arès que toutes les reuves soient considérées. 48

49 Facteur de certitude La valeur maximale de certitude est +1.0 Définitivement vrai La valeur minimale de certitude est -1.0 Définitivement faux Une valeur ositive rerésente un degré de conviction. Une valeur négative rerésente un degré d incrédulité. Un cf de 0 indique une croyance neutre. 49

50 Facteur de certitude Terme Terme anglais Facteur de certitude Définitivement as Definately not -1.0 Presque jamais Almost certainly not -0.8 Probablement as Probably not -0.6 Peut-être as Maybe not -0.4 Inconnu Unknown -0.2 à +0.2 Peut-être Maybe +0.4 Probablement Probably +0.6 Presque certainement Almost certainly +0.8 Certainement Definitely

51 Facteur de certitude La base de connaissances est constituée de règles ayant la syntaxe suivante: IF «reuve» THEN «hyothèse» {cf} Où cf rerésente le niveau de croyance en l hyothèse H étant donné que la reuve E s est roduite. 51

52 Facteur de certitude La théorie des facteurs de certitude est basée sur deux fonctions: Mesure de croyance MBH,E Mesure d incrédulité MDH,E MB H, E = 1 max[ H E, H ] 1 H H si H = 1 autrement MD H, E = min[ H 1 E, H ] H H si H = 1 autrement 52

53 Facteur de certitude Les facteurs de certitude combinent la croyance et l incrédulité en un seul chiffre basé sur une reuve quelconque. L amlitude de la croyance ou incrédulité en H déend du tye de reuve E observée: cf = 1 MB H, E MD H, E min[ MB H, E, MD H, E] 53

54 Croyance Un cf ositif imlique que les reuves suortent l hyothèse uisque MB > MD. Un cf de 1 veut dire que les reuves suortent définitivement l hyothèse. Un cf de 0 indique qu il n y a soit aucune reuve de disonible ou qu on ne eut orter aucune conclusion. Un cf négatif imlique que les reuves favorisent la négation de l hyothèse uisque MB < MD. 54

55 Facteur de certitude On considère une règle simle: IF A est X THEN B est Y Un exert n est as toujours absolument certain qu une règle sera vraie. Suosons qu on a observé que dans certains cas, même si l antécédent est vrai, A rend la valeur de X, la conséquence est fausse et B rend une différente valeur Z: IF A est X THEN B est Y {cf 0.7} B est Z {cf 0.2} La somme ne doit as nécessairement être égale à 1; dans ce cas-ci, le 10% qui reste eut indiquer une valeur future qu on ne connaît as encore. 55

56 Facteur de certitude Un facteur assigné ar cette règle se roage à travers la chaîne de raisonnement. Ceci ermet d établir la certitude globale de la conséquence quand les reuves our l antécédent sont incertaines. 56

57 Facteur de certitude Il existe lusieurs règles our combiner les cf de lusieurs faits: cfx1 AND cfx2 = min[cfx1, cfx2] cfx1 OR cfx2 = max[cfx1, cfx2] Une règle eut aussi avoir un facteur de certitude, cfrègle: cfaction = cfcondition*cfrègle 57

58 Facteurs de certitude Si une règle a lusieurs antécédents conjonctifs: IF «évidence1» AND «évidence 2» AND «évidence n» THEN «hyothèse H» {cf} cf H, E I E2 ILI En = min[ cf E1, cf E2, K, cf E 1 n ] 58

59 Facteur de certitude Exemle: IF le ciel est clair AND révision est ensoleillé THEN orter des lunettes à soleil cf{0.8} cfciel est clair = 0.9 cfrévision est ensoleillé = 0.7 Le cf total est: cfaction = cfcondition*cfrègle = min[0.9,0.7]*0.8 = 0.56 On exlique le résultat en disant : «Il faudrait robablement orter des lunettes à soleil.» Un cf de 0.6 veut dire robablement 59

60 Facteurs de certitude Si une règle a lusieurs antécédents disjonctifs: IF «évidence1» OR «évidence 2» OR «évidence n» THEN «hyothèse H» {cf} cf H, E U E2 ULU En = max[ cf E1, cf E2, K, cf E 1 n ] 60

61 Facteur de certitude Exemle: IF le ciel est ennuagé OR révision est luie THEN emorter un araluie cf{0.9} cfciel est ennuagé = 0.6 cfrévision est luie = 0.8 Le cf total est: cfaction = cfcondition*cfrègle = max[0.6,0.8]*0.9 = 0.72 On exlique le résultat en disant : «Il faudrait resque certainement emorter un araluie.» Un cf de 0.8 veut dire resque certainement 61

62 Conséquence de règles multiles Suosons qu on a les règles suivantes: IF A est X THEN C est Z {cf 0.8} IF B est Y THEN C est Z {cf 0.6} Quelle certitude doit-on donner à C si les deux règles sont déclenchées? cf cf 1, cf 2 1 cf cf1 + cf2 cf1 + cf2 = 1 min[ cf1, cf cf1 + cf2 1 2 ] 1+ cf 1 si si si cf cf cf > < < et ou cf et cf cf > < <

63 Conséquence de règles multiles Exemle IF A est X THEN C est Z {cf 0.8} IF B est Y THEN C est Z {cf 0.6} cfe1 = cfe2 = 1.0 Quelle est la certitude de C si les 2 règles sont déclenchées? cf1h,e1 = cfe1*cf = 1.0*0.8 = 0.8 cf2h,e2 = cfe2*cf = 1.0*0.8 = 0.8 cfcf1,cf2 = cf1h,e1 + cf2h,e2*1 cf1h,e1 = *1 0.8 =

64 Facteurs de certitude C est une alternative ratique au raisonnement Bayésien La méthode heuristique de combiner des facteurs de certitude diffère de la façon dont elles seraient combinées si elles étaient des robabilités. Sans reuve mathématique Permet d imiter le rocessus mental humain 64

65 Facteurs de certitude: roblèmes Dans certains cas, les résultats déendent de l ordre dans lequel les reuves sont considérées. Peut nécessiter un raisonnement intensif Ne ermet as de cater la crédibilité dans certains cas Qu est-ce que ça veut dire en fait? Parfois interrété de façon robabiliste. 65

66 Comaraison Raisonnement Bayésien Suorté ar la théorie des robabilités Fonctionne bien dans les domaines tels que la révision et lanification Fonctionne bien lorsque des données statistiques sont disonibles Plusieurs systèmes exerts n ont as des données statistiques fiables La suosition d indéendance conditionnelle ne eut as être faite Donc, un certain mécontentement avec la méthode 66

67 Comaraison Facteurs de certitude N ont as de fondation mathématique solide Fonctionnent mieux que le raisonnement Bayésien dans des domaines de diagnostique, surtout en médecine Utilisé dans des cas où les robabilités ne sont as connues ou tro difficiles / coûteuses à obtenir Raisonnement basé sur les reuves Peut fonctionner avec des reuves acquises ar étaes Conjonction et disjonction d hyothèses Preuves avec différents degrés de croyance Donne une meilleure exlication du contrôle 67