DETECTION DE CONVERGENCE EN VUE DE L OPTIMISATION D UN SYSTEME DE

Transcription

1 DETECTION DE CONVERGENCE EN VUE DE L OPTIMISATION D UN SYSTEME DE FILTRAGE ADAPTATIF TMAR Mohame mar@r.r TEBRI Ham ebr@r.r BOUGHANEM Moha boughae@r.r Aresse roessoelle IRIT-SIG - Uversé Paul Sabaer e Toulouse 8 roue e Narboe F-306 Toulouse Ceex 4 Tel: Résumé : U sysème e lrage aaa erme 'exrare à arr 'ue source yamque e ocumes les seuls ocumes ouva éresser u ulsaeur aya es ceres 'érês relaveme sables. Nous avos éveloé u sysème e lrage aaa basé sur le rce e reorceme our arere le rol e la srbuo e robablés es s es ocumes eres e o eres our aaer la oco e seullage. Ce arcle écr ce sysème e les exérmeaos eecuées our mesurer l ecacé e ore aroche. Mos-clés : lrage aaa Ulé seullage covergece srbuo e robablés. Absrac : A aave lerg sysem allows o exrac rom a sream o ocumes he oly ocumes beg able o eres a user havg relavely sable ceers o eress. We eveloe a moel o aave lerg sysem base o he rcle o reorceme o lear he role. The hreshol calbrao s erorme usg he robably srbuo wo samles o ocumes: a samle o releva ocumes a a samle o o-releva ocumes. Ths aer escrbes our sysem a he exermeaos carre ou o measure he eecveess o our aroach. Keywors : aave lerg Uly hreshol covergece robably srbuo.

2 Déeco e covergece e vue e l omsao u sysème e lrage aaa INTRODUCTION L avèeme Web coexe as lequel la recherche ormao es ue réoccuao cerale a réacualsé la roblémaque e la recherche ormao arculèreme as la maère accéer aux ormaos. E ee s avec u sysème e recherche ormao o accèe voloareme à es ormaos va es requêes ou ar avgao o assse auour hu e lus e lus à la rolérao e servces qu ramèe es ormaos à l ulsaeur. Le rocessus qu erme e sélecoer l ormao ésrée as ces los ormaos s aelle le lrage ormao. U sysème e lrage ormao erme à arr ue source yamque ormao Iere E-mal News e sélecoer e e réseer les seuls ocumes éressa u ulsaeur aya u cere érê relaveme sable aelé rol. Le lrage ormao es u rocessus ual à la recherche ormao [Belk & al. 99]. Cec rau qu u rocessus e recherche ormao eu smuler u rocessus e lrage ormao. Ceea la luar es sysèmes e lrage ormao so basés sur es moèles e recherche ormao. As les ocumes e les rols so reréseés ar es lses e mos oérés. L aareme ocume-rol cosse à mesurer ue smlaré. La écso qua à l acceao ou le ree u ocume es assurée ar ue oco e écso souve e ye seul. S le es suéreur au seul le ocume es acceé so l es reeé. Or e l absece e base e réérece la éermao e ce seul e les oéraos aéquaes assocées aux rols e aux ocumes so les roblèmes maeurs recorés as ce omae. E ee as u sysème e recherche ormao les echques e oérao e e reormulao auomaque e requêes basées sur la colleco e ocumes se so avérées ecaces or as u sysème e lrage ormao à l alsao u rocessus e lrage o e sose aucue coassace sur les ocumes à lrer our ouvor cosrure ue oco e écso our be oérer les rols e les ocumes eras. De lus l aaao es rols aux éres los ose u roblème oameal lé à l comléue ermaee es ormaos ermea e écrre exhausveme les rols. Les soluos roosées auour hu so les suvaes : ue soluo sychroe ou aaave les éres aceurs u sysème e lrage so éus à arr es ocumes lrés cumulés as le ems e les soluo asychroe ou érée les aceurs so éus à arr e collecos e ocumes exsaes. La soluo que ous roosos es sychroe les rols e la oco e écso so ars ue aço crémeale ea le lrage. La luar es sysèmes e lrage ormao acuels resece rès eu la oo crémealé car : ls ulse souve es bases eraîeme [Zha & al. 998][Roberso & al. 999]. Ces sysèmes se base sur les sasques es ermes e es ocumes as ces bases our esmer les valeurs e luseurs aramères e lrage or ces sasques so rès varables au cours u lrage e coues à l alsao u rocessus. De lus les ocumes ssus es bases eraîeme euve avor es caracérsques es ocumes rovea e la source les sasques ulsées as l eraîeme euve alors êre eu crébles ls eecue l aressage u rol e le seullage ue maère quas-érée [Kwok & al. 999][Hoash & al. 999]. E ee luseurs eecue l aressage u rol e/ou le seullage à chaque réceo e ocumes. Avec cee maère éroque e ocoeme le sysème er beaucou e qualés crémeales e e vers les sysèmes e lrage éré [Maloe & al. 987] luseurs ormaos so aros suosées coues ava le émarrage u lrage rooro e ocumes eres quelques ocumes eres eraîeme [Zha & al. 998] cec es as vra as le cas u lrage car le sysème émarre avec ue ormao sau le rol al e l ulsaeur. Le moèle que ous roosos our ore ar es ureme aaa e crémeal. Aucue ormao aure que le rol al es coue au émarrage u rocessus e lrage. Les sasques es ocumes e es

3 rols so acualsées au ur e à mesure que le sysème reço es ocumes. L aaao es rols e le seullage se o ue maère aaave e crémeale à chaque réceo u ocume ere. Nous roosos ue méhoe aaao u rol basée sur le rce e reorceme. Chaque os qu u ocume es sélecoé e ugé ere our u rol oé le sysème o aaer le rol e sore à moer sa reréseao. De lus ous roosos ue méhoe aaao u seul basée sur la srbuo es s u échallo e ocumes eres e o eres sélecoés. Das la remère seco ous réseos ore moèle e lrage. La secoe seco écr ore aroche aaao u rol e u seul. E ous réseos as la erère seco les exérmeaos e les résulas obeus. - MODELE DE BASE Le moèle e lrage que ous roosos es basé sur ue aroche vecorelle. Les ocumes e les rols so reréseés sous orme ue lse e ermes oérés. Le rocessus e lrage cosse à comarer le résula e la smlaré ocume-rol à u seul s le es suéreur au seul le ocume es sélecoé so l es reeé. Ce seul les rols e les caracérsques lées à la oérao es ermes es ocumes évolue à chaque arrvée u ocume... Reréseao es rols U rol es u esemble e ermes sas les mos ves. Il es reréseé sous ue orme vecorelle : Avec le os u ème erme as le rol à l sa 0. es crémeé à chaque arrvée u ocume e rerésee l sa où le sysème reço u ocume. Ialeme le os u erme as le rol es calculé comme su : 0 max Où es la réquece u erme oé auss as le rol. La ormule es à ror smle car au ébu u rocessus e lrage o e sose aucue ormao aure que le rol al. Ceea ce os sera ausé ar aressage au ur e à mesure les ocumes arrve... Reréseao es ocumes A chaque arrvée u ocume celu-c es exé ar u moule exao e Mercure [Boughaem 000]. Le résula e cee oérao es ue lse e ermes. Chaque erme u ocume es oéré e ulsa la ormule suvae : N log + 3 l h3 + h4. + l : le ocume reçu à l sa : réquece aaro u ème erme as le ocume h3 h4 : aramères cosa l : logueur ou ombre e ermes u ocume l : logueur moyee u ocume N : ombre e ocumes éà examés : ombre e ocumes coea le erme arm les ocumes éà examés. Les aramères l N e so ms à our à chaque arrvée u ocume..3. Processus e lrage e ocumes Le rocessus e lrage cosse à calculer u oé rsv ere le ocume e le rol. Ce es é ar le rou scalare ere le ocume e le rol : rsv * 4

4 Le calculé es esue comaré à u seul e lrage our écer s le ocume es acceé ou o : s alors le ocume es sélecoé so l es reeé. Le seul es ars à chaque arrvée u ocume ere. Le rocessus aaao u seul sera éallé c-essous. seul rsv - ADAPTATION DU PROFIL ET DU SEUIL.. Aressage u rol Le rocessus aressage u rol es aaa e crémeal. Il es eecué à chaque os u ocume es ugé comme éa ere ar l ulsaeur. Il erme e moer la reréseao u rol e l ulsaeur e ausa les os es ermes e aoua ou e élma les ermes u rol. Nous écrvos as les secos suvaes les éaes écessares our eecuer ce aressage.... Coceo u rocessus aressage L ée e base e ore rocessus aressage es basée sur le rce e reorceme [Suo & al. 998]. Qua u ocume es ugé ere l au ouvor rouver ue ouvelle reréseao u rol qu erme e rerouver le ocume avec u or. Aureme o sera ameé à amélorer le rol el que ou β rsv β es le ésré. Le roblème à résoure reve alors à chercher les qu saso l équao : 5 * β Toueos cee équao ame ue é e soluos alors ous roosos aouer ue corae our avor ue soluo uque. L érê as ous ça es e are ere le os e chaque erme vers so os éal. Le os éal correso au os u erme qu erme e scrmer l esemble es ocumes eres e celu es o eres. As s le os éal u erme es oé ar ue oco oée ar la ormule 9 e s le os as le rol es alors s r es ue cosae où res. rerésee le ombre e ocumes eres res. o eres coea le erme. Le sysème à résoure eve alors : r s r * β s r s 6 La soluo u sysème 6 es l esemble es os u rol qu erme e rerouver le ocume. Elle correso à es os rovsores qu vo erver as le calcul u os global u rol. So le ombre e ermes scs as le ocume à l sa e. Le sysème 6 eu êre réécr comme su : s r { }... 7

5 Où correso à l ex as le ocume u erme exé ar k as le rol. E k aoa le remer oérae e chaque équao e arès quelques rasormaos o obe our chaque erme so os rovsore qu es oé ar : β. r s. r s Cee valeur erme aecer à chaque erme u os éal e ea come e so morace as le ocume l esemble es ocumes eres e o eres e e le ésré u ocume β. Le chox e la oco ée e luseurs aramères la réquece aaro u erme as le ocume le ombre e ocume eres e o eres coea ce erme le ombre oal e ocumes eres sélecoés ec. Nous avos exérmeé ceraes ocos e avos oé sur ue oco érvée e la ormule e Roberso-Sarck Joes [Roberso & al. 976] : r S s r s.log + s + R r + Où R res. S rerésee le ombre e ocumes eres res. o eres sélecoés ar le sysème à l sa.... Mocao u rol L aaao u rol cosse à amélorer sa reréseao à chaque os u ocume ere es sélecoé ar le sysème. Das ore cas l aaao cosse à ulser les os rovsores our corbuer à l aressage es ermes as le rol. Nous ulsos la ormule e srbuo e grae suvae : r 8 s 9 k k + log + 0 Pour valer ces érees ormules es exérmeaos o éé eecuées sur ue base Reuers ssue e TREC -0. Cee echque aaao erme amélorer la reréseao u rol e e séarer les ocumes eres es ocumes o eres [Boughaem & al. 00]... Aaao u seul Das u coexe crémeal l aaao u rol eraîe auomaqueme ue varao à la hausse es ocumes es s. Par coséque l aaao u seul eve écessare our arrver à sélecoer le maxmum e ocumes eres e à reeer le maxmum e ocumes o eres. Pluseurs echques o éé evsagées e exérmeées our le seullage [Tmar 00]. L aroche que ous roosos as ce arcle es basée sur la srbuo es s es ocumes. Nous suosos que la srbuo es s es ocumes su ue cerae lo e robablé. E se basa sur cee lo ous ouvos écer s u ocume es ere ou o selo sa robablé e erece.... Prce e l aroche e l aaao u seul L aroche que ous roosos cosse à esmer our u échallo e ocumes sa srbuo e robablés scrèe. Grâce à ue echque e régresso léare ous rasormos cee srbuo e robablés scrèe e ue esé e robablés coue. Cec va ous ermere e chosr ue valeur u seul as u ervalle cou e s. Tex REreval Coerece : u rogramme évaluao es sysèmes e recherche e e lrage ormao

6 ... Moélsao es srbuos es s L aareme ocume-rol erme e ourr u oé our ce ocume. La robablé qu u ocume ré aléaoreme a u oé es ar éo égale au ombre e ocumes aya eu ce vsé ar le ombre e ocumes oal : X { rsv } {} Comme les valeurs es s so rès varées vor gure. elles o eace à êre équrobables { rsv } ou 0. La srbuo es s e alors à êre uorme vor gure.. E ee as u échallo l es rès eu robable e rouver eux ou luseurs ocumes aya exaceme le même. Fgure. : La srbuo es s es rès éarllée Fgure. : La srbuo uorme es as sgcave Pour oer ue srbuo e robablés lus sgcave ous roosos qu au leu e calculer la robablé qu u ocume a u ous calculos la robablé que le u ocume aaree à u ervalle. Nous chosssos es ervalles réus our que les s es ocumes aarea au même ervalle soe réelleme resque égaux. So le ombre es ces ervalles rayo où : [ ] I m rsv max rsv I I... I e même Le ombre ervalles es rooroel à la alle e l échallo car lus la alle e l échallo augmee lus le omae e éo es s es ocumes s élarg. Nous chosssos comme la moé e la alle e l échallo : { } 3 La robablé aareace u u ocume à u ervalle es ée ar : { ] + [ } < X < + 4 La srbuo es robablés ar ervalle e s es lus réalse. La gure 3 llusre la srbuo es robablés basée sur la ormule 4. Elle more que la srbuo es s es ocumes ame ue allure osssoee. {}

7 Fgure.3 : La srbuo es ossoee luô qu uorme Pluseurs méhoes so evsageables our esmer ue lo e robablé suve ar les s es ocumes : la régresso aramérque e l esmao ar le maxmum e vrasemblace [Saora 996]. L alcao e elles méhoes erme esmer les aramères qu ermee e ourr ue reréseao la lus able ossble celle qu asse le lus roche ossble ar ous les s. Das u coexe exérmeal ous soulgos quelques covées as l ulsao e ces méhoes : S o ame la orme e la oco à ror elle eu e as êre valable our es coos exérmeales arculères car les s es ocumes so aléaores O o soser u ombre mmum échallos e ocumes our avor es esmaos o basées La srbuo es s ée e la oco e oérao es ocumes. Pour aller ces roblèmes ous aoos ue méhoe ermea e vser l esace robablsé e luseurs ervalles els que la srbuo es s as chaque ervalle es léare. O alque la léarsao sur l esemble es robablés es ocumes eres e o eres a e éermer le seul e lrage...3. Léarsao e la srbuo e robablés La léarsao cosse à arcourr le omae e éo ue oco oée e e vser ce omae e ervalles els que la courbe reréseave e resrco e la oco sur chaque ervalle eu êre assmlée à ue courbe léare. Nous ulsos cee echque our léarser resecveme la courbe reréseave e la esé e robablés es s es ocumes eres e o eres. Le rocessus e éeco es ervalles léares cosse à chercher le maxmum e os aaces els que la courbe rela ces os es léare. Nous alquos la méhoe es mores carrés ulsée our la régresso léare [Saora 996] our éermer la léarsao u esemble e os. Le rce es e calculer à chaque os l écar quaraque ere les os cosérés e la courbe léare. S l erreur es éreure à u seul oé o aoue à la courbe le o suva e o vére la léaré e la ouvelle courbe so o élme ce o e ce esemble e o recherche u ouvel esemble e os à léarser. La gure.4 llusre u exemle e léarsao ossble. Le rocessus e léarsao es le suva :. c c es ce ue classe léare. P 3. seul_erreur our {0 -} es le ombre e os robablé a. P P {} b. Déermer l équao e la roe D c : y x a + b. x ar la régresso léare sur ous les os e cooroées < < P + c. Calculer l erreur reréseée ar l écar quaraque es os < < P e la roe : + E D c P D c a + b. a² + D c

8 . S E > seul_erreur. C m P max P a b avec c c c c c ac c y ac + bc. x < < + coeces e l équao e la roe e b so les ar la régresso léare sur ous les os e cooroées avec {} P. P {}. c c+ Ce rocessus erme seuleme e reréseer la srbuo e robablés es ocumes sous orme e luseurs segmes e roe. Ceea l es écessare e rasormer cee reréseao our ormer ue srbuo e robablés coue :. Premèreme l au reler les eux exrémés e chaque eux ervalles aaces. Cee laso s eecue comme su : our eux classes léares aacees Cc e Cc+ reler c e c+ ar ue roe y α c + β c. x. Cee o asser ar les os c ac + b c. c e c + ac+ + bc+. c+. So g la oco ée ar : g : [ 0 ] R ac + bc. x s c c x c x α + β so avec c c.x Pusque a c c. Deuxèmeme l au ormalser les coeces c b α e β c our que : 0 g x x 0 g x x rerésee la surace e l are ormée ar la reréseao grahque e g e l axe es abscsses l su e vser les coeces a c bc α c e β c ar cee valeur. L are es calculée comme la somme es ares e chaque surace ue classe léare. La gure 5 llusre ue léarsao eecuée sur l esemble es ocumes eres e o eres e la base Reuers as le cas u rol. Elle more que la léarsao es robablés e s e à avor ue allure exoeelle our les ocumes o eres e ue allure gaussee our les ocumes eres. I o Fgure.4 : léarsao e la srbuo e robablés Fgure. 5 : Desé e robablés es s es ocumes eres e o eres

9 ..4. Omsao e la oco e seullage La méhoe que ous roosos our chosr le melleur seul e lrage es basée sur l omsao ue oco ulé. Ue oco ulé erme e mesurer la erormace u sysème e lrage ormao. L omsao e la oco ulé cosse à éermer u seul e covergece c es-à-re à quel mome l e eve lus écessare e couer l aaao. Ce seul o oc ermere au sysème e sélecoer le maxmum e ocumes eres e élmer le maxmum e ocumes o eres. Le rce es le suva :. Dér u ervalle e seuls I o [ m max] gure. 5 où m e max rerésee resecveme la valeur mmale e maxmale es s es ocumes eres e o eres. Déecer la valeur u seul as l ervalle I o qu omse la oco ulé F :. F a. R + b. S + 5 Alors ore obec es e éermer le seul qu erme e maxmser héorqueme la oco F so : seul arg max F seuli o Où : a b : eux cosaes osves R + S + : ombre e ocumes eres o eres sélecoés Les valeurs e S éee évemme u chox u seul e so esmés ar : R + + * R r > seul * R + S + s > seul * S Où R e S rerésee le ombre oal e ocumes eres e ocumes o eres. Par alcao e la rasormao e la règle e Bayes ous obeos : > seul r * > seul R + * R r > seul s * > seul S + * S s Avec > seul r res. > seul s rerésee la robablé qu u ocume so sélecoé sacha qu l es ere res. o ere e elle es ée ar l are e la surace ormée ar la courbe e g corresoa à la esé e robablé es s es ocumes ere à arr u seul. 3 - EXPERIMENTATION ET RESULTATS Les exérmeaos que ous avos eecuées o éé réalsées sur ue colleco ssue e la comage TREC-0. Das ce aragrahe les exérmeaos so cocerées sur la erère base oure ar TREC : la base Reuers. Cee base es cosuée u esemble e ocumes e ocumes e orma XML exesble Marku Laguage. Les ess sur cee base ove orer sur 84 rols. Le bu e ces exérmeaos es e mere e valeur rcaleme la echque aaao u seul récée. L aaao u seul exloe receme les s es ocumes lrés lus les aramères e la oco ulé TU0 [Roberso & al. 000].As our chaque rol ous alquos l algorhme aaao crémeale u seul suva :. echallo P Φ u échallo e ocumes eres. echallo N Φ u échallo e ocumes o eres 0 3. seul 0 4. our chaque ocume a. calculer rsv b. s rsv > seul. s es ugé ere

10 5. évaluer : T 0U R+ S + A. R + + R + B. echallop { } C. Arere le rol D. Arere le seul e ulsa echallo P e. echallo N. So S + + S + Pour mesurer la erormace e ore méhoe e seullage ous avos ulsé les 5 rols e la base Reuers e avos comaré les valeurs ulé obeues à celles obeues ar les melleurs sysèmes aya arcé à TREC-0. Le ableau more que sur les rols o obe u résula melleur que ous les aures arcas e our la oalé es rols o obe u résula qu éasse la moyee es résulas es aures arcas. Prol Ulé obeue Ulé maxmale Ulé moyee Tableau : Résulas u seullage selo la srbuo es s es ocumes CONCLUSION Nous ous sommes éressés as ce arcle lus arculèreme au roblème aaao crémeale u rol e u seul e écso. L aaao es eecuée à chaque séleco u ocume ere. L aaao u rol es basée sur la oérao es ermes caas exras u ocume e arrvée. Pour chaque erme u os rovsore es calculée ar u sysème équaos sous coraes. Ce os rovsore corbue arelleme au os al e chaque erme as le rol e ulsa ue echque e srbuo e grae. L aaao u seul es basée sur ue echque robablse elle se base sur le srbuo es robablés es s es ocumes u échallo chos e ms à our couelleme à chaque arrvée u ocume. Des exérmeaos o éé réalsées sur ue Base Reuers ssue e TREC-0. Les résulas obeus more l ecacé e ore rocessus aaa ar raor aux aures sysèmes aya eecués es ess sur la même base. Nos uurs ravaux cocere l égrao e la echque e éeco e ouveaué ura le lrage. Aureme chaque os qu u ocume ere es sélecoé le sysème o éecer s le ocume es oreur e ouvelles ormaos ou o. As ore rocessus aaao u rol e u seul o agr e oco u ye ormao que le ocume coe.

11 REFERENCES [Belk & al. 99] N. J. Belk W. B. Cro. Iormao rereval a ormao lerg: Two ses o he same co?. CACM ages [Boughaem 000] M. Boughaem. Formalsao e séccao es sysèmes e recherche e e lrage 'ormao. HDR e l'uversé Paul Sabaer e Toulouse 000. [Boughaem & al. 00] M. Boughaem M. Tmar. Icremeal aave lerg: Prole learg a hreshol calbrao. Proceegs o ACM-SAC ages [Hoash & al. 999] K. Hoash K. Masumoo N. Ioue K. Hashmoo Exermes o he TREC-8 lerg rack. Proceegs o TREC [Kwok & al. 999] K. L. Kwok L. Gruel M. Cha. TREC-8 Ahoc query a lerg rack exermes usg PIRCS. Proceegs o TREC [Maloe & al. 987] T. W. Maloe K. R. Gra F. A. Turbak S. A. Brobs M. D. Cohe. Iellge ormao sharg sysems. CACM 305 ages [Roberso & al. 976] S. Roberso K. Sarck Joes. Relevace weghg o search erms. JASIS 73 ages [Roberso & al. 999] S. E. Roberso S. Walker. Oka-Keebow a TREC-8. Proceegs o TREC [Roberso & al. 000] S.E.Roberso H. Hull. The TREC-9 lerg rack al reor. TREC-P [Saora 996] G. Saora. Probablés aalyse es oées e sasques. éo Tech 996. [Suo & al. 998] R. S. Suo A. G. Baro. Reorceme learg: A rouco. MIT Press Cambrge MA 998. [Tmar 00] M. Tmar. Moèle auo-aaa e Flrage Iormao: Aressage crémeal u rol e e la oco e écso. Thèse e l Uversé Paul Sabaer e Toulouse 00. [Zha & al. 998] C. Zha P. Jase E. Soca N. Gro D. Evas. Threshol Calbrao Clar Aave Flerg. Proceegs o TREC-7 ages