«Ombudsman : comment évaluer l'intangible?»

Transcription

1 «Ombudsman : comment évaluer l'intangible?» Vingt-troisième colloque annuel De la SQEP Québec le 7 novembre 2014 Wilfried Affodégon Steve Jacob Eric Montigny.

2 after an initial period of prescription (i.e., when everyone would assure themselves it was good to have an ombudsman) followed by a time of description (i.e., what is the function and jurisdiction of the individual office) that it was time to make a serious commitment to evaluation (i.e., does the office deliver what was promised?). Anita Stuhmcke (2006, p. 25)

3 Plan Contexte Méthodologie Gestion de la performance Cadre de l évaluation Leçons apprises des évaluations Modèle intégré d évaluation des ombudsmans Conclusions

4 Contexte Bref aperçu sur l Ombudsman Naissance et boom de l ombudsman Typologie des ombudsmans: (i) secteurs d intervention, (ii) géographique, (iii) linguistique et (iv) mandat, juridiction et pouvoir Objectifs Faire une recension d écrits sur la problématique de l évaluation des organismes de médiation des droits des citoyens. Développer un modèle intégré d évaluation au contexte d intervention des ombudsmans.

5 MÉTHODOLOGIE

6 Sources de données et échantillonnage Revue systématique n = 114 articles, rapports, communications, chapitre de livre, guides n = 25 articles, rapports, communications, chapitres de livres, guides Instrument, données et analyse Grille de lecture Entrevues complémentaires n = 2 Méthodologie

7 GESTION DE LA PERFORMANCE DES OMBUDSMANS

8 Mission, rôles et objectifs de l Ombudsman Mission Défendre les droits des citoyens Objectifs Activités Outputs Outcomes Relever les insuffisances administratives Améliorer les services publics Réception des plaintes Investigation Formulation de recommandations Suivi des recommandations Sensibilisation Corriger les griefs individuels Revendiquer pour les fonctionnaires injustement accusés Rendre la bureaucratie plus humaine Réduire l aliénation populaire du gouvernement Impact Introduire des réformes administratives

9 Rôles et raisons d être de l évaluation Raison politique orenforcement ou affaiblissement de l institution Raison technique o Reddition de compte oamélioration de l institution oprise de décision par le titulaire et son équipe

10 Parties prenantes Autorités publiques Services publics Concurrents à l ombudsman Évaluateurs Opportunistes Ombudsman Autres ombudsmans Médias Légende : Intérêt direct Intérêt indirect Public Plaignants

11 Cadre d évaluation des ombudsmans

12 Évaluation axée sur la sociologie des plaintes (Danet, 1978) Caractéristiques o Encrage théorique de la sociologie des plaintes o Utilisation des données quantitatives issues des rapports o Dimensions à savoir : clientèle, administration publique et bureau du Protecteur du citoyen Forces o Clientèle, l administration publique et le bureau o Mesure l efficacité de l ombudsman o Mesure l efficience du personnel o Mesure l impact de l ombudsman o Utilise des données quantitatives o Indicateurs objectivement vérifiables o Faible coût de mise en œuvre Faiblesses o Utilise une seule source de données o Occulte les dimensions organisationnelles, administratives et politiques o Ne peut mesurer l efficience o Pas de seuil de mesure de performance o Utilise des données longitudinales o Difficulté de faire un devis expérimental ou quasi-expérimental

13 Évaluation axée sur les objectifs (Ayeni, 1993) Caractéristiques o Théorie de la gestion par objectif. o Dimensions: management administratif du titulaire, survie institutionnelle et considérations socio-politiques de l environnement. o Données qualitatives et quantitatives issues des rapports et sondage Forces o Management administratif, survie institutionnelle et caractéristiques socioéconomiques o Complémentaire au modèle d évaluation axée sur la sociologie des plaintes o Importance au contexte de déroulement des activités de l ombudsman o Méthodologie mixte d évaluation o Utilise plusieurs sources de données Faiblesses o Pas de seuil de mesure de la performance o Utilise des données longitudinales o Nature complexe des indicateurs o Coût élevé pour les sondages o Difficulté de faire un devis expérimental ou quasiexpérimental

14 Évaluation axée sur les résultats (Fowlie, 2008) Caractéristiques ogestion axée sur les résultats odimensions: pertinence, management, prestation et coût-efficacité des programmes odonnées quantitatives et qualitatives provenant de sondages, rapports et interviews avec des personnes ressources. Forces outilise plusieurs sources de données omesure du coût-efficacité des interventions de l ombudsman oflexibilité du modèle opeut utiliser un devis expérimental ou même quasi-expérimental Faiblesses oorientée sur des programmes spécifiques de l ombudsman on évalue pas l institution en tant que tel mais plutôt ses programmes ocoût élevé pour les sondages

15 Évaluation axée sur le benchmarking (ICANN Office of the Ombudsman, 2007; USOA, 2003) Caractéristiques omanagement de la qualité ostandards de performance: indépendance, impartialité, confidentialité, crédibilité outilisation des données qualitatives et quantitatives et sources de données (rapports et le sondage client). Forces ostandards clairement identifiés opossibilités de juger de la performance en fonction des standards outilisation des normes ISO et Faiblesses oorienté sur le processus oles indicateurs de mesure sont moins opérationnalisés ocoût élevé pour les sondages

16 Évaluation d impact (Stuhmcke, Anita, 2006) Caractéristiques oréformes administratives oimpacts directs outilisation des données qualitatives et quantitatives et sources de données (rapports, sondage et investigation systémique). Forces oorienté sur les impacts ofaible coût de mise en œuvre Faiblesses oincapable de mesurer les impacts indirects opas de seuil de mesure des impacts odifficulté de faire un devis expérimental ou même quasiexpérimental

17 LEÇONS APPRISES DES ÉVALUATIONS

18 La planification d évaluation Une évaluation rapide Identifier et définir les objectifs de l ombudsman. Clarifier le nombre des parties prenantes clés. Établir les besoins en information. Explorer les alternatives de mesure. L autoévaluation Rechercher les critères et les standards d évaluation. Identifier les inputs et les outputs du bureau. Cerner les qualifications, l indépendance, la crédibilité, l impartialité et la confidentialité.

19 Des obstacles à l évaluation Le rôle particulier de l ombudsman Absence de cadre de comparaison Le caractère informel de certaines investigations Un objectif lié au processus plutôt qu au résultat Une difficulté d accès aux données: confidentialité

20 MODÈLE INTÉGRÉ D ÉVALUATION DES OMBUDSMANS

21 Modèle intégré d évaluation des ombudsmans Motivation organisationnelle Histoire Mission Culture Environnement externe Administratif/juridique Politique Socioculturel Économique Performance organisationnelle Efficacité Efficience Pertinence Viabilité financière impact Capacité organisationnelle Gestion financière Gestion de programme Processus organisationnels Leadership stratégique Ressources humaines structure Adaptée du Modèle d Évaluation organisationnelle et institutionnelle (EOI) de Universalia et du Centre de recherche de développement international (CRDI)

22 CONCLUSIONS

23 CONCLUSIONS Measuring the performance of an ombudsman office has in many ways been the Holy Grail of ombudsmanship since It is not an easy thing to do. (Marin & Jones, 2011; p.192). Plusieurs approches d évaluation avec chacune ses forces et ses faiblesses Plusieurs acteurs intéressés par l évaluation Bonne planification suppose par exemple une auto évaluation ou une évaluation rapide Possibilité d utiliser un modèle intégré afin de prendre en compte tous les rôles de l Ombudsman

24 Place à la discussion...