Version classiqueVersion mobile
OpenEdition Books

Évaluer les politiques publiques pour améliorer l’action publique

 | 
Sylvie Trosa

L’évaluation complément de la revue de programmes et de la culture de résultats ?

L’Aventure du programme Sure Start : rôle de l’évaluation dans la mise en œuvre du programme de centres d’accueil des enfants*

Daniel Racher

Texte intégral

Introduction.

  • * Les opinions exprimées dans cet article sont celles de l’auteur et ne reflètent pas nécessairement (...)

1Cet article traite du rôle à la fois fort et positif de l’évaluation dans la mise en place des centres Sure Start d’accueil des enfants (SSCC), un nouveau service public universel accessible dans toute l’Angleterre. La création de ces centres a été effectuée en toute transparence vis-à vis de la population. Dans les développements qui suivent, je m’appliquerai à montrer de quelle manière l’évaluation a inspiré la définition de la politique gouvernementale et a joué un rôle déterminant dans la décision de créer des communautés d’apprentissage à l’échelon local, dont les effets se sont dans la pratique fait sentir au niveau de chaque centre Sure Start. La mise en place des centres Sure Start a été un processus partenarial, associant d’autres acteurs sociaux et locaux aux côtés des pouvoirs publics centraux.

2Après avoir tiré des conclusions sur l’expérience des premières années, l’article dégage, en s’appuyant sur un exemple, quelques enseignements importants. Il s’intéresse également à la manière dont l’évaluation peut influer sur la perception d’une politique par l’opinion et propose quelques conclusions. Le titre de cet article cherche à véhiculer l’idée que la création d’un centre Sure Start dans chaque communauté et la recherche de l’efficacité résultent nécessairement d’un cheminement progressif, suivant des processus guidés et aidés par une évaluation intelligemment pensée. L’article constate aussi que malgré les progrès indéniables réalisés ces dernières années, il reste encore de nombreuses difficultés à surmonter.

  • 1 On trouvera des informations sur l’exercice national d’évaluation du programme Sure Start (Nationa (...)

3À ce stade, il convient de signaler que l’on n’y trouvera pas de présentation ou d’analyse de la recherche sur les raisons de la création des centres Sure Start, pas plus qu’un examen détaillé de la méthodologie utilisée et des conclusions des évaluations. Pour cela, le lecteur est invité à se reporter à d’autres sources.1

I. PROGRAMME SURE START – ÉLÉMENTS DE CONTEXTE

4Décrivons à présent brièvement le contexte dans lequel le programme Sure Start a vu le jour. Ce programme procède d’une volonté de changement résultant de la prise en compte du fait que trop d’enfants et de familles vivant dans des zones défavorisées voient leurs conditions de vie dégradées par la pauvreté. De plus en plus d’indices montraient que la pauvreté, comme phénomène multidimensionnel (pauvreté monétaire mais aussi exclusion sociale), a toujours tendance à se transmettre de génération en génération. Les enfants issus de milieux défavorisés sont davantage exposés au risque d’extrême pauvreté et de perspectives très restreintes d’avenir professionnel et, pour bon nombre d’entre eux, cette situation de dénuement sous toutes ses formes bride leurs ambitions.

5Face à cette situation, le gouvernement a entrepris, en 1997, un état des lieux systématique des services proposés aux enfants et aux jeunes, en tenant compte des enseignements de programmes internationaux comme les programmes américains Head Start et Perry (programme d’accueil préscolaire) ainsi que de certains programmes en cours d’expérimentation au Royaume-Uni.

6Cet exercice a confirmé les effets dévastateurs de la pauvreté lorsqu’elle est multidimensionnelle et se perpétue de génération en génération et a permis de dégager les conclusions suivantes.

7La qualité des services proposés aux jeunes enfants et à leurs familles varie considérablement d’une localité et d’un district à l’autre. Dans de nombreux cas, l’absence de coordination et le manque d’uniformité des services sont la norme.

8La désorganisation des services est particulièrement patente pour les moins de quatre ans, tranche d’âge négligée jusqu’en 1997.

9Au terme de cet état des lieux, un programme expérimental et à ancrage local baptisé Sure Start a été mis en place. Il s’agissait d’améliorer la protection sanitaire et le bien-être des enfants de 0 à 4 ans ainsi que ceux de leur famille dans les zones les plus défavorisées. L’un des objectifs principaux de ces programmes locaux (SSLP) était, par le biais d’une amélioration des services proposés dans les zones bénéficiaires, d’améliorer les conditions de vie des enfants et de leur famille. En effet, selon la « théorie du changement » qui sous-tend la création des centres Sure Start, l’optimisation de l’action administrative et l’engagement de la communauté locale ne peuvent qu’entraîner une amélioration des conditions de vie des enfants et des familles.

10De par sa nature et sa cible, le programme Sure Start a révolutionné la philosophie de l’action administrative et ce, pour plusieurs raisons.

11Le programme a pour objectif explicite de lutter contre la pauvreté et se propose de le faire en invitant les parents et les acteurs locaux à participer à la conception de services administratifs coordonnés, bâtis autour des besoins locaux.

12Le programme s’attache, et c’est là une véritable innovation, à intervenir en amont afin de prévenir l’apparition des problèmes pour éviter d’avoir à intervenir en situation de crise, en réaction à l’événement.

13Les services du programme s’adressent à tous au sein d’une zone donnée, évitant ainsi les risques de stigmatisation.

14Les modalités de prestation sont, elles aussi, innovantes. Les localités dans lesquelles le programme est déployé jouissent d’une grande autonomie. Il ne s’agit pas de suivre un modèle imposé mais de proposer une palette de services prédéfinis aux collectivités locales. Tous les programmes Sure Start, dans leurs différentes déclinaisons locales, proposent un socle commun de services de bonne qualité, qu’il s’agisse de services récréatifs, éducatifs et sanitaires ou d’aide aux familles, d’actions de proximité, de visite des foyers et d’assistance à ceux présentant des besoins particuliers, mais dans tous les cas les services sont adaptés aux besoins locaux.

15Les modalités de prestation des services proposés dans le cadre des programmes Sure Start locaux sont différentes de celles valables pour les autres services locaux relevant de la responsabilité des collectivités territoriales, par exemple : les programmes Sure Start sont pilotés par des partenariats locaux entre milieux associatifs et acteurs locaux, acteurs de la santé, services sociaux de l’État, services éducatifs et parents.

II. VERS UN SERVICE UNIVERSEL

16Sure Start a commencé à une échelle modeste, avec dans un premier temps 59 programmes déployés à titre explicitement expérimental dans des zones ciblées et pour une durée prévisionnelle de trois ans. En 1999, l’objectif fixé était de 250 programmes locaux à l’horizon mars 2002. Cependant, au vu de l’intérêt suscité par l’expérience, l’expansion de Sure Start fut décidée en 2000 de sorte qu’à la fin 2003, les programmes locaux étaient au nombre de 524. Parallèlement à cette montée en puissance, la durée de vie du programme fut portée à dix ans, l’idée étant que les enseignements tirés au cours de cette période seraient pleinement intégrés.

17Il y avait une telle demande de services en faveur de la petite enfance que les programmes locaux Sure Start n’étaient qu’une expérience parmi d’autres. Le programme Early Excellence Centres en particulier, mis en place en 1997, se voulait un modèle de pratiques exemplaires en matière d’offre de services intégrés aux jeunes enfants et aux familles. Du reste, les services qu’il proposait dans le cadre d’un guichet unique (services éducatifs et d’accueil pour les jeunes enfants, mais aussi services et moyens à destination des parents, des assistantes maternelles, des familles et, plus largement, de l’environnement local), que ce soit directement ou en partenariat, étaient de haute qualité.

18Parallèlement, pendant cette période, des études étaient menées sur l’impact d’une scolarisation précoce. Ainsi, le projet EPPE (Effective Provision of Pre-School Education)2 a examiné les effets d’une scolarisation des enfants de trois et quatre ans sur leur développement aux âges clés de la vie. Il a été constaté qu’une scolarisation précoce, à partir de deux ans, dans des établissements éducatifs de qualité peut améliorer le devenir des enfants sur le double plan éducatif et social. Le projet a également montré que cette amélioration peut potentiellement concerner tous les enfants, ceux issus de milieux défavorisés « rattrapant » en quelque sorte leurs pairs. Parmi les autres conclusions du projet, il y a lieu de signaler celle tendant à montrer qu’une préscolarisation de qualité a des effets positifs sur tous les aspects du développement des enfants, et plus particulièrement des enfants issus de milieux défavorisés. Les effets positifs sont plus marqués pour les centres intégrés proposant tout à la fois préscolarisation, services de santé et aide aux familles. L’objectif du programme Sure Start étant de lutter contre la pauvreté, ce constat s’est révélé particulièrement important.

19On voit donc qu’un certain nombre d’initiatives et d’études ont été entreprises à la fin des années 1990 et au début des années 2000. En 2003, le gouvernement a lancé une étude sur les structures d’accueil des jeunes enfants et la création des centres Sure Start s’est largement appuyée sur les enseignements et les faits dégagés à cette occasion. Il existe une certaine symétrie dans le sens où ces centres se caractérisent par une ambition de qualité et d’intégration des services proposés, laquelle ambition résulte à son tour des enseignements tirés de diverses initiatives : utilité d’associer scolarisation précoce de qualité et accueil à la journée (projet EPPE), rôle central de la famille et de la communauté locale (Early Excellence Centres), mise à contribution de la collectivité et des parents (programmes locaux Sure Start).

20S’appuyant sur les enseignements tirés des programmes locaux Sure Start et d’autres initiatives, le gouvernement a, en 2004, à l’occasion de la présentation de son programme décennal pour l’accueil des jeunes enfants (Ten Year Childcare Strategy3) annoncé un objectif de 3 500 centres Sure Start à l’horizon 2010, soit un par communauté. On évolue ainsi vers un programme de centres Sure Start d’accueil à l’enfance de portée nationale, proposant à tous les enfants de moins de cinq ans et à leur famille un service identique. Le programme Sure Start est un élément central de la politique gouvernementale d’universalisme progressif, c’est-à-dire d’offre de services publics à tous mais avec un renforcement progressif du soutien à ceux qui en ont le plus besoin. Les centres d’accueil Sure Start n’évoluent pas seulement vers un service universel. On assiste également à une évolution des modalités de fourniture des services, car à la différence des programmes initiaux Sure Start les centres locaux du même nom sont placés sous la responsabilité des autorités locales. Nous reviendrons sur cet aspect dans la suite de cet article.

21Cette reconfiguration totale de Sure Start a ouvert de nombreuses perspectives mais n’en comporte pas moins de sérieuses difficultés. Comment créer des centres totalement opérationnels sur l’ensemble du territoire en un laps de temps aussi court ? Comment intégrer à des services tout juste créés un dispositif d’amélioration continue ? Comment répondre à des demandes évolutives dans des contextes locaux différents ? Il a fallu trouver une réponse à toutes ces questions au moment même où le programme antérieur, représentant en quelque sorte les « fondations » des programmes locaux Sure Start, était en train d’être évalué. Nous analyserons ces difficultés.

III. PROGRAMME D’ÉVALUATION NESS – ÉLÉMENTS DE CONTEXTE

  • 4 On trouvera des informations sur la composition de l’équipe d’évaluateurs et sur les évaluateurs e (...)

22Le programme national d’évaluation de Sure Start (National Evaluation of Sure Start, NESS) a été mis en place début 2001, pour une durée prévisionnelle de sept ans. Par cette initiative, le ministère de l’Éducation et de la Formation de l’époque (devenu le ministère de l’Enfance, de l’École et de la Famille ou DCSF) montrait clairement sa volonté de faire en sorte que le programme Sure Start s’appuie sur des études détaillées, sérieuses et indépendantes. Bien sûr, une évaluation sérieuse était également nécessaire pour convaincre l’administration, en lui fournissant des « preuves », que l’accent mis précocement sur la prévention, associé à des investissements spécifiques, était susceptible d’avoir un impact positif sur le devenir des enfants, sans parler du bon rapport coût-efficacité à terme. Ainsi, l’investissement initial s’en trouverait-il justifié. Quoi qu’il en soit, il est indéniable que les interventions et les programmes, aussi prometteurs et innovants soient-ils, nécessitent une évaluation des plus rigoureuses et cela était assurément le cas pour le programme Sure Start, en pleine montée en puissance. L’évaluation du programme a été effectuée par le collège Birkbeck de l’Université de Londres, sous la direction des professeurs Ted Melhuish et Jay Belsky, et a fait intervenir une équipe importante et multidisciplinaire.4

23Cet exercice d’évaluation, dont l’objectif était d’éclairer les pouvoirs publics sur « quelles solutions pour quels enfants, quelles familles et dans quel environnement local », était guidé par trois grandes questions. Les services rendus ont-ils été changés ? La qualité de ces services s’en est-elle trouvée améliorée ? Les enfants, les familles et la collectivité en retirent-ils un bénéfice ? Bien sûr, au vu de la complexité et de l’ampleur du programme, les évaluateurs ont utilisé diverses stratégies pour aborder ces questions. Ainsi, ils ont étudié l’impact, la mise en œuvre et les variantes du programme et analysé les rapports sur des thèmes intéressant le programme, comme la violence domestique, les actions de proximité et l’aide effective apportée aux parents. Deux caractéristiques du programme NESS méritent d’être signalées. Premièrement, l’exercice prévoyait la fourniture régulière d’informations et de comptes rendus afin d’apporter des aménagements au programme Sure Start en cours de redéploiement. Deuxièmement, sans nier l’importance de l’impact à long terme des services (du reste, l’exercice intégrait un suivi longitudinal des enfants), ne compter que sur des évaluations très espacées n’aurait été que de peu d’utilité. Au lieu de cela, l’évaluation a été concomitante et continue, accompagnant l’évolution du programme Sure Start.

24À ce jour, 26 rapports ont été publiés, tous accessibles sur le site internet http://www.ness.bbk.ac.uk.

IV. RAPPORTS D’ÉVALUATION

25Si le présent article n’a pas pour objet de commenter en détail les conclusions de l’évaluation, la prise de connaissance de deux rapports est essentielle pour comprendre les développements qui suivent. Il s’agit des rapports 2005 et 2008 publiés à l’issue de l’évaluation de l’impact de Sure Start sur les enfants et les familles et leurs conclusions sont très différentes.

  • 5 NESS. Early Impacts of SSLPs on Children and Families, novembre 2005.

26L’évaluation a porté sur 8 000 enfants (à 9 mois et 3 ans) et familles vivant dans des zones bénéficiaires du programme Sure Start. Ces enfants ont été comparés à un groupe témoin ne bénéficiant pas du programme et les conclusions de l’étude d’impact ont été publiées en 2005 dans le rapport intitulé Early Impacts of SSLPs on Children and Families5.

27Si l’étude de 2005 a conclu à certains bénéfices pour ceux qui vivent dans une zone bénéficiaire du programme Sure Start, l’évaluation a également mis au jour certaines conséquences négatives. Ainsi, les enfants les plus défavorisés (ayant de très jeunes parents, élevés par un seul parent ou vivant dans des ménages sans emploi) s’en sortent moins bien dans les zones bénéficiant du programme Sure Start en matière de langage et de compétence sociale.

28Les différents effets observés ont montré que parmi les familles défavorisées vivant dans des zones touchées par la pauvreté et bénéficiaires à ce titre des programmes locaux Sure Start, celles mieux dotées en capital humain retiraient des services et ressources des programmes davantage de bénéfices que d’autres moins bien pourvues (parents très jeunes, familles monoparentales ou encore ménages sans emploi). De manière intéressante, cette observation a été immédiatement relevée et rapidement, on a reproché au programme Sure Start non seulement de ne pas permettre d’améliorer le sort des plus défavorisés (ce qui était après tout sa raison d’être) mais, plus grave, d’avoir un impact négatif sur certaines des catégories les plus défavorisées. Il convient de noter que ces résultats n’étaient pas une première. L’évaluation du programme Early Head Start aux États-Unis, par exemple, avait aussi montré qu’intervenir apporte des bénéfices plus grands aux catégories moyennement défavorisées qu’aux catégories les plus sévèrement touchées.

29L’évaluation NESS est en partie une évaluation longitudinale et le rapport de suivi de 2008 était attendu avec impatience et aussi une certaine appréhension. L’évaluation portait sur des enfants de 3 ans, auparavant étudiés à 9 mois. On espérait des résultats plus positifs dans la mesure où les services avaient entre-temps gagné en maturité et où les enfants avaient bénéficié plus longtemps desdits services. Là encore, les conclusions ont été comparées à celles faites pour un groupe témoin. Le rapport d’impact des programmes locaux Sure Start sur le développement infantile et sur le fonctionnement familial (The Impact Of Sure Start Local Programmes On Child Development And Family Functioning6) a été publié en mars 2008. Pour les enfants de trois ans sur lesquels portait l’étude et pour leur famille, il a été constaté que les programmes locaux Sure Start avaient eu une incidence sur cinq, voire sept des critères étudiés7, soit un bien meilleur résultat que lors de la précédente étude longitudinale de 2005. En outre, ces conclusions valaient pour tous les segments de population et sous-groupes démographiques et il n’avait été constaté aucun impact négatif pour les programmes locaux Sure Start. Si le rapport se gardait d’exagérer les impacts positifs, il n’en allait pas moins à l’encontre des conclusions du rapport d’impact précédent en livrant un message dépourvu d’ambiguïté : le programme Sure Start n’était pas un échec.

30Le rapport cite comme explications plausibles à cette divergence de conclusions et à ces résultats plus positifs, d’une part la mise en œuvre plus longue des programmes locaux et, d’autre part, l’amélioration continue de ces derniers par la prise en compte des données de l’expérience.

V. L’IMPACT DE L’ÉVALUATION SUR LES PRESTATIONS DU PROGRAMME SURE START

31Arrêtons-nous maintenant sur le rôle que l’évaluation a joué dans l’élaboration du projet Sure Start, de différents points de vue : changements apportés par les responsables politiques au niveau central et amélioration des pratiques au niveau local.

  • 8 Variation in SSLP Effectiveness : Early Preliminary Findings, NESS, novembre 2005 ; Research Repor (...)

32Au niveau central, l’élaboration du programme Sure Start s’est largement appuyée sur l’évaluation. L’évaluation a joué un rôle important lors du passage des programmes locaux, fonctionnant dans un cadre prédéfini et de manière très autonome, à une opération plus ciblée mais d’envergure nationale avec la mise en place des centres locaux. Peu après l’étude d’impact 2005, le NESS a publié un autre rapport, Variation in SSLP Effectiveness – Early Preliminary Findings8 (Les SSLP : une efficacité variable – conclusions préliminaires). Si la première avait attiré l’attention des médias, on pourrait avancer que la seconde évaluation a eu un impact plus profond et durable sur le programme (même si les commentaires des médias ne le laissaient pas présager). Le rapport a pris la mesure des compétences et étudié les caractéristiques des programmes qui, dans l’étude d’impact 2005, obtenaient de bons résultats, comparés à ceux qui n’en obtenaient pas. Cela a permis de tirer des enseignements en matière d’efficacité des SSLP.

33L’une des conclusions les plus marquantes de ces documents, est que, si l’interaction entre le programme et les communautés visées était excellente, le type et le niveau de prestations variaient considérablement d’un lieu à l’autre. En résumé, le niveau de prestations était inégal. Ce problème récurrent met en évidence la difficulté qu’il y a à renforcer les prestations et l’innovation au niveau local tout en assurant un niveau de prestations homogène sur le territoire et un rapport qualité/prix satisfaisant. Autrement dit, il s’agit de la difficulté de mettre en adéquation les pratiques locales et la définition des prestations au niveau central.

34Cette conclusion s’est en outre appuyée sur deux éléments majeurs, directement liés au passage des programmes locaux à la mise en place des centres.

35Des partenariats locaux offrent des possibilités en termes de créativité et d’engagement communautaire, mais la capacité de ces partenariats à engendrer des changements durables varie considérablement. Le nombre de centres devant s’accroître très substantiellement, il devenait nécessaire de développer de nouvelles compétences permettant d’assurer un niveau de prestation suffisant et de qualité dans tous les centres et pas seulement dans des lieux expérimentaux. En conséquence, les centres devaient devenir part entière des services publics locaux, explicitement sous l’égide et le contrôle des autorités locales.

36Certains centres avaient des programmes de prestations innovants et efficaces, mais ce n’était pas le cas partout. Les SSCC ont progressivement abandonné une flexibilité locale considérable et le gouvernement a créé un « cœur de services » disponible a minima dans chaque centre, auquel il a assuré une large publicité.

37Les prestations des centres peuvent varier d’un centre à l’autre, mais doivent inclure a minima :

  • l’accès à une préscolarisation et une garde d’enfants intégrées, tous les centres offrant des services à la petite enfance emploient au minimum un professeur qualifié à mi-temps (et à temps plein dans les 18 mois après l’ouverture du centre) ;
  • un soutien aux parents, notamment des conseils éducatifs, des solutions locales de garde d’enfants et un accès aux services familiaux spécialisés ;
  • des services de santé à destination des enfants et des familles, par exemple : bilan de santé, visites sanitaires à domicile et soutien pour l’allaitement maternel ;
  • une aide à la recherche d’emploi pour les parents, au moyen d’échanges avec le Jobcentre Plus local (service local de recherche d’emploi) et de formations.

38Ce cœur de services, disponible dans chaque centre, est largement inspiré des bonnes pratiques repérées par la première vague d’évaluations, la preuve par l’exemple faisant une grande différence dans l’amélioration des résultats pour les enfants. En caricaturant, on pourrait voir cela comme de l’étatisme, mais il s’agit plutôt d’un exemple d’initiative prise par le gouvernement pour montrer la voie vers une amélioration de la prestation de services.

39Les évaluations constituent autant de défis à relever pour les gouvernements, mais peuvent également apporter des solutions. Le défi consiste à assumer une responsabilité politique et à tenir compte des conclusions des évaluations, pour apporter les changements en vue d’améliorer directement la vie des enfants et des familles. Une évaluation qui n’engendre pas d’action en retour constitue un gâchis et un détournement de sa raison d’être. L’occasion est ainsi donnée à l’État d’être dans une position unique lui permettant d’avoir une vue d’ensemble sur toutes les initiatives et les faits locaux, et d’être alors capable de déterminer ce qui fonctionne et ne fonctionne pas. Étant donné qu’il est difficile de réguler et de tirer vers le haut la qualité des services par une décision nationale, c’est invariablement du niveau local qu’émanent les innovations et bonnes pratiques à la base des améliorations.

40Au niveau local, la question se pose de savoir comment l’évaluation a été utilisée pour participer à la mise en place des communautés d’apprentissage. Pour montrer que la question revêt une importance toute particulière, le DCSF (ministère de l’Enfance, de l’École et de la Famille) a publié en mars 2008 un document intitulé The Sure Start Journey : A summary of Evidence9 (Le parcours de Sure Start : résumé des faits). Introduite par le secrétaire d’État à l’Enfance et à la Famille, Beverley Hughes, la publication affirme que l’évaluation peut et doit avoir un rôle constructif dans l’orientation des pratiques. Elle reprend les conclusions des évaluations et d’autres rapports clés, et les présente sous un format simple et facile d’emploi ; son but est d’aider les administrations locales et les directeurs de centres à s’appuyer sur des données rigoureuses pour améliorer leurs pratiques. La publication est organisée par thèmes, illustrés par des études de cas et des modèles de bonnes pratiques.

41La tentation est grande de croire que l’évaluation est par nature complexe et que les prestataires de services ne peuvent totalement en appréhender les mystères et les subtilités. Dans le programme Sure Start, les directeurs des centres ne sont généralement pas des évaluateurs professionnels. Mais les tenir à l’écart des conclusions tirées des évaluations, mêmes complexes et ambiguës, en leur disant qu’ils ne sont pas concernés, ne leur rend absolument pas service et revient à manquer une occasion de les convaincre des changements nécessaires. Le « parcours de Sure Start » en est une illustration parfaite. Dans le même esprit, le ministère a organisé, le jour de la publication de l’étude d’impact 2008 de l’évaluation, la première conférence réunissant un millier de directeurs de centres. Le programme de la conférence comportait la présentation détaillée de l’évaluation par le professeur Ted Melhuish, avec un aperçu des recherches, les principaux chiffres à jour et leurs implications pour les directeurs de centres locaux. La présentation a reçu un bon accueil et a été publiée sur le site du ministère10. Pendant la conférence, plusieurs ateliers ont également permis à des experts du domaine d’interagir directement avec les directeurs des centres. Les thèmes des ateliers portaient sur la manière de toucher les personnes les plus défavorisées, promouvoir la santé infantile, développer la communication, le langage et l’alphabétisation, et offrir la perspective d’un avenir meilleur. Les exposés sur lesquels les ateliers se sont appuyés sont également disponibles sur le site11, pour les directeurs qui souhaiteraient s’y référer et les étudier.

42De manière générale, comme l’évaluation et d’autres études le reconnaissent, les acteurs et prestataires de nouveaux services se trouvent souvent dans ce que l’évaluation a décrit comme un « désert de politiques publiques et de pratiques ». Il est très facile de mettre l’accent sur la nécessité d’adopter les bonnes pratiques et les pratiques fondées sur les faits, mais il faut du temps pour les identifier. Conscient du changement, le ministère a publié un guide des bonnes pratiques12 pour aider les centres. Ce document s’est appuyé sur les bonnes pratiques et les pratiques dont l’efficacité à obtenir certains résultats a été prouvée, ainsi que sur les conclusions tirées de l’évaluation, en faisant des recommandations claires aux centres le cas échéant. Ce guide a été extrêmement bien reçu localement et largement utilisé ; ce n’est pas toujours le cas avec les guides de ce type. Outre l’apport d’informations instructives aux communautés locales, le ministère est allé plus loin en participant à l’élaboration de systèmes et de procédures pour capitaliser ces informations et apporter un soutien actif aux efforts locaux. Certains exemples sont énumérés ci-dessous.

43L’étude sur l’efficacité variable ainsi qu’une étude distincte menée par la Cour des comptes (National Audit Office)13 ont conclu, notamment, que les centres ne disposaient pas de manière générale de systèmes de gestion de la performance ou de gestion financière suffisamment rigoureux ni de systèmes de gouvernance efficaces. Ces paramètres de l’efficacité sont des éléments primordiaux de la prestation, aussi bien dans le secteur public que dans le secteur privé. Face à cette situation, le ministère a publié un guide de la gestion de la performance14 contenant un formulaire d’autoévaluation à destination des centres, aidant par là même les autorités locales à intégrer les pratiques et procédures de gestion de la performance afin d’améliorer la performance de tous les centres. Le ministère a également proposé plusieurs études de cas et modèles de gouvernance efficaces à l’échelle des centres, et a lancé des travaux pour permettre aux centres de comparer leur situation financière en vue d’une meilleure utilisation des ressources.

44Le gouvernement n’a pas agi seul dans ce domaine. Pour aider plus activement les autorités locales et faire le lien avec l’administration centrale pour atteindre l’objectif des 3 500 centres d’ici à 2010, le ministère a passé un contrat avec un groupement appelé Together for Children15 (Ensemble pour les enfants, TFC). TFC propose un certain nombre de produits spécifiques pour répondre aux besoins des centres locaux, afin de les aider à mieux planifier leurs activités, à travailler avec les catégories sociales défavorisées et à mettre en place les services minima. TFC s’inscrit dans la chaîne logistique du ministère, apportant les informations de terrain aux directions centrales.

45La démarche de proximité induite par les centres en direction des communautés locales illustre parfaitement l’interaction entre évaluation et action. La proximité est un élément fondamental dans la conception du projet Sure Start car elle permet aux catégories sociales les plus défavorisées, à savoir les personnes qui sont les moins susceptibles d’avoir recours aux services publics mais qui ont le plus à y gagner, de recevoir l’aide dont elles ont besoin. Sans cette démarche de proximité, les familles ne peuvent pas bénéficier des prestations et la situation des enfants ne peut être améliorée par l’accès aux services, d’où des résultats différents, pour les enfants, en fonction des circonstances économiques. Plusieurs rapports d’évaluation ont montré que cette mission fondamentale de Sure Start n’est pas toujours aussi bien mise en œuvre qu’elle pourrait l’être. Il est important de garder à l’esprit l’ampleur de cette mission, les services publics rencontrant traditionnellement des difficultés pour mettre en place des services de proximité véritablement efficaces et exhaustifs. L’évaluation a fait ressortir les bonnes pratiques, mais a également mis en évidence les problèmes qui ne pouvaient pas être résolus uniquement par la diffusion de ces bonnes pratiques. Déterminé à agir afin d’améliorer l’efficacité des prestations, le ministère a mis en œuvre un éventail d’actions autour de trois axes.

46Premièrement, tous les centres n’adoptant pas les méthodes et stratégies des nouvelles pratiques exemplaires révisées, un guide insistant sur les actions à destination des familles les plus exclues a été publié – le travail de proximité étant particulièrement mis en avant pour faire pression sur ces centres. Ce guide présente les stratégies de proximité efficaces, ainsi que des exemples pratiques et des études de cas ayant produit de bons résultats (démontrer et contrôler).

47Deuxièmement, reconnaissant qu’un travail de proximité efficace requiert une grande quantité de ressources, le ministère a attribué des fonds supplémentaires à compter de 2008-2009, afin de donner la possibilité d’engager deux assistants de proximité supplémentaires dans les zones les plus défavorisées et ce par centre, portant leur nombre à trois dans ces zones, contre un dans celles qui le sont moins (assurer une meilleure utilisation des ressources).

48Troisièmement, comprenant que les actions de proximité constituent une tâche très exigeante et complexe, le ministère a choisi d’en examiner la nature et de recenser les pratiques en la matière. De nouvelles études quantitatives ont été commandées par le ministère pour appréhender ces actions de manière plus approfondie. En particulier, le DCSF va définir des principes et des normes de base afin de mettre en place des services de proximité efficaces et exhaustifs. Ces éléments seront utilisés pour apporter aux assistants de proximité les outils de formation et les cours appropriés (approfondir la compréhension puis faire évoluer les rôles).

VI. PERCEPTION ET RÉALITÉ DU PROGRAMME DANS L’ACTION PUBLIQUE

49De par leur nature intrinsèque, les services publics doivent rendre des comptes aux citoyens. Si les services publics « traditionnels », comme les écoles et les hôpitaux, le font systématiquement, ce n’est pas nécessairement vrai pour les nouvelles politiques publiques comme Sure Start. Dans de tels cas, l’obligation de rendre des comptes est souvent respectée par le biais d’évaluations externes et indépendantes. De plus, ces évaluations portant plutôt sur les programmes que sur des services en particulier (par exemple uniquement les prestations fournies par chaque centre local), on peut aisément avancer que le jugement des évaluateurs porte globalement sur le programme.

50La remarque est souvent faite, et à juste titre, que c’est à partir des faits tels que présentés et interprétés par les médias qu’une vaste majorité des citoyens s’informent et, très probablement, forgent leurs opinions. Cela est d’autant plus vrai lorsqu’il s’agit de rendre compte d’une évaluation longitudinale complexe, pour laquelle les citoyens sont peu susceptibles d’aller rechercher les études d’origine ou de comprendre des méthodologies complexes.

51Les évaluations et les études peuvent être, et sont souvent, considérées comme un jugement de facto de réussite ou d’échec (et il est très préoccupant que cette distinction binaire soit fréquemment le seul modèle disponible pour fonder les jugements). Dans une telle situation, les enjeux sont extrêmement élevés et les évaluateurs peuvent se trouver sous les feux des médias en quête d’une « bonne » histoire. C’est une situation inconfortable, mais fréquente, pour l’évaluation. Je ne préconise aucunement que l’évaluation compromette son intégrité de jugement ou ménage les susceptibilités, mais les évaluateurs doivent reconnaître cet état de fait et admettre qu’ils ne travaillent pas dans un monde isolé des médias et de la sphère politique. La couverture médiatique de l’évaluation de Sure Start ainsi que les rapports d’impact 2005 et 2008 apportent un éclairage intéressant sur la question.

52Nous avons déjà vu comment l’étude d’impact de 2005 a mis en lumière certains résultats négatifs et décevants. Leur présentation par les médias a été extrêmement critique, les journaux de tous bords s’empressant de dénigrer le programme Sure Start, un échec onéreux à leurs yeux. Le Guardian a titré : « Doutes sur l’utilité du programme Sure Start qui a coûté 3 milliards de livres – Vers un échec du programme phare du gouvernement destiné à aider les jeunes défavorisés ? »16. Le Daily Mail a énoncé plus succinctement : « Comment le projet Sure Start n’a pas réussi à aider les enfants pauvres »17. Le Daily Mail s’était montré hostile à Sure Start dès le début et a pu se servir de cette évaluation équivoque comme d’un instrument « indépendant » pour critiquer vivement le programme.

53L’étude d’impact 2005 a constitué un point de départ, en définissant des critères d’évaluation pour Sure Start, le programme portant souvent la marque de l’échec. Pour de nombreuses personnes, il porte d’ailleurs toujours cette marque, comme l’a démontré, notamment, l’émission matinale de BBC Radio 4, The Today Programme, du 13 janvier 2009 consacrée à la mobilité sociale18. L’évaluation de 2005 y a été citée comme l’illustration d’un important programme public ne remplissant pas ses objectifs, tandis que celle de 2008, prouvant le contraire, n’était pas mentionnée, sans que l’on sache pourquoi, d’autant plus que la BBC en avait parlé en termes assez élogieux au moment de sa publication19. Mais la majorité des auditeurs n’était pas au courant (et il est intéressant de noter que l’un des évaluateurs cités dans l’émission s’est directement plaint auprès de la BBC que cette dernière ait fait l’impasse sur les résultats de 2008).

54L’évaluation de 2005 étant à un tel point enracinée dans la mémoire médiatique, comment les données de 2008 ont-elles été rapportées ? Le ministère s’est rendu compte que les évaluations, surtout celles concernant Sure Start, sont des outils complexes et que des changements significatifs dans les résultats en l’espace de trois ans pouvaient prêter à confusion. Pour y remédier, le ministère a organisé une conférence de presse au cours de laquelle le professeur Ted Melhuish, qui a dirigé l’équipe des évaluateurs, a présenté et expliqué les résultats de l’évaluation et répondu aux questions des journalistes. Les conférences de presse ne sont pas un exercice naturel pour les évaluateurs mais, avec le recul, le risque en valait la peine car un message complexe a pu être expliqué clairement et efficacement aux journalistes présents.

55La réaction des médias a été mitigée. Children and Young People Now, un magazine professionnel influent, a écrit : « La dernière évaluation de Sure Start a infirmé les affirmations selon lesquelles le programme avait un effet négatif sur les enfants défavorisés »20. Plus modérément, le Financial Times a titré : « Les études révèlent des retombées positives de Sure Star »21. D’autres journaux ont vu les choses différemment, notamment le Daily Telegraph qui s’est montré tranchant : « Le programme Sure Start ne remplit pas ses objectifs »22.

56Le compte rendu le plus surprenant est venu du Guardian, au moment de la publication de l’évaluation et ultérieurement. En mars 2008, dans un article assez négatif, le quotidien écrivait : « Le gouvernement va réviser Sure Start, un programme de plusieurs milliards qui aide les parents des catégories sociales défavorisées, une étude ayant révélé que les services n’amélioraient que "modestement" la vie des enfants »23. Toutefois, plus tard dans l’année, après la reprise de l’évaluation par le journal médical The Lancet, le Guardian a rapporté les conclusions de manière beaucoup plus positive, en titrant : « Sure Start salué pour avoir réussi à aider les enfants des familles pauvres »24. Il serait intéressant, mais peut-être pas productif, de savoir pourquoi le même journal a rendu compte de la même étude de deux manières différentes.

57Ainsi, l’expérience médiatique de Sure Start n’a pas été entièrement heureuse ni, à mon avis, totalement juste. La couverture médiatique de l’évaluation a eu un effet ambigu sur les prestataires des services évalués. On pourrait imaginer que les rapports négatifs démoralisent les personnes attachées à fournir des services vitaux et que les rapports positifs les renforcent. Dans le cas de Sure Start, ce n’est pas nécessairement le cas. Il ressort des discussions avec les directeurs de centres et d’autres employés qu’ils connaissent d’expérience l’impact (ou pas) de leur travail et peuvent résister face aux constats médiatiques de succès ou d’échec.

Conclusions.

58En m’appuyant sur l’expérience de Sure Start, j’aimerais tirer quelques ébauches de conclusions.

59Un jugement solide et extérieur tel que celui apporté par l’évaluation est inestimable pour guider, amender et, en fin de compte, améliorer un programme. Cela ne facilite pas toujours les choses, mais ce n’est pas ce qu’on attend. Il y a toutefois une réserve : sans volonté politique d’écouter, de se remettre en question et d’apporter des changements, et sans volonté de faire la différence et d’appliquer les changements au plan local, il est peu probable que les bénéfices potentiels de l’évaluation se réalisent pleinement. Associée à un objectif politique fort et impérieux, l’évaluation s’avère particulièrement puissante. Ces conditions préalables étaient réunies pour Sure Start dès le lancement du programme, raison pour laquelle une telle symbiose a prévalu entre l’évaluation et le programme. Ce n’est pas toujours le cas.

60De plus, il semble clair qu’utiliser l’évaluation dans l’élaboration d’une politique publique est plus facile et rapide que d’apporter des changements à une politique publique ou à un programme déjà bien en place. Il ne s’agit pas là d’admettre qu’il est impossible de gérer les programmes établis de longue date – loin de là – mais en utilisant les conclusions de l’évaluation pour imposer des changements, les décideurs doivent avoir une parfaite compréhension du contexte et de l’état d’esprit de ceux qu’ils cherchent à influencer et à aider. En effet, pour un programme tel que Sure Start, dont l’objectif en termes de prestations a fondamentalement changé, un point de vue extérieur sur de tels changements peut s’avérer inestimable pour aider à un changement qui serait autrement ressenti comme très conflictuel. Dès le début, le programme Sure Start visait à créer un service universel capable d’apprendre et de s’amender. Toutefois, il peut être important de mentionner à ce stade que cela n’a pas relevé que de la seule administration centrale, loin de là. Le dévouement, l’enthousiasme et l’innovation au niveau local ont été considérables et le personnel de terrain a porté un intérêt étonnant à l’aide et aux outils proposés par le ministère. L’objectif politique qui a inspiré Sure Start reste intact et les directeurs de centres sont tout à fait désireux d’apprendre et d’être guidés pour décupler leurs efforts en vue de l’atteindre.

61Il n’est pas toujours aisé de choisir le bon moment pour effectuer une évaluation. D’un côté, évaluer un programme rapidement après sa mise en œuvre permet d’apporter au plus tôt des informations utiles ; de l’autre, cela risque de causer sa perte. Pour Sure Start, cela s’est traduit par évaluation de programmes locaux naissants, et donc à la suite d’une trop courte expérience des services proposés aux enfants et aux familles. Le rapport d’évaluation en 2008 a montré qu’il fallait trois ans à un centre pour devenir totalement opérationnel. Par voie de conséquence, jusqu’en 2005, les enfants et les familles n’ont pas bénéficié de programmes intégralement opérationnels susceptibles de couvrir la vie d’un enfant. À la lumière de ce qui précède, les conclusions de l’évaluation 2005 étaient prévisibles. Peut-être le meilleur compromis consiste-t-il à évaluer la mise en œuvre initiale et à remettre les jugements concernant l’impact à plus tard. Si cela n’est pas possible, les évaluateurs doivent se montrer très prudents dans la présentation de leurs conclusions, eu égard à l’ancienneté de la politique et au temps nécessaire à sa mise en œuvre.

62Il est vrai, voire inévitable, comme l’a montré l’expérience de Sure Start, que l’avis des évaluateurs (ces « experts indépendants » si appréciés des médias) attire davantage l’attention et a davantage de poids que les affirmations ou infirmations du gouvernement. Les décideurs doivent garder cela à l’esprit et les évaluateurs ne peuvent se soustraire à la responsabilité qui, à mes yeux, va de pair avec leur fonction.

63L’évaluation peut fondamentalement orienter la perception d’une politique publique par le grand public. Les perceptions négatives peuvent engendrer des effets extrêmement dommageables et étonnamment durables ; une fois suscitées, elles peuvent s’avérer très difficiles à inverser. Même lorsque l’expérience de terrain vient les infirmer, ces perceptions négatives peuvent persister et, paradoxalement, amener les utilisateurs à penser que le service dispensé à une large échelle est défaillant mais qu’ils ont la chance d’avoir un bon centre à proximité. Ce paradoxe n’est en aucune manière l’apanage de Sure Start.

Le mot de la fin.

  • 25 « L’impact des programmes locaux “Sure Start” sur les enfants de 3 ans et leurs Familles », NESS, (...)

64« Il faut mettre au crédit des acteurs de Sure Start le fait qu’ils ont su réagir aux conclusions des études et modifier les services rendus en conséquence… Même si ces améliorations ont encore du chemin à faire, le résultat des changements est que les enfants et les familles sur lesquels la dernière étude a porté ont peut-être eu la chance de bénéficier de prestations plus efficaces que les enfants et les familles couverts par la première phase. ».25

Notes

* Les opinions exprimées dans cet article sont celles de l’auteur et ne reflètent pas nécessairement la politique ou les positions du ministère, le DCSF.

1 On trouvera des informations sur l’exercice national d’évaluation du programme Sure Start (National Evaluation of Sure Start) et en particulier sur la méthodologie générale utilisée sur le site http://www.ness.bbk.ac.uk. Les méthodologies de recherche propres à chaque rapport sont décrites dans les rapports eux-mêmes.

2 http://www.dcsf.gov.uk/everychildmatters/research/keyresearch/earlyyearschildcare0910/eppe/eppe/.

3 http://www.dcsf.gov.uk/everychildmatters/earlyyears/surestart/aboutsurestart/strategy/10yearstrategy/.

4 On trouvera des informations sur la composition de l’équipe d’évaluateurs et sur les évaluateurs eux-mêmes sur les sites http://www.ness.bbk.ac.uk/documents/organisationchart.

5 NESS. Early Impacts of SSLPs on Children and Families, novembre 2005.

6 http://www.dcsf.gov.uk/research/data/uploadfiles/NESS2008FR027.pdf.

7 L’évaluation a fait apparaître que les programmes locaux Sure Start avaient eu des effets clairement bénéfiques pour 5 critères sur les 14 étudiés : comportement social positif de l’enfant (esprit coopératif, sens du partage et empathie) ; indépendance/autorégulation de l’enfant (faculté à trouver des solutions par lui-même, persévérance, autocontrôle) ; indice de risque parental (jugement de l’observateur + relation entre parents et enfants, discipline sévère, atmosphère de chaos dans le foyer) ; environnement propice à l’apprentissage au sein du foyer ; services pleinement utilisés. On note également une amélioration des résultats en termes de taux de vaccination infantile et de prévalence des accidents parmi cette population, même si cela pourrait en partie tenir au moment auquel l’évaluation a été réalisée.

8 Variation in SSLP Effectiveness : Early Preliminary Findings, NESS, novembre 2005 ; Research Report 14, NESS, DfES, http://www.dcsf.gov.uk/everychildmatters/publications/0/1505/.

9 http://www.dcsf.gov.uk/everychildmatters/research/publications/surestartpublications/1983/.

10 http://www.dcsf.gov.uk/everychildmatters/research/publications/surestartpublications/1982.

11 http://www.dcsf.gov.uk/everychildmatters/research/publications/surestartpublications/1990.

12 http://www.dcsf.gov.uk/everychildmatters/improvingquality/guidance/practiceguidance/.

13 http://www.nao.org.uk/publications/0607/sure_start_childrens_centres.aspx.

14 http://www.dcsf.gov.uk/everychildmatters/research/publications/surestartpublications/852.

15 Pour plus d’informations sur TFC, voir le site http://www.childrens-centres.org.

16 http://www.guardian.co.uk/uk/2005/sep/13/schools.earlyyearseducation.

17 http://www.dailymail.co.uk/news/article-390897/Labours-flagship-projectfailing-help-children.html.

18 Interview du ministre Liam Byrne à propos de la mobilité sociale : http://news.bbc.co.uk/today/hi/today/newsid_7825000/7825596.stm.

19 http://news.bbc.co.uk/1/hi/education/7277123.stm.

20 http://www.cypnow.co.uk/inDepth/ByDiscipline/Childcare-and-Early-Years/login/789856/. Voir aussi http://www.cypnow.co.uk/news/ByDiscipline/Childcare-and-Early-Years/login/787823//.

21 http://www.ft.com/cms/s/0/e3c58a4c-ea07-11dc-b3c9-0000779fd2ac.html?nclick_check=1.

22 http://www.telegraph.co.uk/news/uknews/1580792/Sure-Start-plan-'failing-tomeet-targets'.html.

23 http://www.guardian.co.uk/society/2008/mar/05/communities.socialexclusion.

24 http://www.guardian.co.uk/society/2008/nov/07/children-social-exclusion-sure-start.

25 « L’impact des programmes locaux “Sure Start” sur les enfants de 3 ans et leurs Familles », NESS, 2008.

Auteur

Daniel Racher travaille sur le programme des centres pour l’enfance Sure Start, au sein du ministère de l’Enfance, de l’École et de la Famille du Royaume-Uni. Il est chargé de plusieurs domaines et dirige l’évaluation et les études, y compris l’évaluation nationale de Sure Start. Sa responsabilité est de suivre en continu le programme Sure Start et de piloter les évaluations d’autres programmes du ministère. Cette fonction implique la définition du cadre des évaluations, leur suivi continu, la gestion des retombées médiatiques, et la préparation des décisions à prendre suite aux évaluations. Daniel Racher a toujours travaillé sur la réflexion en matière d’évaluation et sa mise en œuvre pratique sur le terrain.

© Institut de la gestion publique et du développement économique, 2009

Conditions d’utilisation : http://www.openedition.org/6540