Sample attrition bias in randomized experiments: A tale of two surveys - HAL-SHS - Sciences de l'Homme et de la Société Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2009

Sample attrition bias in randomized experiments: A tale of two surveys

Résumé

The randomized trial literature has helped to renew the field of microeconometric policy evaluation by emphasizing identification issues raised by endogenous program participation. Measurement and attrition issues have perhaps received less attention. This paper analyzes the dramatic impact of sample attrition in a large job search experiment. We take advantage of two independent surveys on the same initial sample of 8,000 persons. The first one is a long telephone survey that had a strikingly low and unbalanced response rate of about 50%. The second one is a combination of administrative data and a short telephone survey targeted at those leaving the unemployment registers; this enriched data source has a balanced and much higher response rate (about 80%). With naive estimates that neglect non responses, these two sources yield puzzlingly different results. Using the enriched administrative data as benchmark, we find evidence that estimates from the long telephone survey lack external and internal validity. We turn to existing methods to bound the effects in the presence of sample selection; we extend them to the context of randomization with imperfect compliance. The bounds obtained from the two surveys are compatible but those from the long telephone survey are somewhat uninformative. We conclude on the consequences for data collection strategies.
La littérature sur les expériences aléatoires contrôlées a contribué au renouveau de l'évaluation microéconométrique des politiques publiques en portant l'accent sur la participation endogène aux programmes. Les questions de mesure et d'attrition ont reçu moins d'attention. Ce travail analyse l'important impact de l'attrition dans une expérience d'accompagnement des demandeurs d'emploi à large échelle. On s'appuie sur deux enquêtes indépendantes suivant la même population initiale de 8000 demandeurs d'emploi. La première est une longue enquête téléphonique dont le taux de réponse est remarquablement faible (50%) et déséquilibré. La seconde résulte de la combinaison de données administratives et d'une courte interrogation téléphonique visant les chômeurs sortis des listes du chômage ; cette base de données enrichie a un taux de réponse équilibré et sensiblement plus élevé (80%). Des estimations naïves sur ces deux sources sans tenir compte de la non réponse conduisent à des résultats étonnamment contrastés. Utilisant les données administratives enrichies comme références, on montre que les résultats basés sur l'enquête téléphonique longue manquent de validité interne et externe. On examine les méthodes disponibles pour borner l'effet en présence d'un échantillon sélectionné, en les appliquant au cas de la conformation imparfaite. Les bornes obtenues à partir des deux enquêtes sont compatibles, mais celles de la longue enquête téléphonique sont peu informatives. On conclut sur les conséquences pour les stratégies de collecte de données.
Fichier principal
Vignette du fichier
wp200915.pdf (278.86 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

halshs-00566836 , version 1 (17-02-2011)

Identifiants

  • HAL Id : halshs-00566836 , version 1

Citer

Luc Behaghel, Bruno Crépon, Marc Gurgand, Thomas Le Barbanchon. Sample attrition bias in randomized experiments: A tale of two surveys. 2009. ⟨halshs-00566836⟩
286 Consultations
431 Téléchargements

Partager

Gmail Facebook X LinkedIn More