ISP · Échelle ISP-MGT

Échelle de preuve : management

Sur cet axe, 100 ne signifie pas « preuve absolue » : il désigne le meilleur dispositif que ce champ sache produire aujourd'hui. Un ISP-MGT et un ISP d'un autre domaine mesurent donc la même chose, une distance à ce qui est atteignable, et restent lisibles côte à côte. Les trois autres axes de l'indice (convergence 30 %, réplication 20 %, puissance 10 %) sont communs à tous les domaines.

Ce que ce champ peut établir

Le management ne peut pas randomiser ce qui l’intéresse le plus. On n’assigne pas au hasard un dirigeant à un style ni une entreprise à une culture, et le résultat qui compte (performance, rétention, engagement) se mesure le plus souvent en demandant à un salarié de noter à la fois son manager et son propre état. Le champ produit donc beaucoup de corrélations déclaratives et peu d’identification causale.

L’échelle générique le classe mal pour deux raisons opposées. Elle surévalue la méta-analyse, qui agrège ici presque toujours des enquêtes transversales partageant le même défaut de mesure : 130 échantillons ne corrigent pas un biais que 130 échantillons partagent. Et elle sous-évalue tout le reste, en versant dans « étude de cas » à 15 points aussi bien un essai de terrain randomisé qu’un baromètre de cabinet.

Le meilleur disponible dans ce champ n’est donc pas la synthèse la plus large, c’est le dispositif le plus difficile à obtenir : une assignation aléatoire dans une organisation en activité, un résultat lu sur un registre plutôt que sur un questionnaire, et une réplication par une équipe sans lien avec la première. C’est rare, c’est atteignable, et c’est ce que 100 désigne ici.

Les sept barreaux

idscorenomce qui qualifiece qui ne qualifie pas
essai-terrain-replique100Essai de terrain randomisé et répliqué, résultat lu sur registreAssignation aléatoire d’unités réelles (salariés, équipes, sites) dans des organisations en activité ; le résultat central est lu sur des données que personne n’a déclarées (départs enregistrés, paie, production, promotions, absences) ; le même effet est retrouvé par au moins une équipe sans lien avec la première, dans une autre organisation et de préférence un autre secteur.Une méta-analyse, même de 130 échantillons indépendants, dont les études primaires sont des enquêtes transversales déclaratives : elle appartient au barreau 4. Une réplication conduite par le même réseau de chercheurs, ou dans la même entreprise, ou sur un résultat différent de l’original : barreau 2. Un essai randomisé dont le résultat central est un score de questionnaire : barreau 4. Plafond de partie prenante : inaccessible si la preuve centrale est de tier P.
essai-terrain-unique85Essai de terrain randomisé unique, résultat lu sur registreMême dispositif que le barreau 1, mais un seul terrain, ou plusieurs terrains issus d’un même réseau de recherche ; l’assignation aléatoire est réelle et documentée (y compris par grappes : services, sites, équipes) ; le résultat central reste un registre, pas une perception.Une réplication indépendante existe : c’est le barreau 1. Le résultat objectif de l’essai ne porte pas sur l’affirmation centrale de l’article : l’article est classé sur la preuve qui porte son affirmation centrale, jamais sur la plus forte pièce du dossier. Une randomisation en laboratoire ou sur étudiants : barreau 5. Plafond de partie prenante : inaccessible si la preuve centrale est de tier P.
quasi-experimental-registre70Quasi-expérimental sur données administratives ou comportementalesDifférences de différences, régression sur discontinuité, variable instrumentale, appariement ou expérience naturelle, appliqués à des données que le salarié n’a pas déclarées (départs enregistrés, salaires versés, offres réellement acceptées, délais de recrutement) ; groupe de comparaison explicite ; l’affirmation centrale de l’article repose sur ce dispositif.Le même dispositif statistique appliqué à des scores de questionnaire : barreau 4. Une comparaison avant/après sans groupe de comparaison : barreau 5. L’absence d’assignation aléatoire sépare ce barreau du barreau 2, quelle que soit la taille de l’échantillon : un million d’observations ne fabrique pas un contrefactuel. Plafond de partie prenante : inaccessible si la preuve centrale est de tier P.
synthese-declarative50Synthèse quantitative de mesures déclaratives (méta-analyse d’enquêtes)Méta-analyse ou revue systématique agrégeant des dizaines d’échantillons indépendants dont le prédicteur et le résultat proviennent du même répondant, au même moment, par le même instrument ; c’est le format dominant des littératures de styles de leadership, d’engagement et de climat. Barreau médian : plafond de tout article dont la preuve centrale est de tier P.Une synthèse dont les études primaires sont randomisées et les résultats lus sur registre : barreaux 1 ou 2. Une compilation d’études de cas hétérogènes présentée comme méta-analyse, sans échantillonnage construit : barreau 6. Une enquête unique, même massive, même multi-pays : barreau 5.
observation-unique35Observation unique à mesure documentée, ou expérience de laboratoireEnquête transversale ou longitudinale unique, panel d’entreprises, comparaison avant/après sans groupe de contrôle, expérience randomisée conduite en laboratoire ou sur étudiants ; l’instrument et le protocole sont publiés et reproductibles.Plusieurs échantillons indépendants agrégés : barreau 4. Un groupe de comparaison plus une stratégie d’identification : barreau 3. Le laboratoire est ici et pas plus haut, malgré sa randomisation : la taille d’effet obtenue sur étudiants ne survit pas au terrain, et c’est l’un des faits les mieux établis du champ.
cas-et-compilations20Cas d’entreprise, compilation de cas, enquête de cabinetMonographie d’une organisation ; série de cas agrégés sans échantillonnage construit ni pondération ; baromètre de cabinet de conseil, d’éditeur de logiciel ou de courtier ; enquête de benchmarking dont le protocole n’est pas publié.Un cas unique documenté par une équipe académique indépendante avec groupe de comparaison et données institutionnelles : barreau 3 (c’est exactement ce qui sépare le terrain Best Buy des chiffres de CultureRx). Une compilation dont les études primaires sont elles-mêmes randomisées : barreau 4 au minimum.
modele-prescriptif8Modèle prescriptif ou cadre conceptuel non testéCadre managérial proposé par raisonnement (essai fondateur, matrice de séminaire, typologie de posture), y compris massivement enseigné et vendu ; opinion d’expert ; retour d’expérience de dirigeant ; tribune.Un modèle dont les correspondances postulées ont été mises à l’épreuve, même avec des résultats mitigés : barreau 5. La notoriété n’est jamais une preuve, et le leadership situationnel en est le cas d’école : universellement enseigné, faiblement soutenu par ses propres travaux de test.

Lecture du plafond dans la table. Les trois barreaux au-dessus du médian portent la même mention parce que c’est là que la règle mord. En dessous du médian, elle est sans effet : le design suffit déjà à plafonner l’article.

Pourquoi une méta-analyse ne suffit pas au sommet

Une méta-analyse hérite du dispositif de ses études primaires. Elle améliore la précision de l’estimation, jamais sa validité. En management, les études primaires sont très majoritairement des enquêtes transversales dans lesquelles le même collaborateur note le comportement de son manager puis son propre engagement. Le biais de méthode commune qui en résulte est corrélé entre les études, donc il ne s’annule pas en moyenne : agréger 130 échantillons qui partagent le même défaut produit un chiffre plus serré autour du même artefact. Le rho corrigé qu’affichent ces synthèses corrige l’atténuation due à l’imprécision de mesure, pas le fait que la cause et l’effet sortent de la même bouche au même instant.

Trois problèmes s’ajoutent, et aucun ne se règle par l’agrégation.

La réplication. Les grandes opérations de réplication en psychologie et en sciences sociales expérimentales retrouvent une minorité d’effets, avec des tailles d’effet de l’ordre de la moitié de l’original. Une méta-analyse calcule la moyenne de ce qui a été publié, et ce qui a été publié est ce qui était significatif. Le biais de publication documenté en psychologie du travail joue donc dans le sens de la surestimation, avant même la question du dispositif.

Le laboratoire. Une part notable des effets de management sont obtenus sur des étudiants, sur des tâches de quelques minutes, sans hiérarchie réelle, sans salaire, sans conséquence. Ces effets s’effondrent quand on les remet dans une organisation qui a des contraintes budgétaires, une histoire et des syndicats. Une méta-analyse de laboratoire est une méta-analyse sur une question que personne n’a posée à un manager.

Le construit. Une comparaison de douze mesures de leadership populaires trouve beaucoup de variance commune entre les styles et peu de variance unique. Si l’instrument ne sépare pas le style qu’il prétend mesurer de ses voisins, une méta-analyse de cet instrument mesure très précisément un flou.

D’où le sommet retenu. Pour valoir 100, il faut ce qu’une méta-analyse ne peut structurellement pas fournir seule : une assignation aléatoire dans une organisation en activité (qui règle le contrefactuel), un résultat lu sur un registre (qui règle le déclaratif), et une réplication par une équipe qui n’a ni produit l’original ni intérêt à le confirmer (qui règle la réplication et la publication sélective). Ce n’est pas un idéal importé de l’épidémiologie : le management sait produire ce dispositif, rarement, sur des objets étroits (organisation du temps de travail, dispositifs de recrutement, formations managériales). C’est précisément ce que « le meilleur disponible ici » veut dire.

Plafond de partie prenante

Est de tier P toute source qui a un intérêt propre au sujet qu’elle commente : elle vend le dispositif qu’elle mesure, ou elle a produit le travail qu’elle évalue. Quand la preuve centrale d’un article repose sur une source de tier P, l’article est plafonné au barreau médian, la synthèse quantitative de mesures déclaratives, 50 points, quel que soit le design que cette source revendique.

Le management est le domaine où cette règle a le plus de conséquences, parce que l’essentiel de ce qui y circule est produit par des cabinets qui vendent la transformation qu’ils mesurent. Les exemples ne demandent aucun effort de recherche : les chiffres les plus repris du ROWE (turnover en baisse de 90 %, productivité en hausse de 41 %, ou 35 % selon la page consultée) viennent de ses conceptrices, qui le commercialisent via leur cabinet ; les données d’avantages salariés viennent de Mercer et de Willis Towers Watson, qui vendent le conseil en rémunération ; l’urgence de la conformité à la transparence salariale est décrite par un éditeur de logiciel de paie ; la grille du profil « en T » est popularisée par un cabinet de conseil et une agence de design qui recrutent sur cette grille. Aucune de ces sources n’est disqualifiée, elles sont plafonnées.

Trois précisions rendent la règle applicable.

Elle vise la preuve centrale, pas les mentions. Un article qui cite une source P pour la démonter n’est pas plafonné : sa preuve centrale est la littérature indépendante qu’il oppose à cette source. Démonter un chiffre commercial n’est pas s’y appuyer.

Un chiffre P instable est un signal, pas une nuance. Quand un promoteur ne stabilise pas son propre chiffre-phare (41 % ici, 35 % là, sans jamais dire lequel retenir), le plafond n’est pas seulement mérité, il est probablement trop généreux.

Le cas frontière doit être déclaré. Un article académique publié dans une revue à comité de lecture mais cosigné par un dirigeant de l’entreprise étudiée n’est pas au même niveau qu’une brochure commerciale, et pas non plus au niveau d’une évaluation indépendante. Il se traite en source institutionnelle avec conflit d’intérêt déclaré, et la déclaration est obligatoire. L’essai randomisé de Trip.com sur le télétravail hybride, cosigné par un cofondateur de l’entreprise étudiée, relève exactement de ce cas.

Ce sur quoi cette échelle s’appuie

Le principe de la démarche (reprendre une hiérarchie de preuve conçue pour la médecine, puis la réancrer sur ce qu’un autre champ sait réellement produire) a un précédent explicite en ingénierie logicielle, chez Kitchenham, Dybå et Jørgensen, « Evidence-Based Software Engineering », Proceedings of ICSE’04 (2004), 273-281. Voici, barreau par barreau du haut vers le bas, ce qui fixe chaque cran à sa place.

Essai de terrain randomisé et répliqué, 100. Il occupe le sommet parce qu’il est le seul dispositif à régler les trois défauts en même temps : l’assignation aléatoire fournit le contrefactuel, le résultat lu sur registre supprime le déclaratif, la réplication indépendante neutralise la publication sélective. Chacun de ces trois défauts est documenté séparément dans les travaux cités plus bas ; aucun autre barreau ne les traite tous.

Essai de terrain randomisé unique, 85. Il descend d’un cran pour une raison mesurée, pas théorique : les grandes opérations de réplication montrent qu’un effet retesté perd en général de l’ordre de la moitié de sa taille. Open Science Collaboration, « Estimating the reproducibility of psychological science », Science, 349(6251) (2015), et Camerer et ses coauteurs, Nature Human Behaviour (2018), sur des expériences de sciences sociales parues dans Nature et Science. Ces deux opérations portent sur la psychologie et les sciences sociales expérimentales au sens large : l’ordre de grandeur se transpose, il n’a pas été mesuré sur la psychologie organisationnelle seule.

Quasi-expérimental sur données administratives, 70. Il passe sous les deux barreaux d’essai parce qu’un groupe de comparaison construit après coup n’est pas un tirage au sort, et il passe au-dessus de la méta-analyse d’enquêtes parce que ce qu’il mesure est un comportement enregistré, pas une déclaration. C’est la frontière que trace Podsakoff, MacKenzie, Lee et Podsakoff, « Common method biases in behavioral research », Journal of Applied Psychology, 88(5) (2003), 879-903 : dès que la cause et l’effet passent par le même répondant, la corrélation est gonflée.

Synthèse quantitative de mesures déclaratives, 50. La méta-analyse d’enquêtes tombe au milieu parce que le biais de méthode commune décrit par Podsakoff et ses coauteurs est partagé par les études primaires, donc il ne s’annule pas en les additionnant. S’y ajoute un problème de construit : van Knippenberg et Sitkin, « A critical assessment of charismatic-transformational leadership research: Back to the drawing board? », Academy of Management Annals, 7(1) (2013), montrent que le champ confond la façon dont il mesure un style et les effets qu’il lui attribue. Beaucoup de précision autour d’une grandeur mal définie ne fait pas une preuve.

Observation unique ou expérience de laboratoire, 35. L’expérience de laboratoire est ici, sous la méta-analyse, malgré sa randomisation. Mitchell, « Revisiting truth or triviality: The external validity of research in the psychological laboratory », Perspectives on Psychological Science, 7(2) (2012), 109-117, trouve une correspondance laboratoire/terrain très inégale selon les sous-disciplines, et particulièrement faible en psychologie industrielle et organisationnelle. Un effet obtenu sur des étudiants, sur une tâche de quelques minutes, sans hiérarchie ni salaire, ne dit presque rien de ce qu’il deviendra dans une entreprise.

Cas d’entreprise, compilation de cas, enquête de cabinet, 20. Ce barreau réunit ce qui n’a ni contrefactuel ni échantillonnage construit. Une médiane calculée sur des cas rassemblés au fil des publications ne décrit aucune population : elle décrit la collection. C’est le format du baromètre de cabinet et de la monographie d’entreprise, utile pour illustrer, jamais pour établir un ordre de grandeur transposable.

Modèle prescriptif ou cadre conceptuel non testé, 8. Le plancher revient aux cadres qui n’ont jamais été mis à l’épreuve, ou dont les correspondances postulées résistent mal quand on les teste. Le leadership situationnel de Hersey et Blanchard en est l’illustration la plus enseignée : sa littérature de validation obtient depuis longtemps des résultats mitigés, sans confirmer les appariements précis entre niveau de maturité et style optimal. La diffusion d’un modèle est un fait de marché, pas un résultat.

Les sept valeurs numériques sont un arbitrage éditorial destiné à rendre les scores comparables d’un domaine à l’autre, pas une quantité mesurée.

Newsletter

Recevoir les prochaines analyses

Choisissez les catégories qui vous intéressent.

Catégories