Module 8 sur 11

Régression linéaire multiple

Quand plusieurs prédicteurs sont corrélés, chacun ne garde que sa contribution propre. C'est ici que le cas fil rouge réserve sa première surprise : l'effet du leadership disparaît.

2 h 30Cas fil rouge : test de H1, H2 et H3

01Objectifs

À la fin de ce module, vous saurez :

  • construire un modèle à plusieurs prédicteurs et en interpréter chaque coefficient « toutes choses égales par ailleurs » ;
  • comparer l'importance relative des prédicteurs avec les bêtas et les corrélations semi-partielles ;
  • utiliser le R² ajusté et la régression hiérarchique ;
  • vérifier les postulats sur les résidus (normalité, homoscédasticité, indépendance, observations influentes) ;
  • expliquer pourquoi un effet significatif en régression simple peut disparaître en régression multiple.

02Explication théorique

Le modèle

$$Y_i = b_0 + b_1 X_{1i} + b_2 X_{2i} + \dots + b_k X_{ki} + \varepsilon_i$$

Chaque coefficient \(b_j\) mesure l'effet de \(X_j\) sur Y en maintenant constants les autres prédicteurs. C'est un effet partiel, net des autres variables du modèle.

Pourquoi les coefficients changent

En régression simple, le coefficient de LEAD capte à la fois son effet propre et tout ce qu'il partage avec QAI et SAT. En régression multiple, la part partagée n'est attribuée à aucun prédicteur en particulier. Si LEAD agit sur PERF par l'intermédiaire de SAT, son coefficient chute dès que SAT entre dans le modèle. Ce phénomène, au cœur de la médiation, est approfondi au module 9.

R² ajusté et taille d'effet

$$R^2_{aj} = 1 - (1-R^2)\,\frac{n-1}{n-k-1} \qquad f^2 = \frac{R^2}{1-R^2}$$

R² augmente toujours quand on ajoute un prédicteur, même inutile ; R² ajusté pénalise les prédicteurs superflus.

Importance relative des prédicteurs

  • Bêta standardisé : effet d'une hausse d'un écart type, à comparer entre prédicteurs.
  • Corrélation semi-partielle (« partielle et semi-partielle » dans SPSS) : son carré \(sr^2\) est la part de variance de Y expliquée uniquement par ce prédicteur, c'est-à-dire la baisse de R² si on le retirait.

Régression hiérarchique

On entre les prédicteurs par blocs successifs pour mesurer l'apport de chaque bloc. Le test de la variation de R² est un test F :

$$F_{chang.} = \frac{(R^2_2 - R^2_1)/m}{(1 - R^2_2)/(n-k_2-1)}$$

m : nombre de prédicteurs ajoutés ; \(k_2\) : nombre total de prédicteurs du modèle 2.

Le test de Durbin-Watson

Il teste l'autocorrélation des résidus successifs. Sa valeur varie de 0 à 4 ; une valeur proche de 2 indique des résidus indépendants. Il est surtout pertinent quand l'ordre des observations a un sens (données temporelles, saisie par entreprise ou par enquêteur).

03Conditions d'application

  • Au moins 10 à 20 observations par prédicteur ; ici 200 pour 3 prédicteurs (Hair et al., 2019).
  • Linéarité de chaque relation et absence de multicolinéarité (VIF < 5 ; module 5).
  • Résidus indépendants (Durbin-Watson entre 1,5 et 2,5), homoscédastiques et approximativement normaux.
  • Pas d'observation influente (distance de Cook < 1) ni de résidu standardisé supérieur à 3 en valeur absolue en grand nombre.
  • Spécification fondée sur la théorie : chaque prédicteur est justifié par une hypothèse.

04Procédure pas à pas dans SPSS

  1. Analyse › Régression › Linéaire.
  2. Dépendant : PERF. Bloc 1 : QAI et LEAD. Cliquez sur Suivant ; Bloc 2 : SAT. Méthode : Entrée (évitez les méthodes pas à pas, qui laissent les données choisir le modèle).
  3. Statistiques : Estimations, Intervalles de confiance, Qualité de l'ajustement, Variation de R-deux, Corrélations partielles et semi-partielles, Tests de colinéarité, Durbin-Watson et Diagnostics des observations (valeurs éloignées au-delà de 3 écarts types).
  4. Diagrammes : Y = *ZRESID, X = *ZPRED ; cochez Histogramme et Graphique de répartition gaussien.
  5. Enregistrer : cochez Distances de Cook et Résidus standardisés. OK.
REGRESSION
  /STATISTICS COEFF OUTS CI(95) R ANOVA COLLIN TOL CHANGE ZPP
  /DEPENDENT PERF
  /METHOD=ENTER QAI LEAD
  /METHOD=ENTER SAT
  /SCATTERPLOT=(*ZRESID ,*ZPRED)
  /RESIDUALS DURBIN HISTOGRAM(ZRESID) NORMPROB(ZRESID) OUTLIERS(ZRESID)
  /CASEWISE PLOT(ZRESID) OUTLIERS(3)
  /SAVE COOK ZRESID.

05Interpréter les sorties

Les tableaux ci-dessous présentent le modèle complet (QAI, LEAD et SAT entrés ensemble). L'apport du bloc 2 est commenté juste après.

Sortie SPSS
Récapitulatif des modèlesb
ModèleRR-deuxR-deux ajustéErreur standard de l'estimationDurbin-Watson
1,621a,385,376,661001,868

a. Prédicteurs : (Constante), QAI, LEAD, SAT

b. Variable dépendante : PERF

R² = 0,385 : les trois prédicteurs expliquent 38,5 % de la variance de la performance (R² ajusté = 0,376). \(f^2 = 0{,}385/0{,}615 = 0{,}63\) : effet global fort.

Durbin-Watson = 1,868 : proche de 2, pas d'autocorrélation des résidus.

Sortie SPSS
ANOVAa
ModèleSomme des carrésddlCarré moyenFSig.
1Régression53,778317,92640,982,000b
de Student85,7321960,437
Total139,511199

a. Variable dépendante : PERF

b. Prédicteurs : (Constante), QAI, LEAD, SAT

Le modèle est significatif : F(3, 196) = 40,98 ; p < 0,001.

Sortie SPSS
Coefficientsa
ModèleCoefficients non standardisésCoefficients standardiséstSig.Intervalle de confiance à 95,0 % pour BCorrélationsStatistiques de colinéarité
BErreur standardBêtaBorne inférieureBorne supérieureCorrélation simplePartiellePartielle et semi-partielleToléranceVIF
1(Constante)0,945,2383,973,0000,4761,413
QAI0,213,057,2363,731,0000,1000,325,449,258,209,7821,278
LEAD0,063,066,0610,952,342-0,0670,192,343,068,053,7701,299
SAT0,436,064,4496,805,0000,3090,562,576,437,381,7221,386

a. Variable dépendante : PERF

SAT : β = 0,449 ; t = 6,81 ; p < 0,001. C'est le prédicteur le plus important ; sa corrélation semi-partielle (0,381) indique qu'il explique à lui seul 14,5 % de la variance de PERF (0,381² = 0,145). H3 est validée.

QAI : β = 0,236 ; t = 3,73 ; p < 0,001. L'effet reste significatif mais diminue par rapport à la régression simple (0,449). H1 est validée : la qualité de l'audit interne a un effet propre, au-delà de la satisfaction et du leadership.

LEAD : β = 0,061 ; t = 0,95 ; p = 0,342 ; l'intervalle de confiance [−0,067 ; 0,192] contient 0. Le leadership n'a pas d'effet direct sur la performance quand QAI et SAT sont contrôlées. H2 est rejetée en tant qu'effet direct.

Colinéarité : VIF entre 1,28 et 1,39, aucune difficulté (module 5).

Comprendre la disparition de l'effet du leadership

Tableau 8.1 — Coefficients standardisés : régressions simples et régression multiple (VD : PERF)
Prédicteurβ simplepβ multiplep
Qualité de l'audit interne0,449< 0,0010,236< 0,001
Leadership0,343< 0,0010,0610,342
Satisfaction des employés0,576< 0,0010,449< 0,001

En régression simple, LEAD avait un effet significatif (β = 0,343). Dans un modèle avec QAI seulement, il reste significatif (β = 0,209 ; p = 0,002). C'est l'entrée de SAT qui le fait disparaître. La régression hiérarchique le quantifie : l'ajout de SAT au bloc 1 (QAI, LEAD ; R² = 0,240) fait passer R² à 0,385, soit ΔR² = 0,145 ; F de variation (1, 196) = 46,21 ; p < 0,001.

Une piste, pas encore une preuve

Ce schéma est typique d'une médiation : le leadership agirait sur la performance parce qu'il améliore la satisfaction. Mais la disparition d'un coefficient ne suffit pas à démontrer une médiation : il faut tester l'effet indirect lui-même, avec un intervalle de confiance bootstrap. C'est l'objet du module 9 (H4a, H4b).

Analyse des résidus

Sortie SPSS
Statistiques des résidusa
MinimumMaximumMoyenneÉcart typeN
Prévision2,20404,43503,3090,52000200
Résidu-1,422002,069000,00000,65600200
Résidu standard-2,1513,1290,000,992200
Distance de Cook,000,089,005,010200

a. Variable dépendante : PERF

Histogramme des résidus standardisés (VD : PERF)010203040-3-2-10123Résidu standardisé de régressionFréquence
Histogramme des résidus standardisés (VD : PERF). La courbe représente la loi normale attendue pour N = 200.
Nuage de points : valeurs prédites standardisées × résidus standardisés-3-3-2-2-1-100112233Valeur prédite standardisée de régressionRésidu standardisé
Nuage de points : valeurs prédites standardisées × résidus standardisés.

Normalité : l'histogramme suit la courbe normale ; le test de Shapiro-Wilk sur les résidus n'est pas significatif (p = 0,322).

Homoscédasticité et linéarité : le nuage de points est réparti au hasard autour de 0, sans courbure ni forme d'entonnoir.

Observations atypiques : un seul résidu standardisé dépasse 3 (3,13), soit 0,5 % des observations, ce qui reste dans les proportions attendues (environ 1 % au-delà de ±2,5 ; Field, 2018). La distance de Cook maximale (0,089) est très inférieure à 1 : aucune observation n'influence indûment les coefficients.

Bilan pour le cas fil rouge

Tableau 8.2 — Décisions sur H1 à H3 (régression multiple, N = 200)
HypothèseβtpDécision
H1 : QAI → PERF0,2363,73< 0,001Validée
H2 : LEAD → PERF0,0610,950,342Rejetée
H3 : SAT → PERF0,4496,81< 0,001Validée

06Seuils de référence

Repères d'interprétation de la régression multiple
IndicateurRepèreSource
Observations par prédicteur15 à 20 recommandé ; 5 minimumHair et al. (2019)
f²0,02 faible ; 0,15 moyen ; 0,35 fortCohen (1988)
VIF / toléranceVIF < 5 (idéalement < 3,3) ; tolérance > 0,20Hair et al. (2019, 2022)
Durbin-WatsonEntre 1,5 et 2,5 ; < 1 ou > 3 préoccupantField (2018)
Résidus standardisés≈ 95 % entre ±2 ; ≈ 99 % entre ±2,5 ; |z| > 3 rareField (2018)
Distance de Cook< 1Cook & Weisberg (1982)

07Erreurs fréquentes

À éviter
  • Utiliser la méthode « pas à pas » : le logiciel retient les prédicteurs selon les données, ce qui est incompatible avec une démarche hypothético-déductive.
  • Comparer les B de prédicteurs mesurés sur des échelles différentes : on compare les bêtas.
  • Conclure à une médiation parce qu'un coefficient devient non significatif : il faut tester l'effet indirect (module 9).
  • Additionner les R² des régressions simples pour obtenir le R² du modèle multiple.
  • Oublier l'analyse des résidus ou ne présenter que le R².
  • Passer sous silence une hypothèse rejetée : un résultat non significatif est un résultat, à discuter avec la littérature.

08Exemple de rédaction pour le mémoire

Rédaction type (style APA)

Une régression linéaire multiple a été réalisée pour tester simultanément H1, H2 et H3. Les conditions d'application sont respectées : absence de multicolinéarité (VIF ≤ 1,39), indépendance des résidus (Durbin-Watson = 1,87), normalité et homoscédasticité des résidus, aucune observation influente (distance de Cook maximale = 0,09).

Le modèle est significatif, F(3, 196) = 40,98, p < 0,001, et explique 38,5 % de la variance de la performance organisationnelle (R² ajusté = 0,38). La satisfaction des employés (β = 0,45, t = 6,81, p < 0,001) et la qualité de l'audit interne (β = 0,24, t = 3,73, p < 0,001) ont un effet positif et significatif sur la performance, ce qui soutient H3 et H1. En revanche, l'effet du leadership n'est pas significatif (β = 0,06, t = 0,95, p = 0,342) ; H2 est rejetée. L'introduction de la satisfaction dans un second bloc augmente significativement la variance expliquée (ΔR² = 0,15, F(1, 196) = 46,21, p < 0,001), ce qui suggère un rôle médiateur examiné ci-après.

09Cas pratique

Exercice 1 — Variance unique

À partir des corrélations semi-partielles (QAI 0,209 ; LEAD 0,053 ; SAT 0,381), calculez la part de variance expliquée uniquement par chaque prédicteur, puis la part partagée.

Afficher la solution

QAI : 0,209² = 0,044 ; LEAD : 0,053² = 0,003 ; SAT : 0,381² = 0,145. Total unique = 0,192. Partagée = 0,385 − 0,192 = 0,193 : la moitié de la variance expliquée est commune à plusieurs prédicteurs, ce qui illustre leurs recoupements.

Exercice 2 — R² ajusté

Vérifiez la valeur du R² ajusté à partir de R² = 0,385, n = 200 et k = 3.

Afficher la solution

\(1 - (1 - 0{,}385) \times 199/196 = 1 - 0{,}615 \times 1{,}0153 = 0{,}376\).

Exercice 3 — Discuter H2

Rédigez deux phrases de discussion expliquant le rejet de H2 sans conclure qu'il n'y a « aucun lien » entre leadership et performance.

Afficher la solution

« Contrairement à H2, le leadership n'exerce pas d'effet direct sur la performance lorsque la satisfaction et la qualité de l'audit interne sont prises en compte. Ce résultat n'exclut pas son influence : la corrélation entre leadership et performance est positive (r = 0,34) et pourrait transiter par la satisfaction des employés, ce que teste H4b. »

10Quiz du module