🔗 Multicolinealidad

Diagnóstico y consecuencias de la correlación entre variables explicativas

VIF Correlación Diagnóstico
Módulo 5 de 12
💡 Piénsalo así: La multicolinealidad es como intentar separar dos ingredientes que ya están mezclados en la torta: no puedes saber cuánto aporta cada uno.
  • Al final de este módulo podrás: Identificar cuándo hay multicolinealidad en un modelo de regresión.
  • Calcular e interpretar el VIF (Variance Inflation Factor) para cada predictor.
  • Explicar las consecuencias de la multicolinealidad en los errores estándar y la inferencia.
  • Proponer soluciones como eliminar variables o aumentar la muestra.
  • Conceptos Fundamentales

    🔗 Definición

    La multicolinealidad ocurre cuando dos o más variables independientes están altamente correlacionadas entre sí. Esto dificulta separar el efecto individual de cada predictor sobre Y. La correlación puede ser perfecta (r=1, raro en datos reales) o imperfecta (r alta, el caso más común).

    corr(X₁, X₂) → 1

    📊 VIF (Factor de Inflación de Varianza)

    El VIF mide cuánto se infla la varianza del coeficiente estimado debido a la colinealidad con otros predictores. VIFⱼ = 1/(1 - R²ⱼ), donde R²ⱼ es el R² de la regresión de Xⱼ contra las demás X. VIF > 10 se considera severo; VIF > 5 es señal de alerta.

    VIFⱼ = 1/(1-R²ⱼ)

    ⚠️ Consecuencias

    Con multicolinealidad: (1) los errores estándar se inflan (Var(β̂ⱼ) ↑ cuando VIF ↑), (2) los coeficientes se vuelven inestables (pequeños cambios en los datos causan grandes cambios), (3) los coeficientes pueden no ser significativos individualmente aunque el modelo global sí lo sea (F-test significativo con t-tests no significativos).

    Var(β̂ⱼ) ↑ cuando VIF ↑

    🔍 Diagnóstico

    Herramientas para detectar multicolinealidad: (1) matriz de correlación entre predictores (r > 0.8 es sospechoso), (2) VIF > 10 indica severa, (3) condition number > 30 (raíz cuadrada del cociente entre el mayor y menor autovalor de X'X), (4) altos R² en regresiones auxiliares.

    VIF > 10 → severo

    🛠️ Soluciones

    Posibles acciones: (1) eliminar una de las variables correlacionadas (la menos relevante teóricamente), (2) aumentar el tamaño muestral (reduce la varianza de los estimadores), (3) usar análisis de componentes principales (PCA), (4) estandarizar las variables, (5) usar métodos de regularización como Ridge Regression (L2).

    Eliminar X → VIF ↓

    🎯 Colinealidad perfecta vs imperfecta

    Colinealidad perfecta: una variable es combinación lineal exacta de otras (X₂ = 2X₁ + 3). (X'X) no es invertible, no se puede estimar. Colinealidad imperfecta: correlación alta pero no perfecta. (X'X) es invertible pero con errores estándar grandes.

    Perfecta: |X'X| = 0   Imperfecta: |X'X| ≈ 0
    Ejemplo paso a paso: Cálculo de VIF

    Supongamos que tenemos un modelo con 3 predictores: Y = β₀ + β₁X₁ + β₂X₂ + β₃X₃ + ε. Queremos calcular el VIF para X₁.

    Paso 1: Regresión auxiliar

    Regresamos X₁ contra X₂ y X₃: X₁ = γ₀ + γ₂X₂ + γ₃X₃ + ν. Obtenemos el R² de esta regresión auxiliar, digamos R²₁ = 0.85.

    Paso 2: Calcular VIF

    VIF₁ = 1/(1 - R²₁) = 1/(1 - 0.85) = 1/0.15 = 6.67. Como VIF > 5, hay multicolinealidad moderada que requiere atención.

    Paso 3: Interpretar el efecto en la varianza

    La varianza de β̂₁ es 6.67 veces mayor que si X₁ no estuviera correlacionada con las otras variables. El error estándar es √6.67 ≈ 2.58 veces mayor.

    Paso 4: Consecuencia práctica

    Si el verdadero β₁ = 2 con se(β̂₁) = 0.3 sin colinealidad, con VIF=6.67 el error estándar sería 0.3·2.58 ≈ 0.77. El t-estadístico sería 2/0.77 ≈ 2.6 (aún significativo), pero si la correlación fuera mayor (VIF=20), t≈2/1.34≈1.49 (no significativo).

    Simulación: Efecto de la Correlación

    Ajusta la correlación ρ entre X₁ y X₂ y observa cómo se ensanchan los intervalos de confianza.

    0.50
    β̂₁
    IC β̂₁ (inf)
    IC β̂₁ (sup)
    VIF
    Mini Quiz: Multicolinealidad

    Resumen del módulo

  • La multicolinealidad infla los errores estándar pero no sesga los coeficientes.
  • VIF = 1/(1-R²ⱼ); VIF > 10 indica multicolinealidad severa.
  • La colinealidad perfecta hace que (X'X) no sea invertible.
  • Soluciones: eliminar variables, aumentar muestra, o usar regularización.
  • 💡 Responde las preguntas sobre multicolinealidad.