Regresión polinómica y sobreajuste
Elige el grado del polinomio por error de validación, no por ajuste en muestra.
¿Qué complejidad de curva describe la relación sin memorizar el ruido?
x uniforme en [0, 1]; y = sin(2πx) + error normal. La forma real no es un polinomio.
Controles
Ficha del modelo
Las siete preguntas que todo modelo de la biblioteca debe responder antes de publicarse.
- ¿Qué complejidad de curva describe la relación sin memorizar el ruido?
- Pares (x, y) con una relación posiblemente curva.
- La relación se aproxima bien con un polinomio de grado bajo en el rango observado.
- Errores independientes con varianza constante.
- Error de entrenamiento y de validación por grado.
- Grado elegido.
- Curva ajustada.
- La elección del grado depende de la partición; con pocos datos cambia entre semillas.
- Validación cruzada en 5 bloques: se elige el grado con menor error fuera de muestra.
- Los polinomios de grado alto oscilan violentamente fuera del rango de x.
- El R² en muestra siempre sube con el grado y no sirve para elegirlo.
- Hastie, T., Tibshirani, R. y Friedman, J. (2009). The Elements of Statistical Learning, 2.ª ed., cap. 7.