Familia de técnicas que estabilizan problemas mal planteados o mal condicionados añadiendo información, restricciones o términos de suavizado (regularizadores) para seleccionar una solución bien comportada; se usan en problemas inversos, optimización y aprendizaje automático.

Principio

Introducir estructura adicional o penalización (p. ej. penalizaciones de norma, operadores de suavizado, distribuciones a priori) para controlar la inestabilidad o la no unicidad, intercambiando sesgo por varianza y permitiendo un cálculo estable y la selección de soluciones con sentido.

Demostración

Regularización de Tikhonov para problemas inversos lineales: resolver min_x ||Ax−b||^2 + λ||Lx||^2 donde λ>0 controla el suavizado o la penalización (L suele ser la identidad o un operador derivativo); al aumentar λ la solución se vuelve más suave y estable, con coste de sesgo.

Aplicación incorrecta

Elegir un regularizador o parámetro inadecuado (sobre-regularizar que borra la señal, sub-regularizar que deja la inestabilidad), usar la regularización para ocultar una especificación de modelo incorrecta en lugar de corregir el modelo, o ignorar efectos dependientes de la escala al interpretar resultados.

Consecuencia

Produce soluciones aproximadas estables y determinadas de forma única con sensibilidad al ruido controlada; permite algoritmos numéricos e interpretación estadística, pero requiere selección de parámetros y conciencia del sesgo introducido.

Inversión

Inversión o ajuste no regularizado que intenta resolver directamente un problema mal planteado y a menudo amplifica el ruido, produciendo soluciones inestables o no únicas.

Límite

La regularización aborda la inestabilidad y la no unicidad dado un modelo y datos, pero no sustituye la correcta especificación del modelo ni permite extrapolar más allá de la información contenida en los datos; la forma del regularizador y la selección del parámetro afectan decisivamente los resultados.

Tensión semántica

Tensión entre interpretación por penalización (frecuentista) y por prior (bayesiana): el mismo regularizador puede interpretarse como penalización o como prior, llevando a intuiciones distintas sobre sesgo, cuantificación de incertidumbre y elección de parámetros.

Síntesis

La regularización impone restricciones o penalizaciones adicionales para convertir problemas mal condicionados o mal planteados en problemas estables y resolubles, produciendo soluciones aproximadas cuya estabilidad y sesgo están controlados por la elección y la fuerza del regularizador.