Mínimos Cuadrados
El término mínimos cuadrados describe un enfoque frecuentemente usado para resolver sistemas de ecuaciones sobre determinados o especificados inexactamente en algún sentido apropiado. En lugar de resolver las ecuaciones exactamente, se busca solamente minimizar la suma de los cuadrados de los residuales. Muchos de los problemas que aparecen en las ciencias y en las aplicaciones se pueden reducir a la solución de un problema de mínimos cuadrados, o bien contienen sus problemas de mínimos cuadrados. Asimismo, en la actualidad los métodos de mínimos cuadrados son de fundamental importancia en la teoría y solución de los problemas inversos así como de los problemas mal planteados en el sentido de Hadamard. Estos problemas usualmente no tienen solución o bien la solución no es única y, en el mejor de los casos, la solución no es continua respecto de los datos. En una gran cantidad de estos problemas es necesario regularizar el problema para encontrar una solución. El enfoque generalmente es por medio de mínimos cuadrados en espacios de Hilbert. En este capítulo abordaremos el problema de mínimos cuadrados lineales, estudiaremos el problema desde el enfoque de proyecciones ortogonales, presentaremos dos métodos de solución que involucran la solución de sistemas de ecuaciones lineales: el método de ecuaciones normales y el método de factorización QR.
Una recta que mejor se ajusta es una línea recta que es la mejor aproximación del conjunto de datos dado.
Es usada para estudiar la naturaleza de la relación entre dos variables.
Una recta que mejor se ajusta puede ser determinada aproximadamente usando el método visual al dibujar una línea recta en una gráfica de dispersión para que tanto el número de puntos arriba de la recta y debajo de la recta sean casi iguales (y la línea pasa a través de tantos puntos como sea posible).
Una forma más precisa de encontrar la recta que mejor se ajusta es el método de mínimos cuadrados.
Use los pasos siguientes para encontrar la ecuación de la recta que mejor se ajusta para un conjunto de parejas ordenadas.
Paso 1: Calcule la media de los valores de x y la media de los valores de y.
Paso 2: Realice la suma de los cuadrados de los valores de x.
Paso 3: Realice la suma de cada valor de x multiplicado por su valor correspondiente y.
Paso 4: Calcule la pendiente de la recta usando la fórmula:
Donde n es el número total de puntos de los datos.
Paso 5: Calcule la intercepción en y de la recta usando la fórmula:
Donde 
son las medias de las coordenadas de x y y de los puntos de datos respectivamente.
Paso 6: Use la pendiente y la intercepción en y para formar la ecuación de la recta.
Existen numerosas leyes físicas en las que se sabe de antemano que dos magnitudes x e y se relacionan a través de una ecuación lineal y = ax + b donde las constantes b (ordenada en el origen) y a (pendiente) dependen del tipo de sistema que se estudia y, a menudo, son los parámetros que se pretende encontrar.
El procedimiento mas objetivo para ajustar una recta a un conjunto de datos presentados en un diagrama de dispersión se conoce como "el método de los mínimos cuadrados". La recta resultante presenta dos características importantes:
1. Es nula la suma de las desviaciones verticales de los puntos a partir de la recta de ajuste
∑ (Yｰ - Y) = 0.
2. Es mínima la suma de los cuadrados de dichas desviaciones. Ninguna otra recta daría una suma menor de las desviaciones elevadas al cuadrado ∑ (Yｰ - Y)² → 0 (mínima).
El procedimiento consiste entonces en minimizar los residuos al cuadrado Ci²
La obtención de los valores de a y b que minimizan esta función es un problema que se puede resolver recurriendo a la derivación parcial de la función en términos de a y b: llamemos G a la función que se va a minimizar:
Tomemos las derivadas parciales de G respecto de a y b que son las incógnitas y las igualamos a cero; de esta forma se obtienen dos ecuaciones llamadas ecuaciones normales del modelo que pueden ser resueltas por cualquier método ya sea igualación o matrices para obtener los valores de a y b.
Derivamos parcialmente la ecuación respecto de a:
Primera ecuación normalDerivamos parcialmente la ecuación respecto de b
