REGRESION LINEAL EXPLICADA

En un post anterior comenté sobre el algoritmo básico y mejor entendido del machine learning: la regresión lineal. 

El análisis de regresión es una metodología estadística que permite determinar la fuerza de la relación de dos variables. La regresión no se limita a dos variables, se pueden utilizar más de dos variables. 

Los resultados de la regresión ayudan a predecir un valor desconocido en función de la relación con las variables de predicción. Por ejemplo, la altura y el peso de una persona suelen tener una relación. Generalmente, las personas más altas tienden a pesar más. Podríamos usar el análisis de regresión para ayudar a predecir el peso de un individuo, conociendo su altura.

Cuando hay una sola variable de entrada, la regresión se denomina Regresión lineal simple. Se utiliza la variable única (independiente) para modelar una relación lineal con la variable objetivo (dependiente). Esto se hace ajustando un modelo para describir la relación. 

Si hay más que una variable de predicción, la regresión se denomina Regresión lineal múltiple.

Cuando se intenta encontrar la "línea de mejor ajuste", el modelo de regresión se le llama Regresión de mínimos cuadrados ordinarios. Esto significa que se está utilizando la suma más pequeña de errores al cuadrado. El error es la diferencia entre el valor de y predicho restado del valor de y real. La diferencia se eleva al cuadrado, por lo que hay una diferencia absoluta y se suma.

Coeficientes de regresión

Al realizar una regresión lineal simple, los cuatro componentes principales son:

• Variable dependiente, X, : la variable objetivo / será estimada y predicha
• Variable independiente ,Y: variable predictora / utilizada para estimar y predecir
• Pendiente: ángulo de la línea / indicado como "m" ò  𝛽1
• Intercepto: donde la función cruza el eje y / se indica como c o 𝛽0
• La ecuación de regresión puede expresarse como (ambas formas son vàlidas):
• Y = m + cX     
• Y = 𝛽0 + 𝛽1 X

Los dos últimos, pendiente e intercepto, son los coeficientes / parámetros del modelo de regresión lineal, De lo que se trata es de encontrar la línea recta (entre un número infinito de líneas) que mejor se ajuste a los datos. 

R-cuadrado / coeficiente de determinación (R-squared)

El objetivo de la regresión lineal es encontrar la "línea de mejor ajuste" que describe los datos. Sin embargo,  la línea encontrada no representa completamente la relación entre las variables ya que habrà error entre el valor medido y el predicho (y_medido - y_predicho). El coeficiente R-Cuadrado se usa para determinar qué tan bien se ajusta un modelo a los datos. Este coeficiente también se conoce como coeficiente de determinación. 

Algoritmos basicos en machine learning. 1 REGRESION LINEAL

Este es el primero de una serie de posts sobre algoritmos de machine learning (ML) que se utilizan comúnmente en data science o ciencia de datos

La regresión lineal es el algoritmo más conocido y mejor entendido en estadística y aprendizaje automático. La regresión lineal es un modelo lineal, es decir, un modelo que asume una relación lineal entre las variables de entrada (x) y la variable de salida única (y), lo que significa que y se puede calcular fácilmente usando la relación lineal.

Cuando hay una sola variable de entrada (x), la ecuación se denomina regresión lineal simple.

Cuando hay más de una variable de entrada, la ecuación se denomina regresión lineal múltiple.

La ecuación y = a + b1 * x (donde x es la variable de entrada, y es la variable de salida y a y b son los coeficientes) representa gráficamente una regresión lineal(ver figura) 

La recta de la regresión se encuentra minimizando las distancias al cuadrado entre los puntos y la línea de mejor ajuste y esto se conoce como minimizar la suma de los residuos al cuadrado. Los residuos se definen simplemente como el valor predicho (por la ecuación de regresión) menos el valor real.

En el próximo post (lunes próximo) explicaré con más detalle la regresión lineal