Funcion de error o costo de una red neuronal

Función de costo para regresión lineal

La función de costo para la regresión lineal es el error cuadrático medio (MSE) de la diferencia entre los valores predichos y los valores reales. El error cuadrático medio es el promedio de la diferencia al cuadrado entre el valor predicho y el valor real.

$MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y_i})^2$

Donde:

• $y_i$ es el valor real y $\hat{y_i}$ es el valor predicho.
• $n$ es el número de ejemplos.

Función de costo para regresión logística

La función de costo para la regresión logística es la entropía cruzada binaria (BCE) de la diferencia entre los valores predichos y los valores reales. La entropía cruzada binaria es una medida de la diferencia entre dos distribuciones de probabilidad.

$BCE = - \frac{1}{n} \sum_{i=1}^{n} y_i \log(\hat{y_i}) + (1 - y_i) \log(1 - \hat{y_i})$

Donde:

• $y_i$ es el valor real y $\hat{y_i}$ es el valor predicho.
• $n$ es el número de ejemplos.