Reglas comunes de derivación: funciones potencia, exponenciales y logaritmos
En el capítulo anterior entendimos el significado de las derivadas; en este capítulo dominaremos el cálculo práctico. Si recuerdas las reglas de derivación de los tres tipos de funciones más utilizadas en IA, podrás manejar la mayoría de los escenarios.
Tabla rápida de derivadas de funciones básicas
| Función f(x) | Derivada f'(x) | Escenarios donde aparece en IA |
|---|---|---|
| \( c \) (constante) | \( 0 \) | Al derivar el término de sesgo, la constante se anula |
| \( x^n \) | \( nx^{n-1} \) | \( x^2 \) en la pérdida MSE |
| \( e^x \) | \( e^x \) | Sigmoid、Softmax |
| \( \ln x \) | \( \frac{1}{x} \) | Pérdida de entropía cruzada |
Reglas de derivación de las cuatro operaciones aritméticas
| Regla | Fórmula |
|---|---|
| Suma y resta | \( (f \pm g)' = f' \pm g' \) |
| Producto | \( (fg)' = f'g + fg' \) |
| Multiplicación por escalar | \( (cf)' = cf' \) |
La derivada más importante:\( (e^x)' = e^x \)— la derivada de la función exponencial es igual a sí misma.
Esto hace que la función exponencial esté presente en todas partes en ecuaciones diferenciales y aprendizaje profundo.
Ejemplo de la vida real
Aprender reglas de derivación es como aprender técnicas de cuchillo en la cocina: cada regla es una habilidad básica, y al combinarlas puedes manejar cualquier receta.
\( (e^x)' = e^x \) es como un ingrediente inmutable: sin importar cómo se procese, siempre permanece igual.
Definición matemática
Derivada de función potencia: reduce la potencia en uno, multiplica por el exponente original
\[ \frac{d}{dx} x^n = n x^{n-1} \]Esta es la fórmula de derivación más básica. Por ejemplo, \( (x^2)' = 2x \), \( (x^3)' = 3x^2 \).
\( (y - \hat{y})^2 \) en la pérdida MSE es una función potencia; al derivarla se obtiene \( 2(y - \hat{y}) \).
Derivada de función exponencial: la derivada es ella misma
\[ \frac{d}{dx} e^x = e^x \]Es una de las funciones más singulares de las matemáticas.La derivada de e^x sigue siendo e^x; sin importar cuántas veces se derive, siempre permanece igual.
Esta propiedad hace que e^x aparezca repetidamente en la función Sigmoid \( \sigma(x) = 1/(1+e^{-x}) \) y en Softmax.
Derivada de función logarítmica
\[ \frac{d}{dx} \ln x = \frac{1}{x} \]Se usa al derivar el término log en la pérdida de entropía cruzada. Las derivadas de logaritmo y exponencial tienen una relación recíproca: son funciones inversas entre sí.
Regla de la suma y la resta
\[ (f \pm g)' = f' \pm g' \]La derivada de una suma = la suma de las derivadas. La operación de derivación puede «atravesar» los signos de suma y resta, derivando cada término por separado.
Regla del producto
\[ (f \cdot g)' = f' \cdot g + f \cdot g' \]La derivada de un producto ≠ el producto de las derivadas. Más bien es «la derivada del primero por el segundo + el primero por la derivada del segundo».
Esta regla aparece a menudo en la retropropagación: cuando se calcula la derivada parcial de \( w \cdot x \) con respecto a w, se usa la regla del producto.
Combinando estos tres tipos de funciones y las tres reglas, se pueden obtener las derivadas de la gran mayoría de las funciones en IA.
Por ejemplo, la derivada de Sigmoid \( \sigma'(x) = \sigma(x)(1-\sigma(x)) \) se obtiene combinando la regla del cociente, la derivada de la función exponencial y la regla de la cadena.
Práctica con Python
Ejemplo
x = sp.Symbol('x')
funcs = {'x^3': x**3, 'e^x': sp.exp(x), 'ln(x)': sp.log(x),
'x^2 + 3x + 5': x**2 + 3*x + 5}
print("=== Verificación de derivación simbólica ===")
for name, f in funcs.items():
print(f"f(x)={name:15s} → f'(x)={sp.diff(f, x)}")
# Regla del producto
f = x**2 * sp.exp(x)
print(f"\n(x^2 · e^x)' = {sp.diff(f, x)}")
# Regla de la cadena: derivada de (2x+1)^3
g = (2*x + 1)**3
print(f"((2x+1)^3)' = {sp.diff(g, x)}")
Escenarios de aplicación en IA
Cálculo de gradientes en la retropropagación
Cada capa de la red neuronal involucra estas reglas básicas de derivación. La capa lineal y = Wx + b usa la regla del producto para derivar con respecto al parámetro W, y la derivada con respecto a b usa el hecho de que la derivada de una constante es 0.
Derivación de la derivada de la función de activación Sigmoid
\( \sigma(x) = 1/(1+e^{-x}) \), usando la regla del cociente se obtiene \( \sigma'(x) = \sigma(x)(1-\sigma(x)) \). Esta forma compacta se calcula muy rápido en la retropropagación: solo se necesita el valor de \sigma(x) ya calculado en la propagación hacia adelante, sin recalcular la exponencial.
Gradiente combinado de Softmax + entropía cruzada
Softmax incluye exponenciales, sumas y divisiones; derivarlo por separado es muy complejo. Pero al combinarse con la pérdida de entropía cruzada, el gradiente se simplifica milagrosamente a \( \hat{y} - y \) (predicción - etiqueta real): es una de las simplificaciones de derivadas más elegantes en el aprendizaje profundo y la razón fundamental de que Softmax+CE sea el estándar en tareas de clasificación.
Otras extensiones