Función PyTorch torch.nn.HuberLoss

PyTorch torch.nn 参考手册Manual de referencia de PyTorch torch.nn

torch.nn.HuberLossEs la función de pérdida Huber en PyTorch.

Es una combinación de MSE y MAE, robusta a valores atípicos y con gradientes estables.

Definición de la función

torch.nn.HuberLoss(delta=1.0, reduction='mean')

Parámetros:

  • delta: punto de conmutación, más allá de este valor se utiliza MAE
  • reduction: método de agregación

Principio matemático

L(y, ŷ) = 0.5 * (y - ŷ)², if |y - ŷ| ≤ δ
L(y, ŷ) = δ * |y - ŷ| - 0.5 * δ², if |y - ŷ| > δ

Ejemplo de uso

Ejemplo 1: Uso básico

Ejemplo

import torch
import torch.nn as nn

criterion = nn.HuberLoss(delta=1.0)

pred = torch.tensor([1.0, 2.0, 3.0, 10.0])
target = torch.tensor([1.5, 2.5, 3.5, 8.0])

loss = criterion(pred, target)
print("Huber Loss:", loss.item())

# Comparar MSE
mse = nn.MSELoss()(pred, target)
print("MSE Loss:", mse.item())

Ejemplo 2: Entrenamiento de regresión

Ejemplo

import torch
import torch.nn as nn

model = nn.Linear(10, 1)
criterion = nn.HuberLoss()
optimizer = torch.optim.Adam(model.parameters())

# Entrenamiento
X = torch.randn(100, 10)
y = torch.randn(100, 1)

model.train()
optimizer.zero_grad()
output = model(X)
loss = criterion(output, y)
loss.backward()
optimizer.step()

print("Pérdida de entrenamiento:", loss.item())

Casos de uso

  • Tarea de regresión: datos con valores atípicos
  • Detección de objetos: regresión de cajas delimitadoras
  • Entrenamiento robusto: datos ruidosos

PyTorch torch.nn 参考手册Manual de referencia de PyTorch torch.nn

Otras extensiones