Función torch.nn.InstanceNorm2d de PyTorch

PyTorch torch.nn 参考手册Manual de referencia de PyTorch torch.nn

torch.nn.InstanceNorm2dEs el módulo de normalización de instancias en PyTorch.

Normaliza de forma independiente cada canal de cada muestra, y se usa comúnmente en transferencia de estilo.

Definición de la función

torch.nn.InstanceNorm2d(num_features, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)

Parámetros

  • num_features: número de canales
  • affine: si se utilizan parámetros aprendibles

Ejemplos de uso

Ejemplo 1: Uso básico

Ejemplo

import torch
import torch.nn as nn

inorm = nn.InstanceNorm2d(64)

# Entrada
x = torch.randn(4, 64, 16, 16)
output = inorm(x)

print("Entrada:", x.shape, "-> Salida:", output.shape)

Ejemplo 2: Transferencia de estilo

Ejemplo

import torch
import torch.nn as nn

# Las redes de transferencia de estilo suelen usar InstanceNorm
class StyleNet(nn.Module):
    def __init__(self):
        super(StyleNet, self).__init__()
        self.conv1 = nn.Conv2d(3, 32, 3, padding=1)
        self.in1 = nn.InstanceNorm2d(32)
        self.conv2 = nn.Conv2d(32, 64, 3, padding=1)
        self.in2 = nn.InstanceNorm2d(64)

    def forward(self, x):
        x = self.conv1(x)
        x = self.in1(x)
        x = torch.relu(x)
        x = self.conv2(x)
        x = self.in2(x)
        return x

net = StyleNet()
x = torch.randn(1, 3, 256, 256)
output = net(x)

print("Entrada:", x.shape, "-> Salida:", output.shape)

Ejemplo 3: Comparación con BatchNorm

Ejemplo

import torch
import torch.nn as nn

bn = nn.BatchNorm2d(32)
inorm = nn.InstanceNorm2d(32)

x = torch.randn(4, 32, 8, 8)

print("BatchNorm mean:", bn(x).mean(dim=(0, 2, 3))[:5].tolist())
print("InstanceNorm mean:", inorm(x).mean(dim=(0, 2, 3))[:5].tolist())

Casos de uso

  • Transferencia de estilo: NIN、AdaIN
  • Síntesis de texturas
  • Batch pequeño: apto para batch=1

Nota: por defecto affine=False, no incluye parámetros aprendibles.

PyTorch torch.nn 参考手册Manual de referencia de PyTorch torch.nn

Otras extensiones