一、背景

• 现有问题 ：大多数现有工作假设训练数据中的样本都是高质量的，专注于增强边界框回归损失的拟合能力。然而，在 低质量样本 上 盲目增强边界框回归会损害定位性能 。
• 解决思路 ：本文使用 Wise-IoU ，其动态非单调FM使用异常值程度而非IoU来评估锚框的质量，并提供一种有效的梯度增益分配策略。 减少高质量锚框的竞争力，同时降低低质量样本产生的有害梯度 ，使 WIoU 能够专注于普通质量的锚框，从而提高检测器的整体性能。

---

---

二、原理

Wise-IoU 是一种基于IoU的损失函数， 旨在解决目标检测中边界框回归损失函数在处理低质量训练数据时的问题 。

2.1 原理

1. 动态非单调FM原理 — WIoU v3
   • 定义 异常值程度 $$\beta =\frac{L_{IoU}}{\overline{L_{IoU}}}$$ 其中 $L_{IoU}$ 是 锚框 与 目标 框的 IoU损失 ， $\overline{L_{IoU}}$ 是 $L_{IoU}$ 的 指数移动平均值 。
   • 根据 $\beta$ 构建非单调聚焦系数 $$r=\frac{\beta }{\delta {\alpha }^{\beta -\delta }}$$ （其中 $\delta$ 使 $r=1$ 当 $\beta =\delta$ ），并应用于 WIoU v1 得到 WIoU v3 ，即 ${\mathcal{L}}_{WIoUv3}=r{\mathcal{L}}_{WIoUv1}$ 。当锚框的异常值程度满足 $\beta =C$ （ $C$ 为常数）时，锚框将获得最高梯度增益。由于 $\overline{L_{IoU}}$ 是动态的，锚框的质量划分标准也是动态的，使 WIoU v3 能够在每个时刻做出最符合当前情况的梯度增益分配策略。
2. WIoU v1原理
   • 通过构造 距离注意力机制 ，定义 $${\mathcal{L}}_{WIoUv1}={\mathcal{R}}_{WIoU}{\mathcal{L}}_{IoU}$$ 其中 ${\mathcal{R}}_{WIoU}=exp(\frac{(x-x_{gt}{)}^2+(y-y_{gt}{)}^2}{(W_g^2+H_g^2{)}^{\ast }})$ （ $W_g$ ， $H_g$ 是最小包围框的大小，上标 $\ast$ 表示将其从计算图中分离以 防止产生阻碍收敛的梯度 ）。当锚框与目标框重合较好时， ${\mathcal{R}}_{WIoU}\in [1,e)$ 会显著放大普通质量锚框的 $L_{IoU}$ ，而高质量锚框的 $L_{IoU}\in [0,1]$ 会显著降低 ${\mathcal{R}}_{WIoU}$ ，使其聚焦于中心点之间的距离。
3. WIoU v2原理
   • 学习 Focal Loss的思想 ，为 ${\mathcal{L}}_{WIoUv1}$ 构造单调聚焦系数 ${\mathcal{L}}_{IoU}^{\gamma \ast }$ ，得到： $${\mathcal{L}}_{WIoUv2}={\mathcal{L}}_{IoU}^{\gamma \ast }{\mathcal{L}}_{WIoUv1}$$ $$\gamma >0$$ 由于聚焦系数的加入，梯度也发生变化： $$\frac{\partial {\mathcal{L}}_{WIoUv2}}{\partial {\mathcal{L}}_{IoU}}={\mathcal{L}}_{IoU}^{\gamma \ast }\frac{\partial {\mathcal{L}}_{WIoUv1}}{\partial {\mathcal{L}}_{IoU}}$$ 为解决训练后期收敛速度慢的问题，引入 $L_{IoU}$ 的均值作为归一化因子，即: $${\mathcal{L}}_{WIoUv2}=(\frac{{\mathcal{L}}_{IoU}^{\ast }}{{\overline{\mathcal{L}}}_{IoU}}{)}^{\gamma }{\mathcal{L}}_{WIoUv1}$$ 其中 $\overline{L_{IoU}}$ 是带有动量 $m$ 的指数移动平均。动态更新归一化因子使梯度增益 $r=(\frac{L_{IoU}}{\overline{L_{IoU}}}{)}^{\gamma }$ 总体保持在较高水平。

2.2 优势

1. 整体性能提升 ：动态非单调FM使模型具有更好的泛化性能。 WIoU v1 通过注意力机制对惩罚项的调整，与 动态非单调FM 相互作用，使模型性能显著提高。
2. 有效处理低质量样本 ： 动态非单调FM 能够减少高质量锚框的竞争力，降低低质量样本产生的有害梯度，从而屏蔽低质量样本的影响。
3. 更好的梯度分配策略 ：通过动态调整锚框的质量划分标准， WIoU v3 能够在训练过程中做出最符合当前情况的梯度增益分配策略，使模型在训练过程中精度提升更快。

论文链接： https://arxiv.org/pdf/2301.10051
源码链接： https://github.com/Instinct323/wiou

三、添加步骤

3.1 ultralytics/utils/metrics.py

此处需要查看的文件是 ultralytics/utils/metrics.py

metrics.py 中定义了模型的损失函数和计算方法，我们想要加入新的损失函数就只需要将代码放到这个文件内即可

将下方的 bbox_iou 函数 替换 原本的 bbox_iou 函数即可：

class WIoU_Scale:
    ''' monotonous: {
            None: origin v1
            True: monotonic FM v2
            False: non-monotonic FM v3
        }
        momentum: The momentum of running mean'''
    
    iou_mean = 1.
    monotonous = False
    _momentum = 1 - 0.5 ** (1 / 7000)
    _is_train = True
 
    def __init__(self, iou):
        self.iou = iou
        self._update(self)
    
    @classmethod
    def _update(cls, self):
        if cls._is_train: cls.iou_mean = (1 - cls._momentum) * cls.iou_mean + \
                                         cls._momentum * self.iou.detach().mean().item()
    
    @classmethod
    def _scaled_loss(cls, self, gamma=1.9, delta=3):
        if isinstance(self.monotonous, bool):
            if self.monotonous:
                return (self.iou.detach() / self.iou_mean).sqrt()
            else:
                beta = self.iou.detach() / self.iou_mean
                alpha = delta * torch.pow(gamma, beta - delta)
                return beta / alpha
        return 1

def bbox_iou(box1, box2, xywh=True, GIoU=False, DIoU=False, CIoU=False, SIoU=False, EIoU=False, WIoU=False, Focal=False, alpha=1, gamma=0.5, scale=False, eps=1e-7):
    # Returns Intersection over Union (IoU) of box1(1,4) to box2(n,4)
 
    # Get the coordinates of bounding boxes
    if xywh:  # transform from xywh to xyxy
        (x1, y1, w1, h1), (x2, y2, w2, h2) = box1.chunk(4, -1), box2.chunk(4, -1)
        w1_, h1_, w2_, h2_ = w1 / 2, h1 / 2, w2 / 2, h2 / 2
        b1_x1, b1_x2, b1_y1, b1_y2 = x1 - w1_, x1 + w1_, y1 - h1_, y1 + h1_
        b2_x1, b2_x2, b2_y1, b2_y2 = x2 - w2_, x2 + w2_, y2 - h2_, y2 + h2_
    else:  # x1, y1, x2, y2 = box1
        b1_x1, b1_y1, b1_x2, b1_y2 = box1.chunk(4, -1)
        b2_x1, b2_y1, b2_x2, b2_y2 = box2.chunk(4, -1)
        w1, h1 = b1_x2 - b1_x1, (b1_y2 - b1_y1).clamp(eps)
        w2, h2 = b2_x2 - b2_x1, (b2_y2 - b2_y1).clamp(eps)
 
    # Intersection area
    inter = (b1_x2.minimum(b2_x2) - b1_x1.maximum(b2_x1)).clamp(0) * \
            (b1_y2.minimum(b2_y2) - b1_y1.maximum(b2_y1)).clamp(0)
 
    # Union Area
    union = w1 * h1 + w2 * h2 - inter + eps
    if scale:
        self = WIoU_Scale(1 - (inter / union))
 
    # IoU
    # iou = inter / union # ori iou
    iou = torch.pow(inter/(union + eps), alpha) # alpha iou
    if CIoU or DIoU or GIoU or EIoU or SIoU or WIoU:
        cw = b1_x2.maximum(b2_x2) - b1_x1.minimum(b2_x1)  # convex (smallest enclosing box) width
        ch = b1_y2.maximum(b2_y2) - b1_y1.minimum(b2_y1)  # convex height
        if CIoU or DIoU or EIoU or SIoU or WIoU:  # Distance or Complete IoU https://arxiv.org/abs/1911.08287v1
            c2 = (cw ** 2 + ch ** 2) ** alpha + eps  # convex diagonal squared
            rho2 = (((b2_x1 + b2_x2 - b1_x1 - b1_x2) ** 2 + (b2_y1 + b2_y2 - b1_y1 - b1_y2) ** 2) / 4) ** alpha  # center dist ** 2
            if CIoU:  # https://github.com/Zzh-tju/DIoU-SSD-pytorch/blob/master/utils/box/box_utils.py#L47
                v = (4 / math.pi ** 2) * (torch.atan(w2 / h2) - torch.atan(w1 / h1)).pow(2)
                with torch.no_grad():
                    alpha_ciou = v / (v - iou + (1 + eps))
                if Focal:
                    return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha)), torch.pow(inter/(union + eps), gamma)  # Focal_CIoU
                else:
                    return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha))  # CIoU
            elif EIoU:
                rho_w2 = ((b2_x2 - b2_x1) - (b1_x2 - b1_x1)) ** 2
                rho_h2 = ((b2_y2 - b2_y1) - (b1_y2 - b1_y1)) ** 2
                cw2 = torch.pow(cw ** 2 + eps, alpha)
                ch2 = torch.pow(ch ** 2 + eps, alpha)
                if Focal:
                    return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2), torch.pow(inter/(union + eps), gamma) # Focal_EIou
                else:
                    return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2) # EIou
            elif SIoU:
                # SIoU Loss https://arxiv.org/pdf/2205.12740.pdf
                s_cw = (b2_x1 + b2_x2 - b1_x1 - b1_x2) * 0.5 + eps
                s_ch = (b2_y1 + b2_y2 - b1_y1 - b1_y2) * 0.5 + eps
                sigma = torch.pow(s_cw ** 2 + s_ch ** 2, 0.5)
                sin_alpha_1 = torch.abs(s_cw) / sigma
                sin_alpha_2 = torch.abs(s_ch) / sigma
                threshold = pow(2, 0.5) / 2
                sin_alpha = torch.where(sin_alpha_1 > threshold, sin_alpha_2, sin_alpha_1)
                angle_cost = torch.cos(torch.arcsin(sin_alpha) * 2 - math.pi / 2)
                rho_x = (s_cw / cw) ** 2
                rho_y = (s_ch / ch) ** 2
                gamma = angle_cost - 2
                distance_cost = 2 - torch.exp(gamma * rho_x) - torch.exp(gamma * rho_y)
                omiga_w = torch.abs(w1 - w2) / torch.max(w1, w2)
                omiga_h = torch.abs(h1 - h2) / torch.max(h1, h2)
                shape_cost = torch.pow(1 - torch.exp(-1 * omiga_w), 4) + torch.pow(1 - torch.exp(-1 * omiga_h), 4)
                if Focal:
                    return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha), torch.pow(inter/(union + eps), gamma) # Focal_SIou
                else:
                    return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha) # SIou
            elif WIoU:
                if Focal:
                    raise RuntimeError("WIoU do not support Focal.")
                elif scale:
                    return getattr(WIoU_Scale, '_scaled_loss')(self), (1 - iou) * torch.exp((rho2 / c2)), iou # WIoU https://arxiv.org/abs/2301.10051
                else:
                    return iou, torch.exp((rho2 / c2)) # WIoU v1
            if Focal:
                return iou - rho2 / c2, torch.pow(inter/(union + eps), gamma)  # Focal_DIoU
            else:
                return iou - rho2 / c2  # DIoU
        c_area = cw * ch + eps  # convex area
        if Focal:
            return iou - torch.pow((c_area - union) / c_area + eps, alpha), torch.pow(inter/(union + eps), gamma)  # Focal_GIoU https://arxiv.org/pdf/1902.09630.pdf
        else:
            return iou - torch.pow((c_area - union) / c_area + eps, alpha)  # GIoU https://arxiv.org/pdf/1902.09630.pdf
    if Focal:
        return iou, torch.pow(inter/(union + eps), gamma)  # Focal_IoU
    else:
        return iou  # IoU

3.2 修改ultralytics/utils/loss.py

utils\loss.py 用于计算各种损失。

在 BboxLoss函数 内修改如下代码，使模型调用此 WIoU 损失函数。

iou = bbox_iou(pred_bboxes[fg_mask], target_bboxes[fg_mask], xywh=False, WIoU=True, scale=True)
if type(iou) is tuple:
    if len(iou) == 2:
        loss_iou = ((1.0 - iou[0]) * iou[1].detach() * weight).sum() / target_scores_sum
    else:
        loss_iou = (iou[0] * iou[1] * weight).sum() / target_scores_sum
else:
    loss_iou = ((1.0 - iou) * weight).sum() / target_scores_sum

3.3 修改ultralytics/utils/tal.py

tal.py中是一些损失函数的功能应用。

在 iou_calculation函数 内修改如下代码，使模型调用此 WIoU 损失函数。

return bbox_iou(gt_bboxes, pd_bboxes, xywh=False).squeeze(-1).clamp_(0)

四、成功运行截图