CN111161306B

CN111161306B - 一种基于运动注意力的视频目标分割方法

Info

Publication number: CN111161306B
Application number: CN201911402450.2A
Authority: CN
Inventors: 付利华; 杨寒雪; 杜宇斌; 姜涵煦
Original assignee: Beijing University of Technology
Current assignee: Beijing University of Technology
Priority date: 2019-12-31
Filing date: 2019-12-31
Publication date: 2023-06-02
Anticipated expiration: 2039-12-31
Also published as: CN111161306A

Abstract

本发明提供了一种基于运动注意力的视频目标分割方法，该方法将通道注意力模块输出的通道特征图和运动注意力模块输出的位置特征图进行相加，获得当前帧的分割结果。其中，通道注意力模块的输入为当前帧特征图F_t和第一帧提供的目标物体的外观特征图F₀，通道注意力模块通过计算输入特征图F_t和F₀通道之间的关联，输出的通道特征图反映了当前帧中外观最接近目标物体的物体；运动注意力模块的输入为当前帧特征图F_t和前一帧运动注意力网络中的记忆模块预测的目标物体的位置信息H_t‑1，运动注意力模块通过计算输入特征图F_t和H_t‑1位置之间的关联，输出的位置特征图反映了当前帧中目标物体的大致位置。本发明结合外观和位置两个因素，实现了对视频目标更精确的分割。

Description

一种基于运动注意力的视频目标分割方法

技术领域

本发明属于图像处理和计算机视觉领域，涉及视频目标分割的方法，尤其涉及一种基于运动注意力的视频目标分割方法。

背景技术

视频目标分割是解决很多视频任务的先决条件，在目标识别、视频压缩等领域都起到举足轻重的作用。视频目标分割可定义为根据目标掩码，对目标进行跟踪并分割目标物体。而根据有无初始掩码，视频目标分割可分为半监督和无监督两种方式，半监督分割方法是在视频的第一帧手动初始化分割掩码，随即对目标对象进行跟踪分割。无监督方法在无任何先验信息的基础上，依据某种机制自动分割给定视频中的目标对象。

在视频场景中，背景杂乱无章、物体形变以及目标的快速运动都将影响分割结果。传统的视频目标分割技术采用刚性背景运动模型，并结合场景先验实现对目标物体的分割。然而，传统的视频目标分割技术所基于的假设在实际运用中存在一定的局限性。现有的视频目标分割技术多采用卷积神经网络，但其也存在着各种缺陷，如依赖帧与帧之间的光流分割视频中的运动物体，这使得分割效果容易受到光流估计错误的影响。此外，这些方法没有充分利用视频中的时序信息，未对场景中目标物体相关特征进行记忆。

为了解决上述问题，本发明研究了半监督方式下运动目标的分割问题，提出一种带有记忆模块的基于运动注意力的视频目标分割方法。

发明内容

本发明要解决的问题是：在视频目标分割中，仅仅依靠前一帧的分割结果确定当前帧的目标物体，无法获取目标物体的精确位置，甚至由于对前一帧分割结果的过度依赖，致使目标物体发生漂移；而现有的基于运动信息的视频目标分割方法，大多数基于当前帧及前一帧之间的光流信息进行目标物体的分割，不仅计算量大，更使得分割结果受限于特定的运动模式。因此需要提出一种新的基于运动信息的视频目标分割方法，提高分割效果。

为了解决上述问题，本发明提供了一种基于运动注意力的视频目标分割方法，融合视频序列中的运动时序信息，基于注意力机制实现视频目标分割，包括以下步骤：

1)构建分割主干网络，将当前帧I_t以及第一帧I₀分别输入主干网络,获得对应的特征图F_t,F₀；

2)构建运动注意力网络，将当前帧的特征图F_t、第一帧的特征图F₀，以及前一帧记忆模块的隐藏状态H_t-1作为运动注意力网络的输入，运动注意力网络的输出F_out，即为当前帧的分割结果；

3)构造损失函数，损失函数由两部分组成。第一部分是像素级损失函数；第二部分是结构相似性损失函数。

进一步，所属步骤1)中的构建分割主干网络，获得特征图F_t和F₀，具体为：

1.1)修改Resnet-50网络并融合空洞卷积。首先，设置Resnet-50中的conv_1的膨胀因子dilated＝2；其次，删除Resnet-50中的池化层；再然后设置Resnet-50中的conv_3和conv_4这两层的步长stride＝1；最后将修改后的Resnet-50作为主干网络，此时，主干网络输出的特征图是原始图像尺寸的1/8；

1.2)将当前帧I_t输入主干网络，得到关于当前帧的特征图F_t；

1.3)将第一帧I₀输入主干网络，得到关于第一帧的特征图F₀。

进一步，所属步骤2)中的构建运动注意力网络，获得当前帧的分割结果。

所述运动注意力网络由通道注意力模块、运动注意力模块以及记忆模块三部分组成。通道注意力模块、运动注意力模块以及记忆模块的构建具体为：

2.1)构建通道注意力模块，将F_t,F₀作为通道注意力模块的输入。F₀提供目标物体的颜色、姿态等外观信息。首先，F_t,F₀经过矩阵相乘，以及softmax函数，得到目标物体的通道权重注意力图X_c，X_c刻画了当前帧和第一帧中通道之间的关联性，关联性越高，其响应值越高，特征越相似；然后，将X_c与F_t相乘，进行特征强化，其结果与F_t进行残差相加，得到通道特征图；

2.2)构建运动注意力模块，将F_t,H_t-1作为当前模块的输入，H_t-1提供基于前一帧分割结果和时序信息所预测的当前帧目标物体的位置信息。首先，将特征图F_t分别经过两个卷积核为1×1的卷积层，得到两个特征图记为F_a和F_b；然后，F_a与H_t-1经过矩阵相乘，并通过softmax函数，得到目标物体的位置权重注意力图；最后，再将X_s与F_b相乘，进行特征强化，其结果与F_t进行残差相加，得到位置特征图；

2.3)将通道特征图和位置特征图相加，得到当前帧的最终分割结果F_out。

2.4)构建记忆模块convLSTM，将当前帧的分割结果F_out和前一帧记忆模块输出的记忆细胞C_t-1，前一帧记忆模块的隐藏状态H_t-1作为当前模块的输入，该模块的输出是记忆细胞C_t和隐藏状态H_t；

所述的convLSTM由输入门、遗忘门、输出门组成。

进一步，所述步骤2.4)构建记忆模块convLSTM，具体为：

2.4.1)首先，遗忘门遗弃前一帧记忆模块的记忆细胞C_t-1中部分状态信息,然后，输入门将当前帧分割结果F_out中有用信息保存到前一帧记忆细胞C_t-1中，最后，更新并输出当前帧记忆细胞C_t；

2.4.2)首先，输出门通过Sigmoid函数对当前帧分割结果F_out和前一帧记忆模块的隐藏状态H_t-1进行过滤，确定待输出的信息，然后，调用tanh激活函数修改当前帧记忆细胞C_t中的值，最后，将待输出的部分信息与修改后的当前帧记忆细胞C_t矩阵相乘，获得并输出当前帧隐藏状态H_t。

有益效果

本发明提供了一种基于运动注意力的视频目标分割方法，该方法首先获取第一帧和当前帧的特征图，然后将当前帧特征图F_t、第一帧提供的目标物体的外观特征F₀以及前一帧运动注意力网络中的记忆模块预测的目标物体的位置信息H_t-1，输入当前帧运动注意力网络，获取当前帧的分割结果。应用本发明专利，可解决其它分割方法无法解决的运动模式多样化问题。本发明适用于视频目标分割，具有很好的鲁棒性，分割效果精确。

本发明的特点：首先，本发明不再单纯关注前一帧的分割结果，而是借助第一帧中目标物体的外观信息，以及目标物体在视频序列中的时序信息，能够更准确地分割目标物体；其次，运动注意力网络的使用，大大减少了无用特征，提高了模型的鲁棒性。

附图说明

图1是本发明基于运动注意力的视频目标分割方法的流程图。

图2是本发明基于运动注意力的视频目标分割方法的网络结构图；

图3是Resnet-50结构图

图4是本发明基于运动注意力的视频目标分割方法使用的修改之后的Resnet-50结构图

具体实施方式

本发明提出了一种基于运动注意力的视频目标分割方法，该方法首先获取第一帧和当前帧的特征图，再将第一帧特征图、当前帧特征图以及前一帧运动注意力网络中记忆模块预测的目标物体位置信息，输入至运动注意力网络，获取当前帧的分割结果。本发明适用于视频目标分割，具有很好的鲁棒性，分割效果精确。

下面结合具体实例以及附图对本发明作出更详细阐述。

本发明包括以下步骤：

1)获取YouTube和Davis数据集，分别作为模型的训练集和测试集；

2)对训练数据进行预处理。对每个训练样例(视频帧)以及视频序列的第一帧掩码进行裁剪，将图像调整至224×224的分辨率，再使用旋转等方式进行数据增强；

3)构建分割主干网络，输入视频序列第一帧分割掩码以及当前帧，得到第一帧分割掩码和当前帧的分割特征图；

3.1)首先，设置Resnet-50中的conv_1的膨胀因子dilated＝2；其次，删除Resnet-50中的池化层；再然后设置Resnet-50中的conv_3和conv_4这两层的步长stride＝1；最后将修改后的Resnet-50作为主干网络，此时，主干网络输出的特征图是原始图像尺寸的1/8，如图4所示；

3.2)第一帧分割掩码的分辨率为224×224，将其输入主干网络，得到第一帧分割掩码的特征图F₀,大小为2048×28×28；

3.3)当前帧的分辨率为224×224，将其输入主干网络，得到当前帧的特征图F_t,大小为2048×28×28。

4)构建运动注意力网络，输入当前帧特征图F_t，前一帧记忆力模块的隐藏状态H_t-1，以及第一帧的特征图F₀，得到当前帧的分割结果F_out。所述运动注意力网络由通道注意力模块、运动注意力模块以及记忆模块三部分组成。

4.1)构建通道注意力模块。输入当前帧特征图F_t,以及第一帧特征图F₀，得到通道特征图E_c，具体如下：

4.1.1)调用python中的reshape函数，调整F_t大小，将其转化为特征图F′_t，大小为n×2048；调用python中的reshape函数，调整F₀大小，将其转化为特征图F′₀，大小为2048×n，其中，n表示当前帧的像素点总数；

4.1.2)F′₀与F′_t矩阵相乘，并调用softmax函数，其数学表述如下:

矩阵乘法可实现全局信息的利用与融合,其作用类似于全连接操作。全连接操作虽然可以考虑到所有位置的数据关系,但却破坏空间结构,因此使用矩阵乘法替代全连接操作，在使用全局信息的基础上，尽可能多地保留空间信息；

4.1.3)得到通道权重注意力图X_c，大小为2048×2048，通道权重注意力图X_c中第j行i列的元素x_ji的数学表述如下：

其中，F′_ti表示F′_t第i列，表示当前帧特征图F_t第i个通道，F′_0j表示F′₀第j行，表示第一帧特征图F₀第j个通道，x_ji表示第一帧特征图F₀的第i个通道对当前帧特征图F_t的第j个通道的影响，C表示当前帧特征图F_t通道个数。

4.1.4)通道权重注意力图X_c与特征图F′_t相乘，强化当前帧特征图F_t的特征，其结果与当前帧特征图F_t进行残差相加，得到通道特征图E_c，其数学表述如下：

其中，β表示通道注意力权重，初始值设置为零，模型通过学习，为β分配更大更合理的权重,F′_ti表示F′_t第i列，表示当前帧特征图F_t第i个通道，C表示当前帧特征图F_t通道个数。

4.2)构建运动注意力模块。输入当前帧特征图F_t,以及前一帧记忆力模块的隐藏状态H_t-1，得到位置特征图E_s，具体如下：

4.2.1)F_t分别经过两个卷积核为1×1的卷积层，得到两个特征图记为F_a和F_b，大小均为2048×28×28；

4.2.2)调用python中的reshape函数，调整F_a大小，将其转化为特征图F′_a，大小为2048×n；调用python中的reshape函数，调整F_b大小，将其转化为特征图F′_b，大小为2048×n；调用python中的reshape和transpose函数，调整H_t-1大小，将其转化为特征图H′_t-1，大小为n×2048，其中，n表示当前帧的像素点总数；

4.2.3)H′_t-1与F′_a矩阵相乘，调用softmax函数,得到位置权重注意力图X_s,大小为28×28，其数学表述如下:

其中，N表示当前帧的像素点个数，F_aj表示F′_a第j列，表示F_a的第j个位置，h_j表示H′_t-1的第i行，表示H_t-1第i个位置，s_ji是位置权重注意力图X_s第j行i列的元素值，s_ji表示隐藏状态H_t-1第i位置对当前帧特征图F_t第j个位置的影响。

4.2.4)位置权重注意力图和特征图F_b矩阵相乘,强化当前帧特征图F_t的特征，其结果与F_t进行残差相加，得到融合之后位置特征图E_s，数学公式表述如下：

其中，α表示位置注意力权重，初始值设置为零，模型通过学习，为α分配更大更合理的权重，F_bi表示特征图F_b第i列，表示当前帧特征图F_t第i个位置，N表示当前帧的像素点总数。

4.3)将位置特征图E_s与通道特征图E_c相加，得到当前帧的最终分割结果F_out。

4.4)构建记忆力模块，输入当前帧分割结果F_out，前一帧记忆模块的隐藏状态H_t-1，以及前一帧记忆模块的记忆细胞C_t-1，当前帧的记忆力模块convLSTM由遗忘门f_t、输入门i_t、输出门o_t组成；

4.4.1)遗忘门的输出张量中每个数值均在0到1之间，0表示完全遗忘，1表示完全保留，因此，遗忘门可实现选择性丢弃前一帧记忆细胞C_t-1中的信息，数学公式表述如下：

f_t＝σ(W_xf*F_out+W_hf*H_t-1+b_f)

其中，*表示卷积操作，σ表示sigmoid函数，F_out表示当前帧的分割结果，H_t-1表示前一帧记忆模块的隐藏状态。W_xf,W_hf为权重参数，取值为0到1之间，b_f为偏置量，初值设置为0.1，模型通过学习为b_f分配更合理数值；

4.4.2)输入门将从当前帧分割结果F_out中选择出待更新内容，数学公式表述如下：

i_t＝σ(W_xi*F_out+W_hi*H_t-1+b_i)

其中，*表示卷积操作，σ表示sigmoid函数，F_out表示当前帧的分割结果，H_t-1表示前一帧记忆模块的隐藏状态。W_xi,W_hi为权重参数，取值为0到1之间，b_i为偏置量，初值设置为0.1，模型通过学习为b_i分配更合理数值；

4.4.3)使用遗忘门丢弃前一帧记忆细胞C_t-1中的部分信息，并将有用信息保存到前一帧记忆细胞C_t-1中，输出更新之后的当前帧记忆细胞C_t，数学公式表述如下：

其中，*表示卷积操作，

为哈达玛积，Fo_ut表示当前帧的分割结果，H_t-1表示前一帧记忆模块的隐藏状态。W_xc,W_hc为权重参数，取值为0到1之间b_c为偏置量，初值设置为0.1，模型通过学习为b_c分配更合理数值；

4.4.4)当前帧记忆模块输出的隐藏状态H_t，数学公式表述如下：

o_t＝σ(W_xo*F_out+W_ho*H_t-1+b_o)

其中，tanh为激活函数，

为哈达玛积，o_t表示当前帧记忆模块中的输出门，*表示卷积操作，F_out表示当前帧的分割结果，H_t-1表示前一帧记忆模块的隐藏状态，W_ho,W_xo为权重参数，取值为0到1之间，b_o为偏置量，初值设置为0.1，模型通过学习为b_o分配更合理数值。

6)本分割模型所采用的损失函数由两部分组成。第一部分是像素级损失函数，第二部分是结构相似性损失函数，具体设计如下:

l＝l_cross+l_ssim

6.1)l_cross表示像素级交叉熵损失函数，数学公式表述如下：

其中，T(r,c)表示目标掩码第r行第c列处的像素值，S(r,c)表示分割结果第r行第c列处的像素值；

6.2)l_ssim表示结构相似性损失函数，从亮度、对比度以及结构三个方面比较目标掩码以及分割结果之间的差异，数学公式表述如下：

其中，A_x，A_y分别表示从模型预测的分割图以及目标掩码上截取的相同大小区域，x_i表示A_x区域中第i像素点的像素值，y_i表示A_y区域中第i像素点的像素值，N表示所截取区域的像素点总数，C₁和C₂是防止分母为零的常数，C₁设置为6.5025，C₂设置为58.5225，μ_x表示A_x的平均亮度，μ_y表A_y的平均亮度，σ_x代表A_x中明暗的变化程度，σ_y代表A_y中明暗的变化程度，σ_xy表示与结构相关的协方差公式。

7)对模型进行训练，选取步骤1)中的YouTube作为训练集，每批次训练样本数batch-size设置为4，学习率设置为1e-4，YouTube在上迭代训练30万次后，将学习率修改为1e-5，在YouTube再次迭代训练10万次，权重衰减率设置为0.0005，使用上述步骤6)中的损失函数训练模型，直至模型收敛。

本发明在视频目标分割和计算机视觉领域有着广泛的应用，例如：目标跟踪、图像识别等。下面参照附图，对本发明进行详尽的描述。

(1)构建分割主干网络，将当前帧I_t以及第一帧I₀分别输入主干网络,获得对应的特征图F_t,F₀；

(2)构建运动注意力网络，将当前帧特征图F_t，第一帧特征图F₀，作为运动注意力网络中通道注意力模块的输入，得到通道特征图，将F_t和前一帧记忆模块的隐藏状态H_t-1作为运动注意力网络中运动注意力模块的输入，得到位置特征图，位置特征图和通道特征图相加得到运动注意力网络的输出F_out，即为当前帧的分割结果，将当前帧的分割结果F_out、前一帧记忆模块输出的记忆细胞C_t-1以及前一帧记忆模块的隐藏状态H_t-1作为运动注意力网络中记忆模块的输入，得到记忆细胞C_t和隐藏状态H_t。记忆细胞C_t用于保存目标物体的时序信息并根据当前帧的分割结果对时序信息进行更新，H_t提供基于当前分割结果和时序信息所预测的下一帧目标物体的位置信息。记忆模块convLSTM不仅保留了当前帧目标物体的空间信息，也保留了目标物体的时序信息，因此能获得目标物体的远距离位置依赖关系。

在GTX 1080Ti GPU和Ubuntu14.04 64位操作系统下，采用PyTorch框架和Python语言实现该方法。

本发明提供了一种基于运动注意力的视频目标分割方法，适用于视频中的的运动物体分割，鲁棒性好，分割结果准确。实验表明该方法能够有效地进行运动物体分割。

以上所述，仅为本发明中的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉该技术的人在本发明所揭露的技术范围内，可理解想到的变换或替换，都应涵盖在本发明的包含范围之内，因此，本发明的包含范围应该以权力书的保护范围为准。