[go: up one dir, main page]

CN116094885A - 基于One2ThreeNet的信号调制方式识别方法 - Google Patents

基于One2ThreeNet的信号调制方式识别方法 Download PDF

Info

Publication number
CN116094885A
CN116094885A CN202310200871.7A CN202310200871A CN116094885A CN 116094885 A CN116094885 A CN 116094885A CN 202310200871 A CN202310200871 A CN 202310200871A CN 116094885 A CN116094885 A CN 116094885A
Authority
CN
China
Prior art keywords
neural network
signal
feature map
block
dual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310200871.7A
Other languages
English (en)
Inventor
王景景
黄子豪
郁泽慧
施威
鄢社锋
乔钢
王海红
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qingdao University of Science and Technology
Original Assignee
Qingdao University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qingdao University of Science and Technology filed Critical Qingdao University of Science and Technology
Priority to CN202310200871.7A priority Critical patent/CN116094885A/zh
Publication of CN116094885A publication Critical patent/CN116094885A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00—Modulated-carrier systems
    • H04L27/0012—Modulated-carrier systems arrangements for identifying the type of modulation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B11/00—Transmission systems employing sonic, ultrasonic or infrasonic waves
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B13/00—Transmission systems characterised by the medium used for transmission, not provided for in groups H04B3/00 - H04B11/00
    • H04B13/02—Transmission systems in which the medium consists of the earth or a large mass of water thereon, e.g. earth telegraphy
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开了一种基于One2ThreeNet的信号调制方式识别方法，属于水声通信技术领域。该方法包括：微观尺度选取步骤、水声信号预处理步骤、神经网络搭建步骤、神经网络训练步骤、水声信号调制方式识别步骤。本发明提出微观尺度概念以及时序特征提取器One2Three Block，从3个尺度对信号进行细致且完备的时序特征提取，确保了时序特征的有效性；本发明提出双压缩激励卷积模块Dual‑Stream SE Block，一方面拓宽网络宽度，确保特征提取的多样性，另一方面也优化了特征图各通道权重，抑制无效特征表达，提升特征图质量。本发明在我国南海实测数据上取得了优异的识别性能，证明了该发明的可行性与有效性。

Description

基于One2ThreeNet的信号调制方式识别方法
技术领域
本发明属于海洋通信技术领域，具体地说，涉及一种基于One2ThreeNet的水声信号调制方式识别方法。
背景技术
相较于电磁波而言，声波具有更低的衰减系数以及更高的传输距离，是目前唯一能够实现水体中远距离传输的数据载体，水下无线通信技术因此飞速发展，成为获取海洋信息、实施海洋观测的关键技术。
在合作式水声通信系统中通常使用自适应调制编码技术提高信道利用率与数据传输效率，该技术根据水声信号的瞬时质量状况，自适应选择最适合当前信道环境的调制编码方案。然而，通信收发两端依赖握手信号沟通当前数据所采用的调制方式，但繁杂的水下噪声与干扰极易影响握手信号的准确性，进而导致接收机使用错误的解调方式解调数据，引发通信失败。
自动调制识别技术（Automatic Modulation Recognition，AMR）可使接收机在无需任何先验知识的情况下，准确识别出接收信号所采用的调制方式从而实现正确解调，显著提升了水声通信系统的高效性及可靠性，特别适合用于调制方式多变且信道环境复杂的水声通信。
由于接收机所获取的信号是一维时间序列，而卷积神经网络不擅长学习一维信号中的时序特征。因此，现有方法大多将信号处理为眼图、循环谱、星座图等形式，输入卷积神经网络中实现调制识别，但这种将信号先行处理为特定图像的方法本质上是一种人工特征提取，势必会丢失部分关键的时序特征；同时，用于水声信号AMR的卷积神经网络大多结构较为简单，难以有效提取信号的空间特征，致使识别准确率低下。
发明内容
本发明的目的是提供一种基于One2ThreeNet的信号调制方式识别方法，以弥补现有技术的不足。
为实现上述发明目的，本发明采用下述技术方案予以实现：
一种基于One2ThreeNet的水声信号调制方式识别方法，包括以下步骤：
S1：接收水声信号之后进行预处理：对信号进行归一化操作与维度重构；预处理后的数据集分为训练集和测试集；
S2：搭建One2ThreeNet神经网络模型：包括One2Three Block、Dual-SE Block和全连接层、输出层构成；
S3：利用所述训练集对练所述One2ThreeNet神经网络模型进行训练；
S4：利用S3训练好的模型，输入测试集数据或接收到的水声信号经过S1预处理后，识别所接收水声信号的调制方式，输出。
进一步的，所述S1具体为：
S1-1：归一化操作公式为：
Figure SMS_1
；
其中，
Figure SMS_2
为长度为N的原始信号，X为归一化后的信号，max为原始信号的最大值,min为原始信号的最小值，该操作将信号的幅度限定在［0,1］之间；
S1-2：微观尺度选取：
S1-21：确定信号的码元长度；
信号的码元长度公式如下：
Figure SMS_3
；
其中，
Figure SMS_4
为接收机的采样频率，
Figure SMS_5
为信号的码元速率。
S1-22：确定信号的微观尺度：
信号的三个微观尺度分别为半码元尺度
Figure SMS_6
、单码元尺度
Figure SMS_7
、双码元尺度
Figure SMS_8
，计算方式如下：
Figure SMS_9
；
从宏观尺度上看，信号是由一堆码元构成的集合，前后并无关联。然而，从微观尺度上看，不同调制方式的码元具有不同的时域波形，构成单个码元的各个采样点便可以看成具有前后关联的时间序列，可用于时序特征提取。
S1-3：维度重构：
将归一化后的信号X裁剪为3段长度分别为
Figure SMS_10
,
Figure SMS_11
以及
Figure SMS_12
的一维序列，然后分别重构成维
Figure SMS_13
,
Figure SMS_14
以及
Figure SMS_15
的二维矩阵；其中，16为LSTM的时间步个数。
进一步的，所述S2中One2ThreeNet神经网络模型的整体结构和流程设计：
长度为N的信号序列经由S1预处理后，输入One2Three Block中，经过裁剪重构与时序特征提取得到16×16×3的特征图；然后，采用16个1×1的卷积滤波器将特征图的通道数目拓展为16并输入第一个Dual-SE Block中，得到16×16×16的特征图；类似的，采用32个1×1的卷积滤波器将通道数再一次拓展并输入到第二个Dual-SE Block中，得到16×16×32的特征图；为了减少网络计算量，One2ThreeNet对该特征图进行2×2的最大池化操作将特征图压缩为8×8×32，然后通过扁平层将特征图重构为1×2048的特征向量，最后经由2层全连接神经网络与Softmax激活函数，得到不同调制方式的预测概率。
进一步的，所述S2中，所述One2Three Block（时序特征提取器）由3个时间步个数为16但输入维度不一致的长短时记忆网络（Long-Short Term Memory，LSTM）构成，将S1得到的二维矩阵分别输入3个由LSTM构成的基特征提取器中，使得网络可从半码元、单码元、双码元三个微观尺度对信号进行特征提取，得到3个16×16的二维特征矩阵，最后将它们在第三个维度上拼接，得到16×16×3的特征图，实现了从一维序列到三通道特征图的转化，进而实现时序特征提取。
更进一步的，所述长短时记忆网络输出层与隐藏层计算公式如下：
Figure SMS_16
；
其中，
Figure SMS_17
为权重矩阵，
Figure SMS_18
代表Sigmoid激活函数，算子
Figure SMS_19
代表矩阵的点乘运算，
Figure SMS_20
为上一个时间步的隐藏层状态向量，它与
Figure SMS_21
拼接后的向量构成了第t个时间步的输入；
Figure SMS_22
分别代表遗忘门，输入门以及输出门的门控权重，共同决定了当前时刻的长时间记忆
Figure SMS_23
从过去时间步中保留的以及从当前时间步中学习的信息量。
进一步的，所述S2中双压缩激励卷积模块Dual-Stream SE Block结构设计为：Dual-Stream SE Block分为Conv-Stream与Shotcut-Stream，在Conv-Stream中，输入特征图经由2层卷积操作得到更高级别的特征图，后经过压缩激励模块（Squeeze-and-Excitation Block, SE Block）对特征图的通道权重进行优化；Shotcut-Stream则使用短连接的方式构建了一条梯度传播的捷径，不包含卷积模块，仅包含SE Block；Dual-StreamSE Block的输入特征图维度与输出特征图维度一致。
进一步的，所述One2ThreeNet中设有两个Dual-Stream SE Block；第一个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层均包含1种卷积核，其尺寸为3×3，个数为16，特征图padding为0，卷积核滑动步长为1；第二个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层均包含1种卷积核，其尺寸为3×3，个数为32，特征图padding为0，卷积核滑动步长为1。
更进一步的，卷积操作公式如下：
Figure SMS_24
；
其中，
Figure SMS_25
代表卷积运算，
Figure SMS_26
代表矩阵加法，
Figure SMS_27
代表第i层的输出特征图，
Figure SMS_28
代表第i层第k个卷积核，
Figure SMS_29
代表第i层第k个卷积核对应的阈值矩阵。
更进一步的，Conv-Stream与Shotcut-Stream中，SE Block的操作如下：
一个SE Block由Sq、Ex与Scale操作构成，它们可以抽象为3个函数
Figure SMS_30
,
Figure SMS_31
以及
Figure SMS_32
,假设输入SE Block中的特征图
Figure SMS_33
，其中，
Figure SMS_34
为特征图切片后的二维矩阵，C为通道数。
Sq操作所得权重向量
Figure SMS_35
，Z中第C个元素可表示为：
Figure SMS_36
；
Ex操作所得权重向量
Figure SMS_37
可表示为：
Figure SMS_38
；
其中，
Figure SMS_39
表示Sigmoid激活函数，
Figure SMS_40
表示Relu激活函数，
Figure SMS_41
。
使用
Figure SMS_42
对X进行加权得到SE Block的最终输出
Figure SMS_43
；
其中，
Figure SMS_44
的计算公式如下：
Figure SMS_45
。
进一步的，所述S2中全连接层结构的设计：
全连接层的计算公式为：
Figure SMS_46
；
其中，
Figure SMS_47
为矩阵乘法，
Figure SMS_48
矩阵加法，
Figure SMS_49
是第i层全连接层的输出，
Figure SMS_50
是第i层全连接层的权值矩阵，
Figure SMS_51
是第i全连接层的偏置矩阵。
进一步的，所述S2中，输出层所使用的Softmax函数公式为：
Figure SMS_52
；
其中，
Figure SMS_53
代表Softmax的第i个输出值，
Figure SMS_54
为第i个输出层神经元输出，k表示输出层神经元数个数。
进一步的，所述S3具体为：
S3-1：使用小批量梯度下降法对训练集进行划分，将数据集分成统一大小的数据块分批输入，神经网络每次迭代学习一个批次数据；
S3-2：使用交叉熵函数作为神经网络的损失函数，神经网络向着最小化损失函数的方向学习，损失函数为：
Figure SMS_55
；
其中，N为输出层神经元个数，
Figure SMS_56
为输出层第i个神经元输出的预测值，
Figure SMS_57
为输出层第i个神经元对应的真实值，损失函数的值越小，表明神经网络对数据学习的越好；
S3-3：使用Adma优化器用于更新神经网络参数：
训练过程中，神经网络依据损失函数的损失值计算误差反向传播的梯度，并根据该梯度更新网络的权值参数；使用Adam(Adaptive moment estimation，Adam)优化器调整神经网络梯度，利用调整后的神经网络梯度更新神经网络权值。Adam优化器结合一阶动量与二阶动量算法修正偏差，调整神经网络梯度。
更进一步的，一阶动量公式为：
Figure SMS_58
；
其中
Figure SMS_59
为神经网络t时刻计算出的梯度，
Figure SMS_60
是t时刻的一阶动量。一阶动量是各个时刻梯度方向的指数移动平均值，约等于最近
Figure SMS_61
个时刻的梯度向量和的平均值。
二阶动量公式为：
Figure SMS_62
；
其中
Figure SMS_65
为神经网络t时刻计算出的梯度，
Figure SMS_67
为t时刻的二阶动量,二阶动量反应了一段时间内的梯度变化。
Figure SMS_68
的值为0.9，
Figure SMS_64
的值为0.999。
Figure SMS_66
与
Figure SMS_69
的初始值均为0，因此，在神经网络训练初期
Figure SMS_70
的值会接近于0。基于此，Adam优化器对
Figure SMS_63
修正偏差来解决这个问题。
修正偏差公式如下：
Figure SMS_71
；
其中
Figure SMS_72
与
Figure SMS_73
是修正后的一阶动量与二阶动量，由此得出Adam优化器更新神经网络权值的梯度公式，
Figure SMS_74
；
神经网络的权值更新公式为，
Figure SMS_75
；
其中
Figure SMS_76
为t时刻的神经网络权值，
Figure SMS_77
为神经网络学习率，合适的学习率能使神经网络更快的收敛。随着每次训练，神经网络按照上述公式更新权值，实现学习数据并准确识别的效果。
进一步的，所述S4具体为：
S4-1：对接收到的水声信号进行归一化操作与维度重构处理，使其符合One2ThreeBlock的输入维度；
S4-2：将处理好的信号输入到训练好的神经网络模型中，完成水声信号调制方式识别。
与现有技术相比，本发明的优点和有益效果如下：
针对现有水声信号调制方式识别方法时序特征以及空间特征提取能力差导致识别准确率低等问题，本发明提出了一种基于One2ThreeNet的水声信号调制方式识别方法。One2ThreeNet包括两个主要模块：时序特征提取器（One2Three Block）以及双压缩激励卷积模块（Dual-Stream SE Block）。其中，One2Three Block可分别从水声信号的三种微观尺度中提取时序特征，并将之转换为适于卷积神经网络处理的三通道特征图。Dual-StreamSE Block则通过构建一种双通道注意力机制的网络结构，一方面拓宽网络宽度，确保特征提取的多样性，另一方面也优化了特征图各通道权重，抑制无效特征表达，提升特征图质量，从空间特征的角度对One2Three Block转化后的特征图进行抽象与综合以实现低延迟、高准确率的水声信号调制方式识别。
本发明是一种基于深度学习的水声信号调制方式识别方法，第一，本发明不依赖专家经验提取特征，而是利用深度神经网络自动提取与调制方式有关的特征，省去繁琐的人工设计特征环节的同时避免了专家经验的主观误判；第二，提出微观尺度以及时序特征提取器One2Three Block，从3个尺度对信号进行细致且完备的时序特征提取，确保了时序特征的有效性；第三，提出双压缩激励卷积模块Dual-Stream SE Block，一方面拓宽网络宽度，确保特征提取的多样性，另一方面也优化了特征图各通道权重，抑制无效特征表达，提升特征图质量。最后，本发明在我国南海实测数据上取得了优异的识别性能，证明了该发明的可行性与有效性。
附图说明
图1 是本发明所提出的水声信号调制方式识别方法的流程图。
图2 是本发明所提出的水声信号调制方式识别方法中微观尺度的示意图。
图3 是本发明所提出的水声信号调制方式识别方法中One2ThreeNet的网络模型图。
图4 是本发明所提出的水声信号调制方式识别方法中时序特征提取器One2ThreeBlock的网络模型图。
图5 是本发明所提出的水声信号调制方式识别方法中双压缩激励卷积模块Dual-Stream SE Block的网络模型图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下将结合附图和实施例，对本发明作进一步详细说明。
实施例一，在合作式水声通信系统中，收发两端通常会通过握手信号确定当前数据的调制方式，然而水下噪声繁杂多变，极易对握手信号造成干扰进而导致通信失败。因此，接收端通常采用自动调制识别技术确定接收信号的调制方式，进而正确解调数据。
本实施例是一种基于One2ThreeNet的水声信号调制方式识别方法，为了验证本方法，本实施例中使用我国南海海域中采集到的不同类别的共计8种调制信号进行实验，调制方式分别为：2PSK、4PSK、2FSK、4FSK、16QAM、64QAM、DSSS、OFDM；每类调制信号600组，总样本数总计4800组。依据6：2：2的比例将采集到的水声信号均匀划分为训练集、验证集与测试集，后续处理包括以下部分，如图1所示，包括以下步骤：
S1、水声信号预处理步骤，包括：对信号进行归一化操作与维度重构；
归一化操作公式为：
Figure SMS_78
；
其中，
Figure SMS_79
为长度为N的原始信号，X为归一化后的信号，max为原始信号的最大值，min为原始信号的最小值，该操作将信号的幅度限定在［0,1］之间。
微观尺度选取步骤，包括：
S11、确定信号的码元长度；
信号的码元长度公式如下：
Figure SMS_80
；
其中，
Figure SMS_81
为接收机的采样频率，
Figure SMS_82
为信号的码元速率；
S12、确定信号的微观尺度；
信号的三个微观尺度如图2所示，分别为半码元尺度P1、单码元尺度P2、双码元尺度P3，计算方式如下：
Figure SMS_83
。
从宏观尺度上看，信号是由一堆码元构成的集合，前后并无关联。然而，从微观尺度上看，不同调制方式的码元具有不同的时域波形，构成单个码元的各个采样点便可以看成具有前后关联的时间序列，可用于时序特征提取。
S2维度重构：将归一化后的一维信号X裁剪为3段长度分别为
Figure SMS_84
,
Figure SMS_85
以及
Figure SMS_86
的一维序列，然后分别重构成维
Figure SMS_87
,
Figure SMS_88
以及
Figure SMS_89
的二维矩阵；其中，16为LSTM的时间步个数。
S3神经网络搭建步骤，包括：
S31、One2ThreeNet整体结构设计；
One2ThreeNet整体结构如图3所示。长度为N的信号序列经由预处理后，输入One2Three Block中，经过裁剪重构与时序特征提取得到16×16×3的特征图。然后，采用16个1×1的卷积滤波器将特征图的通道数目拓展为16并输入第一个Dual-SE Block中，得到16×16×16的特征图。类似的，采用32个1×1的卷积滤波器将通道数再一次拓展并输入到第二个Dual-SE Block中，得到16×16×32的特征图。为了减少网络计算量，One2ThreeNet对该特征图进行2×2的最大池化操作将特征图压缩为8×8×32，然后通过扁平层将特征图重构为1×2048的特征向量，最后经由2层全连接神经网络与Softmax激活函数，得到不同调制方式的预测概率。
S32、时序特征提取器One2Three Block结构设计；
时序特征提取器One2Three Block的结构如图4所示，其由3个时间步个数为16但输入维度不一致的长短时记忆网络（Long-Short Term Memory，LSTM）构成，将S2所得二维矩阵分别输入3个由LSTM构成的基特征提取器中，使得网络可从半码元、单码元、双码元三个微观尺度对信号进行特征提取，3个16×16的二维特征矩阵，最后将它们在第三个维度上拼接，得到16×16×3的特征图，实现了从一维序列到三通道特征图的转化，进而实现时序特征提取。
其中，长短时记忆网络输出层与隐藏层计算公式如下：
Figure SMS_90
；
其中，
Figure SMS_91
为权重矩阵，
Figure SMS_92
代表Sigmoid激活函数，算子
Figure SMS_93
代表矩阵的点乘运算，
Figure SMS_94
为上一个时间步的隐藏层状态向量，它与
Figure SMS_95
拼接后的向量构成了第t个时间步的输入；
Figure SMS_96
分别代表遗忘门，输入门以及输出门的门控权重，共同决定了当前时刻的长时间记忆
Figure SMS_97
从过去时间步中保留的以及从当前时间步中学习的信息量。
S33、双压缩激励卷积模块Dual-Stream SE Block结构设计：
双压缩激励卷积模块Dual-Stream SE Block结构如图5所示，在Conv-Stream中，输入特征图经由2层卷积操作得到更高级别的特征图，后经过压缩激励模块（Squeeze-and-Excitation Block, SE Block）对特征图的通道权重进行优化。Shotcut-Stream则使用短连接的方式构建了一条梯度传播的捷径，不包含卷积模块，仅包含SE Block。Dual-StreamSE Block的输入特征图维度与输出特征图维度一致。
进一步的，One2ThreeNet的第一个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层设置均为：包含1种卷积核，其尺寸为3×3，个数为16，特征图padding为0，卷积核滑动步长为1。
进一步的，One2ThreeNet的第二个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层设置均为：包含1种卷积核，其尺寸为3×3，个数为32，特征图padding为0，卷积核滑动步长为1。
卷积操作公式如下：
Figure SMS_98
；
其中，
Figure SMS_99
代表卷积运算，
Figure SMS_100
代表矩阵加法，
Figure SMS_101
代表第i层的输出特征图，
Figure SMS_102
代表第i层第k个卷积核，
Figure SMS_103
代表第i层第k个卷积核对应的阈值矩阵；
Conv-Stream与Shotcut-Stream中，SE Block的操作如下：
一个SE Block由Sq、Ex与Scale操作构成，抽象为3个函数
Figure SMS_104
,
Figure SMS_105
以及
Figure SMS_106
,假设输入SE Block中的特征图
Figure SMS_107
,其中，
Figure SMS_108
为特征图切片后的二维矩阵，C为通道数；
Sq操作所得权重向量
Figure SMS_109
，Z中第C个元素可表示为：
Figure SMS_110
；
Ex操作所得权重向量
Figure SMS_111
可表示为：
Figure SMS_112
；
其中，
Figure SMS_113
表示Sigmoid激活函数，
Figure SMS_114
表示Relu激活函数，
Figure SMS_115
。
使用
Figure SMS_116
对X进行加权得到SE Block的最终输出
Figure SMS_117
，其中，
Figure SMS_118
的计算公式如下：
Figure SMS_119
。
S34、全连接层结构的设计：
全连接层的计算公式为：
Figure SMS_120
；
其中，
Figure SMS_121
为矩阵乘法，
Figure SMS_122
矩阵加法，
Figure SMS_123
是第i层全连接层的输出，
Figure SMS_124
是第i层全连接层的权值矩阵，
Figure SMS_125
是第i全连接层的偏置矩阵；
输出层所使用的Softmax函数公式为：
Figure SMS_126
；
其中，
Figure SMS_127
代表Softmax的第i个输出值，
Figure SMS_128
为第i个输出层神经元输出，k表示输出层神经元数个数。
S4神经网络训练步骤，包括：
S41、使用小批量梯度下降法对训练集进行划分，将数据集分成统一大小的数据块分批输入，神经网络每次迭代学习一个批次数据。
使用交叉熵函数作为神经网络的损失函数，神经网络向着最小化损失函数的方向学习，损失函数为：
Figure SMS_129
；
其中，N为输出层神经元个数，
Figure SMS_130
为输出层第i个神经元输出的预测值，
Figure SMS_131
为输出层第i个神经元对应的真实值，损失函数的值越小，表明神经网络对数据学习的越好。
S42、使用Adma优化器用于更新神经网络参数：
训练过程中，神经网络依据损失函数的损失值计算误差反向传播的梯度，并根据该梯度更新网络的权值参数。本发明使用Adam(Adaptive moment estimation，Adam)优化器调整神经网络梯度，利用调整后的神经网络梯度更新神经网络权值。Adam优化器结合一阶动量与二阶动量算法修正偏差，调整神经网络梯度。
其中，一阶动量公式为：
Figure SMS_132
；
其中
Figure SMS_133
为神经网络t时刻计算出的梯度，
Figure SMS_134
是t时刻的一阶动量。一阶动量是各个时刻梯度方向的指数移动平均值，约等于最近
Figure SMS_135
个时刻的梯度向量和的平均值；
二阶动量公式为：
Figure SMS_136
· ；
其中
Figure SMS_138
为神经网络t时刻计算出的梯度，
Figure SMS_140
为t时刻的二阶动量,二阶动量反应了一段时间内的梯度变化。
Figure SMS_143
的值为0.9，
Figure SMS_139
的值为0.999。
Figure SMS_141
与
Figure SMS_142
的初始值均为0，因此，在神经网络训练初期
Figure SMS_144
的值会接近于0。基于此，Adam优化器对
Figure SMS_137
修正偏差来解决这个问题。修正偏差公式如下：
Figure SMS_145
；
其中
Figure SMS_146
与
Figure SMS_147
是修正后的一阶动量与二阶动量，由此得出Adam优化器更新神经网络权值的梯度公式，
Figure SMS_148
；
神经网络的权值更新公式为，
Figure SMS_149
；
其中
Figure SMS_150
为t时刻的神经网络权值，
Figure SMS_151
为神经网络学习率，合适的学习率能使神经网络更快的收敛。随着每次训练，神经网络按照上述公式更新权值，实现学习数据并准确识别的效果。
S5调制方式识别步骤，包括：
S51、对信号进行归一化操作与维度重构处理，使其符合One2Three Block的输入维度；
S52、将处理好的信号输入到训练好的神经网络中，完成水声信号调制方式识别。
为说明本发明所提One2ThreeNet的识别性能，本实施例选用CNN&LSTM、SENet-12、ResNet-12三个神经网络模型进行对比，结果如表1所示：
表1 基于我国南海实验数据本发明的神经网络与对比网络的表现
Figure SMS_152
。
由表1可以看出，本发明One2ThreeNet在准确率、损失值以及识别时间上均取得了最佳的结果，表现出极高的识别性能与识别效率，这表明One2ThreeNet可以很好地拟合信号特征与对应调制方式间的内在关系，且并不占用过多计算资源。同时，CNN&LSTM模型亦可取得93%以上的识别准确率，说明空间特征与时序特征相结合的方式进行调制识别是可行的，但由于一维信号的时序特征更加明显，先使用CNN提取空间特征，再提取时序特征的效果较差。而SENet-12与ResNet-12由于只进行了空间特征提取，其特征集过于单调，相应的识别性能也最差。One2ThreeNet在保证识别准确率的同时还有识别速率可达毫秒级，可满足水声通信的实时性需求。
以上实施例仅用以说明本发明的技术方案，而非对其进行限制；尽管参照前述实施例对本发明进行了详细的说明，对于本领域的普通技术人员来说，依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或替换，并不使相应技术方案的本质脱离本发明所要求保护的技术方案的精神和范围。

Claims (10)

1.一种基于One2ThreeNet的信号调制方式识别方法，其特征在于，包括以下步骤：
S1：接收水声信号之后进行预处理：对信号进行归一化操作与维度重构；预处理后的数据集分为训练集和测试集；
S2：搭建One2ThreeNet神经网络模型：包括One2Three Block、Dual-SE Block和全连接层、输出层构成；
S3：利用所述训练集对练所述One2ThreeNet神经网络模型进行训练；
S4：利用S3训练好的模型，输入测试集数据或接收到的水声信号经过S1预处理后，识别所接收水声信号的调制方式，输出。
2.如权利要求1所述的信号调制方式识别方法，其特征在于，所述S1具体为：
S1-1：归一化操作公式为：
Figure QLYQS_1
；
其中，
Figure QLYQS_2
为长度为N的原始信号，X为归一化后的信号，max为原始信号的最大值,min为原始信号的最小值，该操作将信号的幅度限定在［0,1］之间；
S1-2：微观尺度选取：
S1-21：确定信号的码元长度；
信号的码元长度公式如下：
Figure QLYQS_3
；其中，
Figure QLYQS_4
为接收机的采样频率，
Figure QLYQS_5
为信号的码元速率；
S1-22：确定信号的微观尺度：
信号的三个微观尺度分别为半码元尺度
Figure QLYQS_6
、单码元尺度
Figure QLYQS_7
、双码元尺度
Figure QLYQS_8
，计算方式如下：
Figure QLYQS_9
；
S1-3：维度重构：将归一化后的信号X裁剪为3段长度分别为
Figure QLYQS_10
,
Figure QLYQS_11
以及
Figure QLYQS_12
的一维序列，然后分别重构成维
Figure QLYQS_13
,
Figure QLYQS_14
以及
Figure QLYQS_15
的二维矩阵；其中，16为LSTM的时间步个数。
3.如权利要求1所述的信号调制方式识别方法 ，其特征在于，所述S2中One2ThreeNet神经网络模型的整体结构和流程设计：长度为N的信号序列经由S1预处理后，输入One2Three Block中，经过裁剪重构与时序特征提取得到16×16×3的特征图；然后，采用16个1×1的卷积滤波器将特征图的通道数目拓展为16并输入第一个Dual-SE Block中，得到16×16×16的特征图；采用32个1×1的卷积滤波器将通道数再一次拓展并输入到第二个Dual-SE Block中，得到16×16×32的特征图；为了减少网络计算量，One2ThreeNet对该特征图进行2×2的最大池化操作将特征图压缩为8×8×32，然后通过扁平层将特征图重构为1×2048的特征向量，最后经由2层全连接神经网络与Softmax激活函数，得到不同调制方式的预测概率。
4.如权利要求1所述的信号调制方式识别方法，其特征在于，所述S2中，所述One2ThreeBlock由3个时间步个数为16但输入维度不一致的长短时记忆网络构成，将S1得到的二维矩阵分别输入3个由LSTM构成的基特征提取器中，使得网络可从半码元、单码元、双码元三个微观尺度对信号进行特征提取，得到3个16×16的二维特征矩阵，最后将它们在第三个维度上拼接，得到16×16×3的特征图，实现了从一维序列到三通道特征图的转化，进而实现时序特征提取。
5.如权利要求4所述的信号调制方式识别方法，其特征在于，所述长短时记忆网络输出层与隐藏层计算公式如下：
Figure QLYQS_16
；
其中，
Figure QLYQS_17
为权重矩阵，
Figure QLYQS_18
代表Sigmoid激活函数，算子
Figure QLYQS_19
代表矩阵的点乘运算，
Figure QLYQS_20
为上一个时间步的隐藏层状态向量，它与
Figure QLYQS_21
拼接后的向量构成了第t个时间步的输入；
Figure QLYQS_22
分别代表遗忘门，输入门以及输出门的门控权重，共同决定了当前时刻的长时间记忆
Figure QLYQS_23
从过去时间步中保留的以及从当前时间步中学习的信息量。
6.如权利要求1所述的信号调制方式识别方法，其特征在于，所述S2中双压缩激励卷积模块Dual-Stream SE Block结构设计为：Dual-Stream SE Block分为Conv-Stream与Shotcut-Stream，在Conv-Stream中，输入特征图经由2层卷积操作得到更高级别的特征图，后经过压缩激励模块SE Block对特征图的通道权重进行优化；Shotcut-Stream则使用短连接的方式构建了一条梯度传播的捷径，不包含卷积模块，仅包含SE Block；Dual-Stream SEBlock的输入特征图维度与输出特征图维度一致；所述One2ThreeNet中设有两个Dual-Stream SE Block；第一个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层均包含1种卷积核，其尺寸为3×3，个数为16，特征图padding为0，卷积核滑动步长为1；第二个Dual-Stream SE Block中，Conv-Stream中第一层与第二层卷积层均包含1种卷积核，其尺寸为3×3，个数为32，特征图padding为0，卷积核滑动步长为1。
7.如权利要求6所述的信号调制方式识别方法，其特征在于，卷积操作公式如下：
Figure QLYQS_24
Figure QLYQS_25
；
其中，
Figure QLYQS_26
代表卷积运算，
Figure QLYQS_27
代表矩阵加法，
Figure QLYQS_28
代表第i层的输出特征图，
Figure QLYQS_29
代表第i层第k个卷积核，
Figure QLYQS_30
代表第i层第k个卷积核对应的阈值矩阵；
所述SE Block的操作如下：一个SE Block由Sq、Ex与Scale操作构成，它们可以抽象为3个函数
Figure QLYQS_31
,
Figure QLYQS_32
以及
Figure QLYQS_33
,假设输入SE Block中的特征图
Figure QLYQS_34
,其中，
Figure QLYQS_35
为特征图切片后的二维矩阵，C为通道数；Sq操作所得权重向量
Figure QLYQS_36
，Z中第C个元素可表示为：
Figure QLYQS_37
；
Ex操作所得权重向量
Figure QLYQS_38
可表示为：
Figure QLYQS_39
；
其中，
Figure QLYQS_40
表示Sigmoid激活函数，
Figure QLYQS_41
表示Relu激活函数，
Figure QLYQS_42
；使用
Figure QLYQS_43
对X进行加权得到SE Block的最终输出
Figure QLYQS_44
,其中，
Figure QLYQS_45
的计算公式如下：
Figure QLYQS_46
。
8.如权利要求1所述的信号调制方式识别方法，其特征在于，所述S2中全连接层结构的设计：
全连接层的计算公式为：
Figure QLYQS_47
；
其中，
Figure QLYQS_48
为矩阵乘法，
Figure QLYQS_49
矩阵加法，
Figure QLYQS_50
是第i层全连接层的输出，
Figure QLYQS_51
是第i层全连接层的权值矩阵，
Figure QLYQS_52
是第i全连接层的偏置矩阵；所述输出层所使用的Softmax函数公式为：
Figure QLYQS_53
；
其中，
Figure QLYQS_54
代表Softmax的第i个输出值，
Figure QLYQS_55
为第i个输出层神经元输出，k表示输出层神经元数个数。
9.如权利要求1所述的信号调制方式识别方法，其特征在于，所述S3具体为：
S3-1：使用小批量梯度下降法对训练集进行划分，将数据集分成统一大小的数据块分批输入，神经网络每次迭代学习一个批次数据；
S3-2：使用交叉熵函数作为神经网络的损失函数，神经网络向着最小化损失函数的方向学习，损失函数为：
Figure QLYQS_56
；
其中，N为输出层神经元个数，
Figure QLYQS_57
为输出层第i个神经元输出的预测值，
Figure QLYQS_58
为输出层第i个神经元对应的真实值，损失函数的值越小，表明神经网络对数据学习的越好；
S3-3：使用Adma优化器用于更新神经网络参数：
训练过程中，神经网络依据损失函数的损失值计算误差反向传播的梯度，并根据该梯度更新网络的权值参数；使用Adam优化器调整神经网络梯度，利用调整后的神经网络梯度更新神经网络权值；Adam优化器结合一阶动量与二阶动量算法修正偏差，调整神经网络梯度。
10.如权利要求9所述的信号调制方式识别方法，其特征在于，所述一阶动量公式为：
Figure QLYQS_59
；
其中
Figure QLYQS_60
为神经网络t时刻计算出的梯度，
Figure QLYQS_61
是t时刻的一阶动量；一阶动量是各个时刻梯度方向的指数移动平均值；
所述二阶动量公式为：
Figure QLYQS_62
；
其中
Figure QLYQS_63
为神经网络t时刻计算出的梯度，
Figure QLYQS_64
为t时刻的二阶动量，二阶动量反应了一段时间内的梯度变化；
Figure QLYQS_65
的值为0.9，
Figure QLYQS_66
的值为0.999；
Figure QLYQS_67
与
Figure QLYQS_68
的初始值均为0；基于此，Adam优化器对
Figure QLYQS_69
修正偏差来解决这个问题；修正偏差公式如下：
Figure QLYQS_70
；
Figure QLYQS_71
与
Figure QLYQS_72
是修正后的一阶动量与二阶动量，由此得出Adam优化器更新神经网络权值的梯度公式：
Figure QLYQS_73
；
神经网络的权值更新公式为：
Figure QLYQS_74
；
其中
Figure QLYQS_75
为t时刻的神经网络权值，
Figure QLYQS_76
为神经网络学习率，随着每次训练，神经网络按照上述公式更新权值。
CN202310200871.7A 2023-03-06 2023-03-06 基于One2ThreeNet的信号调制方式识别方法 Pending CN116094885A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310200871.7A CN116094885A (zh) 2023-03-06 2023-03-06 基于One2ThreeNet的信号调制方式识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310200871.7A CN116094885A (zh) 2023-03-06 2023-03-06 基于One2ThreeNet的信号调制方式识别方法

Publications (1)

Publication Number Publication Date
CN116094885A true CN116094885A (zh) 2023-05-09

Family

ID=86204570

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310200871.7A Pending CN116094885A (zh) 2023-03-06 2023-03-06 基于One2ThreeNet的信号调制方式识别方法

Country Status (1)

Country Link
CN (1) CN116094885A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116863490A (zh) * 2023-09-04 2023-10-10 之江实验室 面向FeFET存储阵列的数字识别方法及硬件加速器

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109102014A (zh) * 2018-08-01 2018-12-28 中国海洋大学 基于深度卷积神经网络的类别不平衡的图像分类方法
CN110807365A (zh) * 2019-09-29 2020-02-18 浙江大学 一种基于gru与一维cnn神经网络融合的水下目标识别方法
CN112887239A (zh) * 2021-02-15 2021-06-01 青岛科技大学 基于深度混合神经网络的快速准确水声信号调制方式识别方法
WO2022041394A1 (zh) * 2020-08-28 2022-03-03 南京邮电大学 一种网络加密流量识别方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109102014A (zh) * 2018-08-01 2018-12-28 中国海洋大学 基于深度卷积神经网络的类别不平衡的图像分类方法
CN110807365A (zh) * 2019-09-29 2020-02-18 浙江大学 一种基于gru与一维cnn神经网络融合的水下目标识别方法
WO2022041394A1 (zh) * 2020-08-28 2022-03-03 南京邮电大学 一种网络加密流量识别方法及装置
CN112887239A (zh) * 2021-02-15 2021-06-01 青岛科技大学 基于深度混合神经网络的快速准确水声信号调制方式识别方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
杨柳青: "基于深度神经网络的砂岩储层孔隙度预测方法", 中国科技论文 *
王莉静: "基于一维卷积神经网络客户需求分类模型", 天津城建大学学报 *
黄子豪: "水声信号调制方式智能识别方法研究", 中国优秀硕士学位论文全文数据库信息科技辑, pages 4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116863490A (zh) * 2023-09-04 2023-10-10 之江实验室 面向FeFET存储阵列的数字识别方法及硬件加速器
CN116863490B (zh) * 2023-09-04 2023-12-12 之江实验室 面向FeFET存储阵列的数字识别方法及硬件加速器

Similar Documents

Publication Publication Date Title
Weng et al. Semantic communication systems for speech transmission
CN113269077B (zh) 基于改进门控网络和残差网络的水声通信信号调制方式识别方法
Cao et al. Lightweight convolutional neural networks for CSI feedback in massive MIMO
CN109672464B (zh) 基于fcfnn的大规模mimo信道状态信息反馈方法
CN111464220B (zh) 一种基于深度学习的信道状态信息重建方法
CN112615804B (zh) 一种基于深度学习的短突发水声通信信号调制识别方法
CN115602152B (zh) 一种基于多阶段注意力网络的语音增强方法
CN112733811B (zh) 基于改进稠密神经网络的水声信号调制方式类间识别方法
CN112887239A (zh) 基于深度混合神经网络的快速准确水声信号调制方式识别方法
CN117614467A (zh) 基于降噪神经网络的水声信号智能接收方法
CN111865845A (zh) 一种mimo用户检测与信道估计装置及方法
Ouyang et al. Channel estimation for underwater acoustic OFDM communications: An image super-resolution approach
CN117851912A (zh) 一种基于轻量化抗多普勒射频指纹识别的方法
Zhang et al. Deep learning based underwater acoustic OFDM receiver with joint channel estimation and signal detection
CN116094885A (zh) 基于One2ThreeNet的信号调制方式识别方法
CN116405127B (zh) 水声通信前导信号检测模型的压缩方法和装置
CN117216516A (zh) 一种基于深度流形学习的水中目标声信号特征提取方法
CN119011351B (zh) 基于堆叠去噪编码器和边缘设备的调制识别方法及系统
CN117319146A (zh) 一种基于图像去噪的大规模mimo散射信道估计方法
CN115941002A (zh) 一种人工智能辅助的mimo检测方法
CN113242201B (zh) 基于生成分类网络的无线信号增强解调方法及系统
CN115932808A (zh) 一种基于多特征融合的被动声纳智能探测方法
CN112261685B (zh) 一种基于卷积神经网络的mimo信号检测方法
CN118590352A (zh) 一种基于通道编码生成网络的水声信道估计方法
CN120263596B (zh) 基于增强双分支卷积神经网络的水声通信信号解调方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20230509

RJ01 Rejection of invention patent application after publication