大家读完觉得有帮助记得关注和点赞摘要 准确的船舶轨迹预测对于安全高效的海上作业至关重要能够实现避碰并支持航线优化。尽管记忆增强神经网络最近在行人和道路车辆轨迹预测中通过从外部记忆中选择性检索相关信息展现出了强大的性能但其在船舶轨迹预测中的潜力仍未得到充分探索。本文利用自动识别系统AIS数据对基于记忆的轨迹预测进行了实证研究。在墨西哥湾和纽约湾的数据上的实验表明与一系列未使用外部记忆的深度学习基线方法相比该方法取得了持续且显著的性能提升。I. 引言时空数据分析因其在理解和预测地理区域动态模式方面的重要性已在各个领域得到广泛研究[3, 17, 14]。在其众多应用中船舶轨迹预测作为海上态势感知的基础技术获得了越来越多的关注能够实现避碰并支持航线优化[12, 44]。随着海上交通密度和复杂性的持续增长这些能力对于确保安全高效的海上作业至关重要并且随着自主导航技术的快速发展它们变得更加重要[37]。近期研究主要依赖于自动识别系统AIS的数据[12, 26, 44, 24, 37, 25]该系统通过船对船和船对岸通信自动识别和跟踪船舶。每条AIS记录通常包含船舶标识符如海上移动服务标识MMSI和呼号、动态导航属性如空间位置纬度和经度、对地航速SOG和对地航向COG以及静态属性如船舶类型、长度和宽度。根据国际海事组织IMO的规定超过一定总吨位的船舶必须安装AIS这使得大规模AIS数据得以可用[36]。因此已经提出了各种基于深度神经网络的船舶轨迹预测方法[30, 29, 40, 9]。当人类预测移动代理如船舶、行人和道路车辆的未来位置时他们通常依赖于基于从过去经验积累并从记忆中检索的知识进行推理。受此人类行为的启发一些利用记忆增强神经网络MANN的方法[20, 39, 21, 41, 4]已被提出并在各种轨迹预测任务中取得了显著性能。这类工作通常采用一个从训练数据构建的外部记忆其中每个记忆项存储一个过去-未来编码对过去编码代表观察到的轨迹片段未来编码代表相关的未来侧信息。在预测过程中它们通过计算当前过去编码与存储的过去编码之间的相似度选择性检索相关的记忆项。检索到的未来编码随后被解码以提供未来轨迹预测。这种基于记忆的方法对于船舶轨迹预测可能特别有吸引力因为船舶运动模式往往以频繁的巡航行为为主而机动模式则更加多样但稀少。通过存储实例级编码外部记忆可以显式地保留单个轨迹实例这可能有利于捕捉常见的巡航模式和罕见的机动行为[27, 2, 8, 15]。然而现有的基于记忆的方法是为行人和道路车辆开发的其在船舶轨迹预测中的潜力仍未得到充分探索。在本文中我们提供了实证证据证明基于记忆的方法对于基于AIS的船舶轨迹预测非常有效。我们采用了MANTRA [20]——一种开创性的用于轨迹预测的MANN。与原始实现不同我们除了空间位置外还将SOG和COG值作为输入特征用于记忆写入和检索考虑到它们在船舶轨迹预测中的重要性[44]。我们使用了在墨西哥湾和纽约湾收集的AIS数据并与一系列不使用外部记忆的深度学习基线方法相比在平均位移误差ADE和最终位移误差FDE方面展示了基于记忆方法的优越性能。本工作的贡献总结如下据我们所知我们首次在基于AIS的船舶轨迹预测中对基于记忆的轨迹预测进行了实证研究。在AIS数据上的实验表明基于记忆的预测可以为船舶轨迹预测带来显著的性能提升。在多个预测时域上与墨西哥湾数据集上表现最好的基线相比我们将ADE和FDE分别降低了高达46.4%和54.7%在纽约湾数据集上分别高达33.3%和27.7%。II. 相关工作II-A. 基于记忆的轨迹预测已有几种基于记忆的方法[20, 39, 21, 41, 4]被提出用于轨迹预测。它们通常利用一个由过去-未来编码对组成的外部记忆以及基于当前过去编码与存储的过去编码之间相似度的选择性记忆检索机制。然而它们可能在以下方面有所不同(i) 未来编码中编码了什么信息以及 (ii) 如何计算用于检索的相似度[16, 31]。具体来说每个未来编码可以代表完整轨迹[20, 41]、轨迹的部分掩码版本[4]或仅代表轨迹端点[39]。记忆检索可以基于固定的相似度度量如余弦相似度[20, 41, 4]或可学习的相似度函数[39, 21]。尽管基于记忆的方法在各种轨迹预测任务中取得了成功但其在船舶轨迹预测中的有效性仍未得到充分探索。II-B. 船舶轨迹预测近年来已经提出了许多基于深度神经网络的船舶轨迹预测方法[44, 37]。为了捕捉船舶轨迹中的时间依赖性几种序列建模架构已被广泛采用。早期方法通常依赖循环神经网络RNN[30, 32]和时间卷积网络TCN[29, 18]。最近基于Transformer的模型[40, 38]因其通过时间自注意力机制捕捉长程依赖关系的能力而受到欢迎。此外时空图神经网络ST-GNN[9, 19, 35]已被探索用于显式建模船舶间的交互。III. 方法我们采用了MANTRA [20]——一种开创性的基于记忆的轨迹预测方法并进行了微小的架构修改。换句话说本节描述的方法与原始MANTRA论文[20]高度一致除了为适应AIS数据而引入的更改。III-A. 问题陈述设 t ∈ {1, …, T_P T_F} 为时间索引其中 1:T_P 表示观测历史T_P1:T_PT_F 表示预测时域。对于轨迹片段 i我们将时间 t 的空间位置记为y_t^i (φ_t^i, λ_t^i) ∈ ℝ²其中 φ_t^i 和 λ_t^i 分别为纬度度和经度度。给定过去轨迹序列 y_Pⁱ 和相关协变量 x_Pⁱ我们的目标是找到一个模型 f 来预测未来轨迹序列 y_Fⁱ。这可以公式化如下ŷ_Fⁱ f([y_Pⁱ, x_Pⁱ])其中 ŷ_Fⁱ {ŷ_{T_P1}^i, …, ŷ_{T_PT_F}^i} 是 y_Fⁱ {y_{T_P1}^i, …, y_{T_PT_F}^i} 的预测轨迹y_Pⁱ {y_1^i, …, y_{T_P}^i}x_Pⁱ {x_1^i, …, x_{T_P}^i}[·] 表示拼接操作。由于已知SOG和COG是船舶轨迹预测的重要特征[44]我们将它们作为输入协变量并定义 x_tⁱ ∈ x_Pⁱ 如下x_tⁱ (v_tⁱ, cos(ψ_tⁱ), sin(ψ_tⁱ), m_tⁱ) ∈ ℝ⁴其中 v_tⁱ 和 ψ_tⁱ 分别是时间 t 的SOG节和COG弧度。由于AIS记录可能因各种原因如覆盖范围有限、通信中断、传感器故障而包含缺失条目我们进行数据预处理通过沿时间轴独立插值每个通道来确保 y_tⁱ 和 x_tⁱ 中没有缺失值。此外我们引入一个二元指示器 m_tⁱ其值为1如果 y_tⁱ 被观测到否则为0以告知预测模型时间 t 的位置信息是否原本未被观测到。III-B. 记忆构建与模型训练使用由 N 个轨迹片段组成的训练数据我们通过以下步骤构建一个外部记忆。首先我们设计一个自编码器包含两个独立的编码器 g过去编码器和 h未来编码器以及一个解码器 d。对于每个轨迹片段 i过去编码器接收 [_Pⁱ, _Pⁱ] 作为输入而未来编码器接收 [_Fⁱ, _Fⁱ] 作为输入。得到的过去编码 πⁱ 和未来编码 δⁱ 随后被拼接并馈入解码器以重构 _Fⁱ。具体来说其中 ̃_Fⁱ {̃_{T_P1}^i, …, ̃_{T_PT_F}^i} 表示 y_Fⁱ 的重构轨迹且 x_Fⁱ {x_{T_P1}^i, …, x_{T_PT_F}^i}。其次编码器和解码器通过最小化重构损失进行联合训练其中 ‖·‖_2 表示 ℓ₂ 范数。图1基于记忆的轨迹预测过程概览。最后我们引入一个记忆控制器 c从编码器 g 和 h 从 N 个训练轨迹片段产生的 N 个过去-未来编码对 {(πⁱ, δⁱ)}ⁱ₌₁ᴺ 中构建一个紧凑而富有表现力的外部记忆 Ω。控制器通过随机采样几个编码对来初始化记忆并按照随机打乱的顺序依次处理训练轨迹片段以决定每个片段其过去-未来编码对是否应写入记忆。为此控制器根据目标片段相对于当前记忆的新颖性计算一个记忆写入得分 pⁱ ∈ (0,1)。片段 i 的新颖性基于其未来轨迹预测误差 eⁱ 进行量化假设片段 i 的未来部分尚未被观测到未来预测过程将在第III-C节描述。记忆写入得分 pⁱ 计算如下其中 w_c ∈ ℝ 和 b_c ∈ ℝ 是可学习的权重和偏置(·) 是指示函数ε 是超参数。如果 pⁱ 0.5控制器将 (πⁱ, δⁱ) 写入记忆。在控制器训练期间仅控制器参数w_c 和 b_c被更新即编码器 g 和 h 以及解码器 d 保持固定。在每个训练周期开始时外部记忆被重新初始化之后在优化控制器的同时顺序写入记忆使用以下损失这鼓励 pⁱ 随 eⁱ 的增加而增加。因此控制器被训练为将高预测误差解释为当前记忆缺乏相关记忆项的证据并将相应的轨迹片段写入记忆。III-C. 基于记忆的轨迹预测给定一个外部记忆 Ω {(π_{n_j}, δ_{n_j})}{j1}^M其中 n_j ∈ {1, …, N} 且 M N我们的目标是在仅观测到 [_P^{new}, _P^{new}] 时预测未来轨迹 y_F^{new}。我们计算当前过去编码 π^{new} g([_P^{new}, _P^{new}])并基于 π^{new} 与 π{n_j} 之间的余弦相似度从 Ω 中检索相关记忆项在本工作中考虑到船舶运动的多模态特性我们选择对应于 ρ_j 中 top-K 索引的未来编码。然后将选定的未来编码分别与 π^{new} 拼接并解码为 K 个未来轨迹预测 {ŷ_F,k^{new}}_{k1}^K。我们在图1中提供了预测过程的示意图。IV. 实验IV-A. 数据集描述我们使用了美国国家海洋和大气管理局NOAA¹ 于2023年3月6日至8日收集的墨西哥湾和纽约湾的AIS数据。研究区域定义为墨西哥湾的纬度-经度范围为 [27.0°, 29.0°] 和 [-94.0°, -89.0°]纽约湾的纬度-经度范围为 [39.6°, 40.6°] 和 [-74.0°, -72.2°]。图2显示了选定的区域用红色框突出显示。只考虑长度至少为70米的船舶。得到的数据集包含墨西哥湾的130,126条记录来自369艘船舶和纽约湾的22,741条记录来自55艘船舶。我们移除了SOG超过30节的记录视为异常。剩余数据使用均值聚合重新采样到固定的1分钟间隔。对于每艘船舶未收到记录且超过1小时的连续间隔被视为两次航程之间的边界而剩余的间隔≤1小时则被视为航程内的缺失观测通过对空间位置应用三次样条插值和对协变量应用线性插值来进行插补。短于1小时的航程被丢弃。我们沿时间轴按时间顺序划分数据分配前60%的时间步用于训练接下来20%用于验证剩余20%用于测试。我们对纬度、经度和SOG应用了z-score标准化。图2红色框表示研究区域(A) 墨西哥湾 和 (B) 纽约湾。IV-B. 评估指标为了评估预测性能我们采用了两个广泛使用的轨迹预测指标ADE和FDE。ADE衡量预测时域上的平均位置误差而FDE量化最终目的地的误差。遵循先前工作的评估协议[5, 28]我们计算了K条预测轨迹上的最小误差以考虑未来船舶运动的内在多模态性。由于AIS数据通常包含缺失值ADE仅在具有真实位置的可观测时间步上计算而FDE在最后一个观测位置进行评估。这些指标计算如下其中 S_F^i { t ∈ {1, …, T_F} | m_{T_Pt}^i 1 }t_i^* 表示 S_F^i 的最后一个时间步\hat{y}_{T_Pt,k}^i 是 K 个多模态预测中第 k 个预测结果。IV-C. 基线方法我们将MANTRA与六个反映船舶轨迹预测最新研究趋势的基线方法进行了比较特别是对多代理船舶交互感知模型和基于Transformer的架构日益增长的兴趣。与大多数基线方法TransformerTF除外不同MANTRA不显式建模代理间的交互。因此性能的提升将表明即使没有显式的代理间交互建模基于记忆的方法也能达到具有竞争力的预测能力。STGAT [7]时空图注意力网络STGAT是一个采用长短期记忆LSTM[6]编码器-解码器架构的序列到序列轨迹预测模型。它通过图注意力网络[34]建模代理间交互并向解码器输入中引入随机噪声以实现多模态预测。Social-STGCNN [22]Social-STGCNN将多个代理的轨迹建模为动态时空图其中节点代表代理边根据成对距离加权。它集成了空间图卷积和时间卷积以捕捉代理间交互和时间运动动态并提供双变量高斯预测分布。TransformerTF [5]TransformerTF采用了普通的编码器-解码器Transformer[33]通过时间自注意力捕捉观测轨迹中的长程时间依赖性并自回归地预测未来位置。它不考虑代理间交互。AgentFormer [43]AgentFormer是一种基于Transformer的轨迹预测方法通过统一的自注意力机制联合建模时间依赖性和代理间交互。对于多模态预测它采用条件变分自编码器CVAE框架[13]从潜在分布中抽取多个样本以生成多个合理的未来轨迹。Social-Implicit [23]Social-Implicit是一种多代理轨迹预测模型。它基于代理速度的最大变化对代理进行聚类。对于每个聚类分别采用空间和时间CNN来建模代理间交互和时间运动动态。对于多模态预测它向模型输入中注入随机噪声以生成多个合理的未来轨迹。TUTR [28]轨迹统一TransformerTUTR是一个编码器-解码器Transformer在解码器中建模代理间交互并采用双头结构生成多模态轨迹预测及其关联的模式概率。表I不同预测时域下的性能比较。加粗数值表示最佳分数下划线数值表示第二佳分数。ADE和FDE以0.1°为单位报告。墨西哥湾方法ADEFDE10分钟20分钟30分钟10分钟20分钟30分钟STGAT0.0644 (0.0089)0.2172 (0.0510)0.4276 (0.0229)0.1320 (0.0232)0.4495 (0.1194)0.8787 (0.0264)Social-STGCNN1.1488 (0.0445)1.5184 (0.1249)1.8010 (0.0948)1.2408 (0.0947)1.6822 (0.1452)2.0271 (0.1104)TransformerTF0.1300 (0.0129)0.1480 (0.0165)0.2628 (0.0810)0.0882 (0.0081)0.1196 (0.0209)0.2398 (0.0629)AgentFormer0.4576 (0.0401)0.7173 (0.1377)0.9912 (0.3994)0.4556 (0.0455)0.7118 (0.1357)0.9856 (0.4290)Social-Implicit0.0292 (0.0061)0.0532 (0.0068)0.0847 (0.0128)0.0468 (0.0116)0.0965 (0.0131)0.1616 (0.0243)TUTR0.0251 (0.0002)0.0470 (0.0119)0.0758 (0.0040)0.0413 (0.0009)0.0875 (0.0226)0.1457 (0.0054)MANTRA0.0141 (0.0001)0.0252 (0.0004)0.0409 (0.0005)0.0187 (0.0004)0.0431 (0.0009)0.0771 (0.0008)纽约湾方法ADEFDE10分钟20分钟30分钟10分钟20分钟30分钟STGAT0.0644 (0.0089)0.2172 (0.0510)0.4276 (0.0229)0.1320 (0.0232)0.4495 (0.1194)0.8787 (0.0264)Social-STGCNN1.0251 (0.0689)1.5642 (0.0632)1.9880 (0.1059)1.0935 (0.0447)1.7199 (0.0436)2.2190 (0.1058)TransformerTF0.1086 (0.0222)0.1278 (0.0292)0.1970 (0.0381)0.0884 (0.0210)0.1245 (0.0326)0.2313 (0.0658)AgentFormer0.3375 (0.0347)0.4260 (0.0329)0.4438 (0.0288)0.3280 (0.0346)0.4044 (0.0330)0.4138 (0.0114)Social-Implicit0.0282 (0.0018)0.0544 (0.0050)0.0878 (0.0072)0.0451 (0.0036)0.0993 (0.0097)0.1670 (0.0138)TUTR0.0724 (0.0019)0.0784 (0.0059)0.1252 (0.0062)0.1226 (0.0096)0.1469 (0.0075)0.2453 (0.0122)MANTRA0.0188 (0.0011)0.0396 (0.0011)0.0638 (0.0006)0.0326 (0.0019)0.0735 (0.0018)0.1241 (0.0023)IV-D. 实现细节我们使用了MANTRA的原始实现²。所有组件使用Adam优化器进行训练学习率为10⁻³最多500个周期。采用耐心为20的早停法批量大小设为32以近似 ℒ_{ae}。记忆控制器的超参数 ε 设置为 3e⁻³。我们对两个编码器使用了单层门控循环单元GRU网络[1]隐藏大小为96解码器的隐藏大小为192即 d_e 96。我们设置 T_P 30对应30分钟并在三个预测时域 T_F ∈ {10, 20, 30} 上评估ADE和FDEK 5。我们进行了滑动窗口分割窗口长度为 T_P T_F 时间步步长为5。当 T_F 30 时墨西哥湾产生18,259/6,398/5,529个训练/验证/测试片段纽约湾产生2,799/715/952个片段较短的 T_F 产生略大的样本量。IV-E. 定量分析表I显示了五次独立运行的结果平均值和括号内为标准误。在所有预测时域上尽管MANTRA没有显式的船舶间交互建模它在ADE和FDE上均以大幅优势优于所有基线方法。具体而言在墨西哥湾与表现最好的基线相比MANTRA在10/20/30分钟预测时域上将ADE分别提高了43.8%/46.4%/46.0%将FDE分别提高了54.7%/50.7%/47.1%。在纽约湾相应的ADE改进分别为33.3%/28.5%/27.3%FDE改进分别为27.7%/26.0%/25.7%。此外MANTRA在所有设置下始终表现出最小的标准误表明与基线方法相比它在不同随机种子上具有更稳定的性能。这些发现可能凸显了基于记忆的预测作为船舶轨迹预测的一个强大范式的潜力。IV-F. 定性分析在图3中我们可视化了MANTRA在墨西哥湾数据集上对于30分钟预测时域T_F30的最佳ADE最低5轨迹预测结果。在每个子图中蓝色标记表示过去轨迹绿色标记表示真实未来轨迹红色标记表示预测轨迹。对于过去和真实未来轨迹标记之间的间隙表示存在缺失观测的时间间隔。如图所示无论是巡航情况左上角子图还是机动情况其余子图MANTRA都能紧密匹配真实的未来轨迹。图3墨西哥湾数据集上的轨迹预测结果示例观测窗口为30分钟预测时域为30分钟。在每个子图中蓝色标记表示过去轨迹绿色标记表示真实未来轨迹红色标记表示预测轨迹。过去和真实未来轨迹中标记之间的间隙表示存在缺失观测的时间间隔。V. 结论在本研究中我们对基于记忆的轨迹预测在基于AIS的船舶轨迹预测中的有效性进行了实证研究。实验表明与一系列不使用外部记忆的深度学习基线方法相比该方法取得了显著的性能提升。通过显式存储实例级轨迹表示基于记忆的方法MANTRA能够捕捉海上船舶的常见巡航模式和罕见的机动行为。这些发现表明基于记忆的方法可能为建模复杂多样的船舶运动模式提供一个有前景的方向并可能对改进船舶轨迹预测系统具有重大潜力。未来的工作将纳入高维的航行上下文变量如船舶类型和尺寸、天气条件以及航道几何形状这些都可能显著影响船舶作业遵循[10]中的方法。此外我们将研究量化预测不确定性的方法[11, 42]。