点击蓝字 关注我们
近期，浙江大学赵莎研究员团队在The Thirteenth International Conference on Learning Representations (ICLR 2025，CCF-A)接收题为BrainUICL: An Unsupervised Individual Continual Learning Framework for EEG Applications的研究成果。浙江大学周杨煊为第一作者，浙江大学计算机科学与技术学院赵莎研究员为通讯作者。
成果简介
脑电(EEG)是一种非侵入性脑机接口技术，用于记录脑电活动。EEG在人类生活中扮演着重要的角色，在现实生活中得到了广泛的应用，包括睡眠分期，情绪识别和运动图像。然而，现有的脑电相关模型在实践中难以有效应用，特别是在临床环境中，患者因个体差异所带来影响日益突出。这种在固定数据集上训练的基于EEG的模型不能很好地推广到现实场景中的众多不可见受试者当中。这种限制可以通过持续学习 (CL) 来解决，其中 CL 模型可以随着时间的推移不断学习和推进。
受 CL 的启发，本文引入了一种新的无监督个体持续学习范式，用于在实践中解决这个问题。本文提出了BrainUICL框架，该框架使基于EEG的模型能够持续适应传入的新患者被试。同时，BrainUICL 帮助模型在每次适应过程中吸收新知识，从而提高其对所有未见被试的泛化能力。
所提出的BrainUICL的有效性已经在三个不同的主流EEG任务上进行了评估。BrainUICL可以有效地平衡CL过程中的可塑性和稳定性，在新个体上实现了更好的可塑性，在所有不可见的个体中具有更好的稳定性，这在实际场景中具有重要意义。源代码可在 https://github.com/xiaobaben/BrainUICL 获得。
主要贡献
本文首先探讨了无监督个体持续学习(UICL)在EEG相关应用中的概念，该框架非常适合现实场景，满足现实生活的实际需求。所提出的BrainUICL框架可以有效地平衡CL过程中的稳定性可塑性困境。
本文设计了一种新的动态置信度缓冲区（DCB）和跨Epoch对齐（CEA）模块，在长期个体持续学习过程中动态调整适应过程，克服了过拟合的挑战，保留了过去个体知识流学到的知识。
在三个不同的主流EEG任务上进行验证，BrainUICL模型能够很好地适应连续的个体流(更好的可塑性)，并在所有不可见的个体(更好的稳定性)上实现更强的泛化能力，从而获得双赢的增益。
方法
图1：(a)提出的无监督个体持续学习范式； (b)持续域适应以获得更好的可塑性； (c)可概括的模型以获得更好的稳定性。
不同受试者之间存在显着差异（即生理结构、物理特性）。这种在固定数据集上训练的基于脑电图的模型不能很好地推广到新的看不见的个体被试。这个问题可以简化为个体持续学习(CL)。 CL 模型可以通过不断吸收新知识来学习和推进。CL的主要挑战是克服稳定性可塑性(SP)困境。可塑性(P)表示模型对新出现的个体的适应性能力，稳定性(S)表示模型对先前可见和不可见个体(即新受试者)的泛化能力。受 CL 的启发，本文提出了一种新颖的无监督个体持续学习 (UICL) 范式，用于处理图 1 (a) 所示的实际应用中的 EEG 任务。因此，本文的主要目标为：（1）更好的可塑性：模型可以很好地适应图 1 (b) 所示的连续个体流中的每个新主题。(2) 更好的稳定性：模型在从图 1 (c) 所示的连续个体流持续学习知识后，该模型可以在所有看不见的主题上实现更强的泛化能力。本文提出了一种新的基于脑电图的无监督个体连续学习框架，称为BrainUICL，其中设计了两个新的模块：动态置信度缓冲区 (DCB) 和跨Epoch对齐 (CEA) 来应对上述挑战。
图2：提出的BrainUICL框架的工作流程。在Ti时间步会获取最新增量模型Mi−1。在从连续知识流适应当前个体后，从Mi−1到Mi的模型更新，并到达下一个时间步Ti+1以适应下一个个体。
DCB：提出了一种选定的存储和真实伪混合重放策略。具体来说，我存储中心由两部分组成：从训练集中存储真实标记样本和从连续个体流存储伪标记样本。在每个时间步，对于即将到来的一批增量个体，我们分别以 8:2 的比例从真实标签和伪标签中选择缓冲区样本。它可以看作是包含在增量个体上的另一种惩罚项形式，因为我们只使用少量的过去增量样本来保持缓冲区样本的多样性。
CEA：提出跨Epoch对齐方法来克服过拟合，同时考虑模型参数的保存。具体来说，给定具有不同时间状态 M1 和 M2 的相同增量模型。将它们的概率分布分别表示为 P(M1) 和 P(M2 )。每两个Epoch使用 Kullback-Leibler (KL) 散度损失来对齐 P(M1) 和 P(M2) 之间的差距。通过对齐先前模型状态的分布，即使遇到异常值个体，模型也会阻止其自身偏离太多，使模型能够获得更好的稳定性。
图3：无监督个体持续学习的过程。
表1：BrainUICL算法。
数据集
表2：处理后的EEG数据集概述。
结果
表3：BrainUICL在三个下游EEG任务上的性能。可塑性的结果在增量集上进行评估，稳定性的结果在泛化集上进行评估。
表4：与现有 UDA，CL 和 UCDA 方法的性能比较。
图4：BrainUICL方法在AAA和AAF1曲线上的对比实验。每个点表示来自连续个体流的个体，中间线表示不同输入顺序下 AAA 和 AAF1 指标的平均值，阴影区域表示它们的 95% 置信区间。值得注意的是，所有方法都有五个相同的输入顺序，这些顺序是随机不同的。与其他方法相比，BrainUICL 表现出最佳稳定性，p 值小于 0.001。
表5：消融实验的性能比较。
图5：消融实验下的AAA和AAF1曲线。每个点表示来自连续个体流的被试个体，中间线表示不同输入顺序下 AAA 和 AAF1 指标的平均值，而阴影区域表示它们的 95% 置信区间。值得注意的是，所有方法都共享相同的输入顺序，这些顺序是随机不同的。实验结果表明所提出的 DCB 和 CEA 组件的有效性。
研究结论
本研究面向实际应用，尝试使模型不仅能很好地适应不断新面对的被试，而且可以很好地推广到所有看不见的被试中。文章提出了一种新的UICL范式来处理实际应用中的EEG任务，并提出了 BrainUICL 框架来平衡模型的可塑性稳定性困境。BrainUICL的主要目标是使模型能够不断适应多个新出现的个体被试，同时提高其对所有不可见被试的泛化能力，最终成为通用模型。本文通过增加对增量个体施加的惩罚，有效防止模型在长期持续的个体域适应中过度拟合增量个体。惩罚由两部分组成。首先，采用选择性存储和实伪混合重放策略提高重放EEG样本的可靠性；每两个epoch在不同的时间状态下对齐增量模型，以防止模型过度拟合特定的个体分布。在三个不同的下游EEG任务上评估了所提出的BrainUICL的有效性。在持续的个体域适应应用在实际环境中具有重要意义。
欢迎各位专家学者在公众号平台报道最新研究工作，荐稿请联系小编Robert（微信ID：BrainX007）。
免责声明：原创仅代表原创编译，水平有限，仅供学术交流，如有侵权，请联系删除，文献解读如有疏漏之处，我们深表歉意。
公众号丨智能传感与脑机接口
