返回

团队研究成果被《IEEE Transactions on Knowledge and Data Engineering》正式接收

近日,由团队博士生蔡雨昕、黄雁勇教授、常晋源教授、东北师范大学王东杰教授、西南交通大学李天瑞教授以及明斯特大学蒋晓毅教授共同完成的论文”Joint Learning of Unsupervised Multi-view Feature and Instance Co-selection with Cross-view Imputation”被数据挖掘领域国际顶级期刊IEEE Transactions on Knowledge and Data Engineering接收。论文提出了一种面向不完备多视图数据的特征与实例联合选择方法,将缺失数据恢复、特征与实例双选择整合到统一框架中进行协同优化,在降低特征与样本冗余的同时增强数据表示的判别性与代表性,有效实现数据约简并提升下游任务性能。

团队简介

从“分阶段处理”走向“联合协同优化”

多视图数据广泛存在于图像分析、传感器网络和多媒体应用等实际场景中。不同视图能够从多个角度刻画同一对象,提供更丰富、更互补的信息。然而,多视图数据中往往同时包含大量冗余特征和重复样本,不仅增加了计算成本,也会影响下游任务的性能。因此,如何从多视图数据中筛选出关键特征与代表性样本,实现高效的数据约简,已成为提升模型效率与应用性能的重要问题。

此外,现实场景中的多视图数据通常存在视图缺失或数据不完整的问题。现有方法大多采用“先填补、后选择”的两阶段策略,即先通过均值填补等固定方式恢复缺失数据,再基于填补后的完整数据进行特征与实例联合选择。然而,这类方法割裂了缺失数据恢复与联合选择之间的内在联系,忽略了二者存在的协同关系:一方面,联合选择过程中学习到的数据结构信息能够为缺失数据恢复提供有效指导;另一方面,更准确的缺失数据恢复结果也有助于提升特征与实例选择的可靠性。同时,传统基于简单拼接的联合选择方法通常直接将不同视图的信息进行合并,难以充分建模视图间的关联性与互补性,从而限制了多视图有效信息的挖掘。

跨视图信息引导的缺失填补与联合选择

针对上述问题,本文提出了一种面向不完备多视图数据的无监督特征与实例联合选择方法JUICE。该方法突破了传统“先填补、后选择”的分阶段处理范式,将缺失数据恢复、特征选择与实例选择统一到一个协同学习框架中,通过三者之间的相互促进,实现更加有效的数据约简。具体而言,JUICE首先基于可观测数据,在投影低维空间中对多视图数据进行重构,从而识别信息量丰富的特征和具有代表性的实例。同时,该方法利用样本间的结构关系恢复缺失数据,并将缺失填补过程与特征、实例联合选择过程进行统一建模,使数据恢复与数据约简能够在同一优化框架下相互增强。在此基础上,JUICE进一步引入跨视图信息增强机制,通过融合不同视图中的邻域关系来提升缺失数据恢复的质量。恢复后的数据表示又反过来用于优化特征与实例选择过程,从而形成缺失数据恢复与联合选择之间的协同优化。图1展示了所提出方法的总体框架。

特征与实例联合选择的有效性分析

为验证所提出模型的有效性,本文在八个真实多视图数据集上进行了实验评估。实验结果表明,JUICE在不同选择比例下整体表现优于现有先进方法,说明其能够从不完备多视图数据中有效识别判别性特征和代表性样本,并在减少冗余信息的同时提升下游分类性能。消融实验进一步表明,JUICE相较于不同消融变体取得了更优的性能,验证了跨视图信息增强机制以及特征和样本双选择与缺失填补联合学习模块的有效性。

为了进一步直观分析所选特征与样本的有效性,本文采用t-SNE将基于所选特征得到的样本表示映射到二维空间,并用红色星号标记被选中的代表性样本。图2展示了COIL数据集上的可视化结果。可以观察到,基于JUICE所选特征生成的二维嵌入表示呈现出更紧凑的类内结构和更清晰的类间分离,表明所选特征具有较强的判别能力。同时,JUICE选出的代表性样本能够较好地覆盖各类别的主要结构,从而有效刻画不同类别的结构特征。相较而言,表现次优的两种方法仍存在一定程度的簇间重叠和类别边界模糊问题,且其选定样本对主要簇结构的覆盖不够充分,难以全面表征不同类别的数据结构。这进一步说明,JUICE能够更有效地挖掘不完备多视图数据中的关键特征与代表性样本,从而增强数据表示的判别性与代表性,并提升下游任务性能。

作者简介

蔡雨昕,西南财经大学2023级经济大数据专业博士生,导师为李可教授和黄雁勇教授,主要从事数据挖掘等领域的研究。

黄雁勇,西南财经大学数据科学与商业智能联合实验室教授、博士生导师,主要从事Data-centric AI、多模态学习、增量学习等领域的研究。

常晋源,西南财经大学光华首席教授、统计交叉创新研究院执行院长、数据科学与商业智能联合实验室执行主任,主要从事复杂数据分析相关的研究。

王东杰,东北师范大学信息科学与技术学院教授、博士生导师,主要从事Data-centric AI、因果图学习、时空数据挖掘等领域的研究。

李天瑞,西南交通大学计算机与人工智能学院院长,四川省工业软件技术研究院院长,主要从事人工智能,数据挖掘与知识发现,云计算与大数据,粒计算与粗糙集等领域的研究。

蒋晓毅,德国明斯特大学数学与计算机科学系教授,国际模式识别学会会士,亚洲人工智能协会会士,德国华人教授学会主席,主要从事计算机视觉、模式识别、机器学习、生物医学图像分析等领域的研究。