論文題目: Multi-view subspace clustering with consistent and view-specific latent factors and coefficient matrices

發表會議: The International Joint Conference on Neural Networks (IJCNN 2021)，CCF-C類會議

作者列表:

1) 盧潤坤 中國石油大學（北京）信息科學與工程學院 博16

2) 劉建偉 中國石油大學（北京）信息科學與工程學院

3) 左信 中國石油大學（北京）信息科學與工程學院

4) 李衛民 上海大學 計算機工程與科學學院

背景與動機

在多視圖學習的研究工作中，子空間聚類是一個典型的學習任務，同時也是最受研究者關注的方向之一。大部分多視圖子空間聚類其實是基于自表示的子空間聚類算法，這類算法認為，一系列子空間中的每個數據都能夠被其它數據線性表示。大多數現有的多視圖子空間聚類算法主要關注兩個方面的信息，一是子空間表示的先驗約束，二是隱表示的構造形式。對于前者，對子空間表示引入不同的限制會得到不同的效果，例如，Brbi?等人在每個視圖上均進行了自表示重構，并為每個視圖的自表示系數矩陣同時添加了稀疏與低秩限制，之后將所得各個視圖的系數矩陣求平均，從而構建譜聚類所需的鄰接矩陣；Weng等人也是首先在每個視圖上均進行了自表示重構，但引入了拉普拉斯正則化項將多個系數矩陣整合為了一個一致性自表示系數矩陣，這種將整合多個系數矩陣的過程嵌入至學習流程中的方式更具解釋性。此外，關于隱表示的構造形式，研究者往往嘗試挖掘各個視圖間潛在的互補性與一致性信息，獲取更加完備且不冗余的隱表示，從而提升學習任務的性能。例如，Chen等人提出的工作可以獲得多個視圖中的互補性嵌入隱表示；Zheng等人首先將所有視圖的數據拼接，并用稀疏誘導范數約束自表示重構項中的噪聲從而可以使模型能夠利用到各個視圖間潛在的一致性信息。相比于學習更完備的隱表示，大多數工作將注意力集中于子空間表示的先驗約束與學習過程。然而，基于自表示的子空間聚類算法的表現依賴于數據表示的質量，多數子空間聚類算法都假設數據表示分布良好，不符合真實數據集的實際情況。因此，在子空間自表示學習的過程中引入表示學習很有意義，其不僅能為子空間聚類提供好的表示，也能利用子空間學習任務更好的挖掘數據的潛在信息。

本文基于以上動機，提出了一種能夠同時挖掘并分離多個視圖中相互耦合的一致性與互補性隱表示的矩陣因式分解方法。其中，一致性表示指所有視圖共享的信息，互補性表示則是各個視圖獨有的卻能夠互相彌補其余視圖信息缺失的特有信息?；诖?，本章進一步提出一種子空間學習策略-子空間級分層策略：基于一致性與視圖特有隱因子與子空間的多視圖子空間聚類（Multi-View Subspace Clustering with Consistent and view-Specific Latent Factors and Subspaces，MVSC-CSLFS）。MVSC-CSLFS為不同視圖的一致性與互補性表示設計了不同自表示重構方法，即分別用Frobenius范數與核范數來約束互補性與一致性隱表示對應的子空間表示矩陣，此方法通過為不同性質的隱表示設計更合適的子空間聚類策略，從而獲取更佳的聚類效果。此外，本章還為提出的方法引入了自適應的動態權重，從而可以在不同學習階段衡量各個視圖對學習的貢獻，該機制也可以提升模型抵抗噪聲和不可靠視圖所帶來的影響。最后，本章將采用基于增廣拉格朗日乘子的交替方向最小化算法來求解我們提出的模型，并通過與多種基準算法在大量的真實數據集中的對比來驗證所提出算法的效果。本章研究的主要貢獻如下所示：

（1）通過同時考慮多個視圖的一致性與互補性信息，我們提出的隱因子提取算法能夠幫助MVSC-CSLFS獲取更加緊湊且完備的隱表示，且能將隱表示中這些耦合的信息分離，使隱表式有更為明確的語義信息。

（2）MVSC-CSLFS對不同屬性隱式因子對應的子空間表示使用不同的先驗約束，因此能夠將為相應的隱表式設計符合其語義信息的子空間聚類策略。

（3）為了消除不可靠視圖帶來的影響，同時在學習中能夠衡量不同視圖的貢獻，本章在表示學習階段和子空間聚類階段均引入了動態權重策略。

設計與實現

本文提出的矩陣因式化過程如下圖所示：

目標函數為：

實驗結果:

1. 收斂性分析

2. 鄰接矩陣可視化

3. 聚類效果

4. 消融分析

作者簡介

劉建偉，副教授，博士生導師/碩士生導師。長期從事模式識別與智能系統、復雜系統分析與智能控制、機器學習和數據挖掘方面的研究工作。美國數學會《數學評論》評論員，中國人工智能學會機器學習分會高級會員。在計算機學報，自動化學報、計算機研究與發展、Neurocomputing、TNNLS等期刊上和國內國際會議上發表學術研究論文200多篇，其中三大檢索150多篇。聯系方式：liujw@cup.edu.cn

99亚洲综合精品