LightGCN

He, Xiangnan, et al. "Lightgcn: Simplifying and powering graph convolution network for recommendation." Proceedings of the 43rd International ACM SIGIR conference on research and development in Information Retrieval. 2020.

概述

存在的问题

  • 图卷积神经网络应用在推荐系统中不具有很好的可解释性
  • GCN中常见的两种组件对协同过滤模型的性能提升效果很少(并且有可能增加了训练难度以及降低效果)
    • Feature Transformation 特征转换
    • Nonlinear Activation 非线性激活

解决方案

  • 保留GCN中重要的邻居聚合策略
  • 通过在u-i二部图中线性传递策略获得user/item的Embedding
  • 使用聚合函数聚合不同层次的Embedding得到最终user/item的Embedding

方案

### 证明NCGF中特征转换与非线性激活的无效性

NCGF详细阐述见另一篇文章。

Light Graph Convolution(LGC)

相比于传统的GCN,LightGCN抛弃了特征转换策略以及非线性激活,只保留了简单的权重聚合方式。具体而言LightGCN中的图卷积定义为:

其中,表示第层的用户向量,表示标准化参数,用来控制表征向量的规则性(范围)。表示用户的商品邻居节点,表示的用户邻居。

采用这种方式能够避免像NCGF模型中的节点会聚合节点自身的特点。

以用户为例:

其中,公式中的

Layer Combination and Model Prediction

经过层的消息传递,最终用户的Embedding可以通过下式进行整合,其中论文中提到可以通过注意力机制得出或者人工调整。

最终的预测通过用户向量与商品向量的内积计算出来。

Matrix Form

为了方便解释,LightGCN论文中还给出了具体的矩阵计算方法。

模型训练