为什么用序列而非协同过滤
购物车与浏览记录是有顺序的,最近几次交互往往决定下一次点击。SASRec 以因果自注意力从用户历史中自适应关注相关物品,兼顾长序列语义与稀疏数据效率,训练速度较RNN/CNN方案快一个数量级。
步骤一:位置编码与嵌入
物品ID映射为稠密向量并加入位置编码,使模型感知交互先后。
import torch, torch.nn as nn
class SASRec(nn.Module):
def __init__(self, n_items, d=64, maxlen=200):
super().__init__()
self.item_emb = nn.Embedding(n_items, d)
self.pos_emb = nn.Embedding(maxlen, d)
def forward(self, seq):
n = seq.size(1)
x = self.item_emb(seq) + self.pos_emb(torch.arange(n, device=seq.device))
return x
步骤二:因果自注意力块
用带因果掩码的多头注意力堆叠两层,残差加层归一化稳定训练,最后用共享物品嵌入打分。
class AttnBlock(nn.Module):
def __init__(self, d=64, h=2):
super().__init__()
self.att = nn.MultiheadAttention(d, h, batch_first=True)
self.ff = nn.Sequential(nn.Linear(d,d), nn.ReLU(), nn.Linear(d,d))
self.n1 = nn.LayerNorm(d); self.n2 = nn.LayerNorm(d)
def forward(self, x, mask):
a,_ = self.att(x, x, x, attn_mask=mask, is_causal=True)
x = self.n1(x + a); return self.n2(x + self.ff(x))
步骤三:评估与上线
在 MovieLens-1M、Steam 等公开序列数据集上以HR@10与NDCG@10验收。上线前需做时序切分防止未来信息泄露,并关注近期项主导带来的可解释性权衡。该骨架仅作基线,业务效果须结合品类与促销节奏调优。
本文为示意性骨架,真实部署须处理冷启动、曝光偏差与隐私合规;公开论文指标不等同于本业务成效。
参考来源
Self-Attentive Sequential Recommendation (SASRec) - arXiv:1808.09781 (Kang, McAuley, 2018)。Residual Dominance in Causal Self-Attention Recommenders - ACM RecSys'26 (2026)。MovieLens-1M / Steam 公开序列推荐数据集 - 公开学术基准。