![]()
投稿作者:OnePiece 团队
生成式推荐无疑是当前推荐系统领域最热门的方向,也是互联网应用中最前沿的研究主题之一。
从技术路径来看,生成式推荐主要沿着两大方向展开:一是基于大语言模型的推荐方法(LLM as Recommender),二是以生成式方式训练推荐模型(Generative Recommender)。
然而,在真实业务场景中,由于线上服务对成本极为敏感,LLM as Recommender 的落地仍面临显著挑战。这主要源于大语言模型在推理时通常需要大量显卡资源,且响应延迟较高,难以满足大规模推荐系统对高并发和低延时的严格要求。