FFM（Field-aware Factorization Machines）

最新推荐文章于 2024-09-10 08:19:49 发布
最新推荐文章于 2024-09-10 08:19:49 发布
阅读量4.6k 收藏 4
点赞数
CC 4.0 BY-SA版权
分类专栏： 推荐系统基础学习笔记 文章标签： 推荐算法 pytorch 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhao254014/article/details/126413089
本文介绍了Factorization Machines (FM)的改进版FFM，强调了引入field概念的重要性，以及如何通过域表示增强特征区分。FFM通过多个隐向量针对不同field表示特征，尽管计算复杂度上升至O(kn^2)，但模型精度得到提升。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、前言

FFM在FM的基础上进一步改进，在模型中引入类别的概念，即field。将同一个field的特征单独进行one-hot，因此在FFM中，每一维特征都会针对其他特征的每个field，分别学习一个隐变量，该隐变量不仅与特征相关，也与field相关。通过引入field的概念，FFM把相同性质的特征归于同一个field。

二、FFM模型

在说FFM之前，最好先了解下FM模型 

Factorization Machines（FM）：发展过程、原理及实现_只想做个咸鱼的博客-CSDN博客

 文章中提到FM的公式：

 红色两项，分别代表用隐向量内积表示权重系数矩阵，特征的交叉组合

FM存在的问题就是模型在进行特征表示时，是与所有的特征进行组合，即它对所有的特征组合时所用的表示都是一样的，至少也得权衡各个类别里面的交互特征学到，意味着不同的特征应该所表示的不同，例如男和北京、男和篮球，而男与另外两个特征组合时所用的表示是一样，这体现不出他们的不同和重要性

引出FFM的数学表达式：

 可以看

最低0.47元/天 解锁文章

200万优质内容无限畅学
Field-aware Factorization Machine - FFM（领域感知的因子分解机）
不学无术的小镇做题家
06-29 574
“域”概念的提出 本篇的模型是FFM，全称是Field-aware Factorization Machine。作者认为，FM中虽然对特征做了高阶（一般是二阶）交叉，但是有一个弊端：在实际场景中，特征的领域(Field)很可能不同，比如性别、品牌、国籍等，向量在不同域的表示应该不一样才对，FM只用一个向量Embedding来表示特征，也就意味着在与其他特征做交叉的时候，使用的是同一个向量，这显然是不合理的。 所以，FFM引入了域(Field)的概念，做法就是每个特征不再使用单一向量表示，而是fff个向量，这
FFM（Field-aware Factorization Machine -领域感知的因子分解机）解析及举例
weixin_41570231的博客
07-13 605
FFM模型在传统FM模型的基础上引入了“字段”（Field）的概念（特征、隐向量维度、字段相关例子见本专栏第三篇文章）。FM模型的参数是基于特征之间的交互进行训练的，而FFM模型则进一步考虑了不同特征字段之间的交互，即同一特征在不同字段中有不同的隐向量表示。这使得FFM模型在处理高维稀疏数据时有更好的表现。
机器学习算法（三）：FFM（Field-aware Factorization Machine）（域分解机模型）
weixin_39910711的博客
08-30 4192
目录 1 FFM原理 2基于FFM的逻辑回归模型 2.1损失的逻辑回归模型 2.2∅(w,xp)的求导过程 2.3 示例 美团技术团队：https://tech.meituan.com/deep_understanding_of_ffm_principles_and_practices.html https://blog.csdn.net/zc02051126/article/...
FFM(Field-aware Factorization Machines)模型
很吵请安静
04-22 567
提出动机 FFM模型是在FM模型的基础上提出的，FM的假设函数如下所示： y^(x):=w0+∑i=1nwixi+∑i=1n∑j=i+1n⟨vi,vj⟩xixj\hat{y}(\mathbf{x}):=w_{0}+\sum_{i=1}^{n} w_{i} x_{i}+\sum_{i=1}^{n} \sum_{j=i+1}^{n}\left\langle\mathbf{v}_{i}, \mathbf...
推荐系统（四）Field-aware Factorization Machines（FFM）
天泽28的专栏
11-07 4807
推荐系统（四）Field-aware Factorization Machines（FFM） 推荐系统系列博客： 推荐系统（一）推荐系统整体概览 推荐系统（二）GBDT+LR模型 推荐系统（三）Factorization Machines（FM） 上一篇博客介绍了FM模型，这篇博客来介绍下FM模型的改进版FFM模型，看名字也能窥探一二，FFM模型相比较FM模型改进点在于“F”，这个F指的是Field-aware，作者也在论文中提到这个idea受rendle大佬的PITF文章[文献2]启发。这篇文章的核心
（二）FFM（Field-aware Factorization Machine）原理
anshuai_aw1的博客
03-30 2886
一、背景 FFM算法，全称是Field-aware Factorization Machines，是FM（Factorization Machines）的改进版。FFM由Yu-Chin Juan与其比赛队员提出，他们借鉴了field（域）概念提出了FM的升级版模型。简单来说，通过引入field的概念，FFM把相同性质的特征归于同一个field。 本文主要介绍FFM的理论，由于其算法复杂度比较高，在...
（推荐系统）FFM算法：Field-aware Factorization Machines for CTR Prediction
qq_33397016的博客
05-14 706
摘要 FFM算法由Yuchin Juan等人于2016AVM大会上提出。基于FM算法提取样本交叉信息的思想，FFM引进了场（field）的概念，提出了一种粒度更细的样本交叉信息提取方法。实验结果表明，与传统的POLY2与FM等算法对比，FFM更能有效地处理稀疏数据，同时获取较高的推荐精度。 1 FFM算法模型 作为FM的改进版本,FFM通过引入field信息来更细致地表征样本与向量的关系。本小节将简单地对FFM模型原理，求解方法作一个梳理。 1.1 引进filed信息 场信息即特征所属的一个类别。 以论文
02-《Field-aware Factorization Machines for CTR Prediction》
weixin_37562062的博客
03-28 314
1. 什么是FFM Field-aware Factorization Machines（简称FFM），是由YuChin Juan与其比赛队员提出，是FM的一种变式。 在Click-through rate (CTR) 预测中，FFM的效果好于二阶多项式（Poly2）和FM模型。 针对CTR预测，学习特征组合的影响是十分重要的，而普通的线性模型（y=wx）是很难学习特征组合项的参数。此前，针...
推荐系统笔记7-Field-aware Factorization Machines for CTR Prediction
年少_当自强的博客
02-05 1416
本文介绍Field-aware Factorization Machines for CTR Prediction，简称为FFM，其原文Paper传送门。 摘要 计算广告中CTR预估有着很重要的作用，其中二阶映射的FM常被使用，但提出的FFM在比赛中优于FM，因此引出FFM； 一、介绍 通常用LR处理分类问题，其模型是用来解决如下最优化问题： min⁡wλ2∥w∥22+∑i=1mlog⁡(1+ex...
一文看懂推荐系统：排序09：Field-aware Factorization Machines（FFM），从FM改进来的，效果不咋地
weixin_46838716的博客
08-27 1616
从FM改进来的，效果不咋地
Kaggle FFM 建模
10-07
Kaggle 大赛GBDT+FFM 建模，criteo比赛结果排名第一，代码+文档
【每周一文】Field-aware Factorization Machine（2014）
fangqingan_java的专栏
04-12 3895
概述 FFM 近年来在各类比赛取得不俗的成绩，该文介绍了FFM的算法思路和求解过程。 FFM模型 线性模型由于其简单好优化在工业界广泛使用，特别是LR、SVM等表达能力比较强的线性模型。这些模型一个共同的问题是需要人工进行特征组合进行模型优化，沿着这个思路出现了几个模型。 线性模型 基础模型，表示为： Φ(w,x)=w0+∑i=1nwixi\Phi(w,x)=w_0+\sum_
FFM
MusicDancing的博客
10-27 2547
FFM理论与实践 在CTR/CVR预估任务中，FFM（Field-aware Factorization Machine）与FM模型表现非常亮眼。FFM可以看作是FM的升级版，由Yuchi Juan于2016年提出。这里简单一下FFM的原理以及如何将理论转化为实践。 1. FFM公式定义 相较于FM模型，FFM模型引入了域（Field）的概念可看做是对特征进行分组。例如，对于性别特征而言，通常有两种取值 。 参数多容易过拟合，必须设置正则化方法，以及早停的训练策略。...
论文解读：Field-aware Factorization Machines for CTR Prediction(FFMs)
weixin_44441131的博客
01-27 692
文章目录摘要1. Introduction2. POLY2 AND FM3. FFM3.1 Solving the Optimization Problem3.2 Parallelization on Shared-memory Systems3.3 Adding Field Information4. Experiments4.1 Experiments settings4.2 Impact of Parameters4.3 Early Stopping4.4 Speedup FFM模型时FM模型的变
Field-aware Factorization Machines (FFM) 开源项目实战指南
最新发布
gitblog_00184的博客
09-10 517
Field-aware Factorization Machines (FFM) 开源项目实战指南 项目介绍 Field-aware Factorization Machines (FFM) 是一种用于点击率预测(CTR)的高效机器学习模型，最初由Yuchin Juan等人提出。它是在Factorization Machines (FM)基础上的进化，特别设计用于捕捉特征之间的细粒度交互，通过引入...
FFM模型详解
weixin_44441131的博客
08-20 6774
FM和FFM模型是最近几年提出的模型，凭借其在数据量比较大并且特征稀疏的情况下，仍然能够得到优秀的性能和效果的特性，屡次在各大公司举办的CTR预估比赛中获得不错的战绩。美团点评技术团队在搭建DSP的过程中，探索并使用了FM和FFM模型进行CTR和CVR预估，并且取得了不错的效果。本文旨在把我们对FM和FFM原理的探索和应用的经验介绍给有兴趣的读者。 文章参考： 【1】文章目录1. FFM模型原理2. FFM模型实现3. FFM模型应用 1. FFM模型原理 假设一个广告分类的问题，根据用户和广告位相关的.
FM/FFM
公众号：瑞行AI
04-20 846
FM背景及相关算法对比 （1）FM(factorization machine)是在LR(logistic regression)基础上，加入了特征的二阶组合项； （2）SVM和FM的主要区别在于，SVM的二元特征交叉参数是独立的，如wijw_{ij}wij​，而FM的二元特征交叉参数是两个k维的向量vi、vjv_i、v_jvi​、vj​，即<vi，vj>&lt...
推荐系统遇上深度学习(二)--FFM模型理论和实践
livan1234的博客
12-12 704
原创：文文小小挖掘机4月12日 推荐系统遇上深度学习系列： 笔者是一个痴迷于挖掘数据中的价值的学习人，希望在平日的工作学习中，挖掘数据的价值，找寻数据的秘密，笔者认为，数据的价值不仅仅只体现在企业中，个人也可以体会到数据的魅力，用技术力量探索行为密码，让大数据助跑每一个人，欢迎直筒们关注我的公众号，大家一起讨论数据中的那些有趣的事情。 我的公众号为：livandata 1、FFM...
Python实现的LibFFM包装器：机器学习的新工具
Python-ffm是一个针对LibFFM（Field-aware Factorization Machines，即字段感知分解机）的Python包装器。LibFFM是一个由C++实现的库，它用于机器学习中的预测建模，特别是在推荐系统领域。通过使用python-ffm，数据...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值