Noise-Contrastive Estimation

yhblog

于 2022-03-23 12:37:59 发布

阅读量274

点赞数

CC 4.0 BY-SA版权

分类专栏： AI 文章标签：噪声对比估计

原文链接：https://leimao.github.io/article/Noise-Contrastive-Estimation/

AI 专栏收录该内容

23 篇文章

订阅专栏

本文介绍了噪声对比估计（Noise Contrastive Estimation, NCE）方法，该方法常用于无监督学习和信息检索中，通过构建噪声样本对比来估计概率分布。在深度学习领域，NCE被用来训练潜在变量模型，如自编码器和生成对抗网络，以优化模型在大量未标记数据上的表现。通过NCE，可以有效估计高维复杂分布，避免直接计算难以求解的归一化常数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

                    
                    https://leimao.github.io/article/Noise-Contrastive-Estimation/