对比学习 - 程序员宅基地

加入对比学习的语义相似度计算Similarity.zip

对比学习系列论文CPC（一）——CPC概览

1.为什么要进行无监督学习？ CPC作者回答的首要问题就是我们使用无监督学习的原因，他表示有监督学的模型有一定的脆弱性，很难进行迁移。也就是鲁棒性不好。这个主要因为当我们在进行一类任务的classification的...

对比学习的应用（LCGNN，VideoMoCo，GraphCL，XMC-GAN）

之前已经有博文整理过了对比学习的概念，比较重要且流行的文章，和一些已经有的应用（主要是基于InfoNCE等早期的手段）： Contrastive Learning（对比学习，MoCo，SimCLR，BYOL，SimSiam）对比学习的应用...

AAAI2021-基于对比学习的三元组生成式抽取方法

标签：算法人工智能自然语言处理

点击下面卡片，关注我呀，每天给你送来AI技术干货！来自：浙大KG论文题目：Contrastive Triple Extraction with Generative Transformer...

UniMSE(2022)统一的多模态情感分析与情感识别(多层融合和对比学习)

标签：学习

此外，还融合了具有多层次文本特征的听觉和视觉模态表示，并引入了跨模态对比学习。MSA和ERC的四个公开基准数据集上进行了实验，包括多模态意见水平情绪强度数据集 (MOSI)，多模态观点、情绪与情绪强度(MOSEI)，...

YYDS！对比学习还能这么用？

标签：机器学习人工智能深度学习

作者|上杉翔二悠闲会·信息检索整理|NewBeeNLP自监督学习在CV和NLP已经用的很多了，那很自然也会被迅速引进并占坑到推荐系统领域咯。而发掘推荐数据上的自监督信号，其实也是十分有利于推荐系统的，主要有以下优势：...

对比学习知识扩展——一堆奇奇怪怪的loss，快把我压死了orz...

标签：学习

1.交叉熵loss和对比loss区别交叉熵 loss 是最后结果过一层 fc 然后进行 softmax 。然后 fc 的系数 W 就是特征的模板（模板的意思是把一些特征用这个Wc参数转换后，就能判断它是否是c类，相当于这个Wc就是c类的...

对比学习loss-Triplet Loss, Ranking Loss, Margin Loss、center loss

标签： tcp/ip 机器学习网络协议

ranking loss实际上是一种metric learning,他们学习的相对距离，而不在乎实际的值. 其应用十分广泛，包括是二分类，例如人脸识别，是一个人不是一个人。在不同场景有不同的名字，包括 Contrastive Loss, Margin ...

何恺明团队：stop gradient是孪生网络对比学习成功的关键

标签：网络神经网络机器学习

文 | Happy源 | 极市平台本文是FAIR的陈鑫磊&何恺明大神在无监督学习领域又一力作，提出了一种非常简单的表达学习机制用于避免表达学习中的“崩溃”问题，从理论与实验角度证...

【论文笔记_知识蒸馏_对比学习_2020】CONTRASTIVE REPRESENTATION DISTILLATION

（representational knowledge暂译为表征知识） ...摘要我们通常希望将表征知识从一个神经网络转移到另一个神经网络。例如，将一个大的网络提取为一个小的网络，将知识从一个感官模态转移到另一个感官模态，或将一组...

对比学习2024最新SOTA＆应用方案分享，附14篇必读论文和代码

标签：论文对比学习推荐系统

同学们发现没有，对比学习在我们的日常工作生活中已经很常见了，比如推荐系统任务，为用户推荐相似的商品或预测用户的购买行为；又比如图像检索，为用户找相似图片或识别不同物体。另外还有语音识别、人脸识别、NLP...

对比学习简单介绍教程

标签：深度学习机器学习对比学习

对比学习的核心思想是在无监督的情况下，学习出能够区分正例和负例的特征表示。对于一个给定的数据样本，正例是来自与该样本相似的其他样本，而负例是与该样本不相似的样本。通过最大化正例之间的相似度，同时最小化...

UNIMO：基于跨模态对比学习的统一模态理解和生成

UNIMO、跨模态对比学习、统一模态

【对比学习超分辨】A Practical Contrastive Learning Framework for Single Image Super-Resolution

标签：深度学习计算机视觉人工智能

基于对比学习思想的超分辨率文章。

自监督学习：生成和对比方法综述

标签：自监督学习

自监督学习作为一种新的学习方法，近几年在表征学习方面取得了骄人的成绩，其利用输入数据本身作为监督，并使得几乎所有类型的下游任务都受益。

引入对抗训练的对比学习

标签：深度学习机器学习人工智能

目录文章目录一、Simple Contrastive Representation Adversarial Learning for NLP Tasks1.1 浅谈对抗1.2 监督...今天主要给大家介绍两篇有关对比学习的论文。对比学习这样的方法在自然语言中备受关注。它使用成对的

SimCLR：一个简单的视觉表示对比学习框架

本文提出了一个简单的视觉表示对比学习框架SimCLR。我们简化了最近提出的对比自监督学习算法，而不需要专门的架构或memorybank。为了理解是什么使对比预测任务能够学习到有用的表示，我们系统地研究了框架的主要组成...

利用双对比学习模型DCL鉴别视频中伪造的面部

标签：音视频计算机视觉机器学习

作者提出了一个双对比学习模型，通过在一定程度上增加伪造面部的不一致性提升了模型的泛化能力。

对比学习 ——simsiam 代码解析。：

所以这次就想着对比学习能不能用来解决这个问题呢。？看了一圈，感觉simsiam是对比学习里比较简单的一种方法，好像效果也不错。所以来看一看这个东西是怎么玩的。 simsaim 是对比学习很新的文章了。他的训练...

细节满满！理解对比学习和SimCSE，就看这6个知识点

标签：机器学习人工智能深度学习

‍‍‍‍‍‍©PaperWeekly 原创 · 作者 |海晨威研究方向|自然语言处理‍‍‍‍‍‍2020 年的 Moco 和 SimCLR 等，掀起了对比学习在 CV 领域的热潮，2...

NeurIPS 2020上与【对比学习】相关论文（附代码，七篇）

标签： NeuraIPS2020

在NeuraIPS上对比学习（Contrastive Learning）...本文为大家奉上NeurIPS 2020必读的七篇对比学习相关论文——对抗自监督对比学习、局部对比学习、难样本对比学习、多标签对比预测编码、自步对比学习、有监督对比学习。

自监督｜「SimCLR」对比学习阅读笔记

标签：深度学习计算机视觉机器学习

SimCLR 是对比学习的奠基作之一，模型结构对称、简单又有效

KDD 2022 | GraphMAE：生成式图自监督学习超越对比学习

©作者 | 张欣单位 | 香港理工大学研究方向 | 图神经网络、自监督学习论文标题：GraphMAE: Self-Supervised Masked Graph Autoencoders论文作者：Zhenyu Hou, Xiao Liu, Yukuo Cen, Yuxiao Dong, Hongxia Yang, Chun...

对比学习，难负样本——Contrastive Learning with Hard Negative Samples

标签：深度学习

留个坑hhh

【论文笔记】对比学习(Contrastive Learning)音频表示框架（COLA）

标签：深度学习机器学习人工智能

文章目录对比学习 Contrastive Learning Contrastive Learning在CV领域风生水起，涌现了一批非常优秀的成果，例如：针对ImageNet有Google的SIMCLR, Facebook的MoCo, 和强化学习的CURL。在音频领域却少有研究。最近...

对比学习15篇顶会论文及代码合集，2023最新

标签：对比学习机器学习

作为机器学习的新宠，对比学习给CV、NLP、推荐系统领域都带来了极大的福音，在图像识别、语音识别、自然语言处理等现实场景中的无监督学习任务中起到了非常重要的作用，自然也成为了各大顶会争相投稿的热门方向。...

CVPR 2021 | 将无监督对比学习与超分相结合！国防科大提出DASR：盲图像超分的无监督退化表达学习...

标签：卷积计算机视觉人工智能

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本文转载自：AIWalker标题&作者团队paper：https://arxiv.org/abs/2104.00...

丹琦女神新作：对比学习，简单到只需要Dropout两下

文 | 花小花Posy上周把《对比学习有多火？文本聚类都被刷爆了...》分享到卖萌屋的群里后，遭到了群友们一波嫌弃安利。小伙伴们表示，插入替换的数据增强方式已经Out了，SimCSE才是...

遥感影像语义分割自监督+对比学习-网络训练

今天开始，要进行代码的学习，先将训练自监督网络的代码跑起来。

”对比学习“ 的搜索结果