对比学习 - 程序员宅基地

对比学习（contrastive learning）

标签：机器学习深度学习

对比学习是一种自监督学习方法，用于在没有标签的情况下，通过让模型学习哪些数据点相似或不同来学习数据集的一般特征。让我们从一个简单的例子开始。想象一下，你是一个试图理解世界的新生婴儿。在家里，假设你有...

【深度学习：（Contrastive Learning）对比学习】深入浅出讲解对比学习

标签：深度学习学习人工智能

对比学习是一种学习方法，侧重于通过对比正反两方面的实例来提取有意义的表征。它利用的假设是，在学习到的嵌入空间中，相似的实例应靠得更近，而不相似的实例应离得更远。通过将学习作为一项辨别任务，对比学习允许...

深度对比学习综述论文PDF

标签：深度学习对比学习论文综述

在深度学习中, 如何利用大量、易获取的无标注数据增强神经网络模型的特征表达能力, 是一个具有重要意义的研究问题, 而对比学习是解决该问题的有效方法之一, 近年来得到了学术界的广泛关注, 涌现出一大批新的研究方法...

【机器学习】对比学习（contrastive learning）

标签：机器学习学习人工智能

SSL 中使用的最古老和最受欢迎的技术之一是对比学习，它使用“正”和“负”样本来指导深度学习模型。此后，对比学习得到了进一步发展，现在被用于完全监督和半监督的环境中，并提高了现有技术水平的性能。现在让我们...

一文弄懂什么是对比学习（Contrastive Learning）

标签：人工智能

有的paper将对比学习称为自监督学习（Self-supervised learning），有的将其称为无监督学习（Unsupervised Learning , UL）。自监督学习是无监督学习的一种形式。自监督学习(Self-supervised learning)可以避免对...

对比学习（Contrastive Learning）综述

标签：算法大数据 python

引入深度学习的成功往往依赖于海量数据的支持，其中对于数据的标记与否，可以分为监督学习和无监督学习。1. 监督学习：技术相对成熟，但是对海量的数据进行标记需要花费大量的时间和资源。2. 无监督学习：自主发现...

对比学习文献介绍，包含Ts2vec等

标签：对比学习

对比学习文献介绍，包含TS2vec、Subseries Consistency、TLoss/ Subseries Consistency、TNC/ Temporal consistency等文献，以及其他对比学习文件

【自监督学习】对比学习（Contrastive Learning）介绍

标签：自监督学习对比学习深度学习

我们知道，标注数据总是有限的，就算ImageNet已经很大，但是很难更大，那么它的天花板就摆在那，就是有限的数据总量。NLP领域目前的经验应该是：自监督预训练使用的数据量越大，模型越复杂，那么模型能够吸收的知识...

对比学习基本概念

标签：学习

大家好，本文同步发布在公众号。

浅聊对比学习（Contrastive Learning）

点击上方“视学算法”，选择加"星标"或“置顶”重磅干货，第一时间送达作者丨parasol@知乎（已授权）来源丨https://zhuanlan.zhihu.com/p/521614413编辑丨极市平台导读本文通过解读对比学习的经典论文和综述，介绍...

PyTorch实施“监督式对比学习”（顺带SimCLR）-Python开发

标签： Python Deep Learning

SupContrast：有监督的对比学习本文档以CIFAR为例说明了PyTorch中以下论文的参考实现：（1）有监督的对比学习。论文（2）一个简单的Fr SupContrast：有监督的对比学习本文档以CIFAR为例说明了PyTorch中以下论文的...

ConVIRT-pytorch:图像和文本对的对比学习表示。 ConVIRT Paper的Pytorch实施

标签： Python

图像和文本对的对比学习表示ConVIRT论文中描述的体系结构的Pytorch实现：从成对的图像和文本中进行医学视觉表示的对比学习张宇豪，江航，三浦康秀，克里斯托弗·曼宁，柯蒂斯·P·朗格兹Eduardo Reis的非官方开源...

对比学习 ——simsiam 代码解析。.doc

标签：技术资料

对比学习 ——simsiam 代码解析。.doc

PyContrast:PyTorch实施对比学习方法；很棒的学习论文清单

标签： Python

PyContrast此repo列出了最新的对比学习论文，并包括其中许多代码。论文清单找到很棒的对比学习。 PyTorch代码有关SoTA方法的参考实现（例如InstDis，CMC，MoCo等），请参见。预训练模型提供了一组ImageNet无监督的...

对比学习综述

标签：对比学习 pytorch 多模态

它们使用的代理任务是不一样的，有个体判别，有预测未来，...CMC可能有两个甚至多个编码器它们做的任务从图像到视频到音频到文字到强化学习，非常的丰富多彩。目标函数都是用infoNCE或者infoNCE类似的目标函数去算的。

经典论文学习笔记——13篇对比学习（Contrastive Learning）

标签：深度学习机器学习

跟着李沐老师的对比学习课程看了一遍，又照着知乎 / CSDN等各位大佬的总结，重新理解了一遍，下面根据自己的学习来总结一下。着重讲一下MoCo，及附带其他12种对比学习的论文的改进之处。

NLP中的对抗学习VS对比学习-1

标签：自然语言处理学习人工智能

思维导图链接：https://www.processon.com/mindmap/64159f9ff502f062b5d616be是为了让模型更鲁棒，对噪声更加的不敏感。在实现这一点上，有对抗防御、对抗攻击和对抗训练。对抗防御是识别出更多的样本 ...

自监督学习中的 Contrastive Learning 对比学习（持续更新）

标签：机器学习深度学习计算机视觉

本文粗略介绍了对比学习的基本原理以及常见方法。什么是对比学习？对比学习是一种自监督或者无监督学习的一种方法。通过对比未知样本和正负样本的相近程度，来给未知样本进行正负归类。最早运用于判定图像表征...

近期必读的与ICML 2020【对比学习】相关的论文（六篇）

标签： ICML_2020 对比学习

与往年相比，ICML 2020的接收率正逐年走低。本文发现基于对比学习（Contrastive Learning）相关的paper也不少，对比学习、自监督学习等等都是今年比较火的topic，受到了很多人的关注。

对比学习在NLP中应用全面解读

标签：自然语言处理人工智能深度学习

对比学习（Contrastive Learning）在自然语言处理（NLP）中具有广泛的应用。对比学习是一种无监督学习方法，旨在将相似样本聚集在一起，并将不相似样本分开。在NLP中，对比学习的目标是学习出具有语义相似性的向量...

样例对比学习->类别监督对比学习脉络梳理

标签：范文/模板/素材深度学习毕业设计聚类

汇报PPT，主要介绍了几篇深度学习领域->对比学习方面的论文，对于MOCO，simCLR两种典型的对比学习框架进行了介绍；而后从样例对比学习转到聚类对比学习，再转而介绍了有监督对比学习，总共设计6篇论文。适合于组会...

对比学习论文综述

标签：深度学习

目录第一阶段：百花齐放InstDisc (Instance Discrimination)InvaSpread (Invariant and Spreading Instance Feature)References 第一阶段：百花齐放 InstDisc (Instance Discrimination) paper: Unsupervised ...

Unsupervised Learning | 对比学习——13篇论文综述

标签：深度学习机器学习计算机视觉

文章目录1. 第一阶段：百花齐放1.1 InstDisc1.2 InvaSpread1.3 CPC1.4 CMC2. 第二阶段：CV双雄2.1 MoCov12.2 SimCLRv12.3 MoCov22.4 SimCLRv22.5 SWaV2.6 Other3. 第三阶段：不用负样本3.1 BYOL3.2 SimSiam4....