技术标签: 单个字段 查找 MySQL 去重 mysql 多个字段
单个字段 数据重复
多个字段 数据重复
单个字段的重复数据查找 与 去重
多个字段的重复数据查找 与 去重
示例 accountinfo 表数据如下:
我们要把上面这个表中 单个字段 account字段相同的数据找出来。
思路 分三步 简述:
第一步
要找出重复数据,我们首先想到的就是,既然是重复,那么 数量就是大于 1 就算是重复。 那就是 count 函数 。
因为我们要排查的是 单个 字段account ,那么就是需要按照 account 字段 维度 去分组。 那就是 group by 函数。
那么我们第一步写出来的mysql 语句是:
SELECT account ,COUNT(account) as count FROM accountinfo GROUP BY account;
查询结果如下:
第二步
没错,如我们所想,count大于1的即是 account为 A 和 B 的数据。
那么我们稍作筛选,只把count大于1的数据的account 找出来。
第二步,利用having 拼接筛选条件,写出来的mysql 语句是:
SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1;
查询结果如下:
第三步
重复的account数据 A B 都找出来了,接下来我们只需要把account为A 和 B 的其他数据都一起查询出来。
那就是利用第二步查出来的数据做为子查询条件,使用 IN 函数。
第三步写出来的mysql 语句是:
SELECT * FROM accountinfo WHERE account IN
(
SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1
);
查询结果如下:
可以看到重复的数据都被我们筛选出来了。
紧接着上面,毕竟去重的前提肯定是找重,上面我们已经实现找重了,所以紧接着进行去重。
按照我们步骤三得到的图,就是我们需要删掉一条account为A的数据, 一条account为B的数据,去重结果图应该如下:
思路也分三步简述:
第一步
删掉数据,我们一般选择接住主键来删除,所以我们考虑从id入手。
再来看我们的重复数据:
如果我们想在这些重复数据里面,每个都保留一条,如 account 为 A 中 id=10 的数据, account 为B 中 id=20 的数据 ,那么第一步我们就得把这两条数据从上面的
最终得到的数据 筛选出来,也就是按照 account分组,保留里面id最小的数据。使用 group by 和 min 函数。
所以去重我们第一步写出来的mysql 语句是:
SELECT min(id) as id from (
SELECT * FROM accountinfo WHERE account IN
(
SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1
)
) a GROUP BY a.account
查询结果如下:
第二步
想要保留的数据已经找出来了,那么接下来就是从所有的重复数据里面 删掉 不为 我们保留的数据 即可 。
那么就是找出我们需要删除的id, 使用 not in 函数。
所以去重我们第二步写出来的mysql 语句是:
SELECT t1.id FROM (
SELECT id FROM accountinfo WHERE account IN ( SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1) ) t1
WHERE t1.id NOT IN (
SELECT min(id) AS id FROM (
SELECT * FROM accountinfo WHERE account IN
(
SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1
)
) a GROUP BY a.account
)
查询的结果为:
对这个sql语句稍作文字说明:
第三步,删掉第二步找出来的数据即可,根据id删除。
所以第三步写出来的mysql语句是:
DELETE FROM accountinfo WHERE id IN (
SELECT t1.id FROM (
SELECT id FROM accountinfo WHERE account IN ( SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1) ) t1
WHERE t1.id NOT IN (
SELECT min(id) AS id FROM (
SELECT * FROM accountinfo WHERE account IN
(
SELECT account FROM accountinfo GROUP BY account HAVING COUNT(account) > 1
)
) a GROUP BY a.account
)
)
执行结果如下图:
示例 accountinfo 表数据如下:
想要去重,我们的首要想到的也是先把 重复数据 找出来。
现在的重复定义是, account 和 deviceId 都相同的 时候,这种数据就是重复数据(也就是上图绿色框出来的就是同时多个字段都存在重复的数据)。
思路简述:
第一步
因为有了文章上半部讲到的单个字段重复的数据查找思路,所以到这边应该更好理解了。
同样, account 和 deviceId 都相同的重复数据就是指, 这种数据存在的数量 大于 2,那么就是存在重复了。
我们还是使用到了 group by 函数 和 count 函数 和 having and 函数(因为需要同时满足两个字段条件,使用and)。
第一步写出来的mysql语句是:
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
查询出来的结果如下图:
第二步
一样 也是把第一步里的到的关键信息 account 和 deviceId做为子查询条件,从原表里把 account 和 deviceId 同时相同的数据都查找出来。
第二步写出来的mysql语句是:
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
查询结果如下图:
可以看到重复的数据都被我们筛选出来了,这些数据里面就是包含 account 和 deviceId 同时都相同的数据!
第一步
思路一样,我们对于重复的数据每个只保留一条,那就是把这些涉及重复的数据每个都找出一条,也是根据id入手。
也就是在account为 C 且 deviceId 为 C333 三条重复数据里面,保留 id最小的 等于30 这一条;
account为D 且 deviceId 为 D444 二条重复数据里面,保留 id最小的 等于40 这一条.
所以第一步我们先写出来的mysql语句为:
SELECT min(id) as id FROM (
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
)a GROUP BY a.account,a.deviceId
查询结果如下图:
第二步
就是从涉及重复数据里面,找出除了我们需要保留的id之外的那批id, 那就是需要我们执行删除的数据id。
所以第二步我们先写出来的mysql语句为:
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
) b WHERE b.id
NOT IN (
SELECT min(id) as id FROM (
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
)a GROUP BY a.account,a.deviceId
)
查询出来的结果为:
那么最后删掉这些id的数据即可:
DELETE FROM accountinfo WHERE id in (
SELECT b.id FROM (
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
) b WHERE b.id
NOT IN (
SELECT min(id) as id FROM (
SELECT t.* FROM accountinfo t, (
SELECT account, COUNT(account), deviceId, COUNT(deviceId)
FROM accountinfo
GROUP BY account, deviceId
HAVING (COUNT(account) > 1) AND (COUNT(deviceId) > 1)
) a
WHERE t.account=a.account AND t.deviceId=a.deviceId
)a GROUP BY a.account,a.deviceId
)
)
去重后结果为:
该篇就到此吧。
文章浏览阅读3.2w次,点赞16次,收藏90次。对于这个问题我也是从网上找了很久,终于解决了这个问题。首先遇到这个问题,应该确认虚拟机能不能正常的上网,就需要ping 网关,如果能ping通说明能正常上网,不过首先要用命令route -n来查看自己的网关,如下图:第一行就是默认网关。现在用命令ping 192.168.1.1来看一下结果:然后可以看一下电脑上面百度的ip是多少可以在linux里面ping 这个IP,结果如下:..._linux桥接ping不通baidu
文章浏览阅读512次。小妹在这里已经卡了2-3天了,研究了很多人的文章,除了低版本api 17有成功外,其他的不是channel null 就是没反应 (channel null已解决)拜托各位大大,帮小妹一下,以下是我的程式跟 gradle, 我在这里卡好久又没有人可问(哭)![image](/img/bVcL0Qo)public class MainActivity extends AppCompatActivit..._android 权限申请弹窗 横屏
文章浏览阅读1.4k次,点赞4次,收藏6次。valid padding(有效填充):完全不使用填充。half/same padding(半填充/相同填充):保证输入和输出的feature map尺寸相同。full padding(全填充):在卷积操作过程中,每个像素在每个方向上被访问的次数相同。arbitrary padding(任意填充):人为设定填充。..._cnn “相同填充”(same padding)
文章浏览阅读790次,点赞29次,收藏28次。手绘了下图所示的kafka知识大纲流程图(xmind文件不能上传,导出图片展现),但都可提供源文件给每位爱学习的朋友一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长![外链图片转存中…(img-Qpoc4gOu-1712656009273)][外链图片转存中…(img-bSWbNeGN-1712656009274)]
文章浏览阅读469次。Date对象取得年份有getYear和getFullYear两种方法经 测试var d=new Date;alert(d.getYear())在IE中返回 2009,在Firefox中会返回109。经查询手册,getYear在Firefox下返回的是距1900年1月1日的年份,这是一个过时而不被推荐的方法。而alert(d.getFullYear())在IE和FF中都会返回2009。因此,无论何时都应使用getFullYear来替代getYear方法。例如:2016年用 getFullYea_getyear和getfullyear
文章浏览阅读182次。Unix传奇(上篇) 陈皓 了解过去,我们才能知其然,更知所以然。总结过去,我们才会知道我们明天该如何去规划,该如何去走。在时间的滚轮中,许许多的东西就像流星一样一闪而逝,而有些东西却能经受着时间的考验散发着经久的魅力,让人津津乐道,流传至今。要知道明天怎么去选择,怎么去做,不是盲目地跟从今天各种各样琳琅满目前沿技术,而应该是去 —— 认认真真地了解和回顾历史。 Unix是目前还在存活的操作系_unix传奇pdf
文章浏览阅读308次。哈希算法:将字符串映射为数字形式,十分巧妙,一般运用为进制数,进制据前人经验,一般为131,1331时重复率很低,由于字符串的数字和会很大,所以一般为了方便,一般定义为unsigned long long,爆掉时,即为对 2^64 取模,可以对于任意子序列的值进行映射为数字进而进行判断入门题目链接:AC代码:#include<bits/stdc++.h>using na..._ac算法 哈希
文章浏览阅读952次,点赞13次,收藏27次。由于觉得Qt的编辑界面比较丑,所以想用vs2022的编辑器写Qt加MySQL的项目。_在vs中 如何装qt5sqlmysql模块
文章浏览阅读1k次。选择题题目:下面的哪个调研内容属于经济环境调研?()题目:()的目的就是加强与客户的沟通,它是是网络媒体也是网络营销的最重要特性。题目:4Ps策略中4P是指产品、价格、顾客和促销。题目:网络市场调研是目前最为先进的市场调研手段,没有任何的缺点或不足之处。题目:市场定位的基本参数有题目:市场需求调研可以掌握()等信息。题目:在开展企业网站建设时应做好以下哪几个工作。()题目:对企业网站首页的优化中,一定要注意下面哪几个方面的优化。()题目:()的主要作用是增进顾客关系,提供顾客服务,提升企业_画中画广告之所以能有较高的点击率,主要由于它具有以下特点
文章浏览阅读1k次,点赞2次,收藏5次。以爬取CSDN为例子:第一步:导入请求库第二步:打开请求网址第三步:打印源码import urllib.requestresponse=urllib.request.urlopen("https://www.csdn.net/?spm=1011.2124.3001.5359")print(response.read().decode('utf-8'))结果大概就是这个样子:好的,继续,看看打印的是什么类型的:import urllib.requestresponse=urllib.r_urlopen the read operation timed out
文章浏览阅读304次。修正sina.com/sina.cn邮箱获取不到联系人,并精简修改了其他邮箱代码,以下就是升级版版本的介绍:完整版本,整合了包括读取邮箱通讯录、MSN好友列表的的功能,目前读取邮箱通讯录支持如下邮箱:gmail(Y)、hotmail(Y)、 live(Y)、tom(Y)、yahoo(Y)(有点慢)、 sina(Y)、163(Y)、126(Y)、yeah(Y)、sohu(Y) 读取后可以发送邮件(完..._通讯录 应用读取 邮件 的相关
文章浏览阅读213次。云计算及虚拟化教程学习云计算、虚拟化和计算机网络的基本概念。此视频教程共2.0小时,中英双语字幕,画质清晰无水印,源码附件全课程英文名:Cloud Computing and Virtualization An Introduction百度网盘地址:https://pan.baidu.com/s/1lrak60XOGEqMOI6lXYf6TQ?pwd=ns0j课程介绍:https://www.aihorizon.cn/72云计算:概念、定义、云类型和服务部署模型。虚拟化的概念使用 Type-2 Hyperv_云计算与虚拟化技术 教改