并发、消息队列、缓存_消息队列与缓存的区别-程序员宅基地

技术标签: 并发  

"并发"会引发关于"顺序"的问题,及如何能够在使用高并发提高效率的同时,又在一定程度上能够“控制/维持”一定的操作顺序。更广泛的,有关并发的"锁"操作,也都会围绕同样的思路来解决问题。

没有银弹

想要在维持并发的同时,通过什么魔法来同时维持顺序是不可能的。最基本的核心想法是,将并发的操作变为串行,那么操作也就自然会有了顺序

这是一个看似有些矛盾的解决方案。并发的目的不就是为了提高效率么?!如果将并发变成串行,那之前的并发还有什么意义?

这是一个非常微妙的问题,如果不仔细考虑,很容易在表面上陷入上面的矛盾纠葛之中。而调和这两者的基本思路是:

  • “使用并发"来提高效率和"放弃并发"来顺序化,这两个过程可以完全不必发生在同一个地方。可以让效率的瓶颈部分"计算"并行化,而让结果的聚合过程"顺序化”。
  • 可以根据"顺序化"的要求来建立独立的分组,让一个过程在group之间并行化,而在这个group内部做细致的串行,从而在保证局部顺序的同时在全局建立效率更高的并行化。

那么最基本的,使用一个队列来顺序化一些列的并发结果,是非常显而易见的。

为什么考虑queue这样的数据结构?正如其名字所暗示的,当有成群的人从四面八方涌来进入一个入口时,保证有序化的一个最基本的方式是:让他们排队。

而这种思想并不需要局限在人群中,而可以抽象出来,为任何抽象的并发任务提供一个解答思路:让所有从四面八方同时冒出来的任务排好队,也即是让它们都进入到一个queue的数据结构中。而为了保证出队、入队的有序性,具备加锁功能的blockingQueue是必须的。

如此就形成了并发任务顺序化的基本思路:让这些并发任务都进入到一个blockingQueue中,出队的过程自然保证了这些任务的有序性。

而把这一思路规模化、稳健化的一个中间件,便是Kafka了。而如果只是轻量级小范围的使用,例如Java中的一个局部,则只需要使用好库里面的BlockingQueue就行了。

“排队"这种思想不只可以应用于"控制并发任务的顺序”,也能够被用来解决任务的加锁问题。诸如Java中的synchronized关键字,在背后所依赖的数据结构也是多个blockingQueue。道理很简单,当你想要控制一堆任务的访问权限,那么,让它们进入一个队列依次获取权限就可以了。

下一个问题是,okay,我知道消息队列可以保存一堆任务,可是,我的任务涉及一大堆的函数执行和数据调度,一个小小的queue能够保存那么多的数据或者操作过程吗?又或是,我的任务只是单纯的执行任务,是一个个的"动作",这东西怎么能够被保存在queue中呢?这些疑问基本上会基于我们潜意识的一个印象,queue所保存的是一个string,可我需要保存的类型多种多样,甚至不是数据而是操作,一堆string的queue真的够吗?

同样的问题会发生在"缓存"的使用上,例如大名鼎鼎的Redis/Memcached。都说缓存很有用,但同样的问题是,在这些中间件中存储一个string能够满足我们的需求吗?

这就涉及到对序列化的讨论,特别地,对json数据的转换。无论你是做并发的"操作",还是有大量的数据需要运行,你都可以将其逐层分解为几个核心的、互相配合的数据块。你并不需要将所有的东西都放在缓存中,只需要将那个能够带动其他东西完成整个流程的关键部分放入到缓存中。

在以前的client-server交互中,前后端耦合非常厉害。而基于json数据格式的Restful API之所以能够流行起来,就在于json数据本身成为了前后端之间的不变量,从而可以实现真正意义上的前后端分离。在这里,json数据充当了前后端的业务协议,是真正不变的business logic。

那么同样的,你的缓存中真正应该存储的,就是能够带动各种并发操作的不变量,它可以以json的形式展示,也可以以对象被序列化之后的别的形式展示。但无论是哪一种,都可以被表示为string。更一般地,按照Unix的哲学,一切皆文件。而文件是什么?无非是一堆二进制码,即string。所谓的"信息工程",information的基本表示方式不就是string么。由此我们便能回答之前提出的问题:小小的string能干什么呢?Everything。

如此,提高效率使用缓存中间件(如Redis/Memcached),顺序化、整合复杂的并发任务使用消息队列(如Kafka/RabbitMQ),都是在捣鼓string。而只要能够将string的运输批量化、系统化,那么任何的操作和数据都可以如法炮制。

如此来看,作为重要和酷炫技术的缓存和消息队列,其牛鼻子就是最简单的排队和信息的字符串表示。只要牵住了这个牛鼻子,其它建立在其上的复杂技艺便能够迎刃理解。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/kid551/article/details/89511456

智能推荐

[常用办公软件] wps怎么自动生成目录?wps自动生成目录的设置教程_wps目录自动生成-程序员宅基地

文章浏览阅读1.1w次,点赞3次,收藏5次。转载请说明来源于"厦门SEO"本文地址:http://www.96096.cc/Article/160880.html常用办公软件  WPS Office是由金山软件股份有限公司开发的一款针对个人永久免费的办公软件,在我们的日常生活和工作中,WPS Office比起微软Microsoft Office来说在文字上的处理会更深入国人用户的人心,熟悉操作WPS的办公小技巧,能够更高效的提高我们的工作效率,今天小编要为大家分享的是WPS怎么自动生成目录?快来一起看看WPS自动生成目录的设置教程吧。_wps目录自动生成

web项目-程序员宅基地

文章浏览阅读7.4k次,点赞2次,收藏19次。web项目是指服务端部署在服务器上,客户端使用浏览器通过网络传输进行访问获取数据的项目。通常我们看见的应用页面网站等等都可以称之为web项目。 在web项目的开发中可分为web前端开发和web后端开发 web前端:即是客户端能看得见碰得着得东西。包括Web页面结构、页面样式外观以及Web层面得交互展现。 前端特点:页面视觉效果良好(客户第一)、Web页面交互流畅(..._web项目

关于java操作excel导入导出三种方式_java导出excel的三种方法-程序员宅基地

文章浏览阅读5.6k次,点赞8次,收藏67次。java操作关于导入导出Excel的多种方式_java导出excel的三种方法

Windows系统环境变量path详解_windows path-程序员宅基地

文章浏览阅读1.1w次,点赞10次,收藏21次。Windows path系统变量编辑_windows path

Hadoop基础教程-第13章 源码编译(13.2 Hadoop2.7.3源码编译)_hadoop2.7.3-src源码下载-程序员宅基地

文章浏览阅读512次。第13章 源码编译13.2 Hadoop2.7.3源码编译13.2.1下载Hadoop源码包(1)到官网http://hadoop.apache.org/releases.html下载2.7.3的source源码包(2)解压缩tar -zxvf hadoop-2.7.3-src.tar.gz -C /opt1(3)打开解压目录下的BUILDING.txt,编译过程和需要的软件其实就是根据这个文档里..._hadoop2.7.3-src源码下载

Latex 语法_\latex-程序员宅基地

文章浏览阅读1k次。Latex 语法_\latex

随便推点

SpringBoot整合Swagger2 详解_springboot swagger2 开关-程序员宅基地

文章浏览阅读324次。SpringBoot、Swagger2 整合详解_springboot swagger2 开关

spring boot 项目报错 java.sql.SQLException: The server time zone value '�й���׼ʱ��' is unrecognized_springboot项目里面报错 the server time zone value ' й-程序员宅基地

文章浏览阅读2.8w次,点赞96次,收藏115次。报错说是时区不对因为mysql-connection-java版本导致时区的问题。pom.xml:控制台报错信息:java.sql.SQLException: The server time zone value ‘�й���׼ʱ��’ is unrecognized or represents more than one time zone. You must configure ei..._springboot项目里面报错 the server time zone value ' й

最全Android Kotlin 学习路线(Kotlin 从入门、进阶到实战)_kotlin学习-程序员宅基地

文章浏览阅读4.2k次。Kotlin 是由 jetBrains 开发的一门现代多平台应用的静态编程语言,Kotlin 代码即可以编译成 Java 字节码,又可以编译成 JavaScript,Kotlin 是开源的,源码在这。Kotlin 包含了大量的语法糖,在编码的时候,会大大的简化我们的代码量及工作效率。且相比传统的 Java 语言,Kotlin 种大量的简写,可以减少很多用Java 必须要写的样板代码,减少大量的 if…else 等嵌套,减少大量接口的实现,代码结构也会更加清晰。_kotlin学习

【前端素材】推荐优质新鲜绿色蔬菜商城网站设计Harmic平台模板(附源码)-程序员宅基地

文章浏览阅读753次,点赞30次,收藏21次。在线绿色新鲜果蔬商店网站是指一个专门销售新鲜、绿色、有机水果和蔬菜的电子商务平台。这类网站旨在为消费者提供方便、快捷的购买渠道,同时确保他们能够购买到高质量、新鲜的产品。

elementui表格添加fixed之后样式异常_element table fixed 样式异常-程序员宅基地

文章浏览阅读1k次。最近写项目碰到一个bug 大概就是一个表格组件两个页面都会使用 组件中表格的某些列就用v-if控制了 表格的首尾列都用了fixed 然后就发生了bug 如下图 具体原因不明看过很多网上的办法 有在fixed的列绑定key的 也有使用doLayout()的 测了都没用 最后在一个前端交流群里一位大佬给出的办法 实测有效.el-table__header, .el-table__body, .el-table__footer { width: 100%; tab_element table fixed 样式异常

C语言中的 #include <stdio.h>是什么?_include <stdio.h>含义-程序员宅基地

文章浏览阅读1.8w次,点赞39次,收藏98次。最近在学习C语言基础的时候,我注意到了在写代码时经常使用的 #include <stdio.h>。众所周知,这是引用头文件的操作,但对于它的深层次含义,我并没有更多的了解。所以今天就来让我们深入研究一下它的更多信息。include的意思是包含,它前面的 # 是预处理指令。#通常有三种功能:1. 宏定义 2 .文件包含 3.条件编译。例如#define定义的标识符常量,这就属于一种宏定义的用法。其他的用法,随着深入学习相信也都会接触到。<stdio.h>就是我们引用的头文件,相_include 含义