文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Node高并发的原理是什么

2023-07-04 09:54

关注

这篇文章主要介绍“Node高并发的原理是什么”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Node高并发的原理是什么”文章能帮助大家解决问题。

从头聊起

一个常见web应用会做哪些事情

一个典型的传统web应用实现


多进程web应用示例伪代码

listenFd = new Socket(); // 创建监听socketBind(listenFd, 80); // 绑定端口Listen(listenFd);   // 开始监听for ( ; ; ) {    // 接收客户端请求,通过新的socket建立连接    connFd = Accept(listenFd);    // fork子进程    if ((pid = Fork()) === 0) {        // 子进程中        // BIO读取网络请求数据,阻塞,发生进程调度        request = connFd.read();        // BIO读取本地文件,阻塞,发生进程调度        content = ReadFile('test.txt');        // 将文件内容写入响应        Response.write(content);    }}

多线程应用实际上和多进程类似,只不过将一个请求分配一个进程换成了一个请求分配一个线程。线程对比进程更轻量,在系统资源占用上更少,上下文切换(ps:所谓上下文切换,稍微解释一下:单核心CPU的情况下同一时间只能执行一个进程或线程中的任务,而为了宏观上的并行,则需要在多个进程或线程之间按时间片来回切换以保证各进、线程都有机会被执行)的开销也更小;同时线程间更容易共享内存,便于开发

上文中提到了web应用的两个核心要点,一个是进(线)程模型,一个是I/O模型。那阻塞I/O到底是什么?又有哪些其他的I/O模型呢?别着急,首先我们看一下什么是阻塞

什么是阻塞?什么是阻塞I/O?

简而言之,阻塞是指函数调用返回之前,当前进(线)程会被挂起,进入等待状态,在这个状态下,当前进(线)程暂停运行,引起CPU的进(线)程调度。函数只有在内部工作全部执行完成后才会返回给调用者

所以阻塞I/O是,应用程序通过API调用I/O操作后,当前进(线)程将会进入等待状态,代码无法继续往下执行,这时CPU可以进行进(线)程调度,即切换到其他可执行的进(线)程继续执行,当前进(线)程在底层I/O请求处理完后才会返回并可以继续执行

多进(线)程 + 阻塞I/O模型有什么问题?

在了解了什么是阻塞和阻塞I/O后,我们来分析一下传统web应用多进(线)程 + 阻塞I/O模型有什么弊端。

因为一个请求需要分配一个进(线)程,这样的系统在并发量大时需要维护大量进(线)程,且需要进行大量的上下文切换,这都需要大量的CPU、内存等系统资源支撑,所以在高并发请求进来时CPU和内存开销会急剧上升,可能会迅速拖垮整个系统导致服务不可用

nodejs应用实现

接下来我们看看nodejs应用是如何实现的。

const net = require('net');const server = net.createServer();const fs = require('fs');server.listen(80);  // 监听端口// 监听事件建立连接server.on('connection', (socket) => {    // 监听事件读取请求数据    socket.on('data', (data) => {    // 异步读取本地文件    fs.readFile('test.txt', (err, data) => {            // 将读取的内容写入响应            socket.write(data);            socket.end();        })    });});

可以看到在nodejs中,我们可以以异步的方式去进行I/O操作,通过API调用I/O操作后会马上返回,紧接着就可以继续执行其他代码逻辑,那为什么nodejs中的I/O是“非阻塞”的呢?回答这个问题之前我们再做一些准备工作,参考nodejs进阶视频讲解:进入学习

read操作基本步骤

首先看下一个read操作需要经历哪些步骤

接下来我们看一下操作系统中有哪些I/O模型

几种I/O模型

阻塞式I/O

Node高并发的原理是什么


非阻塞式I/O

Node高并发的原理是什么


I/O多路复用(进程可同时监听多个I/O设备就绪)

Node高并发的原理是什么


信号驱动I/O

Node高并发的原理是什么


异步I/O

Node高并发的原理是什么


那么nodejs里到底使用了哪种I/O模型呢?是上图中的“非阻塞I/O”吗?别着急,先接着往下看,我们来了解下nodejs的体系结构

nodejs体系结构,线程、I/O模型分析

Node高并发的原理是什么

最上面一层是就是我们编写nodejs应用代码时可以使用的API库,下面一层则是用来打通nodejs和它所依赖的底层库的一个中间层,比如实现让js代码可以调用底层的c代码库。来到最下面一层,可以看到前端同学熟悉的V8,还有其他一些底层依赖。注意,这里有一个叫libuv的库,它是干什么的呢?从图中也能看出,libuv帮助nodejs实现了底层的线程池、异步I/O等功能。libuv实际上是一个跨平台的c语言库,它在windows、linux等不同平台下会调用不同的实现。我这里主要分析linux下libuv的实现,因为我们的应用大部分时候还是运行在linux环境下的,且平台间的差异性并不会影响我们对nodejs原理的分析和理解。好了,对于nodejs在linux下的I/O模型来说,libuv实际上提供了两种不同场景下的不同实现,处理网络I/O主要由epoll函数实现(其实就是I/O多路复用,在前面的图中使用的是select函数来实现I/O多路复用,而epoll可以理解为select函数的升级版,这个暂时不做具体分析),而处理文件I/O则由多线程(线程池) + 阻塞I/O模拟异步I/O实现


下面是一段我写的nodejs底层实现的伪代码帮助大家理解

listenFd = new Socket();    // 创建监听socketBind(listenFd, 80); // 绑定端口Listen(listenFd);   // 开始监听for ( ; ; ) {    // 阻塞在epoll函数上,等待网络数据准备好    // epoll可同时监听listenFd以及多个客户端连接上是否有数据准备就绪    // clients表示当前所有客户端连接,curFd表示epoll函数最终拿到的一个就绪的连接    curFd = Epoll(listenFd, clients);    if (curFd === listenFd) {        // 监听套接字收到新的客户端连接,创建套接字        int connFd = Accept(listenFd);        // 将新建的连接添加到epoll监听的list        clients.push(connFd);    }    else {        // 某个客户端连接数据就绪,读取请求数据        request = curFd.read();        // 这里拿到请求数据后可以发出data事件进入nodejs的事件循环        ...    }}// 读取本地文件时,libuv用多线程(线程池) + BIO模拟异步I/OThreadPool.run((callback) => {    // 在线程里用BIO读取文件    String content = Read('text.txt');      // 发出事件调用nodejs提供的callback});

通过I/O多路复用 + 多线程模拟的异步I/O配合事件循环机制,nodejs就实现了单线程处理并发请求并且不会阻塞。所以回到之前所说的“非阻塞I/O”模型,实际上nodejs并没有直接使用通常定义上的非阻塞I/O模型,而是I/O多路复用模型 + 多线程BIO。我认为“非阻塞I/O”其实更多是对nodejs编程人员来说的一种描述,从编码方式和代码执行顺序上来讲,nodejs的I/O调用的确是“非阻塞”的。

关于“Node高并发的原理是什么”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识,可以关注编程网行业资讯频道,小编每天都会为大家更新不同的知识点。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯