Nginx 为什么快到停不下来?

沙海 2021年3月30日04:15:28杂谈 Java评论34字数 3777阅读12分35秒阅读模式
摘要

速读摘要

速读摘要文章源自JAVA秀-https://www.javaxiu.com/7524.html

搭建了独立于操作系统的事件处理机制的框架,及提供了各具体事件的处理。可以实现对输出的所有html页面增加预定义的footbar一类的工作,或者对输出的图片的URL进行替换之类的工作。upstream模块实现反向代理的功能,将真正的请求转发到后端服务器上,并从后端服务器上读取响应,发回客户端。负载均衡模块,实现特定的算法,在众多的后端服务器中,选择一个服务器出来作为某个请求的转发服务器。文章源自JAVA秀-https://www.javaxiu.com/7524.html

原文约 2354 | 图片 5 | 建议阅读 5 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 为什么快到停不下来?

大侠学Python 文章源自JAVA秀-https://www.javaxiu.com/7524.html

来自:NingG 个人博客

链接:http://ningg.top/nginx-series-principle/文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 的进程模型

Nginx 为什么快到停不下来?文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 服务器,正常运行过程中:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. 多进程:一个 Master 进程、多个 Worker 进程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. Master 进程:管理 Worker 进程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. 对外接口:接收外部的操作(信号)文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. 对内转发:根据外部的操作的不同,通过信号管理 Worker文章源自JAVA秀-https://www.javaxiu.com/7524.html

  5. 监控:监控 worker 进程的运行状态,worker 进程异常终止后,自动重启 worker 进程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  6. Worker 进程:所有 Worker 进程都是平等的文章源自JAVA秀-https://www.javaxiu.com/7524.html

  7. 实际处理:网络请求,由 Worker 进程处理;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  8. Worker 进程数量:在 nginx.conf 中配置,一般设置为核心数,充分利用 CPU 资源,同时,避免进程数量过多,避免进程竞争 CPU 资源,增加上下文切换的损耗。文章源自JAVA秀-https://www.javaxiu.com/7524.html

思考:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. 请求是连接到 Nginx,Master 进程负责处理和转发?文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 如何选定哪个 Worker 进程处理请求?请求的处理结果,是否还要经过 Master 进程?文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 为什么快到停不下来?文章源自JAVA秀-https://www.javaxiu.com/7524.html

HTTP 连接建立和请求处理过程

  1. Nginx 启动时,Master 进程,加载配置文件文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. Master 进程,初始化监听的 socket文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. Master 进程,fork 出多个 Worker 进程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. Worker 进程,竞争新的连接,获胜方通过三次握手,建立 Socket 连接,并处理请求文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 高性能、高并发

  1. Nginx 采用:多进程 + 异步非阻塞方式(IO 多路复用 epoll)文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 请求的完整过程:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. 建立连接文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. 读取请求:解析请求文章源自JAVA秀-https://www.javaxiu.com/7524.html

  5. 处理请求文章源自JAVA秀-https://www.javaxiu.com/7524.html

  6. 响应请求文章源自JAVA秀-https://www.javaxiu.com/7524.html

  7. 请求的完整过程,对应到底层,就是:读写 socket 事件文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 的事件处理模型

request:Nginx 中 http 请求。文章源自JAVA秀-https://www.javaxiu.com/7524.html

基本的 HTTP Web Server 工作模式:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. 接收请求:逐行读取请求行和请求头,判断段有请求体后,读取请求体文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 处理请求文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. 返回响应:根据处理结果,生成相应的 HTTP 请求(响应行、响应头、响应体)文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 也是这个套路,整体流程一致。文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 为什么快到停不下来?文章源自JAVA秀-https://www.javaxiu.com/7524.html

模块化体系结构

Nginx 为什么快到停不下来?文章源自JAVA秀-https://www.javaxiu.com/7524.html

nginx的模块根据其功能基本上可以分为以下几种类型:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • event module: 搭建了独立于操作系统的事件处理机制的框架,及提供了各具体事件的处理。包括ngx_events_module, ngx_event_core_module和ngx_epoll_module等。nginx具体使用何种事件处理模块,这依赖于具体的操作系统和编译选项。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • phase handler: 此类型的模块也被直接称为handler模块。主要负责处理客户端请求并产生待响应内容,比如ngx_http_static_module模块,负责客户端的静态页面请求处理并将对应的磁盘文件准备为响应内容输出。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • output filter: 也称为filter模块,主要是负责对输出的内容进行处理,可以对输出进行修改。例如,可以实现对输出的所有html页面增加预定义的footbar一类的工作,或者对输出的图片的URL进行替换之类的工作。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • upstream: upstream模块实现反向代理的功能,将真正的请求转发到后端服务器上,并从后端服务器上读取响应,发回客户端。upstream模块是一种特殊的handler,只不过响应内容不是真正由自己产生的,而是从后端服务器上读取的。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • load-balancer: 负载均衡模块,实现特定的算法,在众多的后端服务器中,选择一个服务器出来作为某个请求的转发服务器。文章源自JAVA秀-https://www.javaxiu.com/7524.html

常见问题剖析

Nginx vs. Apache

网络 IO 模型:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. nginx:IO 多路复用,epoll(freebsd 上是 kqueue )文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 高性能文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. 高并发文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. 占用系统资源少文章源自JAVA秀-https://www.javaxiu.com/7524.html

  5. apache:阻塞 + 多进程/多线程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  6. 更稳定,bug 少文章源自JAVA秀-https://www.javaxiu.com/7524.html

  7. 模块更丰富文章源自JAVA秀-https://www.javaxiu.com/7524.html

场景:文章源自JAVA秀-https://www.javaxiu.com/7524.html

处理多个请求时,可以采用:IO 多路复用 或者 阻塞 IO +多线程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • IO 多路服用:一个 线程,跟踪多个 socket 状态,哪个就绪,就读写哪个;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 阻塞 IO + 多线程:每一个请求,新建一个服务线程文章源自JAVA秀-https://www.javaxiu.com/7524.html

思考:IO 多路复用 和 多线程 的适用场景?文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • IO 多路复用:单个连接的请求处理速度没有优势,适合 IO 密集型 场景,事件驱动文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 大并发量:只使用一个线程,处理大量的并发请求,降低上下文环境切换损耗,也不需要考虑并发问题,相对可以处理更多的请求;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 消耗更少的系统资源(不需要线程调度开销)文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 适用于长连接的情况(多线程模式长连接容易造成线程过多,造成频繁调度)阻塞IO + 多线程:实现简单,可以不依赖系统调用,适合 CPU 密集型 场景每个线程,都需要时间和空间;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 线程数量增长时,线程调度开销指数增长文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 最大连接数

基础背景:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. Nginx 是多进程模型,Worker 进程用于处理请求;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 单个进程的连接数(文件描述符 fd),有上限(nofile):ulimit -n文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. Nginx 上配置单个 worker 进程的最大连接数:worker_connections 上限为 nofile文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. Nginx 上配置 worker 进程的数量:worker_processes文章源自JAVA秀-https://www.javaxiu.com/7524.html

因此,Nginx 的最大连接数:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. Nginx 的最大连接数:Worker 进程数量 x 单个 Worker 进程的最大连接数文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. 上面是 Nginx 作为通用服务器时,最大的连接数文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. Nginx 作为反向代理服务器时,能够服务的最大连接数:(Worker 进程数量 x 单个 Worker 进程的最大连接数)/ 2。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. Nginx 反向代理时,会建立 Client 的连接和后端 Web Server 的连接,占用 2 个连接文章源自JAVA秀-https://www.javaxiu.com/7524.html

思考文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 每打开一个 socket 占用一个 fd文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 为什么,一个进程能够打开的 fd 数量有限制?文章源自JAVA秀-https://www.javaxiu.com/7524.html

IO 模型

场景:文章源自JAVA秀-https://www.javaxiu.com/7524.html

处理多个请求时,可以采用:IO 多路复用 或者 阻塞 IO +多线程文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • IO 多路复用:一个 线程,跟踪多个 socket 状态,哪个就绪,就读写哪个;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 阻塞 IO + 多线程:每一个请求,新建一个服务线程文章源自JAVA秀-https://www.javaxiu.com/7524.html

思考:IO 多路复用 和 多线程 的适用场景?文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • IO 多路复用:单个连接的请求处理速度没有优势文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 大并发量:只使用一个线程,处理大量的并发请求,降低上下文环境切换损耗,也不需要考虑并发问题,相对可以处理更多的请求;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 消耗更少的系统资源(不需要线程调度开销)文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 适用于长连接的情况(多线程模式长连接容易造成线程过多,造成频繁调度)文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 阻塞IO + 多线程:实现简单,可以不依赖系统调用。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 每个线程,都需要时间和空间;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 线程数量增长时,线程调度开销指数增长文章源自JAVA秀-https://www.javaxiu.com/7524.html

select/poll 和 epoll 比较

详细内容,参考:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • select poll epoll三者之间的比较文章源自JAVA秀-https://www.javaxiu.com/7524.html

select/poll 系统调用文章源自JAVA秀-https://www.javaxiu.com/7524.html

// select 系统调用int select(int maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct timeval *timeout);// poll 系统调用int poll(struct pollfd fds[], nfds_t nfds, int timeout);

select文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 查询 fd_set 中,是否有就绪的 fd,可以设定一个超时时间,当有 fd (File descripter) 就绪或超时返回;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • fd_set 是一个位集合,大小是在编译内核时的常量,默认大小为 1024文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 特点:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 连接数限制,fd_set 可表示的 fd 数量太小了;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 线性扫描:判断 fd 是否就绪,需要遍历一边 fd_set;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 数据复制:用户空间和内核空间,复制连接就绪状态信息文章源自JAVA秀-https://www.javaxiu.com/7524.html

poll文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 解决了连接数限制:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • poll 中将 select 中的 fd_set 替换成了一个 pollfd 数组文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 解决 fd 数量过小的问题文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 数据复制:用户空间和内核空间,复制连接就绪状态信息文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • epoll:event 事件驱动文章源自JAVA秀-https://www.javaxiu.com/7524.html

epoll:event 事件驱动文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 事件机制:避免线性扫描文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 为每个 fd,注册一个监听事件文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • fd 变更为就绪时,将 fd 添加到就绪链表文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • fd 数量:无限制(OS 级别的限制,单个进程能打开多少个 fd)文章源自JAVA秀-https://www.javaxiu.com/7524.html

select,poll,epoll文章源自JAVA秀-https://www.javaxiu.com/7524.html

  1. I/O多路复用的机制;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  2. I/O多路复用就通过一种机制,可以监视多个描述符,一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作。文章源自JAVA秀-https://www.javaxiu.com/7524.html

  3. 监视多个文件描述符文章源自JAVA秀-https://www.javaxiu.com/7524.html

  4. 但select,poll,epoll本质上都是同步I/O:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  5. 用户进程负责读写(从内核空间拷贝到用户空间),读写过程中,用户进程是阻塞的;文章源自JAVA秀-https://www.javaxiu.com/7524.html

  6. 异步 IO,无需用户进程负责读写,异步IO,会负责从内核空间拷贝到用户空间;文章源自JAVA秀-https://www.javaxiu.com/7524.html

Nginx 的并发处理能力

关于 Nginx 的并发处理能力:文章源自JAVA秀-https://www.javaxiu.com/7524.html

  • 并发连接数,一般优化后,峰值能保持在 1~3w 左右。(内存和 CPU 核心数不同,会有进一步优化空间)文章源自JAVA秀-https://www.javaxiu.com/7524.html

重磅!程序员交流群已成立公众号运营至今,离不开小伙伴们的支持。为了给小伙伴们提供一个互相交流的平台,特地开通了程序员交流群群里有不少技术大神,不时会分享一些技术要点,更有一些资源收藏爱好者不时分享一些优质的学习资料。(群完全免费,不广告不卖课!)需要进群的朋友,可长按扫描下方二维码。▲长按扫码
文章源自JAVA秀-https://www.javaxiu.com/7524.html

文章源自JAVA秀-https://www.javaxiu.com/7524.html

继续阅读
速蛙云 - 极致体验,强烈推荐!!!购买套餐就免费送各大视频网站会员!快速稳定、独家福利社、流媒体稳定解锁!速度快,全球上网、视频、游戏加速、独立IP均支持!基础套餐性价比很高!这里不多说,我一直正在使用,推荐购买:https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默!
沙海
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定