IO多路复用

1. 网络并发模型概述

• 什么是网络并发
  在实际工作中，一个服务端程序往往要应对多个客户端同时发起访问的情况。如果让服务端程序能够更好的同时满足更多客户端网络请求的情形，这就是并发网络模型。

• 循环网络模型问题
  循环网络模型只能循环接收客户端请求，处理请求。同一时刻只能处理一个请求，处理完毕后再处理下一个。这样的网络模型虽然简单，资源占用不多，但是无法同时处理多个客户端请求就是其最大的弊端，往往只有在一些低频的小请求任务中才会使用。

2. 多进程/线程并发模型

多进程/线程并发模中每当一个客户端连接服务器，就创建一个新的进程/线程为该客户端服务，客户端退出时再销毁该进程/线程，多任务并发模型也是实际工作中最为常用的服务端处理模型。

• 模型特点

  • 优点：能同时满足多个客户端长期占有服务端需求，可以处理各种请求。
  • 缺点： 资源消耗较大
  • 适用情况：客户端请求较复杂，需要长时间占有服务器。

• 创建流程

  • 创建网络套接字
  • 等待客户端连接
  • 有客户端连接，则创建新的进程/线程具体处理客户端请求
  • 主进程/线程继续等待处理其他客户端连接
  • 如果客户端退出，则销毁对应的进程/线程

3. IO并发模型

3.1 IO概述

• 什么是IO
  在程序中存在读写数据操作行为的事件均是IO行为，比如终端输入输出 ,文件读写，数据库修改和网络消息收发等。
• 程序分类
  • IO密集型程序：在程序执行中有大量IO操作，而运算操作较少。消耗cpu较少，耗时长。
  • 计算密集型程序：程序运行中运算较多，IO操作相对较少。cpu消耗多，执行速度快，几乎没有阻塞。
• IO分类：阻塞IO ，非阻塞IO，IO多路复用等。

3.2 阻塞IO

• 定义：在执行IO操作时如果执行条件不满足则阻塞。阻塞IO是IO的默认形态。
• 效率：阻塞IO效率很低。但是由于逻辑简单所以是默认IO行为。
• 阻塞情况
  • 因为某种执行条件没有满足造成的函数阻塞
    e.g. accept input recv
  • 处理IO的时间较长产生的阻塞状态
    e.g. 网络传输，大文件读写

3.3 非阻塞IO

• 定义 ：通过修改IO属性行为，使原本阻塞的IO变为非阻塞的状态。

• 设置套接字为非阻塞IO

  sockfd.setblocking(bool)
  功能：设置套接字为非阻塞IO
  参数：默认为True，表示套接字IO阻塞；设置为False则套接字IO变为非阻塞
  

• 超时检测 ：设置一个最长阻塞时间，超过该时间后则不再阻塞等待。

  sockfd.settimeout(sec)
  功能：设置套接字的超时时间
  参数：设置的时间
  

3.4 IO多路复用

• 定义
  同时监控多个IO事件，当哪个IO事件准备就绪就执行哪个IO事件。以此形成可以同时处理多个IO的行为，避免一个IO阻塞造成其他IO均无法执行，提高了IO执行效率。

• 具体方案

  • select方法 ： Windows Linux Unix
  • epoll方法： Linux

• select 方法

rs, ws, xs=select(rlist, wlist, xlist[, timeout])
功能: 监控IO事件，阻塞等待IO发生
参数： rlist  列表  读IO列表，添加等待发生的或者可读的IO事件
      wlist  列表  写IO列表，存放要可以主动处理的或者可写的IO事件
      xlist  列表 异常IO列表，存放出现异常要处理的IO事件
      timeout  超时时间

返回值： rs 列表  rlist中准备就绪的IO
        ws 列表  wlist中准备就绪的IO
	      xs 列表  xlist中准备就绪的IO

• epoll方法

ep = select.epoll()
功能 ： 创建epoll对象
返回值： epoll对象

ep.register(fd,event)   
功能: 注册关注的IO事件
参数：fd  要关注的IO
      event  要关注的IO事件类型
  	     常用类型EPOLLIN  读IO事件（rlist）
		      EPOLLOUT 写IO事件 (wlist)
		      EPOLLERR 异常IO  （xlist）
		  e.g. ep.register(sockfd,EPOLLIN|EPOLLERR)

ep.unregister(fd)
功能：取消对IO的关注
参数：IO对象或者IO对象的fileno

events = ep.poll()
功能： 阻塞等待监控的IO事件发生
返回值： 返回发生的IO
        events格式  [(fileno,event),()....]
        每个元组为一个就绪IO，元组第一项是该IO的fileno，第二项为该IO就绪的事件类型

• select 方法与epoll方法对比
  • epoll 效率比select要高
  • epoll 同时监控IO数量比select要多
  • epoll 支持EPOLLET触发方式

3.5 IO并发模型

利用IO多路复用等技术，同时处理多个客户端IO请求。

• 优点 ： 资源消耗少，能同时高效处理多个IO行为

• 缺点 ： 只针对处理并发产生的IO事件

• 适用情况：HTTP请求，网络传输等都是IO行为，可以通过IO多路复用监控多个客户端的IO请求。

• 网络并发服务实现过程
  【1】将套接字对象设置为关注的IO，通常设置为非阻塞状态。
  【2】通过IO多路复用方法提交，进行IO监控。
  【3】阻塞等待，当监控的IO有事件发生时结束阻塞。
  【4】遍历返回值列表，确定就绪的IO事件类型。
  【5】处理发生的IO事件。
  【6】继续循环监控IO发生。