操作系统

当前位置:金沙棋牌 > 操作系统 > python3全栈开发,js和RabbitMQ搭建消息队列

python3全栈开发,js和RabbitMQ搭建消息队列

来源:http://www.logblo.com 作者:金沙棋牌 时间:2019-11-20 14:29

利用键盘模拟进程的三种操作状态,并且使用C++中的list模板模拟内存的分配和回收。

一、守护进程

主进程创建守护进程

  其一:守护进程会在主进程代码执行结束后就终止

  其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children

注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止

图片 1图片 2

from multiprocessing import Process,Lock
import time
mutex=Lock()
def task(name):
    print("%s is running"%name)
    time.sleep(3)

if __name__=="__main":
    p=Process(target=task,args=("duoduo",))
    p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
    p.start()
    print("----------------->")

守护进程运用

消息队列消息队列(Message Queue,简称MQ),本质是个队列,FIFO先入先出,只不过队列中存放的内容是message而已。其主要用途:不同进程Process/线程Thread之间通信。使用消息队列大概有以下原因:

 能够模拟进程的创建与撤销过程

二、进程同步(锁)

进程之间数据不共享,但是共享同一套文件系统,所以访问同一个文件,或同一个打印终端,是没有问题的,

而共享带来的是竞争,竞争带来的结果就是错乱,如何控制,就是加锁处理

part1:多个进程共享同一打印终端

图片 3图片 4

#并发运行,效率高,但竞争同一打印终端,带来了打印错乱
from multiprocessing import Process
import os,time
def work():
    print('%s is running' %os.getpid())
    time.sleep(2)
    print('%s is done' %os.getpid())

if __name__ == '__main__':
    for i in range(3):
        p=Process(target=work)
        p.start()

共享同一打印终端

图片 5图片 6

#由并发变成了串行,牺牲了运行效率,但避免了竞争
from multiprocessing import Process,Lock
import os,time
def work(lock):
    lock.acquire()
    print('%s is running' %os.getpid())
    time.sleep(2)
    print('%s is done' %os.getpid())
    lock.release()
if __name__ == '__main__':
    lock=Lock()
    for i in range(3):
        p=Process(target=work,args=(lock,))
        p.start()

加锁状态

part2:多个进程共享同一文件

文件当数据库,模拟抢票

图片 7图片 8

#文件db的内容为:{"count":1}
#注意一定要用双引号,不然json无法识别
from multiprocessing import Process
import time,json,random
def search():
    dic=json.load(open('db.txt'))
    print('33[43m剩余票数%s33[0m' %dic['count'])

def get():
    dic=json.load(open('db.txt'))
    time.sleep(0.1) #模拟读数据的网络延迟
    if dic['count'] >0:
        dic['count']-=1
        time.sleep(0.2) #模拟写数据的网络延迟
        json.dump(dic,open('db.txt','w'))
        print('33[43m购票成功33[0m')

def task():
    search()
    get()
if __name__ == '__main__':
    for i in range(100): #模拟并发100个客户端抢票
        p=Process(target=task)
        p.start()

模拟抢票

图片 9图片 10

#文件db的内容为:{"count":1}
#注意一定要用双引号,不然json无法识别
from multiprocessing import Process,Lock
import time,json,random
def search():
    dic=json.load(open('db.txt'))
    print('33[43m剩余票数%s33[0m' %dic['count'])

def get():
    dic=json.load(open('db.txt'))
    time.sleep(0.1) #模拟读数据的网络延迟
    if dic['count'] >0:
        dic['count']-=1
        time.sleep(0.2) #模拟写数据的网络延迟
        json.dump(dic,open('db.txt','w'))
        print('33[43m购票成功33[0m')

def task(lock):
    search()
    lock.acquire()
    get()
    lock.release()
if __name__ == '__main__':
    lock=Lock()
    for i in range(100): #模拟并发100个客户端抢票
        p=Process(target=task,args=(lock,))
        p.start()

加锁状态抢票

总结:

图片 11图片 12

#加锁可以保证多个进程修改同一块数据时,同一时间只能有一个任务可以进行修改,即串行的修改,没错,速度是慢了,但牺牲了速度却保证了数据安全。
虽然可以用文件共享数据实现进程间通信,但问题是:
1.效率低(共享数据基于文件,而文件是硬盘上的数据)
2.需要自己加锁处理

#因此我们最好找寻一种解决方案能够兼顾:
1、效率高(多个进程共享一块内存的数据)
2、帮我们处理好锁问题。这就是mutiprocessing模块为我们提供的基于消息的IPC通信机制:队列和管道。

1 队列和管道都是将数据存放于内存中
2 队列又是基于(管道+锁)实现的,可以让我们从复杂的锁问题中解脱出来,
我们应该尽量避免使用共享数据,尽可能使用消息传递和队列,避免处理复杂的同步和锁问题,而且在进程数目增多时,往往可以获得更好的可获展性。

小结、引子

  • 不同进程之间传递消息时,两个进程之间耦合程度过高,改动一个进程,引发必须修改另一个进程,为了隔离这两个进程,在两进程间抽离出一层,所有两进程之间传递的消息,都必须通过消息队列来传递,单独修改某一个进程,不会影响另一个;
  • 不同进程之间传递消息时,为了实现标准化,将消息的格式规范化了,并且,某一个进程接受的消息太多,一下子无法处理完,并且也有先后顺序,必须对收到的消息进行排队,因此诞生了事实上的消息队列;

l可对进程的状态进行全面的控制

三、 队列(推荐使用)

   进程彼此之间互相隔离,要实现进程间通信(IPC),multiprocessing模块支持两种形式:队列和管道,这两种方式都是使用消息传递的

 创建队列的类(底层就是以管道和锁定的方式实现)

Queue([maxsize]):创建共享的进程队列,Queue是多进程安全的队列,可以使用Queue实现多进程之间的数据传递。 

    参数介绍:

maxsize是队列中允许最大项数,省略则无大小限制。    

  方法介绍:

图片 13图片 14

q.put方法用以插入数据到队列中,
put方法还有两个可选参数:blocked和timeout。如果blocked为True(默认值),并且timeout为正值,
该方法会阻塞timeout指定的时间,直到该队列有剩余的空间。如果超时,会抛出Queue.Full异常。如果blocked为False,但该Queue已满,会立即抛出Queue.Full异常。
q.get方法可以从队列读取并且删除一个元素。同样,get方法有两个可选参数:blocked和timeout。
如果blocked为True(默认值),并且timeout为正值,那么在等待时间内没有取到任何元素,会抛出Queue.Empty异常。
如果blocked为False,有两种情况存在,如果Queue有一个值可用,则立即返回该值,否则,如果队列为空,则立即抛出Queue.Empty异常.

q.get_nowait():同q.get(False)
q.put_nowait():同q.put(False)

q.empty():调用此方法时q为空则返回True,该结果不可靠,比如在返回True的过程中,如果队列中又加入了项目。
q.full():调用此方法时q已满则返回True,该结果不可靠,比如在返回True的过程中,如果队列中的项目被取走。
q.qsize():返回队列中目前项目的正确数量,结果也不可靠,理由同q.empty()和q.full()一样

主要方法

图片 15图片 16

q.cancel_join_thread():不会在进程退出时自动连接后台线程。可以防止join_thread()方法阻塞
q.close():关闭队列,防止队列中加入更多数据。调用此方法,后台线程将继续写入那些已经入队列但尚未写入的数据,但将在此方法完成时马上关闭。
如果q被垃圾收集,将调用此方法。关闭队列不会在队列使用者中产生任何类型的数据结束信号或异常。
例如,如果某个使用者正在被阻塞在get()操作上,关闭生产者中的队列不会导致get()方法返回错误。
q.join_thread():连接队列的后台线程。此方法用于在调用q.close()方法之后,等待所有队列项被消耗。
默认情况下,此方法由不是q的原始创建者的所有进程调用。调用q.cancel_join_thread方法可以禁止这种行为

其他方法(了解)

  应用:

图片 17图片 18

'''
multiprocessing模块支持进程间通信的两种主要形式:管道和队列
都是基于消息传递实现的,但是队列接口
'''

from multiprocessing import Process,Queue
import time
q=Queue(3)


#put ,get ,put_nowait,get_nowait,full,empty
q.put(3)
q.put(3)
q.put(3)
print(q.full()) #满了

print(q.get())
print(q.get())
print(q.get())
print(q.empty()) #空了

Queue

不管到底是什么原因催生了消息队列,总之,上面两个猜测是其实际应用的典型场景。综上:

按先进先出方式管理就绪和阻塞队列,能够按队列形式输出进程状

四、生产者消费者模型**

在并发编程中使用生产者和消费者模式能够解决绝大多数并发问题。该模式通过平衡生产线程和消费线程的工作能力来提高程序的整体处理数据的速度。

    为什么要使用生产者和消费者模式

在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程。在多线程开发当中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者处理完,才能继续生产数据。同样的道理,如果消费者的处理能力大于生产者,那么消费者就必须等待生产者。为了解决这个问题于是引入了生产者和消费者模式。

    什么是生产者消费者模式

生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。

基于队列实现生产者消费者模型

图片 19图片 20

from multiprocessing import Process,Queue
import time,random,os
def consumer(q):
    while True:
        res=q.get()
        time.sleep(random.randint(1,3))
        print('33[45m%s 吃 %s33[0m' %(os.getpid(),res))

def producer(q):
    for i in range(10):
        time.sleep(random.randint(1,3))
        res='包子%s' %i
        q.put(res)
        print('33[44m%s 生产了 %s33[0m' %(os.getpid(),res))

if __name__ == '__main__':
    q=Queue()
    #生产者们:即厨师们
    p1=Process(target=producer,args=(q,))

    #消费者们:即吃货们
    c1=Process(target=consumer,args=(q,))

    #开始
    p1.start()
    c1.start()

生产包子吃包子

图片 21图片 22

#生产者消费者模型总结

    #程序中有两类角色
        一类负责生产数据(生产者)
        一类负责处理数据(消费者)

    #引入生产者消费者模型为了解决的问题是:
        平衡生产者与消费者之间的工作能力,从而提高程序整体处理数据的速度

    #如何实现:
        生产者<-->队列<——>消费者
    #生产者消费者模型实现类程序的解耦和

总结

此时的问题是主进程永远不会结束,原因是:生产者p在生产完后就结束了,但是消费者c在取空了q之后,则一直处于死循环中且卡在q.get()这一步。

解决方式无非是让生产者在生产完毕后,往队列中再发一个结束信号,这样消费者在接收到结束信号后就可以break出死循环

图片 23图片 24

from multiprocessing import Process,Queue
import time,random,os
def consumer(q):
    while True:
        res=q.get()
        if res is None:break #收到结束信号则结束
        time.sleep(random.randint(1,3))
        print('33[45m%s 吃 %s33[0m' %(os.getpid(),res))

def producer(q):
    for i in range(10):
        time.sleep(random.randint(1,3))
        res='包子%s' %i
        q.put(res)
        print('33[44m%s 生产了 %s33[0m' %(os.getpid(),res))
    q.put(None) #发送结束信号
if __name__ == '__main__':
    q=Queue()
    #生产者们:即厨师们
    p1=Process(target=producer,args=(q,))

    #消费者们:即吃货们
    c1=Process(target=consumer,args=(q,))

    #开始
    p1.start()
    c1.start()
    print('主')

解决思路1

注意:结束信号None,不一定要由生产者发,主进程里同样可以发,但主进程需要等生产者结束后才应该发送该信号

图片 25图片 26

from multiprocessing import Process,Queue
import time,random,os
def consumer(q):
    while True:
        res=q.get()
        if res is None:break #收到结束信号则结束
        time.sleep(random.randint(1,3))
        print('33[45m%s 吃 %s33[0m' %(os.getpid(),res))

def producer(q):
    for i in range(2):
        time.sleep(random.randint(1,3))
        res='包子%s' %i
        q.put(res)
        print('33[44m%s 生产了 %s33[0m' %(os.getpid(),res))

if __name__ == '__main__':
    q=Queue()
    #生产者们:即厨师们
    p1=Process(target=producer,args=(q,))

    #消费者们:即吃货们
    c1=Process(target=consumer,args=(q,))

    #开始
    p1.start()
    c1.start()

    p1.join()
    q.put(None) #发送结束信号
    print('主')

解决思路2

但上述解决方式,在有多个生产者和多个消费者时,我们则需要用一个很low的方式去解决

图片 27图片 28

from multiprocessing import Process,Queue
import time,random,os
def consumer(q):
    while True:
        res=q.get()
        if res is None:break #收到结束信号则结束
        time.sleep(random.randint(1,3))
        print('33[45m%s 吃 %s33[0m' %(os.getpid(),res))

def producer(name,q):
    for i in range(2):
        time.sleep(random.randint(1,3))
        res='%s%s' %(name,i)
        q.put(res)
        print('33[44m%s 生产了 %s33[0m' %(os.getpid(),res))


if __name__ == '__main__':
    q=Queue()
    #生产者们:即厨师们
    p1=Process(target=producer,args=('包子',q))
    p2=Process(target=producer,args=('骨头',q))
    p3=Process(target=producer,args=('泔水',q))

    #消费者们:即吃货们
    c1=Process(target=consumer,args=(q,))
    c2=Process(target=consumer,args=(q,))

    #开始
    p1.start()
    p2.start()
    p3.start()
    c1.start()

    p1.join() #必须保证生产者全部生产完毕,才应该发送结束信号
    p2.join()
    p3.join()
    q.put(None) #有几个消费者就应该发送几次结束信号None
    q.put(None) #发送结束信号
    print('主')

解决思路3

其实我们的思路无非是发送结束信号而已,有另外一种队列提供了这种机制

图片 29图片 30

   #JoinableQueue([maxsize]):这就像是一个Queue对象,但队列允许项目的使用者通知生成者项目已经被成功处理。通知进程是使用共享的信号和条件变量来实现的。

   #参数介绍:
    maxsize是队列中允许最大项数,省略则无大小限制。    
  #方法介绍:
    JoinableQueue的实例p除了与Queue对象相同的方法之外还具有:
    q.task_done():使用者使用此方法发出信号,表示q.get()的返回项目已经被处理。如果调用此方法的次数大于从队列中删除项目的数量,将引发ValueError异常
    q.join():生产者调用此方法进行阻塞,直到队列中所有的项目均被处理。阻塞将持续到队列中的每个项目均调用q.task_done()方法为止

JoinableQueue模块

图片 31图片 32

from multiprocessing import Process,JoinableQueue
import time,random,os
def consumer(q):
    while True:
        res=q.get()
        time.sleep(random.randint(1,3))
        print('33[45m%s 吃 %s33[0m' %(os.getpid(),res))

        q.task_done() #向q.join()发送一次信号,证明一个数据已经被取走了

def producer(name,q):
    for i in range(10):
        time.sleep(random.randint(1,3))
        res='%s%s' %(name,i)
        q.put(res)
        print('33[44m%s 生产了 %s33[0m' %(os.getpid(),res))
    q.join()


if __name__ == '__main__':
    q=JoinableQueue()
    #生产者们:即厨师们
    p1=Process(target=producer,args=('包子',q))
    p2=Process(target=producer,args=('骨头',q))
    p3=Process(target=producer,args=('泔水',q))

    #消费者们:即吃货们
    c1=Process(target=consumer,args=(q,))
    c2=Process(target=consumer,args=(q,))
    c1.daemon=True
    c2.daemon=True

    #开始
    p_l=[p1,p2,p3,c1,c2]
    for p in p_l:
        p.start()

    p1.join()
    p2.join()
    p3.join()
    print('主') 

    #主进程等--->p1,p2,p3等---->c1,c2
    #p1,p2,p3结束了,证明c1,c2肯定全都收完了p1,p2,p3发到队列的数据
    #因而c1,c2也没有存在的价值了,应该随着主进程的结束而结束,所以设置成守护进程

终极版本

  • 消息队列中的“消息”即指同一台计算机的进程间,或不同计算机的进程间传送的数据。
  • 消息队列是在消息的传输过程中保存消息的容器。
  • 消息被发送到队列中,消息队列充当中间人,将消息从它的源中继到它的目标。消息队列可以保证在高并发状态下数据入库的顺序性和准确性。

用PCB代表进程,用全局变量表示进程的个数。

五、共享数据

展望未来,基于消息传递的并发编程是大势所趋

即便是使用线程,推荐做法也是将程序设计为大量独立的线程集合

通过消息队列交换数据。这样极大地减少了对使用锁定和其他同步手段的需求,

还可以扩展到分布式系统中

进程间通信应该尽量避免使用本节所讲的共享数据的方式

图片 33图片 34

#进程间数据是独立的,可以借助于队列或管道实现通信,二者都是基于消息传递的

#虽然进程间数据独立,但可以通过Manager实现数据共享,事实上Manager的功能远不止于此
from multiprocessing import Manager,Process,Lock
import os
def work(d,lock):
    # with lock: #不加锁而操作共享的数据,肯定会出现数据错乱
        d['count']-=1

if __name__ == '__main__':
    lock=Lock()
    with Manager() as m:
        dic=m.dict({'count':100})
        p_l=[]
        for i in range(100):
            p=Process(target=work,args=(dic,lock))
            p_l.append(p)
            p.start()
        for p in p_l:
            p.join()
        print(dic)
        #{'count': 94}

例子

 

RabbitMqRabbitMQ是实现AMQP的消息中间件的一种。是应用比较广泛和稳定的成熟的消息队列中间件。由于RabbitMQ是基于Erlang开发的,所以天生具有分布式优点。

图片 35图片 36

消息队列应用场景关于消息队列的应用场景,可以先看这篇文章。这里我们主要模拟一个秒杀的场景。假定我们有100个商品的秒杀活动,现在我们需要保证前1000个发起请求的人能够顺利的记录进入数据库中。这个需求对于http方案是无法顺利完成任务的,下面就需要消息队列来完成。首先我们利用node.js和rabbitMQ搭建服务器,然后利用Siege模拟一个高并发的API请求。看看在高并发请求下http方式和消息队列方式的差异性和准确性。

  1 #include <iostream>
  2 #include <list>
  3 #include <numeric>
  4 #include <algorithm>
  5 #include<stdlib.h>
  6 using namespace std;
  7 
  8 
  9 struct PCB                    //PCB结构体
 10 {
 11     char name[10];            //外部标记
 12     int PID;                //内部标记
 13     int    begin;                //起始地址
 14     int length;                //长度
 15     struct PCB* next;
 16 };
 17 
 18 
 19 struct Memory
 20 {
 21     int start;    //起始地址
 22     int len;    //长度
 23     bool operator < (const struct Memory  p) const
 24     {
 25         return len < p.len;
 26     }
 27 
 28 };
 29 typedef list <Memory> Memy;//用模板定义Memory的列表
 30 
 31 int SIZE;            //用来存储内存的大小
 32 Memy   LM;            //用来存储内存分配的链表
 33 Memy::iterator K;
 34 Memory L;            //第一块完整的内存
 35 static int number = 0;
 36 //number用来标记进程的数量。
 37 
 38 //创建三个链表,分别代表,就绪,执行,阻塞
 39 struct PCB* Ready = new struct PCB;
 40 struct PCB* Blocked = new struct PCB;
 41 struct PCB* Running = new struct PCB;
 42 
 43 
 44 bool px(struct Memory m, struct Memory n)
 45 {
 46     return m.start < n.start;
 47 }
 48 
 49 
 50 void CreateProcess(struct PCB* &Ready, Memy &LM)//创建进程
 51 {
 52     LM.sort();
 53     struct PCB* P = new struct PCB;
 54     struct PCB* X = new struct PCB;//利用X来做到插入队尾
 55 
 56     X = Ready;
 57 
 58     //cout << "请输入此进程的名称:" << endl;
 59     cin >> P->name;
 60 
 61     
 62     //cout << "请输入此进程大小:" << endl;
 63     cin >> P->length;
 64 
 65     for (K = LM.begin(); K != LM.end(); K++)//分配内存,
 66     {
 67         Memy::iterator x;
 68         if (K->len <= 0)
 69         {
 70             cout << "已经没有足够的内存空间!" << endl;
 71             return;
 72         }
 73         if (K->len < P->length)
 74         {
 75             x = K;
 76             K++;
 77             if (K == LM.end())
 78             {
 79                 cout << "已经没有足够的内存空间!" << endl;
 80                 return;
 81             }
 82             else
 83             {
 84                 K = x;
 85                 continue;
 86             }            
 87         }
 88         else if (K->len >= P->length)
 89         {
 90             if (K->len - P->length <= 2)
 91             {
 92                 P->begin = K->start;
 93                 P->length = K->len;
 94                 LM.erase(K);
 95                 number++;
 96                 break;
 97             }
 98             else
 99             {
100                 P->begin = K->start;
101                 K->start += P->length;//修改起始地址
102                 K->len -= P->length;
103                 number++;
104                 break;
105             }
106         }
107         else
108         {
109             continue;
110         }
111     }
112 
113     P->PID = number;            //利用number来进行唯一系统内部进程标示
114     while (X->next != NULL)        //新建节点连接到链表尾部
115     {
116         X = X->next;
117     }
118     X->next = P;
119     P->next = NULL;
120 }
121 
122 
123 void sort1(Memy &LM)                //按照长度进行排序
124 {
125     LM.sort();
126 }
127 
128 
129 void EndProcess(struct PCB* &Running, Memy &LM)                //结束进程
130 {
131     if (Running->next == NULL)
132     {
133         cout << "没有进程处于执行态!" << endl;
134         system("pause");
135         return;
136     }
137     LM.sort(px);
138     Memory O;
139     O.start = Running->next->begin;
140     O.len = Running->next->length;
141     if (LM.size() == 0)                            //系统剩余空间为0,直接插入。
142     {
143         Memory M;
144         M.len = O.len;
145         M.start = O.start;
146         LM.push_back(M);
147     }
148     else
149     {
150         for (K = LM.begin(); K != LM.end(); K++)
151         {
152             if (K->start>(O.start + O.len))                        //上下都被占用            直接插入前面
153             {
154                 Memory m;
155                 m.len = O.len;
156                 m.start = O.start;
157                 LM.push_front(m);
158                 break;
159             }
160             else if ((O.start + O.len) == K->start)                //上占下空   改下区基址,改长度
161             {
162                 K->start = O.start;
163                 K->len += O.len;
164                 break;
165             }
166             else if ((K->start + K->len) == O.start)                //上空==============================================
167             {
168                 int l = K->len;
169                 Memy::iterator X;
170                 X = K;
171                 ++K;
172                 if (K != LM.end())
173                 {
174                     if (K->start == (O.start + O.len))            //上空下空
175                     {
176                         X->len = K->len + l + O.len;                //长度三合一//删除++K
177                         LM.erase(K);
178                         break;
179                     }
180                     else                                             //上空 下占 改上区长度
181                     {
182                         X->len += O.len;
183                         break;
184                     }
185                 }
186                 else                                                //上空 下占 改上区长度
187                 {
188                     X->len += O.len;
189                     break;
190                 }
191             }
192             else if ((K->start + K->len)<O.start)                            //提前进入下一次循环                    
193             {
194                 continue;
195             }
196         }
197     }
198 
199 
200     while (Running->next != NULL)
201     {
202         struct PCB* P = Running->next;
203         P->next = NULL;
204         delete P;
205         Running->next = NULL;
206         number--;
207     }
208 }
209 
210 
211 void show(struct PCB* Ready, struct PCB* Running, struct PCB* Blocked)//显示三种状态的进程情况
212 {
213     cout << "就绪态:";
214     while (Ready->next != NULL)
215     {
216         cout << " name: " << Ready->next->name << "  begin: " << Ready->next->begin << "  length: " << Ready->next->length;
217         Ready = Ready->next;
218     }
219     cout << endl;
220     cout << "执行态:";
221     if (Running->next != NULL)
222     {
223         cout << "name: " << Running->next->name << " begin: " << Running->next->begin << " len: " << Running->next->length;
224     }
225     cout << endl;
226     cout << "阻塞态:";
227     while (Blocked->next != NULL)
228     {
229         cout << "name: " << Blocked->next->name << " begin: " << Blocked->next->begin << " len: " << Blocked->next->length;
230         Blocked = Blocked->next;
231     }
232     cout << endl;
233     int sum = 0;
234     for (K = LM.begin(); K != LM.end(); K++)
235     {
236         cout << "内存起始地址: " << K->start << "内存长度:" << K->len << endl;
237         sum += K->len;
238     }
239     cout << "进程所占空间: " << (SIZE - sum) << endl;
240     cout << "系统空闲空间: " << sum << endl;
241     sum = 0;
242 }
243 
244 
245 void Run(struct PCB* &Ready, struct PCB* &Running)       //执行函数,查询就绪态中的PCB
246 {
247     while ((Ready->next != NULL) && (Running->next == NULL))
248     {
249         struct PCB* Z = Ready->next;
250         Running->next = Z;
251         Ready->next = Ready->next->next;
252         Z->next = NULL;
253     }
254 }
255 
256 
257 void Block(struct PCB* &Running, struct PCB* &Blocked)     //执行到阻塞的转换
258 {
259     struct PCB* Head = Blocked;
260     while (Running->next != NULL)
261     {
262         while (Head->next != NULL)
263         {
264             Head = Head->next;
265         }
266         Head->next = Running->next;
267         Running->next = NULL;
268     }
269 }
270 
271 
272 void TimeUp(struct PCB* &Running, struct PCB* &Ready)                    //时间片到
273 {
274     struct PCB* Head = Ready;
275     struct PCB* P = Running->next;
276     P->next = NULL;
277     while (Running->next != NULL)
278     {
279         while (Head->next != NULL)
280         {
281             Head = Head->next;
282         }
283         Head->next = P;
284         Running->next = NULL;
285     }
286 }
287 
288 
289 void Wake(struct PCB* &Blocked, struct PCB* &Ready)//唤醒进程
290 {
291     if (Blocked->next == NULL)
292     {
293         cout << "没有进程处于阻塞态!" << endl;
294         system("pause");
295         return;
296     }
297     struct PCB* P = Ready;
298     while (P->next != NULL)
299     {
300         P = P->next;
301     }
302     if (Blocked->next != NULL)
303     {
304         P->next = Blocked->next;
305         Blocked->next = Blocked->next->next;
306         P->next->next = NULL;
307     }
308     else
309     {
310         cout << "没有处于阻塞状态的进程!" << endl;
311     }
312 
313 }
314 
315 
316 void interface()
317 {
318     cout << "========帮助========" << endl;
319     cout << "C----------创建进程" << endl;
320     cout << "T----------时间片到" << endl;
321     cout << "S----------进程阻塞" << endl;
322     cout << "W----------唤醒进程" << endl;
323     cout << "E----------结束进程" << endl;
324     cout << "H----------查看帮助" << endl;
325 
326 }
327 
328 
329 void start()
330 {
331     cout << "请输入内存的起始地址:" << endl;
332     cin >> L.start;
333     cout << "请输入内存的大小:" << endl;
334     cin >> L.len;
335     SIZE = L.len;
336     LM.push_front(L);
337 }
338 
339 
340 void process()                    // 中间过程
341 {
342     interface(); 
343     system("pause");
344     char choice;
345     do
346     {
347         system("cls");        
348         cin >> choice;
349         switch (choice)
350         {
351         case 'C':LM.sort(px); CreateProcess(Ready, LM); Run(Ready, Running); show(Ready, Running, Blocked); system("pause"); break;
352         case 'T':TimeUp(Running, Ready);  Run(Ready, Running); show(Ready, Running, Blocked); system("pause");  break;
353         case 'S':Block(Running, Blocked);  Run(Ready, Running); show(Ready, Running, Blocked); system("pause"); break;
354         case 'W':Wake(Blocked, Ready); Run(Ready, Running); show(Ready, Running, Blocked); system("pause"); break;
355         case 'E':EndProcess(Running, LM); Run(Ready, Running); show(Ready, Running, Blocked); sort1(LM); system("pause"); break;
356         case 'H':interface();break;
357         default:cout << "输入错误,请重新输入!" << endl;  system("pause"); break;
358         }
359 
360     } while (number != 0);
361 }
362 
363 
364 void main()
365 {
366     Ready->next = NULL;
367     Blocked->next = NULL;
368     Running->next = NULL;
369     start();
370     process();
371     cout << "所有进程已结束" << endl;
372     system("pause");
373 
374 }

接下来我们就开始进行编码环节。首先我们需要先安装RabbitMQ,这里我们用之前说过的Docker来安装。执行如下命令。我的系统是Mac OS(懒得买服务器就在自己的机器上测试了),如果是linux的话会更好。

View Code

sudo docker pull rabbitmq #如果rabbitmq镜像下载失败,可以尝试下载rabbitmq:management版本或者 sudo docker pull rabbitmq:management#然后用docker启动rabbitmqsudo docker run -d -e RABBITMQ_NODENAME=my-rabbit --name some-rabbit -p 5672:5672 rabbitmq:management

 

rabbit服务默认会启动在5672端口,我们把他映射到宿主主机的5672端口。然后我们需要安装amqplib来在node中连接rabbitmq。我们创建好node的工作目录,然后创建server.js。我们先来看看最简单的消息队列,也就是客户端通过队列把消息传到服务端。在你的工程目录下运行如下命令。

npm install amqplib

打开server.js,我们完成服务端的代码。在这里我们用es5的promise来完成对回调函数的处理。如果不了解promise的可以先去看<a href=";

/** * Created by wsd on 17/2/23. */var amqp = require('amqplib');//首先我们需要通过amqp连接本地的rabbitmq服务,返回一个promise对象amqp.connect('amqp://127.0.0.1').then(function{//进程检测到终端输入CTRL+C退出新号时,关闭RabbitMQ队列。 process.once('SIGN',function(){ conn.close;//连接成功后创建通道 return conn.createChannel().then(function{//通道创建成功后我们通过通道对象的assertQueue方法来监听hello队列,并设置durable持久化为false。这里消息将会被保存在内存中。该方法会返回一个promise对象。 var ok = ch.assertQueue('hello',{durable:false}).then(function{//监听创建成功后,我们使用ch.consume创建一个消费者。指定消费hello队列和处理函数,在这里我们简单打印一句话。设置noAck为true表示不对消费结果做出回应。//ch.consume会返回一个promise,这里我们把这个promise赋给ok。 return ch.consume('hello',function{ console.log("[x] Received '%s'",msg.content.toString; },{noAck:true}); });//消费者监听完成之后,打印一行成功信息 return ok.then(function(_consumeOk){ console.log('[*] Waiting for message. To exit press CRTL+C'); }); });}).then(null,console.warn);//如果报错打印报错信息

以上就是服务端的相关代码,下面我们来看客户端。创建client.js。我们还需要安装when来运行promise。运行npm install when。

/** * Created by wsd on 17/2/23. */var amqp = require('amqplib');var when = require;//连接本地消息队列服务amqp.connect('amqp://localhost').then(function{//创建通道,让when立即执行promise return when(conn.createChannel().then(function{ var q = 'hello'; var msg = 'Hello World'; //监听q队列,设置持久化为false。 return ch.assertQueue(q,{durable: false}).then(function{ //监听成功后向队列发送消息,这里我们就简单发送一个字符串。发送完毕后关闭通道。 ch.sendToQueue(q,new Buffer; console.log(" [x] Sent '%s'",msg); return ch.close.ensure(function(){ //ensure是promise.finally的别名,不管promise的状态如何都会执行的函数//这里我们把连接关闭 conn.close.then(null,console.warn);

接下来我们启动服务和客户端。

node server.js#[*] Waiting for message. To exit press CRTL+Cnode client.js#[x] Sent 'Hello World'

然后我们切换到服务端

#[*] Waiting for message. To exit press CRTL+C#[*] Received 'Hello World'!

至此一个最简单的消息队列搭建完成。下面我们来模拟文章一开始所说的秒杀的场景。我们会基于Http和RabbitMQ两种实现形式做对比。秒杀活动场景 http模拟首先我们编写服务模拟前端向server发起请求,这里我们采用koa框架来实现。新建http_web_server.js。

/** * Created by wsd on 17/2/23. */var koa = require;//一个工具类var util = require;var route = require('koa-route');var request = require('request');//这个用于作为用户idvar globalUserId = 1;var app = koa()//用于判断服务是否启动app.use(route.get('/',function *(){ this.body = 'Hello world';}))//定义请求到后端的URL地址,这里为了方便我就在本机上测试,大家如果有远程服务器的话可以在远程服务器上测试var uri = 'http://127.0.0.1:8000/buy?userid=%d';var timeout = 30 * 1000;//超时30s//设置路由app.use(route.get('/buy',function *(){//用户id简单地每次请求递增1 var num = globalUserId ++;//调用request发起请求 request({ method:'GET', timeout:timeout, uri:util.format },function(error,req_res,body){ if{ this.status = 500 this.error = error }else if(req_res.status != 200){ this.status = 500 }else{ this.body = body } })}))app.listen(5000,function(){ console.log('server listen on 5000');})

首先我们安装koa,util,koa-route,request四个模块。然后我们模拟向最终入库的server发送生成订单请求。接下来我们完成入库server的相关代码。由于我们需要对数据库操作,所以需要安装mongodb和mongoose模块。

#安装mongodbbrew intall mongodb#启动mongodb,设置数据的存储路径mongod --dbpath data/db --logappend#安装mongoosenpm install mongoose

然后我们首先创建数据库Model文件orderModel.js。

/** * Created by hwh on 17/2/23. */var mongoose = require('mongoose');//连接到本地开启的mongodb,mongodb默认监听27017端口var connstr = 'mongodb://127.0.0.1:27017/http_vs_rabbit';//设置数据库连接池大小var poolsize = 50;mongoose.connect(connstr,{server:{poolSize:poolsize}})var Schema = mongoose.Schema;var obj = { userId:{type:Number, required:true}, writeTime:{type: Date,default: Date.now()}}var objSchema = new Schema;module.exports = mongoose.model('orders',objSchema);

然后我们创建数据库操作文件orderLib.js。

/** * Created by hwh on 17/2/24. */var objModel = require('./orderModel.js');//针对generator的存取操作exports.countAll = function{//获得订单总数 return objModel.count()}exports.insertOneByObj = function{//创建订单 return objModel.create;}//针对非generator的存取操作exports.countAllNormal = function{ return objModel.count(obj || {},cb)}exports.insertOneByObjNormal = function{ return objModel.create(obj || {},cb)}

最后我们创建http_back.js来接收数据并入库。

/** * Created by hwh on 17/2/23. */var koa = require;var route = require('koa-route');var bodyparser = require('koa-bodyparser');var app = koa();var orderModel = require('./orderModellib.js');var listenPort = 3000;app.use(bodyparserapp.use(route.get('/',function * (){ this.body = "hello world,listenPort:" + listenPort}));app.use(route.get('/buy',function * (){//拿到参数 var userid = this.request.query.userid;//获取数据库中订单数量 var count = yield orderModel.countAll();//做判断,大于100就不再入库 if (count > 100){ this.body = 'sold out!'; }else{ var model = yield orderModel.insertOneByObj({ userId:userid }); if{ this.body = 'success'; } }}));app.listen(listenPort,function(){ console.log('Server listening on:',3000);})

这里由于我们需要对body进行解析,所以我们安装koa-bodyparser模块。代码比较简单。接下来我们安装ngnix设置反向代理。

#安装nginxbrew install nginx#进入nginx目录cd /usr/local/etc/nginx#修改配置文件vi nginx.conf

我们主要设置反响代理相关配置。

#user wsd;#开启两个nginx进程,等于cpu核心数或者cpu*2worker_processes 2;#error_log logs/error.log;#error_log logs/error.log notice;#error_log logs/error.log info;#pid logs/nginx.pid;events { #事件模型,由于是mac系统使用kqueue;linux使用epoll。简单说明一下两种事件模型使用场景。Kqueue和Epoll都属于高效事件模型。 #Kqueue:使用于FreeBSD 4.1+, OpenBSD 2.9+, NetBSD 2.0 和 MacOS X. 使用双处理器的MacOS X系统使用kqueue可能会造成内核崩溃。 #Epoll:使用于Linux内核2.6版本及以后的系统。 use kqueue; #单个工作进程的最大连接数,和硬件配置有关系。 #尽量大但别超过CPU占用率的90%,这里我们为了测试取值比较小。理论上每台nginx服务器的最大连接数为worker_processes*worker_connections worker_connections 2048;}#设定http服务器,利用它的反向代理功能提供负载均衡支持http { #设置请求数据格式,这里就使用mime支持的类型 include mime.types; #http content_type default_type application/octet-stream; #暂不储存日志(储存日志需要先使用log_format指令设置日志格式) access_log off; #log_format main '$remote_addr - $remote_user [$time_local] "$request" ' # '$status $body_bytes_sent "$http_referer" ' # '"$http_user_agent" "$http_x_forwarded_for"'; #access_log logs/access.log main; #指定 nginx 是否调用sendfile 函数(zero copy 方式)来输出文件,对于普通应用,必须设为on。如果用来进行下载等应用磁盘IO重负载应用,可设置为off,以平衡磁盘与网络IO处理速度,降低系统uptime sendfile on; #tcp_nopush on; #keepalive_timeout 0; #设置超时时间 keepalive_timeout 65; #定义负载均衡设备的Ip及设备状态 upstream backend { server 127.0.0.1:3000; } #gzip on;#配置ngnix启动的地址 server { listen 8000; server_name localhost;#这里nginx启动在本机8000端口 #charset koi8-r; #access_log logs/host.access.log main;#匹配所有路径location / { proxy_pass http://backend;#设置负载均衡的地址,这里设置为为backend里面的地址 proxy_redirect default;#设置返回客户端请求头的location的值,默认不设置 proxy_http_version 1.1;#代理的http协议版本 root html; index index.html index.htm; } #error_page 404 /404.html; # redirect server error pages to the static page /50x.html # error_page 500 502 503 504 /50x.html; location = /50x.html { root html; } } include servers/*;} 

写好配置文件以后我们保存然后启动nginx。

#启动nginxnginx

我们访问 listen on 3000。

http测试接下来我们就要对这个http服务进行压力测试了。这里我们使用siege。

#安装wgetbrew install wget#下载siegewget http://download.joedog.org/siege/siege-latest.tar.gz#解压tar -zxvf siege-latest.tar.gz#进入siege脚本目录cd siege-4.0.2#配置./configure#编译并安装make && make install

可以输入siege -help查看siege支持的命令。这里我们主要用到-c和-r。现在我们分别模拟100、200、300个并发,并循环发送10次。当然别忘记每次我们请求完毕后在下一次请求开始前要把数据库清空。

siege -c 100 -r 10 -q http://192.168.1.150:5000/buysiege -c 200 -r 10 -q http://192.168.1.150:5000/buysiege -c 300 -r 10 -q http://192.168.1.150:5000/buy

每完成一次并发操作,我们使用mongo命令连接到本地的mongodb服务。并且查看数据库里面订单的数量。

#连接数据库mongo#选择数据库use http_vs_rabbit#查看集合数量 db.orders.count() 

下面是每一次并发操作后,数据库中订单的数量

//100次并发114//200次并发125//300次并发119

可以看到,每一次并发订单数量都会超出预订值。下面是一些参数:

Date & Time Trans Elap Time Data Trans Resp Time Trans Rate Throughput Concurrent OKAY Failed2017-03-08 15:09:47, 1000, 3.62, 0, 0.01, 276.24, 0.00, 1.49, 0, 02017-03-08 15:10:48, 2000, 3.96, 0, 0.01, 505.05, 0.00, 3.10, 0, 02017-03-08 15:11:27, 3000, 4.19, 0, 0.01, 715.99, 0.00, 8.64, 0, 0

看一下上述各参数的意思。

  • Date & Time:请求时间
  • Trans:请求总数
  • Elap Time:测试用时
  • Data Trans:测试传输数据量
  • Resp Time:平均响应时间
  • Trans Rate:每秒事务处理量
  • Throughput:吞吐率
  • Concurrent:并发用户数
  • OKAY:成功数
  • Failed:失败数

可以看到在并发测试中,http处理事务的速度虽然不错,但并不能保证结果的准确和可靠。下面我们来看一下利用rabbitmq的测试结果。首先我们也是像http一样,写一个服务模拟前端请求。这里我们新建rabbit_web_server.js。

/** * Created by wsd on 17/2/24. */var koa = require;var router = require('koa-route');var amqp = require('amqplib');var uuid = require('node-uuid');var app = koa();var correlationId = uuid();var q = 'fibq';//前端发送消息队列var q2 = 'ackq';//后台回复队列//conn写成全局变量,循环利用。否则每次访问路由都会创建connvar conn;//依然id每次请求递增1var globalUserId = 1;app.use(router.get('/',function * (){ this.body = 'hello world';}));app.use(router.get('/buy/',function*(){ var num = globalUserId ++; //conn我们在外部创建,并且只创建一次 conn.createChannel().then(function{ //监听q2队列(订单量如果到达100,服务端会通过q2队列返回信息) return ok = ch.assertQueue(q2,{durable:false}).then(function(){ //创建消费q2队列,这里简单把信息设置到res的body里 ch.consume(q2,function{ console.log(msg.content.toString; this.body = msg.content.toString(); ch.close(); },{noAck:true}); //发送消息到q队列,这里把订单id作为content。把q2队列的name和uuid也传过去,这里uuid用来做消息的关联id ch.sendToQueue(q,new Buffer(num.toString,{replyTo:q2,correlationId:correlationId}) }); }).then(null,console.error);}));amqp.connect('amqp://127.0.0.1').then(function{ conn = _conn;});app.listen(5001,function(){ console.log('server listen on 5001');});

下面我们在新建rabbit_mq_server.js文件,来写入库的操作。

/** * Created by hwh on 17/2/24. */var amqp = require('amqplib');var co = require;var orderModel = require('./orderModellib');var q = 'fibq';amqp.connect('amqp://127.0.0.1').then(function{ process.once('SIGN',function(){ conn.close; return conn.createChannel().then(function{//设置公平调度,这里是指rabbitmq不会向一个繁忙的队列推送超过1条消息。 ch.prefetch; //定义回传消息函数 var ackSend = function(msg,content){ //要注意这里我们之前传上来的队列名和uuid会被保存在msg对象的properties中 //因为服务端并不知道回传的队列名字,所以我们需要把它带过来 ch.sendToQueue(msg.properties.replyTo,new Buffer(content.toString, {correlationId:msg.properties.correlationId}); //ack表示消息确认机制。这里我们告诉rabbitmq消息接收成功。 ch.ack; } //定义收到消息的处理函数 var reply = function { var userid = parseInt(msg.content.toString; //这里由于consume的处理函数不支持generator语法,这里我们就用es5的方式访问数据库、 orderModel.countAllNormal({},function(err,count){ if(count >= 100){ return ackSend(msg,'sold out!'); }else{ orderModel.insertOneByObjNormal({ userId:userid },function(err,model){ return ackSend(msg,"buy success,orderid:"+model._id.toString; } }); }; //监听队列q并消费 var ok = ch.assertQueue(q,{durable:false}).then(function(){ ch.consume(q,reply,{noAck:false}); }); return ok.then(function(){ console.log(' [*] waiting for message') }) })}).then(null,console.error);

分别启动rabbit_web_server.js和rabbit_mq_server.js。接下来我们还是像之前测试http服务一样,用siege模拟100、200、300次并发。要注意这里我们的服务变成了5001端口。可以看到不管多少并发数下,我们数据库里的订单都是100。这保证了我们数据的准确性。下面是siege记录的参数:

Date & Time Trans Elap Time Data Trans Resp Time Trans Rate Throughput Concurrent OKAY Failed2017-03-08 16:36:06, 1000, 3.81, 0, 0.01, 262.47, 0.00, 2.17, 0, 02017-03-08 16:40:50, 2000, 4.15, 0, 0.02, 481.93, 0.00, 9.16, 0, 02017-03-08 16:41:03, 3000, 4.47, 0, 0.08, 671.14, 0.00, 51.91, 0, 0

对比http,对于高并发的操作,确实队列在耗时,每秒事务处理量和响应时间上会比http略逊一筹。由于node.js的异步I/O,所以http会存在插入超量的情况。因为很有可能你在异步往数据库里面插入数据还没有完成的时候,下一个请求已经过来了。但队列保证了结果的准确性,这在秒杀场景以及一些特殊场景是硬性要求。这是一个很常见的场景,因此掌握消息队列的操作是作为服务端开发来说必不可少的。

在这里,为了提升rabbitmq的性能,我们可以开启多个rabbitmq进程。这个就交给大家下去测试吧。

rabbitmq还有以下几种应用场景:

  • 一个生产者多个消费者

    • 轮询

      图片 37Paste_Image.png

    • 广播

      图片 38Paste_Image.png

    • 路由

图片 39Paste_Image.png

  • RPC远程调用

图片 40Paste_Image.png

  • 跨平台通信(比如node和python、java)

这些会在我后面的文章中讲解,敬请期待。

本文由金沙棋牌发布于操作系统,转载请注明出处:python3全栈开发,js和RabbitMQ搭建消息队列

关键词:

上一篇:没有了

下一篇:没有了