• 售前

  • 售后

热门帖子
入门百科

【python3高级编程】一文搞懂多进程

[复制链接]
静254 显示全部楼层 发表于 2022-1-15 07:03:53 |阅读模式 打印 上一主题 下一主题
1 Linux平台下的多进程


1.1进程:
   指正在执行的程序,是程序正在运行的一个实例,由程序指令和从文件、其他程序中读取的数据或者系统用户的输入组成。
   1.2线程和进程的关系:
   
 1.对操作系统来说,一个任务就是一个进程,
 2.在一个进程内部,要同时做很多件,就需要同时运行多个“子任务”,把进程内部的这些子任务成为线程
 3.线程是最小的执行单元,一个线程只能属于一个进程,而一个进程可以由很多线程,但是进程至少有一个线程组成,这个线程成为主线程
  os.getpid()函数:获取Python程序占有的进程号
os.fork()函数:调用一次返回两次,在Linux使用
> 1.os.fork()函数一旦运行就会产生一个新的子进程,
> 2.os.fork()只能在Linux下运行
  1. <code>pid = os.fork()
  2. if pid == 0:
  3.     print("子进程(pid = {0}),父进程(id = {1})".foemat(os.getpid(),os.getppis()))
  4. else:
  5.     print("父进程(pid = {0}),子进程(cpid)".format(os.getpid(),pid))
复制代码

2.跨平台的多进程


1.multiprocessing模块
   1.multiprocessing模块提供Process类来代表一个进程对象,每实例化一个Process类就创建一个进程对象
  1. <code>from multiprocessing import Process
  2. printcess(group=None,target=None,name=None,args=(),kwargs={},*,daemon=None)
  3. 参数说明:
  4. taget:是函数名称,需要调用的函数
  5. args:函数需要的参数,以元组的形式传入
  6. 主要方法:
  7. start():启动进程
  8. join():实现进程间的同步,等待所有进程退出
  9. run():如果没有给定target参数,这个对象调用start()方法时,就执行对象中的run()方法
  10. terminate():不管任务时候完成,立即终止进程
复制代码

2.Python3中创建进程的两种方式
   
1)函数是创建进程
创建子进程的时候只需要创建一个执行函数和函数的参数鸡哥完成Process实例的创建。
  1. <code>import os
  2. import time
  3. from multiprocessing import Process
  4. def osgetpid():
  5.     pass
  6. def handle(name, num):
  7.     for i in range(num):
  8.         print('子进程运行中,name={0},i={1},pid={2},ppid={3}'.format(name, i, osgetpid(), os.getppid()))
  9. if __name__ == '__main__':
  10.     print('父进程%d' % os.getpid())
  11.     p1 = Process(target=handle, args=('python3', 2))
  12.     p2 = Process(target=handle, args=('java', 3))
  13.     p1.start()
  14.     p2.start()
  15.     p1.join()
  16.     p2.join()
  17.     print('子进程结束')
  18.     time.sleep(10)
  19.     print('父进程结束')
  20. 输出结果
  21. 父进程18464
  22. 子进程运行中,name=python3,i=0,pid=None,ppid=18464
  23. 子进程运行中,name=java,i=0,pid=None,ppid=18464
  24. 子进程运行中,name=python3,i=1,pid=None,ppid=18464
  25. 子进程运行中,name=java,i=1,pid=None,ppid=18464
  26. 子进程运行中,name=java,i=2,pid=None,ppid=18464
  27. 子进程结束
  28. 父进程结束        
复制代码
  
2)创建进程类,创建multiprocessing.Process的子类,来包装一个进程对象,通过继承Process类,并且重写Process类的run方法,在run()方法中定义具体要执行的任务。
  
3.子进程
   
subprocess模块:启动一个子进程,然后控制输入和输出
  1. <code>import subprocess
  2. result = subprocess.call(['ping', '172.0.0.1'])
  3. print(result)
复制代码

3.进程池(pool)

批量创建进程时,使用multiprocessing模块的Pool类
pool类可以提供一个指定数量的进程提供给用户调用,如果池子没满,就创建一个新的进程来执行改请求,如果池满了,等到池子中有进程结束,才会创建新的进程来执行请求
   multiprocessing.Pool类的主要用法
1.apply_async(func,args,kwds) 
func:使用非阻塞的方式调用func函数,并执行,args为传递给func的参数列表
2.apply(func,args,kwds),使用阻塞方式调用func函数,阻塞方式必须等待上一个进程结束才能执行下一个进程3
3.join().主进程阻塞
4.close().关闭进程池,
5.terminate()不管任务是否完成,立刻终止进程池子
  3 跨平台间的多进程通信


Queue类:用来进行多个进程间的通信
   1.单进程通信:在单进程中使用multiprocessing模块的Queue类模拟队列储存和读取数据
  2.跨平台的多进程通信:在多进程开发中,生产者就是生产数据的进程,消费者就是消费数据的进程,
  
4 分布式进程



分布式进程中,使用Python3的Queue生成发送任务的对象和接受任务的队列,在服务器端需要用multiprocessing.managers模块把Queue类的对象通过网络暴露出去,就可以让其他机器访问Queue

 
    1.分布式进程包括服务进程(master)和任务进程(woker),分布式进程运行是需要关闭服务器进程和任务进程所在机器上的防火墙服务
 2.服务器进程和任务进程运行在两台服务器时,两台机器代码的ip需要改成服务进程(master)的ip

来源:https://blog.caogenba.net/qq_36242554/article/details/122497323
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!

帖子地址: 

回复

使用道具 举报

分享
推广
火星云矿 | 预约S19Pro,享500抵1000!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

草根技术分享(草根吧)是全球知名中文IT技术交流平台,创建于2021年,包含原创博客、精品问答、职业培训、技术社区、资源下载等产品服务,提供原创、优质、完整内容的专业IT技术开发社区。
  • 官方手机版

  • 微信公众号

  • 商务合作