锐客网

  1. 首页 > 睿知 > it技术 > >

python函数任务队列 python队列的基本操作

IT技术队列

Python 异步任务队列Celery 使用 在 Python 中定义 Celery 的时候 ， 我们要引入 Broker ， 中文翻译过来就是“中间人”的意思 。在工头(生产者)提出任务的时候，把所有的任务放到 Broker 里面，在 Broker 的另外一头，一群码农(消费者)等着取出一个个任务准备着手做 。这种模式注定了整个系统会是个开环系统，工头对于码农们把任务做的怎样是不知情的 。所以我们要引入 Backend 来保存每次任务的结果 。这个 Backend 也是存储任务的信息用的，只不过这里存的是那些任务的返回结果 。我们可以选择只让错误执行的任务返回结果到 Backend，这样我们取回结果 ， 便可以知道有多少任务执行失败了 。
其实现架构如下图所示：
可以看到 ， Celery 主要包含以下几个模块：
celery可以通过pip自动安装 。
broker 可选择使用RabbitMQ/redis，backend可选择使用RabbitMQ/redis/MongoDB 。RabbitMQ/redis/mongoDB的安装请参考对应的官方文档 。
------------------------------rabbitmq相关----------------------------------------------------------
官网安装方法：
启动管理插件：sbin/rabbitmq-plugins enable rabbitmq_management 启动rabbitmq：sbin/rabbitmq-server -detached
rabbitmq已经启动，可以打开页面来看看 地址：
用户名密码都是guest。进入可以看到具体页面 。关于rabbitmq的配置，网上很多 自己去搜以下就ok了 。
【python函数任务队列 python队列的基本操作】 ------------------------------rabbitmq相关--------------------------------------------------------
项目结构如下：
使用前 ， 需要三个方面：celery配置，celery实例，需执行的任务函数 ， 如下：
Celery 的配置比较多，可以在 官方配置文档：查询每个配置项的含义 。
当然，要保证上述异步任务and下述定时任务都能正常执行，就需要先启动celery worker，启动命令行如下:
需 启动beat ，执行定时任务时, Celery会通过celery beat进程来完成 。Celery beat会保持运行, 一旦到了某一定时任务需要执行时, Celery beat便将其加入到queue中. 不像worker进程, Celery beat只需要一个即可 。而且为了避免有重复的任务被发送出去，所以Celery beat仅能有一个 。
命令行启动：
如果你想将celery worker/beat要放到后台运行 ， 推荐可以扔给supervisor 。
supervisor.conf如下：
Python实现简单多线程任务队列Python实现简单多线程任务队列
最近我在用梯度下降算法绘制神经网络的数据时，遇到了一些算法性能的问题 。梯度下降算法的代码如下（伪代码）：
defgradient_descent():# the gradient descent codeplotly.write(X, Y)
一般来说，当网络请求 plot.ly 绘图时会阻塞等待返回 ， 于是也会影响到其他的梯度下降函数的执行速度 。
一种解决办法是每调用一次 plotly.write 函数就开启一个新的线程，但是这种方法感觉不是很好 。我不想用一个像 cerely（一种分布式任务队列）一样大而全的任务队列框架 ， 因为框架对于我的这点需求来说太重了，并且我的绘图也并不需要 redis 来持久化数据 。
那用什么办法解决呢？我在 python 中写了一个很小的任务队列，它可以在一个单独的线程中调用 plotly.write函数 。下面是程序代码 。
fromthreadingimportThreadimportQueueimporttime classTaskQueue(Queue.Queue):
首先我们继承 Queue.Queue 类 。从 Queue.Queue 类可以继承 get 和 put 方法 ， 以及队列的行为 。
def__init__(self, num_workers=1):Queue.Queue.__init__(self)self.num_workers=num_workersself.start_workers()
初始化的时候，我们可以不用考虑工作线程的数量 。
defadd_task(self, task,*args,**kwargs):args=argsor()kwargs=kwargsor{}self.put((task, args, kwargs))
我们把 task, args, kwargs 以元组的形式存储在队列中 。*args 可以传递数量不等的参数，**kwargs 可以传递命名参数 。
defstart_workers(self):foriinrange(self.num_workers):t=Thread(target=self.worker)t.daemon=Truet.start()
我们为每个 worker 创建一个线程 ， 然后在后台删除 。
下面是 worker 函数的代码：
defworker(self):whileTrue:tupl=self.get()item, args, kwargs=self.get()item(*args,**kwargs)self.task_done()
worker 函数获取队列顶端的任务，并根据输入参数运行，除此之外，没有其他的功能 。下面是队列的代码：
我们可以通过下面的代码测试：
defblokkah(*args,**kwargs):time.sleep(5)print“Blokkah mofo!” q=TaskQueue(num_workers=5) foriteminrange(1):q.add_task(blokkah) q.join()# wait for all the tasks to finish. print“Alldone!”
Blokkah 是我们要做的任务名称 。队列已经缓存在内存中，并且没有执行很多任务 。下面的步骤是把主队列当做单独的进程来运行，这样主程序退出以及执行数据库持久化时，队列任务不会停止运行 。但是这个例子很好地展示了如何从一个很简单的小任务写成像工作队列这样复杂的程序 。
defgradient_descent():# the gradient descent codequeue.add_task(plotly.write, x=X, y=Y)
修改之后 ， 我的梯度下降算法工作效率似乎更高了 。如果你很感兴趣的话，可以参考下面的代码 。fromthreadingimportThreadimportQueueimporttime classTaskQueue(Queue.Queue): def__init__(self, num_workers=1):Queue.Queue.__init__(self)self.num_workers=num_workersself.start_workers() defadd_task(self, task,*args,**kwargs):args=argsor()kwargs=kwargsor{}self.put((task, args, kwargs)) defstart_workers(self):foriinrange(self.num_workers):t=Thread(target=self.worker)t.daemon=Truet.start() defworker(self):whileTrue:tupl=self.get()item, args, kwargs=self.get()item(*args,**kwargs)self.task_done() deftests():defblokkah(*args,**kwargs):time.sleep(5)print"Blokkah mofo!" q=TaskQueue(num_workers=5) foriteminrange(10):q.add_task(blokkah) q.join()# block until all tasks are doneprint"All done!" if__name__=="__main__":tests()
python多任务之进程队列queenpython的多进程之间无法用全局变量，需要只用队列queen进行通讯 。
1. 创建 。q=multiprocessing.Queen(num)，num最大存放多少数据
2.进程使用队列 ， 需要在创建进程时做为参数传进去 。p=multiprocessing.Process(target=fun_name,args=(q,))
3.队列使用 。队列是先进先出的，p.put(任何数据类型)，放进数据，当队列满时会进程会堵塞等待 。p.get()取出数据，当队列中无数据是，进程会堵塞等待 。p.full()是否已满，p.empty()是否空了 。
python函数任务队列的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于python队列的基本操作、python函数任务队列的信息别忘了在本站进行查找喔 。

    推荐阅读


    上一篇：如何确定服务器的芯片类型？ 怎么查服务器的芯片型号

    下一篇：包含grassgismapgis的词条