(原创)PBS | SGE 智能任务投递系统monitor | python实现

之前看到过高手写的一个monitor,用python面向对象实现的,依赖几个核心的python包,drmaazodb,理论上来说解决了所有的任务投递问题。

但是在复杂的集群环境下还是会经常出问题,这就是更复杂的调试了,需要对集群环境有深刻的认识。

这里不搞那么复杂的东西,就是在一个单一的PBS集群里写一个monitor,智能的投递任务。

但是我现在这个集群有几个非常不智能的地方,需要我克服:

1. 每个任务的内存、cpu和运行时间受限,必须要根据内存和cpu来指定投递的节点类型;需要用户估计内存和cpu

2. 不能无限pending,就是你同一时间排队的任务数量受限;

3. 更个性化的环境下,可以指定每一个任务的内存和cpu,但是我这个脚本不考虑,默认所有任务同内存和cpu;

4. 每投递一个任务,首先需要搞清楚请求的内存和cpu,从而决定投递到哪个节点;其次就是判断节点是否有排队的任务,如果有一个了,那就移到下一节点,直至全满;

这里只采用函数封装的方法来写,懒得写出对象。

上一篇:关于python中的编码:unicode, utf-8, gb2312


下一篇:用python+selenium抓取豆瓣读书中最受关注图书并按评分排序