mysql – “foreach”循环:使用R中的所有核心(特别是如果我们在foreach循环中发送sql查询)

我打算用“foreach”来uitlize我的CPU中的所有核心.我需要在循环中发送一个sql查询.该脚本在正常的’for’循环中工作正常,但是当我将其更改为’foreach’时它会出现以下错误.
错误是:

select: Interrupted system call    
select: Interrupted system call    
select: Interrupted system call    
Error in { : task 1 failed - "expired MySQLConnection"

我使用的代码是:

library(foreach)
library(doMC)
library(RMySQL)
library(multicore)
registerDoMC(cores=6)
m <- dbDriver("MySQL", max.con = 100)
con <- dbConnect(m, user="*****", password = "******", host ="**.**.***",dbname="dbname")
list<-dbListTables(con)
foreach(i = 1:(length(list))%dopar%{
  query<-paste("SELECT * FROM ",list[i]," WHERE `CLOSE` BETWEEN 1 AND 100",sep="")
  t<-dbGetQuery(con,query)
}

虽然’foreach’在我的系统中正常工作用于所有其他目的,但它仅在sql查询的情况下给出错误.有没有办法在’foreach’循环中发送sql查询?

解决方法:

我的建议如下:
将数据库查询移到循环外部,并锁定访问权限,这样就不会进行并行数据库查询.我认为这也会加快速度,因为你不会有并行磁盘访问,同时仍然可以进行并行处理.

含义(伪代码)
db =连接数据库
threadlock = lock();

parfor {
  threadlock.lock
  result = db query(在此处提取所有数据,因为在加载时无法处理而不保持数据库锁定)
  thread.unlock
  处理结果数据(现在只是数据,而不是sql对象).
}

上一篇:linux-CPU亲和力的优缺点


下一篇:Linux上的处理器亲和力