协同程序与常规的多线程不同之处:协同程序是非抢占式的。
当一个协同程序运行时,是无法从外部停止它的。只有当协同程序显式地调用yield时,它才会停止。
当不存在抢先时,编程会变得简单很多,无须为同步的bug抓狂。
在程序中所有的同步都是显式的,只需要确保一个协同程序在它的临界区域之外调用yield即可。
对于这样非抢占式的多线程来说,只要有一个线程调用了一个阻塞操作,整个程序在该操作完成前,都会停止下来。
下面用一个有趣的方法来解决这个问题:通过HTTP下载几个远程文件。
下面的例子测试下载lua源代码,其中会用到LuaSocket模块:
local socket = require "socket" local host = "www.lua.org"
local file1 = "/ftp/lua-5.3.3.tar.gz " local HTTP = "HTTP/1.0\r\nUser-Agent: Wget/1.12 (linux-gnu)\r\nAccept: */*\r\nHost: www.lua.org\r\nConnection: Keep-Alive\r\n\r\n" local sock = assert(socket.connect(host1,))
sock:send("GET " .. file1 .. HTTP) repeat
local chunk,status,partial = sock:receive()
print("chuck:size: ",string.len(chunk or partial),status or "ok")
until status == "closed" sock:close()
在正常情况下receive函数会返回一个字符串。若发生错误,则返回nil,并且附加错误码及出错前读取到的内容(partial).
接下来下载几个文件,最笨的办法就是逐个下载,但是太慢。程序大部分时间花费在等待数据的接收上。
更明确地说,是将时间花在了receive阻塞调用上。
采用的解决办法是,当一个链接没有可用数据时,程序便可以从其他链接出读取数据。
很明显协同程序提供了一种简便的方式来构建这种并发下载。
为每个下载任务创建一个新的线程,只要一个线程无可用数据,它就把控制权转让给一个简单的调度程序。
而这个调度程序则会调用其他下载线程。
在以协同程序来重写程序,先将前面的下载代码重新写:
function receive(connection)
local s,status,partial = connection:receive(^)
return s or partial,status
end function download(host,file)
local sock = assert(socket.connect(host,))
local count = --记录接收到的字节数
sock:send("GET " .. file .. HTTP)
repeat
local chunk,status = receive(sock)
count = count + #chunk
until status == "closed"
sock:close()
print(file,count)
end
download(host,file1)
这是下载一个文件的函数封装,只需调用download就可以。单独下载一个文件需要18秒左右。
但是在并发的情况中,receive代码不能阻塞,因此在它没有可用数据时应该挂起:
function receive(connection)
connection:settimeout() --设置为非阻塞
local s,status,partial = connection:receive(^)
if status == "timeout" thencoroutine.yield(connection)
end
return s or partial,status
end
settimeout的调用,使得对此链接的操作不会阻塞。
即使在超时的情况下,连接也是会返回已经读取到的内容,即记录在partial变量中。
以下代码用table threads为调度程序保存所有正在运行中的线程。
get函数保证每个下载任务都在一个独立的线程中执行。
调度程序本身主要就是一个循环,遍历所有的线程,逐个唤醒它们的执行。
当有线程完成时,就将该线程从列表中删除。
threads = {} --保存活跃线程的表
function get(host,file)
local co = coroutine.create(function() --创建协同程序
download(host,file)
end)
table.insert(threads,co) --插入列表
end function dispatch()
local i =
while true do
if threads[i] == nil then --没有线程了
if threads[] == nil then break end --表是空表吗
i = --重新开始循环
end
local status,res = coroutine.resume(threads[i]) --唤醒改线程继续下载文件
if not res then --线程是否已经完成了任务
table.remove(threads,i) --移除list中第i个线程
else
i = i + --检查下一个线程
end
end
end
最后,主程序需要创建所有的线程,并调用调度程序。
local file1 = "/ftp/lua-5.3.3.tar.gz "
local file2 = "/ftp/lua-5.3.2.tar.gz "
local file3 = "/ftp/lua-5.3.1.tar.gz "
local file4 = "/ftp/lua-5.3.0.tar.gz "
local file5 = "/ftp/lua-5.2.4.tar.gz "
local file6 = "/ftp/lua-5.2.3.tar.gz "
local file7 = "/ftp/lua-5.2.2.tar.gz "
local file8 = "/ftp/lua-5.2.1.tar.gz "
local file9 = "/ftp/lua-5.2.0.tar.gz "
get(host,file1)
get(host,file2)
get(host,file3)
get(host,file4)
get(host,file5)
get(host,file6)
get(host,file7)
get(host,file8)
get(host,file9) dispatch() --main loop
同时下载9个文件总共耗时36秒,比串行下载9个文件速度快很多。
但是发现CPU占用率跑到98%。
为了避免这样的情况,可以使用LuaSocket中的select函数(socket.select(recvt, sendt [, timeout]))。
在等待时陷入阻塞状态,若要在当前实现中应用这个函数,只需要修该调度即可:
function dispatch_new()
local i =
local timedout = {} --Recvt 集合
while true do
if threads[i] == nil then --没有线程了
if threads[] == nil then break end --表是空表
i = --重新开始循环
timedout = {} --遍历完所有线程,开始新一轮的遍历
end
local status,res = coroutine.resume(threads[i]) --唤醒该线程继续下载文件
if not res then --若完成了res就为nil,只有status一个返回值true。否则res为yield传入的参数connection。
table.remove(threads,i) --移除list中第i个线程
else
i = i + --检查下一个线程
timedout[#timedout +] = res
if #timedout == #threads then --所有线程都阻塞了吗?
socket.select(timedout) --如果线程有数据,就返回
end
end
end
end
... ...
dispatch_new() --main loop
receive会将超时的连接通过yield传给resume的res。如果所有的连接都超时了,调度程序就用select来等待这些链接的状态发生变化。
最后运行改良版的程序后,9个文件下载总耗时24秒,cpu占用率不到5%。