relay.build调用关系
在用TVM优化过程中,常见demo如下图:
relay.build背后的调用机制梳理如下:
python中的build函数实现如下,此方法实际调用了BuildModule类的build方法,
BuildModule获取的C++函数build方法,此处涉及混合编程:
_build_module._BuildModule() 来自于这句注册:
tvm._ffi._init_api("relay.build_module", __name__)
self.mod["build"]调用RelayBuildModule的GetFunction方法,其中name为“build”:
RelayBuildModule类的build方法如下,主要包含两部分功能,Optimize和codegen:
Optimize函数有很多优化策略,
在此处执行,实际执行的是SequentialNode的operator方法:
Sequential::Sequential构造函数如下,其中name为声明带默认参数:
Sequential的operator->()方法调用的是SequentialNode的operator()方法:
codegen 代码逻辑如下:
GetPackedFun函数调用的是提前注册的函数CreateGraphCodegenMod(),
返回GraphRuntimeCodegenModule类型的对象
graph_codegen_ 指针指向的是GraphRuntimeCodegenModule类的对象,Init方法,
Codegen方法,GetIRModule都来自于注册的GraphRuntimeCodegenModule 实例,
Codegen 调用GraphRuntimeCodegenModule的codegen_,是GraphRuntimeCodegen
的实例指针,调用的codegen代码如下
参考链接:
https://www.pianshen.com/article/24811852648/