relay.build调用关系

relay.build调用关系
在用TVM优化过程中,常见demo如下图:

relay.build调用关系

 

 relay.build背后的调用机制梳理如下:

 python中的build函数实现如下,此方法实际调用了BuildModule类的build方法,

relay.build调用关系

 

BuildModule获取的C++函数build方法,此处涉及混合编程:

relay.build调用关系

 

 _build_module._BuildModule() 来自于这句注册:

tvm._ffi._init_api("relay.build_module", __name__)
self.mod["build"]调用RelayBuildModule的GetFunction方法,其中name为“build”:

relay.build调用关系

 

 RelayBuildModule类的build方法如下,主要包含两部分功能,Optimize和codegen:

relay.build调用关系

 

 Optimize函数有很多优化策略,

relay.build调用关系

 

 在此处执行,实际执行的是SequentialNode的operator方法:

relay.build调用关系

 

 Sequential::Sequential构造函数如下,其中name为声明带默认参数:

relay.build调用关系

 

 Sequential的operator->()方法调用的是SequentialNode的operator()方法:

relay.build调用关系

 

 codegen 代码逻辑如下:

relay.build调用关系

 

 GetPackedFun函数调用的是提前注册的函数CreateGraphCodegenMod(),

返回GraphRuntimeCodegenModule类型的对象

relay.build调用关系

 

 graph_codegen_ 指针指向的是GraphRuntimeCodegenModule类的对象,Init方法,

Codegen方法,GetIRModule都来自于注册的GraphRuntimeCodegenModule 实例,

relay.build调用关系

 

 Codegen 调用GraphRuntimeCodegenModule的codegen_,是GraphRuntimeCodegen

的实例指针,调用的codegen代码如下

relay.build调用关系

 

 

参考链接:
https://www.pianshen.com/article/24811852648/

上一篇:golang 获取当月最后一天日期


下一篇:TDsql,二级分区表,按月分区相关问题