以下分析基于我内部修改过的linphone版本。
linphone包含了sip协议解析,多媒体编解码和rtp传输等功能,这些功能是通过不同的组件分工合作完成的,下面我就来分析下linphone
生命中出现过的那些线程。
第一个登场的当然是主线程,也就是ui线程,通常可认为是一个Activity,这个Activity主要负责界面的绘制、linphone内核库的初始化以
及功能接口的调用。
第二个线程是sip协议处理线程,在主线程初始化linphone内部库时创建:
osip_thread_create(20000, _eXosip_thread, NULL);
此线程监听sip的socket接口,负责sip消息的发送、接收,分析sip消息并做协议上的处理,最后会调用各种业务的回调函数做进一步处理。
第三个线程是在初始化完linphone内部库之后由linphoneManager创建的一个loop,此线程循环调用linphone_core_iterate,处理各种
osip event和call状态变化。
第四个线程是音频流线程,在建立会话之后由loop线程创建。负责音频流的编解码,以及音频编码数据的rtp发送接收。
第五个线程是视频流线程,在建立会话之后由loop线程创建。负责视频流的编解码,以及视频编码数据的rtp发送接收。
下面通过分析一些常见的应用场景来分析这些线程是如何运作的。
++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
场景一、在解码点击拨号键发起一个点对点呼叫
---------------------------------------------------------------
当用户点击拨号键后,主线程里的onclick函数执行,通过jni调用linphone库的呼叫函数,此函数会做一些初始化,然后调用sip的呼叫
接口,向sip的事务队列添加一个‘发起呼叫’的事务。
代码调用流程:
onclick()
|
jni 调用的java方法
|
jni调用的c方法
|
linphone_core_invite_address_p2p()
|
linphone_core_start_invite()
|
sal_call()
|
eXosip_call_send_initial_invite()
|
osip_transaction_add_event()
|
osip_fifo_add()
--------------------------------------------------------------------------
接着,sip协议线程会检测到这个‘发起呼叫’的事务 ,并处理这个事务。
eXosip_execute()
|
osip_ict_execute()
|
osip_fifo_tryget()
osip_transaction_execute()
|
__ict_get_fsm()
fsm_callmethod()
transition->method()
ict_snd_invite()
|
__osip_message_callback(OSIP_ICT_INVITE_SENT, ict, ict->orig_request);
|
cb_sndinvite()
在函数ict_snd_invite中把sip的invite消息发送到目地地址,接着调用回调函数cb_sndinvite(),此函数是用来通知linphone,‘发起呼
叫’的请求发送完毕。我们也可以在此回调里做一些我们自定义的处理。
---------------------------------------------------------------
当目标机接收到sip的invite消息后,如果按下接听按钮接听了电话,目标机就会回复一个200的消息给呼叫端(200表示ok),呼叫端
收到200的消息,就生成一个sip event,接着,loop线程会轮询到这个sip event,并处理。我们看代码流程。首先是sip协议线程:
---------------------------------------------------------------
eXosip_execute()
|
osip_ict_execute()
|
osip_fifo_tryget()
osip_transaction_execute()
|
__ict_get_fsm()
fsm_callmethod()
transition->method()
ict_rcv_2xx()
|
__osip_message_callback(OSIP_ICT_STATUS_2XX_RECEIVED, ict, evt->sip);
|
cb_rcv2xx()
|
report_event()
|
eXosip_event_add();
---------------------------------------------------------------------
然后是loop线程:
sal_iterate()
|
eXosip_event_wait();
process_event();
|
call_accepted()
|
sal->callbacks.call_accepted(op);
||
call_accepted()
|
linphone_core_update_streams()
|
linphone_call_start_media_streams()
|
-------------------------------------------------------------------------------
| |
linphone_call_start_audio_stream() linphone_call_start_video_stream()
| |
audio_stream_start_full() video_stream_start()
| |
stream->ticker=ms_ticker_new(); stream->ticker = ms_ticker_new();
函数ms_ticker_new()会创建一个线程(也就是音频流线程或视频流线程),此线程的实现方式是: 循环执行filter的process方法。
下面详细说明,以视频流线程为例。
-----------------------------------------------------------------------------------
linphone把视频通话看做一个流水线,流水线上的每一环负责一个步骤。那么视频通话的流水线有两条:
1. 摄像头采集 ----- 视频编码 ----- rtp 发送
2. rtp 接收 ----- 视频解码 ----- 视频显示
每一环都以filter的形式实现,filter需要实现固定的几个接口:init 、pre_process、process、post_process、uninit 。filter的process
函数接收其他filter的输入,经过内部处理后传递给预定的filter。
linphone根据需要把不同的filter link成一个流水线,一条流水线包含一个source filter、一个output filter(出口也可以有2个)和若干
个中间filter,数据从source filter产生,并在process方法里把数据流传递给下一个filter,下一个filter经过处理,将数据流传递给下下个
filter,如此直到最后一个output filter。
结合到视频采集就是camera插件完成视频的yuv数据的采集,并传递给encoder插件,encoder插件完成视频的编码,并将编码数据
传递给rtp发送插件,rtp发送插件将编码数据打包,然后通过socket传递到网络。