作者:叶余
来源:https://www.cnblogs.com/leisure_chn/p/10434209.html
1. overlay 技术简介
overlay 技术又称视频叠加技术。overlay 视频技术使用非常广泛,常见的例子有,电视屏幕右上角显示的电视台台标,以及画中画功能。画中画是指在一个大的视频播放窗口中还存在一个小播放窗口,两个窗口不同的视频内容同时播放。
overlay 技术中涉及两个窗口,通常把较大的窗口称作背景窗口,较小的窗口称作前景窗口,背景窗口或前景窗口里都可以播放视频或显示图片。FFmpeg 中使用 overlay 滤镜可实现视频叠加技术。
overlay 滤镜说明如下:
描述:前景窗口(第二输入)覆盖在背景窗口(第一输入)的指定位置。 语法:overlay[=x:y[[:rgb={0, 1}]] 参数 x 和 y 是可选的,默认为 0。 参数 rgb 参数也是可选的,其值为 0 或 1,默认为 0。 参数说明: x 从左上角的水平坐标,默认值为 0 y 从左上角的垂直坐标,默认值为 0 rgb 值为 0 表示输入颜色空间不改变,默认为 0;值为 1 表示将输入的颜色空间设置为 RGB 变量说明:如下变量可用在 x 和 y 的表达式中 main_w 或 W 主输入(背景窗口)宽度 main_h 或 H 主输入(背景窗口)高度 overlay_w 或 w overlay 输入(前景窗口)宽度 overlay_h 或 h overlay 输入(前景窗口)高度
overlay 滤镜相关参数示意图如下:
2. 命令行用法
可先参考 "FFmpeg 使用基础" 了解 FFmpeg 命令行基本用法。
overlay 命令行基本格式如下:
ffmpeg -i input1 -i input2 -filter_complex overlay=x:y output
input1 是背景窗口输入源,input2 是前景窗口输入源。
2.1 视频中叠加图标
背景窗口视频素材下载(右键另存为):ring.mp4
视频分辨率是 768x432(此分辨率适用于平板电脑,宽高比为 16:9),上下黑边的像素高度是 56,播放时长为 37.97 秒。关于分辨率与黑边的相关内容可参考如下:
前景窗口图标素材下载(右键另存为):ring_100x87.png
图标分辨率是 100x87。图标格式为 PNG 格式,当然选用其他格式的图片作图标也是可以的,但 PNG 图标具有透明背景,更适合用作图标。
2.1.1 直接叠加图标
将图标叠加于视频右上角:("-max_muxing_queue_size" 参数的使用见参考资料[3])
ffmpeg -i ring.mp4 -i ring_100x87.png -filter_complex overlay=W-w:56 -max_muxing_queue_size 1024 ring_logo_t.mp4
效果如下:
将图标叠加于视频右下角:
ffmpeg -i ring.mp4 -i ring_100x87.png -filter_complex overlay=W-w:H-h-56 -max_muxing_queue_size 1024 ring_logo_b.mp4
效果如下:
2.1.2 延时叠加图标
如下,背景窗口播放 8.6 秒后,图标开始显示。注意 “-itsoffset 8.6” 作为第二个输入文件的输入选项,参数位置不能放错。
ffmpeg -i ring.mp4 -itsoffset 8.6 -i ring_100x87.png -filter_complex overlay=W-w:56 -max_muxing_queue_size 1024 ring_logo_delay.mp4
2.2 视频中叠加视频——画中画
视频中叠加视频即为画中画功能。注意两个视频仅图像部分会叠加在一起,声音是不会叠加的,有一个视频的声音会消失。
2.2.1 叠加计时器
找一个计时器小视频,将之叠加到背景视频上。我们可以从测试源中获取这个计时器视频。先运行如下命令:
ffplay -f lavfi -i testsrc
视频无法贴在本文里,那运行截图命令,从视频中截取一张图:
ffmpeg -ss 00:00:12 -f lavfi -i testsrc -frames:v 1 -f image2 testsrc.jpg
效果如下:
我们把计时器那一小块视频裁剪下来,运行如下命令:
ffmpeg -ss 00:00:10 -t 20 -f lavfi -i testsrc -vf crop=61:52:224:94 timer.h264
此命令主要用到了 crop 视频滤镜,说明一下:
"-vf crop=61:52:224:94" 表示裁剪一块位于 (224,94) 坐标处宽为 61 像素高为 52 像素的视频块
"-ss 00:00:10 -t 20" 表示从 10 秒处开始裁剪,裁剪时长为 20 秒
将计时器视频 timer.h264 叠加到背景视频 ring.mp4 里:
ffmpeg -i ring.mp4 -i timer.h264 -filter_complex overlay=W-w:0 -max_muxing_queue_size 1024 ring_timer.mp4
效果如下:
看一下视频叠加过程中 FFmpeg 在控制台中的打印信息,关注流的处理:
$ ffmpeg -i ring.mp4 -i timer.h264 -filter_complex overlay=W-w:0 -max_muxing_queue_size 1024 ring_timer.mp4 ...... Input #0, mov,mp4,m4a,3gp,3g2,mj2, from 'ring.mp4': Metadata: ...... Duration: 00:00:37.97, start: 0.032000, bitrate: 515 kb/s Stream #0:0(chi): Video: h264 (avc1 / 0x31637661), none, 768x432, 488 kb/s, 23 fps, 23 tbr, 23k tbn, 46k tbc (default) Metadata: handler_name : 1348358526.h264#video:fps=23 - Imported with GPAC 0.5.1-DEV-rev4127 Stream #0:1(chi): Audio: aac (HE-AAC) (mp4a / 0x6134706D), 48000 Hz, stereo, fltp, 95 kb/s (default) Metadata: handler_name : GPAC ISO Audio Handler Input #1, h264, from 'timer.h264': Duration: N/A, bitrate: N/A Stream #1:0: Video: h264 (High 4:4:4 Predictive), yuv444p(progressive), 61x52 [SAR 1:1 DAR 61:52], 25 fps, 25 tbr, 1200k tbn, 50 tbc Stream mapping: Stream #0:0 (h264) -> overlay:main (graph 0) Stream #1:0 (h264) -> overlay:overlay (graph 0) overlay (graph 0) -> Stream #0:0 (libx264) Stream #0:1 -> #0:1 (aac (native) -> aac (native)) ......
看 "Stream mapping" 部分可以看出:
输入源 1 视频流 "Stream #0:0" 和输入源 2 视频流 "Stream #1:0" 叠加到输出视频流 "Stream #0:0"
输入源 1 音频流 "Stream #0:1" 拷贝到输出音频流 "Stream #0:1"
视频开始几秒处播放有些异常,声音播放几秒后图像才开始播放,原因不太清楚。
3. API用法
使用滤镜API编程,解析不同的滤镜选项,以达到和命令行中输入命令同样的效果。
例程使用 "FFmpeg 滤镜 API 用法与实例解析" 中第 4.2 节的示例程序,运行如下命令下载例程源码:
svn checkout https://github.com/leichn/exercises/trunk/source/ffmpeg/ffmpeg_vfilter
下载之后进入源码目录,编译生成 vf_file 可执行文件:
cd ffmpeg_vfilter make vf_file
运行如下命令进行测试:
./vf_file ring.flv -vf "movie=ring_100x87.png[logo];[in][logo]overlay=W-w:56"
测试效果为:
因为例程尚不支持多输入的方式,所以上述测试命令中借助了 movie 滤镜来加载第二个输入,这条命令和下面这条命令效果是一样的
ffplay ring.mp4 -i ring_100x87.png -filter_complex overlay=W-w:56
4. 遗留问题
第 3 节例程不支持多输入方式,借助了 movie 滤镜变通实现,多输入情况下 API 如何编程?待分析如下命令中多输入选项的解析处理方式:
ffplay ring.mp4 -i ring_100x87.png -filter_complex overlay=W-w:56
5. 参考资料
[2] 用于编码视频文件的视频预设
[3] Too many packets buffered for output stream
6. 修改记录
2019-02-16 V1.0 首次整理
2020-01-17 V1.0 修改资源文件下载地址错误
2020-02-23 V1.0 github 文件下载地址规则改变,修改资源文件无法下载问题
「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。