小白:提取视频中的图片吗?那很简单,播放视频再截图就行啦。
播放视频再截图的做法,当然可以。但是,手动截图会太累而且无法保证准确度,特别是需要反复提取图片时,或者需要提取“105秒那一瞬间的美女图片”时,或者我需要每秒出一张图片时,那有别的办法吗?
本文介绍,如何使用FFmpeg实现从视频中提取图片的功能。
一般使用FFmpeg的方式,有两种,一种是使用FFmpeg的命令(也就是调用ffmpeg这个程序),另一种是调用FFmpeg的库文件。这里小程同样从命令行以及代码调用这两种方式,进行介绍。
(一)使用FFmpeg命令来解决问题
在安装FFmpeg后,打个命令就可以实现这个功能。对于FFmpeg的安装或调试,之前介绍过。
提取图片可以这样,比如:
ffmpeg -ss 00:00:5 -i moments.mp4 -vframes 1 -f image2 -y a.png
参数的意思是这样的:
ss表示开始提取图片的时间点,既可以用时分秒格式,也可以是多少秒。
如果使用到这个参数,那应该把它作为第一个参数,因为可以让FFmpeg提速。
i表示输入文件,就是视频文件。
vframes表示拿多少帧,也就是多少张图片。注意,这个参数要放在-i参数之后。
f表示提取出来的图片的格式。
y表示覆盖已有同名的图片。
再比如,可以这样:
ffmpeg -i xxx.mp4 -r 1 -y -f image2 -t 5 -s 240*320 pc%3d.jpg
参数的意思是这样的:
r表示每秒提取图片的帧数,即帧率,默认是25fps,上面设置为一秒拿一张图。
t表现持续提取多少秒,也可以用时分秒的格式来表示。
s表出来的图片的尺寸。
3%d表示以001、002这样的格式来命名输出的图片。
于是,
小白:那么说,如果我发现视频某个时间点有美女的话,那我就可以用ss从这个时间点再前一点,然后用t来持续提取5秒,或者用vframes来提取几十张,那就准没漏了!也就是这样:
ffmpeg -ss 10 -t 5 -r 1 -i Movie-1.mp4 -f image2 -y pc-temp/image%3d.jpg
小白:看,这是提取到的美女图:
另一方面,你在提取到若干成图片后,有可能想把这些图片编码成视频,这时同样可以借助FFmpeg命令来完成。需要注意,图片变成视频,是需要视频编码器的,所以在安装FFmpeg时需要把视频编码器也带上(比如x264),这个之前有所介绍。
把图片编码成视频的命令是这样的:
ffmpeg -f image2 -i img%3d.jpg test.mp4
img%d表示以"img001", "img002"这种命名的文件(也就是之前提取出来的图片),按顺序使用。注意f参数要在i参数之前。
你可能觉得mp4格式没有gif格式通用,于是又有了把mp4转成gif动态图的需求,这时还是可以敲打ffmpeg命令:
ffmpeg -i hello.mp4 hello.gif
当然这只是简单地把mp4转成gif,你也可以加上分辨率、码率之类的参数来控制,这里不细说。
(二)写代码调用FFmpeg库来解决问题
通过写代码调用FFmpeg库的方式来提取图片,并且保存成24bit的位图。
小程先贴上演示代码,再在后面做一些解释:
#include "libavcodec/avcodec.h"
#include "libavformat/avformat.h"
#include "libswscale/swscale.h"
#include <stdio.h>
#include <stdlib.h>
typedef struct {
unsigned int filesize;
unsigned short reserved1;
unsigned short reserved2;
unsigned int dataoffset;
}BITMAP_FILE_HEADER;
typedef struct {
unsigned int infosize;
int width;
int height;
unsigned short planecount;
unsigned short bitcount;
unsigned int compressiontype;
unsigned int imagedatasize;
int xpixpermeter;
int ypixpermeter;
unsigned int colorusedcount;
unsigned int colorimportantcount;
}BITMAP_INFO;
void extractpicture(const char* filepath) {
av_register_all();
av_log_set_level(AV_LOG_DEBUG);
AVFormatContext* formatContext = avformat_alloc_context();
int status = 0;
int success = 0;
int videostreamidx = -1;
AVCodecContext* codecContext = NULL;
status = avformat_open_input(&formatContext, filepath, NULL, NULL);
if (status == 0) {
status = avformat_find_stream_info(formatContext, NULL);
if (status >= 0) {
for (int i = 0; i < formatContext->nb_streams; i ++) {
if (formatContext->streams[i]->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
videostreamidx = i;
break;
}
}
if (videostreamidx > -1) {
codecContext = formatContext->streams[videostreamidx]->codec;
AVCodec* codec = avcodec_find_decoder(codecContext->codec_id);
if (codec) {
status = avcodec_open2(codecContext, codec, NULL);
if (status == 0) {
success = 1;
}
}
}
}
else {
av_log(NULL, AV_LOG_DEBUG, "avformat_find_stream_info error\n");
}
}
if (success) {
av_dump_format(formatContext, 0, filepath, 0);
int gotframe = 0;
AVFrame* frame = av_frame_alloc();
int decodelen = 0;
int limitcount = 10;
int pcindex = 0;
unsigned char* rgbdata = (unsigned char*)malloc(avpicture_get_size(AV_PIX_FMT_RGB24, codecContext->width, codecContext->height));
AVFrame* rgbframe = av_frame_alloc();
avpicture_fill((AVPicture*)rgbframe, rgbdata, AV_PIX_FMT_RGB24, codecContext->width, codecContext->height);
struct SwsContext* swscontext = sws_getContext(codecContext->width, codecContext->height, codecContext->pix_fmt,
codecContext->width, codecContext->height, AV_PIX_FMT_RGB24, SWS_BICUBIC, NULL, NULL, NULL);
while (pcindex < limitcount) {
AVPacket packet;
av_init_packet( &packet );
status = av_read_frame(formatContext, &packet);
if (status < 0) {
if (status == AVERROR_EOF) {
av_log(NULL, AV_LOG_DEBUG, "read end for file\n");
}
else {
av_log(NULL, AV_LOG_DEBUG, "av_read_frame error\n");
}
av_packet_unref(&packet);
break;
}
else {
if (packet.stream_index == videostreamidx) {
decodelen = avcodec_decode_video2(codecContext, frame, &gotframe, &packet);
if (decodelen > 0 && gotframe) {
frame->data[0] = frame->data[0] + frame->linesize[0] * (codecContext->height - 1);
frame->data[1] = frame->data[1] + frame->linesize[1] * (codecContext->height / 2 - 1);
frame->data[2] = frame->data[2] + frame->linesize[2] * (codecContext->height / 2 - 1);
frame->linesize[0] *= -1;
frame->linesize[1] *= -1;
frame->linesize[2] *= -1;
sws_scale(swscontext, frame->data, frame->linesize, 0,
codecContext->height, rgbframe->data, rgbframe->linesize);
char filename[12] = {0};
sprintf(filename, "pc%03d.bmp", ++ pcindex);
FILE* file = fopen(filename, "wb");
if (file) {
int pixcount = codecContext->width * codecContext->height;
BITMAP_FILE_HEADER fileheader = {0};
fileheader.filesize = 2+sizeof(BITMAP_FILE_HEADER)+sizeof(BITMAP_INFO)+pixcount * 3;
fileheader.dataoffset = 0x36;
BITMAP_INFO bmpinfo = {0};
bmpinfo.infosize = sizeof(BITMAP_INFO);
bmpinfo.width = codecContext->width;
bmpinfo.height = codecContext->height;
bmpinfo.planecount = 1;
bmpinfo.bitcount = 24;
bmpinfo.xpixpermeter = 5000;
bmpinfo.ypixpermeter = 5000;
unsigned short ftype = 0x4d42;
fwrite(&ftype, sizeof ftype, 1, file);
fwrite(&fileheader, sizeof fileheader, 1, file);
fwrite(&bmpinfo, sizeof bmpinfo, 1, file);
fwrite(rgbframe->data[0], pixcount*3, 1, file);
fclose(file);
}
}
}
}
av_packet_unref(&packet);
}
av_frame_free(&rgbframe);
free(rgbdata);
av_frame_free(&frame);
sws_freeContext(swscontext);
}
avformat_free_context(formatContext);
}
int main(int argc, char *argv[])
{
extractpicture("moments.mp4");
return 0;
}
- 程序演示了把解码后的图片数据保存成位图的过程。如果有需要可以做更多的修改,比如av_seek_frame到适当的位置再开始解码与保存位图,也可以控制多少帧后保存一张位图,等等。
- av_register_all注册“所有”,所有的编解码器、muxer与demuxer等等(前提是configure编译时有enable,才会真正使用到),这一步是关键的初始化工作,没有这一步,FFmpeg很可能不能如期工作。
- avformat_open_input打开输入。“输入”是一个抽象,这里具体成文件。这一步之后,就获得了一些文件格式信息。
- avformat_find_stream_info查找流的信息。多媒体数据由流组成,这一步就是获取媒体格式信息,有可能比较耗时。这一步后,流使用的编解码器被确定下来。
- avcodec_find_decoder找到解码器。
- avcodec_open2打开解码器。
- av_read_frame读取一个packet,未解码。
- avcodec_decode_video2解码一个视频帧。
- sws_getContext获取并初始化一个SwsContext场景,swscontext不仅可以缩放图片,还可以转换颜色布局。
- sws_scale缩放或转换。
- 在调用sws_scale之前,对frame->data跟frame->linesize做的处理,是为了调整坐标系,让图片适合位图的坐标系(从下往上,从左往右),这样转换出来的位图才不会颠倒。
- 这里选择的是24位的位图(没有调色板),在写入rgb数据前,先把文件头与位图信息写好。
至此,在视频中提取图片的实现,就介绍完毕了。
总结一下,本文从直接使用ffmpeg命令行,以及写代码调用FFmpeg库文件的两种方式入手,介绍了如何实现从视频中提取图片的功能。至此为止,有缘再见,see you.