产品百科 | 如何快速集成阿里云 RACE 美颜功能

产品介绍

RACE 是渲染计算平台(Render And Compute Everything Engine)的简写。RACE 美颜包含图像及视频渲染能力,如滤镜、特效、贴纸,以及美颜美型、人脸检测等算法能力,覆盖多种拍摄、剪辑场景,满足客户丰富的产品需求。

快速集成

  • Android 端,支持 maven 与 aar 离线集成两种方式:
    • maven 依赖集成方式:maven { url "https://maven.aliyun.com/nexus/content/repositories/releases" } implementation 'com.aliyun.race:AliyunRace:1.1.1'。
    • 本地集成方式:获取 AliyunRace.aar 文件并添加到工程中。
  • iOS 端,支持 pod 与 framework 离线集成两种方式:
    • pod 依赖集成方式:pod 'AliyunRace', '1.1.1'。
    • 本地集成方式:将 AliyunRace.framework、Face3D.framwork、opencv2.framework 添加到工程中。

接入指南

美颜美型功能

  • 功能介绍。高级美颜包含美白、磨皮、锐化等功能,美型默认包含优雅、精致、网红、可爱、婴儿五种脸型。该功能提供包括眼睛、鼻子、嘴形等 22 种预置形状,便于客户根据产品需求扩展丰富的功能。
  • 数据结构及接口介绍。
    • 美型形状类型。
/**
 * 美型形状类型
 */
typedef enum ALRFaceShape
{
    ALR_FACE_TYPE_CUT_CHEEK       = 0, //颧骨      [0,1]
    ALR_FACE_TYPE_CUT_FACE        = 1, //削脸      [0,1]
    ALR_FACE_TYPE_THIN_FACE       = 2, //瘦脸      [0,1]
    ALR_FACE_TYPE_LONG_FACE       = 3, //脸长      [0,1]
    ALR_FACE_TYPE_LOWER_JAW       = 4, //下巴缩短  [-1,1]
    ALR_FACE_TYPE_HIGHER_JAW      = 5, //下巴拉长  [-1,1]
    ALR_FACE_TYPE_THIN_JAW        = 6, //瘦下巴    [-1,1]
    ALR_FACE_TYPE_THIN_MANDIBLE   = 7, //瘦下颌    [0,1]
    ALR_FACE_TYPE_BIG_EYE         = 8, //大眼     [0,1]
    ALR_FACE_TYPE_EYE_ANGLE1      = 9, //眼角1     [0,1]
    ALR_FACE_TYPE_CANTHUS         = 10,//眼距     [-1,1]
    ALR_FACE_TYPE_CANTHUS1        = 11,//拉宽眼距 [-1,1]
    ALR_FACE_TYPE_EYE_ANGLE2      = 12,//眼角2    [-1,1]
    ALR_FACE_TYPE_EYE_TDANGLE     = 13,//眼睛高度 [-1,1]
    ALR_FACE_TYPE_THIN_NOSE       = 14,//瘦鼻     [0,1]
    ALR_FACE_TYPE_NOSE_WING       = 15,//鼻翼     [0,1]
    ALR_FACE_TYPE_NASAL_HEIGHT    = 16,//鼻长     [-1,1]
    ALR_FACE_TYPE_NOSE_TIP_HEIGHT = 17,//鼻头长   [-1,1]
    ALR_FACE_TYPE_MOUTH_WIDTH     = 18,//唇宽     [-1,1]
    ALR_FACE_TYPE_MOUTH_SIZE      = 19,//嘴唇大小 [-1,1]
    ALR_FACE_TYPE_MOUTH_HIGH      = 20,//唇高     [-1,1]
    ALR_FACE_TYPE_PHILTRUM        = 21, //人中
    ALR_FACE_TYPE_MAX             = 22
} ALRFaceShape;

    • 说明 对于每一种形状,可设置参数值超出上述定义的 [-1, 1] 的范围综合调试效果。
    • 创建高级美颜实例。
/**
 * 创建美颜美型实例
 * @param handle 美颜美型句柄指针
 * @param resDir 资源文件目录绝对路径
 * @param rid 数据上报标识符
 * @param lid 日志上报标识符
 * @return 成功返回 ALR_OK,否则返回 < 0
 */
int aliyun_beautify_create(race_t *handle, const char *resDir, int64_t rid = -1, int64_t lid = -1);
    • 销毁高级美颜实例。
/**
 * 销毁美颜美型实例
 * @param handle 美颜美型句柄
 */
void aliyun_beautify_destroy(race_t handle);
    • 高级美颜调试开关。
/**
 * 美颜美型调试开关
 * @param handle 美颜美型句柄
 * @param enable 调试开启标志
 * @return 成功返回 ALR_OK,否则返回 < 0
 */
int aliyun_beautify_setFaceDebug(race_t handle, bool enable);
    • 美型开关。
/**
 * 美型开关
 * @param handle 美颜美型句柄
 * @param switchOn 是否开启人脸检测及美型处理
 */
void aliyun_beautify_setFaceSwitch(race_t handle, bool switchOn);
    • 设置美型参数。
/**
 * 设置美型参数
 * @param handle 美颜美型句柄
 * @param level 美型等级参数,可以超出 ALRFaceShape 中定义的参数范围
 * @return 成功返回 ALR_OK,否则返回 < 0
 */
int aliyun_beautify_setFaceShape(race_t handle, ALRFaceShape type, float level);
    • 高级美颜渲染。
/**
 *  高级美颜,输入是类型 CMSampleBufferRef 的图像数据,返回与输入同样大小的纹理 id
 *  @param handle 创建成功的句柄
 *  @param sampleBuffer 图像数据 CMSampleBufferRef
 *  @return 成功则返回渲染纹理 id,失败返回 0
 */
int aliyun_beautify_processSampleBuffer(race_t handle, void *sampleBuffer);
/**
 * 单输入美颜美型渲染
 * @param handle 美颜美型句柄
 * @param buffer CPU图像内存地址
 * @param bufferSize CPU图像内存字节数
 * @param format 图像像素格式
 * @param width 图像宽度
 * @param height 图像高度
 * @param bytesPerRow CPU图像内存一行的字节数
 * @param rotation 图像旋转角度(顺进针方向)
 * @param range 颜色色域范围
 * @param standard 色彩标准
 * @param flags 详见 ALR_FLAG_XXX 定义,如 OES 纹理、镜像、输出图像旋转等
 * @return 成功则返回输出纹理句柄,否则返回 < 0
 */
int aliyun_beautify_processBufferToTexture(race_t handle,
                                           uint8_t *buffer,
                                           uint32_t bufferSize,
                                           aliyun_image_format_t format,
                                           uint32_t width,
                                           uint32_t height,
                                           uint32_t bytesPerRow,
                                           aliyun_rotation_t rotation,
                                           aliyun_color_range_t range,
                                           aliyun_color_standard_t standard,
                                           uint8_t flags);
/**
 * 美颜美型纹理输入渲染
 * @param handle 美颜美型句柄
 * @param textureIn 输入图像纹理
 * @param width 输入图像纹理宽度
 * @param height 输入图像纹理高度
 * @param rotation 输入图像纹理旋转角度(顺时针)
 * @param flags 详见 ALR_FLAG_XXX 定义,如 OES 纹理、镜像、输出图像旋转等
 * @return 成功则返回输出纹理句柄,否则返回 < 0
 */
int aliyun_beautify_processTextureToTexture(race_t handle,
                                            uint32_t textureIn,
                                            uint32_t width,
                                            uint32_t height,
                                            aliyun_rotation_t rotation,
                                            uint8_t flags);
/**
 * 双输入美颜美型渲染
 * @param handle 美颜美型句柄
 * @param textureIn GPU纹理 id
 * @param buffer CPU图像内存地址
 * @param bufferSize CPU图像内存字节数
 * @param format 图像像素格式
 * @param width 图像宽度
 * @param height 图像高度
 * @param bytesPerRow CPU图像内存一行的字节数
 * @param rotation 图像旋转角度(顺进针方向)
 * @param flags 详见 ALR_FLAG_XXX 定义,如 OES 纹理、镜像、输出图像旋转等
 * @return 成功则返回输出纹理句柄,否则返回 < 0
 */
int aliyun_beautify_processDualInputToTexture(race_t handle,
                                              uint32_t textureIn,
                                              uint8_t *buffer,
                                              uint32_t bufferSize,
                                              aliyun_image_format_t format,
                                              uint32_t width,
                                              uint32_t height,
                                              uint32_t bytesPerRow,
                                              aliyun_rotation_t rotation,
                                              uint8_t flags);
  • 接口集成示例。
#include "aliyun_beautify.h"
race_t beautify = nullptr;
// 创建高级美颜实例
// iOS: RACE内部自动从Framework读取,可传空字串。
// Android: 外部需将asserts/race_res目录拷贝到sdcard或者可访问的路径,并将此路径作为参数传入如/sdcard
aliyun_beautify_create(&beautify, "");
// 设置美颜参数
aliyun_beautify_setSkinBuffing(beautify, skinBuffingValue); //磨皮
aliyun_beautify_setSkinWhitening(beautify, skinWhiteningValue); //美白
aliyun_beautify_setSharpen(beautify, sharpenValue); //锐化
// 设置美型参数
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_BIG_EYE, bigEyeValue);//大眼
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_LONG_FACE, longFaceValue);//脸长
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_CUT_FACE, cutFaceValue);//削脸
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_THIN_FACE, thinFaceValue);//瘦脸
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_LOWER_JAW, lowerJawValue);//下巴
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_MOUTH_WIDTH, mouthWidthValue);//唇宽
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_THIN_NOSE, thinNoseValue);//瘦鼻
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_THIN_MANDIBLE, thinMandibleValue);//下颌
aliyun_beautify_setFaceShape(beautify, ALR_FACE_TYPE_CUT_CHEEK, cutCheekValue);//颧骨
// iOS: 美颜美型效果处理,返回渲染后的结果纹理id。
textureOut = aliyun_beautify_processSampleBuffer(beautify, sampleBuffer);
// Android & iOS: 单纹理输入
textureOut = aliyun_beautify_processTextureToTexture(beautify,
                                                     textureIn,
                                                     width, height,
                                                     rotation, flags);
// Android & iOS: CPU内存+GPU纹理双输入
textureOut = aliyun_beautify_processDualInputToTexture(beautify,
                                                       textureIn,
                                                       buffer, bufferSize, 
                                                       format, width, height,
                                                       bytePerRow,
                                                       rotation, flags);
// 销毁美颜美型实例
aliyun_beautify_destroy(beautify);

人脸检测

  • 功能介绍。在静态的照片、图像或动态的视频流中,使用人脸检测技术可以快速准确地辨别出单张或多张人脸,并检测出人脸所在的位置。
  • 数据结构及接口介绍。
// 宏定义
#define ALR_FACE_DETECT_MODE_VIDEO           0x10000000  // video
#define ALR_FACE_DETECT_MODE_IMAGE           0x20000000  // image
/// 网络模型
#define ALR_FACE_DETECT_NETWORK_HBN          0x00000001  // HBN
#define ALR_FACE_DETECT_NETWORK_FASTERRCNN   0x00000002  // Faster RCNN
// 人脸区域
typedef struct aliyun_rect_t
{
    int left;    //left of face rectangle
    int top;     //top of face rectangle
    int right;   //right of face rectangle
    int bottom;  //bottom of face rectangle
} aliyun_rect_t;
// 点的数据结构
typedef struct aliyun_point_t
{
    float x;
    float y;
} aliyun_point_t;
// 一张人脸的数据结构
typedef struct aliyun_face_t
{
    aliyun_rect_t rect;                   // 人脸区域
    float score;                          // 置信度
    aliyun_point_t landmarks_array[106];  // 106关键点
    float landmarks_visible_array[106];  // 106关键点遮挡情况
    float yaw;                           // 水平转角,真实度量的左负右正
    float pitch;                         // 俯仰角,真实度量的上负下正
    float roll;                          // 旋转角,真实度量的左负右正
    float eye_distance;                  // 两眼间距
    int faceID;
} aliyun_face_t;
// 多张人脸的数据结构
typedef struct aliyun_face_info_t
{
    aliyun_face_t *p_faces;                 //face info
    int face_count;                      //face detection num
} aliyun_face_info_t;
// 人脸检测参数类型 
typedef enum
{
    ALR_FACE_PARAM_DETECT_INTERVAL        = 1,  // 人脸检测的帧率(默认值30,即每隔30帧检测一次)
    ALR_FACE_PARAM_SMOOTH_THRESHOLD       = 2,  // 人脸关键点平滑系数(默认值0.25)
    ALR_FACE_PARAM_POSE_SMOOTH_THRESHOLD  = 4,  // 姿态平衡系数(0,1],越大平滑程度越大
    ALR_FACE_PARAM_DETECT_THRESHOLD       = 5,  // 人脸检测阈值(0,1),阈值越大,误检越少,但漏检测会增加, default 0.95 for faster rcnn; default 0.3 for SSD
    ALR_FACE_PARAM_ALIGNMENT_INTERVAL     = 11, // 人脸检测对齐间隔,默认1,一般不要超过5
    ALR_FACE_PARAM_MAX_FACE_SUPPORT       = 12, // 最多支持检出的人脸个数,最大设为32, 主要针对faster rcnn
    ALR_FACE_PARAM_DETECT_IMG_SIZE        = 13, // 人脸检测输入的图像大小,default: 240 for faster rcnn, recommend set 320 for tiny face detection
} aliyun_face_param_type_t;
    • 创建人脸检测实例。Android 端 C 接口:
/**
 * 创建人脸检测句柄
 * @param handle
 * @param det_paraPath 人脸检测模型的路径
 * @param pts_paraPath 关键点检测模型的路径
 * @param config
 * @return == 0 OK; < 0 error
 */
RACE_EXTERN int aliyun_face_create(race_t* handle,
                                   JNIEnv* env,
                                   const char* det_paraPath,
                                   const char* pts_paraPath,
                                   unsigned int config);
    • iOS 端 C 接口:
/**
 * 创建人脸检测句柄
 * iOS端推荐使用接口
 * @param handle with initialed
 * @param config 检测图片:ALR_FACE_DETECT_MODE_IMAGE,检测视频:ALR_FACE_DETECT_MODE_VIDEO
 * @return == 0 OK;  < 0 error
 */
RACE_EXTERN int aliyun_face_default_create(race_t* handle, unsigned int config);
/**
 * 创建人脸检测句柄
 * @param handle with initialed
 * @param det_paraPath 人脸检测模型的绝对路径
 * @param pts_paraPath 关键点检测模型的绝对路径
 * @param config 检测图片:ALR_FACE_DETECT_MODE_IMAGE,检测视频:ALR_FACE_DETECT_MODE_VIDEO,人脸检测模型选择模型1,则增加ALR_FACE_DETECT_NETWORK_HBN,选择模型3,则增加ALR_FACE_DETECT_NETWORK_FASTERRCNN
 * @return == 0 OK; < 0 error
 */
RACE_EXTERN int aliyun_face_create(race_t* handle,
                       const char* det_paraPath,
                       const char* pts_paraPath,
                       unsigned int config);
    • 设置人脸检测参数。
/**
 * 设置人脸检测参数
 * @param handle with initialed
 * @param type face_param_type
 * @param value new threshold
 * @return = 0 OK; < 0 error
 */
RACE_EXTERN int aliyun_face_setParam(race_t handle, aliyun_face_param_type_t type, float value);
    • 调用人脸检测接口。
/**
 * 人脸检测
 * @param handle with initialed
 * @param buffer input image
 * @param format support type BGR、RGBA、RGB、Y(GRAY),推荐使用RGBA
 * @param width  width
 * @param height height
 * @param bytesPerRow 用于检测的图像的跨度(以像素为单位),即每行的字节数
 * @param rotation rotate image to frontalization for face detection
 * @param config MOBILE_FACE_DETECT, or MOBILE_FACE_DETECT|MOBILE_EYE_BLINK et.al 默认值0
 * @param outRotation result process rotate specific angle first, angle =  0/90/180/270
 * @param outFlipAxis  flip x/y 0(no flip)/1(flip X axis)/2(flip Y axis)
 * @param faceInfo store face detetion result
 * @return = 0 OK; < 0 error
 */
RACE_EXTERN int aliyun_face_detect(race_t handle,
                                   uint8_t *buffer,
                                   aliyun_image_format_t format,
                                   uint32_t width,
                                   uint32_t height,
                                   uint32_t bytesPerRow,
                                   aliyun_rotation_t rotation,
                                   uint32_t config,
                                   aliyun_rotation_t outRotation,
                                   uint32_t outFlipAxis,
                                   aliyun_face_info_t* faceInfo);
    • 销毁人脸检测实例。
/**
 * 销毁人脸检测句柄
 * @param handle  with initialed
 */
RACE_EXTERN void aliyun_face_destroy(race_t handle);
  • 接口集成示例。
race_t handle = nullptr;
// for Android
aliyun_face_create(handle,
                   "/sdcard/race_res/models/0_3/fd_00002_3",
                   "/sdcard/race_res/models/0_3/fd_00002_12",
                   ALR_FACE_DETECT_NETWORK_FASTERRCNN | ALR_FACE_DETECT_MODE_VIDEO);
// for iOS
aliyun_face_default_create(handle, ALR_FACE_DETECT_MODE_VIDEO);
// 设置检测间隔,推荐设置为5
aliyun_face_setParam(handle, ALR_FACE_PARAM_DETECT_INTERVAL, 5);
aliyun_face_info_t info;
aliyun_face_detect(handle,
                   buffer,
                   ALR_IMAGE_FORMAT_NV21,
                   1280,
                   720,
                   1280,
                   ALR_ROTATE_90_CW,
                   0,
                   ALR_ROTATE_90_CW,
                   0,
                   &info);
aliyun_face_destroy(handle);


「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。

产品百科 | 如何快速集成阿里云 RACE 美颜功能

上一篇:产品百科 |Ali RTC 生成 Token 的两种方式


下一篇:产品百科 |使用阿里云播放器实现全屏秒播