Camera相关术语
https://blog.csdn.net/lisl812/article/details/108854377
R-FPC Rigid-flexiable printed circuit 软硬结合板
FPC Flexiable printed circuit 软板
FF Fixed Focus 定焦
AF Auto Focus 自动对焦
RGB Red Green Blue 红绿蓝三色元
RGBW Red Green Blue White 红绿蓝白四像素
PDAF Phase Detection auto focus 相位对焦
2PD Dual phse detection auto focus 双像素相位对焦
AWB Auto white balance 自动白平衡
LSC Luminance shading correction 亮度均匀性校准
Color Shading Color Shading 色彩均匀性校准
BlemishBlemish 坏点脏污
Color filter Color filter 滤光片
Photo diode Photo diode 光电二极管
EIS Electrical image stable 电子防抖
FSI Frontside illuminated 前照式
BSI Backside illuminated 背照式
Holder Holder 马达与sensor间的结构件
IR filter Infrared filter 红外滤光片
BG Blue glass 蓝玻璃滤光片
FOV Field of view 视场角
F# F number 光圈
TTL Total track length 镜头机械总长度
EFL Effective focal length 焦距
MTF Modulation Transfer Function 调制传递函数
TV Distortion TV Distortion 畸变
CRA Chief ray angle 主光角
6P 6 plastic 6片塑胶镜片
IH Image height 像高
RI Relative illuminance 相对亮度
DOF Depth of field 景深
Barrel Barrel 镜筒
VCM Voice coil motor 音圈马达
B-D Bi-directional 中置马达
C/L Closed Loop 闭环马达
OIS Optical image stable 光学防抖
OTP Once time programmed 一次性烧录
CSI Camera Serial Interface 相机串行接口
MIPI Mobile Industry Processor Interface 移动产业处理器接口
CCI Camera Control Interface 摄像头控制接口,一般即是I2C接口
CSIPHYMIPI协议的物理层
CSID MIPI协议层的一部分,用于解码数据流
AFAuto Focus 自动对焦
AWB Auto White Balance 自动白平衡
AEC Auto Exposure Control 自动曝光控制
RoI AF Region of Interest AF感兴趣区域
FOV Field of View 视场角
HDR High-Dynamic Range 高动态范围图像
ZSL Zero Shutter Later 零延迟拍照(高通)
ZSD Zero Shutter Delay 零延迟拍照 (MTK)
PDAF Phase Detection Auto Focus 相位对焦
AWB Auto White Balance 自动白平衡
CCT Color Correction Table 色彩校正表
CCM Color Correction Matrix 色差校正矩阵
ISP Image Signal Processing 图像信号处理
Pre-ISP Pre-Image Signal Processing 前期图像信号处理
Post-ISP Post-Image Signal Processing 后端图像信号处理
VFE Video Front-End of Camera Firmware 视频前端
CAC Chromatic Aberration Correction 色差校正
SNR Skin Noise Reduction 皮肤降噪
CPP Camera Post Processing 后端处理
BLC Black Level Correction 黑白校正
LSC Lens Shading Correction 镜头校正
ACE Advanced Chroma Enhancement 色度校正
SCE Skin Color Enhancement 皮肤颜色增强
MCE Memory Color Enhancement 记忆色彩增强
CS Chroma Suppression 色度抑制
WNR Wavelet Noise Reduction 小波降噪
DPC Defective Pixel Correction 缺陷像素校正
ABF Adaptive Bayer Filter 自适应Bayer滤镜
RNR Radial Noise Reduction 边缘降噪
ASF Advanced Streaming Format 高级流格式
FIR Finite Impulse Response 有限搏动反应滤波器
IIR Infinite impulse response 数字滤波器
RDI Raw Dump Interface 原始数据转储接口
MDP The Modular toolkit for Data Processing 数据处理包
PLV Preferred Vendor List 首选供应商名单
DNNF Deterministic, decomposable Negation Normal form 确定、分解的非正常形式
CNF Composite Nonlinear Feadback 复合非线性反馈控制
ICL Image Component Library 图像编码层
OMX OpenMax 多媒体应用程序标准
ExIF 一种图像格式
AXI Advanced eXtensible Interface 片内总线
AMBA Advanced Microcontroller Bus Architecture 高级微控制器总线架构
ASD Auto Scene Detection 自动场景检测
AFD Auto Frequency Detection 频闪自动检测
IQ Image Quality 图像质量
ICL Image C-Codec Layer 图像编解码层
BIMC Bus Integrated Memory Controller 总线集成内存控制器
GCDB Global Component Database 全局组件数据库
QRD Qualcomm Reference Design 高通参考设计
SOF Start of Frame 帧开始
FD Face Detection 人脸检测
GIC Green Imbalance Correction 绿不平衡校正
MCTL Media Control 媒体控制
PVL Preferred Vendor List 首选供应商名单
DSP Digital Symbol Processing 数字符号处理
ADSP Application DSP 不需要AP处理简单数据
VPE Video Processing Engine 视频处理引擎
CMOS Complementary Metal Oxide Semiconductor 互补金属氧化物半导体
CCD Charge coupled device 电荷耦合器件
DSC Digital Still Camera 数码相机
DSLR Digital Single-Lens Reflex 数码单反
OLPF Optical Low-pass Filter 低通滤波器
SNR Signal Noise Ratio 信噪比
DR Dynamic Range 动态范围
DP Defect Pixel 缺陷像素
HDR High Dynamic Range 高动态范围
DENOISE 去噪
BPC/DPC Bad/Defect Pixel Correction 坏点补偿
HUE 色相
HSV Hue Saturation Value 色相、饱和度、灰度
RGB Red Green Blue 红绿蓝三原色
MONO SENSOR 黑白传感器
ISP Image Signal Processor 图像信号处理器
GAMMA 伽马曲线
CONTRAST 对比度
camera常见名词缩写
https://www.jianshu.com/p/0b773aa1a2a4
CC, color conversion,色彩转换
CC, color correction,色彩矫正
CE, chroma enhancement,色度增强
SNR,signal-to-noise ratio,信噪比
SNR, skin noise reduce,肤色降噪
STD, standard deviation,标准差
OIS, optical image stabilization 光学稳像
PDAF,phase detection auto focus,相位对焦
CPP: camera post processor,摄像头后处理
ZSL: zero shutter log,零延时拍照
ABF: adaptive bayer filter,自适应bayer滤波器
CCM: color correction matrix
ASF: adaptive spatial filter,自适应空间滤波器
ACE,advanced chroma enhancement,高级色度增强
AEC, auto exposure control,自动曝光控制
AFD,automatic flicker detection,频闪自动检测
PLD,Physical Layer Driver,物理层驱动
BPC,坏点矫正
BCC,坏点对矫正
CFA,color fillter array色彩滤镜阵列
BAF,bayer AF
LA,luma adaptation,亮度调整
DBPC,动态坏点校正
DBCC,动态坏点簇校正
ABCC,assisted bad cluster correction,辅助坏点族校正
TM:目标模块
IAF:instant auto focus,即时AF
DDM, dense depth map
LCA,logic cell array,逻辑单元阵列
WNR,wavelet noise reduction,小波降噪
LUT,lookup table查找表
MCC, macbenth color checker,macbeth麦克白色卡
ND,中兴密度
UI,用户界面
CCT,correlated color temperature,关联色温
SWG,simple gray world,简单灰世界
ROI,Region of interest,感兴趣区域
SP,软件产品
BSP,开发包
AFR,auto FPS rate,自动帧率
MCE,memory color enhancement,记忆色增强
SCE,skin color enhancement,肤色增强
CT,Color Temperature,色温
IQ, image quality,图像品质
IS, image stabilization,图像稳定
HAF,hybrid auto focus,混合对焦
CAF,continuous auto focus,自动对焦
CAF(contrast AF),持续AF
TAF,触控对焦
GM,golden 模组
RDI, raw dump interface,原始数据转存端口
QTI, Qualcomm Technologies Inc
DCC, defocus conversion coefficient
SLR, single-lens-reflex,单反
PD,phase detection,相位检测
PD,phase difference,相位差
BPP, bits per pixel
DAC,digital to analog converter
AFR,auto frame rate
AWB, automatic white balance,自动白平衡
CAC,color aliasing correction
CAC,color artifact correction
CAC, chromatrix aberration correction
GIC, green imbalannce correction
DPC, defective pixel correction
LTM, local tone mapping,局部色调映射
GTM,全局色调映射
VFE, Video front end,视觉前端
APL, average picture level
MLC,misleading color,误导性颜色。
DCIAF,dual camera instant auto focus
VPE,Video preprocessing 视频预处理
SAD,Sum of Absolute Difference
SADR, SAD with respect
HPF, High Pass Filter
FOV, field of view,视场角
RNR, radial noise Reduction
RMS,root mean squared
TOF(time-of-flight), 激光对焦
DCIF(duall camera instant AF),
MVAVG,moving average
HVX, hexagon vector eXtension
lc, line counter
FIR, finite impulse response,有限脉冲响应
IIR, infinite impulse response,无限脉冲响应
FIR, finite impulse response digital filter
image
ADRC, automatic dynamic range compression,自动动态范围压缩
AOST, advanced optional software technologies,高级可选软件技术
BLSS, black level subtraction and scaling,黑电平减法和压缩
DRC, dynamic range compression,动态范围压缩
HVX, hexagon vector extension,6角延伸
TNR, temporal noise reduction,时域降噪
IR, infrared filter,红外线过滤
INTG, integration time,
AFS, auto focus stats
CS, chroma suppression
LCE, local contrast enhancement
PDPC, phase detection pixel correction
GIC, green imbalance correction
LNR, level-based noise reducton
MCTL, media control
zzHDR, zigzag HDR
pvl, preferred vendor list,优选供应商列表。
FD, face detection
FIR, finite impulse response
HVX, hexgon vector extension
HDR, high dynamic range,高动态范围
IIR, infinite impulse response
LSB, least significant bit
MIPI, mobile industry processor interface
MSB, most significant bit
AIG, adaptive input gain
LC,line count
UI,user interface
SGW, simple gray world
CE, chromatrix enhancement
HAL,hardware abstraction layer,硬件抽象层
QCDB, global components database,全局组件数据库
IRQ, interrupt request,中断请求
QRD, qualcomm reference desigh,高通参考设计
SOF,start of frame,帧开始
NVM, non-volatile memory
ASD,auto scene detection,自动场景侦测
SDK, software developers kit
MWB, manual white balance
MBDRC, multiband dynamic range control
KPI, key performance indicator
FB, FrameBuffer
EDID, extended display identification data
MDP, mobile display processing
GPU, graphics processing unit
SDR, satic dynamic range
WCG, wide color gamut
HFR, high frame rate
LLV, low light vision
LLP(snapdragon), low light photo
UDCF, universal dual camera framework
EIS, electronic image stabilization
DIS, digital image stabilization
EXIF, exchangeable image file
HJR, hand jitter reduction
singel frame HJR,在弱光条件下增强噪声性能
LED, light emitting diode
UBWC, universal bandwidth compression
CAMIF, camera interface hardware
CSID, camera serial interface decoder
DOF, depth of field,景深
ISPIF, isp interface
NVM, nonvolative memory
RDI, raw data interface
PDLIB, phase detection library
CIS, cmos image sensor
DPC, defect pixel correction
pip, picture in picture,画中画
ISP, image signal processor
QFIL, Qualcomm flash image loader
ISO, international standards organization
SOF, start of frame,帧开始
BL, black level
OECF, opto-electronic conversion function
OEM, original equipment manufacturer
CCI, camera control interface, 摄像头控制接口
ICL, imaging codec layer,图像编解码层
CDF,Cumulative Distribution Function
LSC,lens shading correction镜头阴影矫正
DPCM,Differential Pulse Code Modulation
IS, image stabilization,图像稳定
GCDB,global components database,全局组件数据库
IRQ,interrupt request,中断请求
QRD,qualcomm reference design,高通参考设计。
DT, data type
VC,Virtual Channel
CID,Channel ID
MTP, modem test platform device
HWI, hardWare interface
CDT, configuration data table
GPIO, general purpose input-output
DTC, device tree compile
MCT, media controller
TDN, temporal wavelet denoise
VCM, voice coil motor,音圈马达
CDS: color down sample. 它会跳过UV通道中两个像素之间的一个像素,这绝对会影响颜色。 我们强烈建议客户慎重使用它。 只建议在极端黑暗的环境下使用,以消除由于饱和导致的噪音。 所以请使用自动模式并通过微调isp头中的触发条件来触发它。
AGW,advance gray world
DFS,dynamic frame skip
SVHDR:Staggered video HDR
RTB,Real-Time Bokeh
EV, exposure value
NA, not applicable
SOF,start of frame,帧开始
CTS,Compatibility test suite
OMX,openMAX
UDCF, universal dual camera framework
FOVC,Field-of-view-control
OECF,Opto-Electronic Conversion Function
PDPC,Phase Detection Pixel Correction
VCM
SAC, smart actuator control
LSC, linear slope control
POR, power on resset
OCP, over current protection
UVLO, under voltage lockout
SRC, slew rate control
Camera基础及基本概念
https://zhuanlan.zhihu.com/p/348230440
数字信号处理芯片DSP(DIGITAL SIGNAL PROCESSING)功能:主要是通过一系列复杂的数学算法运算,对数字图像信号参数进行优化处理,并把处理后的信号通过USB等接口传到PC等设备。DSP结构框架:
1. ISP(image signal processor)(镜像信号处理器)
2. JPEG encoder(JPEG图像解码器)
3. USB device controller(USB设备控制器) 或者其他接口
常见的摄像头传感器类型主要有两种,
一种是CCD传感器(Chagre Couled Device),即电荷耦合器。
一种是CMOS传感器(Complementary Metal-Oxide Semiconductor)即互补性金属氧化物半导体。
CCD的优势在于成像质量好,但是制造工艺复杂,成本高昂,且耗电高。在相同分辨率下,CMOS价格比CCD便宜,但图像质量相比CCD来说要低一些。CMOS影像传感器相对CCD具有耗电低的优势,加上随着工艺技术的进步,CMOS的画质水平也不断地在提高,所以目前市面上的手机摄像头都采用CMOS传感器。
景物通过 Lens 生成的光学图像投射到 sensor 表面上, 经过光电转换为模拟电信号, 消噪声后经过 A/D 转换后变为数字图像信号,再送到数字信号处理芯片( DSP) 中加工处理。所以,从 sensor 端过来的图像是 Bayer 图像,经过黑电平补偿 ( black level compensation)、镜头矫正 ( lens shading correction)、坏像素矫正 ( bad pixel correction)、颜色插值 ( demosaic)、Bayer 噪声去除、 白平衡( awb) 矫正、 色彩矫正( color correction) 、 gamma 矫正、 色彩空间转换( RGB 转换为 YUV) 、 在 YUV 色彩空间上彩噪去除与边缘加强、 色彩与对比度加强,中间还要进行自动曝光控制等, 然后输出 YUV( 或者 RGB) 格式的数据, 再通过 I/O 接口传输到 CPU 中处理。
二、以下对各个模块的处理算法做简要概述
1)Bayer
图像在将实际的景物转换为图像数据时, 通常是将传感器分别接收红、 绿、 蓝三个分量的信息, 然后将红、 绿、 蓝三个分量的信息合成彩色图像。 该方案需要三块滤镜, 这样价格昂贵,且不好制造, 因为三块滤镜都必须保证每一个像素点都对齐。
通过在黑白cmos 图像传感器的基础上, 增加彩色滤波结构和彩色信息处理模块就可以获得图像的彩色信息, 再对该彩色信息进行处理, 就可以获得色彩逼真的彩色图像。通常把彩色图像传感器表面覆盖的滤波称为彩色滤波阵列( Color Filter Arrays, CFA) 。
目前最常用的滤镜阵列是棋盘格式的, 已经有很多种类的, 其中绝大多数的摄像产品采用的是原色贝尔模板彩色滤波阵列( Bayer Pattern CFA) , 如图2 所示, R、 G、B 分别表示透红色、 透绿色和透蓝色的滤镜阵列单元, 图3 比较形象地展示了此过程。由于人的视觉对绿色最为敏感, 所以在Bayer CFA 中G 分量是R 和B 的二倍, 在每个像素点上只能获取一种色彩分量的信息,然后根据该色彩分量的信息通过插值算法得到全色彩图像。
2)BLC(Black level Correction)
a.暗电流
物理器件不可能是理想的, 由于杂质、 受热等其他原因的影响, 即使没有光照射到象素, 象素单元也会产生电荷, 这些电荷产生了暗电流。 而且, 暗电流与光照产生的电荷很难进行 区分。
b.Black Level
Black Level 是用来定义图像数据为0 时对应的信号电平。由于暗电流的影响, 传感器出来的实际原始数据并不是我们需要的黑平衡( 数据不为0) 。 所以,为减少暗电流对图像信号的影响,可以采用的有效的方法是从已获得的图像信号中减去参考暗电流信号。一般情况下, 在传感器中, 实际像素要比有效像素多, 如下图所示, 像素区头几行作为不感光区( 实际上, 这部分区域也做了RGB 的 color filter) , 用于自动黑电平校正, 其平均值作为校正值, 然后在下面区域的像素都减去此矫正值, 那么就可以将黑电平矫正过来了。
下面所列图是做了black level 矫正与没做black level 矫正的对比, 很明显, 左边没做black level矫正的图片会比较亮, 影响图像的对比度:
3)LSC(Lens Shading Correction)
由于镜头本身的物理性质, 造成图像四周亮度相对中心亮度逐渐降低, 以及, 如下图所示, 由于图像光照在透过镜头照射到pixel 上时, 边角处的焦点夹角大于中心焦点夹角, 造成边角失光。 表现在图像上的效果就是亮度从图像中心到四周逐渐衰减, 且离图像中心越远亮度越暗。 为了补偿四周的亮度, 需要进行Lens Shading 的矫正。
Lens Shading 的矫正的方法是根据一定的算法计算每个像素对应的亮度矫正值, 从而补偿周边衰减的亮度。
矫正方法有二次项矫正、 四次项矫正。
4)BPC(Bad Pixel Correction)
a.坏点
坏点为全黑环境下输出图像中的白点, 高亮环境下输出图像中的黑点。
b.坏点修复方法
一般情况下,RGB 信号应与景物亮度呈线性响应关系, 但由于Senor 部分pixel 不良导致输出的信号不正常, 出现白点或黑点。
坏点修复方法通常有两种:
一种是自动检测坏点并自动修复, 另一种是建立坏点像素链表进行固定位置的坏像素点修复, 这种方式是OTP 的方式。
c.坏像素矫正原理
下面以自动检测坏点修复方法为例, 阐述坏像素矫正算法原理。
5)颜色插值
当光线通过 Bayer型 CFA(Color Filter Arrays) 阵列之后, 单色光线打在传感器上, 每个像素都为单色光, 从而理想的Bayer 图是一个较为昏暗的马赛克图。
6)Bayer Denoise
使用 cmos sensor获取图像,光照程度和传感器问题是生成图像中大量噪声的主要因素。同时, 当信号经过ADC 时, 又会引入其他一些噪声。 这些噪声会使图像整体变得模糊, 而且丢失很多细节, 所以需要对图像进行去噪处理空间去噪传统的方法有均值滤波、 高斯滤波等。
但是, 一般的高斯滤波在进行采样时主要考虑了像素间的空间距离关系, 并没有考虑像素值之间的相似程度, 因此这样得到的模糊结果通常是整张图片一团模糊。 所以, 一般采用非线性去噪算法, 例如双边滤波器, 在采样时不仅考虑像素在空间距离上的关系, 同时加入了像素间的相似程度考虑, 因而可以保持原始图像的大体分块, 进而保持边缘。
7)AWB(Automatic White Balance)
白平衡的基本原理是在任意环境下, 把白色物体还原成白色物体, 也就是通过找到图像中的白块, 然后调整R/G/B 的比例, 如下关系: R’= R * R_Gain G’ = G * G_Gain B’ = B * B_Gain R’ = G’= B’
AWB 算法通常包括的步骤如下:
(1)色温统计: 根据图像统计出色温;
(2)计算通道增益: 计算出R 和B 通道的增益;
(3)进行偏色的矫正: 根据给出的增益, 算出偏色图像的矫正。
8)Color Correction
由于人类眼睛可见光的频谱响应度和半导体传感器频谱响应度之间存在差别,还有透镜等的影响, 得到的RGB 值颜色会存在偏差, 因此必须对颜色进行校正, 通常的做法是通过一个3x3 的颜色变化矩阵来进行颜色矫正。
9)Gamma Correction
人眼对外界光源的感光值与输入光强不是呈线性关系的, 而是呈指数型关系的。 在低照度下, 人眼更容易分辨出亮度的变化, 随着照度的增加, 人眼不易分辨出亮度的变化。 而摄像机感光与输入光强呈线性关系, 为方便人眼辨识图像, 需要将摄像机采集的图像进行gamma 矫正。
Gamma 矫正是对输入图像灰度值进行的非线性操作, 使输出图像灰度值与输入图像灰度值呈指数关系:
Vout =AVin
这个指数就是 Gamma, 横坐标是输入灰度值, 纵坐标是输出灰度值, 蓝色曲线是gamma 值小于1 时的输入输出关系, 红色曲线是gamma 值大于1 时的输入输出关系。 可以观察到, 当gamma 值小于1 时(蓝色曲线), 图像的整体亮度值得到提升, 同时低灰度处的对比度得到增加, 更利于分辩低灰度值时的图像细节。
#####10)色彩空间转换
YUV 是一种基本色彩空间, 人眼对亮度改变的敏感性远比对色彩变化大很多, 因此, 对于人眼而言, 亮度分量Y 要比色度分量U、V 重要得多。 所以, 可以适当地抛弃部分U、V分量, 达到压缩数据的目的。
Laplacian 算子
YCbCr 其实是YUV 经过缩放和偏移的改动版,Y 表示亮度,Cr、Cb 表示色彩的色差, 分别是红色和蓝色的分量。 在YUV 家族中,YCbCr 是在计算机系统中应用最多的成员, 其应用领域很广泛,JPEG、MPEG 均采用此格式。 一般人们所讲的YUV 大多是指YCbCr。YCbCr有许多取样格式,。
如 4∶4∶4,4∶2∶2, 4∶1∶1和 4∶2∶0。
RGB 转换为YCbCr 的公式如下:
r 0.5 0.4178 0.0813 128
b 0.1678 0.33113 0.5 128
0.299 0.587 0.114
C R G B
C R G G
Y R G B
色彩空间转换这个模块, 是将RGB 转换为 YUV444, 然后在YUV 色彩空间上进行后续的彩色噪声去除、 边缘增强等, 也为后续输出转换为jpeg 图片提供方便。
11)Color Denoise
为了抑制图像的彩色噪声, 一般采用低通滤波器进行处理。 例如使用M×N的高斯低通滤波器在色度通道上进行处理。
12)LLS
长曝光,摄影术语,是在摄影中选慢快门(曝光时间长)从而达到特殊摄影效果的一种摄影方法。该方法好处就是可以把光线暗的景色拍的更清晰,也可以拍出如梦幻般的画面,比如瀑布和城市公路夜景。
胶片的感光度是固定的,如果是数码相机可以调感光度来清晰影像,但是高感光度会增加噪点。拍摄夜景的时候经常用长曝光。通过选慢快门和小光圈来实现。
涉及到的feature,LLS + MFNR;
VCSEL就是「垂直共振腔面射型雷射(VerticalCavitySurfaceEmittingLaser)」的缩写
LTM 局部色调映射(Local Tone Mapping)
HE 直方图均衡(HE) 具有调整图像灰度,增强对比度的作用。
BPS Bayer processing segment Bayer processing : Lens shading correction, bad pixel correction, PDAF pixel correction, zzHDR merge/record, bayer NR, green imbalance correction, black level, and channel gain;
Color processing : Chromatic aberration correction, 2D LUT , chroma suppression, and skin color enhancement
CPP Camera post processor hal3之前有的概念,hal3之后用其他处理单元替换;
DE Detailed enhancement
EIS Electronic image stabilization
IFE Image front-ent engine hal3之后,重新定义的处理单元;Bayer processing for video/preview、 stats(for 3A)、Four tap-in/out points for Qualcomm Hexagon Vector eXtensions(HVX) Streaming
IPE Image processing engine hal3之后,重新定义的处理单元;1、NPS(Noise processing segment) :NR、EIS、Multiframe processing 2、PPS(Post processing segment):LTM、Color processing、Detailed enhancement (ASF)、scaler
MCTF Motion compensation temporal filtering
Multiframe noise reduction
NR Noise reduction
PPS Post processing segment
VFE Video front end
ZSL Zero shuter lag
instant auto focus 及时自动对焦