Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测

首先对几个概念和问题做一个解释:
.图像为什么要灰度化?
1)识别物体,最关键的因素是梯度(SIFT/HOG),梯度意味着边缘,这是最本质的部分,而计算梯度,自然就用到灰度图像了,可以把灰度理解为图像的强度。
2)颜色,易受光照影响,难以提供关键信息,故将图像进行灰度化,同时也可以加快特征提取的速度。
.仿射不变性
平面上任意两条线,经过仿射变换后,仍保持原来的状态(比如平行的线还是平行,相交的线夹角不变等)
.什么是局部特征?局部特征应该具有的特点?
局部特征从总体上说是图像或在视觉领域中一些有别于其周围的地方;局部特征通常是描述一块区域,使其能具有高可区分度;局部特征的好坏直接会决定着后面分类、识别是否会得到一个好的结果。
局部特征应该具有的特点:可重复性、可区分性、准确性、有效性(特征的数量、特征提取的效率)、鲁棒性(稳定性、不变性)。
1、什么是LBP? LBP(Local Binary Pattern,局部二值模型)是一种用来描述图像局部纹理特征的算子;它具有旋转不变性和灰度不变性等显著的优点。它是首先由T.Ojala,M.Pietikaien,和D.Harwood在1994年提出,用于纹理特征提取。而且,提取的特征是图像的局部的纹理特征。
1、原始LBP特征描述及计算方法 原始的LBP算子定义在像素33的邻域内,以邻域中心像素为阈值,相邻的8个像素的灰度值与邻域中心的像素值进行比较,若周围像素大于中心像素值,则该像素点的位置被标记为1,否则为0。这样,33邻域内的8个点经过比较可产生8位二进制数,将这8位二进制数依次排列形成一个二进制数字,这个二进制数字就是中心像素的LBP值,LBP值共有2的8次方种可能,因此LBP值有256种。中心像素的LBP值反映了该像素周围区域的纹理信息。
备注:计算LBP特征的图像必须是灰度图,如果是彩色图,需要先转换成灰度图。
上述过程用图像表示为:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
将上述过程用公式表示为:
Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
(xc,yc)为中心像素的坐标,p为邻域的第p个像素,ip为邻域像素的灰度值,ic为中心像素的灰度值,s(x)为符号函数。
原始LBP特征计算代码(opencv版本):

//原始LBP特征计算 template void getOriginLBPFeature(InputArray _src,OutputArray _dst) { Mat src = https://www.it610.com/article/_src.getMat(); _dst.create(src.rows-2,src.cols-2,CV_8UC1); Mat dst = _dst.getMat(); dst.setTo(0); for(int i=1; i(i,j); unsigned char lbpCode = 0; lbpCode |= (src.at<_tp>(i-1,j-1) > center) << 7; lbpCode |= (src.at<_tp>(i-1,j) > center) << 6; lbpCode |= (src.at<_tp>(i-1,j+1) > center) << 5; lbpCode |= (src.at<_tp>(i,j+1) > center) << 4; lbpCode |= (src.at<_tp>(i+1,j+1) > center) << 3; lbpCode |= (src.at<_tp>(i+1,j) > center) << 2; lbpCode |= (src.at<_tp>(i+1,j-1) > center) << 1; lbpCode |= (src.at<_tp>(i,j-1) > center) << 0; dst.at(i-1,j-1) = lbpCode; } } }

2、LBP特征的改进版本 在原始的LBP特征提出以后,研究人员对LBP特征进行了很多的改进,因此产生了许多LBP的改进版本。
2.1圆形LBP特征(Circular LBP or Extended LBP)
由于原始LBP特征使用的是固定邻域内的灰度值,因此当图像的尺度发生变化时,LBP特征的编码将会发生错误,LBP特征将不能正确的反映像素点周围的纹理信息,因此研究人员对其进行了改进[3]。基本的 LBP 算子的最大缺陷在于它只覆盖了一个固定半径范围内的小区域,这显然不能满足不同尺寸和频率纹理的需要。为了适应不同尺度的纹理特征,并达到灰度和旋转不变性的要求,Ojala 等对 LBP 算子进行了改进,将 3×3 邻域扩展到任意邻域,并用圆形邻域代替了正方形邻域,改进后的 LBP 算子允许在半径为 R 的圆形邻域内有任意多个像素点。从而得到了诸如半径为R的圆形区域内含有P个采样点的LBP算子:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
这种LBP特征叫做Extended LBP,也叫Circular LBP。使用可变半径的圆对近邻像素进行编码,可以得到如下的近邻:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
对于给定中心点(xc,yc),其邻域像素位置为(xp,yp),p∈P,其采样点(xp,yp)用如下公式计算:
Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
R是采样半径,p是第p个采样点,P是采样数目。由于计算的值可能不是整数,即计算出来的点不在图像上,我们使用计算出来的点的插值点。目的的插值方法有很多,Opencv使用的是双线性插值,双线性插值的公式如下:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
通过LBP特征的定义可以看出,LBP特征对光照变化是鲁棒的,其效果如下图所示:
Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
//圆形LBP特征计算,这种方法适于理解,但在效率上存在问题,声明时默认neighbors=8 template void getCircularLBPFeature(InputArray _src,OutputArray _dst,int radius,int neighbors) { Mat src = https://www.it610.com/article/_src.getMat(); //LBP特征图像的行数和列数的计算要准确 _dst.create(src.rows-2*radius,src.cols-2*radius,CV_8UC1); Mat dst = _dst.getMat(); dst.setTo(0); //循环处理每个像素 for(int i=radius; i(i,j); unsigned char lbpCode = 0; for(int k=0; k(radius * \ cos(2.0 * CV_PI * k / neighbors)); float y = j - static_cast(radius * \ sin(2.0 * CV_PI * k / neighbors)); //根据取整结果进行双线性插值,得到第k个采样点的灰度值//1.分别对x,y进行上下取整 int x1 = static_cast(floor(x)); int x2 = static_cast(ceil(x)); int y1 = static_cast(floor(y)); int y2 = static_cast(ceil(y)); //2.计算四个点(x1,y1),(x1,y2),(x2,y1),(x2,y2)的权重 //下面的权重计算方式有个问题,如果四个点都相等,则权重全为0,计算出来的插值为0 //float w1 = (x2-x)*(y2-y); //(x1,y1) //float w2 = (x2-x)*(y-y1); //(x1,y2) //float w3 = (x-x1)*(y2-y); //(x2,y1) //float w4 = (x-x1)*(y-y1); //(x2,y2)//将坐标映射到0-1之间 float tx = x - x1; float ty = y - y1; //根据0-1之间的x,y的权重计算公式计算权重 float w1 = (1-tx) * (1-ty); float w2 =tx* (1-ty); float w3 = (1-tx) *ty; float w4 =tx*ty; //3.根据双线性插值公式计算第k个采样点的灰度值 float neighbor = src.at<_tp>(x1,y1) * w1 + src.at<_tp>(x1,y2) *w2 \ + src.at<_tp>(x2,y1) * w3 +src.at<_tp>(x2,y2) *w4; //通过比较获得LBP值,并按顺序排列起来 lbpCode |= (neighbor>center) <<(neighbors-k-1); } dst.at(i-radius,j-radius) = lbpCode; } } }

2.2 旋转不变LBP特征
从上面可以看出,上面的LBP特征具有灰度不变性,但还不具备旋转不变性,因此研究人员又在上面的基础上进行了扩展,提出了具有旋转不变性的LBP特征。
首先不断的旋转圆形邻域内的LBP特征,根据选择得到一系列的LBP特征值,从这些LBP特征值选择LBP特征值最小的作为中心像素点的LBP特征。具体做法如下图所示:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
如图,通过对得到的LBP特征进行旋转,得到一系列的LBP特征值,最终将特征值最小的一个特征模式作为中心像素点的LBP特征。
//旋转不变圆形LBP特征计算,声明时默认neighbors=8 template void getRotationInvariantLBPFeature(InputArray _src,OutputArray _dst,int radius,intneighbors) { Mat src = https://www.it610.com/article/_src.getMat(); //LBP特征图像的行数和列数的计算要准确 _dst.create(src.rows-2*radius,src.cols-2*radius,CV_8UC1); Mat dst = _dst.getMat(); dst.setTo(0); for(int k=0; k(radius * cos(2.0 * CV_PI * k / neighbors)); float ry = -static_cast(radius * sin(2.0 * CV_PI * k / neighbors)); //为双线性插值做准备 //对采样点偏移量分别进行上下取整 int x1 = static_cast(floor(rx)); int x2 = static_cast(ceil(rx)); int y1 = static_cast(floor(ry)); int y2 = static_cast(ceil(ry)); //将坐标偏移量映射到0-1之间 float tx = rx - x1; float ty = ry - y1; //根据0-1之间的x,y的权重计算公式计算权重,权重与坐标具体位置无关,与坐标间的差值有关 float w1 = (1-tx) * (1-ty); float w2 =tx* (1-ty); float w3 = (1-tx) *ty; float w4 =tx*ty; //循环处理每个像素 for(int i=radius; i(i,j); //根据双线性插值公式计算第k个采样点的灰度值 float neighbor = src.at<_tp>(i+x1,j+y1) * w1 + src.at<_tp>(i+x1,j+y2) *w2 \ + src.at<_tp>(i+x2,j+y1) * w3 +src.at<_tp>(i+x2,j+y2) *w4; //LBP特征图像的每个邻居的LBP值累加,累加通过与操作完成,对应的LBP值通过移位取得 dst.at(i-radius,j-radius) |= (neighbor>center) <<(neighbors-k-1); } } } //进行旋转不变处理 for(int i=0; i(i,j); unsigned char minValue = https://www.it610.com/article/currentValue; for(int k=1; k>(neighbors-k)) | (currentValue<(i,j) = minValue; } }

2.3 光照(灰度)不变性
从LBP的差值计算可以看出,LBP本身就是具有关照不变的特性(灰度值按比例缩放,强者恒强),但是我们可以引入权重概念,计算LBP码和对比度。

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png 2、LBP特征用于检测的原理 显而易见的是,上诉提取的LBP算子在每个像素点都可以得到一个LBP“编码”,那么,对一幅图像(记录的是每个像素点的灰度值)提取其原始的LBP算子之后,得到的原始LBP特征依然是“一幅图片”(记录的是每个像素点的LBP值)。

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
LBP的应用中,如纹理分类、人脸分析等,一般都不将LBP图谱作为特征向量用于分类识别,而是采用LBP特征谱的统计直方图作为特征向量用于分类识别。
因为,从上面的分析我们可以看出,这个“特征”跟位置信息是紧密相关的。直接对两幅图片提取这种“特征”,并进行判别分析的话,会因为“位置没有对准”而产生很大的误差。后来,研究人员发现,可以将一幅图片划分为若干的子区域,对每个子区域内的每个像素点都提取LBP特征,然后,在每个子区域内建立LBP特征的统计直方图。如此一来,每个子区域,就可以用一个统计直方图来进行描述;整个图片就由若干个统计直方图组成;
例如:一幅100100像素大小的图片,划分为1010=100个子区域(可以通过多种方式来划分区域),每个子区域的大小为1010像素;在每个子区域内的每个像素点,提取其LBP特征,然后,建立统计直方图;这样,这幅图片就有1010个子区域,也就有了1010个统计直方图,利用这1010个统计直方图,就可以描述这幅图片了。之后,我们利用各种相似性度量函数,就可以判断两幅图像之间的相似性了;
3、对LBP特征向量进行提取的步骤 (1)首先将检测窗口划分为16×16的小区域(cell);
(2)对于每个cell中的一个像素,将相邻的8个像素的灰度值与其进行比较,若周围像素值大于中心像素值,则该像素点的位置被标记为1,否则为0。这样,3*3邻域内的8个点经比较可产生8位二进制数,即得到该窗口中心像素点的LBP值;
(3)然后计算每个cell的直方图,即每个数字(假定是十进制数LBP值)出现的频率;然后对该直方图进行归一化处理。
(4)最后将得到的每个cell的统计直方图进行连接成为一个特征向量,也就是整幅图的LBP纹理特征向量;
【Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测】然后便可利用SVM或者其他机器学习算法进行分类了。
3.1基于opencv的实现检测人脸
#coding:utf-8 import cv2 as cv# 读取原始图像 img= cv.imread('*.png') #face_detect = cv2.CascadeClassifier('haarcascade_frontalface_default.xml')face_detect = cv.CascadeClassifier("lbpcascade_frontalface_improved.xml") # 检测人脸 # 灰度处理 gray = cv.cvtColor(img, code=cv.COLOR_BGR2GRAY)# 检查人脸 按照1.1倍放到 周围最小像素为5 face_zone = face_detect.detectMultiScale(gray, scaleFactor = 2, minNeighbors = 2) # maxSize = (55,55) print ('识别人脸的信息:\n',face_zone)# 绘制矩形和圆形检测人脸 for x, y, w, h in face_zone: # 绘制矩形人脸区域 cv.rectangle(img, pt1 = (x, y), pt2 = (x+w, y+h), color = [0,0,255], thickness=2) # 绘制圆形人脸区域 radius表示半径 cv.circle(img, center = (x + w//2, y + h//2), radius = w//2, color = [0,255,0], thickness = 2)# 设置图片可以手动调节大小 cv.namedWindow("Easmount-CSDN", 0)# 显示图片 cv.imshow("Easmount-CSDN", img)# 等待显示 设置任意键退出程序 cv.waitKey(0) cv.destroyAllWindows()

原图:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png
检测结果:

Datawhale计算机视觉基础-图像处理(下)-Task02|Datawhale计算机视觉基础-图像处理(下)-Task02 LBP特征描述算子-人脸检测
文章图片
图片.png 参考连接:https://blog.csdn.net/Quincuntial/article/details/50541815
https://blog.csdn.net/zouxy09/article/details/7929531

    推荐阅读