人工智能|OpenCV中的「SVM分类器」（基本原理、函数解析和示例代码） opencv|python|机器学习|人工智能

文章目录

- 1. 引言
- 2. 基本原理
- 3. 函数解析
- - 创建模型
  - 设置模型类型
  - 设置参数C
  - 设置核函数
  - 设置迭代算法的终止标准
  - 训练SVM模型
  - 预测结果
  - 误差计算
  - 保存SVM模型
  - 从文件中加载SVM
- 4. 示例代码
- - 官方示例（python）
  - 推理阶段（C++版本）
- 5. 小结

1. 引言 opencv中集成了基于libsvm1实现的SVM接口，便于直接进行视觉分类任务。
对于数据处理和可视化需求来说，可以用python接口opencv的SVM更加直观方便。
训练完模型后，将SVM模型保存为xml，可以在实时性应用中通过C++接口调用参数文件，进行实时推断。
在非均衡样本的分类训练中，用opencv中SVM默认的train函数，容易导致分类器偏向数量多的类别，这时可以采用trainAuto函数进行平衡。
如果你对SVM的原理有一定了解，可以直接跳转第3、4小节。
2. 基本原理

文章图片

SVM旨在找到一个划分超平面，使得划分后的分类结果是最鲁棒的，对未见过的样本泛化性最好2。
在样本空间中，划分超平面可以用这个方程进行描述： w T x + b = 0 \boldsymbol{w}^T\boldsymbol{x}+b=0 wTx+b=0，其中 w = ( w 1 ; w 2 ; . . . ; w d ) \boldsymbol{w}=(w_1; w_2; ...; w_d) w=(w1?; w2?; ...; wd?)为法向量，决定超平面的方向，b为位移项，决定超平面与原点之间的距离。
对于线性可分的样本空间，需要找到具有最大间隔（maximum margin）的划分超平面，即找到能使下式最大化的参数 w \boldsymbol{w} w和b2：
min ? w , b 1 2 ∣ ∣ w ∣ ∣ 2 \min_{w,b}{\frac{1}{2}||\boldsymbol{w}||^2} w,bmin?21?∣∣w∣∣2s.t.y i ( w T x i + b ) ≥ 1 , i = 1 , 2 , . . . , m y_i(\boldsymbol{w}^T\boldsymbol{x_i}+b)≥1,i=1,2,...,m yi?(wTxi?+b)≥1,i=1,2,...,m
对于线性不可分的样本空间，可以将样本从原始空间映射到另一个高维特征空间，从而使样本在这个特征空间内线性可分。由于特征空间的维数可能很高，难以计算，所以通过引入核函数，可以将高维特征空间中的内积（dot product）转化为低维特征空间中的通过核函数计算的结果。
常用核函数2：

文章图片

为了减少过拟合，引入软间隔（soft margin）概念，允许支持向量机在一些样本上出错：
y i ( w T x i + b ) ≥ 1 y_i(\boldsymbol{w}^T\boldsymbol{x_i}+b)≥1 yi?(wTxi?+b)≥1
用参数C来约束分类出错的样本，松弛变量 ξ i ξ_i ξi?表示训练样本距离对应的正确决策边界的距离，对于分类正确的样本距离即为03，所以实际累加的是出错样本的距离。

文章图片

优化问题调整为：
m i n w , b 0 ∣ ∣ w ∣ ∣ 2 + C ∑ i ξ i min_{\boldsymbol{w},b_0}{||\boldsymbol{w}||^2+C\sum_i{ξ_i}} minw,b0??∣∣w∣∣2+Ci∑?ξi?
s.t.y i ( w T x i + b 0 ) ≥ 1 ? ξ i , 且 ξ i ≥ 0 ? i y_i(\boldsymbol{w}^T\boldsymbol{x_i}+b_0)≥1-ξ_i,且ξ_i≥0 ?i yi?(wTxi?+b0?)≥1?ξi?,且ξi?≥0?i
3. 函数解析 SVM类在opencv中的继承关系如图所示4：

文章图片

SVM继承自StatModel和Algorithm类。
在opencv中使用SVM的一般流程如下：
训练推理开始创建SVM模型加载SVM模型配置参数加载训练数据模型训练保存模型输入数据进行预测创建模型
【人工智能|OpenCV中的「SVM分类器」（基本原理、函数解析和示例代码）】C++：

static Ptr> cv::ml::SVM::create()

Python：

cv.ml.SVM_create() -> retval

设置模型类型
C++：

enumTypes {C_SVC =100,//C-支持向量分类。n级分类（n≥ 2) 允许使用异常值的惩罚乘数 C 不完全地分离类。 NU_SVC =101,//ν-支持向量分类。n级分类，可能有不完美的分离。参数ν用于代替C，参数ν在0-1范围内，值越大，决策边界越平滑。 ONE_CLASS =102,//分布估计，所有的训练数据都来自同一个类，SVM 构建了一个边界，将类与特征空间的其余部分分开。 EPS_SVR =103,//ε-支持向量回归。来自训练集的特征向量和拟合超平面之间的距离必须小于p。对于异常值，使用惩罚乘数 C。 NU_SVR =104 // ν-支持向量回归。 ν用于代替 p。 } virtual void cv::ml::SVM::setType(int val)

Python：

cv.ml_SVM.setType(val) ->None

设置参数C
根据"2.基本原理"中对参数C的介绍，我们应该如何设置参数C？

C值较大时：误分类错误较少，但余量较小。这种情况下，侧重于寻找具有很少的误分类错误的超平面。
C值较小时：具有更大余量和更多分类错误。在这种情况下，更侧重于寻找具有大余量的超平面。

C++:

//设置参数C virtual void cv::ml::SVM::setC(double val)

python:

cv.ml_SVM.setC(val) -> None

设置核函数
C++:

enum KernelTypes {CUSTOM =-1,//由SVM::getKernelType返回，默认是RBF LINEAR =0,//线性内核，速度最快 POLY =1,//多项式核 RBF =2,//径向基函数（RBF），大多数情况下是个不错的选择 SIGMOID =3,//sigmoid核 CHI2 =4,//Chi2核，类似于RBF核 INTER =5//直方图交叉核，速度较快 } virtual void cv::ml::SVM::setKernel(int kernelType)

python:

cv.ml_SVM.setKernel(kernelType) -> None

设置迭代算法的终止标准
C++:

virtual void cv::ml::SVM::setTermCriteria(const cv::TermCriteria &val)// cv::TermCriteria cv::TermCriteria::TermCriteria (int type,int maxCount,double epsilon)// Type enumcv::TermCriteria::Type {COUNT =1, MAX_ITER =COUNT,//最大迭代次数 EPS =2 //迭代算法停止时所需的精度或参数变化 }

python:

cv.ml_SVM.setTermCriteria(val) ->None

训练SVM模型
trainAuto方法通过选择最佳参数 C、gamma、p、nu、coef0、degree 来自动训练 SVM 模型。当测试集误差的交叉验证估计最小时，参数被认为是最佳的。此函数仅使用SVM::getDefaultGrid进行参数优化，因此仅提供基本的参数选项。
trainAuto函数适用于分类（SVM::C_SVC或SVM::NU_SVC）以及回归（SVM::EPS_SVR或SVM::NU_SVR）。如果是SVM::ONE_CLASS，则不进行优化，并执行带有 params 中指定参数的常用 SVM。
C++：

//输入由TrainData::create或TrainData::loadFromCSV构造的训练数据 virtual bool cv::ml::SVM::trainAuto(const Ptr & data, intkFold = 10, ParamGridCgrid = getDefaultGrid(C), ParamGridgammaGrid = getDefaultGrid(GAMMA), ParamGridpGrid = getDefaultGrid(P), ParamGridnuGrid = getDefaultGrid(NU), ParamGridcoeffGrid = getDefaultGrid(COEF), ParamGriddegreeGrid = getDefaultGrid(DEGREE), boolbalanced = false )//输入训练样本 bool cv::ml::SVM::trainAuto(InputArray samples, intlayout, InputArrayresponses, intkFold = 10, Ptr< ParamGrid >Cgrid = SVM::getDefaultGridPtr(SVM::C), Ptr< ParamGrid >gammaGrid = SVM::getDefaultGridPtr(SVM::GAMMA), Ptr< ParamGrid >pGrid = SVM::getDefaultGridPtr(SVM::P), Ptr< ParamGrid >nuGrid = SVM::getDefaultGridPtr(SVM::NU), Ptr< ParamGrid >coeffGrid = SVM::getDefaultGridPtr(SVM::COEF), Ptr< ParamGrid >degreeGrid = SVM::getDefaultGridPtr(SVM::DEGREE), boolbalanced = false )

Python：

cv.ml_SVM.trainAuto(samples, layout, responses[, kFold[, Cgrid[, gammaGrid[, pGrid[, nuGrid[, coeffGrid[, degreeGrid[, balanced]]]]]]]]) -> retval

参数：

samples：训练样本
layout：参考 ml::SampleTypes，如cv.ml.ROW_SAMPLE表示每个训练样本是行向量，cv.ml.COL_SAMPLE表示每个训练样本是列向量
responses：与训练样本有关的响应向量
kFold：k交叉验证，训练集会分成k个子集，从中选取一个用来测试，剩余k-1个用来训练
balanced：如果设为True且是2-class分类问题，方法会自动创建更平衡的交叉验证子集，即子集中的类之间比例接近整个训练数据集中的比例

预测结果
C++：

// 预测输入样本的响应结果 virtual float predict( InputArraysamples,// input samples, float matrix OutputArray results = cv::noArray(),// optional output results matrix intflags= 0// (model-dependent) ) const = 0;

python：

cv.ml_StatModel.predict(samples[, results[, flags]]) ->retval, results

误差计算
对于回归模型，误差计算为 RMS；对于分类器，误差计算为错误分类样本的百分比 (0%-100%)。
C++：

// 在训练集或测试集上计算误差 virtual float calcError( const Ptr& data, // training samples bool test, // true: compute over test set // false: compute over training set cv::OutputArray resp// the optional output responses ) const;

python：

cv.ml_StatModel.calcError(data, test[, resp]) ->retval, resp

保存SVM模型
C++：

void cv::Algorithm::save(const String &filename)const

Python：

cv.Algorithm.save(filename) ->None

从文件中加载SVM
C++：

static Ptr> cv::ml::SVM::load(const String &filepath)

Python：

cv.ml.SVM_load(filepath) ->retval

4. 示例代码官方示例（python）

文章图片

构造数据，用来模拟训练集中的两个类别：

from __future__ import print_function import cv2 as cv import numpy as np import random as rng import time from matplotlib import pyplot as pltNTRAINING_SAMPLES = 100 # 每个类别的训练样本数 FRAC_LINEAR_SEP = 0.9# 线性可分的样本比例# 准备用于数据可视化 WIDTH = 512 HEIGHT = 512 I = np.zeros((HEIGHT, WIDTH, 3), dtype=np.uint8)# 设置训练样本 trainData = https://www.it610.com/article/np.empty((2*NTRAINING_SAMPLES, 2), dtype=np.float32) labels = np.empty((2*NTRAINING_SAMPLES, 1), dtype=np.int32)rng.seed(100) # Random value generation class# 线性可分的训练样本数量 nLinearSamples = int(FRAC_LINEAR_SEP * NTRAINING_SAMPLES)## [setup1] # 生成class 1的随机点，随机点的x坐标在[0, 0.4)，y坐标在 [0, 1) trainClass = trainData[0:nLinearSamples,:] # The x coordinate of the points is in [0, 0.4) c = trainClass[:,0:1] c[:] = np.random.uniform(0.0, 0.4 * WIDTH, c.shape) # The y coordinate of the points is in [0, 1) c = trainClass[:,1:2] c[:] = np.random.uniform(0.0, HEIGHT, c.shape)# 生成class 2的随机点，随机点的x坐标在[0.6, 1]，y坐标在 [0, 1) trainClass = trainData[2*NTRAINING_SAMPLES-nLinearSamples:2*NTRAINING_SAMPLES,:] # The x coordinate of the points is in [0.6, 1] c = trainClass[:,0:1] c[:] = np.random.uniform(0.6*WIDTH, WIDTH, c.shape) # The y coordinate of the points is in [0, 1) c = trainClass[:,1:2] c[:] = np.random.uniform(0.0, HEIGHT, c.shape)# 设置线性不可分的训练样本 # Generate random points for the classes 1 and 2 trainClass = trainData[nLinearSamples:2*NTRAINING_SAMPLES-nLinearSamples,:] # x坐标在 [0.4, 0.6)，y坐标在[0, 1) c = trainClass[:,0:1] c[:] = np.random.uniform(0.4*WIDTH, 0.6*WIDTH, c.shape) c = trainClass[:,1:2] c[:] = np.random.uniform(0.0, HEIGHT, c.shape)# 设置两个类别的label labels[0:NTRAINING_SAMPLES,:] = 1# Class 1 labels[NTRAINING_SAMPLES:2*NTRAINING_SAMPLES,:] = 2 # Class 2

设置SVM参数，初始化模型：

print('Starting training process') svm = cv.ml.SVM_create() svm.setType(cv.ml.SVM_C_SVC) svm.setC(0.1) svm.setKernel(cv.ml.SVM_LINEAR) svm.setTermCriteria((cv.TERM_CRITERIA_MAX_ITER, int(1e7), 1e-6))

训练SVM：

## 训练 svm.train(trainData, cv.ml.ROW_SAMPLE, labels) print('Finished training process')## 显示决策区域 green = (0,100,0) blue = (100,0,0) for i in range(I.shape[0]): for j in range(I.shape[1]): sampleMat = np.matrix([[j,i]], dtype=np.float32) response = svm.predict(sampleMat)[1]if response == 1: I[i,j] = green elif response == 2: I[i,j] = blue

对训练集中两个类别的样本进行可视化：

## 用两种颜色圆圈表示class 1和class 2的训练数据 thick = -1 # Class 1 for i in range(NTRAINING_SAMPLES): px = trainData[i,0] py = trainData[i,1] cv.circle(I, (px, py), 3, (0, 255, 0), thick)# Class 2 for i in range(NTRAINING_SAMPLES, 2*NTRAINING_SAMPLES): px = trainData[i,0] py = trainData[i,1] cv.circle(I, (px, py), 3, (255, 0, 0), thick)# 显示支持向量（ ## [show_vectors] thick = 2 sv = svm.getUncompressedSupportVectors()for i in range(sv.shape[0]): cv.circle(I, (sv[i,0], sv[i,1]), 6, (128, 128, 128), thick) ## [show_vectors]#cv.imwrite('result.png', I)# save the Image #cv.imshow('SVM for Non-Linear Training Data', I) # show it to the user plt.imshow(I)

推理阶段（C++版本）

void test_svm(std::string videopath, std::string svm_file = "svm.mat") {/// 加载svm模型参数 cv::Ptr svm = cv::ml::SVM::load(svm_file); /// 初始化特征提取器 // 此处省略……cv::VideoCapture cap(videopath); if (cap.isOpened()) {cv::Mat src; //img int sleep_interval = 1; //每隔多少ms取帧 int frameIdx = 0; while (true) {if (!cap.read(src)) {break; } frameIdx++; double start = static_cast(cv::getTickCount()); cv::Mat flowFeat; //提取运动特征 m_featureExtactor.ProcessFlow(src, flowFeat); flowFeat.convertTo(flowFeat, CV_32FC1); //获取分类结果 int response = (int)svm->predict(flowFeat); cv::putText(src, cv::String(std::to_string(response)), cv::Point(20,20), cv::FONT_HERSHEY_PLAIN, 1, cv::Scalar(0, 255, 0)); //计算耗时 float times = ((float)cv::getTickCount() - start) / cv::getTickFrequency(); std::cout << "time cost: " << times << " s." << std::endl; cv::imshow("img", src); if (cv::waitKey(1) == 27) {break; } } } }

5. 小结本文整理了Opencv中SVM支持向量机的原理、函数和代码示例。
如果对你有帮助的话，欢迎一键三连支持下博主~

Chih-Chung Chang and Chih-Jen Lin. Libsvm: a library for support vector machines. ACM Transactions on Intelligent Systems and Technology (TIST), 2(3):27, 2011. ??
《机器学习》周志华 ?? ?? ??
https://docs.opencv.org/4.5.3/d4/db1/tutorial_py_svm_basics.html ??
https://docs.opencv.org/4.5.3/d1/d2d/classcv_1_1ml_1_1SVM.html ??