神马文学网一种基于支持向量机的车型自动分类器设计方案 - 21IC中国电子网
来源：百度文库 编辑：神马文学网 时间：2024/05/24 01:50:43
一种基于支持向量机的车型自动分类器设计方案
[日期：2005-7-25]来源：电子技术应用 作者：武宏伟 马 钺 武宏伟[字体：大中小]
摘要：提出一种基于支持向量机理论的车型分类器的设计方案。通过对实际车辆的图像采集、处理和分析，获取所需样本数据。采用有导师训练方法训练三个支持向量机识别器，使用测试样本对训练出的识别器进行性能测试。最后将三个识别器与表决器结合得到车型分类器。
关键词：车型分类 支持向量机(Support Vector Machines) 智能交通
车型自动分类一直是智能交通领域中的一个热点问题。自动识别车辆类型对实现交通管理智能化具真有重林意义。目前已经广泛应用的分类方法是采用地感线圈根据不同类型车辆通过线圈产生的电磁感应曲线不同这一原理进行分类。这种方法分类速度较低，误差较大，因此难以满足不停车收费系统的要求。
随着计算机硬件性能的不断提高，基于图像处理的车辆分类方法逐渐得到重视，计算机对摄像机捕捉到的车辆图像进行处理得到车辆的外形信息，这些信息可以作为车型识别依据进行车辆分类。已经采用的数据分析方法有模式匹配和BP神经网络两种。前者是将得到的外形信息与系统中的车型模式库进行比对，输出匹配度最大的模式类型作为车辆类型[1]；后者是将车辆信息输入到已训练好的神经网络分类器进行分行[2]。基于模式匹配的分类方法实现原理简单，但是选择合适的模式比较困难；采用BP神经网络的分类方法中，由于BP神经网络本身存在网络结构无规律可循、作用机理不明确并易陷于局部极大小值等缺陷从而限制了这种方法的应用。
支持向量机是二十世纪90年代提出的一种新的学习机[3]，具有较好的推广能力和非线性处理能力。本文给出一种基于支持向量机的车型分类器的设计方案。
1 支持向量机识别理论
设{xi}∈X∈жd为输入空间的某类别数据集，对于非线性可分情况而言，类别的边界比较复杂。引入从输入空间X到高维空间Y（特征空间）和非线性变换Φ将会简化类别边界。Φ可以把X中具有复杂几何形状的类边界（覆盖该类别全部数据集）映射为Y中的规则球（覆盖变换后的相应类别全部数据集）。如果希望输入空间X中类的边界紧致包围本类数据集，就要在变换后空间Y中寻找最小的闭合球。Y中的闭合球表述为：
|
其中||·||为欧式范数，a为球心。目标就是通过搜索所有满足约速条件的a来最小化R2。
构造Lagrange函数如下：
这里βh≤0，是Lagrange乘子。达到极小值的必要条件为：
把式（3）和式（4）代入式（2）消失r和a，就转化为它的Wolfe对偶问题：求式(5)中W关于变量βj的极大值。
在W达到极大值时，对于球内的数据和部分球上数据，βj=0；对于伴于球边界的数据，βj>0。满足βj>0的数据就是支持向量，它们定义了球的中心，如式（4）。
可以采用合适的Mercer核函数替代内积Φ(xi)·Φ(xj)，目前主要的核函数有两种：
阶次为d的多项式核函数
其中C>0为常数。位于球内（包括球上）的数据点，有ζj=0和βj定义输入数据点x映射到特征空间内时到球心距离为：
根据式（4）以及核函数（7）的定义，可以得到：
类的半径定义为：
R={R(xi)|xj是支持向量} （14）
任选一支持向量代入式（13），即可求出R。
输入数据空间中该类的轮廓（分界面）就是集合
{x|R(x)=R} (15)
如果R(x)>R，那么x为孤立点或其它类点。
2 系统实现
2.1 图像采集和特征提取
利用两部CCD摄像机和图像采集卡获得同一车辆的两幡图像，基于双目视觉原理对两幅图像进行特征匹配，得到车辆的三维模型。根据摄像机标定矩阵和成像几何模型可以计算出车辆的三维数据：车长、车宽和车高。采集每一类别车辆图像若干，得到该类车辆训练样本作为车型分类器训练依据。
2.2 训练数据预处理
采用有导师训练的方法进行分类器训练，首先要确定训练样本所属类型。本文将车辆分为大型、中型和小型三类。按照前述方法获取100个车辆三维数据对，采用动态聚类方法K-Means对100个数据样本进行自动聚类[5]，设定聚类类别数为3。从聚类结果选择各类训练样本（每类10个），其余数据作为测试样子，训练样本见表1。
2.2 分类器设计
支持向量机一般用于二类模式识别，对于多类问题识别能力不足。为了使二类分类器能用于多类模式，本文为每类车辆分别设计识别器，然后通过表决器进行决策，如图1。
其中，SVM1、SVM2和SVM3分别为大、中和小型车的识别器，输出结果分别为（大，非大）、（中，非中）和（小，非小）三个数对。表决器以三个识别器的输出组成的向量作为输入进行综合判断，输出车辆类型。表决器的表决表见表2。
表1 训练样本数据表 单位：10m
类 长 宽 高
1 0.4056 0.1608 0.1448
1 0.3897 0.1650 0.1465
1 0.3560 0.1600 0.1670
1 0.3300 0.1405 0.1410
1 0.3300 0.1405 0.1440
1 0.3390 0.1485 0.1395
1 0.4880 0.1800 0.1450
1 0.3680 0.1615 0.1385
1 0.3763 0.1615 0.1440
1 0.4365 0.1705 0.1410
2 0.6990 0.2040 0.2645
2 0.7080 0.2035 0.2630
2 0.6870 0.2000 0.2752
2 0.5890 0.2495 0.2950
2 0.6071 0.2500 0.2978
2 0.7696 0.2500 0.3114
2 0.8614 0.2490 0.2810
2 0.7290 0.2462 0.2980
2 0.6524 0.2462 0.2730
2 0.7730 0.2470 0.2752
3 10.460 0.2500 0.3010
3 1.0435 0.2500 0.2910
3 0.9750 0.2498 0.2704
3 1.1460 0.2490 0.3460
3 0.8940 0.2300 0.3320
3 1.0700 0.2500 0.3550
3 1.1980 0.2480 0.3075
3 1.1980 0.2500 0.3647
3 1.1980 0.2490 0.3620
3 1.1270 0.2490 0.3520
对于每个SVM识别器，遵循了相同的设计原则：首先采用有导师训练的方法进行训练，选择合适的参数q和c；然后使用测试样本测试识别率。
本文对小型车识别器SVM3为例说明SVM识别器的训练过程。
（1） 标号：把属于小型车的训练样本标记为类别1，其余训练样本均标记为类别0;
（2） 训练：选择参数q和c进行循环，计算目标误差；
（3） 结束：当目标误差小于0.001时结束循环；
（4） 调整：根据训练结果，调整参数q和C；
（5） 重复步骤（2），直到得到满意的训练结果为止。
（6） 通过反复试验发现，参数q影响识别器分类边界的复杂性，q越大分类边界越复杂，即支持向量个数越多；参数C的取值变化改变识别器对本类样本数据异常的容忍度，C越小容忍本类异常数据的能力越差。当20≤q≤70时，识别器识别类1所用的支持向量数为3且保持不变，因此令q为45（C=1）。支持向量分别为（0.33 0.1405 0.141）、(0.33 0.1405 0.144)和（0.488 0.18 0.145）类似地，选取中型车识别器q为60(C=1)，识别中型车所用支持向量个数为5；分别为(0.708 0.2035 0.263)、（0.589 0.2495 0.295）、(0.6071 0.25 0.2978)、(0.7696 0.25 0.3114)和(0.8614 0.249 0.281)；选取大型车识别器的q为30（C=1），识别中型车所用支持向量个数为4，分别为(0.975 0.2498 0.2704)、(0.894 0.23 0.332)、(1.198 0.248 0.3075)和(1.198 0.25 0.3647)。
2.4 性能测试与结果分析
采用测试样本对三个识别器分别进行测试。测试样本由三种类型车辆数据组成，每类30个数据。测试分为识别器独立测试和分类器联合测试两部分。在识别器独立测试中，要考虑每个识别器对本类数据的识别正确臃和对其他类数据的识别正确率，独立测试结果见表3；进行联合测试即对3个分类器与表决器整体进行车型分类测试，测试依据为表2。
表2 表决规则表
输 入 数 据 表决结果
（1，0）、（0，1）、（0，1） 大
（0，1）、（1，0）、（0，1） 中
（0，1）、（0，1）、（1，0） 小
（0，1）、（0，1）、（0，1） 其它
（1，0）、（—，—）、（0，1） 误判
（1，0）、（1，0）、（0，1） 中大
（0，1）、（1，0）、（1，0） 中小
对表3中的测试结果进行分析，发现小型车识别正确率相当高，为98.89%；而中型车识别器和大型车识别器识别正确率分别为97.78%和96.67%。而且后两者对本类数据和其他数据均有错判现象发生。
表3 识别器独立测试结果
测试对象 识别正确数
本类数据 其他类数据
小型车分类器 30 59
中型车分类器 29 59
大型车分类器 29 58
由于本文设计的分类器采用了图1所示结构以及特殊的表决表（表2），具有较强的容错能力，发生在小型车、中型车和大型车相邻类型之间的错判不会影响表决器的表决工作。只有当小型车识别器和大型车识别器均判为本类车时，表决器输出“误判”。在联合测试时，分类器对90个测试样本的表决结果全部正确。
本文采用基于支持向量机的识别理论设计了一种可应用于不停车收费系统的车型自动分类器。该分类器与RFID（射频识别）技术相结合，能大幅度提升道路通行能力，有效打击种作蔽行为。
[日期：2005-7-25]来源：电子技术应用 作者：武宏伟 马 钺 武宏伟[字体：大中小]
摘要：提出一种基于支持向量机理论的车型分类器的设计方案。通过对实际车辆的图像采集、处理和分析，获取所需样本数据。采用有导师训练方法训练三个支持向量机识别器，使用测试样本对训练出的识别器进行性能测试。最后将三个识别器与表决器结合得到车型分类器。
关键词：车型分类 支持向量机(Support Vector Machines) 智能交通
车型自动分类一直是智能交通领域中的一个热点问题。自动识别车辆类型对实现交通管理智能化具真有重林意义。目前已经广泛应用的分类方法是采用地感线圈根据不同类型车辆通过线圈产生的电磁感应曲线不同这一原理进行分类。这种方法分类速度较低，误差较大，因此难以满足不停车收费系统的要求。
随着计算机硬件性能的不断提高，基于图像处理的车辆分类方法逐渐得到重视，计算机对摄像机捕捉到的车辆图像进行处理得到车辆的外形信息，这些信息可以作为车型识别依据进行车辆分类。已经采用的数据分析方法有模式匹配和BP神经网络两种。前者是将得到的外形信息与系统中的车型模式库进行比对，输出匹配度最大的模式类型作为车辆类型[1]；后者是将车辆信息输入到已训练好的神经网络分类器进行分行[2]。基于模式匹配的分类方法实现原理简单，但是选择合适的模式比较困难；采用BP神经网络的分类方法中，由于BP神经网络本身存在网络结构无规律可循、作用机理不明确并易陷于局部极大小值等缺陷从而限制了这种方法的应用。
支持向量机是二十世纪90年代提出的一种新的学习机[3]，具有较好的推广能力和非线性处理能力。本文给出一种基于支持向量机的车型分类器的设计方案。
1 支持向量机识别理论
设{xi}∈X∈жd为输入空间的某类别数据集，对于非线性可分情况而言，类别的边界比较复杂。引入从输入空间X到高维空间Y（特征空间）和非线性变换Φ将会简化类别边界。Φ可以把X中具有复杂几何形状的类边界（覆盖该类别全部数据集）映射为Y中的规则球（覆盖变换后的相应类别全部数据集）。如果希望输入空间X中类的边界紧致包围本类数据集，就要在变换后空间Y中寻找最小的闭合球。Y中的闭合球表述为：
|
其中||·||为欧式范数，a为球心。目标就是通过搜索所有满足约速条件的a来最小化R2。
构造Lagrange函数如下：
这里βh≤0，是Lagrange乘子。达到极小值的必要条件为：
把式（3）和式（4）代入式（2）消失r和a，就转化为它的Wolfe对偶问题：求式(5)中W关于变量βj的极大值。
在W达到极大值时，对于球内的数据和部分球上数据，βj=0；对于伴于球边界的数据，βj>0。满足βj>0的数据就是支持向量，它们定义了球的中心，如式（4）。
可以采用合适的Mercer核函数替代内积Φ(xi)·Φ(xj)，目前主要的核函数有两种：
阶次为d的多项式核函数
其中C>0为常数。位于球内（包括球上）的数据点，有ζj=0和βj
根据式（4）以及核函数（7）的定义，可以得到：
类的半径定义为：
R={R(xi)|xj是支持向量} （14）
任选一支持向量代入式（13），即可求出R。
输入数据空间中该类的轮廓（分界面）就是集合
{x|R(x)=R} (15)
如果R(x)>R，那么x为孤立点或其它类点。
2 系统实现
2.1 图像采集和特征提取
利用两部CCD摄像机和图像采集卡获得同一车辆的两幡图像，基于双目视觉原理对两幅图像进行特征匹配，得到车辆的三维模型。根据摄像机标定矩阵和成像几何模型可以计算出车辆的三维数据：车长、车宽和车高。采集每一类别车辆图像若干，得到该类车辆训练样本作为车型分类器训练依据。
2.2 训练数据预处理
采用有导师训练的方法进行分类器训练，首先要确定训练样本所属类型。本文将车辆分为大型、中型和小型三类。按照前述方法获取100个车辆三维数据对，采用动态聚类方法K-Means对100个数据样本进行自动聚类[5]，设定聚类类别数为3。从聚类结果选择各类训练样本（每类10个），其余数据作为测试样子，训练样本见表1。
2.2 分类器设计
支持向量机一般用于二类模式识别，对于多类问题识别能力不足。为了使二类分类器能用于多类模式，本文为每类车辆分别设计识别器，然后通过表决器进行决策，如图1。
其中，SVM1、SVM2和SVM3分别为大、中和小型车的识别器，输出结果分别为（大，非大）、（中，非中）和（小，非小）三个数对。表决器以三个识别器的输出组成的向量作为输入进行综合判断，输出车辆类型。表决器的表决表见表2。
表1 训练样本数据表 单位：10m
类 长 宽 高
1 0.4056 0.1608 0.1448
1 0.3897 0.1650 0.1465
1 0.3560 0.1600 0.1670
1 0.3300 0.1405 0.1410
1 0.3300 0.1405 0.1440
1 0.3390 0.1485 0.1395
1 0.4880 0.1800 0.1450
1 0.3680 0.1615 0.1385
1 0.3763 0.1615 0.1440
1 0.4365 0.1705 0.1410
2 0.6990 0.2040 0.2645
2 0.7080 0.2035 0.2630
2 0.6870 0.2000 0.2752
2 0.5890 0.2495 0.2950
2 0.6071 0.2500 0.2978
2 0.7696 0.2500 0.3114
2 0.8614 0.2490 0.2810
2 0.7290 0.2462 0.2980
2 0.6524 0.2462 0.2730
2 0.7730 0.2470 0.2752
3 10.460 0.2500 0.3010
3 1.0435 0.2500 0.2910
3 0.9750 0.2498 0.2704
3 1.1460 0.2490 0.3460
3 0.8940 0.2300 0.3320
3 1.0700 0.2500 0.3550
3 1.1980 0.2480 0.3075
3 1.1980 0.2500 0.3647
3 1.1980 0.2490 0.3620
3 1.1270 0.2490 0.3520
对于每个SVM识别器，遵循了相同的设计原则：首先采用有导师训练的方法进行训练，选择合适的参数q和c；然后使用测试样本测试识别率。
本文对小型车识别器SVM3为例说明SVM识别器的训练过程。
（1） 标号：把属于小型车的训练样本标记为类别1，其余训练样本均标记为类别0;
（2） 训练：选择参数q和c进行循环，计算目标误差；
（3） 结束：当目标误差小于0.001时结束循环；
（4） 调整：根据训练结果，调整参数q和C；
（5） 重复步骤（2），直到得到满意的训练结果为止。
（6） 通过反复试验发现，参数q影响识别器分类边界的复杂性，q越大分类边界越复杂，即支持向量个数越多；参数C的取值变化改变识别器对本类样本数据异常的容忍度，C越小容忍本类异常数据的能力越差。当20≤q≤70时，识别器识别类1所用的支持向量数为3且保持不变，因此令q为45（C=1）。支持向量分别为（0.33 0.1405 0.141）、(0.33 0.1405 0.144)和（0.488 0.18 0.145）类似地，选取中型车识别器q为60(C=1)，识别中型车所用支持向量个数为5；分别为(0.708 0.2035 0.263)、（0.589 0.2495 0.295）、(0.6071 0.25 0.2978)、(0.7696 0.25 0.3114)和(0.8614 0.249 0.281)；选取大型车识别器的q为30（C=1），识别中型车所用支持向量个数为4，分别为(0.975 0.2498 0.2704)、(0.894 0.23 0.332)、(1.198 0.248 0.3075)和(1.198 0.25 0.3647)。
2.4 性能测试与结果分析
采用测试样本对三个识别器分别进行测试。测试样本由三种类型车辆数据组成，每类30个数据。测试分为识别器独立测试和分类器联合测试两部分。在识别器独立测试中，要考虑每个识别器对本类数据的识别正确臃和对其他类数据的识别正确率，独立测试结果见表3；进行联合测试即对3个分类器与表决器整体进行车型分类测试，测试依据为表2。
表2 表决规则表
输 入 数 据 表决结果
（1，0）、（0，1）、（0，1） 大
（0，1）、（1，0）、（0，1） 中
（0，1）、（0，1）、（1，0） 小
（0，1）、（0，1）、（0，1） 其它
（1，0）、（—，—）、（0，1） 误判
（1，0）、（1，0）、（0，1） 中大
（0，1）、（1，0）、（1，0） 中小
对表3中的测试结果进行分析，发现小型车识别正确率相当高，为98.89%；而中型车识别器和大型车识别器识别正确率分别为97.78%和96.67%。而且后两者对本类数据和其他数据均有错判现象发生。
表3 识别器独立测试结果
测试对象 识别正确数
本类数据 其他类数据
小型车分类器 30 59
中型车分类器 29 59
大型车分类器 29 58
由于本文设计的分类器采用了图1所示结构以及特殊的表决表（表2），具有较强的容错能力，发生在小型车、中型车和大型车相邻类型之间的错判不会影响表决器的表决工作。只有当小型车识别器和大型车识别器均判为本类车时，表决器输出“误判”。在联合测试时，分类器对90个测试样本的表决结果全部正确。
本文采用基于支持向量机的识别理论设计了一种可应用于不停车收费系统的车型自动分类器。该分类器与RFID（射频识别）技术相结合，能大幅度提升道路通行能力，有效打击种作蔽行为。
一种基于支持向量机的车型自动分类器设计方案 - 21IC中国电子网
一种基于支持向量机的车型自动分类器设计方案
基于S3C2410的GPS通讯的实现 - 21IC中国电子网
基于三星S3C2440A的Micro2440视觉处理平台的构建 - 21IC中国电子网
基于Agilent系列芯片的红外通讯接口电路设计 - 21IC中国电子网
基于嵌入式Linux与S3C2410平台的视频采集 - 21IC中国电子网
基于亏单片机的水塔水位检测控制系统仿真设计2 - 21IC中国电子网
基于ICA的混合图像盲分离算法 - 21IC中国电子网
基于ICA的混合图像盲分离算法 - 21IC中国电子网
全新的浪涌保护器（Prime） - 21IC中国电子网
基于Linux的温度传感器DS18B20驱动程序设计 - 21IC中国电子网http://www.21ic.com/app/control/201003/54178.htm
关于IC研发转销售的职业咨询 - 21IC中国电子网
做技术还是管理？ - 21IC中国电子网
说给新入职场电子工程师的话 - 21IC中国电子网
详解C语言字节对齐 - 21IC中国电子网
MSAP接入技术特点分析 - 21IC中国电子网
智能型的铅酸蓄电池管理系统 - 21IC中国电子网
10年追逐技术潮流，留给我的只有经验 - 21IC中国电子网
一个三流大学研究生的高科技创业梦想 - 21IC中国电子网
173IC电子网
实用资料——3G技术标准 - 21IC中国电子网
用S3C2410实现铁路数据实时采集系统 - 21IC中国电子网
用PDIUSBD12和K9F5608U0A设计USB移动闪存 - 21IC中国电子网
用PDIUSBD12和K9F5608U0A设计USB移动闪存 - 21IC中国电子网