基于PCA/SOFM混合神经网络的矢量量化

摘要：针对自组织特征映射（SOFM）神经网络应用于矢量量化具有收敛速度慢、计算量大等缺点，本文提出了一种基于pca/sofm混合神经网络的矢量量化的算法，先用主元分析（PCA）线性神经网络对输入矢量进行降维处理，再用SOFM神经网络进行矢量量化。通过调整SOFM神经网络的学习函数、邻域权值及初始码书对网络进行优化。实验表明，改进算法缩短了图像压缩的时间，提高了码书的性能。

关键词：矢量量化；自组织特征映射神经网络；图像压缩；主元分析

中图分类号：TP183文献标识码：A文章编号：1009-3044(2008)36-2731-02

The Vector Quantization Based on PCA/SOFM Hybrid Neural Network

HUNG Cui-cui, ZHANG Jian

(Liaoning University of Technology Electronic and Information Engineering College, Jinzhou 121001, China)

Abstract: In order to improve the two main shortcomings of the Kohonen's self-organizing feature map(SOFM) that are high computation complexity and poor codebook quality, the author proposes a vector quantization algorithm based on PCA/SOFM hybrid neural network in this paper. Descend the dimension of imported vectors by using the principal component analysis (PCA) linear neural network. And then, use SOFM neural network to vector quantization. By modifying the learning-rate parameter, topology field weight and initial codebook of the SOFM neural network to optimize network. Simulation results demonstrate that the image compression algorithm can shorten the time and improve the performance of codebook.

Key words: Vector quantization(VQ); Self-organizing feature map neural network (SOFM); image compression; Principle component analysis(PCA)

1 引言

矢量量化[1,2]技术是一种利用图像数据空间相关性的高效有损压缩方法，它具有压缩比大，编码速度快等优点，目前己广泛用于信号识别、语音编码、图像压缩等领域中。矢量量化优越性的体现离不开性能良好的码书，因而，矢量量化的关键是如何设计一个最佳码书，使得用该码书中的码字表征输入矢量空间分布时所引起的量化平均失真最小。近年几来，许多学者将SOFM神经网络应用于码书的设计[3]。但SOFM算法存在收敛速度慢、计算量大等缺点。陆哲明和孙圣和针对SOFM基本算法的计算量大采用了快速搜索算法，为了提高码书性能对SOFM基本算法的权值调整方法作了一些改进[4]。目前越来越多的研究人员把目光投向将矢量量化与其他的编码方法相结合[5]。例如，矢量量化与小波变换结合的算法[6]，分形变换与矢量量化相结合的算法[7]。PCA是一种有效的图像变换编码算法，它能够提取图像数据的主特征分量，因此能够降低图像输入数据维数。SOFM算法用于图像矢量量化则具有不易受初始码书的影响，同时能够保持图像数据的拓扑结构等优点。为此本文将两者结合，提出了PCA/SOFM混合神经网络图像混合编码算法。先用PCA对图像进行降维处理，再用SOFM神经网络进行码书设计。本文还对码书的初始化的选择问题和神经网络的学习参数进行研究。实验表明，该算法不但大大降低了计算量，而且提高了码书的性能。

2 PCA/SOFM混合神经网络的算法

尽管SOFM神经网络比起LBG算法有很大优势，但SOFM算法仍然存在收敛速度慢。计算量大等缺点。因此本文将PCA与SOFM神经网络相结合，提出了PCA/SOFM混合神经网络。PCA/SOFM混合神经网络结构如图1所示，先用PCA线性神经网络对输入矢量降维处理，从而使得压缩图像达到最小失真。然后用SOFM神经网络进行码书设计， PCA线性神经网络采用Sanger提出的广义Hebb算法[8]。

2.1 基本PCA/SOFM混合神经网络算法

1) PCA网络权值Wpi,j和SOFM网络权值初始化；

2) PCA网络输出矢量Yp(t)：

(1)

N为PCA神经网络输入矢量Xp的维数。

3) Wpi,j网络权值调整：

(2)

4) 重复步骤(2)至(3)，直至算法收敛。输出矢量Ypi(t)，并将此作为SOFM的输入Xi(t)；

5) 计算矢量Xi(t)与权值矢量Wi,j(t)的距离：

(3)

6) 选择具有最小距离的输出节点，j*作为获胜节点，即：

(4)

7) Wij(t) 网络权值调整：

(5)

8) 重复步骤(5)至(7)，直至算法收敛。

9) 取输入训练矢量集的下一个输入矢量，回到步骤(2)反复进行，直到足够的学习次数或满足规定的终止条件为止。

10) 保存所有权值Wij的值，即设计码书。

2.2 PCA/SOFM混合神经网络的初始化和改进

在PCA/SOFM混合神经网络算法中网络的初始化、邻域函数和学习率函数非常重要，它直接影响到网络的收敛速度和码书的性能。本文要对这几个参数进行优化以提高压缩速度和压缩性能。本文采用一种改进的随机选取法，使空间分配均匀，不会出现码字空间分的过细或过粗的现象。首先，按k维矢量所有元素中最重要的单个元素(即k维欧氏空间中最敏感的方向)大小排序；然后按顺序每隔n个矢量取一个矢量作为初始码书的一个码字，完成码书的初始化（n=训练序列中矢量的总数/码书的大小）。

由SOFM基本算法可知，权矢量Wi(t+1)的更新实质上是权矢量Wit和训练矢量Xi(t)的加权和。其中学习率因子和邻域函数非常重要，它们决定算法的收敛速度。下面推导最优的学习率因子α(t)。由式（5）得：

(6)

可以总结得：

(7)

令多项式的各项相等可得到最优学习率因子：

(8)

其邻域函数取为：

(9)

式中，hcc典型地取为0.8。T为最大迭代次数，初始值σ0和最终值σT典型地取为0.8和0.1。

3 实验结果

为了验证算法的有效性，本文把基本SOFM编码算法、基本PCA/SOFM混合神经网络编码算法和改进PCA/SOFM算法分别用于图像的压缩编码。本文采用的是512×512像素，256级灰度的Lena图像用于训练图像进行码书设计。首先将图像分为4×4子块，然后将每一小块的16个像素灰度值作一个训练矢量，送入PCA线性神经网络。PCA线性神经网络输出节点为8维PCA变换系数矢量，同时将它作为SOFM神经网络的输入矢量，用于进行码本设计。进过多次实验，取其平均值作为实验结果，图3给出了各种算法在相同压缩比的情况下恢复图像的对比。表1给出了各算法编码后的尖峰信噪比PSNR和码书设计时间的比较。

从测试的结果可以看出改进PCA/SOFM算法优于基本SOFM算法和基本PCA/SOFM算法，该算法缩短了码书设计的时间，图像的恢复质量有所提高，取得了令人满意的结果。从而证明本文提出的算法是一种行之有效的方法。

4 结束语

本文介绍了一种基于PCA/SOFM混合神经网络矢量量化的方法，并对基本的PCA/SOFM混合神经网络算法码书的初始化问题和神经网络的学习参数的选择问题进行研究，实验结果表明，该算法不但降低了码书设计时间，还是提高码书的性能。

注：“本文中所涉及到的图表、注解、公式等内容请以PDF格式阅读原文。”