高光谱成像是将成像技术与光谱技术相结合的技术,是遥感应用中一个快速发展的领域。高光谱图像在军事目标辨别、远程控制、生物医学、食品安全以及环境监测等领域都有重要应用。但由于高光谱成像光谱仪空间分辨率较低,使得每个高光谱像元可能由多种不同物质的光谱混合构成,因此混合像元广泛存在于高光谱图像中。混合像元导致科研实践中一些应用分类不准确,因此对混合像元进行分解是高光谱遥感应用亟待解决的核心问题。本文中首先介绍了两种光谱混合模型:线性和非线性光谱混合模型。线性模型假设观察到的像元信号是所有的纯光谱信号的线性组合。与之相反,非线性模型则考虑到多种物质反射光之间的物理相互影响。其次,本文对高光谱图像解混的几种经典模型进行介绍。在这些模型中详细介绍了本文的对比模型全变分模型(SUnSAL-TV),该模型利用高光谱图像空间关系构建了对端元丰度的正则项,这使高光谱图像解混问题在数值结果和视觉效果上都有较大提升。但全变分模型的缺点是解混后丰度图中原平滑区域中伴有阶梯效应现象,视觉效果欠佳。本文采用重叠组稀疏全变分作为端元丰度正则项,并采用交替方向乘子法对模型进行求解,将原问题转化为一系列较易求解的子问题,进而得到原问题的全局解。在应用交替方向乘子法进行求解过程中,关于梯度域重叠组稀疏的子问题采用采用优化最小化方法进行求解。通过合成数据和真实数据的实验证明,采用本文提出的新方法处理后图像视觉效果和数值效果相比SUnSAL-TV方法有明显提升,并且可以有效减弱SUnSAL-TV模型的阶梯效应,使处理后丰度图更加平滑,视觉效果更佳。