大规模多入多出技术(Massive Multiple-Input Multiple-Output,Massive MIMO)是第五代移动通信系统的关键技术之一。相较于现有的MIMO系统,Massive MIMO系统具有更高的频谱效率、更稳定的通信性能、更多的服务用户数量等优势。然而,这些性能优势实现的前提是对通信系统进行信道估计从而获得精准的信道状态信息(Channel State Information,CSI)。随着天线数量的增加,Massive MIMO系统信道估计的复杂度不断提高,现有信道估计算法重构精度低且消耗的大量导频占用带宽资源,已不能满足Massive MIMO系统对信道估计准确性和简易性的要求。为了解决这些问题,本文提出基于张量压缩感知的Massive MIMO系统联合信道估计算法,其主要研究内容如下:首先,当前基于压缩感知的信道估计算法对于目前多用户Massive MIMO系统中高维的信道状态信息,仍采用逐个信道单独估计的方法,不仅导致大量的导频消耗,而且算法迭代次数多计算较为复杂。本文基于张量理论在高维数据处理视角研究信道估计问题。建立张量模式下信道估计模型,提出二维导频序列对三维张量进行压缩测量的数学模型,实现固定发射方式的导频序列与三维张量型待估计信道状态信息的匹配,并针对多用户Massive MIMO系统的下行信道估计,提出相应的信道状态信息反馈模型,再利用张量压缩感知中测量结果的伪逆矩阵对信道状态信息进行重构。其次,针对无线信道中普遍存在的噪声干扰,提出一个自适应截断张量降噪算法以减小噪声对信道估计精度的影响。在该降噪算法中,首先对上述张量模式下信道估计模型中压缩测量得到的核张量进行奇异值分解,通过噪声方差与奇异值的映射关系得出阈值,并将奇异值阈值选取算法扩展到三维,完成核张量的最优截断,将该降噪算法嵌入到上述信道估计算法的重构部分。通过仿真实验来证明该降噪算法对于信道估计抗噪性能提升的帮助。最后,本文构建了张量模式下Massive MIMO中继协作系统的系统模型及信道估计模型,将基于张量压缩感知的Massive MIMO联合信道估计算法应用于该模型中实现Massive MIMO中继通信系统的信道估计。此外,将本文提出的信道估计算法与当前流行的三种算法进行仿真实验对比。实验结果证明,本文所提信道估计算法相较于其他三种算法,在较低导频开销和反馈负担的情况下,具有更高的估计精度,且本文提出的算法中不存在迭代,具有较低的计算复杂度。