近年来随着移动智能设备普及和新型数据业务的出现,如4K高清视频,VR等,人们对无线通信速率和容量的需求越来越大。多输入多输出(Multiple-input Multiple-output,MIMO)技术因其较高的数据传输率和频谱效率而成为移动通信系统中的关键技术。为了满足未来更高频谱效率和移动用户数据的需求,MIMO改进技术──大规模MIMO技术成为了第五代移动通信系统的关键技术之一。空间调制(Spatial Modulation,SM)技术是近几年提出的新型MIMO传输技术。与传统MIMO技术相比,SM解决MIMO中信道间干扰严重和系统实现复杂度高的问题。同时,通过将一部分信息隐含于发射天线的选择中使得系统的频谱效率得到一定的保证,并且,该技术在接收端的检测复杂度也较低,十分适合非对称天线系统。本文在点对点大规模MIMO场景下,分别从发射端和接收端出发,研究了广义空间调制(Generalized Spatial Modulation,GSM)在相关信道下的映射方法和低复杂度检测算法。本文的主要工作具体如下:1、针对高信道相关性会降低GSM系统的BER性能的问题,在发送端提出两种分组方案:块分组和间隔分组,以降低信道相关性对GSM系统性能的影响。2、在GSM系统最大似然检测(Maximum-Likelihood Detection,MLD)算法和基于接收天线球形译码(Receiver-centric Sphere Decoding,Rx-SD)检测算法的基础上,提出了低复杂度的改进算法。改进算法采用了空间换取时间的思想,通过减少检测中的冗余计算以降低检测计算复杂度。3、介绍了GSM和V-BLAST结合的复用GSM系统。然后把空间换取时间的思想推广到复用GSM检测算法上,并根据复用GSM特点提出两种存储方式。通过仿真表明结合两种存储方式下的改进算法同样能大大减少检测计算复杂度。