MIMO技术利用空分复用和空间分集,能成倍提高信道容量,并有效对抗无线衰落。在MIMO技术基础上,协作中继利用无线通信的广播特性,与终端共同构成虚拟天线阵列,能增加系统覆盖范围,并降低发射功率。因此,MIMO和协作中继是下一代无线通信系统中的两项重要技术。结合天线选择,两者可以进一步提高系统性能。另外,未来将提供更新、更实用的服务,其中基于位置的服务有很强的吸引力。为了提高定位精度,获得更准确的位置信息,充分利用现有的无线基础设施进行协作定位是一种有效的解决途径。于是,本文针对下一代无线通信系统中天线选择和协作定位技术展开研究,主要工作内容和研究成果归纳如下:1、总结了接收端有理想信道状态信息,而发射端无信道状态信息情况下,MIMO系统与MIMO天线选择系统的信道容量分析结果。首先从容量的统计特性、容量分布和容量界三个方面对MIMO系统做了分析,然后分析了MIMO天线选择系统的容量界。2、研究了MIMO空分复用系统中的天线选择技术。首先回顾了窄带MIMO系统中的一些天线选择准则、算法以及重要结论。然后重点研究了宽带MIMO系统中的接收天线选择技术,以最大化容量为目标,利用邻近子载波间的相关性,提出了一个次优的天线选择准则。利用该准则,结合凸优化方法进行接收天线选择,并对天线选择算法做了分析和改进。3、分析了Nakagami-m信道下基于正交空时分组码的MIMO天线选择系统性能。首先,针对信道衰落参数m为正整数的情况,采用近似方法得到了选择多根发射(或接收)天线时系统接收信噪比的概率密度函数,从而可以简便地分析系统误码率性能。其次,针对任意Nakagami衰落信道,分析了选择单或双发射天线时的系统误码率性能,得到了精确的闭合表达式。4、研究了协作中继系统中的协作定位技术。首先推导了TOA和AOA定位系统中几何精度稀释因子GDOP的数学表达式,表明定位精度除了与测量参数的精度有关,还与基站的几何分布有关。然后重点研究了利用协作中继辅助定位对GDOP的影响,仿真结果表明协作定位可以使GDOP显著降低。通过理论分析,还给出了利用TOA和AOA定位时最优的协作中继方位。在此研究基础上,定义了一个新的衡量基站几何分布优劣的指标——几何一致性因子GCF。GCF从协作中继的角度来衡量原有基站的几何分布,将视见矩阵的条件数和GDOP联系了起来。最后提出了一种有效的获取附加测量数据的方法,从而能以较大的概率获得最优定位精度。