随着无线通信技术的飞速发展,通信信号的体制和调制样式复杂多样,频谱日益拥挤和重叠,导致背景噪声与干扰显著提高,电磁环境极其复杂。这种复杂的电磁环境对于无论军事领域还是民用领域的无线通信系统都会形成严重的电磁噪声干扰,甚至会使通信联络中断,因而对于无线通信系统尤其是对于接收端的信号检测与估计提出了更高的要求和更严峻的挑战。由于非线性随机共振处理技术对于滤除干扰噪声和检测微弱信号具有较好效果,甚至可以利用噪声来增强有用信号,使得这一非线性现象在生物、化学、电子、图像处理等领域得到广泛应用。尽管如此,将随机共振理论应用于无线通信系统,仍然面临模型设计、复杂信号处理、参数优化与自适应控制等诸多关键问题。因此,针对当前无线通信面临的迫切需求和严峻挑战,本文将非线性科学领域的随机共振技术引入到复杂电磁环境下的信号检测与估计当中,在深入研究典型随机共振系统原理及其特性,并解决随机共振相关瓶颈问题的基础上,提出基于非线性随机共振系统的微弱信号检测、非高斯信号接收和信号参数估计等关键技术,进一步提升无线通信系统的接收性能。首先,对典型非线性系统中的随机共振现象及其原理进行详细描述和深入研究,为后续随机共振的实际应用提供了理论基础。将周期信号和噪声输入双稳态模型和单阈值模型这两种典型随机共振系统,研究和分析了因非线性系统、信号和噪声之间的协同效应而产生的随机共振现象及其机理。提出了基于线性变换的系统参数调整策略,并解决了SR系统参数最优化和复杂信号处理等问题,获得了最佳的随机共振处理性能。接下来,提出了复杂电磁环境下基于双稳态SR系统的能量检测算法,证明了随机共振处理能够实现噪声能量向信号能量转移,从而有效削弱了噪声不确定度的影响,进而改善1-2dB检测性能。并且,提出了基于双稳态SR系统的截尾序贯检验算法,推导了最佳截尾门限,进一步缩短了50%的检测时间。此外,提出了基于广义SR系统的能量检测算法,推导了最佳SR噪声的概率密度解析式,仅通过增加SR噪声就能改善检测性能。其次,将随机共振系统应用到广义高斯噪声情况下的信号最佳接收中,从而降低了误码率和改善接收性能。复杂环境下背景噪声的非高斯分布特性会导致线性最佳接收算法性能的急剧恶化,因此在分析了阵列阈值随机共振系统输出信号特征基础上,提出了基于阵列阈值系统的非线性接收算法。采用基于直接搜索法的阈值噪声自适应调整策略,实现了输出信噪比和误码率的最优化。理论推导和仿真结果表明在拉普拉斯型等非高斯分布噪声下,所提算法的接收性能优于基于匹配滤波的线性最佳接收算法1-3dB,从而保障了非高斯噪声下无线通信系统的接收性能。最后,针对复杂环境下的直接扩频信号估计需求,提出了基于广义随机共振系统和特征分解技术的信号参数估计算法。发现了电平通过率估计算法中的随机共振现象,并提出了基于该SR模型的最大多普勒频移估计算法,通过实现背景噪声与多普勒估计器之间的匹配,改善多普勒估计性能达1.5dB以上。与此同时,根据直接扩频信号相似性和特征分解原理,提出了一种基于平均互相关和特征分解的伪码序列估计算法,性能分析和仿真结果表明所提算法有效克服了部分反码问题和提高了2dB以上的抗噪声性能。