在量子力学、量子光学与量子场论中物理可观察量用厄米算符来表示的,它们之间一般来说是不对易的,人们总是面临着算符排序问题,所以这成了人们感兴趣的研究课题之一.算符的排序不同,它们对应的经典函数也不同,这是量子相空间理论基础.常见的算符排序形式有正规乘积、反正规乘积与Weyl编序.当一密度算符排成正规乘积后,它的相干态矩阵元与Q函数就立刻得到;而一旦知道它的反正规乘积,就便知道相应P函数.尤其,算符Weyl编序对路径积分理论和量子统计特别有用,一旦知道它的Weyl编序形式就知道Weyl经典对应.它具有一个特殊的性质,即Weyl编序在相似变换下具有有序不变性,这为实际的运算带来很大的方便.目前,在现有文献中主要有两种方法解决算符排序问题:李代数方法与相干态表象微分操作方法.但是这两种方法不适用于一些复杂算符排序.本文利用范洪义教授所提出的有序算符内的积分技术(简称为IWOP技术)来处理算符排序问题. IWOP技术就是将原本只适用于可对易函数的牛顿-莱布尼兹积分推广到对量子力学Dirac符号法ket-bra积分型非对易量子算符的运算,从而建立了联系q数与c数的一座桥梁.在本文中算符编序理论的发展主要体现以下四个方面: 1)利用导出的新表象并结合IWOP技术导出新的算符恒等式,如纠缠态表象、坐标-动量中介表象、纠缠相干态表象等. 2)利用IWOP技术发展量子相空间的新积分变换,并用来导出其它一些复杂算符函数的Weyl编序形式,如坐标-动量算符函数、动量-坐标算符函数以及多模组合算符函数等. 3)基于算符恒等式与IWOP技术简捷地导出很多新的积分公式,而不需要真正进行积分运算.另外,不同的算符编序方案对同一个积分的结果表现形式不同,它们之间的相互转换直接导出新的积分公式. 4)将IWOP技术发展到算符s编序内的积分技术(简称为IWSOP技术),导出了任意密度算符的s-编序展开公式,同时也导出了带s-参数的新算符公式.这些不仅进一步发展与完善了算符编序理论,也丰富了Dirac的符号法和变换理论,对量子光学中非经典态的研究十分有用.其具体内容包括:一、分别介绍了正规乘积内积分技术与反正规乘积内积分技术,并用IWOP技术重新审视量子力学基本表象,从数理统计中的正态分布可以更加直捷地导出原有的表象以及给出了一些多模指数算符的正规乘积与反正规乘积展开形式.这些都展示了IWOP技术给出经典变换过渡到量子幺正变换算符的捷径,可以发现很多新的幺正算符,找到很多新的有用的量子力学表象.也介绍了Weyl编序内的积分技术、任意算符的Weyl编序展开公式以及Weyl编序在相似变换下的有序不变性.二、根据量子相空间的积分变换(范氏变换),推广到纠缠Wigner算符的新积分变换.它有良好的变换特性,具有可逆保迹性.利用该积分变换导出了一些复杂算符的Weyl编序形式.这不仅发展了变换理论,而且丰富了量子相空间理论.三、基于Hermite多项式(单变量与双变量)的产生函数直接导出算符恒等式,并根据这些算符等式易导出有关Hermite多项式的递推公式与一些复杂的算符等式.结合IWOP技术与量子力学表象的完备性导出若干新的数学积分公式,而不需要真正进行积分运算.另外,交替使用正规乘积、反正规乘积与Weyl编序的积分技术导出若干新的算符公式.这开辟了一条新的途径直接通过量子力学的排序算符导出一些复杂的数学积分公式.四、把IWOP技术发展到IWSOP技术(玻色情况与费米情况).它统一了正规乘积积分技术(s = 1)、反正规乘积积分技术(s = ?1)以及Weyl编序内积分技术(s = 0),进而导出了任意密度算符的s-编序展开公式,完善了带s-参数的量子化方案与算符编序理论.并结合IWSOP技术导出了s-编序算符的恒等式、量子力学基本表象的s-编序展开式以及Wigner算符的s-编序展开形式.五、导出了量子光学中光子计数新公式.一方面根据原有量子光学中光子计数公式,导出了密度算符P表示的光子计数公式并利用该公式计算出相干态、混沌光场、平移混沌光场等光场的光子计数分布;另一方面基于IWSOP技术导出带s参数的光子计数公式,当s取不同值时,就有不同形式的光子计数公式.根据双变量Hermite多项式的递推公式直捷地导出最小不确定热态,还利用Weyl编序在相似变换下具有有序不变性导出了最小不确定热态的Wigner函数解析表达式.六、利用前面导出的算符恒等式很容易导出了Agarwal等人所提出的激发相干态(光子增加相干态)的归一化系数.在此基础上,扩展到广义激发相干态、激发Bell型纠缠相干态与单模激发GHZ型纠缠相干态,并导出了相应的归一化系数.此外,分别研究了它们的光子计数分布、Wigner函数、纠缠Concurrence、Bell不等式的违背等非经典特征并提出了这些态的物理实现方案.利用IWOP技术与多粒子纠缠态表象构造出多模广义的SU(1,1)压缩算符和压缩态,并研究其高阶压缩、Winger函数、Bell不等式的违背情况等非经典性质.