2.1 信息的量化

2.1.1 熵
  • 熵是香农为量化“消息所含信息量”而提出的数学定义,核心思想是:信息用于消除关于一组可能性的不确定性。
  • 对于二元随机变量(如0/1),当每个符号出现概率为pp和1−p1-p时,单个符号的平均信息量(熵)为H=−plog⁡2p−(1−p)log⁡2(1−p)H = -p \log_2 p - (1-p) \log_2 (1-p),单位为比特(bit)。
  • 当p=0.5p = 0.5时熵最大(1 bit/符号),表示最大不确定性;当p=0p = 0或11时熵为0,表示完全确定。
  • 推广至KK个状态的离散随机变量,熵定义为H[{pk}]=−∑kpklog⁡2pkH[\{p_k\}] = -\sum_k p_k \log_2 p_k(比特)或H[{pk}]=−∑kpkln⁡pkH[\{p_k\}] = -\sum_k p_k \ln p_k(纳特,nat)。
  • 香农无噪编码定理指出:对NN个独立同分布样本,最优编码所需平均比特数趋近于NHNH,典型序列数约为2NH2^{NH},非典型序列概率随N→∞N \to \infty趋于0。
  • 典型集定义:在长序列中,各状态出现频率接近其先验概率的序列构成典型子集;其总概率趋于1,且数量远少于全部可能序列(2N2^N)。
  • 熵同时刻画通信资源需求与主观不确定性:熵越高,初始不确定性越大,传递该变量所需信息越多。
  • 熵具有三大公理化特征:连续性、等概时随状态数单调增、粗粒化可加性(即分步获取信息的熵等于各步加权熵之和)。
  • “信息”在信息论中是精确概念——指长消息极限下为无误传达所需最小符号数;日常语境中也泛指“不确定性减少量”。
2.1.2 互信息
  • 互信息I(x:y)=H[x]+H[y]−H[x,y]=H[x]−H[x∣y]I(x:y) = H[x] + H[y] - H[x,y] = H[x] - H[x|y],衡量两个随机变量xx(未知量)与yy(测量结果或信道输出)之间的统计相关性。
  • 它等于知道yy后对xx的平均不确定性减少量,即Ej[H[x]−H[x∣j]]\mathbb{E}_j[H[x] - H[x|j]]。
  • 互信息对称:I(x:y)=I(y:x)I(x:y) = I(y:x),表明xx关于yy的知识量等于yy关于xx的知识量。
  • 在通信中,互信息表示信道容量上限:若输入符号熵为HH,只要H≤I(x:y)H \leq I(x:y),存在编码方案使长消息以任意小错误率可靠传输(香农有噪编码定理)。
  • 信道容量定义为所有可能输入分布中互信息的最大值,通常需数值优化求解。
  • 条件熵H[x∣y]H[x|y]表示已知yy后对xx的剩余不确定性;联合熵H[x,y]H[x,y]表示xx与yy整体的不确定性。

2.2 量子系统不确定性的量化

2.2.1 冯·诺依曼熵
  • 量子态的不确定性由密度矩阵ρ\rho的本征值{λn}\{\lambda_n\}的香农熵定义:S(ρ)=−∑nλnln⁡λn=−Tr⁡(ρln⁡ρ)S(\rho) = -\sum_n \lambda_n \ln \lambda_n = -\operatorname{Tr}(\rho \ln \rho)。
  • 冯·诺依曼熵具有双重最小性含义:
    • (测量视角)对任意完备测量(投影到纯态),测量结果的概率分布熵不小于S(ρ)S(\rho);等号在ρ\rho的本征基测量时取到。
    • (系综视角)任意纯态系综ρ=∑npn∣ψn⟩⟨ψn∣\rho = \sum_n p_n |\psi_n\rangle\langle\psi_n|的系综熵H[{pn}]≥S(ρ)H[\{p_n\}] \geq S(\rho);等号在系综由ρ\rho本征态构成时取到。
  • 基本性质:
    • 取值范围0≤S(ρ)≤ln⁡N0 \leq S(\rho) \leq \ln N,纯态时为0,完全混合态时达最大。
    • 凹性:S(pρ1+(1−p)ρ2)≥pS(ρ1)+(1−p)S(ρ2)S(p\rho_1 + (1-p)\rho_2) \geq pS(\rho_1) + (1-p)S(\rho_2)。
    • 联合系统满足:子可加性S(ρAB)≤S(ρA)+S(ρB)S(\rho_{AB}) \leq S(\rho_A) + S(\rho_B)(等号当且仅当ρAB=ρA⊗ρB\rho_{AB} = \rho_A \otimes \rho_B);Araki–Lieb不等式∣S(ρA)−S(ρB)∣≤S(ρAB)|S(\rho_A) - S(\rho_B)| \leq S(\rho_{AB});强子可加性S(ρABC)+S(ρB)≤S(ρAB)+S(ρBC)S(\rho_{ABC}) + S(\rho_B) \leq S(\rho_{AB}) + S(\rho_{BC})。
  • 信息的两种互补定义:
    • “含有的信息”:用熵SS度量(如消息的信息内容);
    • “缺乏的信息”:用I=ln⁡N−SI = \ln N - S度量(如观测者对NN维系统的知识量),完全混合态时I=0I = 0。
2.2.2 主要化与密度矩阵
  • 主要化(majorization)是比熵更基本的不确定性序关系:对降序排列的概率向量p,q\mathbf{p}, \mathbf{q},若∑n=1kpn≥∑n=1kqn\sum_{n=1}^k p_n \geq \sum_{n=1}^k q_n(∀k\forall k),则称p\mathbf{p}主要化q\mathbf{q}(记作p≻q\mathbf{p} \succ \mathbf{q}),表示p\mathbf{p}更集中、不确定性更小。
  • 主要化构成偏序:并非所有向量间都可比较,反映不确定性无法全序比较的本质。
  • Schur-凹函数(如熵)满足:若p≻q\mathbf{p} \succ \mathbf{q},则H(p)≤H(q)H(\mathbf{p}) \leq H(\mathbf{q});Schur-凸函数(如纯度)则相反。
  • 双随机矩阵(行列和均为1的非负矩阵)保持主要化关系:q=Dp  ⟺  q≺p\mathbf{q} = D\mathbf{p} \iff \mathbf{q} \prec \mathbf{p}。
  • Horn引理:若Dij=∣Uij∣2D_{ij} = |U_{ij}|^2(UU为幺正矩阵),则q≺p  ⟺  q=Dp\mathbf{q} \prec \mathbf{p} \iff \mathbf{q} = D\mathbf{p}。
  • 推论:密度矩阵在任意基下的对角元向量被其本征值向量主要化,即diag⁡(UρU†)≺λ(ρ)\operatorname{diag}(U\rho U^\dagger) \prec \lambda(\rho),表明本征基测量最确定。
2.2.3 对应密度矩阵的系综
  • 分类定理(Hughston-Josza-Wootters):所有能生成同一密度矩阵ρ\rho的纯态系综{pm,∣ψm⟩}\{p_m, |\psi_m\rangle\},其平方根概率幅与本征态的线性组合由幺正矩阵参数化:
    pm∣ψm⟩=∑jumjλj∣j⟩\sqrt{p_m}|\psi_m\rangle = \sum_j u_{mj}\sqrt{\lambda_j}|j\rangle,其中{umj}\{u_{mj}\}是幺正矩阵元。
  • 系综至少需包含KK个线性无关态(KK为ρ\rho非零本征值个数),但态数MM可任意大。
  • 该定理揭示了密度矩阵的内在模糊性:同一ρ\rho可对应无穷多种物理上不同的制备方式(系综)。### 量子测量与信息

信息论性质

  • 量子系统状态信息:定义熵减Isys=S(ρ)−∑npnS(ρ~n)I_{\text{sys}} = S(\rho) - \sum_n p_n S(\tilde{\rho}_n),表征测量平均降低的冯·诺依曼熵,又称Groenewold信息或熵减。
  • 半经典测量下IsysI_{\text{sys}}等于测量结果与密度矩阵本征态系综间的互信息。
  • 若丢弃测量结果,后验平均态为ρ~=∑npnρ~n\tilde{\rho} = \sum_n p_n \tilde{\rho}_n;半经典测量中ρ~=ρ\tilde{\rho} = \rho,而一般量子测量中∑npnρ~n≠ρ\sum_n p_n \tilde{\rho}_n \neq \rho,体现量子扰动本质。
  • 定理6(Ozawa):高效测量满足∑npnS(ρ~n)≤S(ρ)\sum_n p_n S(\tilde{\rho}_n) \leq S(\rho),即平均熵不增;其更强形式为本征值主控关系λ(ρ)≺∑npnλ(ρ~n)\lambda(\rho) \prec \sum_n p_n \lambda(\tilde{\rho}_n)。
  • 低效测量中IsysI_{\text{sys}}可为负:例如对纯态∣+⟩=12(∣0⟩+∣1⟩)|+\rangle = \frac{1}{\sqrt{2}}(|0\rangle + |1\rangle)投影到{∣0⟩,∣1⟩}\{|0\rangle,|1\rangle\}后丢弃结果,得完全混合态ρ~=12(∣0⟩⟨0∣+∣1⟩⟨1∣)\tilde{\rho} = \frac{1}{2}(|0\rangle\langle 0| + |1\rangle\langle 1|),熵从0增至ln⁡2\ln 2。
  • 编码消息信息:当系统按系综{∣ψj⟩,P(j)}\{|\psi_j\rangle, P(j)\}准备时,测量提取关于消息jj的互信息Iens=H[J:M]=H[P(j)]−∑mP(m)H[P(j∣m)]I_{\text{ens}} = H[J:M] = H[P(j)] - \sum_m P(m)H[P(j|m)]。
  • 半经典测量下Isys=IensI_{\text{sys}} = I_{\text{ens}};IensI_{\text{ens}}关于所有测量的最大值称为可访问信息。

信息提取的界

  • 定理7(Lanford–Robinson):Isys≤H[{pn}]I_{\text{sys}} \leq H[\{p_n\}],等号仅在半经典测量时成立;该界表明量子测量的信息效率通常低于经典测量。
  • 完全测量(终态全为纯态)下推得H[{pn}]≥S(ρ)H[\{p_n\}] \geq S(\rho),即冯·诺依曼熵是完备测量结果熵的最小可能值。
  • 定理8(系统-探针熵交换):探针末态平均冯·诺依曼熵Sprobefin=H[{pn}]S_{\text{probe}}^{\text{fin}} = H[\{p_n\}]满足H[{pn}]−S(σprobe)≥IsysH[\{p_n\}] - S(\sigma_{\text{probe}}) \geq I_{\text{sys}}。
  • 定理9(Holevo界):Iens≤χ=S(ρ)−∑jpjS(ρj)I_{\text{ens}} \leq \chi = S(\rho) - \sum_j p_j S(\rho_j),等号当且仅当[ρ,ρj]=0,∀j[\rho,\rho_j]=0,\forall j;χ\chi称为Holevoχ\chi-量。
  • 定理10(SWW界):若第nn个结果对应系综的Holevo量为χn\chi_n,则Iens≤χ−∑npnχnI_{\text{ens}} \leq \chi - \sum_n p_n \chi_n;等号要求[ρ,ρn]=0[\rho,\rho_n]=0且测量为半经典。
  • SWW界可重写为Iens≤S(ρ)−∑jpjS(ρj)I_{\text{ens}} \leq S(\rho) - \sum_j p_j S(\rho_j),其中S(ρj)S(\rho_j)是初态为ρj\rho_j时的熵减;高效测量下得Hall界Iens≤IsysI_{\text{ens}} \leq I_{\text{sys}}。
  • 由Iens≥0I_{\text{ens}} \geq 0推出IsysI_{\text{sys}}关于初态的凹性:Isys[∑jpjρj]≥∑jpjIsys[ρj]I_{\text{sys}}[\sum_j p_j \rho_j] \geq \sum_j p_j I_{\text{sys}}[\rho_j],即初始不确定性越大,平均熵减越多。
  • 对称测量下IsysI_{\text{sys}}严格随初始不确定性增加,因其Schur-凹性:若ρ≺σ\rho \prec \sigma,则Isys[ρ]≥Isys[σ]I_{\text{sys}}[\rho] \geq I_{\text{sys}}[\sigma]。
  • 序贯测量信息:经典情形满足I(X:Y,Z)≤I(X:Y)+I(X:Z)I(X:Y,Z) \leq I(X:Y) + I(X:Z);量子裸测量是否普适满足此不等式仍为开放问题。

扰动量化

  • 共轭观测量扰动:测量可观测量XX会增大非对易观测量YY的不确定性;Robertson不确定关系(ΔX)2(ΔY)2≥14∣⟨[X,Y]⟩∣2(\Delta X)^2(\Delta Y)^2 \geq \frac{1}{4}|\langle[X,Y]\rangle|^2给出方差权衡;Maassen–Uffink熵不确定关系H[{Px}]+H[{Py}]≥−log⁡max⁡x,y∣⟨x∣y⟩∣2H[\{P_x\}] + H[\{P_y\}] \geq -\log\max_{x,y}|\langle x|y\rangle|^2给出Shannon熵下界,且与态无关。
  • 熵扰动:定义SD=S(∑npnρ~n)−S(ρ)S_D = S\left(\sum_n p_n \tilde{\rho}_n\right) - S(\rho);定理11(Ando)指出裸测量(正算子)满足S(∑npnρ~n)≥S(ρ)S\left(\sum_n p_n \tilde{\rho}_n\right) \geq S(\rho),故SD≥0S_D \geq 0,类比经典测量。
  • 编码信息扰动:测量改变系综中态本身;若编码态非正交(如∣a⟩,∣b⟩,∣c⟩|a\rangle,|b\rangle,|c\rangle),任何完备测量必扰动至少一个态;扰动大小需用量子态距离度量(如保真度、迹距离)。
  • 量子信息扰动:对噪声信道建模为丢失测量结果;相干信息I(ρ,M)I(\rho,\mathcal{M})表征可无错传输的量子信息量;Buscemi–Hayashi–Horodecki关系给出δ(ρ,M)=S(ρ)−I(ρ,M)=Isys\delta(\rho,\mathcal{M}) = S(\rho) - I(\rho,\mathcal{M}) = I_{\text{sys}}(高效测量),建立信息-扰动基本等价。