08|从频谱到阻抗:最小二乘与稳健估计|合并完整版

2 分钟阅读时长

发布时间:

发布时间:

本篇目录


第1单元|数据处理 04|从画一条直线开始学阻抗的最小二乘估计

傅里叶变换以后,我们终于有了同一频率下许多时间窗口的复数电场、磁场系数。现在的问题是:这些数据带有噪声,我们如何稳定估计电场与磁场的比例关系?

先把复杂的电磁学放一边,从一条小学就认识的直线开始。

一、假设想求一个未知斜率

有一个理想关系

\[y=ax.\]

这里 $a$ 是我们想知道的斜率。例如如果 $a=2$,那么 $x=1,2,3$ 时,$y$ 应分别为 2、4、6。

但真实测量存在误差,我们得到三组数据:

$x$123
$y$2.13.96.2

显然,它们不可能全部严格落在同一条 $y=ax$ 上。那我们要选什么 $a$ 才最合理?

二、残差是什么?

用一个候选斜率 $a$,预测第 $j$ 个点的值是 $ax_j$。实际值 $y_j$ 与预测值的差叫作残差:

\[r_j=y_j-ax_j.\]

一个常见想法是让所有残差的平方加起来尽可能小:

\[S(a)=\sum_{j=1}^N(y_j-ax_j)^2.\]

这里 $\sum$ 是求和符号,$N$ 是观测点数量。为什么平方?正负残差不会彼此抵消,而且偏离越大的点会受到更大的惩罚。

这个思想叫最小二乘法(least squares)。

三、用导数亲手推一次最佳斜率

我们知道要让 $S(a)$ 尽可能小,因此把它对 $a$ 求导,再令导数等于零。

先展开:

\[S(a)=\sum_j(y_j^2-2ax_jy_j+a^2x_j^2).\]

把与 $a$ 无关的 $y_j^2$ 当作常数,逐项求导:

\[\frac{dS}{da}=\sum_j(-2x_jy_j+2ax_j^2).\]

令它等于零:

\[-2\sum_jx_jy_j+2a\sum_jx_j^2=0.\]

把第一项移到右侧,再除以 $2\sum_jx_j^2$:

\[\boxed{\widehat a=\frac{\sum_jx_jy_j}{\sum_jx_j^2}}.\]

“帽子” $\widehat a$ 表示从数据估计出来的斜率,而不是某个事先知道的真实值。

代入三组数据:

\[\sum x_jy_j=1(2.1)+2(3.9)+3(6.2)=28.5,\] \[\sum x_j^2=1+4+9=14.\]

于是

\[\widehat a=\frac{28.5}{14}\approx2.036.\]

相比从任意一组数据直接计算 $y/x$,我们综合了所有观测。

四、电磁阻抗在数学上就是斜率吗?

对理想一维模型,在某一频率下可写

\[E_x=Z_{xy}H_y.\]

这在数学形式上就是 $y=ax$:电场相当于 $y$,磁场相当于 $x$,阻抗 $Z_{xy}$ 相当于斜率 $a$。

不过真实 MT 电场、磁场的傅里叶系数是复数,并且一般地下结构需要完整关系:

\[E_x=Z_{xx}H_x+Z_{xy}H_y+\varepsilon_x,\] \[E_y=Z_{yx}H_x+Z_{yy}H_y+\varepsilon_y.\]

其中 $\varepsilon$ 表示残差。它其实是两个输入量、两个输出通道的复数线性回归。

五、为什么要用矩阵?

将第 $j$ 个窗口里的水平磁场排成一行:

\[(H_{xj},H_{yj}).\]

把许多窗口放在一起,得到磁场数据矩阵

\[\mathbf H= \begin{pmatrix} H_{x1}&H_{y1}\\ H_{x2}&H_{y2}\\ \vdots&\vdots\\ H_{xN}&H_{yN} \end{pmatrix}.\]

相应电场观测列向量为

\[\mathbf e_x= \begin{pmatrix}E_{x1}\\E_{x2}\\\vdots\\E_{xN}\end{pmatrix},\]

未知的阻抗行参数转成列向量

\[\mathbf z_x=\begin{pmatrix}Z_{xx}\\Z_{xy}\end{pmatrix}.\]

于是所有窗口的方程合成一句:

\[\mathbf e_x=\mathbf H\mathbf z_x+\boldsymbol\varepsilon.\]

如果读者还不熟悉矩阵乘法,可以回看矩阵与方程组入门;它实际上就是把每个窗口的一条线性方程叠放在一起。

六、复数最小二乘多了什么?

实数拟合时,我们求残差平方和。复数有实部和虚部,应该使用模长平方:

\[S(\mathbf z_x)=\sum_j|E_{xj}-Z_{xx}H_{xj}-Z_{xy}H_{yj}|^2.\]
复数模长满足 $r^2=r^r$,这里 $r^$ 表示复共轭:例如 $r=3+4i$,则 $r^=3-4i$,$r^r=9+16=25$。

矩阵写法为

\[S(\mathbf z_x)= (\mathbf e_x-\mathbf H\mathbf z_x)^* (\mathbf e_x-\mathbf H\mathbf z_x).\]

对一个向量或矩阵,右上角星号 $^*$ 表示先复共轭、再转置,称为共轭转置。

在输入磁场被看作无噪声、矩阵列满秩等普通最小二乘条件下,估计为

\[\boxed{ \widehat{\mathbf z}_x= (\mathbf H^*\mathbf H)^{-1}\mathbf H^*\mathbf e_x. }\]

它是前面实数斜率公式的矩阵推广。实际数值运算通常使用 QR 分解、SVD 等方法,而不必真的显式计算逆矩阵。

七、为什么要有很多窗口?

如果只有一个窗口,两个磁场分量 $H_x,H_y$ 同时参与决定一个电场观测,却有两个未知阻抗系数,通常不够约束。若有很多不同场源极化条件下的窗口,就可能稳定估计多个系数。

不过窗口数量多还不够:如果所有窗口里的两个磁场分量几乎保持固定比例,矩阵的两列就难以区分,估计仍可能病态。这正是后面讨论噪声、输入通道偏差和远参考的原因。

八、练习

① $x=(1,2)$、$y=(2,5)$,过原点最小二乘斜率是多少?

\[\widehat a=\frac{1\times2+2\times5}{1^2+2^2}=\frac{12}{5}=2.4.\]

② $r=1+2i$,残差模长平方是多少?答:$1^2+2^2=5$。

③ 为什么一个窗口不能稳定确定一般阻抗张量的一整行?因为一条复数观测方程对应两个未知复数系数。

下一节:输入磁场噪声、远参考与稳健估计


第2单元|数据处理 05|最小二乘为什么会算偏:远参考与稳健回归

从 $y=ax+\varepsilon$ 得到最小二乘斜率后,接下来需要检验一个隐含前提:作为输入的 $x$ 是否足够准确?真实 MT 的磁场通道同样含有噪声,增加窗口数量未必能消除这类系统性偏差。

并没有这么简单。真实数据里,电场和磁场两边都有噪声,而且噪声可能偶尔非常大。我们分别研究这两个问题。

一、原来最小二乘偷偷作了什么假设?

我们此前拟合的是

\[y_j=ax_j+\varepsilon_j.\]

它假定 $x_j$ 可以作为已知的准确输入,测量误差主要落在 $y$ 方向。对于真实 MT,这意味着把磁场通道近似当成无噪声输入,电场通道有残差。

如果输入磁场本身也有噪声,这项假设就不准确。

先从只有一个磁场分量的标量模型入手。设真实自然磁场是 $B_s$,真实电场是

\[E_s=ZB_s.\]

这里为了便于观察统计问题,使用 $B$ 表示输入磁感应强度通道,$Z$ 是这里定义的 $E/B$ 传递系数,与使用 $E/H$ 的阻抗存在 $\mu_0$ 换算。测量时却得到

\[B=B_s+\eta,\qquad E=E_s+\varepsilon,\]

其中 $\eta$ 是磁场噪声,$\varepsilon$ 是电场噪声。

二、为什么磁场噪声会让斜率偏小?

对大量独立窗口,过原点复数最小二乘的标量形式可写为

\[\widehat Z=\frac{\langle B^*E\rangle}{\langle B^*B\rangle}.\]

$\langle\cdot\rangle$ 表示跨许多窗口取平均,$^*$ 表示复共轭。

假设两种噪声与真实自然场不相关,彼此也不相关,而且平均值为零。把 $B=B_s+\eta$ 和 $E=ZB_s+\varepsilon$ 代入:

\[\langle B^*E\rangle =\langle(B_s+\eta)^*(ZB_s+\varepsilon)\rangle.\]

展开后,与噪声相关的交叉项在上述统计假设下平均为零,于是

\[\langle B^*E\rangle=Z\langle |B_s|^2\rangle.\]

再看分母:

\[\langle B^*B\rangle =\langle |B_s+\eta|^2\rangle =\langle |B_s|^2\rangle+\langle|\eta|^2\rangle.\]
定义真实信号功率 $S=\langleB_s^2\rangle$,磁场噪声功率 $N=\langle\eta^2\rangle$,得到
\[\boxed{\widehat Z\approx Z\frac{S}{S+N}}.\]

因为 $N\ge0$,所以 $S/(S+N)\le1$。在这个简化模型及其独立噪声假设下,普通最小二乘估计的斜率模长倾向偏小,随后由模长平方换算的视电阻率也会受到影响。

注意:这是理解输入噪声导致的偏差的简化推导,不是每一种多通道、相关噪声情况下都保证严格按这个比例缩小。

三、远参考为什么可能解决这个问题?

稳健回归与远参考的不同任务

在另一个测站同时记录磁场,记为

\[B_r=B_{s,r}+\eta_r.\]

这里 $B_{s,r}$ 是远站的真实自然场,$\eta_r$ 是远站局部噪声。自然电磁场在合适的空间尺度上常具有相关性;但一个测站附近的电动机噪声,未必会同时出现在遥远测站。

因此,我们可以不再用本地磁场与自身做相关,而使用远站磁场与本地观测的互相关来构造估计:

\[\widehat Z_{\rm RR}= \frac{\langle B_r^*E\rangle} {\langle B_r^*B\rangle}.\]

若远站自然磁场与本地自然磁场充分相关,同时远站噪声与本地噪声、本地电场噪声不相关,则分子、分母中很多污染项平均后消失,理想条件下可以减弱输入磁场噪声造成的偏差。

这并不要求两站自然磁场数值永远完全相同;但需要它们的自然信号关系足够稳定,互谱不至于过弱。

远参考也不是“只要多设一个站,就能把所有噪声消掉”。如果两站受到同一条高压线路、铁路或其他大尺度人造源的相关污染,独立噪声假设就可能失效。

四、远参考和剔除坏数据,是同一回事吗?

不是。远参考主要利用不同测站之间的相关与不相关结构,改善传递函数估计。

另一个难题是:大多数窗口都很正常,只有少数窗口出现极端干扰。普通最小二乘的平方惩罚会让这些极端窗口主导拟合。

例如两个残差分别为 1 和 10,平方损失贡献分别是

\[1^2=1,\qquad10^2=100.\]

一个残差为 10 的异常窗口,相当于 100 个残差为 1 的窗口对目标函数的总贡献。这就是为什么少量异常时段可以拉歪拟合斜率。

五、Huber 损失怎样降低极端点的影响?

普通最小二乘使用 $\ell(r)=r^2/2$。一种稳健替代是 Huber 损失:

\[\ell_\kappa(r)= \begin{cases} \frac12r^2,&|r|\le\kappa,\\ \kappa|r|-\frac12\kappa^2,&|r|>\kappa. \end{cases}\]

这里 $\kappa>0$ 是阈值。残差小时,仍采用平方惩罚;残差大时,惩罚由平方增长转成线性增长。

为什么能减少异常点影响?因为一个很大的残差不再让损失以 $r^2$ 的速度爆炸,优化过程便更难被它单独左右。

例如 $\kappa=2$:当 $r=1$,损失为 $0.5$;当 $r=10$,损失为 $2\times10-2=18$。相比普通平方损失 $50$,极端点的影响减弱了。

真实复数 MT 残差可能同时有实部和虚部,并且具有频带依赖的不确定度,因此应用稳健算法时还要定义复残差的度量与尺度,而不是简单照抄标量公式。

六、为什么又出现了 IRLS?

Huber 损失和普通最小二乘的数学形式不同,但可以通过一种很实用的思路来求解:让残差大的窗口暂时获得较小的权重,再重新求加权最小二乘。

例如对实残差 $r$,Huber 对应的权重形式为

\[w(r)= \begin{cases} 1,&|r|\le\kappa,\\ \kappa/|r|,&|r|>\kappa. \end{cases}\]

可以想象一个迭代过程:

  1. 先用普通最小二乘求一个初始阻抗。
  2. 根据这个结果,计算每个窗口的残差。
  3. 残差越异常,分配的权重通常越小。
  4. 用新权重再解一次最小二乘。
  5. 重复计算残差、权重与阻抗,直到变化足够小。

这叫迭代重加权最小二乘(IRLS)。

注意,迭代收敛与结果正确是两回事。异常值可能来自真正不符合简单模型的电磁源、传感器故障、非平稳噪声等,算法仍需要误差尺度选择与质量诊断。

七、真实处理软件究竟在干什么?

一些 MT 软件从原始时间序列开始,经过预处理、切窗、傅里叶变换、响应校准、频带合并和稳健传递函数估计,输出各频率的阻抗、相位、视电阻率与不确定度。

常见的处理环境包括 EMTF、Aurora、BIRRP 以及厂家配套的软件。它们可能在数据格式、频带策略、稳健统计方法与默认参数上有所区别;不能只凭软件名称或某次演示结果,给出普适的准确度排名。

实际数据需要同时检查:时间序列是否有异常、仪器响应是否正确、dead band 是否严重、不同窗口估计是否一致、远参考是否真的改善偏差、误差条是否合理,以及视电阻率和相位是否支持同一套物理解释。

八、最后三个问题

① 为什么普通最小二乘的输入磁场噪声可能导致阻抗振幅偏小?因为噪声功率增加了回归分母,但在独立噪声假设下不相应增加有用信号的分子。

② 远参考主要利用什么?利用自然场在两站之间的相关性,以及局部噪声相对不相关的性质。

③ 稳健回归等于把所有看起来奇怪的点删除吗?不等于。它通过定义损失与权重减小异常点对参数估计的影响,通常还需结合数据质量判断。

到这里,观测数据处理的数学链条已经基本接通:时间信号 → 分窗与 FFT → 复数傅里叶系数 → 阻抗张量估计 → 噪声与不确定度评估。