全站仪气象改正公式优化研究

刘晓东, 缪东晶, 姚 燕, 王长云, 王德利,李连福, 刘 洋, 蔡晋辉, 李建双

(1.中国计量大学 计量测试工程学院，浙江 杭州 310000； 2.中国计量科学研究院，北京 100029； 3.潍坊市计量测试所，山东 潍坊 261061)

1 引 言

为了满足各类大型工程使用设备的检定需求,我国计量检测部门已建成近百条基线[1～4]。中国计量科学研究院(NIM)的昌平1.2 km标准基线于2007年建成,如图1所示,图中W、C、H、P和T分别代表连接至数据采集节点的风速传感器、CO2传感器、湿度传感器、气压传感器和温度传感器。其中环境参数测量系统可以实时监测基线沿线温度、气压、湿度、二氧化碳以及风速等环境参数变化情况[5,6]。2014年,在黑龙江省某县建立了一条超过5 km的标准基线,用于低温条件下测距仪检测校准和实验研究。

图1 昌平基线场示意图Fig.1 Diagram of Changping base line field

国外,芬兰大地测量研究所的奴米拉(Nummela)标准基线于1933年建立,最长的864 m基线段进行过15次光干涉测量,最长边基线值最大互差仅为0.61 mm。德国联邦物理技术研究院(PTB)为了实现更高精度的空气折射率修正,对其600 m标准基线建立野外环境参数在线测量系统,对包括温度、湿度、气压在内的3种环境参数共计68个传感器进行30 s每周期的不间断采集[7]。

在使用野外基线场对全站仪进行测距时,为了消除环境参数对测距的影响,通常会使用气象改正公式得出的空气折射率补偿系数对测得的原始距离进行补偿,从而得到实际测量距离。因而在测距补偿时,测距精度受环境参数的准确性和气象改正公式的正确性影响。在长期的测量与观察中,补偿后测距值仍存在较大幅度的波动,且与参考值会存在一定偏差无法被消除,此偏差与计算气象修正公式所需的温度、气压、湿度数据均有较强的相关性。

理论上,气象改正公式的修正会使环境参数与测距修正值的相关性显著降低,而上述长期测量结果表明实际情况与理论并不完全相符。因此,有必要对气象改正公式进行系统分析和实验研究,从而进一步减小全站仪的测量误差。

2 气象改正公式优化模型

2.1 气象改正公式误差分析

使用全站仪进行长距离测距时,温度、湿度和气压等环境参数对激光测距精度有着巨大影响,因此在实际使用时需要对空气折射率进行补偿。在实际进行长距离测距作业时,通常采用气象改正公式计算出空气折射率n,然后通过下面公式计算出测距修正值Li:

Li=Li0×n

式中:Li0为原始测距值;i为测量次数。

在1963年国际大地测量协会(International Union of Geodesy and Geophysics,IUGG)第十三次会议的决议中,解析了用于计算电磁距离测量折射率的标准公式[8,9]:

1) 对于未调制的单色光,或者采用Edlen公式:

(1)

或者采用Barrell-Sears公式:

(2)

关联至环境条件

(3)

2) 用于调制光

nL的公式如上所述,但用对应于适当群速度的折射率ng代替n,计算如下:

(4)

式中:n为常温常压下含有0.03%CO2的干燥空气的折射率;ng为空气对调制光的有效折射率;nL为光在环境空气中的有效折射率;σ为辐射的有效波数,单位为μm-1;λ为辐射的有效波长,单位为μm;t,T分别为以摄氏度和开尔文为单位的温度;P为大气压力,IUGG给出单位为mmHg;α为空气膨胀系数,α为0.003 661;e为部分水蒸气压力,IUGG给出公式中单位为mmHg。

本次实验使用的是全站仪,其调制光波长是λ=850 nm,因此计算调制光折射率应使用式(4)代入式(3),其中由式(2)得出式(5)和式(6):

(5)

(6)

从而得到:

=1+294.50×10-6

(7)

因此,式(3)可写为

(8)

由于mmHg与hPa的换算关系为

1 mmHg=1.333 22 hPa≈4/3 hPa

(9)

因此式(8)可以改写为:

(10)

气象改正公式为

ΔD=(n0-n)×D

(11)

式中:n0为徕卡全站仪的标准气象条件时的基准折射率,一般定为干温t=12 ℃、大气压P=1 013.25 hPa、相对湿度h=60%,则n0=1+281.8×10-6。因此,式(11)可以改写成:

(12)

式(12)中e为部分水蒸气压力,根据军用电磁波测距规范(GJB 614-88),其计算公式为[10,11]:

温度在-10 ℃～+50 ℃湿球未结冰,

e=e′-0.000 662(t-t′)(1+0.001 146t′)P

e′=6.107×10α

(13)

饱和水汽压E和相对湿度h的计算:

(14)

因此,最终的空气折射率对测距影响的气象改正公式为

(15)

随着激光测距技术的发展,IUGG在1963年所提出的气象改正经验公式已不能满足技术进步后对于激光测距精度的要求,于是在1999年第22届IUGG大会中提出对气象改正公式的系数进行修改[12,13]。决议中将群折射率计算公式中系数修正为

(16)

因此,经过IUGG在1999年进行修正后的空气折射率对测距影响的气象改正公式为

(17)

而1999年的气象改正公式距今也已24年,同样存在不能满足现今激光测距精度的要求的可能。因此该公式目前的使用场景与精度要求,确实有被进行进一步优化的空间,应当针对当前需求对气象改正公式做进一步优化。

对公式进行推导时发现,现行测距公式系数保留了5位有效数字, 而系数保留有效数字位数对测量结果有显著影响,为了量化该影响,给定不同的测距值,分别计算保留5位和6位有效数字的空气折射率补偿结果,求得两者的测量偏差响见图2。

图2 系数舍入对测距误差的影响Fig.2 The influence of coefficient rounding on distance measurement error

从图2中可以看出,随着测量距离不断增加,系数舍入引起的误差呈线性增长,在1.2 km时由于舍入误差导致的测距误差已经达到了0.3 mm。而由图3可知现行气象改正公式对全站仪的测距值进行修正后还存在2～2.5 mm左右的残余误差,舍入误差则在其中占比超过10%,已经不容忽视,因此对气象改正公式优化是有必要的。

图3 现行公式测距残余误差曲线Fig.3 Current formula range residual error curve

2.2 优化目标函数的构造

对于气象改正公式系数的优化本质上是对公式测距残余误差的降低,使得残余误差带最小。设通过气象改正公式所得出的空气折射率补偿系数为n,基线场参考值为L,某测量时刻全站仪测距原始值为Li0。全站仪测距残余误差为

ΔLi=Li0×n-L

(18)

如果气象改正公式完全消除了当前环境参数对测距的影响,全站仪测距残余误差应当趋近于0,即对气象改正公式的系数进行优化使残余误差之和∑ΔLi最小,因此将气象公式系数调整转化为对残余误差之和∑ΔLi的优化问题。

将式(15)中常数项系数设为待优化系数,则待优化的气象改正公式为

(19)

将式(16)、(17)代入优化目标min∑ΔLi,即得到优化函数:

(20)

分析式(20)中各系数对空气折射率的影响,发现系数a、b、d和g对空气折射率系数的影响是线性的,而系数c、e和f均不具有线性相关性但是与温度具有一定相关性,因此称a、b、d和g为线性项系数,称c、e和f为温度项系数,将在第3节中将依次进行线性项系数优化、温度项系数优化以及全部系数优化等3组实验。

3 系数优化实验

3.1 实验条件

为了满足长距离测距时对环境参数数据实时性和准确性的需求,设计了基于5G的环境参数采集系统为测距实验提供数据。环境参数采集系统所采用传感器精度较高,其中温度传感器在-20 ℃～40 ℃之间,测量不确定度均为0.01 ℃,k=2;气压传感器在500～1 100 hPa之间,测量不确定度均为0.07 hPa,k=2;湿度传感器在0%RH～90%RH范围内,测量不确定度均为1%RH,k=2;在90%RH～100%RH范围内,测量不确定度均为1.7%RH,k=2。基线场环境参数采集系统控制温度,湿度,气压等传感器进行参数的读取,整体数据采集周期为6 s,每天可采集一百万组以上的数据。环境参数采集系统的传输方案如图4所示。

图4 控温箱传感器采集与传输方案框图Fig.4 Temperature control box sensor acquisition and transmission scheme block diagram

3.2 系数优化实验

实验测量依托于NIM昌平野外长度标准场,其测距墩的参考值由μ-base精密测距仪测得,其测距在160 m的测量范围内测距精度优于10 μm,在使用μ-base测距仪对基线长度进行测定后,可以认为其测得值可以作为基线场测距墩的长度参考值[14～16]。

在实验中,将全站仪架设至基线场JX0点对JX8点进行不间断测距,测量频率为1 次/min,在测距的同时读取当前环境参数并与测距数据统一保存,当测距时长达到24 h时提取测量数据。数据分析流程如图5所示。本实验对数据清洗处理后得到12 d完整数据,其中较具有代表性的日期有2023年中04-28、05-01、05-20、05-21和05-24数据。

图5 数据分析流程Fig.5 Data analysis process

3.2.1 线性项系数优化结果

通过表1可以看到待定系数a、b、d、g中,d在优化前后出现了数量级上的变化,其余系数与原有系数均只存在原数据1%左右的偏差;而且从图6中可知,系数优化后的公式与环境参数仍有较大的相关性,其大部分相关系数均维持在0.5以上;由图7和图8可知,全站仪测距值经过修正的残余误差均有大幅度的下降,使用贝塞尔公式计算残余误差值的标准偏差,从标准偏差的优化幅度可以看出,数据较原有数据更为平稳。

表1 解得线性项系数Tab.1 The coefficients of linear terms are solved

图6 线性项优化前后相关系数Fig.6 Correlation coefficient before and after linear term optimization

图7 线性项优化前后残余误差与优化幅度Fig.7 Residual error before and after linear term optimization

图8 线性项测距误差趋势Fig.8 Linear term ranging error trend

3.2.2 温度项系数优化结果

尝试对温度项系数进行拟合优化以得出优化后对测距残余误差的影响。仅对温度项进行系数优化时,各优化后系数如表2所示,除待定系数c以外其余系数均有较大的变化,但是由于c在公式中含义为空气膨胀系数,这表明仅对温度项系数进行求解以对公式进行修正效果并不显著;图9表明仅对温度项系数进行优化时环境参数对测距误差的相关性并没有显著降低;同时,由图10和图11可知仅优化气象改正公式的温度项系数对气象改正公式的优化并不显著。

表2 解得温度项系数Tab.2 The integral temperature coefficient is obtained

图9 温度项优化前后相关系数Fig.9 Coefficient of correlation before and after temperature optimization

图10 温度项优化前后残余误差与优化幅度Fig.10 Residual error and after temperature optimization

图11 温度项测距误差趋势Fig.11 Temperature term ranging error trend

3.2.3 全部系数优化结果

根据对线性项系数和对温度项系数优化的结果可以得出:对部分系系数的优化只能使测距误差得到部分有效优化结论。因此,对所有待定系数进行优化,各系数的优化后值如表3所示,其值相较于原始值仅在一定范围内进行变化,与预期相符。

表3 解得全部系数Tab.3 All undetermined coefficient is obtained

对气象改正公式全部系数项进行修正时,环境参数与测距误差之间的相关系数如图12所示,可以看出环境参数与测距误差之间的相关性大幅下降,这表明此种优化方式是具有一定效果的;且全系数项修正前后的测距误差与趋势如图13和图14所示,残余误差的各项指标均呈现出优化的情况,误差均值降低至0.1 mm附近,而且峰谷值从1.2 mm降低至0.5 mm,优化幅度达76.8%以上,标准偏差也从0.5 mm降低至0.1 mm,优化了81.2%。这标志着经过全部系数项优化后残余误差在移动至标准值附近的同时,其波动情况也表现得更加平稳,表明该方法有效的降低了全站仪的测距残余误差,对气象改正公式进行了有效优化。

图12 全部系数项优化前后相关系数Fig.12 Correlation coefficient before and after optimization of all coefficient terms

图13 全部系数项优化前后残余误差Fig.13 Residual error before and after optimization of all coefficient terms

图14 全部系数项测距误差趋势Fig.14 Range error trend of all coefficient terms

因此,在对气象改正公式进行全部系数项的优化后,全站仪在长度测量上得到了更加精准的补偿。

在通过3组实验对比后发现:在仅对线性项系数和仅对温度项系数进行优化时,优化效果不完全符合期望;而针对全部系数进行优化后所有测试数据均体现出不同幅度的优化情况,符合优化预期。因此,气象改正公式进行全部系数优化效果是显著的,接下来应当验证该方法的泛用性,检验其是否能够通过一段时间内的数据解得优化公式对另外一段时间的测量数据进行有效的优化。

4 优化结果验证

在发现全部系数的优化结果远优于仅进行线性项优化和温度项优化的结果后,对该优化方法的泛用性进行研究,将所有采集到的测距数据中的一部分用来解出优化公式系数,然后用该系数对另一部分测量数据进行修正作为验证。

4.1 1 200 m测距验证

首先在长距离测量中进行数据验证,使用从2023-05-01至2023-05-24数据长距离测距数据对公式进行优化,得到系数后代入公式对全体数据进行验证。结果如图15、图16和图17所示。

图15 长距离验证相关系数Fig.15 Long distance verification of correlation coefficients

图16 长距离测距优化前后残余误差与优化幅度Fig.16 Residual error and optimization amplitude before and after long distance optimization

图17 长距离验证测距误差趋势Fig.17 Trend of distance error for long distance verification

在使用长距离测量数据对气象改正公式优化效果进行验证,大部分数据均能保持相当的优化效果,从图15和图16来看,优化组所得出的优化公式同样适用与验证组,该公式在对验证组数据的优化中仍旧保持了相对优良的优化效果,而且从图17中可以明确看出:公式优化的残余误差的均值仍被降低至参考值周围,且相较于原始测距值的波动情况有大幅的下降,变得更为平滑,总体优化幅度达到37%以上,较为符合对气象改正公式进行优化的预期。

4.2 600 m测距验证

为了保证优化公式在全距离同样适用,因此将优化后公式对基线场中段约600 m处的测距数据进行补偿并与参考值进行比对,残余误差的均值大幅降低至参考值附近,且标准偏差也有不同程度的优化。由此可以得出结论,通过数据拟合的方式对气象改正公式进行优化可以在一定程度上减小全站仪测距残余误差。

4.3 优化公式泛用性验证

在验证同一全站仪的长距离和短距离优化测距性能符合预期后,使用另一厂家不同型号全站仪(称仪器B)进行相同条件测距验证。验证采用日期为2023年中07-28、08-02、08-03、08-05和08-06的数据,对其本身进行优化后相关系数与残余误差优化幅度如图18和图19所示。

图18 仪器B系数优化前后相关系数Fig.18 Correlation coefficient before and after optimization of device B

图19 仪器B残余误差与优化幅度Fig.19 Residual error and optimization amplitude of instrument B

使用该优化方法对气象改正公式进行优化后可以得到较为优良的优化效果,其优化幅度与预期也符合预期,其优化后的残余误差也平移至参考值附近,如图20所示。

图20 仪器B测距误差趋势Fig.20 Trend of distance measurement error of instrument B

在使用优化组得到的气象改正公式优化系数对仪器b所采集到的数据进行优化时,对于误差均值的优化仍能达到60.8%以上,对误差标准偏差的优化也能达到60%,符合对优化公式泛用性验证的预期。

5 结 论

本文首先通过全站仪在野外基线场进行7×24 h不间断测距进行数据采集;然后,建立气象改正公式优化模型,对比不同的优化组合对测距残余误差的影响。结果表明,在符合优化预期的情况下总体3项优化幅度分别为:误差峰谷值可达76.8%;误差均值可达99.8%;误差标准偏差可达81.2%。因此使用数据拟合的方法对全部系数的气象改正经验公式进行优化是一种极具潜力的方法,使得全站仪在长距离测距中降低测距误差,提高测距精度。在后续的研究中可以借助机器学习在数据处理以及模型构筑方面的优势,对气象改正公式的优化进行更进一步的探索。