全站仪气象改正公式及气象元素测量精度对距离的影响

2.8202 × 105
× 10⎜⎜⎝⎛
7.5×t ' 237.3+t
'
⎟⎟⎠⎞
+
7.45995×10−3
(1.146 ×10−3t
−
2.292 ×10−3t '
− 1) P
∂t ' (273.16 + t) 237.3 + t ' 2
273.16 + t
根据误差传播定律：
mn2
× 1012
=
⎜⎛ ⎝
e = e' − 0.000662(t − t' )(1 + 0.001146t' )P
（6）
e' = 6.107 ×10a
（7）
a = 7.5 × t' 237.3 + t'
（8）
1.2 温度在+100C~-150C，湿球结冰情况下（不测 湿温）：
作者简介：姚辉，高级工程师，主要从事测绘产品的生产及测绘新技术的应用。E-mail: CSYYH123@126.com
（1）
ng
−1=
⎛ ⎜⎝
287.604
+
3 × 1.6288 λ2
+
5
×
0.0136 λ4
⎞ ⎟⎠
×
10−6（4）
式中： D——所测距离，m； V——电磁波在大气中的传播速度，（m/s）； V0——真空中的光速值，V0=299792458±1.2
（m/s）； T——电磁波在所测距离上一次往返传播的
时间，s； n——作业时气象条件下实际的群折射率。
（12）
式中： t’——空气的湿温，0C； E——饱和水蒸气压力，mmHg； h——相对湿度，%。 由于通常情况下，P 及 e 以 mb 为单位，而１
mmHg=1.33322mb，式（１.5）可写为：
n
=1+
ng
−1 ×
P
− 4.12535e ×10−8 （13）
1 + αt 1013.2472 1 + αt
273.16 + t
273.16 + t
顾及到（6）~(8)式：
(n − 1) ×106
=
79.39387
×P−
68.81862
⎜⎛ 7.5×t ' ⎟⎞
× 10⎜⎝ 237.3+t' ⎟⎠
+ 7.45995 ×10−3
(t − t ' )(1 + 1.146 ×10−3 t ' ) × P
273.16 + t
将上面数值代入（4）、（6）~(8)、（13），可计 算出：
n0 = 1 + 281.77 ×10−6 ng = 1 + 294.50 ×10−6
再将 n0、ng 代入（1.13）得：
∆D
=
⎛ ⎜ ⎝
281.77
−
⎛ ⎜⎝
0.29065 × 1+αt
P
−
4.12535 ×10−2 1+αt
×
e
⎞⎞
⎟⎠
姚辉等：全站仪气象改正公式及气象元素测量精度对距离的影响
465
e = 0.00068×t2 + 0.11177×t + 0.21981+ 0.00294× P（9）
1.3 在上面两种情况下：
E = 10x
（10）
x = 7.5 × t + 0.7857 237.3 + t
（11）
h = e ×100% E
464
测绘科技信息交流论文集
全站仪气象改正公式及气象元素测量精度对距离的影响
姚 辉，陈夙颖
（贵州省第一测绘院）
摘 要：介绍了全站仪的气象改正公式，推导出一般测量仪器的气象改正公式；根据生产中应用情况， 介绍气象改正公式取项不同时对距离值的影响；介绍了气象元素的测量精度对距离值精度的影响。 关键词：全站仪；气象改正公式；折射率；气象元素；距离；精度
273.16 + t
273.16 + t
对气象元素取偏导数，并以 A、B、C 表示各偏导数，则有：
姚辉等：全站仪气象改正公式及气象元素测量精度对距离的影响
467
A = ∂n = 79.39387 + 7.45995×10−3 (t − t ' )(1 + 1.146 ×10−3t ' ) ∂P 273.16 + t 273.16 + t
P
−
4.12535 ×10−2 1+αt
×
e
⎞⎞
⎟⎠
⎟ ⎠
× 10−6
×
D
（16）
∆D
=
⎛ ⎜ ⎝
283.04
−
⎛ ⎜⎝
0.29195 × 1+αt
P
−
4.12535 ×10−4 1+αt
×
h
×10x
⎞ ⎟⎠
⎞ ⎟ ⎠
× 10−6
×
D
（2）、激光载波测距（RL 模式），其载波波长 和仪器气象参考点为：
仪器气象参考点为：
λ = 0.78µm, P = 760mmHg = 1013.2473mb, t = 120 C,t' = 8.30 C, h = 60%
同理可得：
n0 = 1 + 283.04 ×10−6 ng = 1 + 295.82 ×10−6
∆D
=
⎛ ⎜ ⎝
283.04
−
⎛ ⎜⎝
0.29195 × 1+αt
D——观测距离，m； P——大气压力，mb； α——空气膨胀系数（α=1/273.16）； t——空气的干温，0C； e——水蒸气压力，mb； h——相对湿度，%。
x = 7.5 × t + 0.7857 237.3 + t
通过以上推导可以看出，对于各种类型的全 站仪，只要知道其载波波长和仪器气象参考点， 其气象改正公式是可以推导出来的，这就可以方 便地进行测距和内业数据处理。
∂n ∂P
⎟⎞ ⎠
2
mP2
+
⎜⎛ ⎝
∂n ∂t
⎟⎞ ⎠
2
mt2
+
⎜⎛ ⎝
∂n ∂t '
⎟⎞ ⎠
2
m2 t'
=
A2 mP2
+
B 2 mt2
+
C
2
m2 t'
mn = ±
A
2
m
2 P
+
B 2 mt2
+
C
2
m2 t'
× 10 −6
根据上面推导，仍以 2006 年 9 月、10 月及 12 月三次施测的气象数据为例，来计算出 A、B、 C、mn 及 mn×D（表略）：
假如取不利条件下温度测定误差、气压测定
误差为：
mt = mt' = ±1.00 C, mP = ±1mb
则折射率误差 mn=±(0.797~0.920)×10-6，对测 距的影响为：mn×D，数值为：0.261mm~0.820mm。
取一般条件下温度测定误差、气压测定误差为：
mt = mt' = ±0.50 C, mP = ±0.5mb
则折射率误差 mn=±(0.399~0.460)×10-6，对测 距的影响为：0.130mm~0.410mm。
取有利条件下温度测定误差、气压测定误差
为：
mt = mt' = ±0.20 C, mP = ±0.5mb
为方便起见，以徕卡 TCA1800/2003 系列全 站仪为例，结合光照水电站变形监测网的测量数 据，来讨论气象元素对距离精度的影响。
在 （ 13 ） 式 中 ， 将 ng = 1 + 294.50 ×10−6 及
α = 1/ 273.16 代入可得：
(n −1) ×106 = 79.39387 × P − 11.26881 × e
B
=
∂n ∂t
=
−
79.39387
(273.16 + t)2
P
+
68.81862
(273.16 + t)2
× 10⎜⎜⎝⎛
7.5×t ' 237.3+t '
⎟⎟⎠⎞
+ 7.45995×10−3
(273.16 + t ' )(1 + 1.146 ×10−3t ' )
(273.16 + t)2
P
( ) C = ∂n = −
3 气象改正公式省略 e 或 h 项时对测量结 果的影响
在一般的测量中，以徕卡 TPS100/1000/2000/5000、 TCA1800/2003 系列全站仪为例，通常气象改正公 式是采用下式：
∆D
=
⎜⎛ ⎝
281.77
−
0.29065 × 1 + αt
P
⎟⎞ ⎠
× 10 −6
×
D
也就是说，省略了 e 或 h 的改正。这在一般
n
=1+
ng
−1 ×
P
−
5.5e ×10−8
（5）
1 + αt 760 1 + αt
式中： α——空气膨胀系数（α=1/273.16）； ng——标准大气条件下光的群折射率； P——大气压力，mmHg； e——水蒸气压力(大气湿度)，mmHg； t——空气的干温，0C。 水蒸气压力 e 的计算公式为： 1.1 温度在-100C~+500C，湿球未结冰情况下：
⎟ ⎠
× 10−6
×
D
（14）
参照（10）~(12)，上式可写为：
∆D
=
ห้องสมุดไป่ตู้
⎛ ⎜ ⎝
281.77
−
⎛ ⎜⎝
0.29065 × 1+αt
P
−
4.12535 ×10−4 1+αt
×
h
×10x
⎞⎞
⎟⎠
⎟ ⎠
× 10−6
×
D
（15）
2.2 对于徕卡 TPS300/400/1100 系列全站仪： （1）红外载波测距（IR 模式），其载波波长和
⎛ ⎜⎝
0.29492 × 1+αt
P
−
4.12535 ×10−2 1+αt
×
e
⎞ ⎟⎠
⎞ ⎟ ⎠
× 10−6
×
D
（18）
∆D
=
⎛ ⎜ ⎝
285.92
−
⎛ ⎜⎝
0.29492 × 1+αt
P
−
4.12535 ×10−4 1+αt
×
h
×10x
⎞⎞
⎟⎠
⎟ ⎠
× 10−6
×
D
（19）
上述各式中： △D——气象修正值，m；
1 气象改正公式
电磁波测距，就是利用电磁波作为载波和调 制波进行长度测量。其基本公式为：
（IUGG）第 16 届年会决议，标准大气条件（t=00C、 P=760mmHg、e=0mmHg）下光的群折射率 ng， 由巴雷尔-西尔（Barrell-Sears）给出，其计算公 式为：
D = 1 VT = 1 V0 T 2 2n
由计算表格可以看出，B 的绝对值最大，其 次为 A，最后为 C。也就是说干温测定误差对折 射率的影响最大，当温度测定误差达±10C，干温 的数值为 13.600C~34.250C 时，对折射率的影响达 （0.746~0.875）×10-6 。其次是气压测定误差，当 气 压 测 定 误 差 为 ±1mb ， 气 压 的 数 值 为 918.00mb~934.70mb 时 ， 对 折 射 率 的 影 响 为 （0.258~0.277）×10-6。最后是湿温测定误差，当湿 温 测 定 误 差 达 ±10C ， 湿 温 的 数 值 为 12.800C~30.100C 时 ， 对 折 射 率 的 影 响 为 （0.063~0.113）×10-6。
λ = 0.67µm, P = 760mmHg = 1013.2473mb, t = 120 C,t' = 8.30 C, h = 60%
同理可得：
n0 = 1 + 285.92 ×10−6 ng = 1 + 298.83×10−6
（17）
466
测绘科技信息交流论文集
∆D
=
⎛ ⎜ ⎝
285.92
−
2 一般测量仪器气象改正公式的推导
以徕卡系列全站仪为例。 2.1 对于徕卡 TPS100/1000/2000/5000、TCA1800/2003
系列全站仪，其载波波长和仪器气象参考点为：
λ = 0.85µm, P = 760mmHg = 1013.2473mb, t = 120 C,t' = 8.30 C, h = 60%
4 气象元素观测精度对距离值精度的影响
全站仪距离测量的比例误差来源很多，如仪 器乘常数误差，气象元素的测量误差，利用天顶 距改平时垂直角的观测误差及大气折光系数的误 差等等。其中，气象元素的观测误差是非常重要 的误差之一。
从式（2），考虑到 n≈1，可得：
dDn
=
−D ×
dn n
≈
−D × dn
由此可见，折射率系数的精度与测距精度是 属于同一数量级的，对距离测量的精度起着决定 性的作用。
∆Dn
= −D n − n0 n
=
D n0 − n n
≈ (n0
− n) × D
（3）
上式即为气象修正值的计算公式。式中： △Dn——气象修正值，m；
n0——仪器气象参考点上的群折射率。 根据国际大地测量与地球物理学联合会
式中： λ——真空中光波的有效波长，µm。 在作业时实际气象条件下的群折射率 n 的计 算公式为：
由于在计算载波波长时，采用的是标准大气 状况下的大气折射系数 n0，而实际测距时，大气 折射系数为 n，所以必须加气象改正数△Dn ，对 （1）进行微分：
∆Dn
=
−
1 2
V0 n2
T
× ∆n
=
−
1 2
V0 n
T
×
∆n n
=
−D ×
∆n（2） n
设由观测所得到的距离为 D，改正后的距离
为 D' ， 则 有 D' = D + ∆Dn ∆Dn = D' − D 取 ∆n = n − n0 ，因 n≈1，式（2）可写为：
常规测量中是允许的，但在高精度的控制网施测
中，这会严重影响测量成果的精度。在光照水电
站一等变形监测控制网的施测中，一开始所使用
的计算机处理软件有误而忽略了 e 或 h 对边长的
改正。由于该网所要求的最弱点位中误差为
±1.78mm，最弱边边长中误差为 1/470000，气象
改正公式省略 e 或 h 项时，对高精度控制网的最 终边长的影响最大达到 1.181mm，而该网所要 求的最弱点位中误差仅仅只是±1.78mm，因此， 对于高精度控制网，e 或 h 改正是绝对不可忽略 的。