대기 굴절(Atmospheric refraction)은 빛이나 전자기파가 지구 대기를 통과할 때, 대기의 밀도 차이에 의해 그 경로가 굴절되거나 휘어지는 현상을 의미한다. 일반적으로 진공 상태에서의 빛은 직선으로 진행하지만, 대기라는 불균질한 매질 내에서는 고도에 따른 기압과 온도의 변화로 인해 굴절률(Refractive index)의 분포가 일정하지 않게 형성된다. 이러한 광학적 특성의 변화는 관측자가 보는 천체나 지상 물체의 겉보기 위치를 실제 위치와 다르게 인식하게 만드는 주요 원인이 된다.

대기 굴절의 근본적인 물리적 메커니즘은 페르마의 원리(Fermat’s principle)로 설명된다. 이 원리에 따르면 빛은 두 지점 사이를 이동할 때 소요 시간이 최소가 되는 경로를 선택한다. 대기의 밀도는 지표면으로 갈수록 높아지며, 이에 따라 굴절률 역시 지표 부근에서 가장 크고 고도가 높아질수록 낮아지는 경향을 보인다. 빛은 굴절률이 높은 매질 내에서 속도가 느려지므로, 페르마의 원리에 의해 빛의 경로는 굴절률이 높은 지층, 즉 지표면 방향으로 완만하게 굽어지는 곡선을 그리게 된다. 이러한 연속적인 굴절 과정은 미시적으로는 스넬의 법칙(Snell’s law)을 무수히 많은 얇은 대기층에 적용한 결과로 이해할 수 있다.

대기 매질의 밀도와 굴절률 사이의 정량적 관계는 글래드스턴-데일 관계식(Gladstone–Dale relation)을 통해 규명된다. 이 법칙에 따르면 기체의 굴절률 $n$과 밀도 $\rho$ 사이에는 다음과 같은 선형적 상관관계가 성립한다.

$$n - 1 = K \rho$$

여기서 $K$는 해당 기체의 고유한 특성을 나타내는 글래드스턴-데일 상수이다. 이 식은 대기의 상태 방정식과 결합하여 온도와 기압의 변화가 굴절률에 미치는 영향을 설명하는 기초가 된다¹⁾. 대기 중의 공기 분자들은 입사하는 전자기파의 전기장과 상호작용하여 분자 분극(Polarization)을 일으키며, 이 과정에서 발생하는 위상 지연이 거시적인 굴절률의 증가로 나타난다. 따라서 대기 밀도가 높은 저고도일수록 광속의 지연이 심화되어 굴절 효과가 강하게 나타나게 된다²⁾.

광선의 경로가 휘어지는 정도를 나타내는 곡률(Curvature)은 대기 내 굴절률의 수직 구배(Gradient)에 결정적인 영향을 받는다. 광선의 곡률 $\kappa$는 근사적으로 굴절률의 변화율에 비례하며, 일반적인 표준 대기 상태에서 광선의 곡률은 지구 표면의 곡률보다 작다. 이로 인해 관측자의 시선은 지평선 방향으로 휘어져 내려가게 되며, 결과적으로 지평선 아래에 위치한 천체가 지평선 위로 떠올라 보이는 현상이 발생한다. 이러한 대기 굴절의 물리적 원리는 단순한 시각적 왜곡을 넘어 천문학, 측지학, 위성 항법 시스템 등 정밀한 위치 측정이 요구되는 분야에서 반드시 고려해야 할 핵심적인 보정 요소로 다루어진다.

대기 굴절(Atmospheric Refraction)은 빛이나 전자기파가 밀도가 불균일한 대기층을 통과할 때, 매질의 굴절률 차이로 인해 그 진행 방향이 점진적으로 변화하며 경로가 휘어지는 현상을 정의한다. 지구 대기는 중력의 영향으로 지표면에 가까울수록 밀도가 높고 고도가 상승함에 따라 희박해지는 층상 구조를 형성하고 있다. 이러한 밀도의 수직적 구배(gradient)는 대기의 굴절률(Refractive Index)을 고도에 따른 연속 함수로 규정하는데, 일반적으로 지표 부근의 굴절률이 상층부보다 크기 때문에 외계에서 진입한 광선은 지표면 방향으로 오목하게 굽어지는 성질을 갖는다. 이로 인해 지상 관측자는 천체가 실제 위치보다 다소 높은 고도에 있는 것으로 인지하게 된다.

물리적으로 대기 굴절은 매질의 특성이 연속적으로 변화하는 환경에서 발생하는 파동의 전파 특성으로 이해된다. 스넬의 법칙(Snell’s law)을 미소한 두께의 대기층에 연속적으로 적용하거나, 빛이 두 지점 사이를 이동할 때 최소 시간이 소요되는 경로를 따른다는 페르마의 원리(Fermat’s principle)를 통해 대기 중 광선의 궤적을 수학적으로 기술할 수 있다. 대기를 구성하는 공기 분자의 밀도가 높을수록 전자기파의 위상 속도는 감소하며, 이로 인해 발생하는 속도의 차이가 파면의 진행 방향을 굴절시킨다. 공기의 굴절률 $ n $은 공기의 밀도 $ $와 밀접한 관련이 있으며, 이는 글래드스턴-데일 법칙(Gladstone-Dale law)에 의해 다음과 같이 근사할 수 있다.

$$ n - 1 = k \rho $$

여기서 $ k $는 기체의 종류와 파장에 의존하는 상수이다. 따라서 대기 굴절은 단순한 빛의 굴절 현상을 넘어, 대기라는 거대한 렌즈가 광학적 매질로서 작용하는 결과라고 할 수 있다.

이 현상은 가시광선 영역에 국한되지 않고 전파를 포함한 전자기 스펙트럼 전반에서 나타나며, 관측자의 위치와 대상 물체의 고각에 따라 그 영향력이 달라진다. 특히 천문학적 관측에서는 천체의 실제 위치와 관측되는 겉보기 위치 사이에 차이를 유발하며, 측지학이나 항법 시스템에서는 정밀한 거리 및 각도 계산을 위해 반드시 보정해야 할 핵심적인 물리적 변수로 다루어진다. 대기 굴절은 단순히 빛의 경로를 바꾸는 것에 그치지 않고, 대기의 상태 즉 기온, 기압, 습도 등에 민감하게 반응하여 변화하므로 대기 역학 및 광학적 상태를 실시간으로 반영하는 중요한 물리 현상이다. 특히 기온이 고도에 따라 상승하는 기온 역전 층이 형성될 경우, 일반적인 굴절 경로와는 판이한 광학적 경로가 형성되어 신기루와 같은 현상이 발생하기도 한다.

또한, 대기 굴절은 고도에 따른 굴절률의 변화율인 굴절률 구배에 결정적인 영향을 받는다. 표준 대기 상태에서 굴절률은 고도가 상승함에 따라 감소하므로, 광선은 지구 중심 방향으로 휘어지게 된다. 이러한 곡률의 정도는 파장에 따라 다르게 나타나는데, 짧은 파장의 빛이 긴 파장의 빛보다 더 강하게 굴절되는 분산 현상을 동반한다. 이는 일출이나 일몰 시 태양의 가장자리가 순간적으로 녹색으로 보이는 녹색 섬광 현상의 원인이 된다. 대기 굴절의 크기는 천체가 지평선에 가까울수록 커지며, 관측자의 머리 위인 천정에서는 0이 된다. 지평선 부근에서의 대기 굴절량은 평균적으로 약 34분(arcminutes)에 달하여, 태양이 실제로 지평선 아래에 위치함에도 불구하고 시각적으로는 지평선 위에 떠 있는 것처럼 보이게 하는 효과를 창출한다.

빛의 전파 경로를 결정하는 가장 근본적인 물리 체계는 페르마의 원리(Fermat’s principle)에 기반한다. 이 원리에 따르면, 빛은 공간 내의 두 점 사이를 이동할 때 소요되는 시간이 최소(또는 정체)가 되는 경로를 선택한다. 대기와 같이 굴절률(refractive index)이 위치에 따라 연속적으로 변화하는 불균질 매질에서, 빛의 전파 속도 $v$는 $v = c/n$으로 정의된다. 여기서 $c$는 진공에서의 광속이며 $n$은 해당 지점의 굴절률이다. 따라서 빛이 경로 $L$을 따라 이동하는 데 걸리는 시간 $T$는 다음과 같은 선적분으로 표현된다.

$$ T = \int_{L} \frac{1}{v} ds = \frac{1}{c} \int_{L} n(s) ds $$

이 식에서 적분항 $\int n(s) ds$는 광학적 거리(Optical Path Length, OPL)에 해당하며, 페르마의 원리는 이 광학적 거리가 극값을 갖는 경로가 실제 빛의 궤적임을 명시한다. 이를 수학적으로 해결하기 위해 변분법(calculus of variations)을 적용하면, 매질 내 광선의 궤적을 결정하는 오일러-라그랑주 방정식을 도출할 수 있다. 대기 굴절은 이처럼 미세하게 변화하는 굴절률 구배 속에서 빛이 매 순간 최단 시간 경로를 찾아가는 과정의 결과물이다³⁾.

페르마의 원리로부터 도출되는 보다 직관적인 법칙은 스넬의 법칙(Snell’s law)이다. 이는 서로 다른 굴절률을 가진 두 매질의 경계면에서 빛이 굴절되는 양상을 정량화한다. 두 매질의 굴절률을 각각 $n_1, n_2$라 하고, 경계면의 법선과 광선이 이루는 각을 각각 입사각 $\theta_1$과 굴절각 $\theta_2$라고 할 때, 다음의 관계가 성립한다.

$$ n_1 \sin \theta_1 = n_2 \sin \theta_2 $$

대기 중에서의 굴절은 이 스넬의 법칙이 무한히 얇은 층들로 이루어진 매질에서 연속적으로 적용되는 현상으로 이해할 수 있다. 대기의 밀도는 고도에 따라 점진적으로 감소하므로, 지표면에서 상공으로 향하는 광선은 굴절률이 높은 층에서 낮은 층으로 진행하게 된다. 이때 광선은 법선으로부터 멀어지는 방향으로 굴절되며, 반대로 우주에서 지표로 진입하는 천체의 빛은 굴절률이 점차 높아지는 층을 통과하며 법선 방향, 즉 지표면 쪽으로 휘어지게 된다.

대기를 지구의 곡률을 반영한 구형 대칭 매질로 가정할 경우, 스넬의 법칙은 구좌표계에서의 보존량 형태로 확장된다. 이를 부게의 법칙(Bouguer’s law)이라 하며, 지구 중심으로부터의 거리 $r$과 해당 지점의 굴절률 $n(r)$, 그리고 국소적 수직선과 광선이 이루는 각 $\zeta$ 사이에는 다음과 같은 불변 관계가 성립한다.

$$ n(r) \cdot r \cdot \sin \zeta = \text{constant} $$

이 법칙은 기하 광학(geometrical optics)의 관점에서 대기 굴절에 의한 천체의 겉보기 위치 변화를 계산하는 핵심적인 수치 모델의 기초가 된다. 실제 대기에서는 온도와 기압의 복합적인 분포에 의해 굴절률 구배(gradient)가 형성되는데, 광선은 항상 굴절률이 높은 쪽(일반적으로 밀도가 높은 쪽)으로 굽어지는 성질을 갖는다. 이러한 물리적 메커니즘은 단순히 빛의 경로를 왜곡시키는 것에 그치지 않고, 신기루와 같은 광학적 환영이나 일출·일몰 시의 태양 형상 왜곡 등 다양한 대기 광학 현상을 일으키는 근본 원인이 된다.

대기를 구성하는 공기의 굴절률(refractive index, $ n $)은 빛의 위상 속도가 진공에서보다 얼마나 느려지는지를 나타내는 척도이며, 이는 매질을 구성하는 분자의 수밀도와 밀접한 관련이 있다. 기체 매질에서 굴절률은 일반적으로 1에 매우 가까운 값을 가지므로, 실제 분석에서는 굴절률에서 1을 뺀 값인 굴절능(refractivity, $ = n - 1 $)을 주로 사용한다. 대기 중의 굴절능은 공기의 밀도(density, $ $)에 거의 정비례하는 특성을 보이는데, 이러한 선형적 상관관계를 정량화한 것이 글래드스턴 데일 법칙(Gladstone-Dale law)이다. 이 법칙에 따르면 굴절능과 밀도 사이에는 다음과 같은 관계식이 성립한다.

$$ n - 1 = K \rho $$

여기서 $ K $는 글래드스턴 데일 상수(Gladstone-Dale constant) 또는 비굴절능(specific refractivity)이라 불리는 비례 상수로, 기체의 화학적 조성과 입사하는 빛의 파장에 따라 결정되는 고유한 값이다. 이 관계는 대기층의 밀도 분포를 알면 해당 지점의 굴절률을 산출할 수 있음을 의미하며, 반대로 굴절률의 변화를 측정하여 대기의 밀도나 기온 변화를 역추적하는 근거가 된다.

글래드스턴 데일 법칙의 이론적 배경은 전자기학의 로런츠 로런츠 공식(Lorentz-Lorenz equation)에서 찾을 수 있다. 이 공식은 매질의 거시적인 굴절률과 미시적인 분자 분극률(molecular polarizability, $ $) 사이의 관계를 다음과 같이 기술한다.

$$ \frac{n^2 - 1}{n^2 + 2} = \frac{4\pi}{3} N \alpha $$

여기서 $ N $은 단위 부피당 분자 수이다. 대기와 같이 굴절률이 1에 매우 근접한 희박한 기체 매질의 경우, $ n^2 - 1 = (n+1)(n-1) (n-1) $이고 $ n^2 + 2 $으로 근사할 수 있다. 이러한 근사를 적용하면 로런츠-로런츠 공식은 글래드스턴-데일 법칙의 형태인 $ n - 1 N $으로 단순화된다. 즉, 대기 굴절률의 변화는 근본적으로 외부 전자기장에 반응하여 공기 분자 내의 전하 분포가 재배치되는 분극 현상에 기인하며, 그 정도는 단위 공간당 충돌하는 분자의 수인 밀도에 결정적으로 의존한다.

지구 대기 내에서 공기의 밀도는 상태 방정식(equation of state)에 의해 기압($ P $)과 온도($ T $)의 함수로 표현된다. 이상 기체(ideal gas) 가정을 도입할 경우, 밀도 $ $는 $ = $ (단, $ M $은 공기의 평균 분자량, $ R $은 기체 상수)로 나타낼 수 있다. 이를 글래드스턴-데일 법칙에 대입하면 대기 굴절률과 기상 요소 간의 직접적인 관계식이 도출된다.

$$ n - 1 \approx K \frac{PM}{RT} $$

위 식은 기압이 높을수록, 그리고 온도가 낮을수록 공기의 밀도가 높아져 굴절률이 증가함을 명확히 보여준다. 지구 대기는 중력에 의해 하층부로 갈수록 기압이 급격히 높아지므로, 특별한 기상 이변이 없는 한 지표면에 가까울수록 굴절률이 가장 크고 고도가 높아질수록 굴절률은 점진적으로 감소하여 1에 수렴하게 된다. 이러한 굴절률의 수직적 구배는 빛의 경로를 지표면 방향으로 굴곡시키는 대기 굴절 현상의 물리적 토대가 된다.

다만 실제 대기에서는 공기가 수증기를 포함하는 습윤 공기인 경우가 많으며, 수증기 분자의 분극 특성은 질소나 산소와 다르기 때문에 정밀한 계산을 위해서는 혼합 기체의 조성을 고려한 보정이 필요하다. 또한 글래드스턴-데일 법칙은 밀도가 매우 높은 극한 환경이나 매우 높은 정밀도를 요구하는 측지학적 계산에서는 미세한 비선형성을 보일 수 있다. 현대 정밀 광학에서는 이러한 오차를 줄이기 위해 글래드스턴-데일 법칙을 확장하거나 파장별 분산을 더욱 정밀하게 반영한 에들렌 공식(Edlén equation)이나 시도르 공식(Ciddor equation) 등을 사용하기도 한다⁴⁾.

대기와 같이 굴절률(refractive index)이 공간적으로 연속적인 변화를 보이는 불균질 매질 내에서 광선(light ray)의 진행 경로는 직선이 아닌 곡선을 그리게 된다. 이러한 전파 경로의 기하학적 특성을 규명하는 광선의 곡률 이론은 변분법에 기초한 페르마의 원리로부터 유도된다. 매질 내의 두 점 사이를 이동하는 빛은 광학적 경로장(optical path length)이 정체(stationary)가 되는 경로를 택하며, 이는 수학적으로 매질의 굴절률 $ n $과 광선의 단위 접선 벡터 $ $ 사이의 미분 방정식으로 표현된다. 굴절률이 위치 벡터 $ $의 함수 $ n() $로 주어질 때, 광선의 궤적은 다음과 같은 벡터 형태의 광선 방정식(ray equation)을 만족한다.

$$ \frac{d}{ds} \left( n \frac{d\mathbf{r}}{ds} \right) = \nabla n $$

위 식에서 $ s $는 광선의 경로를 따라 측정된 호의 길이(arc length)를 의미한다. 이 식의 좌변을 전개하면 $ + n = n $이 되며, 여기서 $ $은 곡선의 곡률 벡터 $ $를 나타낸다. 곡률 벡터의 크기인 곡률 $ $는 광선의 진행 방향이 단위 거리당 얼마나 변화하는지를 측정하는 척도가 된다.

지구 대기는 대개 구형 대칭(spherical symmetry)을 이룬다고 가정할 수 있으므로, 굴절률 $ n $은 주로 지표면으로부터의 고도 $ z $에 의존하는 함수가 된다. 이때 굴절률의 구배(gradient), 즉 $ n $은 연직 방향으로 형성된다. 광선의 진행 방향과 연직 방향 사이의 각도를 천정각(zenith angle) $ $라 할 때, 광선의 곡률 $ $는 다음과 같은 관계식으로 도출된다.

$$ \kappa = \frac{1}{\rho} = -\frac{1}{n} \frac{dn}{dz} \sin \zeta $$

여기서 $ $는 곡률 반경(radius of curvature)을 의미한다. 대기 하층부에서 공기의 밀도는 고도가 높아짐에 따라 감소하므로, 굴절률 구배 $ $는 음의 값을 가진다. 따라서 곡률 $ $는 양의 값을 가지며, 이는 광선이 항상 굴절률이 높은 쪽, 즉 지표면 방향으로 굽어짐을 수학적으로 증명한다. 특히 수평 방향으로 진행하는 광선($ = 90^$)의 경우 곡률은 최대가 되며, 연직으로 진행하는 광선($ = 0^$)은 곡률이 0이 되어 굴절을 일으키지 않고 직진한다.

이러한 광선의 곡률은 지구 곡률(Earth curvature)과 비교할 때 중요한 물리적 함의를 지닌다. 지구의 반지름을 $ R_e $라 할 때, 지표면의 곡률은 $ 1/R_e $로 일정하다. 반면 광선의 곡률은 대기 상태에 따라 변하지만, 표준적인 대기 조건 하에서의 연직 굴절률 구배를 대입하면 광선의 곡률은 지구 곡률의 약 1/4에서 1/5 수준인 것으로 알려져 있다. 이는 광선이 지표면의 휘어짐을 따라 어느 정도 같이 휘어지기 때문에, 관측자가 지평선 너머의 물체를 실제 기하학적 가시거리보다 더 먼 곳까지 볼 수 있게 만드는 원인이 된다.

측지학 및 전파공학에서는 이러한 광선의 곡률 효과를 간편하게 다루기 위해 등가 지구 반지름(Effective Earth Radius)이라는 개념을 도입한다. 이는 실제 지구 반지름에 굴절 계수(refraction coefficient) $ k $를 곱하여, 광선을 직선으로 가정하더라도 상대적인 기하학적 관계가 유지되도록 가상의 지구 모델을 설정하는 방식이다. 굴절 계수 $ k $는 지구 곡률에 대한 광선 곡률의 비로 정의되며, 일반적인 대기 상태에서 약 0.13 내외의 값을 갖는다. 이 이론적 체계는 삼각 측량의 고도 보정이나 레이더의 탐지 범위 계산에서 필수적인 수학적 기초를 제공한다.

대기 굴절(atmospheric refraction)은 고정된 상수가 아니라, 전자기파가 통과하는 매질인 공기의 물리적 상태에 따라 실시간으로 변화하는 동적인 현상이다. 대기의 굴절률(refractive index)을 결정하는 가장 핵심적인 인자는 대기의 밀도이며, 이는 다시 기온, 기압, 습도와 같은 기상 요소들에 의해 결정된다. 고전역학과 열역학의 원리에 따르면, 대기 밀도가 높을수록 빛의 속도는 느려지며 결과적으로 굴절률은 증가한다. 이러한 관계는 글래드스턴 데일 법칙(Gladstone-Dale law)에 의해 $n - 1 = K\rho$와 같이 표현되는데, 여기서 $n$은 굴절률, $\rho$는 밀도, $K$는 매질의 특성을 나타내는 상수이다.

기압과 기온은 대기 밀도를 변화시키는 가장 지배적인 요인이다. 이상 기체 상태 방정식에 의하면 기체의 밀도는 기압에 비례하고 절대 온도에 반비례한다. 따라서 기압이 높아질수록 공기 분자의 밀집도가 커져 굴절률이 상승하며, 반대로 기온이 상승하면 분자 간 거리가 멀어져 밀도가 낮아지고 굴절률은 감소한다. 이러한 이유로 고도가 낮아 기압이 높은 지표면 근처에서는 굴절 효과가 강하게 나타나며, 고도가 높아질수록 기압과 밀도가 급격히 낮아져 굴절률은 점차 1에 수렴하게 된다. 특히 지표면 근처에서 발생하는 급격한 기온 역전 현상은 비정상적인 굴절 경로를 형성하여 신기루와 같은 광학적 왜곡을 야기하는 주된 원인이 된다.

습도, 즉 대기 중 수증기의 함량 또한 굴절률에 유의미한 영향을 미친다. 수증기 분자는 건조 공기와 비교했을 때 전기 쌍극자 모멘트가 다르기 때문에 매질의 유전율에 변화를 준다. 가시광선 영역에서는 수증기가 굴절률에 미치는 영향이 기온이나 기압에 비해 상대적으로 작으나, 전파 영역으로 넘어가면 수증기의 기여도는 매우 커진다. 이는 수증기 분자가 특정 주파수 대역의 전자기파와 강하게 상호작용하기 때문이며, 위성 항법 시스템(Global Navigation Satellite System, GNSS)이나 라디오 천문학 관측 시 대기 굴절 오차를 보정할 때 습도 프로파일을 정밀하게 분석해야 하는 이유가 된다.

전자기파의 파장(wavelength)에 따른 분산(dispersion) 현상 역시 대기 굴절의 중요한 변수이다. 매질의 굴절률은 파장의 함수로 나타나며, 일반적으로 파장이 짧을수록 굴절률이 크게 나타난다. 대기 중에서도 청색광은 적색광보다 더 강하게 굴절되는데, 이러한 특성은 천체가 지평선 근처에 있을 때 수직 방향으로 무지개 빛깔의 띠가 나타나는 대기 분산 현상을 초래한다. 정밀한 굴절률 계산을 위해 현대 과학에서는 에들렌 방정식(Edlén equation)이나 시도 방정식(Ciddor equation)을 사용한다. 이 모델들은 파장, 온도, 압력, 습도뿐만 아니라 이산화탄소 농도까지 고려하여 대기의 굴절률을 소수점 아래 여덟 자리 이상의 정밀도로 산출한다.⁵⁾

대기의 굴절률(refractive index, $ n $)은 매질의 밀도(density, $ $)에 직접적으로 의존하며, 이러한 상관관계는 글래드스턴 데일 법칙(Gladstone-Dale law)에 의해 정량화된다. 기체의 굴절률 편차($ n - 1 $)와 밀도 사이의 선형적 관계를 나타내는 이 법칙은 다음과 같이 표현된다.

$$ n - 1 = K \rho $$

여기서 $ K $는 글래드스턴 데일 상수로, 기체의 화학적 조성과 입사광의 파장(wavelength)에 따라 결정되는 고유한 값이다. 대기 굴절 현상을 이해하기 위해서는 우선 기온과 기압이라는 거시적 변수가 공기의 밀도를 어떻게 결정하는지 고찰해야 한다⁶⁾.

지구 대기를 이상 기체(ideal gas)로 가정할 때, 대기의 밀도는 상태 방정식(equation of state)에 따라 기압(pressure, $ P $)에 비례하고 절대 온도(absolute temperature, $ T $)에 반비례하는 성질을 갖는다.

$$ \rho = \frac{P}{RT} $$

위 식에서 $ R $은 기체 상수(gas constant)를 의미한다. 이를 굴절률 식에 대입하면 굴절률 편차는 기압에 비례하고 절대 온도에 반비례함을 알 수 있다. 즉, 기압이 높고 기온이 낮은 환경일수록 대기는 더욱 조밀해지며, 이에 따라 빛의 속도가 느려지고 굴절의 정도는 강해진다. 이러한 물리적 메커니즘으로 인해 겨울철이나 고기압 중심부에서는 평상시보다 더 뚜렷한 대기 굴절 현상이 관측되는 경향이 있다.

실제 대기에서 굴절 경로를 결정하는 핵심적인 요소는 특정 지점의 절대적인 굴절률 수치보다 고도($ z $)에 따른 굴절률의 변화율인 굴절률 구배(refractive index gradient, $ dn/dz $)이다. 일반적인 대기 상태인 정역학 평형(hydrostatic equilibrium) 하에서 기압은 고도가 상승함에 따라 지수 함수적으로 감소한다. 동시에 대류권(troposphere)에서는 고도에 따라 기온이 일정하게 하강하는 기온 감률(lapse rate)이 나타난다. 기압의 감소는 굴절률을 낮추는 방향으로 작용하고, 기온의 하강은 굴절률을 높이는 방향으로 작용하지만, 지구 대기에서는 기압 감소에 의한 영향이 기온 하강에 의한 영향보다 지배적이다. 그 결과, 굴절률은 지표면 근처에서 최대값을 가지며 고도가 높아질수록 점진적으로 감소하는 연직 분포를 형성한다.

광선은 페르마의 원리(Fermat’s principle)에 따라 통과 시간이 최소가 되는 경로를 택하게 되는데, 이는 결과적으로 굴절률이 높은 아래쪽(지표면 방향)으로 광선이 휘어지는 곡률을 발생시킨다. 이러한 현상은 관측자가 천체나 지상의 목표물을 바라볼 때, 실제 위치보다 더 높은 고도에 있는 것으로 착각하게 만드는 천체 굴절의 원인이 된다. 특히 지평선 부근에서는 광선이 통과하는 대기층의 두께가 길어지고 밀도 변화가 누적되어 굴절 효과가 극대화된다.

만약 대기의 연직 기온 분포가 표준적인 감률을 따르지 않고 고도에 따라 온도가 상승하는 기온 역전(temperature inversion)층이 형성될 경우, 굴절률 구배는 매우 불규칙하게 변화한다. 지표면 근처의 공기가 상층보다 현저히 차가운 조건에서는 굴절률 구배가 급격해져 광선의 곡률이 지구의 곡률을 넘어서는 현상이 발생하기도 한다. 이러한 비정상적인 굴절 조건은 신기루(mirage)나 덕트 현상(ducting)과 같은 특이한 광학적 현상을 유발하며, 전파 통신이나 정밀 측량 분야에서 심각한 오차 요인으로 작용한다. 따라서 정밀한 굴절 보정을 위해서는 관측 당시의 국지적인 기온과 기압 데이터를 바탕으로 한 실시간 대기 모델의 적용이 필수적이다.

대기의 굴절률(Refractive index)은 단순히 공기의 전체 밀도에만 의존하는 것이 아니라, 대기를 구성하는 개별 가스 성분의 종류와 그 혼합 비율에 따라 미세하게 변화한다. 지구 대기를 구성하는 주요 성분인 질소, 산소, 아르곤 등은 비교적 일정한 비율을 유지하지만, 수증기(Water vapor)와 이산화 탄소(Carbon dioxide)의 농도는 시간과 장소에 따라 가변적이며, 이는 대기 굴절률의 정밀한 산출에 있어 필수적인 고려 대상이 된다. 특히 수증기는 분자의 구조적 특성상 전자기파와의 상호작용 방식이 건조 공기와 다르므로, 대기 중 습도 분포는 광학적 경로의 왜곡을 유발하는 핵심적인 요인으로 작용한다.

가시광선 영역에서 공기의 굴절률 $ n $을 결정하는 대표적인 수식인 에들렌 공식(Edlén equation)은 온도와 기압 외에도 수증기압의 영향을 독립적인 변수로 포함한다. 건조 공기와 수증기 사이의 굴절률 차이는 각 분자의 편극률(Polarizability) 차이에서 기인한다. 수증기 분자는 영구 쌍극자 모멘트(Dipole moment)를 지니고 있어 외부 전자기장에 대한 반응이 비극성 분자인 질소나 산소와는 상이하다. 일반적으로 가시광선 관측에서 습도가 굴절률 변화에 기여하는 정도는 기온이나 기압에 비해 상대적으로 작아, 약 1% 미만의 미세한 보정치로 나타나는 경우가 많다. 그러나 상대 습도가 매우 높거나 극도로 정밀한 위치 천문학적 계산이 요구되는 상황에서는 이러한 미세한 차이가 관측 오차의 주요 원인이 될 수 있다.

이산화 탄소 농도의 변화 역시 대기 굴절률에 유의미한 영향을 미친다. 현대의 정밀 보정 모델로 널리 사용되는 시도 공식(Ciddor equation)은 이산화 탄소의 농도를 가변 인자로 채택하여, 대기 중 이산화 탄소 함량의 변화가 굴절률에 미치는 영향을 정량적으로 계산한다. 이산화 탄소는 건조 공기의 다른 성분들에 비해 굴절률이 높기 때문에, 농도가 증가할수록 전체 대기의 굴절률은 미세하게 상승하는 경향을 보인다. 이는 기후 변화로 인한 대기 조성의 장기적 변화가 정밀 광학 관측 장비의 보정 계수에도 영향을 미칠 수 있음을 시사한다.

습도가 대기 굴절에 미치는 영향은 관측하는 전자기파의 파장에 따라 극명하게 달라진다. 가시광선 영역에서는 수증기의 영향이 제한적이지만, 전파 영역으로 넘어가면 수증기는 굴절률 결정의 지배적인 변수로 부상한다. 이는 수증기 분자가 지닌 전기적 특성이 마이크로파 대역의 전자기파와 강하게 상호작용하기 때문이다. 따라서 레이더 관측이나 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 신호 지연을 분석할 때는 가시광선 모델과는 다른 전파 굴절률 공식을 적용해야 하며, 이때 대기 하층의 습도 프로파일은 신호의 굴절과 지연 시간을 결정하는 핵심적인 물리량이 된다. 이처럼 대기 조성의 미세한 차이는 빛과 전파의 경로를 재구성함으로써 현대 측지학과 천문학의 정밀도를 규정하는 중요한 물리적 경계 조건을 형성한다.⁷⁾

대기 굴절의 정도가 빛의 파장에 따라 달라지는 현상을 분산(Dispersion)이라 한다. 진공에서의 빛의 속도는 파장과 관계없이 일정하지만, 대기와 같은 유전체 매질 내에서는 빛의 속도가 파장에 따라 변하게 된다. 굴절률(Refractive index)은 진공에서의 빛의 속도와 매질 내에서의 위상 속도 비로 정의되므로, 결과적으로 대기의 굴절률은 입사하는 전자기파의 파장에 의존하는 함수가 된다. 이러한 특성으로 인해 백색광이 대기를 통과할 때 각 파장 성분은 서로 다른 경로로 굴절되며, 이는 관측자에게 천체가 수직 방향으로 길게 늘어진 스펙트럼(Spectrum) 형태로 나타나는 원인이 된다.

일반적으로 대기를 구성하는 기체 분자들의 분극률(Polarizability) 특성상 파장이 짧을수록 굴절률이 높게 나타나는 정상 분산 경향을 보인다. 즉, 가시광선 영역에서 파장이 짧은 보라색이나 청색광은 파장이 긴 적색광보다 더 강하게 굴절된다. 이러한 관계를 정량화하기 위해 코시 방정식(Cauchy’s equation)이 널리 사용되는데, 대기의 굴절률 $ n $과 파장 $ $ 사이의 관계는 다음과 같이 근사할 수 있다.

$$ n(\lambda) = A + \frac{B}{\lambda^2} + \frac{C}{\lambda^4} $$

위 식에서 $ A, B, C $는 대기의 조성, 온도, 압력에 의해 결정되는 상수이다. 보다 정밀한 계산이 요구되는 천문학이나 측지학 분야에서는 에들렌 공식(Edlén formula)이나 이를 수정한 시도르(Ciddor) 방정식을 사용한다. 이 모델들은 공기 중의 이산화 탄소 농도와 수증기 분압을 포함하여 파장에 따른 굴절률 변화를 극도로 정밀하게 예측한다.

대기 분산의 크기는 천체의 천정 거리(Zenith distance)가 증가할수록, 즉 고도가 낮아질수록 급격히 증가한다. 천정 부근에서는 분산 효과가 미미하여 무시할 수 있으나, 지평선 근처에서는 대기층을 통과하는 경로가 길어지며 파장별 굴절각의 차이가 뚜렷해진다. 예를 들어, 지평선 부근의 별을 고해상도 망원경으로 관측하면 별의 윗부분은 청색으로, 아랫부분은 적색으로 번져 보이는 현상이 발생한다. 이는 대기가 거대한 프리즘(Prism)과 같은 역할을 수행하여 별빛을 분해하기 때문이다.

이러한 분산 현상은 고해상도 천체 관측에 있어 심각한 오차 요인으로 작용한다. 특히 행성 관측이나 미세 이중성 관측 시 파장에 따른 상의 분리는 해상력을 저하시키는 주요 원인이 된다. 이를 극복하기 위해 현대 천문학에서는 대기 분산 보정기(Atmospheric Dispersion Corrector, ADC)를 활용한다. 이 장치는 서로 반대 방향으로 회전 가능한 한 쌍의 쐐기형 프리즘을 이용하여 대기에 의해 발생한 분산을 역방향으로 상쇄함으로써, 모든 파장의 빛이 초점면의 한 점에 모이도록 유도한다.

대기 분산은 또한 특이한 광학 현상인 녹색 섬광(Green flash)의 물리적 토대가 된다. 일몰 직전 태양의 마지막 가장자리가 지평선 너머로 사라질 때, 분산에 의해 가장 높게 굴절된 단파장의 빛(녹색 또는 청색)이 가장 나중에 관측자에게 도달하게 된다. 이때 레일리 산란(Rayleigh scattering)에 의해 청색광이 대부분 제거되고 남은 녹색광이 짧은 순간 강하게 인지되는 것이다. 이처럼 파장에 따른 분산 특성은 대기 광학의 복잡성을 이해하고 정밀한 관측 데이터를 보정하는 데 필수적인 요소이다. ^{8) 9)}

대기 굴절은 전자기파가 통과하는 경로상의 대기 상태와 관측 대상의 상대적 위치, 그리고 사용되는 파장의 범위에 따라 여러 유형으로 분류된다. 이러한 분류는 천문학, 측지학, 통신공학 등 각 학문 분야에서 요구하는 정밀도와 분석 대상의 물리적 특성이 다르기 때문에 발생한다. 주요 분류 체계는 관측 대상이 대기권 밖에 있는지 혹은 내부에 있는지에 따른 위치적 구분과, 가시광선과 전파 중 어느 영역을 다루는지에 따른 파장별 구분으로 나뉜다.

천문 대기 굴절(Astronomical Refraction)은 우주 공간의 진공 상태에서 지구 대기로 진입하는 천체의 빛이 겪는 굴절 현상을 의미한다. 이 경우 관측 대상인 별이나 행성은 실질적으로 무한히 먼 거리에 있다고 가정하므로, 광선은 대기권 상단에서 지표면의 관측자에게 도달할 때까지 대기 밀도가 점진적으로 증가함에 따라 곡선을 그리며 굴절된다. 천문 대기 굴절의 크기는 천체의 천정각(zenith angle)에 따라 결정되며, 천정이 0일 때는 굴절이 일어나지 않으나 지평선에 가까워질수록 굴절량이 급격히 증가하여 지평선 부근에서는 약 34분(arcminute)에 달하는 오차를 발생시킨다. 이는 태양이나 달이 실제로는 지평선 아래에 있음에도 불구하고 우리 눈에는 지평선 위에 떠 있는 것처럼 보이게 하는 원인이 된다.

지상 대기 굴절(Terrestrial Refraction)은 지구 대기권 내부에 위치한 두 지점 사이에서 발생하는 광파의 굴절을 다룬다. 삼각 측량이나 정밀 레벨링(leveling)과 같은 측지 관측에서 매우 중요한 요소로 다뤄지며, 광로 전체가 대기 밀도 변화가 심한 지표면 근처에 형성된다는 특징이 있다. 지상 굴절의 정도는 흔히 굴절 계수(Refraction coefficient, $ k $)로 표현되는데, 이는 지구의 곡률 반경($ R $)에 대한 광선 경로의 곡률 반경($ $)의 비로 정의된다. 일반적인 대기 상태에서 $ k $값은 약 0.13 내외의 값을 가지나, 지표면 근처의 급격한 온도 구배에 따라 이 값은 크게 변동하며 심지어 음의 값을 가짐으로써 상하가 뒤집힌 신기루 현상을 유발하기도 한다¹⁰⁾.

전파 굴절(Radio Refraction)은 가시광선 이외의 라디오파 영역에서 발생하는 굴절 현상을 일컫는다. 전파는 가시광선에 비해 대기 중의 수증기 함량에 훨씬 민감하게 반응하므로, 대류권에서의 굴절률 계산 시 습도의 영향을 정밀하게 반영해야 한다¹¹⁾. 또한, 전파는 고도 60km 이상의 전리층을 통과할 때 자유 전자 밀도에 의해 경로가 휘어지는 전리층 굴절을 겪게 된다. 이는 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 신호 지연 및 위치 오차를 유발하는 핵심 요인이 된다. 전파 굴절은 주파수에 따라 굴절률이 변하는 분산(dispersion) 특성이 가시광선과 다르기 때문에, 초단파(VHF)나 극초단파(UHF)를 이용한 통신 및 레이더 관측에서 별도의 보정 모델이 요구된다¹²⁾.

아래 표는 대기 굴절의 주요 분류에 따른 특성을 비교한 것이다.

이러한 대기 굴절의 세부 분류는 관측 환경에 적합한 물리 모델을 선택하는 기준이 된다. 예를 들어, 천문 관측에서는 대기를 평행한 층으로 가정하는 평면 층 모델을 사용할 수 있으나, 지상 관측에서는 지표면의 곡률과 국지적인 기상 변화를 반드시 고려해야 한다. 각 유형에 대한 정밀한 수학적 모델링은 현대 과학의 측정 정밀도를 결정짓는 기초 연구 분야로 기능하고 있다.

천문 대기 굴절(Astronomical refraction)은 우주 공간의 진공 상태를 통과하던 천체의 빛이 지구 대기권에 진입하면서 굴절되어, 관측자가 천체의 실제 위치와는 다른 방향에서 빛을 수신하게 되는 현상을 의미한다. 외계 공간에서 지구 대기로 입사하는 광선은 대기의 밀도가 고도에 따라 연속적으로 증가함에 따라 지표면 방향으로 점진적으로 휘어진다. 이로 인해 모든 천체는 실제 고도보다 더 높은 위치에 있는 것처럼 관측되며, 이러한 오차는 천문학적 위치 측정과 항해술, 위성 통신 등에서 반드시 보정되어야 할 핵심적인 요소이다.

천문 대기 굴절의 크기는 천체의 천정각(Zenith angle)에 결정적인 영향을 받는다. 광선이 천정(Zenith)에서 입사할 때, 즉 천정각이 $ 0^$일 때는 대기 층과 수직으로 입사하므로 굴절이 발생하지 않는다. 그러나 천정각이 커질수록, 즉 천체의 고도가 낮아질수록 광선이 통과해야 하는 대기의 경로(Air mass)가 길어지며 굴절량 또한 급격히 증가한다. 천정각 $ z $가 약 $ 70^$ 이하인 비교적 높은 고도에서는 대기 굴절량 $ R $을 다음과 같은 간략한 공식으로 근사할 수 있다.

$$ R = (n_0 - 1) \tan z $$

여기서 $ n_0 $는 지표면에서의 공기 굴절률이며, 표준 상태의 대기에서 $ n_0 - 1 $은 약 58.2초(“)의 값을 가진다. 그러나 천체가 지평선에 가까워질수록 대기 층의 곡률과 대기 밀도의 비균질성을 고려해야 하므로 단순한 탄젠트 공식으로는 설명이 불가능해진다. 지평선 부근에서의 대기 굴절량은 평균적으로 약 34분(’)에 달하며, 이는 태양이나 달의 겉보기 지름과 유사한 크기이다. 결과적으로 태양의 하단이 실제로는 지평선 아래에 위치하더라도 대기 굴절로 인해 지평선 위에 걸쳐 있는 것처럼 보이는 현상이 발생하며, 이는 이론적인 일출 및 일몰 시간을 실제보다 앞당기거나 늦추는 원인이 된다.

대기 굴절은 빛의 파장에 따라 그 정도가 달라지는 분산 현상을 동반한다. 짧은 파장의 푸른색 빛은 긴 파장의 붉은색 빛보다 더 크게 굴절된다. 이러한 원리로 인해 지평선 근처의 별을 고배율 망원경으로 관측하면 별의 상이 수직 방향으로 미세하게 무지개색으로 번져 보이는 대기 분산 현상을 목격할 수 있다. 특히 대기 상태가 매우 안정적일 때 일몰 직전 태양의 윗부분이 순간적으로 녹색으로 빛나는 녹색 섬광 현상은 이러한 파장별 굴절률 차이가 극대화되어 나타나는 대표적인 사례이다.

정밀한 천체 관측을 위해서는 관측 당시의 기온, 기압, 습도를 반영한 정교한 굴절 모델이 요구된다. 현대 천문학에서는 카시니(Cassini) 모델이나 베셀(Bessel)의 굴절 표를 개선한 수치 모델을 사용하며, 대기권의 상태를 다층 구조로 가정하여 적분하는 방식을 취한다. 특히 전파 천문학에서는 가시광선 영역과는 달리 대기 중의 수증기 함량에 의한 굴절 효과가 훨씬 크게 나타나므로, 전파의 지연 및 굴절을 보정하기 위한 별도의 대기 투과 모델이 필수적으로 적용된다. 이러한 보정 과정은 우주 망원경이 아닌 지상 기반 관측소에서 천체의 정밀한 적경과 적위를 결정하는 데 있어 필수적인 기초 단계이다.

지상 대기 굴절(Terrestrial atmospheric refraction)은 관측자와 관측 대상이 모두 지구 대기권 내부에 위치할 때 발생하는 광학적 굴절 현상을 의미한다. 이는 외계의 천체로부터 오는 빛이 대기 전체를 통과하며 굴절되는 천문 대기 굴절과 대비되는 개념으로, 주로 지표면 인근의 지표 경계층(Surface boundary layer)에서 발생하는 대기 상태의 불균질성에 의해 결정된다. 지상 대기 굴절은 측지학, 항법, 군사학 등 지표면에서의 정밀한 거리 및 높이 측정이 요구되는 분야에서 핵심적인 고려 요소로 다루어진다.

지상 대기 굴절의 물리적 기제는 고도에 따른 공기의 밀도 변화와 그로 인한 굴절률의 구배(gradient)에 있다. 공기의 굴절률 $ n $은 기압에 비례하고 절대온도에 반비례하는 특성을 가지는데, 지표면 근처에서는 기압의 변화보다 기온 구배(Temperature gradient)가 굴절률의 수직 변화율 $ dn/dh $에 더 지배적인 영향을 미친다. 일반적인 대기 상태에서는 고도가 상승함에 따라 기온이 낮아지고 밀도가 감소하므로, 지표면과 수평하게 진행하는 광선은 밀도가 높은 아래쪽으로 휘어지게 된다. 이러한 광선의 굴절 경로는 지구의 곡률 방향과 일치하므로, 관측자는 지평선 너머에 있는 물체를 실제 위치보다 다소 높은 곳에 있는 것으로 인식하거나, 기하학적 지평선 아래에 숨겨진 대상을 관측할 수 있게 된다.

광선의 휘어짐 정도를 정량화하기 위해 측량학에서는 굴절 계수(Coefficient of refraction, $ k $)를 사용한다. 굴절 계수는 지구의 평균 반지름 $ R $에 대한 광선 경로의 곡률 반지름 $ $의 비로 정의되며, 다음과 같은 관계식을 갖는다.

$$ k = \frac{R}{\rho} = -R \frac{1}{n} \frac{dn}{dh} $$

표준적인 대기 조건에서 굴절 계수 $ k $는 약 0.13에서 0.14 사이의 값을 가지며, 이는 광선의 곡률이 지구 곡률의 약 1/7 수준임을 의미한다. 그러나 지표면 근처의 기온 분포가 급격히 변하는 환경, 예를 들어 뜨거운 아스팔트 위나 차가운 수면 위에서는 기온 역전 현상이나 극심한 기온 강하로 인해 $ k $값이 음수가 되거나 1보다 커지는 등 비정상적인 굴절이 발생한다. 이러한 극단적인 지상 대기 굴절은 물체가 공중에 떠 보이거나 하단이 잘려 보이는 신기루 현상의 직접적인 원인이 된다.

지상 대기 굴절은 지형지물의 가시성뿐만 아니라 정밀 측량의 정확도에도 유의미한 영향을 미친다. 두 지점 사이의 고도 차이를 측정하는 수준 측량(Leveling)이나 삼각 측량에서 대기 굴절로 인한 수직 위치 오차는 거리에 비례하여 누적된다. 거리 $ D $에 따른 고도 오차 $ h $는 대략 다음과 같이 근사할 수 있다.

$$ \Delta h = \frac{1-k}{2R} D^2 $$

이 식에서 알 수 있듯이, 굴절 계수 $ k $를 정확히 산정하지 못할 경우 장거리 측량에서 심각한 오차가 발생한다. 따라서 현대의 고정밀 측량 시스템은 관측 당시의 기온, 기압 및 습도를 실시간으로 측정하여 굴절률 모델에 반영하거나, 서로 마주 보는 두 지점에서 동시에 각도를 측정하여 굴절 효과를 상쇄하는 방식을 채택한다. 결과적으로 지상 대기 굴절은 지표면 관측의 물리적 한계를 규정하는 동시에, 이를 정밀하게 모델링하는 것이 지구 형상과 물체 위치를 정확히 파악하기 위한 필수적 공정이라 할 수 있다.

전파(Radio wave) 영역에서의 대기 굴절은 가시광선을 대상으로 하는 광학적 굴절과 구별되는 독특한 물리적 특성을 지닌다. 전파는 광파에 비해 주파수가 낮고 파장이 길기 때문에 대기 중의 수증기(Water vapor) 콘텐츠와 전리층(Ionosphere) 내의 자유 전자 밀도에 훨씬 민감하게 반응한다. 특히 대기권 하층부인 대류권(Troposphere)에서는 기온과 기압뿐만 아니라 수증기의 부분압이 굴절률 결정에 결정적인 역할을 수행하며, 대기권 상층부인 전리층에서는 매질의 분산(Dispersion) 특성으로 인해 주파수에 따른 굴절 정도가 달라지는 현상이 두드러진다. 이러한 전파 굴절 특성은 레이더(Radar) 관측, 위성 통신, 그리고 지상 무선 통신의 전파 경로 설계에서 핵심적인 고려 요소가 된다.

대류권과 같은 중성 대기에서 전파의 굴절률(n)은 1에 매우 가까운 값을 가지므로, 실제 계산에서는 이를 변형한 굴절도(Refractivity, N) 단위를 주로 사용한다. 굴절도 $ N $은 $ N = (n - 1) ^6 $으로 정의되며, 전파 영역에서의 굴절도는 건조 공기에 의한 성분과 수증기에 의한 성분의 합으로 나타낼 수 있다. 이를 정량화한 대표적인 식은 스미스-와인트라우브(Smith-Weintraub) 공식이며 다음과 같이 표현된다.

$$ N = 77.6 \frac{P}{T} + 3.73 \times 10^5 \frac{e}{T^2} $$

여기서 $ P $는 전체 기압(hPa), $ T $는 절대온도(K), $ e $는 수증기 분압(hPa)을 의미한다. 식에서 알 수 있듯이, 광학적 굴절에서는 수증기의 영향이 미미한 것과 대조적으로 전파 굴절에서는 온도와 수증기압의 비율이 굴절도에 큰 기여를 한다. 특히 고도에 따른 수증기량의 급격한 변화는 전파 경로를 지표면 방향으로 강하게 휘게 만들거나, 특정 층에 전파가 갇혀 멀리까지 전달되는 덕팅(Ducting) 현상을 유발하기도 한다.

전리층에서의 전파 굴절은 중성 대기와는 전혀 다른 물리적 메커니즘을 따른다. 전리층은 태양 복사에 의해 전리된 자유 전자와 이온들이 존재하는 플라스마(Plasma) 상태의 매질이다. 이 영역에서 전파의 굴절률은 전자의 밀도와 전파의 주파수에 의존하며, 대략적인 관계는 애플턴-하트리 방정식(Appleton-Hartree equation)의 간략화된 형태를 통해 이해할 수 있다. 전리층의 굴절률 $ n_{ion} $은 다음과 같이 근사된다.

$$ n_{ion} \approx \sqrt{1 - \frac{f_p^2}{f^2}} $$

이 식에서 $ f $는 전파의 주파수이며, $ f_p $는 플라스마 주파수로 전자 밀도의 제곱근에 비례한다. 전리층은 주파수가 낮을수록 굴절 효과가 강해지며, 특정 임계 주파수 이하의 전파는 전리층에서 완전히 반사되어 지상으로 되돌아오는 성질을 갖는다. 반면, 단파(Shortwave) 이상의 고주파수 전파는 전리층을 투과하지만, 경로가 굴절되거나 지연되는 현상이 발생한다. 이는 위성 항법 시스템(Global Navigation Satellite System, GNSS)에서 위성 신호가 수신기에 도달하는 시간을 지연시켜 거리 측정 오차를 유발하는 주요 원인이 된다.

전파 굴절의 수직 구배에 따라 대기 환경은 표준 굴절, 초굴절, 아굴절로 분류된다. 표준 대기 상태에서는 고도가 상승함에 따라 굴절률이 감소하여 전파 경로가 지구 곡률보다 완만하게 아래로 굽어진다. 그러나 지표면 인근에 강한 기온 역전층이 형성되거나 습도가 급격히 감소할 경우, 전파가 지구 곡률보다 더 가파르게 굽어지는 초굴절(Super-refraction)이 발생한다. 극단적인 초굴절 상황에서는 전파가 특정 대기층 사이에 갇혀 수평선 너머 아주 먼 곳까지 전파되는 도파관(Waveguide) 효과가 나타나는데, 이를 대기 덕트(Atmospheric duct)라고 한다. 반대로 고도에 따라 굴절률이 증가하는 특이 상황에서는 전파가 하늘 방향으로 솟구치는 아굴절(Sub-refraction)이 발생하여 레이더의 탐지 거리가 급격히 단축되기도 한다.

이러한 전파 굴절 특성은 현대 무선 공학에서 정밀한 보정을 요구한다. 예를 들어, 레이더 시스템은 굴절로 인한 경로 왜곡을 보정하기 위해 지구의 유효 반지름을 실제보다 크게 설정하는 유효 지구 반경(Effective Earth Radius) 모델을 사용한다. 또한, 위성 통신에서는 전리층의 총 전자수(Total Electron Content, TEC)를 실시간으로 관측하여 전파 지연에 따른 위치 오차를 보정함으로써 고정밀 측위 성능을 확보한다. 전파 굴절에 대한 심도 있는 분석은 단순한 물리 현상의 이해를 넘어, 전 지구적 통신 인프라의 안정성과 신뢰성을 구축하는 이론적 토대가 된다.^{13) 14)}

대기 굴절은 관측자와 대상 사이의 대기 밀도 분포에 따라 빛의 경로가 휘어짐으로써 다양한 광학적 변형을 야기한다. 이러한 현상은 단순히 물체의 위치를 다르게 인식시키는 데 그치지 않고, 물체의 형상이나 색채까지 왜곡하며 때로는 실제 존재하지 않는 허상을 만들어내기도 한다. 대기 굴절로 인한 가장 보편적인 현상은 천체의 겉보기 고도가 실제보다 높게 측정되는 천문 굴절(astronomical refraction)이다. 우주 공간에서 지구 대기로 진입하는 빛은 고도가 낮아질수록 점진적으로 증가하는 대기 밀도와 접하게 된다. 스넬의 법칙(Snell’s law)에 따라 빛은 밀도가 높은 쪽, 즉 지표면 방향으로 굴절되므로 관측자의 눈에는 광선이 입사된 최종 방향에 천체가 있는 것으로 인식된다. 이러한 효과는 천체가 지평선에 가까울수록 극대화된다. 이는 광선이 통과해야 하는 대기층의 경로가 길어지고 밀도 구배(density gradient)에 의한 누적 굴절량이 증가하기 때문이다.

지평선 인근에서 관측되는 태양이나 달의 형태 왜곡은 대기 굴절의 비균질적 특성을 보여주는 대표적인 사례이다. 천체가 지평선에 걸쳐 있을 때, 천체의 하단부에서 오는 빛은 상단부에서 오는 빛보다 상대적으로 밀도가 더 높은 대기층을 통과하게 된다. 이로 인해 하단부의 굴절량이 상단부보다 커지게 되어, 천체가 수직 방향으로 압축된 타원체 형상으로 관측된다. 일반적인 대기 상태에서 지평선에 접한 태양의 수직 지름은 실제보다 약 20% 정도 수축되어 관측된다. 또한, 이러한 굴절 현상은 천체가 실제로는 지평선 아래로 사라진 후에도 수 분간 관측 가능하게 함으로써 낮의 길이를 연장하는 효과를 가져온다.

신기루(mirage)는 지표면 근처 대기의 온도 구배가 비정상적으로 형성될 때 발생하는 대표적인 굴절 현상이다. 지면이 강하게 가열되어 하층 대기의 밀도가 상층보다 낮아지는 경우 광선은 위쪽으로 휘어지며, 이때 지면 근처에 물체의 도립상이 나타나는 하위 신기루(inferior mirage)가 발생한다. 반대로 상층의 온도가 하층보다 높은 기온 역전(temperature inversion) 층이 형성되면 광선은 지표면 방향으로 강하게 굴절되어, 물체가 실제 위치보다 높은 곳에 떠 있거나 거꾸로 매달린 것처럼 보이는 상위 신기루(superior mirage)가 나타난다. 특히 극지방이나 차가운 수면 위에서 발생하는 복잡한 형태의 상위 신기루인 파타 모르가나(Fata Morgana)는 대기 굴절이 만들어내는 가장 정교한 시각적 왜곡 중 하나로 꼽힌다.

대기는 매질로서 분산(dispersion) 특성을 지니고 있어, 빛의 파장(wavelength)에 따라 굴절률이 다르게 나타난다. 단파장인 푸른색 계열의 빛은 장파장인 붉은색 계열보다 더 크게 굴절된다. 이러한 분산 효과는 일출이나 일몰 직후 태양의 가장자리에서 짧은 순간 동안 녹색 빛이 관측되는 녹색 섬광(green flash) 현상을 유발한다. 태양이 지평선 아래로 내려갈 때 붉은색 빛이 먼저 시야에서 사라지고, 상대적으로 더 크게 굴절되어 끝까지 남아 있던 녹색 빛이 대기 산란을 뚫고 관측자에게 도달하는 것이다. 이 현상은 대기가 매우 맑고 지평선이 뚜렷한 조건에서만 관측될 수 있는 정밀한 광학적 결과물이다¹⁵⁾.

대기 굴절은 가시광선 영역을 넘어 전파(radio wave)의 전파 경로에도 영향을 미친다. 대기 중의 수증기량과 기압 변화는 전파의 굴절률을 결정하며, 이는 레이더(radar) 탐지 거리의 연장이나 오차를 발생시키는 원인이 된다. 특히 표준 대기 상태보다 굴절이 심하게 일어나는 초굴절(super-refraction) 상태에서는 전파가 지표면의 곡률을 따라 평소보다 훨씬 먼 곳까지 전달되는 도관 현상(ducting)이 발생하기도 한다. 이처럼 대기 굴절로 인한 광학적 및 전자기적 현상들은 지구 대기의 물리적 상태를 실시간으로 반영하는 지표로서 학술적 의의를 지닌다.

천문학(Astronomy) 관측에서 대기 굴절은 천체의 실제 위치와 관측자가 인지하는 시각적 위치 사이에 필연적인 차이를 발생시킨다. 우주 공간의 진공 상태를 통과하던 천체의 빛이 지구 대기권으로 진입하면, 고도에 따라 점진적으로 증가하는 대기 밀도로 인해 빛의 경로는 지면을 향해 굴절된다. 이때 관측자는 빛이 최종적으로 도달한 방향의 연장선상에 천체가 위치하는 것으로 인식하므로, 모든 천체는 천정(Zenith) 방향으로 들려 올려진 것처럼 보이게 된다. 이러한 현상을 천문 굴절(Astronomical refraction)이라 하며, 천체의 실제 고도(Altitude)와 겉보기 고도 사이의 차이는 천체가 지평선(Horizon)에 가까워질수록 기하급수적으로 증폭된다.

천체의 실제 고도를 $ h_{true} $, 대기 굴절에 의해 수정된 겉보기 고도를 $ h_{app} $라고 할 때, 굴절각 $ R $은 두 값의 차이인 $ R = h_{app} - h_{true} $로 정의된다. 대기 상태가 표준적이라고 가정할 때, 천체가 천정에 위치하여 천정거리(Zenith distance)가 0인 경우에는 대기 밀도 구배와 빛의 진행 방향이 평행하므로 굴절이 발생하지 않는다. 그러나 천정거리가 증가함에 따라 굴절량은 대략적으로 $ z $에 비례하여 증가하는 경향을 보이며, 일반적인 기상 조건 하에서 천정거리가 약 45도인 천체의 굴절각은 약 1각분(Arcminute)에 해당한다. 이를 수식으로 간략화하면 다음과 같은 관계식이 성립한다.

$$ R \approx 58.2'' \tan z - 0.067'' \tan^3 z $$

여기서 $ z $는 관측된 겉보기 천정거리이다. 해당 식은 천정거리가 비교적 작은 영역에서는 높은 정확도를 보이지만, 지평선에 극도로 가까워지는 경우에는 대기의 곡률과 복잡한 밀도 구배(Density gradient)를 정밀하게 반영한 카시니 모델(Cassini model)이나 베셀의 굴절 공식 등을 적용해야 한다.

특히 지평선 부근에서의 대기 굴절은 그 영향이 매우 극단적으로 나타난다. 지평선에 걸쳐 있는 천체의 경우, 대기 굴절각은 평균적으로 약 34각분에 달한다. 이는 태양이나 달의 평균적인 겉보기 시지름(Angular diameter)인 약 31~32각분보다 큰 수치이다. 따라서 일출이나 일몰 시 관측자가 지평선 위로 태양의 하단이 접하는 것을 보는 순간, 실제 태양의 기하학적 위치는 이미 지평선 아래로 완전히 가라앉아 있는 상태가 된다. 결과적으로 대기 굴절은 낮의 길이를 수 분 정도 연장시키는 효과를 가져오며, 이는 역법 계산과 항해 및 측지학적 관측에서 반드시 보정되어야 할 요소로 다루어진다.

또한, 지평선 근처에서는 고도에 따른 굴절률의 변화율이 매우 가파르기 때문에 천체의 상단과 하단에 작용하는 굴절량의 차이가 발생하는 차등 굴절(Differential refraction) 현상이 두드러진다. 태양이나 달이 지평선에 인접할 때, 하단부는 상단부보다 더 밀도가 높은 대기층을 통과하게 되어 더 크게 굴절된다. 이로 인해 천체의 수직 방향 시지름은 수평 방향에 비해 약 20%가량 압축되어 보이며, 결과적으로 천체가 완전한 원형이 아닌 위아래로 납작한 타원형으로 왜곡되어 관측된다. 이러한 광학적 변형은 대기 하층의 기온 역전층이나 습도 변화에 따라 더욱 복잡한 양상을 띠며, 때로는 천체의 테두리가 계단 모양으로 일그러지거나 분산 현상과 결합하여 색채의 왜곡을 동반하기도 한다.

신기루(Mirage)는 대기 내의 비정상적인 온도 구배(temperature gradient)로 인해 발생하는 대표적인 대기 굴절 현상으로, 관측자가 물체의 실제 위치가 아닌 굴절된 경로를 따라 형성된 허상을 목격하게 되는 광학적 투영을 의미한다. 대기를 구성하는 공기의 굴절률 $ n $은 공기의 밀도와 밀접한 상관관계를 가지며, 이는 다시 기온과 기압의 함수로 표현된다. 일반적인 대기 상태에서는 고도가 상승함에 따라 기온이 하강하고 밀도가 낮아지지만, 지표면의 열적 상태에 따라 이러한 수직 구조가 급격히 변화할 때 빛의 경로는 페르마의 원리(Fermat’s principle)에 의해 최단 시간이 소요되는 곡선 궤적을 그리게 된다. 이러한 굴절 경로의 곡률이 지구 표면의 곡률보다 크거나 반대 방향일 때 신기루가 형성된다.

하위 신기루(Inferior mirage)는 지표면의 온도가 상층 대기보다 현저히 높을 때 발생하는 현상이다. 여름철 강렬한 일사에 의해 가열된 아스팔트 도로나 사막의 모래 표면과 접한 공기층은 열전달을 통해 온도가 급격히 상승한다. 이때 지면 근처 공기의 밀도는 낮아지고 상층으로 갈수록 밀도가 높아지는 구조가 형성되는데, 이는 고도 $ h $에 따른 굴절률 구배 $ dn/dh $가 양(+)의 값을 가짐을 의미한다. 상층의 물체나 하늘에서 지면을 향해 비스듬히 내려오는 광선은 굴절률이 낮은 지면 근처에서 위쪽으로 휘어지며 관측자의 눈에 도달한다. 인간의 시각 체계는 광선이 직선으로 진행해 온 것으로 인식하므로, 실제 대상 아래쪽에 뒤집힌 상(inverted image)이 맺히는 것을 보게 된다. 사막에서 멀리 떨어진 푸른 하늘의 허상이 지면에 맺혀 마치 물웅덩이가 있는 것처럼 보이는 현상이 하위 신기루의 전형적인 사례이다.

반대로 상위 신기루(Superior mirage)는 지표면이 매우 차갑고 상층의 기온이 더 높은 기온 역전(temperature inversion) 층에서 형성된다. 주로 차가운 해수면이나 빙원 위에서 관측되며, 고도가 높아질수록 기온이 상승하고 밀도와 굴절률은 감소한다. 이 환경에서 굴절률 구배 $ dn/dh $는 평소보다 큰 음(-)의 값을 나타내며, 광선은 굴절률이 높은 하층에서 위쪽으로 진행하다가 다시 지표면 방향으로 굴절되어 내려온다. 관측자는 실제 물체가 지평선 위 공중에 떠 있거나, 실제보다 비정상적으로 높게 확대된 상을 보게 된다. 상위 신기루는 하위 신기루보다 안정적인 대기 층후에서 발생하므로 허상의 지속 시간이 길고 명확한 경우가 많다. 특히 북극해와 같은 고위도 지역에서는 이러한 굴절 효과로 인해 지평선 너머에 있는 배나 섬이 공중에 거꾸로 매달린 채 관측되기도 한다.

신기루의 형상과 복잡성은 대기층의 수직적 온도 분포가 얼마나 비선형적인지에 따라 결정된다. 온도 분포가 단순히 증가하거나 감소하는 것을 넘어 다층 구조의 복잡한 구배를 이룰 때 발생하는 파타 모르가나(Fata Morgana)는 상위 신기루의 극단적인 변형체이다. 이는 물체의 상을 수직으로 길게 늘리거나 압축하고, 정립상과 도립상을 복합적으로 중첩시켜 마치 성벽이나 거대한 산맥과 같은 기괴한 형태를 만들어낸다. 이러한 현상은 대기 굴절이 단순한 시각적 오차를 유발하는 것을 넘어, 기상 광학에서 물체의 기하학적 형태를 완전히 재구성할 수 있는 역학적 과정임을 시사한다¹⁶⁾.

지평선(horizon) 인근에서 태양이나 달이 완전한 원형이 아닌 수직 방향으로 압축된 타원형으로 관측되는 현상은 대기 굴절(atmospheric refraction)의 비선형성(nonlinearity)에 기인한다. 이러한 형태 왜곡은 천체의 하단부와 상단부가 통과하는 대기층의 밀도 차이로 인해 발생하는 굴절률(refractive index)의 구배(gradient) 때문에 나타난다. 지구 대기는 중력과 기압 차이에 의한 정역학적 평형(hydrostatic equilibrium)을 유지하며, 지표면에 가까울수록 밀도(density)가 높고 고도가 상승함에 따라 밀도가 급격히 감소하는 구조를 가진다. 이에 따라 빛의 경로가 휘어지는 정도인 굴절각 역시 스넬의 법칙(Snell’s law)에 따라 고도에 따라 차등적으로 적용된다.

천체가 지평선에 매우 가까워질 때, 관측자의 시선 방향에서 천체의 하단부와 상단부 사이에는 약 $0.5^{\circ}$의 고도 차이가 존재한다. 태양과 달의 평균적인 각지름(angular diameter)은 약 $0.5^{\circ}$, 즉 $30'$이다. 국제 표준 대기 상태에서 지평선($0^{\circ}$)에 위치한 천체에 작용하는 대기 굴절각은 약 $34'$에 달하며, 이는 천체의 실제 위치가 지평선 아래에 있더라도 지평선 위로 떠 있는 것처럼 보이게 하는 부상(apparent rising) 현상을 일으킨다. 그러나 천체의 상단부는 하단부보다 더 높은 고도에 위치하므로 대기 밀도가 상대적으로 낮으며, 이 지점에서의 굴절각은 하단부보다 작게 나타난다. 고도에 따른 굴절각의 변화율은 지평선 부근에서 가장 가파르기 때문에, 하단부는 상단부보다 훨씬 더 큰 상향 변위를 겪게 된다.

이러한 차등적 굴절의 결과로 천체의 수직 방향 폭이 물리적으로 압축되는 현상이 발생한다. 예를 들어, 하단부가 지평선에 접해 있을 때 하단은 약 $34'$ 위로 들어 올려지지만, 상단부는 상대적으로 낮은 굴절률의 영향을 받아 약 $29'$ 정도만 위로 이동하게 된다. 이 경우 천체의 겉보기 수직 지름은 실제보다 약 $5'$ 정도 단축되며, 이는 본래 지름의 약 17%에 달하는 현저한 왜곡이다. 반면 수평 방향의 지름은 천체의 양 끝단이 동일한 고도에 위치하여 광선이 경험하는 굴절의 크기가 거의 동일하므로, 수직 방향과 같은 압축이 발생하지 않는다. 결과적으로 관측자는 종횡비가 왜곡된 타원체 형상의 천체를 관측하게 된다.

이러한 형태 왜곡의 정도는 대기의 상태, 특히 기온 감률(lapse rate)과 습도 분포에 따라 달라진다. 대기 하층에 강한 기온 역전(temperature inversion)층이 형성되어 고도에 따른 밀도 변화가 일반적인 경우보다 극심해질 경우, 천체의 하단이 비정상적으로 늘어나거나 잘려 나가는 것과 같은 복잡한 기하학적 변형이 관찰되기도 한다. 이는 신기루(mirage) 현상 중 하나인 하굴절 신기루(inferior mirage)와 결합하여 태양이 마치 그리스 문자 오메가($\Omega$)와 같은 형상으로 보이는 오메가 태양 현상을 야기하는 물리적 토대가 된다. 이처럼 천체의 형태 왜곡은 단순한 시각적 착시가 아니라, 매질의 밀도 불균질성에 의해 광선의 광학적 경로가 페르마의 원리를 따라 재구성되는 과정에서 발생하는 정량적인 물리 현상이다.

녹색 섬광(Green flash)은 일몰이나 일출 시 태양의 윗부분이 지평선에 걸쳐 있을 때, 태양의 상단 가장자리가 순간적으로 밝은 녹색으로 빛나는 대기 광학 현상이다. 이 현상은 대기 굴절에 의한 분산(Dispersion)과 산란(Scattering), 그리고 특정 기상 조건에서의 신기루(Mirage) 효과가 복합적으로 작용하여 발생한다. 녹색 섬광은 짧게는 1~2초에서 길게는 수 초간 지속되며, 대기가 매우 맑고 지평선이 뚜렷한 해안가나 고산 지대에서 주로 관측된다.

이 현상의 근본적인 원인은 대기가 빛을 굴절시키는 과정에서 파장에 따라 굴절 정도가 달라지는 분산 현상에 있다. 지구 대기는 고도가 낮아질수록 밀도가 높아지므로, 외부에서 진입하는 빛은 지표면 방향으로 휘어진다. 이때 굴절률(Refractive index)은 파장에 반비례하므로, 파장이 짧은 푸른색 계열의 빛은 파장이 긴 붉은색 계열의 빛보다 더 크게 굴절된다. 결과적으로 태양의 이미지는 파장별로 분리되어, 붉은색 태양 위에 녹색 태양, 그 위에 파란색 태양이 미세하게 겹쳐진 형태로 나타난다. 일몰 시 붉은색과 노란색의 태양 원반이 지평선 아래로 사라진 직후, 대기에 의해 더 높게 굴절된 녹색과 파란색 부분이 마지막까지 지평선 위에 남게 되는 것이다.

이론적으로는 파장이 가장 짧은 보라색이나 파란색이 가장 마지막에 보여야 하지만, 실제 관측에서는 녹색이 주를 이룬다. 이는 레일리 산란(Rayleigh scattering)에 의한 결과이다. 빛이 두꺼운 대기층을 통과하는 동안 파장이 짧은 파란색과 보라색 광자는 대기 중의 분자들과 충돌하여 사방으로 산란되어 관측자의 시선 방향에서 이탈한다. 반면 상대적으로 산란이 적게 일어나면서도 굴절률이 충분히 큰 녹색 광선은 관측자에게 도달할 수 있는 생존 파장대가 된다. 또한 인간의 시각 시스템이 녹색 파장에 대해 높은 민감도를 보이는 것도 이 현상이 ’녹색’으로 인지되는 데 기여한다.

단순한 대기 분산만으로는 녹색 띠의 수직 폭이 약 20초각($ 20’’ $) 정도로 매우 좁아 육안으로 식별하기 어렵다. 따라서 흔히 관측되는 녹색 섬광은 대기의 온도 역전층에 의해 발생하는 신기루 현상을 동반한다. 대기 하층의 온도 분포에 따라 발생하는 하위 신기루(Inferior mirage)나 가짜 신기루(Mock mirage)는 수직 방향의 광학적 확대 작용을 일으킨다. 이러한 확대 효과는 미세한 녹색 테두리(Green rim)를 수직으로 늘려 관측 가능한 크기의 섬광으로 변모시킨다. 신기루의 유형에 따라 녹색 섬광은 태양 원반에서 떨어져 나온 모래시계 형태나, 태양 상단에 붙어 있는 뾰족한 첨탑 형태로 나타나기도 한다.

녹색 섬광은 대기의 성층 구조와 밀접한 관련이 있어 기상학적 연구 가치를 지닌다. 특히 대기가 매우 안정되어 있고 오염 물질이 적어 산란이 최소화될 때 가장 선명하게 관측된다. 드물게 대기가 극도로 깨끗한 조건에서는 산란되지 않은 파란색 빛이 끝까지 남아 청색 섬광(Blue flash)이 관측되는 경우도 보고되고 있다. 이는 대기 굴절이 단순한 위치 왜곡을 넘어 천체의 분광 특성까지 변화시킬 수 있음을 보여주는 대표적인 사례이다. ¹⁷⁾

대기 굴절에 대한 인식은 인류가 천체를 관측하기 시작한 고대부터 존재해 왔으며, 이를 정량적으로 해석하려는 시도는 광학과 천문학의 발전에 핵심적인 동력을 제공하였다. 대기 굴절을 이해하기 위한 역사적 여정은 단순한 현상 관찰에서 시작하여, 대기의 물리적 구조를 반영한 정교한 수학적 모델의 수립으로 진화하였다.

고대 그리스 시대의 클레오메데스(Cleomedes)는 수평선 아래에 있는 태양이 대기에 의해 보일 수 있다는 가능성을 처음으로 언급한 인물 중 하나로 알려져 있다. 이후 서기 2세기경 프톨레마이오스(Claudius Ptolemaeus)는 그의 저서인 ’광학(Optics)’에서 빛이 밀도가 다른 매질을 통과할 때 굴절된다는 사실을 실험적으로 증명하고, 이를 천문 대기 굴절 현상에 연결하였다. 그는 대기를 지표면에서 일정 높이까지 균일한 밀도를 가진 층으로 가정하는 균질 대기(Homogeneous Atmosphere) 모델의 초기 형태를 제시하였다¹⁸⁾. 중세 이슬람의 학자 알하젠(Alhazen)은 빛의 굴절이 대기 전체에 걸쳐 연속적으로 일어난다는 점을 통찰하였으며, 대기의 고도가 유한하다는 가설 하에 굴절 현상을 기하학적으로 해석하려 시도하였다.

근대 천문학의 여명기에 티코 브라헤(Tycho Brahe)는 정밀한 천체 관측 데이터를 축적하면서 대기 굴절에 의한 오차를 보정할 필요성을 절감하였다. 그는 태양과 별의 관측 위치 차이를 바탕으로 최초의 실용적인 굴절표를 작성하였으나, 당시에는 스넬의 법칙(Snell’s law)과 같은 물리적 법칙이 확립되기 전이었으므로 경험적 수치에 의존할 수밖에 없었다. 이후 지오반니 도메니코 카시니(Giovanni Domenico Cassini)는 대기를 일정한 밀도를 가진 단일 층으로 가정하고, 지구의 곡률을 고려한 기하학적 모델을 수립하였다. 카시니 모델은 천정각(Zenith distance)이 크지 않은 범위 내에서 비교적 정확한 값을 제공하였으며, 오늘날까지도 간이 계산 모델의 기초로 활용된다¹⁹⁾.

아이작 뉴턴(Isaac Newton)은 대기의 밀도가 고도에 따라 지수함수적으로 감소한다는 물리적 통찰을 바탕으로 보다 정교한 굴절 이론을 전개하였다. 그는 대기를 무수히 많은 얇은 층으로 나누고 각 층에서의 굴절을 적분하는 방식을 제안하였으며, 이는 현대 굴절 이론의 수학적 토대가 되었다²⁰⁾. 19세기 초 라플라스(Pierre-Simon Laplace)는 대기의 온도와 압력 분포를 고려한 정역학적 평형 방정식을 도입하여 굴절각을 계산하는 일반적인 적분식을 도출하였다. 대기 굴절각 $ R $은 관측자의 위치에서 천정각 $ $와 굴절률 $ n $의 함수로 다음과 같이 표현된다.

$$ R = \int_{1}^{n_0} \frac{\sin \zeta}{\sqrt{(nr/n_0r_0)^2 - \sin^2 \zeta}} \frac{dn}{n} $$

여기서 $ n_0 $와 $ r_0 $는 각각 지표면에서의 굴절률과 지구 반지름을 나타낸다. 이 식은 대기의 굴절률 구조가 고도에 따라 어떻게 변화하는지를 반영하며, 특히 지평선 근처에서 발생하는 극심한 굴절 현상을 설명하는 데 필수적이다.

이후 프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)은 풀코보 관측소(Pulkovo Observatory)의 데이터를 바탕으로 기온과 기압의 변화를 변수로 포함하는 정밀한 굴절표를 완성하였다. 베셀의 모델은 대기의 상태 변화에 따른 굴절률의 미세한 조정을 가능하게 하여 정밀 천문학의 시대를 열었다. 현대에 이르러서는 컴퓨터 시뮬레이션과 레디오존데(Radiosonde)를 통한 실시간 대기 프로파일 측정이 가능해짐에 따라, 표준 대기 모델을 넘어선 비균질적이고 동적인 대기 굴절 모델이 위성 항법 시스템(Global Navigation Satellite System, GNSS)과 초정밀 망원경 운용에 사용되고 있다.

인류가 대기 굴절 현상을 인지하고 이를 학술적으로 다루기 시작한 기원은 고대 그리스의 천문학적 관측으로 거슬러 올라간다. 초기 관측자들은 지평선 근처에 위치한 천체의 겉보기 위치가 실제 계산된 위치보다 높게 나타나는 현상을 목격하였으며, 이는 대기라는 매질이 빛의 경로에 영향을 미친다는 가설로 이어졌다.

클라우디오스 프톨레마이오스(Claudius Ptolemy)는 서기 2세기경 집필한 저서 『광학』(Optics)에서 대기 굴절을 체계적으로 다룬 최초의 학자 중 한 명이다. 그는 밀도가 다른 두 매질 사이에서 빛이 굴절되는 현상을 실험적으로 연구하였으며, 특히 공기에서 물 또는 유리로 빛이 진행할 때 발생하는 굴절각을 정밀하게 측정하였다. 프톨레마이오스는 이러한 지상에서의 실험 결과를 천문 관측에 투영하여, 별에서 오는 빛이 우주 공간에서 지구 대기로 진입할 때 지표면의 법선 방향으로 굴절된다는 사실을 논증하였다. 그는 대기 굴절로 인해 천체가 실제보다 높은 고도에 있는 것처럼 보이며, 이러한 왜곡이 천체가 지평선에 가까울수록 극대화된다는 점을 명확히 인식하였다²¹⁾.

중세에 이르러 대기 굴절 이론은 이슬람 세계의 학자들에 의해 비약적으로 발전하였다. 11세기의 물리주의적 광학자 이븐 알 하이삼(Ibn al-Haytham, 알하젠)은 그의 기념비적 저작인 『광학의 서』(Kitab al-Manazir)에서 프톨레마이오스의 연구를 비판적으로 계승하였다. 그는 빛이 매질을 통과할 때의 속도 차이가 굴절의 원인임을 통찰하였으며, 대기가 균일한 층이 아니라 고도에 따라 밀도가 변화하는 연속적인 매질일 가능성을 시사하였다. 특히 그는 황혼과 여명의 지속 시간을 관찰하여 대기 굴절이 태양이 지평선 아래에 있을 때도 빛을 지표로 전달한다는 사실을 설명하였으며, 이를 근거로 대기의 유효 높이를 정량적으로 추산하려는 시도를 하였다²²⁾.

이후 13세기 유럽의 로저 베이컨(Roger Bacon)과 비텔로(Witelo) 등은 알하젠의 이론을 수용하여 서구 과학계에 전파하였다. 이들은 대기 굴절이 천문 관측 데이터에 오차를 유발하는 핵심 요인임을 강조하였으며, 이는 훗날 티코 브라헤(Tycho Brahe)가 정밀한 관측을 통해 최초의 실용적인 대기 굴절 보정표를 작성하게 되는 이론적 토대가 되었다. 고대와 중세의 이러한 인식은 대기를 단순한 공백이 아닌, 빛의 경로를 물리적으로 변형시키는 능동적인 광학 매질로 재정의하였다는 점에서 과학사적 의의가 크다.

17세기 후반부터 19세기에 이르는 시기는 대기 굴절 현상이 단순한 경험적 보정의 대상을 넘어, 엄밀한 수학적 모델과 물리적 이론의 영역으로 편입된 전환기였다. 이 과정에서 조반니 도메니코 카시니(Giovanni Domenico Cassini)는 대기 굴절을 체계적으로 정량화하기 위한 선구적인 시도를 하였다. 카시니는 지구 대기를 일정한 밀도를 가진 균질한 층으로 가정하고, 그 두께가 유한하다는 전제하에 굴절 공식을 유도하였다. 비록 대기의 밀도가 고도에 따라 연속적으로 변화한다는 사실을 완전히 반영하지는 못했으나, 그의 모델은 천정각이 크지 않은 영역에서 비교적 높은 정확도를 보였으며, 대기의 유효 높이라는 개념을 도입함으로써 후대 연구자들에게 중요한 이론적 준거를 제공하였다.

아이작 뉴턴(Isaac Newton)은 카시니의 균질 대기 가정을 넘어, 대기의 밀도가 지표면에서 위로 올라갈수록 점진적으로 감소한다는 물리적 통찰을 바탕으로 모델을 고도화하였다. 뉴턴은 기압과 밀도 사이의 상관관계를 고려하여 광선이 대기를 통과할 때 그리는 곡선 경로를 미적분학적으로 해석하려 시도하였다. 그는 1694년경 존 플램스티드(John Flamsteed)와의 서신 교환을 통해 대기 굴절표를 제안하였는데, 이는 온도 변화에 따른 공기 밀도의 변동을 계산에 포함한 초기 사례 중 하나로 꼽힌다. 뉴턴의 접근법은 빛의 굴절이 매질의 밀도 구배에 의해 결정된다는 점을 명확히 함으로써, 기하광학과 유체역학이 결합된 현대적 굴절 이론의 기틀을 마련하였다.

18세기와 19세기를 거치며 대기 굴절 모델은 프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)에 의해 학술적 완성 단계에 도달하였다. 베셀은 쾨니히스베르크 천문대에서의 정밀한 관측 데이터를 바탕으로 기존 모델들의 오차를 분석하였으며, 관측 당시의 기온과 기압을 변수로 사용하는 정교한 굴절 공식과 보정표를 산출하였다. 베셀의 모델은 대기의 상태를 단순히 고정된 상수로 보지 않고, 국지적인 기상 조건에 따라 보정 계수를 조정하는 방식을 취함으로써 천문학적 관측의 정밀도를 획기적으로 높였다. 특히 그는 정역학 평형(Hydrostatic equilibrium) 상태에 있는 대기 모델을 적용하여, 지평선 부근에서 발생하는 극심한 굴절 현상까지도 통계적으로 유의미하게 설명하고자 하였다.

이러한 근대적 측정 모델들의 확립은 표준 대기(Standard Atmosphere) 개념의 정립과 밀접하게 연관된다. 대기 굴절률이 파장에 따라 달라지는 분산 현상과 대기의 수직적 온도 변화율인 기온 감률(Lapse rate)에 대한 이해가 깊어짐에 따라, 모델은 더욱 복잡한 수치 해석적 형태로 진화하였다. 근대의 연구자들은 대기를 여러 개의 층으로 나누어 각 층에서의 스넬의 법칙(Snell’s law)을 반복 적용하거나, 굴절률의 연속적인 변화를 적분 방정식으로 풀이하는 방식을 채택하였다. 이러한 논리적 전개는 현대의 위성 항법 시스템이나 초정밀 측지학에서 사용하는 대기 지연 보정 알고리즘의 직접적인 모태가 되었으며, 대기라는 유동적인 매질을 통과하는 전자기파의 경로를 예측하는 데 필수적인 학술적 토대를 형성하였다.

정밀 관측과 항법 시스템의 운용에 있어 대기 굴절은 관측 데이터의 신뢰성을 결정짓는 핵심적인 오차 요인으로 작용한다. 빛이나 전파가 대기를 통과하며 휘어지는 현상은 단순히 시각적인 왜곡에 그치지 않고, 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 거리 측정이나 측량학의 고도 결정에서 수 미터 이상의 오차를 유발할 수 있다. 따라서 현대 과학 기술에서는 이를 정량적으로 계산하고 보정하기 위해 대기 물리 모델과 수학적 알고리즘을 결합한 다양한 보정 기법을 활용한다.

측량학 및 지적학 분야에서는 지표면 인근의 두 지점 사이에서 발생하는 지상 대기 굴절을 보정하기 위해 굴절 계수(refraction coefficient, $k$)를 사용한다. 이는 지구 곡률 반지름에 대한 광선 경로 곡률 반지름의 비로 정의되며, 표준 대기 상태에서는 통상적으로 약 0.13의 값을 가진다고 간주한다. 그러나 지표면과 인접한 대기층은 지면의 가열이나 냉각에 의해 온도 구배가 급격히 변화하므로, 실제 $k$값은 시간과 장소에 따라 음수에서부터 큰 양수까지 넓은 범위를 나타낸다. 특히 삼각 고도 측량에서는 이러한 굴절 계수의 불확실성이 수직 위치 오차의 주된 원인이 되며, 이를 극복하기 위해 양방향 동시 관측을 수행하여 대기 굴절의 영향을 상쇄하는 방식을 취하기도 한다.

위성 항법 시스템에서는 대기 굴절이 신호의 전파 지연으로 나타나며, 이는 크게 전리층 지연과 대류권 지연으로 구분된다. 전리층 지연은 신호의 주파수에 따라 굴절률이 달라지는 분산 매질의 특성을 가지므로, 서로 다른 두 주파수 대역의 신호를 조합하여 대부분의 오차를 제거할 수 있다. 반면, 비분산 매질인 대류권에서의 지연은 주파수와 무관하게 발생하며, 건조 대기에 의한 ’건조 지연(hydrostatic delay)’과 수증기에 의한 ’습윤 지연(wet delay)’의 합으로 표현된다. 건조 지연은 전체 대류권 지연의 약 90%를 차지하며 대기압 측정을 통해 비교적 정확히 예측할 수 있으나, 나머지 10%인 습윤 지연은 수증기의 시공간적 변동성이 매우 커서 정밀한 보정이 까다롭다.

대류권 지연을 보정하기 위한 대표적인 수학적 모델로는 사스타모이넨 모델(Saastamoinen model)이 있다. 이 모델은 관측 지점의 절대온도, 기압, 수증기압을 변수로 하여 천정 방향의 총 지연량(Zenith Total Delay, ZTD)을 산출한다²³⁾. 사스타모이넨은 가스 상태 방정식과 정역학 평형 가정을 바탕으로 대기 굴절률의 수직 분포를 적분하여 다음과 같은 형태의 보정식을 도출하였다.

$$ \Delta s = 0.002277 \cdot \sec z \left[ P + \left( \frac{1255}{T} + 0.05 \right) e - B \tan^2 z \right] $$

여기서 $ s $는 굴절로 인한 경로 지연이며, $ z $는 천정각, $ P $는 지표 기압, $ T $는 절대온도, $ e $는 수증기압을 의미한다. $ B $와 같은 보정 항은 관측 지점의 고도에 따라 결정된다. 이러한 모델은 천정 방향의 지연량을 계산한 뒤, 사상 함수(mapping function)를 이용하여 낮은 고도각에서의 지연량을 추정하는 방식으로 확장된다. 최근에는 고정밀 위치 결정을 위해 유럽 중기 기상 예보 센터(ECMWF) 등에서 제공하는 전 지구적 수치 기상 예보 모델(Numerical Weather Prediction, NWP)의 데이터를 실시간으로 결합하여 모델의 정확도를 높이고 있다.

천문 관측에서의 대기 굴절 보정은 천체의 겉보기 위치를 실제 위치로 환원하는 과정에서 필수적이다. 특히 지평선 근근의 천체는 대기 밀도가 높은 층을 길게 통과하므로 굴절량이 0.5도 이상에 달할 수 있다. 이를 보정하기 위해 고전적으로는 베셀이나 카시니가 제안한 굴절 공식이 사용되었으나, 현대의 대형 망원경 운용에서는 대기의 온도, 습도, 파장에 따른 분산 현상까지 고려한 정밀 모델을 적용한다. 또한, 적응 제어 광학(Adaptive Optics) 시스템은 대기 굴절뿐만 아니라 대기 요동에 의한 파면 왜곡을 실시간으로 보정하여 지상 망원경의 해상도를 우주 망원경 수준으로 끌어올리는 역할을 수행한다.

현대 천문학 관측에서 대기 굴절에 의한 오차를 정밀하게 보정하는 것은 망원경의 분해능과 천측 좌표의 신뢰성을 결정짓는 핵심적인 과정이다. 고전적인 천문 관측에서는 단순히 천정각(Zenith distance)의 함수로 표현되는 정적 모델을 사용하였으나, 현대의 대구경 망원경과 적응 제어 광학(Adaptive Optics, AO) 시스템은 대기의 물리적 상태 변화를 실시간으로 반영하는 동적 보정 알고리즘을 요구한다. 지상 망원경이 수집하는 빛은 대기의 밀도 층을 통과하며 굴절되는데, 이때 발생하는 굴절각 $ R $은 관측 지점의 기온, 기압, 습도 및 관측 파장에 따라 비선형적으로 변화한다.

가장 보편적으로 사용되는 정밀 보정 모델 중 하나는 베넷 공식(Bennett’s formula)을 개량한 형태로, 천체의 겉보기 고도 $ h $에 따른 굴절각을 다음과 같이 산출한다.

$$ R = \cot \left( h + \frac{7.31}{h + 4.4} \right) \cdot \frac{P}{101.3} \cdot \frac{283}{273 + T} $$

여기서 $ P $는 기압(kPa), $ T $는 섭씨온도(°C)를 의미한다. 그러나 고도 10도 이하의 저고도 관측이나 초정밀 천측학(Astrometry)에서는 대기층을 미세한 평행 평면으로 분할하여 계산하는 광선 추적(Ray tracing) 기법이 동원된다. 이는 대기의 굴절률 구배를 수직 프로파일로 모델링하여 광선의 경로를 적분하는 방식으로, 표준 대기 모델인 US1976 등을 기반으로 현장의 기상 데이터를 결합하여 수행된다.

특히 다중 파장 관측이나 분광 관측에서는 파장에 따라 굴절률이 달라지는 대기 분산(Atmospheric dispersion) 현상이 심각한 왜곡을 초래한다. 이를 보정하기 위해 현대 망원경은 대기 분산 보정기(Atmospheric Dispersion Corrector, ADC)를 광학계 내부에 배치한다. ADC는 서로 반대 방향으로 회전하는 두 개의 쐐기형 프리즘으로 구성되어, 대기에 의해 발생한 분산의 역방향으로 빛을 굴절시켜 파장별 초점 위치를 일치시킨다. 이러한 보정이 이루어지지 않을 경우, 별의 이미지는 수직 방향으로 길게 늘어진 무지개 형태의 잔상을 남기게 되며, 이는 분광학적 데이터의 질을 저하시키는 결정적인 원인이 된다.

적응 제어 광학 시스템이 적용된 망원경에서는 대기 굴절 보정이 더욱 고도화된다. AO 시스템은 대기의 난류로 인한 고주파 위상 왜곡을 보정하는 동시에, 차등 대기 굴절(Differential Atmospheric Refraction, DAR)에 의한 천체의 미세한 흐름을 추적한다. 적외선 영역의 정밀 천측에서는 파장에 따른 차등 색지수 굴절(Differential Chromatic Refraction, DCR)이 수 밀리초각(milli-arcsecond, mas) 단위의 오차를 유발할 수 있으므로, 관측 대상의 색지수와 대기 모델을 결합한 실시간 좌표 수정 알고리즘이 필수적으로 운용된다²⁴⁾.

최근에는 고도 0도에서 90도에 이르는 전 범위의 천정각에 대해 대기 굴절을 보정하기 위한 새로운 수치 모델들이 제시되고 있다. 이러한 모델들은 대기권 내부뿐만 아니라 대기권 밖 200km 이상의 고도에서 관측되는 별빛의 굴절각까지 정밀하게 계산할 수 있도록 설계되어, 지상 망원경뿐만 아니라 저궤도 위성의 항법 및 관측 정밀도 향상에도 기여하고 있다²⁵⁾. 이러한 정밀 보정 기술의 발전은 지상 관측의 한계를 극복하고 우주 망원경에 근접하는 수준의 데이터를 확보하는 밑거름이 된다.

지상 측량학(Surveying)과 위성 항법 시스템(Global Navigation Satellite System, GNSS)에서 대기 굴절은 관측 데이터의 정밀도를 결정짓는 가장 치명적인 환경 요인 중 하나이다. 지표면 인근에서 수행되는 삼각 측량(Triangulation)이나 수준 측량(Leveling)의 경우, 광선이 지표면의 온도 구배(Temperature gradient)에 따라 휘어지면서 실제 고도나 거리와는 다른 관측값을 산출하게 된다. 이를 정량적으로 보정하기 위해 측량학에서는 굴절 계수(Refraction coefficient, $ k $)라는 개념을 도입한다. 굴절 계수는 지구의 곡률 반경에 대한 광선 굴절 통로의 곡률 반경 비로 정의되며, 표준 대기 상태에서는 약 0.13의 값을 가진다. 그러나 지표면 근처의 대기는 태양 복사 에너지에 의해 불균일하게 가열되므로, 실시간 기상 상태를 반영한 굴절 모델을 적용하지 않을 경우 정밀 측량에서 수 센티미터 이상의 오차가 발생할 수 있다.

위성 항법 시스템에서는 전파가 대기권을 통과하며 발생하는 지연(Delay) 현상이 위치 결정 정밀도에 직접적인 영향을 미친다. 위성 항법에서의 대기 굴절 오차는 크게 전리층(Ionosphere) 지연과 대류권(Troposphere) 지연으로 구분된다. 전리층은 자유 전자가 밀집된 분산 매질(Dispersive medium)로, 전파의 주파수에 따라 굴절률이 달라지는 특성을 지닌다. 이러한 물리적 성질을 이용하여, 서로 다른 두 주파수(예: GPS의 L1 및 L2 신호)를 동시에 수신하는 이중 주파수 관측 기법을 통해 전리층 지연의 약 99% 이상을 제거할 수 있다. 반면, 대류권은 비분산 매질로서 주파수에 따른 굴절률 차이가 거의 없으므로 이중 주파수 기법으로 오차를 제거하는 것이 불가능하다.

대류권 지연을 극복하기 위해 항법 알고리즘에서는 대기의 성분을 건조 대기와 수증기로 분리하여 모델링한다. 이를 각각 정역학적 지연(Zenith Hydrostatic Delay, ZHD)과 습윤 지연(Zenith Wet Delay, ZWD)이라 한다. 정역학적 지연은 기압과 온도를 통해 비교적 정확하게 예측할 수 있으며, 전체 대류권 지연의 약 90%를 차지한다. 그러나 습윤 지연은 대기 중 수증기의 불규칙한 분포로 인해 예측이 매우 까다롭다. 이를 보정하기 위해 사스타모이넨 모델(Saastamoinen model)이나 홉필드 모델(Hopfield model)과 같은 경험적 모델이 널리 사용된다. 사스타모이넨 모델은 관측점의 위도, 고도, 기상 요소를 변수로 하여 천정 방향의 지연량을 계산하며, 다음과 같은 수식을 기본 골격으로 한다.

$$ d_{trop} = 0.002277 \cdot \sec z \left[ P + \left( \frac{1255}{T} + 0.05 \right) e - B \tan^2 z \right] $$

위 식에서 $ d_{trop} $은 대류권 지연량, $ z $는 천정각(Zenith angle), $ P $는 기압, $ T $는 절대온도, $ e $는 수증기압을 의미하며, $ B $와 같은 보정 계수는 고도에 따라 결정된다. 현대의 정밀 위치 결정 기술인 정밀 지점 포지셔닝(Precise Point Positioning, PPP)이나 실시간 이동 측위(Real-Time Kinematic, RTK) 알고리즘에서는 이러한 정적 모델에 더해, 칼만 필터(Kalman filter)를 활용하여 잔여 습윤 지연을 미지수로 설정하고 실시간으로 추정하는 방식을 채택하고 있다. 또한, 위성의 고도각이 낮을수록 전파가 통과하는 대기 경로가 길어져 굴절 오차가 급격히 증가하므로, 이를 보정하기 위한 사상 함수(Mapping function)의 정밀도 역시 항법 시스템의 신뢰성을 확보하는 데 필수적인 요소이다. 이러한 고도화된 굴절 보정 알고리즘은 자율주행, 무인 항공기 제어 및 정밀 지도 제작 등 고정밀 위치 정보가 요구되는 현대 기술의 핵심적 기초를 형성한다.