지구의 실제 표면은 산맥과 해구, 그리고 지각 내부의 불균질한 밀도 분포로 인해 매우 불규칙한 형상을 띠고 있다. 이러한 복잡한 지표면 위에서 지점 간의 거리를 계산하거나 위치를 결정하는 것은 수학적으로 매우 난해한 과제이다. 따라서 측지학(Geodesy)에서는 지구의 물리적 형상을 가장 가깝게 근사하면서도 수학적으로 명확하게 정의할 수 있는 기하학적 모델인 준거 타원체(Reference Ellipsoid)를 도입한다. 준거 타원체는 지구의 자전축을 회전축으로 하여 자오선인 타원을 회전시킨 회전 타원체(Oblate Spheroid)의 형태를 취하며, 이는 지구가 완전한 구형이 아니라 적도 부근이 부풀어 오른 형태라는 물리적 사실에 근거한다.

준거 타원체의 물리적 기초는 아이작 뉴턴(Isaac Newton)과 크리스티안 하위헌스(Christiaan Huygens)가 제시한 회전 유체의 평형 형상(Equilibrium figure) 이론에 닿아 있다. 지구가 자전함에 따라 발생하는 원심력은 적도 방향으로 갈수록 커지며, 이는 만유인력과 결합하여 지구 내부의 물질이 역학적 평형을 이루도록 유도한다. 만약 지구가 일정한 밀도를 가진 유체 상태라고 가정한다면, 자전하는 지구는 수학적으로 완벽한 회전 타원체의 형태를 갖추게 된다. 현대 측지학에서 사용하는 지오데틱 기준 시스템(Geodetic Reference System, GRS)은 단순히 기하학적인 크기뿐만 아니라, 지구의 질량 중심, 자전 속도, 그리고 지구 질량에 의한 중력 포텐셜 등을 물리적 상수로 채택하여 타원체를 정의한다.¹⁾

기하학적 관점에서 준거 타원체는 중심으로부터 적도까지의 거리인 장반경(Semi-major axis, $a$)과 중심으로부터 극점까지의 거리인 단반경(Semi-minor axis, $b$)으로 규정된다. 3차원 직교 좌표계에서 타원체면 위의 임의의 점 $(x, y, z)$는 다음과 같은 방정식을 만족한다.

$$ \frac{x^2 + y^2}{a^2} + \frac{z^2}{b^2} = 1 $$

이때 지구의 편평한 정도를 나타내는 편평률(Flattening, $f$)은 $f = \frac{a-b}{a}$로 정의되며, 이는 지구의 물리적 자전 특성을 반영하는 핵심적인 지표가 된다. 준거 타원체는 물리적 실재인 지오이드(Geoid)와 밀접한 상관관계를 갖는다. 지오이드는 중력의 등포텐셜면 중 평균 해수면과 일치하는 면으로, 지구 내부의 밀도 차이에 따라 굴곡이 존재한다. 준거 타원체는 이러한 지오이드의 기복을 최소화하면서 전 지구적으로 가장 잘 들어맞도록 설정된 수학적 기준면이다.

준거 타원체의 도입은 위도와 경도라는 좌표계를 확립하는 데 필수적이다. 타원체면 위의 한 점에서 면에 수직인 법선을 그었을 때, 이 법선이 적도면과 이루는 각도를 지리적 위도로 정의한다. 만약 기준면이 타원체가 아닌 불규칙한 지오이드라면, 지점마다 중력 방향이 달라져 일관된 좌표 체계를 유지할 수 없게 된다. 따라서 준거 타원체는 지구 과학적 관측 데이터를 투영하고 지도화하기 위한 이론적 토대이자, 인공위성 항법 시스템(GNSS) 등 현대 정밀 측위 기술의 물리적 기준점 역할을 수행한다.

지구의 물리적 표면은 산맥, 해구, 고원 등 지형적 요인으로 인해 극도로 불규칙하며, 이를 직접적인 수학 함수로 정의하여 공간 정보를 처리하는 것은 불가능에 가깝다. 따라서 측지학(Geodesy)에서는 이러한 복잡한 지표면을 단계적으로 단순화하여 계산 가능한 기하학적 모형으로 변환하는 과정을 거친다. 이 과정의 핵심은 물리적 실체인 지표면을 거쳐 물리적 가상면인 지오이드(Geoid)를 정의하고, 이를 다시 기하학적으로 정의된 회전 타원체(Ellipsoid of revolution)로 근사하는 데 있다.

지구 형상 모델링의 첫 번째 단계는 중력의 영향을 반영하는 것이다. 지구 내부의 밀도 분포가 불균일하기 때문에 중력의 크기와 방향은 지점마다 다르다. 이러한 중력 에너지의 등전위면 중 평균 해수면(Mean Sea Level)과 일치하도록 설정된 면을 지오이드라 한다. 지오이드는 모든 지점에서 중력 방향(연직선)에 수직인 물리적 기준면이 되지만, 질량 분포의 차이로 인해 불규칙한 요철을 포함하므로 기하학적 계산을 위한 표준 좌표계로 직접 사용하기에는 한계가 있다.

이에 따라 지오이드의 형상에 가장 가깝게 설계된 매끄러운 수학적 모형인 준거 타원체를 도입한다. 지구가 완전한 구(Sphere)가 아닌 타원체의 형상을 띠는 원인은 자전에 의한 원심력과 질량에 의한 만유인력이 평형을 이루는 정역학적 평형(Hydrostatic equilibrium) 상태에 있기 때문이다. 회전하는 유체 역학적 원리에 따라 지구는 적도 부분이 부풀어 오르고 극 부분이 납작한 편평 타원체(Oblate spheroid)의 형상을 갖게 된다.

수학적으로 준거 타원체를 정의하기 위해서는 타원체의 크기와 모양을 결정하는 매개변수가 필요하다. 일반적으로 장반경(Semi-major axis, $ a $)과 편평률(Flattening, $ f $)을 기본 상수로 사용한다. 타원체 표면 위의 임의의 점에 대한 공간적 위치는 3차원 직교 좌표계($ x, y, z $)에서 다음과 같은 타원체 방정식으로 표현된다.

$$ \frac{x^2 + y^2}{a^2} + \frac{z^2}{b^2} = 1 $$

여기서 $ b $는 단반경(Semi-minor axis)을 의미하며, 편평률 $ f $와의 관계식 $ b = a(1-f) $를 통해 유도된다. 이러한 수학적 모형화는 지표면상의 점을 위도와 경도라는 기하학적 수치로 환산할 수 있게 하며, 거리 및 면적 계산을 위한 공학적 토대를 제공한다.

실제 지구 형상을 타원체로 모형화할 때는 최소제곱법(Least squares method)을 활용하여 지오이드와 타원체 사이의 거리 차이인 지오이드고(Geoid height)의 제곱합이 최소가 되도록 매개변수를 결정한다. 과거에는 특정 국가나 대륙의 지형에만 최적화된 지역 준거 타원체를 사용하였으나, 현대에는 인공위성 측지 데이터와 질량 중심 좌표를 결합하여 전 지구에 적용 가능한 세계 측지계 모델을 구축하여 사용하고 있다. 이와 같은 수학적 모형화 과정을 통해 인류는 불규칙한 지구상에서 정밀한 위치 결정과 지도 제작을 수행할 수 있게 되었다.

지구의 물리적 형상을 정의함에 있어 지오이드(Geoid)와 준거 타원체(Reference Ellipsoid)는 각각 물리적 실체와 기하학적 편의를 대변하는 핵심적인 기준면이다. 지오이드는 지구가 정역학적 평형 상태에 있다고 가정할 때, 평균 해수면과 일치하는 중력 등포텐셜면(equipotential surface)으로 정의된다. 이는 지구 내부의 밀도 분포와 자전에 의한 원심력이 반영된 결과물로, 실제 지표면의 높낮이와는 별개로 중력의 방향인 연직선(plumb line)에 어디서나 수직인 물리적 기준면이다. 반면 준거 타원체는 이러한 복잡한 지오이드의 형상을 수학적으로 처리하기 위해 도입된 회전 타원체로, 지구의 전체적인 크기와 모양을 가장 잘 근사하도록 설계된 기하학적 모델이다. 따라서 지오이드와 준거 타원체의 상관관계를 파악하는 것은 지구상의 정밀한 위치 결정과 중력장 해석에 있어 필수적인 과정이다.

두 기준면 사이의 수직적 거리 차이를 지오이드고(Geoid height) 또는 지오이드 기복(Geoid undulation)이라 하며, 통상 기호 $ N $으로 표기한다. 임의의 지점에서 타원체면으로부터 지표면까지의 높이인 타원체고(Ellipsoidal height, $ h $)와 지오이드면으로부터의 높이인 표고(Orthometric height, $ H $) 사이에는 $ h = H + N $이라는 기본적인 관계식이 성립한다. 위성 항법 시스템(GNSS)을 통해 얻어지는 높이 정보는 타원체를 기준으로 한 기하학적 높이인 $ h $이므로, 실질적인 물의 흐름이나 공학적 설계를 위해 필요한 물리적 높이인 $ H $를 산출하기 위해서는 해당 지역의 정확한 지오이드고를 알아야 한다. 이는 지오이드가 단순한 이론적 개념을 넘어 실용 측지학에서 좌표계 변환의 매개체 역할을 수행함을 의미한다.

지오이드와 준거 타원체의 차이는 물리적으로 교란 포텐셜(disturbing potential)에 의해 결정된다. 지구의 실제 중력 포텐셜을 $ W $, 준거 타원체에 의한 표준 중력 포텐셜을 $ U $라고 할 때, 그 차이인 $ T = W - U $가 교란 포텐셜이다. 브룬스 공식(Bruns’ formula)에 따르면 지오이드고 $ N $은 교란 포텐셜 $ T $를 해당 지점의 표준 중력(normal gravity) $ $로 나눈 값인 $ N = $로 표현된다. 이 식은 지오이드의 기복이 지구 내부의 질량 불균형에 의한 중력 이상과 직접적으로 연결되어 있음을 시사한다. 예를 들어, 지하에 밀도가 높은 물질이 매장되어 있거나 거대한 산맥이 존재하는 지역에서는 중력이 강하게 작용하여 지오이드면이 준거 타원체면 위로 솟아오르게 되며, 반대로 해구와 같이 질량이 결손된 지역에서는 지오이드면이 타원체면 아래로 가라앉게 된다.

결론적으로 준거 타원체는 지구의 형태를 단순화하여 계산의 효율성을 제공하는 수학적 틀이며, 지오이드는 지구 내부의 물리적 특성을 반영하는 실제적인 에너지 기준면이다. 현대 측지학(Geodesy)에서는 인공위성 추적 데이터와 지상 중력 측량 값을 결합하여 전 지구적 지오이드 모델을 구축함으로써, 준거 타원체라는 기하학적 기준 위에 물리적 중력장 정보를 통합하고 있다. 이러한 상관관계의 정밀한 규명은 지각 변동 감시, 해수면 상승 연구, 그리고 정밀 지도 제작 등 지구 과학 전반의 기초를 형성한다.

준거 타원체는 지구의 물리적 형상을 수학적으로 정의하기 위해 도입된 기하학적 모델이며, 이 모델의 표면에서 정의되는 수직 방향을 법선(Normal)이라고 한다. 반면, 실제 지표면에서 관측자가 느끼는 물리적인 수직 방향은 중력의 작용 방향인 수직선(Plumb line)으로, 이는 중력 등포텐셜면인 지오이드(Geoid)에 수직이다. 지구 내부의 질량 분포가 균일하지 않고 지형의 기복이 존재함에 따라, 기하학적 기준인 타원체 법선과 물리적 기준인 수직선은 일치하지 않고 일정한 각도를 이루며 어긋나게 된다. 이러한 두 방향 사이의 각도 차이를 수직선 편차(Deflection of the vertical)라고 정의한다. 수직선 편차는 준거 타원체와 실제 지구 형상 사이의 괴리를 나타내는 중요한 척도이며, 정밀한 측지학적 계산에서 필수적으로 고려해야 할 요소이다.

수직선 편차는 통상적으로 두 개의 직교 성분으로 분해하여 수치화한다. 자오선 방향의 편차 성분인 $\xi$(Xi)는 남북 방향의 기울어짐을 나타내며, 묘유선 방향의 편차 성분인 $\eta$(Eta)는 동서 방향의 기울어짐을 의미한다. 이들은 해당 지점의 천문 좌표(Astronomical coordinates)와 측지 좌표(Geodetic coordinates) 사이의 관계를 통해 산출된다. 천문 위도를 $\Phi$, 천문 경도를 $\Lambda$라 하고, 준거 타원체를 기준으로 한 측지 위도를 $\phi$, 측지 경도를 $\lambda$라고 할 때, 수직선 편차의 두 성분은 다음과 같은 관계식으로 표현된다.

$$ \xi = \Phi - \phi $$ $$ \eta = (\Lambda - \lambda) \cos \phi $$

이 식에서 알 수 있듯이, 수직선 편차는 천문 관측을 통해 얻은 실제 수직 방향의 좌표와 타원체 모델상의 기하학적 좌표 사이의 차이에서 기인한다. 이러한 편차는 지표면의 질량 집중이나 결손에 의해 지오이드면이 타원체면에 대해 기울어지기 때문에 발생하며, 산악 지역이나 해구 인근에서는 그 값이 수십 초(arcseconds)에 달하기도 한다.

측지 관측에서 수직선 편차는 측정 장비의 설치와 관측값의 보정에 직접적인 영향을 미친다. 경위의(Theodolite)와 같은 지상 측량 장비는 기포관을 이용하여 중력 방향, 즉 실제 수직선에 수직이 되도록 수평을 맞춘다. 그러나 모든 수평 위치 계산은 준거 타원체의 법선을 기준으로 수행되므로, 수직선과 법선 사이의 편차를 보정하지 않으면 관측된 수평각과 방위각에 오차가 유입된다. 특히 천문 관측을 통해 결정된 방위각을 측지 방위각으로 변환할 때는 라플라스 방정식(Laplace’s equation)에 의한 보정이 필수적이다. 라플라스 방위각 보정식은 다음과 같다.

$$ \alpha_{G} = \alpha_{A} - \eta \tan \phi $$

여기서 $\alpha_{G}$는 측지 방위각, $\alpha_{A}$는 천문 방위각을 의미한다. 이 식은 동서 방향의 수직선 편차 성분이 방위각 결정에 미치는 기하학적 영향을 보여준다. 만약 이 보정 과정을 생략한다면, 측지망의 방향성을 정밀하게 유지할 수 없으며 이는 광역 측량에서 누적 오차의 원인이 된다.

현대 측지학에서 수직선 편차의 정밀한 결정은 위성 측지학과 지상 중력 측량의 결합을 통해 이루어진다. 위성 항법 시스템(Global Navigation Satellite System, GNSS)을 통해 얻은 타원체 고도와 수준 측량을 통해 얻은 표고의 차이인 지오이드고(Geoid height)의 변화율을 분석하면 수직선 편차를 간접적으로 산출할 수 있다²⁾. 또한, 베닝 마이네스 식(Vening Meinesz formula)을 활용하여 중력 이상 데이터를 적분함으로써 전 지구적인 수직선 편차 모델을 구축하기도 한다³⁾. 이러한 데이터는 지구 내부의 밀도 구조를 파악하는 지구 물리학적 연구뿐만 아니라, 관성 항법 장치(Inertial Navigation System, INS)의 초기 정렬 및 오차 보정 등 정밀 항법 분야에서도 중추적인 역할을 수행한다.

준거 타원체(Reference Ellipsoid)는 지구의 형상을 기하학적으로 정의하기 위해 도입된 회전 타원체(Ellipsoid of revolution)로서, 그 크기와 모양을 규정하는 수치적 매개변수들에 의해 수학적 특성이 완전히 결정된다. 이론적으로 회전 타원체는 타원을 단축을 축으로 하여 회전시킨 입체이므로, 단 두 개의 독립적인 기하학적 매개변수만 주어지면 타원체면상의 모든 기하학적 관계를 도출할 수 있다. 측지학에서는 일반적으로 타원체의 규모를 나타내는 선형 매개변수와 지구의 평평한 정도를 나타내는 무차원 형상 매개변수를 조합하여 시스템을 정의한다.

타원체의 크기를 결정하는 가장 기본적인 요소는 장반경(Semi-major axis, $ a $)과 단반경(Semi-minor axis, $ b $)이다. 장반경은 타원체의 중심에서 적도까지의 거리를 의미하며, 단반경은 중심에서 북극 또는 남극까지의 거리를 의미한다. 지구는 자전에 따른 원심력의 영향으로 적도 부근이 부풀어 오른 형태를 띠기 때문에, 준거 타원체의 설계 시 장반경은 항상 단반경보다 길게 설정된다. 이 두 반지름의 차이는 지구 형상의 비대칭성을 나타내는 출발점이 된다.

타원체의 형상을 규정하는 핵심적인 무차원 매개변수는 편평률(Flattening, $ f $)이다. 편평률은 장반경에 대한 장반경과 단반경의 차이의 비율로 정의되며, 다음과 같은 수식으로 표현된다. $$ f = \frac{a - b}{a} $$ 편평률은 타원체가 완전한 구(Sphere)에서 얼마나 벗어나 있는지를 수치화한 것이다. 만약 $ f = 0 $이라면 해당 입체는 구가 되며, $ f $ 값이 커질수록 극 방향으로 더 압축된 형태가 된다. 현대 측지학의 표준인 지오데틱 기준 시스템(Geodetic Reference System 1980, GRS 80)이나 세계 측지 시스템(World Geodetic System 1984, WGS 84)에서는 장반경 $ a $와 함께 편평률의 역수($ 1/f $)를 기본 매개변수로 채택하여 사용한다. 이는 편평률이 지구의 동적 평형 상태를 반영하는 물리적 의미를 내포하고 있기 때문이다⁴⁾.

타원체의 기하학적 특성을 설명하는 또 다른 중요한 지표는 이심률(Eccentricity)이다. 이심률은 타원의 초점 위치와 관련이 있으며, 측지 계산 및 지도 투영법의 수식 전개에서 편평률보다 더 빈번하게 활용된다. 특히 제일 이심률(First eccentricity, $ e $)과 제이 이심률(Second eccentricity, $ e’ $)의 구분이 중요하다. 제일 이심률의 제곱은 다음과 같이 정의된다. $$ e^2 = \frac{a^2 - b^2}{a^2} = 2f - f^2 $$ 제일 이심률은 지리 좌표계에서 위도에 따른 곡률 반경을 계산할 때 필수적인 인자로 작용한다. 한편, 제이 이심률의 제곱은 다음과 같이 정의된다. $$ e'^2 = \frac{a^2 - b^2}{b^2} = \frac{e^2}{1 - e^2} $$ 제이 이심률은 주로 타원체상의 거리 계산이나 특수한 좌표 변환 알고리즘에서 매개변수로 사용된다.

이러한 기하학적 매개변수들은 서로 독립적이지 않으며, 상호 간의 엄밀한 수학적 관계식을 통해 연결되어 있다. 예를 들어, 장반경 $ a $와 편평률 $ f $가 결정되면 단반경 $ b $와 두 종류의 이심률은 종속적으로 산출된다. 현대 위성 측지학에서는 인공위성의 궤도 섭동 분석을 통해 얻어진 중력장의 동적 형상 계수(Dynamic form factor, $ J_2 $)를 바탕으로 편평률을 결정하며, 이를 통해 기하학적 매개변수와 지구 물리적 상수 사이의 일관성을 유지한다. 이 매개변수들은 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 정밀도를 보장하고 전 지구적 위치 기준을 확립하는 데 있어 근간이 되는 수치들이다.

준거 타원체의 기하학적 특성을 규정하는 가장 근본적인 두 요소는 장반경(Semi-major axis)과 단반경(Semi-minor axis)이다. 회전 타원체로서의 지구 모형은 자전축을 중심으로 회전하는 타원의 궤적으로 정의되는데, 이때 타원의 중심에서 적도면에 이르는 거리를 장반경이라 하며, 중심에서 극점에 이르는 거리를 단반경이라 한다. 이 두 매개변수는 단순한 기하학적 수치를 넘어, 지구가 자전에 의한 원심력과 질량에 의한 중력 사이에서 도달한 역학적 평형 상태를 수치적으로 대변한다.

장반경은 통상 기호 $ a $로 표기하며, 적도 반지름(Equatorial radius)과 동일한 의미를 갖는다. 지구는 자전으로 인해 적도 부근이 부풀어 오른 편구체(Oblate spheroid)의 형상을 띠고 있으므로, 장반경은 타원체의 크기를 결정하는 주된 척도가 된다. 측지학에서 정의하는 현대적인 준거 타원체인 세계 측지 시스템(World Geodetic System 1984, WGS84)에 따르면, 장반경 $ a $의 값은 정확히 $ 6,378,137.0 $ 미터로 규정되어 있다⁵⁾. 이는 지구의 물리적 중심에서 적도면 상의 임의의 점까지의 거리를 수학적으로 고정한 것이다.

단반경은 기호 $ b $로 표기하며, 극 반지름(Polar radius)이라고도 불린다. 이는 타원체의 중심에서 북극 또는 남극에 이르는 거리로, 지구의 자전축 방향의 크기를 나타낸다. 지구의 편평한 특성으로 인해 단반경은 항상 장반경보다 짧은 값을 가진다. WGS84 모델에서 단반경은 장반경과 편평률(Flattening)의 관계를 통해 유도되며, 그 값은 약 $ 6,356,752.3142 $ 미터이다. 장반경과 단반경의 차이인 $ a - b $는 약 $ 21.38 $ 킬로미터에 달하며, 이는 지구가 완전한 구형에서 얼마나 벗어나 있는지를 직관적으로 보여주는 지표가 된다.

준거 타원체의 기하학적 정의에서 장반경과 단반경은 독립적인 변수로 취급되기도 하지만, 현대 측지 체계에서는 장반경 $ a $와 편평률 $ f $를 기본 매개변수(Primary parameters)로 설정하고 단반경 $ b $를 종속적인 유도 매개변수로 산출하는 방식이 일반적이다. 두 반지름 사이의 관계식은 다음과 같다.

$$ b = a(1 - f) $$

이 식에서 알 수 있듯이, 단반경은 장반경에 의해 결정되는 전체적인 규모와 편평률에 의해 결정되는 찌그러진 정도의 조합으로 완성된다. 이러한 장반경과 단반경의 정의는 지리 좌표계에서 위도와 경도를 결정하는 기하학적 기준면을 형성하며, 인공위성을 이용한 위치 결정 시스템(GPS)이나 지도 제작의 수치적 근거가 된다⁶⁾. 결국 장반경과 단반경은 지구의 형상을 수학적 공간에 안착시키기 위한 가장 기초적인 물리량이라 할 수 있다.

회전 타원체(Ellipsoid of revolution)로서의 지구 형상을 정의할 때, 기하학적 형태를 결정하는 가장 핵심적인 요소는 장반경(Semimajor axis, $a$)과 단반경(Semiminor axis, $b$)의 상관관계이다. 지구가 자전함에 따라 발생하는 원심력은 적도 부근을 부풀게 하고 극 부근을 수축시키는데, 이러한 기하학적 변형의 정도를 정량적으로 나타내는 지표가 편평률(Flattening)과 이심률(Eccentricity)이다. 이 매개변수들은 측지학(Geodesy)에서 지구 타원체의 표준 제원을 설정하고, 지표면상의 위치를 결정하는 수학적 기초가 된다.

편평률($f$)은 타원체가 구(Sphere)에서 벗어나 납작해진 정도를 나타내는 비율로 정의된다. 이는 장반경과 단반경의 차이를 장반경으로 나눈 값으로, 수식으로는 다음과 같이 표현된다. $$f = \frac{a - b}{a}$$ 편평률이 0인 경우는 완벽한 구형을 의미하며, 값이 커질수록 타원체는 더욱 납작한 형태를 띤다. 실제 지구의 경우 편평률은 약 0.0033528 수준으로 매우 작기 때문에, 실무에서는 그 역수인 역편평률(Inverse flattening, $1/f$)을 주로 사용한다. 예를 들어, 현대 측지계의 표준인 WGS84 타원체의 역편평률은 약 298.257223563으로 정의되어 있다.

이심률은 타원의 초점이 중심에서 얼마나 떨어져 있는가를 나타내는 지표로, 측지학적 계산에서는 용도에 따라 제일 이심률과 제이 이심률로 구분하여 사용한다. 제일 이심률(First eccentricity, $e$)은 타원체의 기하학적 특성을 나타내는 가장 보편적인 상수로, 다음과 같이 정의된다. $$e^2 = \frac{a^2 - b^2}{a^2}$$ 제일 이심률의 제곱($e^2$)은 편평률($f$)과 밀접한 수학적 관계를 맺고 있으며, $e^2 = 2f - f^2$라는 관계식을 통해 상호 변환이 가능하다. 이 지표는 지리 좌표계에서 위도에 따른 곡률 반경을 계산하거나, 타원체면상의 거리를 산출할 때 필수적으로 활용된다.

한편, 계산의 편의를 위해 제이 이심률(Second eccentricity, $e'$)이 도입되기도 한다. 이는 단반경을 기준으로 초점의 이탈 정도를 정의한 것으로, 수식은 다음과 같다. $$e'^2 = \frac{a^2 - b^2}{b^2}$$ 제이 이심률은 주로 지도 투영법이나 특정 좌표 변환 공식에서 수식을 간소화하기 위해 사용된다. 제일 이심률과 제이 이심률 사이에는 $e'^2 = \frac{e^2}{1 - e^2}$라는 관계가 성립한다.

이러한 편평률과 이심률은 단순히 형태를 묘사하는 데 그치지 않고, 지구 내부의 질량 분포와 중력장 모델링에도 중요한 물리적 함의를 갖는다. 타원체의 기하학적 편평률은 지구의 동역학적 형상 계수인 $J_2$와 밀접하게 연관되어 있으며, 이는 인공위성의 궤도 섭동을 분석하고 지구의 전체적인 중력 포텐셜을 이해하는 데 핵심적인 역할을 수행한다. 따라서 준거 타원체의 편평률과 이심률을 정밀하게 결정하는 것은 현대 측지학 및 천체 역학의 필수적인 과제이다.

좌표 변환과 거리 계산에 필수적으로 사용되는 이심률의 세부 구분을 설명한다.

지구의 형상을 수학적으로 정의하려는 시도는 단순한 기하학적 호기심을 넘어 정확한 위치 결정과 지도 제작이라는 실무적 요구에 의해 발전해 왔다. 초기 인류는 지구를 평면이나 완전한 구체로 간주하였으나, 근대 물리학의 발흥과 함께 보다 정교한 모델인 준거 타원체(Reference Ellipsoid)의 개념이 정립되기 시작하였다.

지구 형상에 대한 과학적 논쟁은 17세기 말 아이작 뉴턴(Isaac Newton)과 지오반니 도메니코 카시니(Giovanni Domenico Cassini) 사이의 대립에서 본격화되었다. 뉴턴은 만유인력의 법칙과 회전에 의한 원심력을 근거로 지구가 적도 방향으로 부풀어 오른 편평 타원체(Oblate Spheroid) 형태일 것이라고 주장하였다. 반면 카시니는 프랑스 내에서의 자오선 측량 결과를 바탕으로 지구가 극 방향으로 길쭉한 장구 타원체(Prolate Spheroid)라고 반박하였다. 이 논쟁은 1730년대 프랑스 과학 아카데미가 파견한 라플란드(Lapland)와 페루(Peru) 원정대의 자오선 호 측정(Meridian arc measurement)을 통해 뉴턴의 이론이 타당함이 입증되며 종결되었다. 위도 1도에 해당하는 자오선의 길이가 고위도로 갈수록 길어진다는 사실이 확인됨으로써 지구가 회전 타원체임이 과학적으로 증명된 것이다.

19세기에 접어들어 측량 기술과 수학적 분석 기법이 발달함에 따라, 특정 지역의 지형에 최적화된 국지적 준거 타원체들이 등장하기 시작하였다. 프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)은 1841년 당시까지 축적된 유럽 전역의 자오선 측정 자료에 최소제곱법(Least Squares Method)을 적용하여 베셀 타원체(Bessel 1841)를 산출하였다. 이 모델은 오차를 최소화하는 수학적 엄밀성을 갖추어 한국과 일본을 포함한 동아시아 및 유럽 여러 나라에서 오랫동안 국가 측지의 기준이 되었다. 비슷한 시기 영국에서는 조지 에베레스트(George Everest)가 인도 측량을 위해 에베레스트 타원체(Everest 1830)를 정의하였고, 미국에서는 클라크(Alexander Ross Clarke)가 제안한 클라크 타원체(Clarke 1866)가 널리 사용되었다.

20세기 초에는 국가별로 상이한 타원체를 통일하려는 국제적 노력이 이어졌다. 1910년 미국의 하이포드(John Fillmore Hayford)는 미국 대륙 전체의 편차 데이터를 분석하여 새로운 타원체 제원을 제시하였으며, 이는 1924년 국제 측지학 및 지구 물리학 연맹(International Union of Geodesy and Geophysics, IUGG)에 의해 국제 타원체(International Ellipsoid)로 채택되었다. 그러나 이 시기까지의 타원체들은 대부분 천문 측량과 지상 거리 측량에 의존하였기에, 지구 질량 중심과 타원체 중심이 일치하지 않는 지역적 한계를 지니고 있었다.

현대적 의미의 전 지구적 준거 타원체는 1950년대 이후 인공위성 측지학의 발달과 함께 성립되었다. 위성의 궤도는 지구의 전체적인 중력장에 영향을 받으므로, 위성 관측 데이터를 분석하면 지구 전체 형상과 질량 중심을 매우 정확하게 파악할 수 있다. 이러한 기술적 진보를 바탕으로 1980년 IUGG는 지오데틱 기준 시스템(Geodetic Reference System 1980, GRS80)을 채택하였다. GRS80 타원체는 장반경 $ a $와 편평률 $ f $뿐만 아니라 지구의 질량 중심, 회전 속도, 중력 상수 등을 포함하는 물리적 모델이다.

$$ f = \frac{a - b}{a} $$

위 식에서 $ a $는 적도 반지름(장반경), $ b $는 극 반지름(단반경)을 의미하며, GRS80은 현대 측지학에서 가장 표준적인 물리적 수치를 제공한다. 이후 미국 국방부는 위성 항법 시스템인 GPS의 운영을 위해 GRS80과 거의 동일한 제원을 가진 세계 측지 시스템(World Geodetic System 1984, WGS84)을 구축하였다. 오늘날 WGS84는 항공, 항해, 스마트폰 기반 위치 서비스 등 전 지구적 범위의 실무에서 가장 널리 활용되는 준거 타원체로 자리 잡았다.⁷⁾⁸⁾

지구의 형상이 완전한 구체라는 고대적 관념은 17세기에 이르러 고전 역학의 발전과 함께 이론적 도전에 직면하였다. 아이작 뉴턴(Isaac Newton)은 1687년 저서인 자연철학의 수학적 원리(Philosophiae Naturalis Principia Mathematica)에서 지구가 자전함에 따라 발생하는 원심력의 영향을 분석하였다. 그는 지구가 과거에 유체 상태였다면 자전축을 중심으로 회전하면서 적도 부근이 부풀어 오르고 극 방향은 납작해진 편평 타원체(Oblate spheroid)의 형상을 갖추었을 것이라고 추론하였다. 뉴턴은 지구의 밀도가 균일하다고 가정할 때, 적도 반지름과 극 반지름의 차이에 의한 편평률(Flattening)을 약 230분의 1로 계산하였다.

이러한 뉴턴의 이론적 예측은 당시 프랑스 과학계의 관측 결과와 정면으로 충돌하였다. 파리 천문대의 초대 관장인 지오반니 도메니코 카시니(Giovanni Domenico Cassini)와 그의 아들 자크 카시니(Jacques Cassini)는 프랑스를 남북으로 가로지르는 자오선(Meridian)을 따라 삼각 측량을 수행하였다. 그들은 위도에 따른 자오선 호(Meridian arc) 1도의 길이를 측정한 결과, 북쪽으로 갈수록 그 길이가 짧아진다는 결론을 내렸다. 기하학적으로 호의 길이가 짧아진다는 것은 해당 지점의 곡률 반지름이 작아짐을 의미하며, 이는 지구가 극 방향으로 더 뾰족하게 솟은 장구형 타원체(Prolate spheroid)임을 시사하는 것이었다.

영국과 프랑스 과학계 사이의 이른바 ’지구 형상 논쟁’은 단순한 기하학적 문제를 넘어 데카르트의 와동설과 뉴턴의 만유인력 이론 중 어느 것이 우주를 설명하는 데 더 적합한지를 가리는 학술적 자존심 대결로 확산되었다. 논쟁을 종식하기 위해 프린스 파리 과학 아카데미(French Academy of Sciences)는 지구의 곡률을 서로 다른 위도에서 직접 측정하기 위한 대규모 원정 사업을 기획하였다. 이에 따라 1735년에는 샤를 마리 드 라 콩다민(Charles Marie de La Condamine)과 피에르 부게(Pierre Bouguer)가 이끄는 원정대가 적도 인근의 페루(현재의 에콰도르)로, 1736년에는 피에르 루이 모페르튀(Pierre Louis Maupertuis)가 이끄는 원정대가 북극권에 가까운 라플란드(Lapland)로 파견되었다.

라플란드 원정대는 북위 66도 부근의 토르네 강 유역에서 측량을 수행하여, 고위도에서의 자오선 호 1도의 길이가 파리에서 측정된 값보다 확연히 길다는 사실을 발견하였다. 이는 위도가 높아질수록 지표면이 더 평탄해져 곡률 반지름이 커진다는 것을 의미하며, 뉴턴이 예견한 편평 타원체 모델이 옳음을 증명하는 결정적인 증거가 되었다. 이후 페루 원정대의 결과 역시 적도 부근의 호 길이가 상대적으로 짧다는 사실을 뒷받침하며 뉴턴의 판정승으로 논쟁은 일단락되었다.

이 사건은 측지학(Geodesy) 역사에서 매우 중요한 전환점이 되었다. 지구가 구체가 아닌 회전 타원체라는 사실이 확립됨에 따라, 이후의 모든 정밀 지도 제작과 항법 체계는 타원체 기하학을 기반으로 재편되었다. 또한, 이 과정에서 축적된 정밀한 자오선 측정 데이터는 훗날 프랑스 혁명기 미터법의 제정 과정에서 거리의 표준인 미터(Meter)를 정의하는 기초 자료로 활용되었다. 근대 이전의 이러한 측정 노력은 지구의 물리적 실체에 다가가는 계기가 되었으며, 현대의 준거 타원체 개념이 정립되는 학문적 토대를 마련하였다⁹⁾.

인공위성을 이용한 전 지구적 관측 기술이 발달하기 이전의 측지학(Geodesy)은 주로 지상에서의 삼각 측량(Triangulation)과 천문 관측을 결합하여 지표면의 위치를 결정하였다. 당시의 기술적 한계로 인해 지구 전체를 포괄하는 정밀한 수학적 모델을 수립하는 것은 불가능에 가까웠으며, 각 국가는 자국의 영토 내에서 오차를 최소화할 수 있는 독자적인 기준을 필요로 하였다. 이러한 배경에서 등장한 것이 지역적 준거 타원체(Local Reference Ellipsoid)이다. 이는 지구 전체의 형상을 평균적으로 나타내는 대신, 특정 국가나 대륙의 지오이드(Geoid)면에 가장 적합하도록 설정된 회전 타원체를 의미한다.

지역적 준거 타원체의 확립 과정에서 핵심적인 요소는 측지 원점(Geodetic Datum Origin)의 설정이다. 전 지구적 타원체가 지구의 질량 중심을 타원체의 기하학적 중심으로 삼는 지심 좌표계(Geocentric Coordinate System)를 지향하는 것과 달리, 지역적 타원체는 특정 지표면 지점을 원점으로 지정하고 그곳에서 타원체의 위치와 방향을 고정한다. 원점에서는 타원체의 법선 방향과 실제 중력 방향인 수직선(Plumb line)을 일치시키거나, 혹은 두 방향 사이의 차이인 수직선 편차(Deflection of the vertical)를 정의하여 타원체면이 해당 지역의 지오이드면과 최대한 평행하도록 배치한다. 이러한 설정을 통해 해당 원점을 중심으로 하는 인근 지역에서는 타원체와 실제 지구 형상 사이의 기하학적 이격이 최소화되어, 정밀한 지도 제작과 거리 계산이 가능해진다.

이러한 국지적 최적화는 지구 내부의 밀도 분포 불균형으로 인한 지형적 특성을 반영하기 위한 필연적인 선택이었다. 지오이드는 질량 분포에 따라 매우 불규칙한 기복을 가지기 때문에, 전 지구를 대상으로 정의된 평균 타원체는 특정 지역에서 실제 지표면과 수십 미터 이상의 격차를 보일 수 있다. 따라서 각국은 자국 영토의 평균적인 지오이드 높이에 가장 잘 부합하는 타원체 매개변수인 장반경(Semi-major axis, $a$)과 편평률(Flattening, $f$)을 선택하여 사용하였다. 아래 표는 역사적으로 각 지역에서 널리 사용되었던 주요 지역적 준거 타원체들의 제원을 나타낸다.

프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)이 제시한 베셀 타원체는 유럽뿐만 아니라 한국과 일본 등 동아시아 지역에서도 오랫동안 표준으로 사용되었으며, 이는 해당 지역의 측지망 구성에 있어 중요한 기틀이 되었다. 지역적 준거 타원체는 국가 단위의 지형도 제작, 토지 경계 확정, 군사적 목적의 위치 결정 등에 있어 매우 정밀하고 효율적인 기준을 제공하였다.

그러나 지역적 준거 타원체는 해당 범위를 벗어날수록 실제 지구 형상과의 괴리가 급격히 커지는 구조적 한계를 지닌다. 또한, 서로 다른 타원체를 사용하는 인접 국가 간의 데이터를 통합하거나 대륙 간의 상대적 위치 관계를 파악할 때 좌표 체계가 일치하지 않아 복잡한 좌표 변환(Coordinate Transformation) 과정을 거쳐야 하는 문제가 발생하였다. 이러한 파편화된 기준 체계는 20세기 후반 인공위성 측지학(Satellite Geodesy)의 발전과 함께 전 지구를 하나의 체계로 묶는 세계 측지계(World Geodetic System)로 전환되는 결정적인 계기가 되었다. 현재는 많은 국가가 지역적 타원체에서 탈피하여 지구 질량 중심을 원점으로 하는 전 지구적 타원체 모델을 채택하고 있으나, 과거에 구축된 방대한 공간 정보 데이터의 연속성을 이해하기 위해서는 지역적 준거 타원체의 성립 배경에 대한 이해가 필수적이다.

20세기 후반 인공위성 관측 기술의 비약적인 발전은 측지학의 패러다임을 국지적 관점에서 전 지구적 관점으로 전환하는 결정적 계기가 되었다. 고전적인 준거 타원체는 특정 지역의 지오이드와 가장 잘 일치하도록 설정된 국지적 타원체(Local Ellipsoid)였으나, 이는 지구의 질량 중심과 타원체의 기하학적 중심이 수백 미터 이상 어긋나는 근본적인 한계를 지니고 있었다. 위성 측지학(Satellite Geodesy)은 인공위성의 궤도 운동이 지구의 중력장 분포에 의해 결정된다는 역학적 원리를 이용하여, 지구의 질량 중심을 원점으로 하는 지심 좌표계(Geocentric Coordinate System)를 확립하였다.

전 지구 타원체의 정의는 단순히 기하학적 형상을 규정하는 데 그치지 않고, 지구의 물리적 특성을 반영하는 네 가지 핵심 상수를 바탕으로 이루어진다. 국제 측지학 및 지구 물리학 연맹(International Union of Geodesy and Geophysics, IUGG)이 1979년 채택한 지오데틱 기준 시스템(Geodetic Reference System 1980, GRS80)은 이러한 현대적 타원체의 표준을 제시하였다¹⁰⁾. GRS80은 타원체의 장반경($ a $), 지심 중력 상수(Geocentric gravitational constant, $ GM $), 동역학적 형상 계수(Dynamical form factor, $ J_2 $), 그리고 지구 자전 각속도($ $)를 독립적인 기본 상수로 정의한다.

이러한 물리적 상수들 사이의 관계를 통해 편평률($ f $)과 같은 기하학적 매개변수가 유도된다. 특히 동역학적 형상 계수 $ J_2 $는 지구의 질량 분포가 적도 방향으로 팽창되어 있음을 나타내는 지표로, 위성 궤도의 섭동 분석을 통해 극도로 정밀하게 측정된다. $ J_2 $와 관성 모멘트 사이의 관계는 다음과 같이 표현된다.

$$ J_2 = \frac{C - A}{Ma^2} $$

여기서 $ C $와 $ A $는 각각 극축과 적도축에 대한 지구의 주관성 모멘트이며, $ M $은 지구의 전체 질량을 의미한다. 이 식은 지구 내부의 밀도 구조와 타원체의 기하학적 편평도가 역학적으로 결합되어 있음을 보여준다.

미국 국방부에서 개발하여 범지구 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 기준이 된 WGS84(World Geodetic System 1984) 역시 위성 측지학에 기반한 전 지구 타원체이다¹¹⁾. WGS84는 초기에는 GRS80과 거의 동일한 수치를 공유하였으나, 이후 우주 측지 기술의 정밀도가 향상됨에 따라 미세한 수치 조정을 거쳐 현재의 국제 지구 기준 좌표계(International Terrestrial Reference System, ITRS)와 높은 정밀도로 일치하게 되었다. 이러한 전 지구 타원체의 도입은 대륙 간의 위치 통합을 실현하였으며, 해수면 상승 관측이나 판 구조론에 따른 지각 변동 연구 등 지구 과학 전반에 걸쳐 통일된 척도를 제공하는 필수적인 기반이 되었다.

과거의 측량은 각 국가나 지역의 지형에 최적화된 지역 준거 타원체(Local Reference Ellipsoid)를 기반으로 수행되었다. 그러나 인공위성을 이용한 위성 측지학(Satellite Geodesy)의 발달과 범지구 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 보급은 지구 전체를 포괄하는 통일된 기준의 필요성을 대두시켰다. 이에 따라 지구 질량 중심을 원점으로 하고 전 지구적 지오이드 적합도를 극대화한 세계 표준 준거 타원체들이 제정되었다. 현대 측지학에서 가장 중추적인 역할을 하는 표준은 국제 측지학 및 지구 물리학 연맹(International Union of Geodesy and Geophysics, IUGG)에서 채택한 지오데틱 기준 시스템 80(Geodetic Reference System 1980, GRS 80)과 미국 국가 지리정보국(National Geospatial-Intelligence Agency, NGA)이 관리하는 세계 측지 시스템 84(World Geodetic System 1984, WGS 84)이다.

GRS 80은 1979년 IUGG 총회에서 채택된 이후 학술적 연구와 국가 좌표계의 근간이 되어왔다. 이 시스템은 타원체의 기하학적 형상뿐만 아니라 지구의 물리적 특성을 정의하는 네 가지 기본 상수를 바탕으로 정의된다. 정의된 상수는 적도 반지름인 장반경($a$), 지구 질량 중심 중력 상수($GM$), 동적 형태 계수($J_2$), 그리고 지구 자전 각속도($\omega$)이다. 이들 기초 상수로부터 편평률($f$)과 같은 기하학적 매개변수가 수학적으로 유도된다. GRS 80의 주요 수치에 따르면 장반경 $a$는 $6,378,137$ m이며, 유도된 역편평률($1/f$)은 약 $298.257222101$이다¹²⁾. 이러한 정밀한 정의는 지구의 중력장 모델링과 고정밀 위치 결정의 기초가 된다.

WGS 84는 본래 군사 및 항법 목적으로 개발되었으나, 현재는 GPS의 기본 좌표계로서 민간 분야에서도 사실상의 표준으로 통용되고 있다. WGS 84는 초기에 GRS 80의 수치를 거의 그대로 차용하였으나, 지구 질량 중심 중력 상수($GM$)의 정밀도 차이로 인해 미세한 편평률의 차이가 발생한다. WGS 84의 역편평률은 $298.257223563$으로 정의되어 GRS 80과 소수점 아래 여덟 자리에서 차이를 보이며, 이는 실제 지표면 거리상으로 약 $0.1$ mm 미만의 극미한 차이에 해당한다¹³⁾. 그러나 고정밀 지구 역학 연구나 장거리 우주 항행에서는 이러한 미세한 차이도 물리적 엄밀성을 위해 유의미하게 다루어진다.

아래 표는 현재 세계적으로 널리 사용되거나 역사적 의미가 큰 주요 준거 타원체들의 핵심 제원을 비교한 것이다.

이러한 표준 타원체들은 고정된 수치가 아니며, 관측 기술의 정밀화에 따라 지속적으로 갱신된다. 예를 들어, 국제 지구 자전 및 기준 시스템 서비스(International Earth Rotation and Reference Systems Service, IERS)는 국제 지구 기준 좌표계(International Terrestrial Reference Frame, ITRF)를 통해 더욱 정밀한 지구 형상 모델을 제시하고 있다. ITRF는 단순한 타원체 정의를 넘어 판 구조론에 따른 지각 변동까지 고려한 동적 좌표 체계를 제공하며, WGS 84 역시 최신 ITRF 성과와 일치하도록 주기적인 업데이트를 거치고 있다. 결과적으로 세계 표준 준거 타원체는 단순히 지구의 모양을 규정하는 것을 넘어, 현대 정밀 위치 정보 서비스와 지구 과학 연구의 물리적 기초를 형성하는 핵심 기틀이라 할 수 있다.

프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)이 1841년에 발표한 베셀 준거 타원체는 근대 측지학의 기틀을 마련한 수리적 모델로 평가받는다. 베셀은 당시 유럽, 러시아, 인도 등 세계 각지에서 수행된 10개의 자오선 호 측정 결과에 최소제곱법(Least Squares Method)을 적용하여 지구의 형상을 가장 잘 나타내는 타원체 매개변수를 산출하였다. 그가 제시한 타원체의 장반경($a$)은 약 6,377,397.155m이며, 편평률($f$)은 1/299.1528로 정의된다. 이는 이전의 측정값들에 비해 비약적으로 정밀한 수치였으며, 19세기 중반부터 20세기 후반에 이르기까지 유럽과 동아시아를 비롯한 세계 여러 지역에서 국가 표준 준거 타원체로 채택되는 근거가 되었다.

베셀 준거 타원체는 특정 지역의 지형과 지오이드 면에 최적화된 국지적 준거 타원체(Local Reference Ellipsoid)의 성격을 띤다. 이는 타원체의 중심이 지구의 질량 중심과 일치하지 않고, 특정 국가나 지역의 측지 원점에서 지오이드와 타원체면이 최대한 일치하도록 설정되었음을 의미한다. 독일을 포함한 중부 유럽 국가들과 일본, 그리고 일제강점기를 거치며 해당 체계를 수용한 한국 등지에서는 오랜 기간 이 타원체를 기반으로 지형도를 제작하고 국가 기준점 체계를 관리하였다. 특히 한반도에서는 동경 원점(Tokyo Datum)을 기준으로 한 베셀 타원체가 2000년대 초반 세계 측지계로의 전환이 이루어지기 전까지 모든 지적 및 공간 정보의 근간이 되었다.

수학적으로 베셀 준거 타원체는 다음과 같은 기하학적 관계식을 통해 지구의 형상을 정의한다. 타원체의 단반경을 $b$라고 할 때, 편평률 $f$와 장반경 $a$ 사이의 관계는 다음과 같다.

$$f = \frac{a - b}{a}$$

또한, 측지 계산에서 빈번하게 사용되는 제일 이심률($e$)의 제곱은 다음과 같이 유도된다.

$$e^2 = \frac{a^2 - b^2}{a^2} = 2f - f^2$$

베셀이 산출한 이 매개변수들은 당시의 제한된 관측 기술하에서도 지구 전체의 평균적인 형상을 매우 정밀하게 근사하였으나, 현대 위성 측지학의 관점에서는 명확한 한계를 지닌다. 가장 큰 문제는 베셀 타원체가 지구 질량 중심을 원점으로 하는 지구 중심 좌표계를 따르지 않는다는 점이다. 이로 인해 글로벌 항법 위성 시스템(Global Navigation Satellite System, GNSS)에서 산출되는 위치 정보와 베셀 타원체 기반의 기존 지도 데이터 사이에는 지역에 따라 수백 미터 이상의 편차가 발생하게 된다.

또한, 베셀 타원체는 현대의 표준인 GRS80이나 WGS84 타원체와 비교했을 때 장반경이 약 700m 이상 작게 측정되어 있다. 이러한 기하학적 수치의 차이는 관측 장비의 정밀도 한계와 더불어, 당시 자오선 호 측정 데이터가 북반구 중위도 지역에 편중되어 있었기 때문에 발생한 결과이다. 결과적으로 지구 전체의 물리적 형상을 통합적으로 설명하기에는 부적합하다는 사실이 밝혀짐에 따라, 오늘날 대부분의 국가는 베셀 준거 타원체를 폐기하고 국제 표준인 지구 중심 타원체 체계로 전환하였다. 그러나 과거의 측량 성과를 현대적 좌표계로 변환하는 좌표 변환 과정에서 베셀 타원체의 매개변수는 여전히 중요한 역사적·수학적 참조 자료로 활용된다.

위성 항법 시스템의 기준이 되는 타원체 모델의 물리적 상수와 정의를 상세히 다룬다.

국제 측지학 및 지구 물리학 연맹에서 채택한 학술적 표준 타원체의 기준을 설명한다.

준거 타원체는 단순히 지구의 형상을 수학적으로 근사하는 모델을 넘어, 현대 측량학과 공간 정보 시스템의 실질적인 좌표 기준면으로 기능한다. 실무적으로 지표면의 특정 위치를 결정하기 위해서는 준거 타원체상에서의 위도, 경도, 그리고 타원체로부터의 높이를 정의하는 지리 좌표계가 필수적이다. 이러한 타원체면 기반의 좌표는 물리적인 지형이나 지오이드와 분리되어 기하학적으로 일관된 계산 환경을 제공하며, 이는 인공위성 항법 시스템의 운용과 정밀 지도 제작의 근간이 된다.

타원체 좌표계와 3차원 직교 좌표계 사이의 변환은 실무 측량에서 가장 빈번하게 발생하는 계산 중 하나이다. 준거 타원체의 장반경을 $ a $, 제일 이심률을 $ e $라 할 때, 타원체상의 좌표 $ (, , h) $는 수학적 공식을 통해 직교 좌표 $ (X, Y, Z) $로 변환된다. 우선 해당 지점에서의 묘법선 곡률반경 $ N $은 다음과 같이 정의된다.

$$ N = \frac{a}{\sqrt{1-e^2 \sin^2 \phi}} $$

이 곡률반경을 이용하여 각 성분의 직교 좌표는 아래와 같이 산출된다.

$$ X = (N+h) \cos \phi \cos \lambda $$ $$ Y = (N+h) \cos \phi \sin \lambda $$ $$ Z = \{N(1-e^2)+h\} \sin \phi $$

이러한 기하학적 변환은 위성에서 관측된 궤도 정보와 지상에서 측정된 위치 데이터를 통합하는 데 결정적인 역할을 수행한다. 특히 현대의 WGS84와 같은 전 지구 측지 시스템은 지구 질량 중심을 원점으로 설정하여 전 세계적으로 통용되는 위치 기준을 제공한다.¹⁴⁾

그러나 역사적인 이유로 각 국가나 지역은 자국의 지형에 최적화된 지역 측지 데이텀을 오랫동안 사용해 왔다. 따라서 서로 다른 준거 타원체를 사용하는 좌표계 사이의 정밀한 변환이 실무적으로 매우 중요하다. 이를 위해 가장 널리 사용되는 모델은 헬머트 변환(Helmert Transformation)이다. 헬머트 변환은 두 좌표계 사이의 관계를 세 개의 평행 이동량, 세 개의 회전각, 그리고 하나의 축척 계수로 구성된 총 7개의 매개변수를 통해 기술한다. 두 좌표계 사이의 변환식은 행렬 형태로 다음과 같이 표현된다.

$$ \begin{bmatrix} X_2 \\ Y_2 \\ Z_2 \end{bmatrix} = \begin{bmatrix} \Delta X \\ \Delta Y \\ \Delta Z \end{bmatrix} + (1+s) \begin{bmatrix} 1 & R_z & -R_y \\ -R_z & 1 & R_x \\ R_y & -R_x & 1 \end{bmatrix} \begin{bmatrix} X_1 \\ Y_1 \\ Z_1 \end{bmatrix} $$

이러한 7매개변수 변환은 지역 타원체 기반의 구형 지도를 최신 위성 측지 데이터와 통합할 때 필수적이며, 국가 간의 경계 획정이나 해양 자원 탐사 등 정밀한 위치 정보가 요구되는 분야에서 표준적으로 적용된다.

또한 준거 타원체는 3차원의 곡면 정보를 2차원 평면으로 투영하는 지도 투영 과정에서도 핵심적인 역할을 한다. 투영 과정에서 발생하는 거리, 면적, 각도의 왜곡은 사용된 타원체의 제원에 따라 달라지므로, 실무자는 투영법의 특성과 타원체 보정값을 정확히 이해해야 한다. 예를 들어, 가우스-크뤼거 투영이나 유니버설 횡단 메르카토르 투영 방식은 타원체상의 측지 위도를 평면 좌표로 변환하는 복잡한 급수 전개를 포함하며, 이때 타원체의 편평률이 계산의 정밀도를 좌우한다. 결국 준거 타원체에 기반한 좌표 변환 기술은 상이한 측지 시스템 간의 상호 운용성을 보장하며, 현대 지구 과학 연구와 정밀 항법의 기술적 토대를 형성한다.

경도와 위도를 정의하는 기준면으로서 타원체의 역할과 좌표 결정 원리를 설명한다.

3차원 타원체면을 2차원 평면 지도로 투영할 때 발생하는 왜곡과 보정 방법을 다룬다.

지역 타원체와 세계 표준 타원체 사이의 데이터 통합을 위한 변환 매개변수와 수치 모델을 고찰한다.