지구의 실제 표면은 산맥과 해구, 그리고 지각 내부의 불균질한 밀도 분포로 인해 매우 불규칙한 형상을 띠고 있다. 이러한 복잡한 지표면 위에서 지점 간의 거리를 계산하거나 위치를 결정하는 것은 수학적으로 매우 난해한 과제이다. 따라서 측지학(Geodesy)에서는 지구의 물리적 형상을 가장 가깝게 근사하면서도 수학적으로 명확하게 정의할 수 있는 기하학적 모델인 준거 타원체(Reference Ellipsoid)를 도입한다. 준거 타원체는 지구의 자전축을 회전축으로 하여 자오선인 타원을 회전시킨 회전 타원체(Oblate Spheroid)의 형태를 취하며, 이는 지구가 완전한 구형이 아니라 적도 부근이 부풀어 오른 형태라는 물리적 사실에 근거한다.

준거 타원체의 물리적 기초는 아이작 뉴턴(Isaac Newton)과 크리스티안 하위헌스(Christiaan Huygens)가 제시한 회전 유체의 평형 형상(Equilibrium figure) 이론에 닿아 있다. 지구가 자전함에 따라 발생하는 원심력은 적도 방향으로 갈수록 커지며, 이는 만유인력과 결합하여 지구 내부의 물질이 역학적 평형을 이루도록 유도한다. 만약 지구가 일정한 밀도를 가진 유체 상태라고 가정한다면, 자전하는 지구는 수학적으로 완벽한 회전 타원체의 형태를 갖추게 된다. 현대 측지학에서 사용하는 지오데틱 기준 시스템(Geodetic Reference System, GRS)은 단순히 기하학적인 크기뿐만 아니라, 지구의 질량 중심, 자전 속도, 그리고 지구 질량에 의한 중력 포텐셜 등을 물리적 상수로 채택하여 타원체를 정의한다.¹⁾

기하학적 관점에서 준거 타원체는 중심으로부터 적도까지의 거리인 장반경(Semi-major axis, $a$)과 중심으로부터 극점까지의 거리인 단반경(Semi-minor axis, $b$)으로 규정된다. 3차원 직교 좌표계에서 타원체면 위의 임의의 점 $(x, y, z)$는 다음과 같은 방정식을 만족한다.

$$ \frac{x^2 + y^2}{a^2} + \frac{z^2}{b^2} = 1 $$

이때 지구의 편평한 정도를 나타내는 편평률(Flattening, $f$)은 $f = \frac{a-b}{a}$로 정의되며, 이는 지구의 물리적 자전 특성을 반영하는 핵심적인 지표가 된다. 준거 타원체는 물리적 실재인 지오이드(Geoid)와 밀접한 상관관계를 갖는다. 지오이드는 중력의 등포텐셜면 중 평균 해수면과 일치하는 면으로, 지구 내부의 밀도 차이에 따라 굴곡이 존재한다. 준거 타원체는 이러한 지오이드의 기복을 최소화하면서 전 지구적으로 가장 잘 들어맞도록 설정된 수학적 기준면이다.

준거 타원체의 도입은 위도와 경도라는 좌표계를 확립하는 데 필수적이다. 타원체면 위의 한 점에서 면에 수직인 법선을 그었을 때, 이 법선이 적도면과 이루는 각도를 지리적 위도로 정의한다. 만약 기준면이 타원체가 아닌 불규칙한 지오이드라면, 지점마다 중력 방향이 달라져 일관된 좌표 체계를 유지할 수 없게 된다. 따라서 준거 타원체는 지구 과학적 관측 데이터를 투영하고 지도화하기 위한 이론적 토대이자, 인공위성 항법 시스템(GNSS) 등 현대 정밀 측위 기술의 물리적 기준점 역할을 수행한다.

지구의 물리적 표면은 산맥, 해구, 고원 등 지형적 요인으로 인해 극도로 불규칙하며, 이를 직접적인 수학 함수로 정의하여 공간 정보를 처리하는 것은 불가능에 가깝다. 따라서 측지학(Geodesy)에서는 이러한 복잡한 지표면을 단계적으로 단순화하여 계산 가능한 기하학적 모형으로 변환하는 과정을 거친다. 이 과정의 핵심은 물리적 실체인 지표면을 거쳐 물리적 가상면인 지오이드(Geoid)를 정의하고, 이를 다시 기하학적으로 정의된 회전 타원체(Ellipsoid of revolution)로 근사하는 데 있다.

지구 형상 모델링의 첫 번째 단계는 중력의 영향을 반영하는 것이다. 지구 내부의 밀도 분포가 불균일하기 때문에 중력의 크기와 방향은 지점마다 다르다. 이러한 중력 에너지의 등전위면 중 평균 해수면(Mean Sea Level)과 일치하도록 설정된 면을 지오이드라 한다. 지오이드는 모든 지점에서 중력 방향(연직선)에 수직인 물리적 기준면이 되지만, 질량 분포의 차이로 인해 불규칙한 요철을 포함하므로 기하학적 계산을 위한 표준 좌표계로 직접 사용하기에는 한계가 있다.

이에 따라 지오이드의 형상에 가장 가깝게 설계된 매끄러운 수학적 모형인 준거 타원체를 도입한다. 지구가 완전한 구(Sphere)가 아닌 타원체의 형상을 띠는 원인은 자전에 의한 원심력과 질량에 의한 만유인력이 평형을 이루는 정역학적 평형(Hydrostatic equilibrium) 상태에 있기 때문이다. 회전하는 유체 역학적 원리에 따라 지구는 적도 부분이 부풀어 오르고 극 부분이 납작한 편평 타원체(Oblate spheroid)의 형상을 갖게 된다.

수학적으로 준거 타원체를 정의하기 위해서는 타원체의 크기와 모양을 결정하는 매개변수가 필요하다. 일반적으로 장반경(Semi-major axis, $ a $)과 편평률(Flattening, $ f $)을 기본 상수로 사용한다. 타원체 표면 위의 임의의 점에 대한 공간적 위치는 3차원 직교 좌표계($ x, y, z $)에서 다음과 같은 타원체 방정식으로 표현된다.

$$ \frac{x^2 + y^2}{a^2} + \frac{z^2}{b^2} = 1 $$

여기서 $ b $는 단반경(Semi-minor axis)을 의미하며, 편평률 $ f $와의 관계식 $ b = a(1-f) $를 통해 유도된다. 이러한 수학적 모형화는 지표면상의 점을 위도와 경도라는 기하학적 수치로 환산할 수 있게 하며, 거리 및 면적 계산을 위한 공학적 토대를 제공한다.

실제 지구 형상을 타원체로 모형화할 때는 최소제곱법(Least squares method)을 활용하여 지오이드와 타원체 사이의 거리 차이인 지오이드고(Geoid height)의 제곱합이 최소가 되도록 매개변수를 결정한다. 과거에는 특정 국가나 대륙의 지형에만 최적화된 지역 준거 타원체를 사용하였으나, 현대에는 인공위성 측지 데이터와 질량 중심 좌표를 결합하여 전 지구에 적용 가능한 세계 측지계 모델을 구축하여 사용하고 있다. 이와 같은 수학적 모형화 과정을 통해 인류는 불규칙한 지구상에서 정밀한 위치 결정과 지도 제작을 수행할 수 있게 되었다.

지구의 물리적 형상을 정의함에 있어 지오이드(Geoid)와 준거 타원체(Reference Ellipsoid)는 각각 물리적 실체와 기하학적 편의를 대변하는 핵심적인 기준면이다. 지오이드는 지구가 정역학적 평형 상태에 있다고 가정할 때, 평균 해수면과 일치하는 중력 등포텐셜면(equipotential surface)으로 정의된다. 이는 지구 내부의 밀도 분포와 자전에 의한 원심력이 반영된 결과물로, 실제 지표면의 높낮이와는 별개로 중력의 방향인 연직선(plumb line)에 어디서나 수직인 물리적 기준면이다. 반면 준거 타원체는 이러한 복잡한 지오이드의 형상을 수학적으로 처리하기 위해 도입된 회전 타원체로, 지구의 전체적인 크기와 모양을 가장 잘 근사하도록 설계된 기하학적 모델이다. 따라서 지오이드와 준거 타원체의 상관관계를 파악하는 것은 지구상의 정밀한 위치 결정과 중력장 해석에 있어 필수적인 과정이다.

두 기준면 사이의 수직적 거리 차이를 지오이드고(Geoid height) 또는 지오이드 기복(Geoid undulation)이라 하며, 통상 기호 $ N $으로 표기한다. 임의의 지점에서 타원체면으로부터 지표면까지의 높이인 타원체고(Ellipsoidal height, $ h $)와 지오이드면으로부터의 높이인 표고(Orthometric height, $ H $) 사이에는 $ h = H + N $이라는 기본적인 관계식이 성립한다. 위성 항법 시스템(GNSS)을 통해 얻어지는 높이 정보는 타원체를 기준으로 한 기하학적 높이인 $ h $이므로, 실질적인 물의 흐름이나 공학적 설계를 위해 필요한 물리적 높이인 $ H $를 산출하기 위해서는 해당 지역의 정확한 지오이드고를 알아야 한다. 이는 지오이드가 단순한 이론적 개념을 넘어 실용 측지학에서 좌표계 변환의 매개체 역할을 수행함을 의미한다.

지오이드와 준거 타원체의 차이는 물리적으로 교란 포텐셜(disturbing potential)에 의해 결정된다. 지구의 실제 중력 포텐셜을 $ W $, 준거 타원체에 의한 표준 중력 포텐셜을 $ U $라고 할 때, 그 차이인 $ T = W - U $가 교란 포텐셜이다. 브룬스 공식(Bruns’ formula)에 따르면 지오이드고 $ N $은 교란 포텐셜 $ T $를 해당 지점의 표준 중력(normal gravity) $ $로 나눈 값인 $ N = $로 표현된다. 이 식은 지오이드의 기복이 지구 내부의 질량 불균형에 의한 중력 이상과 직접적으로 연결되어 있음을 시사한다. 예를 들어, 지하에 밀도가 높은 물질이 매장되어 있거나 거대한 산맥이 존재하는 지역에서는 중력이 강하게 작용하여 지오이드면이 준거 타원체면 위로 솟아오르게 되며, 반대로 해구와 같이 질량이 결손된 지역에서는 지오이드면이 타원체면 아래로 가라앉게 된다.

결론적으로 준거 타원체는 지구의 형태를 단순화하여 계산의 효율성을 제공하는 수학적 틀이며, 지오이드는 지구 내부의 물리적 특성을 반영하는 실제적인 에너지 기준면이다. 현대 측지학(Geodesy)에서는 인공위성 추적 데이터와 지상 중력 측량 값을 결합하여 전 지구적 지오이드 모델을 구축함으로써, 준거 타원체라는 기하학적 기준 위에 물리적 중력장 정보를 통합하고 있다. 이러한 상관관계의 정밀한 규명은 지각 변동 감시, 해수면 상승 연구, 그리고 정밀 지도 제작 등 지구 과학 전반의 기초를 형성한다.

타원체 법선 방향과 실제 중력 방향의 차이인 수직선 편차가 측지에 미치는 영향을 분석한다.

준거 타원체(Reference Ellipsoid)는 지구의 형상을 기하학적으로 정의하기 위해 도입된 회전 타원체(Ellipsoid of revolution)로서, 그 크기와 모양을 규정하는 수치적 매개변수들에 의해 수학적 특성이 완전히 결정된다. 이론적으로 회전 타원체는 타원을 단축을 축으로 하여 회전시킨 입체이므로, 단 두 개의 독립적인 기하학적 매개변수만 주어지면 타원체면상의 모든 기하학적 관계를 도출할 수 있다. 측지학에서는 일반적으로 타원체의 규모를 나타내는 선형 매개변수와 지구의 평평한 정도를 나타내는 무차원 형상 매개변수를 조합하여 시스템을 정의한다.

타원체의 크기를 결정하는 가장 기본적인 요소는 장반경(Semi-major axis, $ a $)과 단반경(Semi-minor axis, $ b $)이다. 장반경은 타원체의 중심에서 적도까지의 거리를 의미하며, 단반경은 중심에서 북극 또는 남극까지의 거리를 의미한다. 지구는 자전에 따른 원심력의 영향으로 적도 부근이 부풀어 오른 형태를 띠기 때문에, 준거 타원체의 설계 시 장반경은 항상 단반경보다 길게 설정된다. 이 두 반지름의 차이는 지구 형상의 비대칭성을 나타내는 출발점이 된다.

타원체의 형상을 규정하는 핵심적인 무차원 매개변수는 편평률(Flattening, $ f $)이다. 편평률은 장반경에 대한 장반경과 단반경의 차이의 비율로 정의되며, 다음과 같은 수식으로 표현된다. $$ f = \frac{a - b}{a} $$ 편평률은 타원체가 완전한 구(Sphere)에서 얼마나 벗어나 있는지를 수치화한 것이다. 만약 $ f = 0 $이라면 해당 입체는 구가 되며, $ f $ 값이 커질수록 극 방향으로 더 압축된 형태가 된다. 현대 측지학의 표준인 지오데틱 기준 시스템(Geodetic Reference System 1980, GRS 80)이나 세계 측지 시스템(World Geodetic System 1984, WGS 84)에서는 장반경 $ a $와 함께 편평률의 역수($ 1/f $)를 기본 매개변수로 채택하여 사용한다. 이는 편평률이 지구의 동적 평형 상태를 반영하는 물리적 의미를 내포하고 있기 때문이다²⁾.

타원체의 기하학적 특성을 설명하는 또 다른 중요한 지표는 이심률(Eccentricity)이다. 이심률은 타원의 초점 위치와 관련이 있으며, 측지 계산 및 지도 투영법의 수식 전개에서 편평률보다 더 빈번하게 활용된다. 특히 제일 이심률(First eccentricity, $ e $)과 제이 이심률(Second eccentricity, $ e’ $)의 구분이 중요하다. 제일 이심률의 제곱은 다음과 같이 정의된다. $$ e^2 = \frac{a^2 - b^2}{a^2} = 2f - f^2 $$ 제일 이심률은 지리 좌표계에서 위도에 따른 곡률 반경을 계산할 때 필수적인 인자로 작용한다. 한편, 제이 이심률의 제곱은 다음과 같이 정의된다. $$ e'^2 = \frac{a^2 - b^2}{b^2} = \frac{e^2}{1 - e^2} $$ 제이 이심률은 주로 타원체상의 거리 계산이나 특수한 좌표 변환 알고리즘에서 매개변수로 사용된다.

이러한 기하학적 매개변수들은 서로 독립적이지 않으며, 상호 간의 엄밀한 수학적 관계식을 통해 연결되어 있다. 예를 들어, 장반경 $ a $와 편평률 $ f $가 결정되면 단반경 $ b $와 두 종류의 이심률은 종속적으로 산출된다. 현대 위성 측지학에서는 인공위성의 궤도 섭동 분석을 통해 얻어진 중력장의 동적 형상 계수(Dynamic form factor, $ J_2 $)를 바탕으로 편평률을 결정하며, 이를 통해 기하학적 매개변수와 지구 물리적 상수 사이의 일관성을 유지한다. 이 매개변수들은 위성 항법 시스템(Global Navigation Satellite System, GNSS)의 정밀도를 보장하고 전 지구적 위치 기준을 확립하는 데 있어 근간이 되는 수치들이다.

적도 반지름과 극 반지름의 정의를 통해 타원체의 기본적인 규모를 규정한다.

지구가 회전에 의해 편평해진 정도를 나타내는 수학적 지표들의 정의와 계산식을 다룬다.

좌표 변환과 거리 계산에 필수적으로 사용되는 이심률의 세부 구분을 설명한다.

지구의 형상을 수학적으로 정의하려는 시도는 단순한 기하학적 호기심을 넘어 정확한 위치 결정과 지도 제작이라는 실무적 요구에 의해 발전해 왔다. 초기 인류는 지구를 평면이나 완전한 구체로 간주하였으나, 근대 물리학의 발흥과 함께 보다 정교한 모델인 준거 타원체(Reference Ellipsoid)의 개념이 정립되기 시작하였다.

지구 형상에 대한 과학적 논쟁은 17세기 말 아이작 뉴턴(Isaac Newton)과 지오반니 도메니코 카시니(Giovanni Domenico Cassini) 사이의 대립에서 본격화되었다. 뉴턴은 만유인력의 법칙과 회전에 의한 원심력을 근거로 지구가 적도 방향으로 부풀어 오른 편평 타원체(Oblate Spheroid) 형태일 것이라고 주장하였다. 반면 카시니는 프랑스 내에서의 자오선 측량 결과를 바탕으로 지구가 극 방향으로 길쭉한 장구 타원체(Prolate Spheroid)라고 반박하였다. 이 논쟁은 1730년대 프랑스 과학 아카데미가 파견한 라플란드(Lapland)와 페루(Peru) 원정대의 자오선 호 측정(Meridian arc measurement)을 통해 뉴턴의 이론이 타당함이 입증되며 종결되었다. 위도 1도에 해당하는 자오선의 길이가 고위도로 갈수록 길어진다는 사실이 확인됨으로써 지구가 회전 타원체임이 과학적으로 증명된 것이다.

19세기에 접어들어 측량 기술과 수학적 분석 기법이 발달함에 따라, 특정 지역의 지형에 최적화된 국지적 준거 타원체들이 등장하기 시작하였다. 프리드리히 빌헬름 베셀(Friedrich Wilhelm Bessel)은 1841년 당시까지 축적된 유럽 전역의 자오선 측정 자료에 최소제곱법(Least Squares Method)을 적용하여 베셀 타원체(Bessel 1841)를 산출하였다. 이 모델은 오차를 최소화하는 수학적 엄밀성을 갖추어 한국과 일본을 포함한 동아시아 및 유럽 여러 나라에서 오랫동안 국가 측지의 기준이 되었다. 비슷한 시기 영국에서는 조지 에베레스트(George Everest)가 인도 측량을 위해 에베레스트 타원체(Everest 1830)를 정의하였고, 미국에서는 클라크(Alexander Ross Clarke)가 제안한 클라크 타원체(Clarke 1866)가 널리 사용되었다.

20세기 초에는 국가별로 상이한 타원체를 통일하려는 국제적 노력이 이어졌다. 1910년 미국의 하이포드(John Fillmore Hayford)는 미국 대륙 전체의 편차 데이터를 분석하여 새로운 타원체 제원을 제시하였으며, 이는 1924년 국제 측지학 및 지구 물리학 연맹(International Union of Geodesy and Geophysics, IUGG)에 의해 국제 타원체(International Ellipsoid)로 채택되었다. 그러나 이 시기까지의 타원체들은 대부분 천문 측량과 지상 거리 측량에 의존하였기에, 지구 질량 중심과 타원체 중심이 일치하지 않는 지역적 한계를 지니고 있었다.

현대적 의미의 전 지구적 준거 타원체는 1950년대 이후 인공위성 측지학의 발달과 함께 성립되었다. 위성의 궤도는 지구의 전체적인 중력장에 영향을 받으므로, 위성 관측 데이터를 분석하면 지구 전체 형상과 질량 중심을 매우 정확하게 파악할 수 있다. 이러한 기술적 진보를 바탕으로 1980년 IUGG는 지오데틱 기준 시스템(Geodetic Reference System 1980, GRS80)을 채택하였다. GRS80 타원체는 장반경 $ a $와 편평률 $ f $뿐만 아니라 지구의 질량 중심, 회전 속도, 중력 상수 등을 포함하는 물리적 모델이다.

$$ f = \frac{a - b}{a} $$

위 식에서 $ a $는 적도 반지름(장반경), $ b $는 극 반지름(단반경)을 의미하며, GRS80은 현대 측지학에서 가장 표준적인 물리적 수치를 제공한다. 이후 미국 국방부는 위성 항법 시스템인 GPS의 운영을 위해 GRS80과 거의 동일한 제원을 가진 세계 측지 시스템(World Geodetic System 1984, WGS84)을 구축하였다. 오늘날 WGS84는 항공, 항해, 스마트폰 기반 위치 서비스 등 전 지구적 범위의 실무에서 가장 널리 활용되는 준거 타원체로 자리 잡았다.³⁾⁴⁾

카시니와 뉴턴의 논쟁부터 시작된 초기 지구 형상론과 자오선 호 측정의 역사를 기술한다.

각 국가나 대륙별로 지형에 최적화하여 사용했던 국지적 타원체들의 등장 배경을 다룬다.

인공위성 관측 데이터를 통해 지구 질량 중심을 원점으로 하는 현대적 타원체의 성립 과정을 설명한다.

현재 전 세계적으로 통용되거나 역사적으로 중요한 표준 타원체들의 제원을 비교한다.

과거 동아시아와 유럽 등지에서 표준으로 사용되었던 베셀 타원체의 특징과 한계를 기술한다.

위성 항법 시스템의 기준이 되는 타원체 모델의 물리적 상수와 정의를 상세히 다룬다.

국제 측지학 및 지구 물리학 연맹에서 채택한 학술적 표준 타원체의 기준을 설명한다.

타원체 모델이 실제 지도 제작, 항법, 지구 과학 연구에 어떻게 적용되는지 논한다.

경도와 위도를 정의하는 기준면으로서 타원체의 역할과 좌표 결정 원리를 설명한다.

3차원 타원체면을 2차원 평면 지도로 투영할 때 발생하는 왜곡과 보정 방법을 다룬다.

지역 타원체와 세계 표준 타원체 사이의 데이터 통합을 위한 변환 매개변수와 수치 모델을 고찰한다.