[2023 아벨상]

비선형편미분방정식 해의 정칙성에 관한 수학적 이론의 토대

이번 호 헬로노벨에서는 2023년 수학에서 가장 권위 있는 상 중 하나인 아벨상을 수상한 U.T. Austin 대학의 루이스 카파렐리(Luis A. Caffarelli) 교수의 업적 소개와 더불어, 막연하기만 한 비선형 편미분방정식의 수학 이론 연구란 어떤 것인지 알아보는 시간을 갖고자 합니다.

노르웨이의 대수학자 아벨(Niels Henrik Abel)의 이름을 딴 아벨상은 비교적 최근인 2002년 제정되었습니다. 필즈상과는 달리, 아벨상은 나이 제한 없이 수학자가 쌓은 평생의 업적으로 상을 수여합니다. 때문에 카파렐리 교수 및 이전 수상자들처럼 먼 타 분야의 수학자들도 “역시” 하며 인정하는, 사실상 현대 수학을 만들고 확장하는 데 공헌한 역사적 인물들에게 상을 수여하며 아주 빠른 시간에 상의 권위를 확보했습니다.

Luis Caffarelli.   Photo credit: Nolan Zunk/University of Texas at Austin

편미분방정식이란 어떤 미지의 함수를 미분한 방정식이 만족해야 하는 조건을 표현한 것이고, 이와 관련된 연구는 해당 방정식을 만족하는 미지의 함수를 찾고 그 성질을 규명하는 것을 목표로 합니다. 쉬운 예로 직선 위에 정의된 함수 u(x)의 2계 미분에 관한 방정식 u″(x) = 0도 일종의 편미분방정식입니다. 미적분을 배운 독자라면 직선의 함수 u(x) = ax + b가 해당 방정식을 모든 점 x에서 만족하는 미분방정식의 해가 된다는 것을 알 수 있습니다. 반대로 해당 방정식의 해는 u(x) = ax + b 꼴 외에는 존재할 수 없다는 사실도 어렵지 않게 보일 수 있습니다.

물리에 관심 있는 학생이라면 u″(x) = – u(x)라는 미분방정식도 풀 수 있습니다. 잘 떠오르지 않는다면 한번 방정식의 함수와 변수의 이름을 u, x에서 x, t로 각각 바꿔봅시다. x″(t) = -k/m x(t)는 용수철과 같은 단진자의 운동방정식으로 임의의 상수 A와 θ0를 통해 x(t) = Asin(√k/m t + θ0) 꼴의 해를 갖습니다. 처음 시간의 위치 x(0)와 속도 x′(0)를 알면 해당 상수들을 구해 x(t)를 찾을 수 있습니다. 이전 문단의 질문처럼 이번 방정식의 해도 반드시 방금 소개한 sine 함수의 꼴 중 하나여야 할까요? 놀랍게도 정확히 이것이 고등학교 시절 자칭 물리 꿈나무였던 저를 고뇌에 빠트린 질문이었습니다. 며칠을 고민한 끝에 수학 선생님을 찾아갔더니, 선생님은 의미심장한 미소를 지으며 “그것의 답은 비싼 등록금을 내고 대학교에 가야 배울 수 있다”라고 하셨고 이것이 저를 수학 전공으로 이끈 시작이었습니다. (참고로 문제의 답은 ‘그렇다’이고 대학에서 배울 수 있지만 포항의 P 대학교처럼 비싼 등록금이 필요하지 않을 수도 있습니다.)

농담 같은 이 일화 속에는 편미분방정식을 대하는 물리학, 과학, 공학자와 수학자의 결정적인 관점의 차이가 담겨있습니다. 물리학 입장에서 진자의 운동은 초기 조건이 그 이후의 운동을 유일하게 결정하는 것이기 때문에 해당 방정식의 해의 유일성은 그다지 큰 문제가 아닙니다. 더욱이 물리학에서 방정식은 실제 현상을 적당히 묘사한 근사적 모델 정도로 인식하는 것도 이러한 반응의 이유 중 하나입니다. 이에 반해 수학에선 미분방정식이 물리, 자연에서 유래했다고 하더라도 결과적으로는 방정식 자체에 관한 이론에 관심을 둡니다. 이러한 차이는 미분방정식이 자연현상의 묘사뿐 아니라 기하학, 위상수학과 같은 엄밀함을 요구하는 다른 수학 분야에 이용되는 점에도 기인합니다. 이는 수학자들이 편미분방정식 해의 (수학적)존재성이나 후술할 정칙성과 같은 이론 규명을 중요한 과업으로 보는 이유이기도 합니다.

카파렐리 교수의 주요 업적인 정칙성(Regularity) 이론은 ‘과연 방정식의 해가 몇 번이나 미분가능하고 매끄러운 함수인가’에 관한 연구입니다. 대중들에게 100만 불 상금의 밀레니엄 문제로 익히 알려진 나비에-스토크스(Navier-Stokes) 방정식 문제도 과연 유체의 흐름을 나타내는 이 방정식의 해가 항상 매끄러운 함수로 나타나는가에 관한 정칙성 문제입니다. 카파렐리 교수의 주요 업적은 자유경계(Free Boundary)문제와 몽쥬-암페어(Monge-Ampere) 방정식에서 정칙성 이론을 개발한 것에 있습니다.

대표적인 자유경계 문제의 예를 들어보겠습니다. 가령 물건과 같은 유한한 3차원의 영역을 비닐과 같은 2차원 막으로 밖에서 감싸는 상황을 생각해 봅시다. 어떻게 감싸야 막의 면적을 최소화하면서, 다시 말해 비닐을 최대한 적게 사용하면서 물건을 감쌀 수 있는지 질문할 수 있습니다. 학계에선 이를 일반적으로 ‘Obstacle Problem’이라 하는데 오늘 우리는 이를 ‘포장문제’라 명명하겠습니다. 사고실험을 통해 최적의 포장법을 생각해보면, 우리는 적어도 막의 일부가 물건과 닿는 부분이 있어야 하는 것을 압니다. 따라서 감싸는 막이 물건에 닿지 않는다면, 그림 1과 같이 막의 크기를 줄여서 더 작은 넓이로 물건을 포장할 수 있습니다.

그림 1. 감싸는 막이 물체와 닿지 않는 경우 더 적은 면적으로도 물체를 감싸도록 줄일 수 있다.

하지만 그렇다고 물건의 모든 경계가 막과 닿을 필요는 없습니다. 예를 들어, 그림 2에서처럼 공간을 남기고 감싸는 것이 더 효율적일 수 있습니다.

그림 2. 안쪽 푸른 가장자리를 따라 감싸는 것보다 점선을 따라 감싸는 것이 효율적이다.

이런 최적의 포장법이 정확히 어떤 방법인지 식으로 표현하는 것은 일반적으로 불가능하지만, 현대의 편미분방정식 이론은 이런 최적의 포장이 있다는 존재성을 보일 수 있습니다.

자유경계란 그림 3과 같이 최적의 2차원 막(곡면)이 물건의 가장자리와 닿은 부분과 안 닿은 부분을 나누는 경계 곡선을 말합니다.

그림 3. 일부만을 확대해 그린 안쪽 물체(파란색)을 감싸는 최적의 포장(검은색)이 파란 영역과 접하는 영역의 경계 곡선(붉은색)이 자유 경계에 해당한다.

이전의 편미분방정식 이론은 이러한 경계가 문제의 조건으로 주어졌을 때 넓이가 최소인 막이 어떻게 생겨야 하는지는 수학적으로 설명할 수 있었습니다. 하지만 문제 자체에 의해 경계가 해의 일부로 나타나는 해당 경우는 새로운 도전이었습니다. 포장문제뿐 아니라 겨울철 호수 표면의 얼음과 물의 경계면의 위치와 모양에 관한 이론 또한 자유경계 문제에 해당합니다. 카파렐리 교수의 연구는 자유경계가 가질 수 있는 최적의 정칙성을 유도하는 일반적인 방법론을 제시해 이론의 발전에 기여했습니다.

오늘은 직관적으로 이해할 수 있는 자유경계 문제를 대표적으로 살펴보았지만, 카파렐리 교수의 연구는 편미분방정식 전반에 지대한 영향을 끼쳤습니다. 열이나 유체의 확산 및 평형과 같은 현상부터 끈이론 등 이론물리 전개의 배경이 되는 칼라비-야우 다양체(Calabi-Yau manifold)까지 말입니다. 이렇게 다양한 학문의 발전에 큰 영향을 끼침으로써 해당 방정식 이론은 현대 수학의 빛나는 성과로 자리매김하였습니다.

(글) 포스텍 수학과 최범준 교수