오픈AI, ‘나비에-스토크스 방정식’ 88시간 만에 해결

OpenAI가 밀레니엄 난제인 나비에–스토크스 존재성과 매끄러움 문제를 해결했다고 발표했다. 처음에는 정지해 있던 3차원 유체에 적절히 구성한 매끄러운 힘을 가해, 전체 운동에너지는 유한하게 유지되면서 속도는 유한 시간 안에 한계없이 커지는 반례를 찾았다는 내용이다.

회사는 수학적 증명을 담은 논문과 린(Lean) 형식 증명을 함께 공개했다. 린은 수학적 논증을 컴퓨터가 검사할 수 있는 형식으로 작성하는 증명 검증 도구다. 형식화와 검증을 마쳤다는 설명은 OpenAI의 발표에 따른다.

무한해지는 속도, 유한하게 남는 에너지

나비에–스토크스 방정식은 뉴턴의 운동 법칙을 유체에 적용한다. 분자를 하나씩 추적하는 대신 연속적인 물질로 다뤄 항공기 설계, 일기예보, 혈류 연구 등에 활용한다. 이번 문제의 대상은 밀도가 일정하고 압축되지 않는 3차원 유체다.

쟁점은 흐름을 고르게 만드는 점성이 있어도 처음의 매끄러움이 깨질 수 있느냐다. 수학에서 매끄럽다는 것은 공간과 시간에 따른 변화율을 거듭 계산할 수 있고, 그 값이 연속적으로 이어진다는 뜻이다. 이번에 제시된 붕괴는 유한한 시점에 가까워질수록 유체의 최대 속도가 어떤 유한한 한계도 넘어서 커지는 ‘특이점’이다.

1934년 장 르레는 일반화된 의미의 해가 존재한다는 결과를 얻었지만, 매끄러운 상태에서 출발한 해가 끝까지 매끄럽게 유지되는지는 남은 문제였다. 클레이 수학연구소는 2000년 이를 일곱 가지 밀레니엄 난제 중 하나로 선정했다.

논문의 정리 1.1은 점성계수를 어떤 양수로 고정하더라도, 그에 맞는 매끄러운 외력, 즉 외부에서 유체에 가하는 힘을 구성해 속도가 발산하는 흐름을 만들 수 있다고 서술한다. 처음 속도는 0이며, 외력은 정해진 공간과 시간 범위 안에서만 작용한다. 특이 시점에 다가가는 동안에도 전체 운동에너지는 하나의 유한한 상한 아래에 머문다.

논문은 공간 전체에서의 붕괴를 다루는 공식 문제의 C안과, 같은 흐름이 공간적으로 반복되는 주기적 조건의 D안을 입증했다고 설명한다. 외력이 없는 나비에–스토크스 방정식의 반례와는 구별된다.

실제 유체에서 무한대의 속도를 관측했다는 이야기는 아니다. OpenAI는 이런 특이점을 유체를 연속적인 물질로 다루는 모델의 한계로 해석하며, 그 이후를 기술하려면 개별 입자의 거동을 추적해야 한다고 설명한다.

속도를 키우되, 무한한 힘을 넣지는 않는다

반례의 중심에는 안쪽으로 감겨 들어가면서 축을 따라 위아래로 빠져나가는 소용돌이가 있다. 논문의 물리적 설명에 따르면, 빠른 흐름이 집중되는 핵은 반지름과 높이가 모두 줄어든다. 다만 반지름이 더 빨리 줄어 상대적으로 가늘고 길쭉해진다.

작아지는 것은 강한 흐름이 집중되는 영역이지, 같은 유체 덩어리가 압축되는 것은 아니다. 이 영역이 충분히 빠르게 줄어들기 때문에 속도가 커져도 전체 운동에너지는 유한하게 남을 수 있다. 논문에 제시된 핵의 주된 흐름에서는 운동에너지가 오히려 0으로 향한다.

어려운 부분은 소용돌이를 빠르게 돌리는 데 있지 않다. 중심 흐름을 매끄러운 바깥 흐름에 연결하면 중간의 고리 모양 영역에서 운동량의 균형이 어긋난다. 그대로 두면 이를 유지하는 데 필요한 외력도 한계없이 커진다. 밖에서 무한한 힘을 넣어 속도를 키우는 방식으로는 요구 조건을 충족할 수 없다.

논문은 고리 영역에 공간적으로 진동하는 속도 변동, 즉 교란을 더한다. 매우 작은 외력으로 시작된 교란은 주변 흐름의 속도 차에서 에너지를 얻어 자란다. 교란은 유체 내부의 운동량 전달을 바꿔 부족한 균형을 채운다. 처음에는 증폭이 우세하지만, 나중에는 점성에 의한 감쇠가 앞서도록 설계된다.

이후 남는 오차를 보정하는 과정을 반복해 외력 자체와 공간·시간에 따라 거듭 계산한 모든 변화율이 특이 시점을 넘어 매끄럽게 이어지도록 한다. 속도는 발산해도 외력은 매끄럽게 남는 정밀한 상쇄가 증명의 핵심이다. 논문은 같은 초기 상태와 외력 아래에서 운동에너지가 일정한 상한을 갖는 매끄러운 해가 모든 시간에 걸쳐 존재할 수 없다는 결론까지 연결한다.

약 1만 에이전트의 탐색, 연구진의 방향 조정

OpenAI는 증명을 찾은 새 내부 모델이 GPT-6 Astra(아스트라)를 크게 앞선다고 평가했다. 8월 28일부터 훈련했으며, 발표 당시에도 훈련과 성능 개선이 이어지고 있었다.

회사가 선별한 미해결 수학 문제 묶음의 성능 차트에서는 문제를 풀 때 투입한 계산량이 비슷한 두 측정점에서 내부 모델이 약 38%, GPT-6 Astra가 약 14%의 통과율을 보인다. 두 측정점의 계산량이 정확히 같지는 않으며, 이 수치는 해당 문제 묶음에 대한 회사의 자체 평가다.

발표문에 따르면, 연구진은 9월 1일 밀레니엄 난제 두 개가 풀렸다는 소문을 들었다. 이 소문과 내부 모델의 성능 향상을 계기로 아직 풀리지 않은 모든 밀레니엄 난제와 다른 주요 문제들에 모델을 투입했다.

연구진은 모델을 이용해 자료를 읽고 코드를 실행하며 문제를 푸는 에이전트들을 여러 집단으로 나눴다. 에이전트들은 저장된 인터넷 자료를 열람하고 집단 안에서 서로 소통할 수 있었다. 나비에–스토크스 해법을 낸 집단에는 약 1만 에이전트가 동시에 참여했다.

집단별로 서로 다른 접근법도 맡겼다. 나비에–스토크스에서는 매끄러운 해의 지속을 증명하는 A·B안과 붕괴의 반례를 찾는 C·D안을 나눠 제시했다. 회사는 전 과정에서 작동 상태 감시와 격리 등 최첨단 모델 평가에 쓰는 안전장치를 유지했다고 밝혔다.

먼저 성과가 나온 것은 점성 항을 제거한 오일러 방정식이었다. OpenAI에 따르면 100개에 가까운 에이전트가 약 50시간 협력해 외력이 없는 오일러 방정식에서 매끄러움이 깨지는 반례를 얻었다. 연구진은 이를 보고 나비에–스토크스가 가장 유망하다고 판단했다.

이후 다른 밀레니엄 난제에 배치했던 에이전트들을 나비에–스토크스로 옮기고 오일러 결과를 입력으로 제공했다. 탐색 도중 더 훈련된 모델이 나오자 에이전트의 모델도 교체했다.

연구진은 코덱스(Codex)를 이용해 각 집단의 유용한 중간 결과를 모은 뒤, 이를 추가 지시문에 담아 다른 집단에 전달했다. 최종 해법을 찾은 집단도 이런 안내를 받았다. 여러 에이전트의 협력에 연구진의 문제 배분과 방향 조정이 결합된 과정이었다.

오간 메시지와 생성한 텍스트의 양도 컸다. 전체 문제를 시도하는 동안 에이전트들이 보낸 메시지는 490만 개, 출력 토큰은 약 3,000억 개였다. 이 가운데 나비에–스토크스 해결 과정에는 메시지 270만 개와 출력 토큰 약 1,300억 개가 쓰였다. 토큰은 AI가 텍스트를 나눠 처리하는 단위로, 여기서는 모델이 생성한 분량을 센 것이다.

동시 연구의 우선권과 데이터 사용

탐색의 계기가 된 소문은 앤트로픽 직원 레벤트 알푀게(Levent Alpöge)와 뉴욕대 수학 교수 트리스턴 벅마스터(Tristan Buckmaster)의 연구와 관련돼 있었다고 OpenAI는 설명했다. 회사는 9월 6일 프로젝트와 린 검증을 마친 뒤, 두 사람도 나비에–스토크스를 해결했을 것으로 생각하고 연락했다.

OpenAI의 설명에 따르면, 회사는 동시 공개와 공동 발표를 통해 상대 연구의 우선권을 인정하자고 제안했다. 대화에서 확인한 상대의 결과는 외력이 있는 오일러 문제의 해결이었다. OpenAI는 이 연구의 우선권을 인정하면서, 자사의 오일러 결과는 외력이 없는 경우이고 증명도 크게 다르다고 밝혔다.

OpenAI는 논의 과정에서 자신들이 사용한 모든 지시문을 열람할 기회를, 이후에는 증명을 볼 기회도 제안했다고 밝혔다. 또 연구진과 에이전트 모두 상대 연구가 공개되기 전에는 어떤 경로로도 내용을 보지 않았으며, 이 문제를 풀기 위해 특정 이용자 데이터에 접근하지 않았다고 설명했다.

다만 두 연구자의 제품 이용에서 나온 비식별 데이터가 모델 개선에 기여했을 가능성은 낮지만 배제할 수 없다고 덧붙였다. 비식별 데이터는 개인을 식별하는 정보를 제거하거나 처리한 데이터다. 특정 데이터를 직접 열람하지 않았다는 설명이 모델 개선에 데이터가 기여했을 가능성까지 부정하는 것은 아니다.

상금 청구 없이, 내부 모델 이해에 집중

OpenAI는 이번 결과로 밀레니엄상을 청구할 계획이 없다고 밝혔다. 공개 목적은 AI의 발전 속도와 앞으로 나올 모델에서 기대할 수 있는 능력을 알리는 데 있다고 설명했다. 과학자들이 인류에 도움이 되는 연구와 기술을 발전시키도록 지원한다는 목표도 제시했다.

회사는 이번 성과가 수학자와 AI 연구자들의 축적된 작업 위에 있다고 강조했다. 동시에 이를 AI 발전의 완결점이 아니라 진행 중인 한 장면으로 규정하고, AI가 다음 발전 단계에 들어섰다는 근거로 보고 있다.

후속 방침은 내부 모델을 이해하는 데 집중하고, 그 과정에서 얻은 지식으로 추가적인 능력 향상의 방향과 속도를 정하는 것이다. OpenAI는 사람이 방향을 조정할 수 있고, 책임을 물을 수 있으며, 사람과 연결된 AI를 만들려면 발전 속도에 관해 더 신중한 선택이 필요할 수도 있다고 밝혔다.