원문 영상

타오가 보는 변화의 출발점은 역설적이다. 수학은 오래도록 거의 변하지 않은 분야였다. 그는 19세기 초 오귀스탱 루이 코시(Cauchy)의 복소해석학 텍스트와 오늘날 대 학원 교재를 비교하며, 설명 방식과 증명의 감각이 놀라울 만큼 닮아 있다고 말한다. 칠판 역시 여전히 수학의 상징적 도구이고, 공동저자 수 또한 오랫동안 한두 명 수준에 머물렀다. 수학은 새 도구를 가장 늦게 받아들이는 분야 가운데 하나였고, 그만큼 작업 문화도 오래 정체돼 있었다.

그가 말하는 보수성은 취향의 문제가 아니라 구조의 문제다. 수학은 진입장벽이 높고, 문제를 이해하는 데만 오랜 훈련이 필요하다. 무엇보다 증명은 한 줄 한 줄이 전부 맞아야 한다. 열 명이 함께 일할 때 그중 한 사람의 논증이 믿기 어렵다면, 결국 나머지 아홉 명이 모두를 검토해야 한다. 그러지 못하면 전체 결과의 신뢰가 흔들린다.

그래서 두세 명이 칠판 앞에서 호흡을 맞추며 푸는 방식은 매우 강력하지만, 20명, 50명이 여러 나라에 흩어져 협업하는 방식으로는 잘 확장되지 않았다. 타오의 표현을 빌리면, 단순히 수학자들이 비사교적이어서가 아니다. 기존 워크플로 자체가 대규모 협업에 맞지 않았던 것이다.

타오는 이를 실험과학의 비유로 설명한다. 예전 수학은 하나의 문제를 아주 깊게 파는 사례 연구에 가까웠다. 하지만 이제는 수백, 수천 개의 문제를 한꺼번에 훑으며 무엇이 풀리고 무엇이 안 풀리는지 보는 문제 집단 조사도 가능해지고 있다. 이것은 수학이 처음 경험하는 종류의 스케일 변화다.

참여의 폭도 넓어졌다. 타오는 이를 시민과학에 비유한다. 다른 과학에서 아마추어가 나비를 모으고, 혜성을 찾고, 수질 샘플을 모으듯, 수학도 이제 일부 영역에서 비전문가의 기여를 흡수할 수 있게 됐다. 대 학원생, 고등학생, 개발자, 다른 분야 연구자들이 AI와 함께 의미 있는 조각을 보태고, 그 결과는 검증 절차를 거쳐 살아남는다.

타오가 사례 연구로 고른 것은 에르되시(Erdős) 문제들이다. 에르되시는 20세기 수학에서 가장 생산적이고 영향력 있는 문제 제기자 가운데 한 명이었고, 1,500편 이상의 논문을 남겼다. 토머스 블룸이 구축한 정리 사이트를 중심으로 이 문제들은 천 개 안팎의 데이터셋으로 모였다. 타오에게 이 목록은 현재 수학용 AI 도구를 시험하기에 가장 흥미로운 현장이다.

중요한 점은 이 목록이 균질하지 않다는 것이다. 어떤 문제는 작은 진전만으로도 거대한 이론을 낳는 씨앗이고, 어떤 문제는 생각보다 빨리 끝나는 가벼운 문제다. 바로 그 불균질성 때문에 이 목록은 오히려 좋은 시험대가 된다. 툴이 어디에서 빛나고 어디에서 막히는지, 한두 개의 화려한 사례가 아니라 전체 분포로 볼 수 있기 때문이다.

타오도 분명히 말한다. 이 목록은 원래부터 AI 벤치마크로 만든 것이 아니다. 그럼에도 지금은 사실상 자연 발생적 벤치마크가 됐다. 해결된 문제와 미해결 문제가 섞여 있고, 난도와 성격도 다양하기 때문에, 오늘의 도구들이 어느 층위에서 실제 성과를 내는지 비교하기 좋기 때문이다.

타오가 먼저 강조한 성과는 문헌 탐색이다. 검색형 AI는 다른 분야나 다른 언어의 오래된 논문에서 해답의 단서를 끌어온다. “조금만 손보면 이 문제가 사실상 이미 풀려 있었다”는 사실을 드러내는 식이다. 타오의 설명에 따르면 이런 방식만으로도 20~30여 개 문제가 정리됐다. 수학자들이 오래 원하던 의미 기반 문헌 탐색이 부분적으로 현실화된 셈이다.

둘째는 코드 작성과 수치 실험이다. AI는 계산 실험, 예시 생성, 그림 제작 같은 주변 업무를 매우 빠르게 처리한다. 예전에는 연구자가 직접 파이썬을 만지며 오래 끌었을 작업이 이제는 훨씬 짧아졌다. 타오가 보기에 이런 보조 업무에서 AI는 이미 ‘놀랍다’를 넘어 거의 일상적인 도구가 됐다.

셋째이자 가장 중요하게는 형식 검증이다. Lean 같은 시스템은 비형식적 증명을 기계가 검사할 수 있는 언어로 바꿔, 각 단계가 실제로 성립하는지 확인한다. 예전에는 사람의 증명을 여기에 옮기는 일만 해도 몇 주 가 걸리곤 했지만, 타오는 이제 많은 유형의 증명에서 그 시간이 몇 시간 단위로 줄고 있다고 말한다. 이 필터가 있으니 AI가 대량으로 낸 풀이도 하나씩 선별할 수 있다.

그래서 타오는 과장을 경계한다. 지금까지 AI가 두드러진 성과를 낸 문제들은 대체로 수학계가 가장 집요하게 붙들고 있는 최상위 난제들이 아니다. 오히려 ‘어려워서’가 아니라 ‘아무도 충분히 들여다보지 않아서’ 남아 있던 문제들이 많다. 강연 시점 추적표에도 미해결 문제가 약 700개 남아 있었다. 이것은 이미 끝난 혁명이 아니라, 이제 막 형태가 드러나기 시작한 변화라는 뜻이다.

타오가 든 첫 사례는 절반쯤 열린 문제였다. 한 참여자가 수치 실험과 구성 아이디어로 문제의 대부분을 밀어붙였지만, 마지막에 남은 식 하나를 증명하지 못했다. 타오는 그 빈칸을 일반 모델에 던졌고, 모델은 예상보다 세련된 수론적 아이디어로 보조 정리를 메웠다. 이후 사람 연구자가 그 논증을 읽고 단순한 형태로 다시 설명했고, 또 다른 참여자가 형식화 도구로 옮겨 Lean 증명까지 완성했다. 아이디어, 보조 정리, 검증이 릴레이처럼 이어진 셈이다.

두 번째 사례는 더 직관적이다. 동전 더미를 여러 더미로 나눠 놓고, 상대는 증가수열 또는 감소수열을 이루는 더미만 골라 가져갈 수 있을 때 공정한 가격이 얼마인지 묻는 최적화 문제가 있었다. 먼저 사람 참여자가 작은 경우들을 선형계획으로 계산해 규칙을 추측했다. 그다음 AI가 제곱수 크기의 경우를 작은 정사각형을 큰 정사각형에 배치하는 문제로 번역해 증명 구조를 찾아냈다. 이어 사람 연구자들은 더 큰 경우의 데이터를 뽑아 추측을 단순화했고, 이미 해결돼 있던 다른 정사각형 패킹 문제와 연결해 일반형까지 마무리했다.

중요한 것은 어느 한쪽의 단독 승리가 아니라 역할 분담이다. 타오가 실제로 보여 준 것은 ‘AI가 혼자 풀었다’는 서사가 아니라, 문제를 구성하는 여러 층위를 인간과 기계가 서로 나눠 맡는 작업 흐름이다. 이 때문에 그는 인간-AI 협업이 특히 긴 꼬리의 중간 난도 문제들에서 강력하다고 본다.

타오는 문제 해결이 수학의 전부가 아니라고 못 박는다. 수학자는 개념을 이해하고, 복잡한 논의를 더 단순한 형태로 압축하고, 설명 가능한 지식으로 바꾸는 일을 한다. 어떤 문제 하나의 답보다, 그 답을 찾는 과정에서 나온 기술과 시야가 더 중요한 경우도 많다. 실제로 등차수열에 관한 에르되시 문제는 그 자체의 해답보다도 숫자 패턴을 다루는 가법적 조합론이라는 분야 전체를 밀어 올리는 자극이 됐다.

따라서 에르되시 문제 몇 개의 해결을 곧장 ‘수학 전체의 정복’으로 읽으면 과장이다. 하지만 반대로 이를 단순한 유행으로 치부하는 것도 오판이다. 타오의 태도는 냉정하다. 순수한 과대광고는 아니다. 그렇다고 가장 깊은 난제가 당장 무너지는 것도 아니다. 지금 벌어지는 일은 분명한 진전이지만, 그 진전의 모양은 생각보다 구체적이고 제한적이다.

형식화된 증명이 처음엔 장황하고 덜 세련돼 보일 수는 있다. 그러나 타오의 관점에서는 우아함보다 확인 가능성이 먼저다. 사람이 읽기 좋은 설명은 나중에 다듬을 수 있지만, 일단 컴파일되고 검증된 증명은 공동 작업의 신뢰 기반이 된다.

이 강연의 가장 중요한 메시지는 한 문장으로 요약된다. 수학은 오랫동안 한 문제를 깊게 파는 소규모 장인 작업에 최적화돼 있었지만, 이제는 수백, 수천 개의 문제를 동시에 훑고, 기여를 모으고, 검증으로 걸러내는 방식도 현실이 되고 있다.

이 변화는 진입장벽을 낮춘다. 대 학원생, 고등학생, 개발자, 다른 분야 연구자도 적절한 도구와 검증 체계가 있으면 의미 있는 조각을 보탤 수 있다. 타오가 보는 미래는 AI가 인간을 밀어내는 수학보다, 인간과 AI가 함께 규모를 키우는 수학에 더 가깝다.

타오가 말하는 미래의 연구 수학은 결국 이렇다. 더 많은 사람이 참여하고, 더 많은 도구가 실험되고, 더 엄격한 검증 아래에서 더 빠르게 진전하는 수학이다.

···