최근 과학기술계는 또 한 번의 놀라운 소식으로 술렁였습니다.

전문적인 수학 교육 경험이 없는 한 아마추어가 최신 대규모 언어 모델(LLM)인 ChatGPT의 도움을 받아 무려 60년 동안 미해결 상태였던 수학 난제를 풀어낸 것입니다.

이는 단순한 우연을 넘어, 인공지능이 인간의 사고방식으로는 도달하기 어려웠던 새로운 해결책을 제시할 수 있음을 입증하며, 미래 수학 연구와 문제 해결 패러다임에 중대한 질문을 던지고 있습니다.

60년 난제와 ChatGPT의 예상치 못한 만남

이야기의 주인공은 23세의 리암 프라이스(Liam Price)입니다.

그는 고등 수학 교육을 받지 않았지만, ChatGPT Pro 구독을 통해 최신 OpenAI LLM에 접근할 수 있었습니다.

어느 한가한 오후, 그는 ‘에르되시 문제(Erdős problems)’ 웹사이트에서 무작위로 선택한 문제를 ChatGPT에 입력했고, AI는 그 누구도 예상치 못한 방식으로 60년 묵은 난제를 풀어냈습니다.

이전에도 AI가 ‘에르되시 문제’ 일부를 해결하며 주목받았지만, 많은 경우 기존 해법의 변형이거나 그 중요성이 과장된 측면이 있었습니다.

그러나 프라이스가 ChatGPT-5.4 Pro의 단일 프롬프트로 얻어낸 이 해답은 달랐습니다.

이 문제는 저명한 수학자들의 시도를 좌절시켰던 난제였으며, 더욱 중요한 것은 AI가 기존과는 전혀 다른 새로운 방법론을 제시했다는 점입니다.

단순한 문제 해결을 넘어선 ‘새로운 방법론’의 발견

캘리포니아 대학교 로스앤젤레스(UCLA)의 저명한 수학자 테렌스 타오(Terence Tao)는 이번 해결법이 이전의 AI 성과와는 궤를 달리한다고 평가했습니다.

그는 “이 문제는 사람들이 오랫동안 연구했지만, 집단적으로 첫 단계에서 약간 잘못된 길을 선택했던 것 같다”며, 인간 지성에 일종의 ‘정신적 장벽’이 있었음을 시사했습니다.

LLM은 이 장벽에 갇히지 않고, 기존 수학 분야에서 잘 알려져 있었지만 문제 유형에는 적용될 것이라고는 아무도 생각지 못했던 공식을 활용해 완전히 다른 해결 경로를 찾아냈습니다.

비록 ChatGPT의 초기 증명 결과물은 전문가의 손길이 필요할 정도로 미숙했지만, 그 핵심적인 통찰력은 분명했습니다.

이는 AI가 단지 계산을 수행하는 도구를 넘어, 인간이 미처 발견하지 못한 새로운 수학적 연결고리를 제시할 잠재력을 가졌음을 보여줍니다.

‘원시 집합’과 ‘에르되시 합’: 문제의 본질 이해하기

ChatGPT가 해결한 문제는 ‘원시 집합(primitive sets)’과 관련이 있습니다.

이 개념은 저명한 수학자 폴 에르되시(Paul Erdős)가 도입했는데, 집합 내의 어떤 숫자도 다른 숫자로 나누어떨어지지 않는 정수의 집합을 의미합니다.

소수 집합은 자연스럽게 원시 집합이 됩니다.

에르되시는 이러한 원시 집합에 대해 ‘에르되시 합(Erdős sum)’이라는 점수를 고안했습니다.

그는 이 합의 최댓값이 약 1.6이라는 것을 보였고, 모든 소수의 (무한) 집합에도 이 값이 적용될 것이라고 추측했습니다.

스탠퍼드 대학교의 수학자 제러드 리흐트만(Jared Lichtman)은 2022년 박사 논문에서 이 추측이 옳음을 증명했습니다.

그러나 에르되시는 집합의 숫자가 커질수록 점수가 낮아진다는 사실 또한 발견했는데, 그는 이 점수의 최솟값이 정확히 1일 것이라고 추측했습니다.

이 최솟값에 대한 증명은 리흐트만을 포함한 많은 수학자들을 좌절시켰던 난제였습니다.

오랜 기간 전문가들을 괴롭혔던 문제였기에, 이번 AI의 해결은 더욱 의미가 깊습니다.

인간의 ‘정신적 장벽’을 넘어선 AI의 통찰력

리암 프라이스가 ChatGPT에 문제를 입력할 당시, 그는 문제의 역사나 복잡성에 대해 전혀 알지 못했습니다.

그저 ‘에르되시 문제’를 AI에 던져보고 어떤 결과가 나올지 흥미롭게 지켜봤을 뿐입니다.

그리고 AI는 “옳아 보이는” 해결책을 제시했습니다.

공동 연구자인 케빈 바레토(Kevin Barreto)는 이 결과의 특별함을 곧 알아차렸고, 전문가들에게 알렸습니다.

타오 교수는 기존 연구자들이 항상 특정한 방식의 접근법으로 시작했지만, LLM은 완전히 다른 경로를 택했다고 설명합니다.

관련 수학 분야에서는 잘 알려진 공식이었지만, 그 누구도 이 유형의 문제에 적용할 생각조차 하지 못했던 공식을 AI는 과감하게 사용한 것입니다.

이는 기존 지식과 사고의 틀에 갇히지 않는 AI의 ‘비정형적 탐색’ 능력이 인간의 ‘정신적 장벽’을 넘어설 수 있음을 명확히 보여줍니다.

미래 수학 연구와 AI 협업의 새로운 지평

이번 성과는 단순히 하나의 수학 문제를 풀었다는 것을 넘어, AI가 미래 수학 연구의 방향성에 지대한 영향을 미칠 수 있음을 시사합니다.

타오 교수는 이번 발견을 통해 “큰 숫자와 그 구조를 생각하는 새로운 방법”을 발견했다고 평가했습니다.

리흐트만 교수 역시 대학원 시절부터 가졌던 “이 문제들이 서로 연결되어 있고 어떤 통일된 느낌을 가지고 있다”는 직관이 이번 새로운 방법론을 통해 확증되었다고 말합니다.

이는 AI가 단지 계산 보조 도구를 넘어, 인간의 직관을 보강하고 새로운 가설을 형성하는 데 도움을 줄 수 있는 ‘인지적 도약’의 촉매제가 될 수 있음을 의미합니다.

앞으로 수학자들은 AI를 이용해 기존 접근 방식으로는 발견하기 어려웠던 패턴이나 연결고리를 찾아내고, 이를 바탕으로 새로운 이론을 발전시켜 나갈 것입니다.

AI 시대, 인간 지성의 역할 재정의

이번 사건은 AI가 수학 분야에서 보여준 가장 중요한 성과 중 하나로 기록될 것입니다.

AI가 복잡한 문제를 해결하는 데 있어 인간과 다른 관점과 방법론을 제시할 수 있다는 점은, 우리에게 인간 지성의 역할에 대한 근본적인 질문을 던집니다.

이제 인간은 단순히 문제를 해결하는 것을 넘어, AI가 제시하는 통찰력을 이해하고, 다듬고, 더욱 광범위한 분야에 적용하는 역할을 수행해야 할 것입니다.

‘바이브 수학(vibe-mathing)’이라는 흥미로운 용어처럼, 인간의 직관과 AI의 계산 및 탐색 능력이 결합될 때, 우리는 상상 이상의 문제 해결 능력을 발휘할 수 있습니다.

이는 AI가 특정 분야의 전문가를 대체하는 것이 아니라, 오히려 인간 전문가의 역량을 확장하고 새로운 발견을 이끄는 강력한 파트너가 될 수 있음을 의미합니다.

이번 ChatGPT의 성과는 인공지능이 인간 지성의 한계를 보완하고, 미지의 영역을 탐색하는 데 있어 필수적인 동반자가 될 수 있음을 분명히 보여줍니다.

앞으로 AI와 인간의 협업은 과학, 기술, 나아가 인류가 직면한 다양한 난제 해결에 혁신적인 돌파구를 제공할 것입니다.

출처: https://www.scientificamerican.com/article/amateur-armed-with-chatgpt-vibe-maths-a-60-year-old-problem/