목차
안녕하세요?
오늘은 수학 역사상 가장 ‘지독한’ 함정이라고 불리는 문제를 하나 소개해 드리려고 합니다. 겉으로 보기에는 초등학생도 할 수 있는 아주 단순한 계산 게임 같은데, 알고 보면 전 세계의 천재 수학자들이 수십 년 동안 매달려도 풀지 못한 무시무시한 녀석입니다.
오늘의 주인공은 바로 ‘콜라츠의 추측(Collatz Conjecture)’입니다. 이 수수께끼는 숫자들이 구름 위로 솟구쳤다 바닥으로 떨어지기를 반복한다고 해서 ‘우박수(Hailstone numbers)’라는 멋진 별명도 가지고 있습니다. 자, 함께 이 숫자의 롤러코스터에 올라타 볼까요?
1. 콜라츠의 추측
1937년 독일의 수학자 로타르 콜라츠(Lothar Collatz)에 의해 처음 세상에 알려졌습니다. 규칙은 딱 두 가지뿐입니다. 여러분도 종이와 연필만 있다면 지금 바로 시작할 수 있습니다.
- 아무 자연수나 하나 고릅니다. (예: 1, 5, 12, 100 등)
- 그 숫자가 짝수라면? 2로 나눕니다.
- 그 숫자가 홀수라면? 3을 곱하고 1을 더합니다. (3n + 1)
- 나온 숫자를 가지고 다시 2번이나 3번 규칙을 무한히 반복합니다.
콜라츠의 주장은 아주 간단합니다.
“세상의 그 어떤 숫자로 시작하더라도,
결국 마지막에는 1이 되어 멈출 것이다!”
2. 숫자의 롤러코스터, 직접 타볼까요?
정말 모든 숫자가 결국 1이 되는지 우리 탐정단이 직접 확인해 보겠습니다.
- 가장 쉬운 ‘6’으로 시작해 볼까요?
- 6은 짝수니까
- 3은 홀수니까
- 10은 짝수니까
- 5는 홀수니까
- 16은 짝수니까
- 8은 짝수니까
- 4는 짝수니까
- 2는 짝수니까 (도착!)
겨우 8번 만에 1에 도착했습니다. 생각보다 쉽죠?
그럼 조금 더 까다로운 ’11’을 불러오겠습니다.
- (도착!)
어떤가요? 숫자가 커졌다가 작아졌다가를 반복하며 결국 1이라는 수로 빨려 들어가는 것을 볼 수 있습니다.
1에 도착하면 그다음은 어떻게 될까요?
이렇게 무한히 뱅글뱅글 돌게 된답니다.
3. 왜 ‘수학 괴물’이라고 부를까요?
이 문제는 초등학생도 5분이면 규칙을 이해할 수 있습니다.
하지만 왜 수많은 수학자가 이 문제를 보며 “이건 인류가 풀 준비가 안 된 문제다!”라고 혀를 내두를까요?
- 예측할 수 없는 움직임: 어떤 숫자는 금방 1이 되지만, 어떤 숫자는 수천 번을 오르내리며 엄청나게 커졌다가 뒤늦게 1로 떨어집니다. 예를 들어 ’27’로 시작하면 무려 111단계를 거쳐야 하고, 중간에 숫자가 9,232까지 치솟기도 합니다.
- 끝이 없는 숫자들: 수학자들은 슈퍼컴퓨터를 사용해 2의 68제곱(무려 0이 20개나 붙는 엄청난 수)까지 모든 숫자를 다 확인해 보았습니다. 지금까지 확인한 모든 숫자는 1이 되었습니다. 하지만 수학에서는 단 하나의 예외라도 있으면 안 됩니다. 우주 저 너머에 1로 가지 않고 무한히 커지거나, 자기들끼리 뱅글뱅글 도는 다른 루프가 있을지도 모르기 때문입니다.
- 패턴이 보이지 않음: 숫자가 커질 때와 작아질 때 사이의 명확한 규칙성을 아직 아무도 발견하지 못했습니다.
4. 만약 1로 가지 않는 숫자가 있다면?
만약 이 추측이 틀렸다면 어떤 일이 벌어질까요?
아마 1에 도착하지 않는 ‘반례’이 어딘가에 숨어있을 것입니다. 수학자들은 그 수가 두 가지 모습 중 하나일 것으로 생각합니다.
첫 번째는 1이 아닌 다른 숫자로 돌아오는 ‘비밀 순환 고리(루프)’에 빠지는 경우입니다.
수학자들이 이 ‘비밀 고리’가 진짜 있을지 확인하기 위해 규칙을 아주 살짝만 바꿔보았습니다. 홀수일 때 ‘1을 더하는(3n+1)’ 대신 ‘1을 빼는(3n-1)’ 규칙으로 계산해 본 것이죠. 그랬더니 놀라운 결과가 나타났습니다!
- 5의 고리: (다시 5로 돌아왔습니다!)
- 17의 고리: (한참을 돌아서 다시 17로 돌아옵니다!)
3n-1 규칙에서는 1억까지의 숫자를 조사해 봐도 이 두 가지 고리 외에는 다른 예외가 없었다고 합니다. 규칙을 아주 조금만 바꿨을 뿐인데 1로 가지 않는 숫자들이 실제로 나타난 것이죠.
두 번째는 숫자가 1로 떨어지지 않고 ‘무한히 커지는’ 경우입니다.
하지만 ‘무한히 커지는 숫자’는 더 찾기가 어렵습니다. 컴퓨터로 아무리 계산해 봐도 숫자가 커지다가 결국에는 1로 떨어졌기 때문입니다. 하지만 수학자들은 “지금까지 다 1이 되었다고 해서, 앞으로 나올 엄청나게 큰 숫자들도 모두 1이 될 거라고 100% 확신할 수는 없다”고 말합니다.
이 문제가 얼마나 유명한지, 전설적인 수학자 폴 에르되시는 이 문제를 푸는 사람에게 상금을 내걸기도 했습니다.
하지만 그는 나중에 이렇게 말했습니다. “수학은 아직 이런 문제를 풀 정도로 성숙하지 않았다.”
현대판 ‘골드바흐의 추측’만큼이나 지독한 이 문제는, 컴퓨터 공학이나 암호학 연구와도 관련이 있어 수학자들에게는 여전히 가장 매력적인 ‘정복하고 싶은 산’ 중 하나입니다.
5. 그래서, 이 문제는 언제 풀릴까요?
솔직히 말씀드리면, 아무도 모릅니다.
2019년, 필즈상 수상자인 테렌스 타오(Terence Tao)가 콜라츠 추측에 관한 획기적인 논문을 발표하며 전 세계 수학계를 흥분시켰습니다. 그는 “거의 모든 수가 결국 1에 가까워진다”는 것을 증명했지만, ‘모든 수’가 정확히 1이 된다는 것까지는 아직 한 발짝이 남아 있습니다. 인류 역사상 가장 뛰어난 수학자 중 한 명이 전력을 다해 달려들었는데도, 결승선은 여전히 안개 속에 있는 것이죠.
어쩌면 이 문제의 진짜 매력은 바로 거기에 있는지도 모릅니다.
규칙은 누구나 이해할 수 있을 만큼 단순합니다. 하지만 그 단순함 뒤에는, 인간의 논리가 아직 발을 디디지 못한 광활한 수의 세계가 펼쳐져 있습니다. 콜라츠 추측은 우리에게 이렇게 속삭이는 것 같습니다.
“너희가 수학을 안다고 생각하지? 아직 멀었어.”
혹시 지금 이 글을 읽으면서 종이에 숫자를 하나 적어보고 싶은 충동이 드셨나요? 그렇다면 이미 수십 년 전 콜라츠와 에르되시, 그리고 수많은 수학자들이 느꼈던 그 설레임과 같은 감정을 여러분도 느끼고 있는 것입니다.
자, 오늘 밤 잠들기 전에 아무 숫자나 하나 골라보세요. 그리고 규칙대로 계산을 시작해 보세요. 언젠가 그 끝에서 1을 만나게 될 것입니다. 아마도요.
“수학에서 가장 위험한 문제는 어려워 보이는 문제가 아니라, 쉬워 보이는 문제다.”
