정보엔지니어 (맥스웰의 도깨비, 양자컴퓨터)

수학이라는 논리의 세계에서는 무한이 필수적으로 등장할까?

우리가 고등학교 수학시간에 처음 만나는 무한은 사실 수학의 발전 과정에서 곧 마주하게 될 운명인 녀석이다. 매우 여러군데에서 마주치게 되는데, 고대에 제논이 가장 먼저 들고 나왔다. 내가 어느 지점에 도착하기 위해서는 그 중간 지점을 지나야하고, 또 그 중간 지점을 지나야하면서 영원히 많은 점을 지나야 하는데 어떻게 원하는 지점에 도착하느냐라는 문제이다.

답은 간단하다 무한소의 시간으로 이 영원의 점을 건널 수 있다. 이런점들을 잘 반영하는 것들이 어찌보면 미적분이겠다.

또다른 사항들이 있다. 원통을 굴리면 원통의 점과 원통의 맨 아래 바닥이 각각 같은 직선을 그리며 굴리는 방향으로 직선이 그어진다. 원의 맨 바깥이 펼쳐지며 직선이 만들어지는 것은 이해가 되는데, 원의 한가운데는 대체 어떻게 직선을 만들 수 있을까? 그것은 점이 모여서 선이 만들어지는 것과 같은데 사실은 점이 모여서 선을 이룰 수 있는 방법은 없다. 점은 길이가 0이기 때문이다. 그런데 방법이 있다. 무한히 많은 점이 유한한 길이를 만들 수도 있게 된다.

무한은 직관적으로 이해하기 힘들지만, 칸토어가 지적한 대로 단순히 1:1 대응을 산정하면 된다. 0과 1사이의 유리수는 무한한 자연수와 1:1 대응되며 본질적으로 같다. 사실상 그 둘은 같다. 그 달라보이는 둘이 사실은 같다는 것을 이해하기 위해 우리는 이 무한이라는 개념을 더 세련되게 수학적으로 다루게 되는 것이다.

물리학의 세계에서도 이런 일이 발생한다. 왜냐하면 물리학은 사실은 세상이 그렇다기보다는 수학 방정식으로 세상을 기술하기 때문이다. 그런데 사실은 무한의 무언가를 인류는 아직 무한의 정확도로 관측한 적은 없다. 과연 블랙홀의 사건의 지평선에서는 방정식이 기술한대로 시간이 정지하는가? 빛을 한 방향으로 두개를 쏘았다고 치면 한쪽 빛에서는 다른 쪽 빛이 여전히 광속이어야 한다. 이런 것들은 모두 무한의 개념이 필요한 현상들이다. 그러면 실제 우주라는 시뮬레이터는 무한을 정확히 다루고 있을까? 

 원래의 질문으로 돌아가 모든 시뮬레이터는 무한이 필요할까를 다시 상기해보면, 사실은 필수는 아니라는 것을 알 수 있다. 무한의 핵심은 아무리 더 큰 정확도로 측정해도 계속 정확한 것이 보증되는 상황이다. 그런데 이를 확인할 수 있는 무한의 정확도로 하는 측정이 불가능하다면 시뮬레이터는 무한을 다룰 필요까지는 없다. 그저 아주 작은 값 같은 경우에는 더 눈치 못채도록 더 작은 값의 상수를 사용하고 저 작은 수를 보증하면 되고, 큰 값의 경우에는 그것도 마찬가지다. 더 큰값을 다뤄주면 된다. 무한이나 무한소를 보증할 필요는 없다. 계산 결과는 측정가능한 범주보다 더 세밀하기만 하면, 시뮬레이터 안에서는 그 시뮬레이터가 무한을 다루는지 아닌지 알 수 없게 된다.

 여기서 재미있게도 측정이라는 개념이 꽤 중요하다는 것을 알 수 있다. 시뮬레이터가 무한을 다루는지 아닌지는 충분히 세밀한 정확도로 측정해서 알아낼 수 있게 되는 것이다. 그리고 또 다른 방법이 하나 있는데 통제 환경에서 무엇이 계속 반복되도록 만들어놓고 그 오차의 향방을 알아가는 방법도 있다. 예를들어 반내림을 하거나 반올림을 하면, 더 쉽게 알아낼 수 있다. 무언가가 확률적으로 계속 늘어나거나 줄어들지 않겠는가.

 좀 이야기를 전환하면 시뮬레이션 우주 등의 개념이 인기를 끄는 이유가 바로 이 플랑크 상수 때문이다. 우주는 벌써 이 무한의 정확도를 감당하고 있지 않는 점이 밝혀진게 아닌가 생각할 수도 있겠다. 어느 길이 이하로는 의미가 없는 길이가 존재한다는게 대체 무엇을 의미하는가. 이전에 논의했던 블랙홀 안에서 시간이 정지하는 현상은 플랑크 상수 때문에 의미가 없는 것이 아닌가(정지하는 시간 같은 것은 없는게 아닌가. 어차피 플랑크 길이 이하도 존재하지 않는데). 빛의 속도로 이동해도 옆에 있는 빛은 정확히 빛의 속도가 아니지 않겠는가. 여하튼 이 함의는 좀더 두고 볼 일이다.

 아무튼 첫 질문에 대한 대답은 무한을 다루지 않아도 시뮬레이터는 당연히 성립한다는 이야기이고, 우리가 있는 이 우주도 그럴것 같다는 점이다. 상대성이론은 무한을 추종하는 미분방정식들이 이 띄엄띄엄한 양자역학에서 충돌나는 것도 어찌보면 그런 맥락일 수도 있지 않겠는가. 무한소로 내려가다보면 더이상은 정확도가 안떨어지는 discrete한 세계이며, 그때부터는 0과 1의 세상이기 때문이다.

지능 문제의 대표적인 격인 예측 이야기를 해보자.

이 문제의 본질은 이렇다.

A. 무언가 정답을 내는 함수가 있다. 예를들면 자연이나, 주식시장의 실제 내일 가격치다. 여하튼 그 시점이 되거나 상황이 되면 진실의 값이 나온다. 통계에서는 이를 '모분포'라고 말한다. 우리가 알고 싶은 진리이며, 실제 세상이다.

B. 과거에 그 정답이라고 믿어지는 기록, 즉 과거의 데이터가 존재한다. 옛날에 이런 상황이었을때는 답이 이랬어 하는 기록이다. 미래의 값은 발생해야 알 수 있지만 과거에 적어놓은 값은 존재할 수 있다.

C. 예측의 본질은 어떤 장치를 만들어서 지금 예측해야할 조건 값들이 나온 경우에, 과거에 그러한 조건에서 어떤 정답이 나왔었는지 가장 가까운 것을 찾아 답을 내는 일이다.

이 A,B,C는 x라는 조건 혹은 입력값 이 있을때 y라는 예측 값을 구하는 문제에서 f(x) = y 라는 함수를 찾는 문제로 설명할 수 있다. 수학에서는 지극히 전통적이고 일반적인 설명 중의 하나이다.

A. F(x)라는 정해진 함수가 존재한다. 이것이 정답을 내는 함수이며 우리가 알아내야할 모분포이며 정답의 패턴이며 구하고자 하는 자연 혹은 주식시장의 값을 내는 패턴이다.

B. x' -> y' 라는 과거의 데이터가 존재한다. 물론 유한한 수 만큼만 존재한다.

C. 이제 x''라는 값이 나오면 F(x'')가 무엇이 될지 이 B의 데이터가 예상해주는 F(x)의 유사함수인 f(x)를 찾아서 그 값을 구하는 문제이다.

언급했듯이 이 틀은 아주 오래전에 모두 잘 정의되어 있고, 대부분의 예측의 문제는 이 틀을 유지한다. 그리고 통계학에서는 영민하게도 우리가 관측한 값의 오차까지 고려한다. B에서 기록할때 혹은 관측할때 오류가 발생하기 때문이다. 답을 거꾸로 적기도 하고 측정을 잘못 하기도 한다. 여하튼 이런 구조를 통해 인간의 지능 말고도, 온 우주의 외계인의 지능 모두를 근사해낼 수 있다. 물론 여기에 여러가지 다른 기술이 필요할 수도 있다. 지능이란 예측 말고도 무언가 다양한 추상화 과정을 담고 있긴 하다.

그러면 이 문제의 틀에서 인간의 지능이란 어떤 것일까?

무언가 관찰/학습하여 모분포를 예측하여 결론을 내리기는 하는데, 통계학에서 이야기하는 것 외에 무언가를 미리 가지고 있다.

통상의 문제에 통계적인/머신러닝 방법으로 예측기를 만들기 위해서는 엄청난 데이터가 필요하다. 왜냐하면 자연에서 인간이 예측해야하는 F(x)라는 녀석이 상당히 복잡하기 때문인 것도 있다. 오히려 어떤 상황을 관찰해야하는지도 정하기 어렵다. 그리고 이 F(x)라는 것은 시대에 따라 달라지거나 타이밍에 따라 달라질 수도 있고, 어떨때는 심지어 무작위(random)로 보일 때도 있다.

그런데 인간은 최소한의 관찰결과만을 가지고 어느 정도 효과적인 f(x)를 만들어내는 것처럼 보인다. 어찌보면 전이학습이라고 일컬어지는 것일 수 있겠다. 그것을 무엇이라 불러야 될지 모르지만, 예를들면 우리가 글자를 구별해 낼때 인간은 그 글자의 일부가 가려져도 예측해내거나 여러가지 추론을 통해서 알아내기도 한다. 그 문제와 당면한 다른 지식들도 사용한다. 그리고 이 모든 과정이 조화를 이루는 경우가 많다. 즉 통계에서 표현하는 하나의 예측기라기 보다는 무언가 근원적인 예측기가 존재하고 이 예측기가 다른 예측기를 보좌하고 그것들이 합산된 예측기가 작동하는 형태이다.

따라서 어찌보면 예측기의 효과적인 학습 방법에 대한 연구보다는(신경망의 효율적 학습방법은 아직도 수많은 논문의 해결 대상이다) 이러한 기저에 있는 예측기와 이것들이 어떻게 자유자재로 합치는 지에 대한 연구가 오히려 인간의 예측을 모방하는 전단계가 될 수 있다. 그러면 과연 무엇을 유전자에 각인시켜 학습시켜서 태어나는 것인가?

 자연이라는 수학기계 속에서 발생하는, 진화과정에서 오래 분명하게 된 것들을 학습하고 있을 것이다. 중력이나 포물선 운동, edge에 대한 처리나 여러가지가 아닐까? 그리고 개체관의 관계에서 얻어진 여러가지 게임이론이 아닐까?

 따라서 인간의 지능 문제를 풀기 위해서는 이러한 진화론적 시뮬레이션이 필수라고 생각한다. 그것은 자연을 닮아야 한다. 왜냐하면 우리네가 필요한 대부분의 예측도, 그것이 카오스/복잡계가 낳는 임의적인 것처럼 보인다고 해도, 일정 수준의 자연법칙하에 진화에 바탕하기 때문이다. 무엇이든 인간의 지능을 추구한다고 하면, 이러한 기저의 예측기들이 무엇인지 어떻게 조화되는지, 자연을 닮은 시뮬레이터 속에서 우리가 가진 오감들을 반영하고 그에 기반하여 실험하거나, 그와 수학적인 등가의 무엇을 추구해야 하지 않는가