전문독서클럽 향연

왜 수학이 사유인가? (<일시적 존재론>, 61)

바디우의 저서인 <비트겐슈타인의 반철학>에서 비트겐슈타인에 의하면 수학은 계산이며 세계의 논리를 등식으로만 보여주기 때문에 수학적인 명제는 아무 의미도 없다고 주장한다. 그런데 바디우는 수학적 명제는 등식이 아니라 사유라고 한다. 이 진술에는 어떠한 확실성도 없다. 이 진술은 우선 온갖 유보를 덧붙여 이 진술을 받아들인 플라톤에게서처럼 여러 차례 긍정되기도 했고, 또 특히 비트겐슈타인에게서처럼 여러 차례 부정되기도 했다. 수학은 그리스에서 기원한 이래로 존재론이었다. 수학은 그리스에서 기원하면서부터 형이상학적 시도와 맞서 싸우면서 고된 수고와 개조를 대가로 지불하며 힘겹게 자기 고유의 조건들을 확보하기를 멈추지 않았다. 아리스토텔레스에게 수학은 가능태로만 실존하는 것을 마치 현실태로 실존하는 것처럼 다루는 것을 의미한다. 즉 허위-존재를 마치 존재처럼, 구가 아닌 것을 마치 구처럼 다루는 것을 의미한다. 이것이 바로 아리스토텔레스의 정의 자체다. 그에 따르면 산술학자와 기하학자는 “분리되지 않은 것을 마치 분리된 것처럼 상정하면서” 탁월한 결과에 도달한다. 이처럼 수학자가 허구적으로 분리하는 것은 우선적으로 질서가 이루는 관계, 대칭, 투명한 개념적 단순성이다. 그런데 아리스토텔레스는 “미의 가장 고차적 형식은 질서, 대칭, 한정된 개념”이라고 지적 한다. 이러한 사실로부터 다음과 같은 결과가 도출된다. “미는 수학적 증명의 핵심 대상이다.” 그렇다면 무엇이 가능태로 있는 존재를 활성화하는 능력을 가지고 있는가? 유명한 인용문에서 말라르메가 주목하는 것처럼, 내가 “한 송이 꽃”이라고 말할 경우 나는 모든 꽃다발로부터 한 송이 꽃을 분리한다. 따라서 수학은 허위-존재에 대 한 준-사유quasi-pensee다. 사유로서 고려될 경우, 수학은 자신의 사유에 대한 사유가 아니다. 사실 자신의 허구 속에 자리 잡는다는 점에서 수학은 오로지 자신의 허구만을 믿을 수 있다. 하지만 바디우는 아리스토텔레스의 논리 가치는 높게 평가하면서도 철학적으로 파악된 수학은 여지없이 존재에 대한 물음과 연결된다는 측면에서 수학은 존재-논리학적 확인으로 이중화되어야 한다고 보았다. 바디우는 플라톤주의를 다시 일으켜 세우는 것, 그리고 아리스토텔레스의 해석에 의해 완전히 은폐된 플라톤주의의 진정한 동력을 우선적으로 이해시키는 것이다. 그가 기초하는 수학적 유산은 칸토어의 집합론(set theory)이다. 플라톤 이후 그리고 칸토어 이전의 수학 분파들이 공유하는 암묵적 전제는 ‘존재’란 수학적 사고 외부에 자리 잡는다는 가정이었다. 이에 반해 플라톤은 존재론을 유추, 귀납, 연역 그리고 기하학에 의한 수학으로 생각했다.

“수학은 사유라고 할 때, 궁극적인 문제는 바로 이 사유에 대한 사유에 도달하는 것이기 때문에 우리에게 합당한 일은 수학 그 자신이 스스로를 사유하도록, 수학 스스로 자신이 무엇인지 말하도록 소환되는 것처럼 보이는 순간을 찾아 지적하는 일이다. 우리가 알고 있듯이 이 순간은 “위기”라는, 더 나아가 “기초의 위기”라는 합의된 이름으로 불린다.” (58) 수학의 이론에 관해 잘 알지 못하지만 역설과 불안정성에 그리고 정의되지 않은 조건에 부딪히는 순간이 있다. 확실성과 일관성하면 수학 아닌가? 그런데 투명한 아름다움의 상징인 수학에 역설이라는 걸림돌이 있다. 수학이 사유인 이유는 끊임없이 이러한 역설과 새로운 명제에 대한 도전이 멈추지 않기 때문이었다. 생명이 있는 존재에게 사건과 증상이 끊임없이 펼쳐지면서 진화해 가듯이 수학의 역사 또한 그러한 과정이 무수히 많았다. 예를 들어 1901년 영국의 수학자 버트런드 러셀은 이전의 집합론으로부터 놀라운 주장을 한다. 이전의 집합론으로부터 참이어도 안되고, 거짓이어도 안되는 명제를 이끌어내면서 이전의 논리 체계의 모순을 지적한 것이었다. 러셀의 역설은 보통 이발사의 역설이라고 대표적으로 알려져 있다. “시실리아 마을에 한 이발사가 있다. 그 이발사는 마을 사람들 중 ‘스스로 면도를 하지 않는 사람’에게는 모두 면도를 해주지만, ‘스스로 면도를 하는 사람’에게는 면도를 해주지 앟는다. 그 이발사는 자기 스스로 면도를 하는가?” 이 역설의 핵심은 자신에게 모순된 명제에 관한 것이다. 때문에 러셀은 집합 명제의 설정 자체에 그동안 수학이 간과하고 있던 것을 제시한 것이다. 수학이 역설과 불안정성에, 사선과 초과에, 또는 정의되지 않은 조건에 부딪히는 순간, 수학은 자신의 사유 속에서 어떤 존재론적 결정의 질서로부터 유래하는 것을 사유하기에 이른다고 말할 것이다. 이때 본래적으로 문제가 되는 것은, 수학이 존재의 연결과 짜임새를 정립하는 일을 맡는다고 할 때, 이 존재의 실재에 지속적으로 관여하는 행동이다. 투명한 아름다움의 역설을 통한 사유의 과정이 수학이지 않을까?