[이도국의 영남좌도 역사산책] 조선 수학과 수학자…계산기 없던 조선시대엔 세금 어떻게 매겼을까?

〈게티이미지뱅크〉

왕조시대에도 성을 쌓고 집을 짓고 책력을 만들고 논밭 면적을 산출하여 세금을 매기는 등 나라 다스림에 반드시 셈이 필요한데 누가 어떻게 계산했을까. 오늘날 알고 있는 현대수학은 고대수학과 어떻게 다르며 조선의 수학 수준은 어떠했을까. 수학용어는 소수 무리수 함수 기하처럼 왜 어려운 한자로 돼 있으며 옛날에는 계산기도 없었는데 무엇으로 계산했고 구구단을 알아야 일상생활을 할 수 있는데 옛사람들도 구구단을 외웠을까. 우리나라의 뛰어난 옛 수학자는 누구이며 그들이 지은 수학책은 무엇인가.

셈할 때 '산대'라는 나뭇가지 사용
일정한 방법으로 늘어놓아 수 계산
271개 한 세트 소수부터 0까지 표현

세종대왕땐 관리 구구단 암기 필수
홍정하·이상혁 등 당대 대표 수학자
중국과 비교해도 높은 수준 도달

◆동양수학의 시원

옛날에는 수학을 산학(算學)이라 했고 산학을 담당하는 관리를 산사(算士)라 했다. 우리나라에서 산학이 처음 등장하는 문헌은 삼국사기인데 통일신라 때 신문왕이 국학을 설립하고 산학박사가 철경·삼개·구장·육장을 가르쳤다고 기록돼 있다. 그 철경과 구장이 중국 한나라 때 만든 구장산술(九章算術)이다. 동양 고대 수학의 뿌리로 3세기 위나라 때 유휘가 주해(註解)를 붙였고 9장으로 나뉘어 문답풀이 형식의 246개 산학문제가 실려 있다.

구장산술에는 다양한 형태의 평면도형과 분수, 비율과 등차·등비급수, 제곱근과 세제곱근, 연립방정식 그리고 구고술이라고 부르는 피타고라스 정리까지 들어있었다. 2천년 전 고대 동양수학은 이미 방정식과 제곱근, 평면도형을 다룰 만큼 수준이 높았고 행정·토목·건축 분야에서 왕조통치 수단으로 수리적 해법을 제공했다.

우리나라는 고려시대에 산학과거로 명산과를 실시했고 조선왕조는 호조에 산학청을 두고 주학취재(籌學取才,산학자자체선발)로 산사를 뽑았다. 산사는 대부분 중인 계층의 기술직이었고 대를 이어가며 산사를 배출하는 산학가문이 있었다. 성종 때 1488년부터 고종 때 1888년까지 400년간 산사 1천627명의 성명과 본관이 수록돼 있는 '주학입격안'이 남아있다.

조선시대 계산기 산대. 대나무로 만들었으며 산가지, 산목으로도 불렀다. 〈한국학중앙연구원 제공〉

◆고대 계산기 산대(산가지)

옛사람들은 셈을 할 때 산대라 부르는 대나무 가지를 사용했다. 산대는 삼국시대에 우리나라로 전래돼 구한말 주판이 들어올 때까지 널리 사용됐다. 17세기 하멜 표류기에도 나오고 개화기 러시아 장교 카르네프가 쓴 조선여행기에 구구단을 크게 암송하며 막대기로 셈하는 모습이 신기하다고 했다.

산학서에 따르면 산대의 지름은 1분, 길이가 6치이고 271매가 6고를 이루어 한 줌이 되고, 단면에 정(+)의 산대는 붉은색, 부(-)의 산대는 검은색으로 표시했다고 한다. 오늘날 길이 11.5㎝ 대나무 산대와 8.5㎝ 상아 산대가 민속박물관에 남아있다.

산대 271개가 한 세트로 육고산법이라 하여 정육각형에 6개 삼각형으로 나누어 그 속에 산대 45개씩 배열하고 중심에 한 개를 놓아 산대 271개로 셈을 할 때 그 손놀림은 가히 보이지 않을 정도로 빨랐다고 하며, 보자기에 싸서 다니고 펼쳐놓고 계산했으므로 포산(布算)이라 했다.

산대 배열방식은 포산결이라 하여 무공의 구결처럼 익혔다. "일은 세로로 십은 가로로, 백은 서고 천은 넘어져 있네. 천과 십은 서로 같은 모양이고, 만과 백은 서로 바라본다. 6은 같은 산대가 쌓인 것이 아니고 5는 산대 하나가 아니네. 십이 되면 자리를 나아가고 십이 안 되면 제자리에 나타낸다."

그렇게 하여 소수와 0까지 표현했고 음수는 마지막 산대를 사선으로 놓아 나타냈다. 여러 다항식을 쉽게 풀었으며 10차 방정식을 표기한 산대 그림은 수학의 아름다움이 느껴질 정도로 경이롭다고 한다.

명곡 최석정의 마방진. 거북 등모양의 지수귀문도로 9개 육각형에 1부터 30까지 수를 배열, 합이 93. 〈한국학중앙연구원 제공〉

◆구구단과 구구가

고대수학에서 숫자는 한자를 썼고 아라비아 숫자는 18세기 천주교 전래와 함께 들어왔으며 구구단은 필수였다. 구구단을 알아야 산대로 셈을 했다. 최근 부여에서 목간에 새겨진 백제 구구표가 발견되었는데 삼국시대에도 구구단이 널리 사용됐고, 옛날 구구단은 구단 9×9=81부터 시작해 2×2=4로 끝난다.

또 구구단을 좇아 즐기는 노래, 구구가(九九歌)가 있었는데, "구구팔십 일광로는 여이동빈 찾아가고, 팔구칠십 이적선은 채석강에 달 건지고…" 등 중국 고사로 숫자 놀이하면서 구구단을 외웠다. 나눗셈이 편리하도록 45마디 5언 한시체 구귀가(九歸歌)도 있었다. 봉일진일십(1÷1=1) 이일첨작오(1÷2=0.5) 등이다.

◆고대 수학용어와 수학문제

고대수학에도 다양한 수학용어를 한자로 표기했다. 사칙연산을 가감승제, 양수는 정, 음수는 부, 0을 공 또는 영, 분수 1/2을 중반, 2/3를 태반이라 했다. 오늘날 수학용어의 대부분은 고대수학에서 연유했고 함수는 영어 function을 한자로 음역한 표현이다.

산학서 구일집에 실려 있는 옛날 수학문제이다. "빈 수레는 하루에 30리를 가고 짐을 가득 실었을 때는 20리를 간다. 지금 쌀을 싣고 창고까지 갔다가 돌아오는데 하루가 걸린다면 창고까지 거리는 얼마인가?" 이러한 방정식 문제로 산사를 길러냈고 오늘날 중3, 고1 수준이다.

◆중인 출신 수학자

조선시대 수학자인 산사의 직급은 매우 낮았다. 대부분 중인으로 9품 참하이니 산사가 수학책을 저술한다는 것은 무척 어려운 일이었다. 조선왕조 2천여 명의 산사 가운데 수학책을 저술한 이는 3명이다. 인조 때 경선징, 숙종 때 홍정하, 철종 때 이상혁이다. 이들은 모두 산학명문가 출신으로 친인척 간이며, 경선징은 홍정하의 큰 외증조부이고 이상혁은 홍정하의 방계 외증손이다.

경선징(1616~?)은 17세기 최고의 수학자로 동시대 고위 관리의 글에 그의 이름이 자주 나온다. 영의정 최석정은 중국 수학자를 열거하면서 우리나라에는 경선징이 있다고 했고 실학자 홍대용은 경선징의 수학책을 소개했고 전주부윤 김시진은 산학계몽을 재발간하면서 경선징이 중국산학의 근원을 탐구했다고 했다. 현재 묵사집산법만 전해온다.

홍정하(1684~?)는 남양홍씨 산학 명문가 출신으로 조선의 위대한 수학자로 추앙받고 있다. 관직은 종6품 교수직에 불과했지만 9권으로 된 그의 저술 구일집(1724년)은 조선수학을 집대성했다. 천원술로 구성된 음수지수 방정식은 중국에 없는 조선수학이었고 최소공배수의 수론, 유한급수론, 피타고라스정리, 제곱근과 5승근, 입체도형의 넓이와 부피, 10차 마방진까지 연구하여 조선수학의 수준을 크게 향상했다.

이상혁(1810~?)은 합천이씨 8대 산학집안에서 태어나 중인 산학자로 드물게 당상관에 올랐다. 예조판서이자 대수학자인 남병길과 공동으로 수학과 천문학을 연구하여 큰 업적을 남겼고 천문저술 규일고와 산학서 익산을 비롯하여 여러 권의 수학서를 지었다. 익산(翼算)은 홍정하의 구일집(九一集)과 함께 조선수학을 대표하는 산학서이다.

◆조선과 청의 최고 수학자 대담

1713년(숙종39) 5월 청나라 저명한 수학자로 천문 고위직을 지낸 하국주가 우리나라에 사신으로 와서 당시 종9품 산사이지만 수학의 뛰어난 인재로 알려진 홍정하와 수학대담을 나누었는데 그 내용이 구일집에 실려 있다. 대담에서 하국주가 제시한 문제를 홍정하는 천원술(미지수를 x로 두는 방식)과 증승개방법을 사용하여 쉽게 풀어냄으로써 하국주를 놀라게 했다.

또 원에 내접하는 정오각형의 변과 넓이를 구하는 어려운 문제를 홍정하는 그의 저술 수리정온에 있는 방식으로 풀었고 서양천문학을 공부한 하국주는 꼭지각의 삼각함수표를 사용하여 풀 수 있다고 했다. 또 조선의 계산도구 산대를 신기하게 여겨 중국으로 되가져가는 이야기도 나오며 하국주는 29세의 조선수학자 수학실력이 중국에 비해 결코 뒤지지 않음에 감탄한다.

이도국 여행작가·역사연구가