뉴턴 vs 라이프니츠 미적분 논쟁, 누가 먼저였나: 발견·공표·기호로 가른 3축 판정

1716년 11월, 하노버에서 한 노학자가 숨을 거두었다. 한때 유럽 궁정을 오가며 철학과 수학을 논하던 인물이었지만, 장례는 쓸쓸했다는 이야기가 전해진다.

라이프니츠 초상화 출처. 위키미디어

그의 이름은 고트프리트 빌헬름 라이프니츠이다. 말년을 어둡게 한 것은 병만이 아니었다. 미적분을 뉴턴에게서 훔쳤다는 의심이 그를 끝까지 따라다녔다.

미적분은 누가 먼저 만들었을까. 결론부터 말하면 두 사람은 서로 독립적으로 미적분에 도달했다는 것이 현대 과학사의 일반적 평가이다. 발견 시기는 뉴턴이 앞서고, 최초 공표는 라이프니츠가 앞선다.

핵심 요약: 뉴턴은 1665~1666년경 유율법을 착상했으나 공식 출판은 늦었습니다. 라이프니츠는 1675년 전후 독자적 기호 체계를 만들고 1684년 최초로 공표했습니다. 오늘날 교과서에 쓰이는 기호(dx, ∫)는 라이프니츠의 것입니다. 1712년 왕립학회 조사는 뉴턴이 회장으로 있던 기관이 주도해 공정한 판정으로 보기 어렵습니다.

17세기 유럽, 왜 미적분은 필연이었나

풀리지 않던 세 가지 난제

미적분은 접선, 넓이, 운동이라는 세 문제가 한 지점으로 모이면서 탄생했다. 곡선 위 한 점에서 닿는 직선인 접선을 구하는 일, 곡선이 둘러싼 넓이를 재는 일, 시시각각 변하는 속도를 다루는 일은 오래전부터 따로 연구되어 왔다.

이 문제들이 사실은 서로 거꾸로 된 관계라는 사실, 곧 미분과 적분이 역연산이라는 통찰이 17세기 후반에 마침내 정리되었다.

길을 닦아 둔 선행자들

페르마는 접선과 극대·극소 문제를 푸는 대수적 방법을 남겼고, 데카르트는 좌표를 이용해 곡선을 식으로 다루는 길을 열었다. 케임브리지에서 뉴턴을 가르친 배로는 접선과 넓이가 역관계임을 기하학적으로 보였다.

두 사람이 같은 시기에 같은 결론에 이른 것은 우연이라기보다, 재료가 충분히 쌓인 시대의 결과였다.

뉴턴의 유율법: 1665~1666년의 시간

페스트를 피해 울즈소프로 간 청년

아이작 뉴턴 초상화 출처. 위키미디어

1665년 페스트가 번지자 케임브리지 대학이 문을 닫았고, 뉴턴은 고향 울즈소프로 돌아갔다. 이 고립된 약 2년 동안 이항정리의 일반화, 유율법의 초기 착상, 광학과 중력에 대한 사유가 한꺼번에 무르익었다고 알려져 있다. 후대는 이 시기를 뉴턴의 '기적의 해'라고 부른다.

유율법의 구조: 변화를 '흐름'으로 보다

유율법(시간에 따라 흐르듯 변하는 양의 변화율을 다루는 방법)은 곡선을 움직이는 점이 그리는 궤적으로 본다. 흐르는 양을 유량, 그 변화 속도를 유율이라 불렀고, 유율은 문자 위에 점을 찍어 나타냈다.

뉴턴의 사고는 운동학적, 곧 물리적 변화를 그대로 수학으로 옮기는 쪽에 가까웠다. 중력과 운동 법칙을 다루던 그의 관심사와 잘 맞는 방식이었다.

발표를 미룬 이유

뉴턴은 1669년 『무한급수 방정식에 의한 해석에 관하여』를 써서 배로와 콜린스 등 소수에게만 보였다. 1671년에는 『유율법』 원고를 완성했지만 이 책은 1736년 사후에야 출판되었다. 『해석에 관하여』도 정식 출판은 1711년이었다.

그가 발표를 꺼린 까닭으로는 광학 연구를 둘러싸고 로버트 훅 등과 겪은 비판과 논쟁의 경험이 자주 거론된다. 다만 이는 정황에 기반한 해석이며, 뉴턴 본인이 이유를 명시한 것은 아니다.

라이프니츠의 미분법: 기호로 쓴 수학

파리 시절의 도약

라이프니츠는 1672년 외교 임무로 파리에 갔고, 그곳에서 호이헌스의 지도를 받으며 수학에 깊이 빠졌다. 1673년에는 런던을 방문해 왕립학회에서 자신이 만든 계산기를 선보였다.

1675년 가을의 원고에는 합을 뜻하는 긴 S 모양의 적분 기호와 차를 뜻하는 d 기호가 등장한다. 오늘날 쓰는 표기의 출발점이 이 시기의 노트에 남아 있다.

1684년 『새로운 방법』: 최초의 공표

라이프니츠는 1684년 학술지 『악타 에루디토룸』에 극대와 극소를 구하는 새로운 방법을 발표했다. 이것이 미적분 체계의 최초 공표이다. 적분에 관한 논문은 1686년에 이어졌다.

이 논문은 증명이 간략해 독자들이 따라가기 어렵다는 평을 받았다. 그러나 형식 자체는 오늘날 미분법의 모습과 매우 가깝다.

dx와 ∫: 교과서에 남은 기호

라이프니츠는 수학에서 기호가 곧 사고의 도구라고 여겼다. 변화율을 dy/dx로, 합을 ∫로 쓰는 방식은 연산 규칙을 기계적으로 적용하기 쉽게 만들었다. 합성함수를 미분할 때의 연쇄 규칙이 분수를 약분하듯 자연스럽게 보이는 것도 이 표기의 장점이다.

미적분의 핵심, 곡선과 접선 예시

논쟁은 어떻게 불붙었나

1676년의 서신 교환과 '원고를 봤는가'

논쟁의 씨앗은 1676년에 뿌려졌다. 왕립학회 서기 올덴버그의 중계로 뉴턴과 라이프니츠가 편지를 주고받았는데, 뉴턴은 자신의 방법을 철자를 뒤섞은 암호문(애너그램)에 담아 핵심을 감추고 일부만 알렸다.

같은 해 라이프니츠는 런던에 들러 콜린스를 만났고, 이때 『해석에 관하여』의 사본을 열람하고 일부를 옮겨 적었다는 사실이 이후 연구에서 확인된다. 뉴턴 쪽은 이것을 라이프니츠가 아이디어를 접했다는 핵심 증거로 삼았다.

반면 라이프니츠의 1675년 원고에 이미 독자적인 기호 체계가 있었다는 점은 그의 독립성을 뒷받침하는 근거로 거론된다.

『프린키피아』의 한 대목과 그 삭제

1687년 초판 『프린키피아』 제2권의 한 주해에서 뉴턴은 라이프니츠가 자신과 비슷한 방법을 가지고 있었음을 인정하는 취지로 서술했다. 이는 논쟁 이전의 뉴턴이 라이프니츠를 동등한 연구자로 대우했음을 보여 준다.

그러나 논쟁이 격화된 뒤인 1726년 제3판에서는 이 대목이 빠졌다.

1699년부터 1711년까지: 공방의 격화

1699년 스위스 출신 수학자 파티오 드 뒤이예가 뉴턴이 최초 발견자이며 라이프니츠가 이를 빌렸을 가능성을 내비쳤다. 1704년에는 『악타 에루디토룸』에 실린 익명 서평이 뉴턴의 『곡선의 구적법』을 라이프니츠의 방법을 차용한 것처럼 읽히게 서술했는데, 이 서평은 라이프니츠가 쓴 것으로 알려져 있다.

1708년 뉴턴의 지지자 케일이 라이프니츠를 공개적으로 표절로 몰아세우자, 라이프니츠는 1711년 왕립학회에 공식적인 해명을 요구했다.

1712년 조사위원회: 중립이 아니었던 심판

왕립학회는 조사위원회를 꾸려 1712년 보고서를 냈고, 이는 1713년 『서간 교환집』으로 출판되었다. 결론은 뉴턴이 먼저라는 쪽이었다. 문제는 위원회를 꾸린 기관의 회장이 바로 당사자인 뉴턴이었다는 점이다.

뉴턴이 보고서를 직접 집필한 정황

후대 연구자들은 보고서의 초안과 핵심 서술에 뉴턴이 직접 관여한 정황을 지적한다. 사실상 당사자가 자신의 사건을 판정한 셈이다. 라이프니츠는 이 보고서에 이름을 밝히지 않은 채 반박을 이어 갔지만 1716년 세상을 떠났다.

주의: 1712년 보고서는 '왕립학회의 공식 판정'이라는 외양과 달리 중립적 절차를 거친 결론으로 보기 어렵습니다. 이 보고서만 근거로 뉴턴의 선취를 확정하는 서술은 오늘날 과학사에서 받아들여지지 않습니다.

그래서 누가 먼저였나: 3축 판정표

'먼저'라는 말은 발견, 공표, 표기법 중 어느 축을 보느냐에 따라 답이 달라진다. 아래 표는 세 축을 나누어 정리한 것이다.

구분 항목	뉴턴	라이프니츠
착상 시기	1665~1666년경	1675년 전후
최초 공표	1704년 이후 출판(주요 원고는 1711년, 1736년 출판)	1684년(미분), 1686년(적분)
사고의 방식	운동과 변화율 중심의 물리적 접근	합과 차 중심의 기호적·형식적 접근
표기법	문자 위에 점을 찍는 유율 표기	dx, dy/dx, ∫
후대 영향	18세기 영국 수학계 중심	유럽 대륙 전반과 현대 교과서
현대 학계 평가	독립 발견자로 인정	독립 발견자로 인정

현대 과학사의 결론: 독립 발견

발견은 뉴턴이, 공표는 라이프니츠가 앞섰다. 두 사람 모두 독립적으로 미적분의 핵심에 이르렀다는 평가가 현재의 주류이다. 라이프니츠가 콜린스의 사본을 본 것은 사실이지만, 그 자료로 라이프니츠의 체계를 설명할 수는 없다고 보는 시각이 우세하다.

표절 의혹이 남은 이유와 한계

의혹이 완전히 사라지지 않는 데는 사료의 한계가 있다. 오간 대화나 사적 메모 가운데 남지 않은 것이 많고, 사본의 어느 부분을 어떻게 읽었는지 확정할 수 없다. 따라서 현재의 결론도 확인된 자료 범위 안에서의 평가라는 점을 함께 기억해 둘 필요가 있다.

논쟁이 남긴 것: 영국의 고립과 기호의 승리

뉴턴 표기를 고수한 영국

논쟁 이후 영국 수학계는 뉴턴의 점 표기와 기하학적 서술을 고집했고, 그 결과 대륙의 발전에서 한동안 멀어졌다는 평가가 널리 받아들여진다. 이 평가에는 과장이 섞여 있을 수 있으나, 19세기 초 케임브리지 학생들이 해석학회를 결성해 라이프니츠 표기의 도입을 추진했다는 사실은 이러한 분위기를 방증한다.

대륙 수학의 도약

같은 시기 대륙에서는 야코프와 요한 베르누이 형제가 라이프니츠의 기호를 능숙하게 다루며 변분법과 미분방정식을 발전시켰다. 이후 오일러, 라그랑주로 이어지며 해석학이 급속히 성장했다.

참고: 오늘날 수학 교과서의 미분·적분 표기는 라이프니츠 체계를 따르고, 물리학에서 시간 미분에 문자 위의 점을 쓰는 관행은 뉴턴 표기의 흔적입니다.

승자 없는 논쟁이 남긴 질문

이 논쟁은 누가 위대한가를 가르는 이야기가 아니라, 같은 시대의 재료에서 서로 다른 길로 같은 산에 오른 두 사람의 이야기이다. 뉴턴은 물리적 직관으로, 라이프니츠는 기호의 힘으로 미적분을 완성했다. 그리고 오늘날 우리는 두 사람의 유산을 함께 쓰고 있다.