우주 개발에선 원주율 몇 자리까지 사용할까

원주율은 소수점 이하 50조 자리까지 계산될 만큼 엄청난 자릿수를 가진 숫자다. 보통 3이나 3.14 같은 숫자로 계산되지만 자리가 잘리는 만큼 결과 정확도는 손상되어 버린다. 정확함이 필요한 우주 개발 현장에선 파이를 몇 자리까지 사용하고 있을까. 미 항공우주국 나사(NASA)가 실제로 사용하는 값과 이유에 대해 밝혀 눈길을 끈다.

나사 제트추진연구소 JPL은 원주율을 계산할 때 3.14를 사용하고 있는지 혹은 소수점 이하 300자리 정도 긴 값을 사용하고 있는지에 대한 질문에 밝힌 것. 마크 레이맨 나사 수석 엔지니어는 JPL 행성간 항행 시스템을 위한 가장 정확한 계산은 소수점 15자리로 반올림된 3.141592653589793을 사용하는 것이라고 답했다.

그에 따르면 원주율을 사용하는데 적절한 수준 오차를 고려해 소수 절단을 실시한다는 것이다. 레이맨은 과학자가 물리적 실제 계산은 소수점 이하 수치를 더 포함하지 않는 경우도 많다고 밝혔다. 실제로 나사에서 이뤄지는 파이를 이용한 계산 예 3개를 들어 오차에 대해 설명하고 있다.

첫째는 지구. 지구 둘레를 생각하면 적도 위치를 기준으로 하면 직경은 1만 2,742km. 소수점 15자리로 반올림한 원주율을 이용하면 지구 둘레는 4만km다. 이 때 생기는 오차는 나노미터 단위로 분자 1개 정도 크기라고 한다. 물론 분자에는 다양한 종류가 있으며 크기도 다양하지만 자릿수를 늘려봐야 파이 오차는 머리카락 1개 1만분의 1 두께 밖에 안 된다고 한다.

둘째는 보이저1호. 지구에서 가장 먼 거리에 도달한 보이저1호는 현재 지구에서 201억 1,680만km 이상 떨어진 곳에 존재하고 있다. 만일 이 거리 반경을 가진 원형이 있었다면 파이를 소수 15자리로 반올림해 계산하면 원주는 1,255억 2,883만km 갓 넘긴 값이 된다. 주의할 점은 값이 정확한지가 아니라 파이 자릿수를 줄인 것으로 얼마나 오차가 발생하는지다.

소수점 이하 15자리까지 원주율은 원주에 조금 오차가 있을 수 있지만 반경 1,255억 2,883만km 원형 둘레를 계산했을 경우 오차는 3.81cm 정도 밖에 안 된다. 6배가 넘는 거대한 원형 원주에 대한 오차는 새끼손가락 길이 정도에 불과하다는 것이다.

셋째는 우주다. 존재할 수 있는 최대 크기, 우주 크기로 생각해보면 우주 반경은 460억 광년이다. 만일 반지름 460억 광년 원형 둘레를 가장 간단한 원자인 수소원자 직경 0.1나노미터 정도 오차 밖에 생기지 않게 정확하게 계산하려면 파이는 몇 자리가 필요할까.

대답은 소수점 이하 39자리 또는 40자리가 필요하다는 것. 우주가 얼마나 환상적으로 광대한지 생각해보면 가장 어둡고 아름다운 별이 가득한 밤을 눈으로 볼 수 있다. 우주는 상상 범위를 훨씬 초과하고 있다. 원자 1개가 엄청나게 작다는 걸 생각해보면 원자에서 우주까지 전 범위를 커버하려면 수십 자리도 파이를 쓸 필요가 없는 걸 알 수 있다. 관련 내용은 이곳에서 확인할 수 있다.