파이 데이에는 원주율을 외워보자: 중력파 사냥을 위해 필요한 정밀도는 얼마인가?

권석준의 테크어댑팅 인증된 계정 · 첨단과학기술의 최전선을 해설합니다.
2023/03/14
학부 때 자아가 하늘을 찌르던 어떤 시절, 원주율을 소수점 아래 100자리까지 외우고 다니곤 했습니다. 아마 나보다 더 많은 자리수까지 원주율을 외우고 다닌 또래는 없었을 것이라 자신하면서 언젠가 꼭 뽐낼 자리가 있으려니 생각하기도 했죠. 하지만 정작 한국에서는 쓸 일이 없다가 미국에서 박사 과정 시작할 때 기회가 왔습니다. 100자리 까지는 다 못 외우고 있었지만 대략 30자리까지는 외웠던 것으로 기억하는데, 같이 수업을 듣던 물리학과 친구가 그냥 아무 표정 없이 150자리까지인가 제 앞에서 배틀하듯 외우는 모습을 보고 무릎을 꿇었습니다. 그렇습니다. 세상에는 고수가 늘 있기 마련입니다. 오늘 3월 14일은 파이 (pi) 데이입니다 (화이트 데이가 아닙니다.). 예전에 미국에 있을 때 수업듣던 수업의 물리학과 선생님이 해 주셨던 말씀이 생각납니다.
 
"수치를 계산할 때 학생들은 그냥 수치해석 엔진을 아무 생각없이 믿는 경향이 있다. 편하니까 그런거 이해하는데, 정밀한 실험물리학에서는 유효숫자 자리수가 정말 중요해지는 때가 있다. 원주율만 해도 그렇다. 너희 수치해석 엔진에서 원주율을 어떻게 처리한다고 생각하냐? 대충 3.141592... 뭐 이런 숫자를 쓴다고 생각하냐? 원주율의 유효숫자가 몇 자리수만 앞으로 땡겨오면 인류가 지금 쏘아올리는 우주선이 태양계를 벗어날 때쯤에는 오차가 어마어마해진다. 예를 들어 가장 가까운 항성계인 켄타우르스 알파별로 항로를 정했다 치자. 그런데 3.141592와 3.14159265358979 정도의 격차는 그 별에 도달할 수 있는지 없는지의 차이를 만들어낼 수도 있다."

저는 이것이 도대체 무슨 이야기인지 잘 몰랐는데, 나중에 고급 수치해석 강의를 듣다가 행렬의 컨디션수 (condition number) 개념을 다시 배우며 비로소 조금씩 이해하기 시작했습니다. 예를 들어 어떤 변환 (projection or transformation)을 하는 행렬 A를 생각해 봅시다. 이 행렬의 역행렬을 수치해석방법으로 구하는 과정에서 실...
권석준의 테크어댑팅 님이 만드는
차별화된 콘텐츠, 지금 바로 만나보세요.
이미 회원이신가요? 로그인
과학적 사고 방법을 토대로 자연과 사회를 해석합니다. 반도체, 첨단기술, 수학 알고리듬, 컴퓨터 시뮬레이션, 공학의 교육, 사회 현상에 대한 수학적 모델 등에 관심이 있습니다. 지은 책으로는 '반도체 삼국지 (2022)', '호기심과 인내 (2022, 전자책)'가 있습니다.
72
팔로워 3.3K
팔로잉 2