엔지니어가 숫자를 다루는 방법

내가 처음 일을 시작할 때는 회사 내 직원들중 일부에게만 PC가 지급되었다. 그래서, 대부분의 계산서가 수기로 작성되었고, 각종 계산은 계산기를 이용했다. 

그래서인지, 계산기에 나오는 숫자를 종이에 옮겨 적을 때는 많아야 세자리 정도의 소숫점 숫자만을 쓰게 되었다. 우선 많은 숫자를 옮겨 적는 데 시간이 많이 걸리기 때문이고, 그 자리 이하의 숫자는 크게 중요하지 않기 때문이다. 

PC가 보급된 이후로는 계산서를 엑셀과 같은 스프레트시트 프로그램을 이용하기 때문에 옮겨 적는 수고를 할 필요가 없다. 그래서, 요즈음 계산서를 보면 계산값에 소숫점 자리수가 컴퓨터가 표현하는 데로 보인다. 오히려, 셀의 보이는 자릿수를 정하는 수고를 하기 싫은 까닭이라면 이해가 된다. 

그렇지만, 계산서를 작성한 엔지니어가 유효 숫자에 대한 개념이 부족한 경우는 이야기가 다르다. 

숫자에 대한 정확한 개념은 좋은 엔지니어가 가져야할 중요한 소양이다. 

숫자에 대한 개념을 이야기하기 위해서는 참값(True Value), 측정값(Measurement Value), 오차(Error)와 공차(Tolerance)에 대한 의미를 이해해햐 한다. 

참값은 오차가 전혀없는 측정 대상이 지니는 본질의 값이다. 하지만, 개수의 개념으로 나타내는 숫자, 즉 세는(Count) 숫자 이외에 대상에 대해서는 우리는 대상의 참값을 알 수 없다. 그러므로 개념값, 즉 머리속에만 존재하는 이론적인 값이다. 참값을 알기 위해서 즉, 추정하기 위해서 하는 행위가 측정이며 측정을 통해 얻어지는 값을 측정값이라고 한다. 측정값은 측정기기의 오류와 측정할 때의 환경에 의한 영향으로 인해 참값과 차이가 나게 된다. 이 차이를 오차라고 한다. 

그래서, 우리가 측정 대상의 본질을 나타내는 참값을 알기 위해 측정을 할 때 얻어지는 것은 측정값과 오차이므로 측정값을 중심으로 오차를 더하거나 뺀 범위내에 참값이 존재한다는 사실뿐이다. 

그러므로, 실제에서 사용하는 값이라는 것은 어느 하나의 위치를 지정하는 점이 아닌 범위를 알아내는 것이다. 

다시 컴퓨터를 이용하여 설계, 즉 계산을 할 때 얻어지는 계산값에 대해서 생각해본다. 

계산값이라는 것이 무엇일까? 계산값은 앞으로 설계를 통해 만들어질 대상이 원 목적을 달성하기 위해 필요하거나 요구되는 이론적인 값을 말한다. 서두에서도 이야기 했듯이 계산을 통해져서 얻어지는 값은 많은 경우 5, 10이외의 수로 나누는 경우가 발생하여 정확히 떨어지는 숫자가 나오지 않는 경우가 대부분이다. 이런 이론적인 요구값은 무수히 많은 자리수를 가진 정확한 값이라 하더라도 실제에서 우리가 구현했는 지 여부가 검증되지 않기 때문에, 즉 그 요구값의 정확도를 가지고 측정할 수 없기 때문에 의미없는 수가 되는 것이다. 

그러므로, 엔지니어는 실제에서 의미를 가지는 범위, 즉 측정하여 검증할 수 있는 정도의 숫자로 변환하여 다룰 수 있어야 한다. 왜냐하면, 실제에서는 사용가치가 없는 숫자는 업무를 할 때 타 엔지니어나 타 대상에서 의사소통을 할 때 방해물이 되어 말썽을 일으킬 가능성이 높기 때문이다. 

예전에는 이와 같은 관념을 가지지 않는다 하더라도 상황이 숫자를 유용하게 사용할 수 있게 하였지만, 지금은 컴퓨터로 인해 매우 정확한 값을 도출하는 상황이므로 엔지니어가 계산값을 실제 업무에 유용하게 사용할 수 있도록 공학에서의 숫자의 활용에 대한 개념을 잘 이해하고 있어야 한다. 

하지만, 실제 업무에서 그런 엔지니어가 생각보다는 많지 않다. 개념을 머리속으로는 이해했다 하더라도 컴퓨터에 대한 정확성에 대한 맹신때문일 수도 있다. 그렇다면, 그와 같은 맹신을 내몰아 버려야 한다.