양자화 에러(디지털에서 녹음레벨이 중요한 이유가 들어있습니다.)
페이지 정보
본문
양자화비트수에 의해 좌우되는 다이나믹 레인지는 시간에 의해 나뉜 각 샘플링 포인트의 음량을 결정하는 요소입니다.
앞에서 말한대로 디지털의 파형패턴은 시간에 의해 나뉘어진 입력신호의 레벨(음량)을 양자화해 그것을 늘어놓음으로써 형성됩니다.
그 때 레벨량의 단계수를 결정하는 양자화비트수에 의해 패턴은 부드럽게도 되고 거칠게도 됩니다.
무한수의 무단계 레벨에 의해 구성되어있는 아날로그 신호를, 유한수의 단계적인 수치로 충실하게 표현하기 위해서는 단차는 가능한 한 작은 쪽이 좋은 건 당연한 일일것입니다.
아날로그 레벨을 양자화해서 디지털의 샘플 워드로 바꿀 때, 어느 정도의 오차가 발생하는 것은 당연합니다.
오히려 아날로그 레벨이 디지털의 눈금 위의 레벨과 완전히 일치하는 것이 더 어려운 일입니다.
대부분의 아날로그 레벨은 2개의 디지털 레벨의 사이에 존재하고 있다고 생각해도 될 것입니다.
실제로 아날로그 레벨에 대한 디지털 레벨의 패턴의 최대오차폭은 1/2 LsB입니다. (LsB란 최하위비트:Least Significant Bit를 말하는 것으로, 16비트의 경우 16번째의 비트를 가리킵니다.)
진짜 레벨은 일반적으로 2개의 디지털 레벨의 사이에 존재하지만 그 오차는 어느 한쪽의 레벨에서 1/2LsB의 범위 안에 있다는 것입니다.
이 오차를 양자화 에러라고 합니다.
이것은 디지털이 가진 숙명이라고 할 수 있는 결점이며,
기기나 그 부품에 아무리 비용을 투자해도 해결할 수 없는 문제입니다(물론 그 정도로 자금을 투자하면 그 이외의 문제는 상당수 해결되지만).
아날로그 테이프 레코더로부터 제거할 수 없는 테이프의 히스 노이즈와 마찬가지로 포기할 수 밖에 없는 부분이기도 합니다.
이 양자화 에러는 랜덤으로 발생하며, 또한 균등하게 분포합니다.
그런 점에서는 화이트 노이즈와 비슷한 특성을 가지고 있습니다.
양자화 에러의 문제는 또한 양자화 비트수에 의해 좌우됩니다.
실제 아날로그 레벨에 대한 디지털 레벨의 패턴의 최대오차폭은 1/2LsB으로, 그 오차는 어느 한쪽의 레벨으로부터 1/2LsB의 범위 안에 있습니다.
이것은 즉, 8비트의 디지털변환이라면 2의 8승=256단계, 16비트라면 2의 16승=65,536단계로 아날로그입력신호의 레벨을 디지털신호로 바꾸고 있지만, 이 단계수가 많으면 많을수록 오리지널의 신호레벨과 양자화된 디지털신호레벨의 어긋남은 작아진다는 것을 의미합니다.
다른 식으로 표현하면 양자화 비트수가 크면 클수록 양자화 에러는 줄어드는 것입니다.
실제로 8비트 샘플의 경우, 상당한 양자화 에러를 귀로 들을 수 있습니다.
하지만 16비트라면 일반적인 리스닝환경에서는 들리지 않는편입니다.
다만 16비트라도 신호가 아주 미약한 경우(예를 들면 레벨을 극단적으로 내려 녹음한 신호 등)는 양자화 에러가 귀에 들리게 됩니다.
저 레벨신호는 양자화 비트수를 풀로 사용해 양자화되지 않았기 때문입니다.
즉 양자화 에러는 신호를 표현하는 데에 사용되고 있는 "실제의" 양자화 비트수에 의해서도 결정됩니다.
예를 들면 16비트의 하위 8비트만 사용된 극단적으로 낮은 레벨에서 녹음된 신호가 있다고 합시다.
이렇게 되면 그 신호의 양자화 에러의 양은 8비트로 녹음한 신호와 사실상 같습니다.
이 경우 최대 레인지의 절반인 48㏈이라는 낮은 레벨로 녹음된 매우 미약한 신호이기 때문에,
그 상태에서는 양자화 에러의 존재를 알기 힘들지 모르지만 그 신호의 음량을 노멀라이즈라고 하는 조작 등으로 가능한 한 크게 하면, 양자화 에러도 마찬가지로 증폭되어 귀에 들리게 되는것입니다.
이와 같은 양자화 에러의 발생을 최소한으로 억제하기 위해서도 디지털녹음을 할 경우는 입력신호레벨을 가능한 한 올려,
가능한 한 큰 다이나믹 레인지를 확보할(실제로 사용하는 비트수를 올린다) 필요가 있는 것입니다.
다만 입력신호레벨을 너무 많이 올리면 이번에는 디지털 디스토션이라는 문제가 나타납니다.
디지털 디스토션이란 입력레벨이 허용량을 오버했을 때에 발생하는 귀에 거슬리는 노이즈입니다.
당연히 이것은 반드시 피해야 겠지요.
레코딩 프로세스가 디지털로 넘어가면서 다이나믹 프로세서가 특히 많이 사용되는 이유는 디지털 디스토션을 피하면서 최대의 다이나믹 레인지를 확보하고 싶다는, 디지털 레코딩의 요구를 충족시켜주는 툴인것도 큰 이유입니다.
