노이즈캔슬링 헤드폰을 켜면 어떤 소음은 오히려 커진다

감도함수는 주파수마다 피드백이 소음을 몇 배로 만드는지 적어 놓은 곡선이다. 되먹임을 걸기 전의 계가 안정이고 고주파에서 충분히 빨리 잦아들면, 이 곡선의 로그 크기를 주파수축 전체에서 더한 값이 정확히 0으로 고정된다. 그래서 한 대역에서 소음을 누르면 다른 대역이 같은 로그 면적만큼 부푼다 — 노이즈캔슬링 헤드폰이 저음을 지우는 대신 고음을 키우는 이유가 이것이다.

헤드폰이 소음을 키우는 순간

밝은 크림색 배경의 인포그래픽 카드 두 장. 왼쪽 카드에는 헤드폰 아래에서 낮은 파형이 오른쪽으로 갈수록 잦아들어 평평한 선이 되고("저음이 줄어든다" 라벨), 오른쪽 카드에는 같은 헤드폰 아래 촘촘한 파형이 가운데에서 크게 부풀어 오른다("고음이 늘어난다" 라벨)

지하철에서 노이즈캔슬링을 켜면 바닥에서 올라오던 웅웅거림이 몇 초 만에 사라진다. 그런데 조용해진 자리에 전에 없던 소리가 하나 들어선다. 아주 옅은 쉬익— 하는 고음이다. 제품 리뷰마다 빠지지 않고 나오는 이 소리를 두고 흔히 회로 잡음이라거나 마이크 성능 탓이라고들 말한다.

절반만 맞는 말이다. 마이크로 소리를 듣고 곧바로 반대 파형을 되먹이는 방식에서, 이 고음은 부품을 바꿔 없앨 수 있는 결함이 아니다. 저음을 깊게 누르기로 결정한 순간 다른 어딘가는 반드시 커지고, 부푸는 총량까지 누른 깊이가 정해 준다. 설계자는 그 계약 조건을 알고 시작한다. 이 조건을 처음 계산해 낸 사람이 보데(Bode)다. 1945년에 나온 그의 결과는 피드백이 소음을 얼마나 줄일 수 있는지에 총량 제한을 걸어 두었고, 오늘날 헤드폰 회로와 전투기 비행 제어가 같은 제한 아래에서 설계된다.

감도함수 — 피드백이 소음을 몇 배로 만드는가

제한의 내용을 보려면 피드백이 무엇을 하는 장치인지부터 짚어야 한다. 피드백 제어는 목표와 실제의 차이를 재서 그만큼 되돌린다. 재고, 틀린 만큼 밀고, 다시 잰다. 이 되먹임이 잘 돌면 밖에서 들어온 소음이나 오차가 출력에 거의 남지 않는다. 여기서 되먹임 고리를 끊어 놓은 상태, 그러니까 제어기와 대상을 한 줄로 이어만 놓고 출력을 되돌리지 않은 경로를 열린루프(open loop)라고 부른다.

얼마나 남는지는 주파수마다 다르다. 그래서 제어공학은 주파수별 성적표를 하나 그려 둔다. 감도함수가 그것이고, 기호로는 $|S(\omega)|$라고 쓴다.

어떤 주파수 $\omega$에서 밖의 소음이 출력에 몇 배로 남는지를 적어 놓은 값이다. 읽는 법은 간단하다. 값이 1이면 피드백이 아무 일도 하지 않은 것과 같다. 1보다 작으면 그 주파수의 소음을 눌러 준 것이고, 1보다 크면 오히려 키운 것이다.

성능 좋은 제어기의 감도 곡선은 저주파에서 1보다 한참 아래로 내려간다. 저주파 오차를 잘 지운다는 뜻이다. 그런데 같은 곡선이 어느 대역에선가는 반드시 1 위로 올라온다. 누른 대역과 키운 대역이 한 곡선 안에 함께 있다. 이것이 피드백의 기본 모양이고, 그 둘이 얼마나 엄격하게 묶여 있는지를 이 글에서 차례로 확인한다.

이 글의 계산은 두 가지를 전제한다. 열린루프 자체가 안정일 것, 그리고 주파수가 높아질 때 열린루프의 크기가 충분히 빨리 줄어들 것(상대차수 2 이상). 두 번째 조건이 없으면 고주파 쪽에서 곡선이 제때 잦아들지 않아 면적을 더하는 일 자체가 성립하지 않는다. 실물 제어 루프는 대개 이 조건 안에 있다.

워터베드 법칙 — 감도의 로그 면적은 보존된다

이제 이 곡선을 면적으로 읽어 보자. 감도값에 로그를 씌우면 누른 대역은 음수, 키운 대역은 양수가 된다. 그러면 1을 기준선으로 삼아 아래로 판 넓이와 위로 솟은 넓이를 주파수축 전체에서 더할 수 있다. 그 합은 0이다.

(1) $$ \int_{0}^{\infty} \ln|S(\omega)|\, d\omega = 0 $$

식 1이 말하는 바는 짧다. 제어기를 어떻게 설계하든 이 값은 변하지 않는다. 게인을 키워도, 필터를 더 정교하게 깎아도, 판 만큼 정확히 솟는다. 물침대의 한쪽을 누르면 다른 쪽이 올라오는 것과 같아서 이 현상에는 워터베드 효과(waterbed effect)라는 이름이 붙어 있다. Stein은 적분이 지키는 이 양에 감도 오물(sensitivity dirt)이라는 이름을 붙이자고 제안했다. 제어 설계자는 도랑 파는 사람과 같다는 것이다.

그는 알맞은 연장을 써서 흙을 이쪽에서 저쪽으로 옮길 뿐, 그중 어느 것도 없애지는 못한다.

G. Stein, “Respect the Unstable” (2003)

말로만 들으면 공평한 거래 같다. 아래로 판 만큼 위로 솟을 뿐이니 손해도 이득도 없어 보인다. 실제로 곡선을 그려 보면 인상이 달라진다. 간단한 3차 루프 하나를 골라 게인 $k$만 0.5에서 7까지 올려 가며 감도 곡선을 그렸다.

게인 k를 0.5·1·2·4·7로 바꿔 그린 감도 곡선 다섯 개. 저주파 쪽 딥이 깊어질수록 1 근처의 피크가 가팔라진다 — **그림 1.** 게인을 올리면 저주파 딥이 깊어지고(0.67→0.125) 그 대가로 피크가 치솟는다(1.13→15.0). 다섯 곡선 모두 로그 면적 합은 0이다.

그림 1에서 저주파 쪽 딥은 $k$가 커질수록 깊어진다. 값으로는 0.667, 0.500, 0.333, 0.200, 0.125로 내려간다. 같은 순서로 피크는 1.13, 1.29, 1.67, 3.00, 15.0으로 올라간다. 딥이 깊어진 배수만큼 피크가 높아지는 비례 관계가 아니다. 마지막 두 값 사이에서 피크는 다섯 배로 뛴다.

보존되는 것은 로그 면적이지 피크 높이가 아니다. "누른 만큼 부푼다"는 표현은 면적 축에서만 정확하다. 양의 면적이 좁은 대역에 몰릴수록 같은 면적이 훨씬 뾰족한 봉우리로 나타나고, 그래서 딥을 조금 더 파는 일이 피크를 훨씬 크게 만든다.

$k=1$ 곡선 하나를 골라 면적을 직접 더해 본다. 1 아래로 판 부분과 1 위로 솟은 부분을 따로 적분해서 값을 각각 찍는다.

import numpy as np

w = np.logspace(-4, 6, 200001)          # 로그 균등 격자 (난수 없음)
L = 1 / (1j*w + 1)**3                   # 열린루프: k=1, 상대차수 3
lnS = np.log(np.abs(1 / (1 + L)))       # ln|S(jw)|

down = np.trapezoid(np.minimum(lnS, 0), w) + lnS[0]*w[0]   # 누른 쪽(+저주파 꼬리)
up   = np.trapezoid(np.maximum(lnS, 0), w)                 # 부푼 쪽

print(f"누른 면적 = {down:+.4f}")
print(f"부푼 면적 = {up:+.4f}")
print(f"합계      = {down + up:+.6f}")

누른 면적 = -0.3035
부푼 면적 = +0.3035
합계      = +0.000000

소수점 넷째 자리까지 같은 값이 부호만 바꿔 나온다. 누른 만큼이 정확히 그대로 부풀었다는 뜻이다.

불안정하면 예산은 마이너스에서 시작한다

지금까지는 열린루프가 안정인 경우였다. 그런데 세상에는 제어를 끄면 곧바로 넘어지는 물건이 있다. 세워 둔 빗자루, 정지 안정성을 포기하고 기동성을 얻은 전투기가 그렇다.

이런 계에는 열린루프에 불안정 극 $p$가 있고, 그러면 앞의 총량 0이 오른쪽으로 밀린다. 불안정 극들을 모두 더한 값에 원주율을 곱한 만큼이다.

(2) $$ \int_{0}^{\infty} \ln|S(\omega)|\, d\omega = \pi \sum_{i} p_i $$

식 2의 오른쪽은 양수다. 부푸는 면적이 누르는 면적보다 반드시 크다는 뜻이다. 제어기를 아무리 잘 짜도 넘친 양은 그대로 남는다. 불안정한 계는 설계를 시작하기도 전에 빚을 지고 출발한다.

안정 루프와 불안정 극 p=0.5·1·2의 로그 면적을 비교한 가로 막대 그래프 — **그림 2.** 안정 루프는 0, 불안정 극이 있으면 π·p 만큼 양의 면적이 남는다. p=2에서는 6.28.

그림 2의 값은 해석식 $\pi p$에서 온다. $p=0.5$면 1.571, $p=1$이면 3.142, $p=2$면 6.283이다. 사전 실측에서 같은 계를 수치적분해 대조했더니 앞 두 값은 소수점 여섯 자리까지, 마지막 값은 $1.2\times10^{-5}$ 오차 안에서 일치했다.

$p=2$짜리 계에서는 부수적인 사실도 하나 나왔다. 비례 제어기 하나로는 이 계를 아예 안정화하지 못해서, 미분 항을 더한 제어기를 써야 폐루프가 안정해진다. 극이 커질수록 넘치는 면적만 늘어나는 것이 아니라, 그 면적을 감당할 수단 자체가 줄어든다.

대역이 유한하면 부풀 자리가 갇힌다

면적을 감당할 자리 자체에도 한계가 있다. 앞의 적분은 주파수 0에서 무한대까지 달리지만 실물은 그렇지 않다. 센서와 구동기가 따라오는 범위가 있고, 그 위로는 샘플링 주파수와 기체·구조물의 굽힘 모드가 가로막는다. 제어에 쓸 수 있는 대역은 거기까지다. Stein은 이 범위를 가용 대역 $\Omega_a$라고 불렀다.

부풀 자리가 $[0, \Omega_a]$로 갇히면 같은 면적이 좁은 구간 안에 몰린다. 저주파 성능 구간을 $\Omega_1$까지로 잡고 그 위를 평탄한 감도 $s_{\min}$으로 두는 단순한 모양에서, 필요한 최소 감도는 지수함수로 나온다.

(3) $$ s_{\min} = \exp\!\left(\frac{\pi p + \Omega_1}{\Omega_a}\right) $$

식 3의 분자에는 불안정 극이 매기는 $\pi p$가 있고, 분모에는 그것을 나눠 담을 대역 $\Omega_a$가 있다. 대역이 좁아지면 지수가 커지고, 최소 감도가 그만큼 치솟는다.

손에 잡히는 예가 빗자루다. 끝에 질량이 몰려 있다고 보면 불안정 극은 $\sqrt{g/L}$이고, 사람이 낼 수 있는 대역은 대략 10–15 rad/s다. 길이 1 m 빗자루의 극은 3.13 rad/s이니 대역이 극의 3.19~4.79배쯤 된다. 0.3 m로 줄이면 극이 5.72 rad/s로 올라간다. 배수는 1.75~2.62로 내려가고, 0.1 m에서는 극이 9.90 rad/s여서 1.01~1.51까지 떨어진다. 0.05 m짜리에서는 낮은 쪽 배수가 0.71로 1 아래다 — 사람 손이 낼 수 있는 속도보다 빗자루가 더 빨리 넘어간다는 뜻이다.

빗자루 길이에 따른 최소 감도 s_min 산점도. 짧아질수록 값이 급격히 커지고, 다른 조건의 X-29 참고점이 따로 표시되어 있다 — **그림 3.** 가용 대역 12.5 rad/s·성능 대역 1 rad/s로 놓았을 때 빗자루 길이별 최소 감도. X-29는 조건이 달라 참고점으로만 표시했다.

그림 3은 같은 빗자루를 식 3으로 옮긴 것이다. 가용 대역을 12.5 rad/s, 성능 대역을 1 rad/s로 놓으면 1 m 빗자루의 최소 감도는 2.38이고, 0.3 m에서 4.56, 0.15 m에서 8.27, 0.1 m에서 13.06이 된다.

감도가 13이라는 것은 모델 오차나 손떨림이 13배로 되돌아온다는 뜻이다. 짧은 빗자루가 안 세워지는 이유가 숫자로 이렇게 나온다.

같은 계산이 훨씬 비싼 물건에서도 그대로 돌아간다. 전진익 실험기 X-29는 일부 비행 영역에서 불안정 극이 6 rad/s에 달했고 가용 대역은 약 40 rad/s였다. 기체 1차 굽힘 모드가 7 Hz 근처에서 시작하고 제어 컴퓨터가 80 Hz로 도는 한, 이 위로는 손을 쓸 자리가 없다. 성능 대역 3 rad/s로 두면 식 3은 1.73을 낸다. Stein이 보고한 값은 약 1.75였다. 이 페널티 때문에 X-29의 위상 여유는 35°에 그쳤고, 군용 규격이 요구하던 45°를 채우지 못한 채 규격을 완화받아 비행했다.

노이즈캔슬링 헤드폰이 이 법칙을 매일 증명한다

처음의 쉬익 소리로 돌아가자. 이제 이 소리에 숫자를 붙일 수 있다. Hilgemann 연구팀은 2024년 논문에서 피드백 방식 능동 소음 제어(ANC) 헤드폰을 실측했다. Bose QC20 인이어와 QC45 오버이어에서 제조사 회로를 떼어내고, 자체 피드백 제어기를 연결해 사람이 실제로 착용한 조건에서 쟀다. 제어기는 관례적인 불확실성 모델(norm-bounded)로 설계했다. 오버이어(QC45) 기준으로 100–800 Hz 구간은 10–20 dB 줄어들었고, 150 Hz와 700 Hz 부근의 좁은 대역에서는 약 22 dB까지 내려갔다.

저음 웅웅거림이 사라지는 그 구간이다. 그 대가는 고주파 쪽에서 나타난다. 연구팀은 어느 불확실성 모델에서든 1 kHz 위에 증폭이 나타났고, 저주파 감쇠를 더 끌어낸 두 모델일수록 고주파 워터베드 증폭이 심해졌다고 적었다. 조용해질수록 쉬익 소리가 또렷해진다는 뜻이고, 이 글의 적분이 예측한 그대로다.

한 가지는 분명히 해 둘 필요가 있다. 이 계산이 붙잡는 것은 피드백 한 줄기뿐이다. 바깥 소리를 미리 마이크로 받아 반대 파형을 만들어 내보내는 피드포워드 방식은 되먹임 고리를 만들지 않아 이 적분에 걸리지 않는다. 요즘 제품이 흔히 쓰는 하이브리드 구성은 두 방식을 함께 돌린다. 그래도 하이브리드의 피드백 쪽 가지는 여전히 자기 몫의 면적을 진다.

설계는 어디에 부풀릴지 고르는 일이다

이 계산을 한번 익히면 스펙 문서가 달리 읽힌다. ANC 헤드폰 리뷰에 실린 감쇠 곡선에서 1 kHz 위의 완만한 혹 하나는 측정 오차가 아니라 저주파 성능의 영수증이다. 저음을 더 깊게 눌러 자랑하는 제품일수록 그 혹이 커져 있는지 확인해 볼 만하다.

Stein은 불안정한 기체를 다룰 때 쓰는 경험칙 하나를 적어 뒀다. 제어에 쓸 수 있는 대역이 불안정 극의 열 배는 되어야 한다는 것이다. 어떤 계가 다룰 만한지 가늠할 때 이 비를 먼저 재 보면 된다. 다만 이 값은 군용 여유 기준이지 가능과 불가능을 가르는 선이 아니다 — 앞의 빗자루는 전 구간이 열 배에 못 미치는데도 1 m짜리는 사람이 세운다.

같은 소재를 시간축에서 본 글이 이 블로그의 샤워 물온도 편이다. 거기서는 지연이 만드는 왕복을 시간의 흐름으로 쫓았고, 여기서는 같은 되먹임을 주파수축에 펼쳐 면적으로 셌다. 도구가 바뀌면 보이는 것도 바뀐다.

제어는 오차를 없애는 일이 아니다. 주파수축 어디에 오차를 몰아 둘지 고르는 일이고, 헤드폰 스펙의 혹도 전투기의 위상 여유 35°도 그 선택이 남긴 자국이다.

고를 수 있는 폭 자체를 좁히는 것이 우반평면 영점이다. 왼쪽으로 가려고 오른쪽으로 먼저 꺾어야 하는 이야기는 이 블로그의 카운터스티어 편에서 다뤘다. 거기서 잠깐 반대로 가게 만든 그 영점이, 여기서는 눌러도 어딘가는 부풀어 오르는 제약으로 나타난다.

더 읽기

G. Stein, "Respect the Unstable", IEEE Control Systems Magazine 23(4), 2003 — 1989년 보데 강연의 아카이브판. 빗자루·X-29·체르노빌 사례와 경험칙의 출처. https://people.ee.ethz.ch/~rsmith/cs2files/2003_Stein_Respect_Unstable.pdf
A. Emami-Naeini, D. de Roover, "Bode’s Sensitivity Integral Constraints: The Waterbed Effect Revisited", arXiv:1902.11302 — 적분식의 진술과 감쇠·증폭 면적 상쇄를 그림으로 정리한 편. https://arxiv.org/abs/1902.11302
F. Hilgemann, E. Chatzimoustafa, P. Jax, "Data-Driven Uncertainty Modeling for Robust Feedback Active Noise Control in Headphones", J. Audio Eng. Soc. 72(12), 2024 — 이 글이 인용한 ANC 실측의 출처. https://arxiv.org/abs/2509.15864