임계 감속(critical slowing down)은 계가 급변 직전에 회복력을 잃으면서 자기상관과 흔들림 폭이 함께 오르는 현상이다. 조기경보 지표(early warning signal)는 전부 이 원리 위에 서 있다. 실제 호수 9곳·시계열 286개에 걸어 보니 계산 방식 대부분이 우연과 다르지 않았다. 정작 그 지표가 잡아야 할 임계 전이는 18개 계열 중 4개뿐이었다.
알람이 틀린 게 아니라 사건이 없었다
서버 모니터링 팀의 아침은 밤새 울린 알람을 하나씩 열어 보는 일로 시작한다. "CPU 사용률 상승 추세" 알람이 세 번 울렸다고 하자. 열어 보면 대개 예정된 배치 작업이고, 올해 그 알람이 진짜 장애로 이어진 적은 손에 꼽는다.
이때 팀이 따지는 것은 보통 둘이다. 장애가 났을 때 울렸는가(참양성), 멀쩡할 때 조용했는가(참음성). 임계값을 올릴지 내릴지도 이 두 칸을 보고 정한다.
그런데 알람을 평가하는 칸이 하나 더 있다. 이 알람이 감지하도록 만들어진 종류의 장애가 그 기간에 실제로 몇 번 났는가, 곧 사건 빈도다. 셋째 칸이 0에 가까우면 앞 두 칸의 점수는 거의 아무것도 말해 주지 않는다. 참양성이 낮아도 표본이 몇 건뿐이라 그렇게 나온 것일 수 있고, 참음성이 높아도 대부분이 평온한 구간이라 저절로 그렇게 되는 것일 수 있다.
생태학에도 같은 모양의 경보기가 있다. 호수가 맑은 상태에서 녹조로 뒤덮인 상태로 넘어가기 전에, 플랑크톤 시계열의 통계량이 미리 흔들린다는 이론이다. 이를 조기경보로 쓰자는 프레임은 2009년 Scheffer 연구팀이 세웠다. O’Brien 연구팀은 2023년에 그 지표들을 장기 모니터링 호수 9곳의 플랑크톤 시계열 286개에 전수로 걸었다. 앞 두 칸은 우연과 다르지 않았다. 사건 빈도는 286과 다른 자로 잰다 — 임계 전이로 분류된 계열은 영양단계 18개 중 4개였다.
그릇 바닥의 구슬 — 임계 감속이란 무엇인가
지표들이 정확히 무엇을 재고 있는지부터 본다. 바닥이 깊은 그릇 안에서 구슬을 손가락으로 툭 밀면 금세 제자리로 돌아온다. 그릇이 얕아질수록 같은 힘으로 밀어도 돌아오는 데 시간이 더 걸린다. 계가 급변을 앞두고 복원력을 잃은 상태가 이 얕아진 그릇이고, 이 느려짐을 임계 감속(critical slowing down)이라 부른다.
시계열에서는 두 가지 신호로 드러난다. 하나는 이번 값이 지난 값을 닮는 정도, 즉 지연 1 자기상관(AR(1))이다. 밀린 구슬이 늦게 돌아오면 다음 순간의 위치가 직전 위치와 비슷하게 남는다. 다른 하나는 흔들림 폭(분산)이다. 같은 세기로 흔들어도 되돌리는 힘이 약하면 진폭이 커진다. 둘 다 붕괴 자체를 보는 신호가 아니라 붕괴 전의 회복 속도를 재는 신호다.
둘 중 자기상관은 식으로 곧장 적을 수 있다. 계를 복원율 $\lambda$ 하나로 근사하면, 표본 간격 $\Delta t$ 마다 잰 자기상관은 아래처럼 적힌다. 복원이 느려져 $\lambda$ 가 0에 가까워질수록 이 값은 1로 다가간다.
조기경보 지표라 불리는 것들은 이름이 스무 개가 넘지만 뿌리는 식 1 하나다. 자기상관, 표준편차, 왜도, 여러 종을 묶어 재는 다변량 지표까지 전부 "복원이 느려지면 요동이 커지고 더 오래 간다"를 다른 방식으로 재는 도구다. 다만 이 방식은 한 지점에서 오래 이어진 시계열이 있어야 성립한다. 같은 신호를 시간축 대신 한 시점의 공간 패턴에서 읽는 시도는 사막화 전조 편에서 다뤘다.
그릇 비유를 한 걸음만 더 밀면 이 글이 다루는 사건의 종류가 나온다. 그릇이 얕아지다가 어느 순간 바닥이 아예 사라지면, 구슬은 돌아올 자리를 잃고 다른 곳으로 굴러가 버린다. 원래 상태가 사라지는 이 지점을 접힘 분기(fold bifurcation)라 부르고, 조기경보 지표는 계가 이 지점을 향해 가는 중이라고 가정한다. 바닥이 사라지지 않는 종류의 급변에서는 애초에 잴 것이 없다.
결론을 먼저 적어 둔다. 이 원리는 시뮬레이션에서 일관되게 성공한다. 그런데 실제 호수 시계열에서는 계산 방식 다섯 가지 중 어느 것도 우연을 뚜렷이 넘지 못했다. 참양성·참음성 둘 다 0.5를 꾸준히 넘긴 지표도 21종 중에 없었다. 경보가 울려야 할 임계 전이 자체가 영양단계 계열 18개 중 4개였다.
말이 셋 섞여 있어 먼저 갈라 둔다. 급변(regime shift)은 상태가 빠르게 다른 수준으로 옮겨간 일 전부를 가리킨다. 임계 전이(critical transition)는 그중 접힘 분기를 지나 원래 상태가 아예 사라진 급변이다. 문턱형 반응은 외부 조건이 문턱을 넘자 계가 그에 따라 옮겨간 경우로, 계 자체의 안정성은 그대로다. 조기경보 지표가 전제하는 것은 가운데 하나뿐이다.
시뮬에서는 왜 되는가
이론이 예측하는 그림이 정말 나오는지부터 손으로 확인한다. 접힘 분기를 지나는 장난감 모형을 쓴다. 제어변수 $a$ 를 1.00에서 0.05까지 천천히 내리면, 계가 머무는 안정 상태가 0에 닿는 순간 사라진다. 그 직전까지 복원율은 0으로 점점 다가간다. 시드 100개를 굴리고, 논문 규약대로 전체 길이의 50%짜리 윈도를 밀며 자기상관을 쟀다.
그림 1의 띠는 분기점 쪽으로 갈수록 꾸준히 오른다. 우리 모형에서 시드 평균 자기상관은 첫 윈도 0.15에서 마지막 윈도 0.47이 됐다. 추세가 오르막인지를 재는 순위 상관인 Kendall τ 로 요약하면 시드 중앙값 0.75, 시드 100개가 전부 양수다. 이론이 예측한 그림이 그대로 나온다. 문제는 여기가 아니다.
실데이터 조건을 하나씩 얹으면
같은 모형에 실제 관측 자료의 조건을 사다리처럼 얹어 봤다. 경보 규칙도 논문을 따랐다. 시계열을 무작위로 섞은 대리 시계열 200개의 τ 분포를 만들고, 실제 τ 가 양수이면서 그 분포의 95분위 위에 있을 때만 "경보"로 센다.
우리 모형에서 400점짜리 깨끗한 시계열은 참양성 0.46, 참음성 0.94였다. τ 는 시드 100개 중 99개가 양수인데 경보는 절반도 울리지 않는다. 섞은 시계열의 τ 도 넓게 퍼져 문턱이 높기 때문이다.
여기에 실제 관측 자료의 조건을 하나씩 얹는다. 길이를 17년 치 월 자료(204점)로 줄이자 참양성이 0.27로 내려갔다. 관측 잡음을 정상 상태 요동(표준편차 0.025)의 2배로 넣으니 0.18, 4배로 키우니 0.13이 됐다. 전처리를 빼고 원자료 그대로 재면 0.09다. 참음성은 어느 조건에서나 0.93에서 0.97 사이였다 — 아무 일 없는 계는 잘 맞힌다.
그림 2에서 두 분포는 크게 겹친다. 이론이 무너진 것이 아니라, 조건이 하나 붙을 때마다 성적이 조금씩 깎였다. 마지막에는 전처리를 어떻게 하느냐로 4퍼센트포인트가 움직인다.
286과 4는 서로 다른 자로 잰 수다. 286은 속(genus) 수준 시계열의 개수이고, 4는 영양단계(식물플랑크톤·동물플랑크톤) 계열 18개 중 임계 전이로 분류된 개수다. 두 수를 한 분수로 묶어 "286개 중 4건"이라고 쓰면 분모를 바꿔치기한 서술이 된다.
다섯 가지 계산 방식의 정분류 확률
여기부터는 우리 모형이 아니라 논문의 값이다. 연구팀은 계산 방식 다섯 가지를 월 자료와 연 자료에 걸고 베이지안 위계 모형으로 정분류 확률을 냈다. 전처리 조합 16종 중 성적이 가장 좋은 것을 골라 쓴, 지표에 유리한 조건에서 나온 값이다.
그림 3에서 가장 나은 방식은 다변량 확장 윈도로, 월 0.59(0.38–0.77)·연 0.71(0.47–0.87)이다. 신용구간이 둘 다 0.5를 물고 있다. 가장 고전적인 방식인 단변량 롤링 윈도는 연 자료에서 0.29(0.14–0.51)로, 저자들은 우연보다 나빴다고 적었다. 다섯 방식의 평균은 월 0.51 ± 0.07, 연 0.49 ± 0.19다.
다변량 롤링 윈도의 월 0.47·연 0.36은 본문에 숫자로 없어, 우리가 보충자료 계수를 확률로 되돌려 얻은 값이다. 개별 지표 21종으로 내려가도 그림은 같다. 저자들은 월·연 해상도와 참양성·참음성 네 조건을 가로질러 일관되게 0.5를 넘긴 지표가 하나도 없었다고 적었다. 가장 나은 eigenMAF도 참양성은 0.62와 0.70이었지만 참음성이 0.49와 0.52에 그쳤다.
합성곱 신경망으로 학습한 EWSNet도 같은 시험대에 올랐다. 아래 표는 입력을 스케일링했을 때와 안 했을 때의 참양성·참음성을 월·연 두 해상도로 나눠 적은 것이다. 전처리 하나로 결과가 이렇게 갈린다.
| EWSNet 입력 | 참양성 (월/연) | 참음성 (월/연) |
|---|---|---|
| 스케일링 안 함 | 0.92 / 0.88 | 0.20 / 0.06 |
| 스케일링 함 | 0.12 / 0.08 | 0.77 / 0.97 |
스케일링을 끄면 경보가 거의 항상 울리고, 켜면 진짜 위기에도 조용하다. 민감도와 특이도를 손잡이 하나로 맞바꾼 셈이라, 이 모형을 쓸 때 정할 것은 임계값이 아니라 "놓치는 쪽과 헛울리는 쪽 중 어느 손해가 더 큰가"다. 저자들도 놓치는 손해가 더 크다면 이 모형에 쓸 자리가 있다고 적었다.
잡아야 할 사건 자체가 드물었다
이제 사건 빈도를 셀 차례다. 연구팀은 호수마다 급변이 어떤 종류였는지를 세 조건으로 갈랐다. 시간축에서 파단점이 잡히는가, 수온·질산염·총인으로 만든 환경 상태공간에서도 같은 시점에 파단점이 잡히는가, 상태 분포가 두 봉우리로 갈라지는가.
그림 4의 세 갈래에 18개 영양단계 계열을 넣으면 이렇게 된다. 시간축 파단점이 잡힌 계열은 13개, 상태 분포가 두 봉우리로 갈라진 계열은 5개, 세 조건을 다 만족해 임계 전이로 분류된 계열은 4개다. Washington 호수의 동물플랑크톤은 두 봉우리까지 갔지만 파단 연도가 1988년과 1986년으로 어긋나 갈래가 달라졌다.
같은 호수 안에서도 층마다 다르다. Kasumigaura 호수는 동물플랑크톤이 임계 전이로 분류됐지만 식물플랑크톤은 아니었다. 지표가 못 맞힌 것이 아니라, 그 지표가 전제하는 종류의 사건이 애초에 드물었다.
저자들의 방향 전환 — 안정성 자체를 재는 쪽으로
이 결과를 두고 연구팀이 내놓은 제안은 지표를 더 정교하게 만들자가 아니다. 임계 전이가 자연에서 흔하다는 전제를 내려놓고, 분기 이론의 좁은 틀에 묶이지 않는 회복탄력성 지표로 옮겨 가자는 쪽이다. 지표를 다듬는 대신 묻는 질문을 바꾸자는 말이다.
조기경보 지표는 "이 계가 언제 넘어가는가"를 묻는다. 답이 있으려면 넘어갈 문턱이 실제로 있어야 하고, 그 문턱이 접힘 분기여야 하며, 자료가 그 앞까지 충분히 촘촘해야 한다. 반면 안정성 지표는 "이 계가 지금 얼마나 잘 돌아오는가"를 묻는다. 이 질문에는 문턱이 없어도 답이 나온다. 그 예로 인용되는 것이 계의 상호작용 구조를 직접 추정하는 자코비안 계열이다. 여러 종의 시계열에서 서로가 서로를 얼마나 끌어당기는지 추정해, 계 전체가 교란을 얼마나 빨리 흡수하는지를 읽는다.
저자들이 조기경보 지표를 폐기하자고 말한 것은 아니다. 확장 윈도 계열은 아무 일 없는 계를 아무 일 없다고 판정하는 데 믿을 만했다. 놓치는 손해가 큰 상황이라면 EWSNet에도 쓸 자리가 있다고 덧붙였다. 한계도 스스로 달아 뒀다. 관측 자료만으로는 임계 전이를 확정할 수 없다. 4라는 수도 확정된 개수가 아니라 저자들이 "최선의 추측"이라 부른 분류 절차가 낸 결과다.
호수를 관리하는 쪽에서 보면 이 전환은 질문을 현실 쪽으로 당기는 일이기도 하다. 붕괴 연도를 미리 짚어 달라는 요구에는 아무도 답할 수 없지만, 지금 이 호수가 작년보다 교란을 덜 흡수하고 있다는 판정에는 자료가 답할 수 있다. 문제가 정밀도에 있었다면 지표를 손질해 답이 나왔을 것이다. 전제에 있다면 다른 종류의 지표로 갈아타는 수밖에 없다.
같은 세 칸, 다른 자리
경보기의 성적을 읽는 법은 이 논문 한 편에서 끝나지 않는다. 설비 예지보전에서는 진동 이상 알람의 적중률을 자랑하는 자료를 흔히 만난다. 적중률 옆에 물을 것은 그 기간에 알람이 잡도록 설계된 종류의 고장이 몇 번 났는가다. 베어링 마모처럼 서서히 진행하는 고장을 잡는 알람이라면, 표본 기간의 고장이 대부분 전기 계통의 순간 정지였을 때 그 적중률은 다른 뜻이 된다.
시장 폭락 전조 지표도 같은 자로 잰다. 지표가 몇 번 맞혔는지만 봐서는 성적을 읽을 수 없다. 그 지표가 상정한 유형의 폭락이 표본 기간에 몇 번 있었는지를 함께 세어야 한다. 스마트워치의 부정맥 알림도 마찬가지여서, 알림 정확도와 별개로 그 부정맥이 그 사용자 집단에서 얼마나 드문지가 결과를 좌우한다.
셋째 칸을 세는 일이 앞 두 칸을 재는 일보다 어렵다는 점도 이 논문이 보여 준다. 연구팀은 호수 아홉 곳의 자료를 놓고 급변의 종류를 가르는 데 시간축 파단점과 환경 상태공간과 상태 분포를 전부 동원했고, 그러고도 결과를 최선의 추측이라 불렀다. 셋째 칸이 대개 비어 있는 이유는 게을러서가 아니라 그 칸을 채우는 일이 원래 이만큼 무겁기 때문이다.
세 칸을 나란히 놓고 읽으면 "전조를 포착했다"는 주장에서 확인할 것이 분명해진다. 참양성과 참음성은 대개 자료에 적혀 있고, 셋째 칸은 대개 적혀 있지 않다. 호수 아홉 곳의 수십 년 치 기록에서도 셋째 칸의 값은 4였다.
더 읽기
- O’Brien D.A. 외, "Early warning signals have limited applicability to empirical lake data", Nature Communications 14, 7942 (2023).
- 위 논문의 보충자료 PDF — Table S1(호수별 판정)·Table S8/S9(계산 방식별 계수)가 이 글의 수치 출처다.
- Scheffer M. 외, "Early-warning signals for critical transitions", Nature 461, 53–59 (2009) — 임계 감속을 조기경보로 쓰자는 프레임의 출발점.