0. Summary

기본 정보 : ArXiv,2026.01.06, SIGMA: Scalable Spectral Insights for LLM Model Collapse

연구 배경

LLM 모델 붕괴(model collapse)는 모델이 생성한 합성 데이터로 재귀적으로 학습할 때 분포의 분산과 표현 품질이 점진적으로 퇴화하는 현상이다(Shumailov et al., 2024a; 2024b). 최신 LLM 의 규모가 인간이 만드는 인터넷 콘텐츠의 증가 속도를 추월하면서 합성 데이터 사용은 선택이 아니라 필연이 되었고, 새 인간 데이터의 주입 없이는 모델이 자기 확률분포를 반복 학습하며 저분산·저품질 상태로 수렴한다. 붕괴의 현상학은 점점 분명해지고 있지만, 고차원 공간에서 붕괴의 시작을 정량화하고 예측하는 엄밀한 방법은 여전히 부족하다. 기존 연구는 MAD(Model Autophagy Disorder)의 정밀도-재현율 교환, 강한 붕괴(strong collapse)의 점근 체제, 꼬리 중심 지표(time-to-forget, 공분산 수축), 재귀 안정성, $n$-gram 과집중 같은 표면 지표를 제안했지만, 대부분 과제·토큰 수준 통계에 머물거나 단일 모델 루프를 가정한다. 저자들은 표현 기하(representation geometry) 자체, 즉 임베딩 Gram 행렬의 고유 스펙트럼을 붕괴의 수학적 대상으로 삼고, 전체 고유분해가 불가능한 대규모 환경에서도 부분 관측만으로 작동하는 스펙트럼 부등식을 요구한다.

제안 방법

Sigma(Spectral Inequalities for Gram Matrix Analysis) 는 문장 임베딩 행렬 $M \in \mathbb{R}^{m \times n}$ 의 Gram 행렬 $G = MM^\top$ 의 로그 행렬식 $\log\det G = \sum_j \log\lambda_j$ 를 1차 붕괴 지표로 삼는다. Gram 행렬이 풀랭크여야 모델이 임베딩 공간의 전체 용량을 쓰는 것이고, 특이(또는 사실상 랭크 결손) 상태는 의미 수준의 정보 손실, 즉 붕괴의 시작으로 해석한다. 토큰 수 $n_k$ 가 방대하므로 임베딩 행렬을 관측 블록 $A$ 와 비관측 블록 $B$ 로 나누어 $G = G_A + G_B$ 로 쓰고, 관측 가능한 $G_A$ 만으로 전체 $G$ 의 행렬식을 양쪽에서 가둔다. 정리 1 은 Cauchy-Binet 과 Weyl 부등식으로 분포 가정 없는 결정론적 상·하계 $\det G_A \le \det G \le \prod_i(\lambda_i(G_A) + \beta_k)$ 를 주고, 정리 2 는 열의 i.i.d. 가정 아래 $\det G \le K (n_k/n_A)^m \det G_A$ 라는 확률적 스케일링 법칙을, 정리 3 은 그 오차가 $\sigma\sqrt{1/n_A - 1/n_k}$ 스케일의 정규분포로 수렴함을 보인다. 이 정리들을 계산 가능한 온라인 지표로 바꾼 것이 Sigma-UB 다. Track I 은 열 노름 상한 $\rho$ 로 비관측 꼬리 에너지를 $\widehat{\beta}k = (n_k - n_A)\rho$ 로 가둔 결정론적 포락선 $\mathcal{G}{KF}$ 이고, Track II 는 표본 크기 보정을 넣은 공분산 정규화 통계량 $\mathcal{U}_{LLN,cov} = \log\det(G_A + \delta I) - m\log n_A$ 다. 두 지표 모두 기준 체크포인트 $g=0$ 대비 드리프트로 보고하며, 모델 가중치나 그래디언트 없이 출력 임베딩만으로 계산되는 블랙박스 친화적 설계다.

발견 사실

DecayBench 의 TECH 도메인(소프트웨어·기술 문서)에서 OPT-125M 을 순수 합성 데이터($\alpha = 0$)로 50세대 재귀 학습시켜 두 설정을 비교했다. S1(restart-from-base, 데이터 재귀만) 은 매 세대 기본 모델에서 다시 미세조정하고, S2(true recursion, 데이터 + 가중치 재귀) 는 이전 세대 가중치를 이어받는다. S1 에서는 두 트랙이 모두 완만하게 음의 드리프트를 보였다(최종 $\Delta\mathcal{U} \approx -151$, $\Delta\mathcal{G} \approx -142$, OLS 기울기 $-0.941$ / $-0.918$). S2 에서는 Track II 가 한 자릿수 이상 더 크게 수축했고(최종 $\approx -1537$, 기울기 $\approx -42.6$), $g \approx 20$ 부근에서 $-1000$ 을 넘어서며 급락했지만, Track I 은 0 근처에 머물거나 오히려 양의 급등(예: $g=19$ 에서 $+1920.9$)을 보였다. 저자들은 이 Track II 급락 / Track I 정체의 분리를 조기 붕괴의 진단 신호로 해석한다. 폭(breadth)이 먼저 줄고, 보수적 포락선은 재귀가 임계점을 넘어야 조여진다는 것이다. 표면 지표에서도 S2 가 S1 보다 훨씬 강하게 집중됐다. distinct-2 는 0.715 에서 0.254 로, 해시 $n$-gram HHI 는 0.000100 에서 0.097262 로 변했고, S2 에서 Track II 와 HHI 의 Spearman 상관은 $-0.685$ 였다. 프롬프트 버킷별로는 Creative 버킷이 집계보다 일관되게 큰 Track II 수축을 보여, 개방형 프롬프트가 표현 붕괴를 증폭한다는 정성적 결론을 얻었다.

핵심 기여

붕괴 탐지의 이론적 틀 : Gram 행렬 고유 스펙트럼의 감쇠를 모델 붕괴와 엄밀하게 연결하는 스펙트럼 분석 프레임워크 Sigma 를 제안했다. 로그 행렬식이 $\lambda_{\min} \to 0$ 에서 $-\infty$ 로 발산한다는 성질을 붕괴의 수학적 정의로 쓴다.
엄밀한 스펙트럼 상·하계 : 결정론적 부등식(정리 1)과 확률적 부등식(정리 2, 3)을 도출해, 전체 고유분해가 불가능한 고차원 설정에서도 부분 관측만으로 표현 붕괴를 정밀하게 추정할 수 있게 했다. 정리 3 은 필요한 관측 블록 크기 $n_A \gtrsim (z_{\alpha/2}\sigma/\varepsilon)^2$ 라는 실용적 규칙까지 준다.
확장 가능한 블랙박스 지표 : 두 정리를 각각 계산 가능한 온라인 지표(Track I $\Delta\mathcal{G}{KF}$, Track II $\Delta\mathcal{U}{LLN,cov}$)로 옮긴 Sigma-UB 를 제시하고, 데이터 재귀와 가중치 재귀를 분리한 S1/S2 실험에서 두 트랙의 분리가 표면 반복보다 앞서는 조기 경보로 작동함을 보였다.

Abstract 쉬운 설명(Gemini)

이 논문은 한마디로 “AI가 자기가 만든 글만 계속 베껴 먹다가 바보가 되는 현상(모델 붕괴)을, 수학적인 체온계로 미리 재서 막는 방법”을 다룬 연구입니다.

수학 공식이나 어려운 전문 용어를 걷어내고, 쉬운 비유로 핵심을 짚어 드릴게요.

1. 무슨 문제가 일어났는가? (모델 붕괴)

상황: 전 세계에 있는 인간의 글(책, 인터넷 글 등)은 이미 최신 AI들이 거의 다 학습했습니다. 학습할 새로운 인간의 글이 부족해지자, 연구자들은 “AI가 만든 글(합성 데이터)”을 다시 다음 세대 AI에게 학습시키기 시작했습니다.
부작용 (복사기의 복사본): 화질 좋은 원본 사진을 복사하고, 그 복사본을 또 복사하고, 그걸 10번쯤 반복하면 어떻게 될까요? 선은 뭉개지고 디테일은 다 사라지겠죠.
AI도 똑같습니다. AI가 만든 평범하고 흔한 문장만 반복해서 학습하다 보면, 희귀하고 참신한 표현은 다 까먹고 결국 뻔하고 획일화된 헛소리만 앵무새처럼 반복하는 상태가 됩니다. 이를 학계에서는 ‘모델 붕괴(Model Collapse)’라고 부릅니다.

2. 왜 지금까지 해결하기 어려웠을까?

AI가 완전히 망가져서 이상한 말을 내뱉을 때쯤이면 이미 수십억~수백억 원의 학습 비용을 날린 뒤입니다.
그래서 “망가지기 전에 미리 알아챌 수 있는 조기 경보 장치”가 필요한데, 요즘 AI는 크기가 너무 거대해서(수천억 개의 파라미터) 내부 상태를 일일이 검사하려면 컴퓨터가 터져나갈 정도로 계산량이 많았습니다.

3. 이 논문의 해결책: “SIGMA” (AI 전용 체온계)

연구진은 SIGMA라는 새로운 측정 기술을 제안했습니다.

생각의 공간(임베딩 공간) 크기 재기:
건강한 AI는 머릿속에 수많은 단어와 문맥을 펼쳐놓는 ‘넓은 운동장’을 가지고 있습니다. 사과, 우주, 철학 등 다양한 개념이 운동장 구석구석 넓게 퍼져 있죠.
붕괴가 시작된 AI는 이 운동장이 점점 쪼그라들어 ‘좁은 골목길’처럼 변합니다. 무슨 말을 해도 다 비슷한 단어와 생각으로 몰리기 때문입니다.
연구진은 이 공간이 쪼그라드는 정도를 ‘그람 행렬(Gram matrix)의 고윳값’이라는 수학적 도구로 측정했습니다. (비유하자면, 풍선에 바람이 얼마나 빠졌는지 부피를 재는 것입니다.)
천재적인 꼼수 (전부 안 재고 일부만 샘플링하기):
풍선 전체의 크기를 완벽하게 재려면 연산이 너무 오래 걸립니다.
연구진은 “일부 데이터만 콕 집어서 살짝 재어보아도, 전체 풍선이 얼마나 쪼그라들었는지 오차 범위 내에서 정확하게 맞히는 수학적 공식(경계값)”을 찾아냈습니다.
덕분에 거대한 AI 모델이라도 컴퓨터에 큰 부담을 주지 않고 순식간에 건강 상태를 측정할 수 있게 되었습니다.
속을 뜯어보지 않아도 됨 (블랙박스 방식):
AI 회사들이 모델의 내부 비밀 코드나 가중치를 공개하지 않아도, AI가 밖으로 뱉어내는 결과물 몇 개만 측정해보면 “이 AI, 지금 붕괴가 시작됐네!” 하고 알아챌 수 있습니다.

세 줄 요약

문제: AI에게 AI가 쓴 글만 계속 먹이면, 복사기를 계속 복사하듯 머리가 굳고 멍청해진다(모델 붕괴).
기존 한계: AI가 너무 커서 망가져 가는 과정을 실시간으로 감시하기가 너무 비싸고 힘들었다.
논문의 성과: 복잡한 내부를 다 안 까봐도, 겉으로 나오는 데이터 일부만 쓱 스캔해서 “AI가 멍청해지기 시작했는지”를 실시간으로 가성비 좋게 감지하는 스마트 체온계(SIGMA)를 만들었다.

SIGMA 설명

SIGMA(Spectral Inequalities for Gram Matrix Analysis)는 대규모 언어 모델(LLM)이 자체 생성 데이터(합성 데이터)를 반복 학습하면서 발생하는 ‘모델 붕괴(Model Collapse)’를 임베딩 그람 행렬(Gram Matrix)의 고윳값 스펙트럼(Spectrum) 관점에서 수학적으로 규명하고, 부분 샘플링을 통해 효율적으로 조기 감지하는 이론적·실용적 프레임워크입니다.

1. 연구 배경과 해결하려는 핵심 과제

1) 모델 붕괴(Model Collapse)의 메커니즘

최신 LLM의 크기가 급증하면서 인간이 웹에 축적한 고품질 데이터의 공급 속도가 한계에 달했습니다. 이에 따라 모델이 생성한 합성 데이터를 다음 세대 학습에 투입하는 재귀적 학습(Recursive Training)이 불가피해졌습니다. 그러나 외부의 신선한 데이터 없이 자기 자신의 확률 분포를 반복 학습하면, 분포의 꼬리(Tail) 영역에 위치한 희귀하지만 중요한 정보가 소실되고 중심부로 몰리는 분산 축소(Distributional Variance Contraction) 현상이 일어납니다. 이것이 누적되면 결국 표현력이 극단적으로 저하되는 모델 붕괴에 도달합니다.

2) 기존 진단 방식의 기술적 병목

표면적 통계의 한계: $n$-gram 빈도, Perplexity, 다양성 점수 등 텍스트 표면 지표는 이미 문장이 획일화된 ‘말기 붕괴’ 상태에 도달한 뒤에야 급격한 변화를 보입니다.
고차원 연산 비용의 폭증: 표현 공간의 기하학적 변화를 추적하려면 수만~수백만 개에 달하는 텍스트 임베딩 벡터 간의 상관관계를 계산해야 합니다. 하지만 전체 데이터에 대해 고윳값 분해(Eigendecomposition)를 수행하는 것은 계산 복잡도($\mathcal{O}(m^3)$ 및 대규모 행렬 곱) 측면에서 초대규모 파운데이션 모델 파이프라인에 실시간 적용하기 불가능했습니다.

2. 수학적 모델링: 그람 행렬과 로그 행렬식

SIGMA는 LLM이 문장을 고정된 차원의 벡터로 매핑하는 임베딩 공간의 기하학적 구조에 주목합니다.

1) 임베딩 그람 행렬 (Gram Matrix) 정의

평가용 텍스트 집합의 문장 수를 $n$, 각 문장이 매핑되는 임베딩 차원을 $m$이라고 할 때, 표본 크기가 차원보다 큰 영역($n > m$)을 다룹니다.
$k$번째 재귀 학습 단계에서 추출된 임베딩 벡터 $v_j^{(k)} \in \mathbb{R}^m$ ($j = 1, \dots, n_k$)를 열(column)로 쌓아 만든 임베딩 행렬을 $M^{(k)} \in \mathbb{R}^{m \times n_k}$라 정의합니다.
이에 대응하는 그람 행렬 $G^{(k)}$는 다음과 같이 정의되는 $m \times m$ 준양부호 대칭 행렬(Positive Semi-Definite Matrix, $\mathcal{S}_+^m$)입니다.

\[G^{(k)} := M^{(k)} (M^{(k)})^\top = \sum_{j=1}^{n_k} v_j^{(k)} (v_j^{(k)})^\top\]

2) 붕괴 측정 지표로서의 로그 행렬식 (Log-Determinant)

그람 행렬 $G^{(k)}$의 고윳값을 내림차순으로 $\lambda_1(G^{(k)}) \ge \lambda_2(G^{(k)}) \ge \dots \ge \lambda_m(G^{(k)}) \ge 0$이라 할 때, SIGMA는 모델의 건전성을 평가하는 핵심 척도로 로그 행렬식(Log-Determinant)을 채택합니다.

\[\log \vert{}G^{(k)}\vert{} = \log \left( \prod_{j=1}^m \lambda_j(G^{(k)}) \right) = \sum_{j=1}^m \log \lambda_j(G^{(k)})\]

기하학적 의미: 행렬식 $\det(G^{(k)})$는 임베딩 벡터들이 $m$차원 공간에서 형성하는 초타원체(Hyper-ellipsoid)의 부피에 비례합니다.
정상 상태: 임베딩 공간의 모든 축을 고르게 활용하면 $G^{(k)}$는 Full Rank($\text{rank} = m$)를 유지하며, 최소 고윳값 $\lambda_{\min}$이 유의미한 양수 값을 가집니다.
붕괴 상태: 모델이 뻔한 문장이나 중복된 구조의 문장만 생성하게 되면, 임베딩 벡터 간 선형 종속성이 커지면서 공간이 찌그러집니다. 즉, 특정 차원의 고윳값들이 급격히 0으로 수렴($\lambda_{\min} \to 0$)하게 되고, 결과적으로 $\log \vert{}G^{(k)}\vert{} \to -\infty$로 발산하며 기하학적 붕괴가 수치화됩니다.

3. SIGMA의 핵심 이론: 부분 샘플링 기반 스펙트럼 경계

전체 토큰/문장 수 $n_k$가 수십만 개 이상일 때 전체 행렬을 분해하는 연산 문제를 해결하기 위해, 연구진은 데이터를 관측 블록과 비관측 블록으로 나누는 부분 샘플링(Sub-sampling) 기법을 도입하고 수학적 경계(Bounds)를 유도했습니다.

임베딩 행렬 $M^{(k)}$를 실제로 계산에 사용할 관측 블록 $A^{(k)} \in \mathbb{R}^{m \times n_A}$와 계산에서 제외할 비관측 블록 $B^{(k)} \in \mathbb{R}^{m \times n_B}$로 분할합니다 ($n_k = n_A + n_B$, rank 안정을 위해 $n_A > m$ 유지).

\[G^{(k)} = G_A^{(k)} + G_B^{(k)} \quad \text{단,} \quad G_A^{(k)} = A^{(k)}(A^{(k)})^\top, \; G_B^{(k)} = B^{(k)}(B^{(k)})^\top\]

1) 정리 1: 결정론적 스펙트럼 경계 (Deterministic Spectral Bound)

분포에 대한 어떤 사전 가정(Distribution-free)도 없이, 바일의 부등식(Weyl’s Inequality)과 카이 판 지배 원리(Ky Fan Dominance)를 이용해 비관측 블록의 스펙트럼 반경 $\beta_k := \lambda_{\max}(G_B^{(k)})$를 바탕으로 전체 행렬식의 상·하한을 유도합니다.

\[\det(G_A^{(k)}) \le \det(G^{(k)}) \le \prod_{i=1}^m \left(\lambda_i(G_A^{(k)}) + \beta_k\right)\]

하한(Lower Bound): 양의 준정부호 행렬의 합 성질($G_B \succeq 0$)에 의해, 관측된 일부 데이터로 만든 $\det(G_A^{(k)})$는 항상 전체 행렬식보다 작거나 같습니다.
상한(Upper Bound): 비관측 데이터가 임베딩 공간을 최대로 팽창시킬 수 있는 한계치는 비관측 블록의 최대 고윳값 $\beta_k$에 의해 엄격히 제한됩니다.

2) 정리 2: 확률적 스케일링 스펙트럼 경계 (Stochastic Scaling Spectral Bound)

생성 과정이 정상 확률 과정(Stationary / i.i.d.)을 따른다고 가정할 때, 표본 크기 $n_A, n_k \to \infty$ 극한에서 전체 행렬식과 부분 행렬식 사이에는 명확한 스케일링 법칙(Scaling Law)이 성립합니다.

\[\det(G^{(k)}) \approx \left(\frac{n_k}{n_A}\right)^m \det(G_A^{(k)})\]

이를 로그 공간으로 변환하면 다음과 같습니다.

\[\log \det(G^{(k)}) \approx \log \det(G_A^{(k)}) + m \log \left(\frac{n_k}{n_A}\right)\]

이 정리는 데이터 크기 차이($n_k$ 대 $n_A$)로 인해 발생하는 부피 팽창을 $m \log(n_k / n_A)$라는 순수 기하학적 상수로 정확히 보정할 수 있음을 보여줍니다.
따라서 데이터셋 크기 변동에 따른 왜곡을 완전히 제거하고, 오직 모델의 순수한 표현 공간 수축 여부만을 분리해 추적할 수 있게 됩니다.

3) 유한 표본 오차와 안정성 (Finite-Sample Precision)

임의의 확률 벡터 $X$에 대해 공분산 행렬을 $C$, 분산을 $\sigma^2 := \text{Var}(X^\top C X)$라 할 때, 추정치의 신뢰구간 오차는 다음과 같이 억제됩니다.

\[\text{Error} \le z_{\alpha/2} \cdot \sigma \sqrt{\frac{1}{n_A} - \frac{1}{n_k}}\]

핵심적 발견: 추정 정밀도는 전체 데이터 크기 $n_k$가 아니라 우리가 샘플링한 관측 블록 $n_A$의 크기에 의해 지배됩니다.
즉, 앞으로 AI가 생성하는 데이터 총량($n_k$)이 천문학적으로 늘어나더라도, 고정된 크기의 표본 $n_A$($n_A > m$)만 안정적으로 확보하면 오차가 발산하지 않고 일정한 정밀도로 전체 상태를 추정할 수 있습니다.

4. SIGMA의 듀얼 트랙(Dual-Track) 진단 알고리즘

SIGMA는 실제 운영 환경에서 수치적 불안정성($\lambda \to 0$일 때의 수치적 특이성)을 방지하기 위해 정규화 상수 $\delta > 0$를 추가한 $\text{LogDet}_\delta(X) := \log \det(X + \delta I_m)$를 사용하며, 상호 보완적인 두 가지 지표를 동시에 모니터링합니다.

구분	Track I: $\mathcal{G}_{\text{KF}}^{(k)}$ (결정론적 보수 지표)	Track II: $\mathcal{U}_{\text{LLN, cov}}^{(k)}$ (확률적 민감 지표)
기반 이론	정리 1 (Ky Fan Spectral Bound)	정리 2 (대수의 법칙 및 공분산 스케일링)
수식 정의	$\text{LogDet}_\delta(G_A^{(k)} + \hat{\beta}_k I_m) - m \log(\hat{\beta}_k + \delta)$	$\text{LogDet}_\delta(G_A^{(k)}) - m \log n_A$
주요 특징	데이터 분포 가정 없는 보수적 안전선(Envelope)	표본 크기 효과를 정규화한 고감도 지표
역할	모델이 절대 붕괴하지 않았음을 보장하는 상한선	초기 미세한 기하학적 수축을 즉각 포착

조기 경보 시그니처 (Early Warning Signature)

재귀 학습이 진행될 때, 두 지표의 움직임에서 독특한 괴리 현상이 발생합니다.

초기 붕괴 단계: 텍스트 상으로는 다양성 저하가 눈에 띄지 않지만, 임베딩 공간의 취약한 축(작은 고윳값들)이 먼저 수축하기 시작합니다. 이때 민감한 Track II 지표가 선제적으로 급락합니다.
Track 분리(Divergence): 보수적인 Track I 지표는 상한선을 유지하고 있는 반면, Track II 지표와의 격차가 벌어지는 ‘트랙 분리(Separation)’가 나타납니다.
경보 발령: 연구진은 이 분리 현상을 텍스트 레벨의 반복 버그가 발생하기 수 세대 이전에 울리는 수학적 조기 경보 신호로 활용할 수 있음을 입증했습니다.

5. 프레임워크의 실무적·공학적 의의

완전한 블랙박스(Black-Box) 친화성: 모델의 내부 가중치(Weights), 레이어별 활성화 값, 기울기(Gradients)에 접근할 필요가 전혀 없습니다. 모델이 출력한 문장의 임베딩 벡터만 추출할 수 있다면 외부 API로 배포된 서비스에서도 독립적으로 건전성을 진단할 수 있습니다.
연산 효율성과 확장성(Scalability): 방대한 전체 코퍼스를 매번 분해하는 대신, 엄밀한 부등식에 기반하여 계산 가능한 작은 크기($n_A$)의 서브셋만 연산하므로 초거대 파운데이션 모델 학습 파이프라인에 실시간 감시 모니터로 내장할 수 있습니다.
수학적 엄밀성: 경험적이고 휴리스틱한 관측 지표에 머물던 모델 붕괴 연구를 랜덤 행렬 이론(Random Matrix Theory)과 스펙트럼 분석 기하학을 통해 증명 가능한 체계로 끌어올렸습니다.

관련 개념

모델 붕괴와 표현 기하: 왜 Gram 행렬인가

모델 붕괴 연구는 크게 두 갈래로 발전해 왔습니다. 하나는 “출력이 어떻게 나빠지는가”를 보는 현상학(반복, 다양성 손실, 꼬리 소실)이고, 다른 하나는 “왜 나빠지는가”를 설명하는 통계 이론(분산 수축, 엔트로피 감소, 점근 체제)입니다. 이 논문은 그 사이에 측정의 문제를 놓습니다. 고차원 임베딩 공간에서 붕괴가 “시작되는 순간”을 어떤 양으로 잡아낼 것인가, 그리고 그 양을 수십억 토큰 규모에서 어떻게 계산할 것인가입니다.

🧭 1. 기존 연구의 위치

연구	초점	붕괴를 재는 양	한계(저자 관점)
Shumailov et al. (2024a, b)	재귀의 저주, 꼬리 지지 집합 소실	perplexity, 분포 꼬리	현상 기술 중심
Alemohammad et al. (2024), MAD	정밀도-재현율 교환, 신선한 실제 데이터 주입	precision / recall	생성 모델 일반, 이미지 중심
Dohmatob et al. (2025), Strong collapse	실제 데이터를 섞어도 남는 점근 퇴화	이론적 스케일링	측정 도구 아님
Seddik et al. (2024)	엔트로피·분산 수축 과정	time-to-forget, 공분산 수축	꼬리 중심
Yoon et al. (2025)	재귀 안정성	일반화 저하	확산 미세조정 체인
Zhu et al. (2025)	표면 특징 과집중	$n$-gram 다양성	평균 품질 너머의 진단 필요
Wang et al. (2025), LWD	다중 모델·검색 결합 생태계	네트워크 수렴 패턴	블랙박스 관점
Sigma (본 논문)	표현 기하	Gram 행렬 고유 스펙트럼의 로그 행렬식	정적 기하만 다룸(동역학은 향후)

저자들이 강조하는 차별점은 과제·토큰 수준 통계가 아니라 임베딩 Gram 행렬의 스펙트럼을 보며, 전체 Gram 정보의 일부만 있을 때도 작동하는 일방향(one-sided) 모니터링을 결정론적·확률적 부등식으로 뒷받침한다는 것입니다.

🧮 2. Gram 행렬과 로그 행렬식

$i$ 번째 문장이 고정 차원 $m$ 의 임베딩 $X_i \in \mathbb{R}^m$ 으로 사상되고, 평가 코퍼스 $E_0 = {X_i : i \in [n]}$ 에서 $n > m$ 이라고 둡니다. 임베딩을 열로 이어 붙인 $m \times n$ 행렬 $M$ 에 대해 Gram 행렬은

\[G = MM^\top \in \mathbb{R}^{m \times m}\]

입니다. $G$ 의 크기는 표본 수 $

E_0

$ 와 무관하게 $m \times m$ 이고, 항목만 표본에 의존합니다. LLM 은 확률 모델이므로 $G$ 는 랜덤 행렬로 취급됩니다. 저자들의 핵심 가정은 $G$ 가 풀랭크여야 모델이 제대로 작동한다는 것입니다. 서로 다른 질의에 거의 같은 문장을 내놓는 붕괴 모델의 출력은 선형 종속인 임베딩으로 사상되어 $\mathbb{R}^m$ 을 생성하지 못하고, Gram 행렬은 특이해집니다. 이로부터 1차 지표가 나옵니다.

\[\log|G| = \log\Big(\prod_{j=1}^{m}\lambda_j\Big) = \sum_{j=1}^{m}\log(\lambda_j)\]

붕괴가 일어나면 $\lambda_{\min} \to 0$ 이므로 로그 행렬식은 $-\infty$ 로 급락합니다. 로그 행렬식은 $m$ 개 고유값의 기하평균의 로그에 비례하므로, 큰 고유값 몇 개가 아니라 가장 작은 방향들의 소실에 민감합니다. 이 점이 “주성분이 몇 개 남았는가”를 보는 지표들과 구별되는 부분입니다.

📚 3. Gram 행렬이 고전적인 이유

Gram 행렬은 리만 기하, 제어 이론, 유한요소법, 커널 학습(Lanckriet et al., 2004)에 두루 쓰이며, 고전 NLP 에서는 가변 개수의 임베딩을 고정 차원 행렬로 인코딩하는 수단(string kernel, 암묵적 행렬 분해)으로 쓰였습니다. 저자들은 이 고전 연산자를 “표현 붕괴”라는 현대 현상에 재적용합니다. 핵심은 Gram 행렬이 문장 의미 특징 사이의 상호 의존 관계를 담고 있다는 점입니다.

💡 Key Takeaway Sigma 는 모델 붕괴를 “임베딩 Gram 행렬의 로그 행렬식이 $-\infty$ 로 향하는 과정”으로 정의합니다. 로그 행렬식은 최소 고유값 방향의 소실에 가장 민감하므로, 출력이 겉으로 반복적으로 보이기 전에 표현 공간이 저차원 부분공간으로 꺼지는 것을 포착하려는 선택입니다.

문제 설정과 부분 관측 전략

📐 1. 표기

학습 반복 $k$ 에서 임베딩 행렬을 $M^{(k)} \in \mathbb{R}^{m \times n_k}$, 각 열을 $v_j^{(k)} \in \mathbb{R}^m$ ($1 \le j \le n_k$) 로 두면

\[G^{(k)} := M^{(k)}\big(M^{(k)}\big)^\top = \sum_{j=1}^{n_k} v_j^{(k)}\big(v_j^{(k)}\big)^\top \in \mathbb{S}^m_+\]

이고, 고유값은 $\lambda_1(G^{(k)}) \ge \dots \ge \lambda_m(G^{(k)}) \ge 0$ 으로 정렬합니다. $\mathbb{S}^m_+$ 는 $m \times m$ 양반정부호 행렬의 집합입니다.

✂️ 2. 관측 블록과 비관측 블록

$n_k$ 가 방대하므로 열을 두 블록으로 나눕니다.

블록	크기	역할
$A^{(k)} \in \mathbb{R}^{m \times n_A}$	$n_A > m$	계산에 쓰는 관측 열
$B^{(k)} \in \mathbb{R}^{m \times n_B}$	$n_B = n_k - n_A$	무시하는 비관측 열

$n_A > m$ 은 랭크 안정성을 위한 조건입니다. 부분 Gram 행렬 $G_A^{(k)} = A^{(k)}(A^{(k)})^\top$, $G_B^{(k)} = B^{(k)}(B^{(k)})^\top$ 에 대해 간단한 계산으로

\[G^{(k)} = G_A^{(k)} + G_B^{(k)}\]

가 성립합니다. 목표는 관측 가능한 $G_A^{(k)}$ 만으로 전체 $G^{(k)}$ 의 스펙트럼(과 행렬식)을 가두는 것입니다. 이것이 Sigma 의 확장성의 근원입니다. 모니터링 비용이 전체 코퍼스 크기 $n_k$ 가 아니라 관측 블록 크기 $n_A$ 에만 의존하게 됩니다.

🔍 3. 왜 “일방향” 통제인가

$G_B^{(k)} \succeq 0$ 이므로 비관측 성분은 스펙트럼을 키우는 쪽으로만 작용합니다. 따라서 $G_A^{(k)}$ 로부터 얻는 것은 자연스럽게 “전체 행렬식이 이보다 작지 않다”는 하계와, 비관측 성분의 크기를 가정했을 때의 상계입니다. 붕괴 모니터링에서 중요한 것은 상계입니다. 상계가 내려가면 전체 기하가 수축했다고 단정할 수 있기 때문입니다. 그래서 운영 지표의 이름이 Sigma-UB(upper bound) 입니다.

💡 Key Takeaway 전체 Gram 행렬을 만들지 않고, 열의 일부 $n_A$ 개만으로 $G = G_A + G_B$ 의 분해를 이용해 전체 행렬식을 가둡니다. $G_B \succeq 0$ 이라는 사실이 “비관측 부분은 스펙트럼을 키울 뿐”이라는 일방향 통제를 가능하게 하며, 이것이 부분 관측 모니터링의 수학적 근거입니다.

정리 1: 분포 가정 없는 결정론적 스펙트럼 상계

📜 1. 정리의 진술

$\beta_k := \lambda_{\max}(G_B^{(k)})$ 를 비관측 성분의 스펙트럼 반경이라 하면,

\[\det(G_A^{(k)}) \;\le\; \det(G^{(k)}) \;\le\; \prod_{i=1}^{m}\Big(\lambda_i(G_A^{(k)}) + \beta_k\Big)\]

가 아무 분포 가정 없이 성립합니다(정리 1, 식 3.4).

🧩 2. 증명의 두 기둥

하계: Cauchy-Binet 공식. $n_k \gg m$ 일 때 Gram 행렬의 행렬식은 $m$ 개 열을 고르는 모든 방법에 대한 소행렬식 제곱의 합입니다.

\[\det(G^{(k)}) = \sum_{J \subset [n_k],\ |J| = m} \det\big(M_J^{(k)}\big)^2\]

$A^{(k)}$ 는 $M^{(k)}$ 의 부분 행렬이므로 $\det(G_A^{(k)})$ 를 정의하는 합은 $\det(G^{(k)})$ 를 정의하는 합의 부분합이고, 모든 항이 제곱이라 비음이므로 $\det(G_A^{(k)}) \le \det(G^{(k)})$ 가 바로 나옵니다.

상계: Weyl 부등식과 Ky Fan 지배. 각 $i$ 에 대해

\[\lambda_i(G^{(k)}) \le \lambda_i(G_A^{(k)}) + \lambda_1(G_B^{(k)})\]

이므로, PSD 순서로 $G^{(k)} \preceq G_A^{(k)} + \beta_k I_m$ 이고 행렬식을 취하면 상계가 됩니다.

⚠️ 3. 왜 실제로는 느슨한가

상계는 $\beta_k$, 즉 보지 않은 데이터의 최대 고유값에 의존합니다. 저자들은 이를 “읽지 않은 장(chapter)에서는 정보를 뽑아낼 수 없다”고 표현합니다. 수학적으로 비관측 열은 완전히 무관한 내용을 담을 수 있으므로 상계는 날카로울 수 없습니다. 그러나 실제 데이터는 일관된 맥락에서 오므로, “읽은 장이 읽지 않은 장을 잘 대변한다”는 가정을 추가하면 훨씬 유용한 추정이 가능합니다. 이것이 정리 2 로 이어지는 동기입니다.

💡 Key Takeaway 정리 1 은 Cauchy-Binet(하계)과 Weyl(상계)만으로 얻는 무가정 포락선입니다. 대가는 상계가 비관측 블록의 최대 고유값 $\beta_k$ 에 걸려 있어 실제로는 느슨하다는 점이며, 이 느슨함이 뒤에서 Track I 의 “보수적이고 둔감한” 성격으로 그대로 이어집니다.

정리 2·3: 확률적 스케일링 법칙과 오차 추정

📈 1. 정리 2: 스케일링 법칙

$M^{(k)}$ 의 열들이 양정부호 공분산 $C \in \mathbb{S}^m_+$ 를 갖는 분포에서 i.i.d. 로 뽑혔다고 가정합니다. $m$ 을 고정하고 $n_A, n_k \to \infty$ 일 때, 임의의 $\delta \in (0,1)$ 에 대해 확률 $1-\delta$ 이상으로

\[\det(G^{(k)}) \le K \cdot \Big(\frac{n_k}{n_A}\Big)^m \det(G_A)\]

를 만족하는 상수 $K$ 가 존재합니다(정리 2, 식 3.5). 저자들은 이 가정이 임베딩의 기하적 복잡성을 제한하지 않으며 생성 과정이 정상(stationary) 이라는 것만 요구한다고 강조합니다. $C$ 가 특이하면 $C + \delta I_m$ 으로 정규화합니다.

증명 아이디어. $\hat{C}{n_k} = G^{(k)}/n_k$, $\hat{C}{n_A} = G_A^{(k)}/n_A$ 로 두면 행렬식 스케일링에 의해

\[\frac{\det(G^{(k)})}{\det(G_A^{(k)})} = \Big(\frac{n_k}{n_A}\Big)^m \frac{\det(\hat{C}_{n_k})}{\det(\hat{C}_{n_A})}\]

이고, 강대수법칙과 연속 사상 정리로 두 표본 공분산의 행렬식이 모두 $\det(C)$ 로 수렴하므로 비율은 $1 \pm \epsilon$ 안에 들어옵니다. $K = 1 + \epsilon$ 으로 두면 끝입니다. 즉 $K$ 는 1 에 가까워지는 확률적 상수입니다.

📏 2. 운영적 스케일링 법칙과 크기 불변 기준선

정리 2 의 직접적 귀결은 건강한 모델에서 로그 행렬식이 표본 크기에 따라 $m\log n_k$ 만큼 자연히 증가한다는 것입니다. 따라서

\[\log\det G^{(k)} - m\log n_k\]

는 체크포인트 사이에서 일정해야 합니다. 이 보정값을 추적하면 데이터셋 크기의 사소한 변동과 진짜 기하적 붕괴를 분리할 수 있고, 관측된 음의 드리프트는 모델 표현 용량의 실제 퇴화를 뜻하게 됩니다.

🔬 3. 과대추정 비율: 정리 1 이 얼마나 느슨한가

정리 2 는 정리 1 의 조임 정도에 대한 통찰도 줍니다. 큰 $n_A, n_k$ 에서 $\det(G^{(k)}) \approx (n_k/n_A)^m \det(G_A^{(k)}) \approx n^m \det(C)$ 이므로, Weyl 상계를 확률적 기댓값으로 나눈 점근 과대추정 비율 $\mathcal{R}$ 은 $\rho = n_A/n$ 에 대해

\[\mathcal{R} \approx \prod_{j=1}^{m}\Big(\rho + (1-\rho)\frac{\lambda_{\max}(C)}{\lambda_j(C)}\Big)\]

입니다(식 3.7). 각 $j$ 에 대한 비율 $\lambda_{\max}(C)/\lambda_j(C) \ge 1$ 이 모두 1 에 가까우면, 즉 공분산이 등방적이면 $\mathcal{R} \approx 1$ 이고 결정론적 상계는 점근적으로 조여집니다. 반대로 작은 고유값에 대해 $\lambda_{\max}(C)/\lambda_j(C) \gg 1$ 인 비등방적 공분산에서는 $(1-\rho)\lambda_{\max}(C)/\lambda_j(C)$ 항이 곱을 지배해 오차가 커집니다. 임베딩 공간은 보통 소수의 주된 방향이 지배하므로, 실제로는 후자에 가깝습니다.

🎯 4. 정리 3: 중심극한정리형 오차 항

열 분포에 유한한 4차 모멘트를 추가로 가정하고, $X$ 를 그 분포의 랜덤 벡터라 할 때 $\sigma^2 := \mathrm{Var}(X^\top C^{-1}X)$ 로 둡니다. $X^\top C^{-1}X$ 는 Mahalanobis 거리입니다. 그러면 $n_A < n_k$, $n_A, n_k \to \infty$ 에서

\[\frac{\log\det G^{(k)} - \log\det G_A^{(k)} - m\log(n_k/n_A)}{\sigma\sqrt{1/n_A - 1/n_k} } \to \mathcal{N}(0,1)\]

이 분포수렴합니다(정리 3, 식 3.9). 따라서 $z_{\alpha/2} = \Phi^{-1}(1-\alpha/2)$ 에 대해 확률 $1-\alpha$ 로

\[\Big|\log\det G_n - \log\Big(\Big(\frac{n_k}{n_A}\Big)^m \det G_A\Big)\Big| \le z_{\alpha/2}\cdot\sigma\sqrt{\frac{1}{n_A} - \frac{1}{n_k} }\]

입니다(식 3.10).

증명의 뼈대. 표본 공분산의 CLT(Anderson, 2003, Thm 3.4.4)로 $\sqrt{N}(\hat{C}_N - C) \to M$ 이고, $f(S) = \log\det S$ 의 $C$ 에서의 그래디언트가 $C^{-1}$ 이므로 Taylor 전개로

\[\log\det G_N = m\log N + \log\det C + \frac{1}{N}\sum_{i=1}^{N} Z_i + O_p(N^{-1}),\qquad Z_i := X_i^\top C^{-1}X_i - m\]

을 얻습니다. $Z_i$ 는 평균 0, 분산 $\sigma^2$ 인 i.i.d. 입니다. 관심 양 $\Delta_k$ 를 관측 부분($1,\dots,n_A$)과 비관측 부분($n_A+1,\dots,n_k$)으로 쪼개면 두 독립 합 $W_1, W_2$ 의 선형 결합이 되고, 분산을 계산하면

\[\sigma_\Delta^2 = \sigma^2\Big(\frac{1}{n_A} - \frac{1}{n_k}\Big)\]

로 깔끔하게 정리됩니다(식 A.20). Taylor 나머지 $O_p(n_A^{-1})$ 은 표준편차 $O(n_A^{-1/2})$ 에 비해 사라지므로 Slutsky 정리로 결론이 나옵니다.

🧷 5. 실용적 귀결: 정밀도는 $n_A$ 가 결정한다

실제 체제 $n_k \gg n_A$ 에서는

\[\sqrt{\frac{1}{n_A} - \frac{1}{n_k} } \approx \frac{1}{\sqrt{n_A} }\]

이므로, 모니터링의 정밀도는 관측 블록 크기 $n_A$ 에만 의존하고 전체 출력량 $n_k$ 가 무한히 커져도 추정은 안정적입니다. 플러그인 추정량

\[\widehat{L}^{(k)} := \log\det G_A^{(k)} + m\log\Big(\frac{n_k}{n_A}\Big)\]

에 대해 경험 규칙 $\log\det G^{(k)} \approx \widehat{L}^{(k)} \pm z_{\alpha/2}\sigma/\sqrt{n_A}$ 가 성립하고, 목표 정밀도 $\varepsilon$ 을 위해서는

\[n_A \gtrsim \Big(\frac{z_{\alpha/2}\,\sigma}{\varepsilon}\Big)^2\]

만 고르면 됩니다.

정리	가정	결론	성격
정리 1	없음	$\det G_A \le \det G \le \prod_i(\lambda_i(G_A) + \beta_k)$	결정론적, 보수적, $\beta_k$ 미관측
정리 2	열 i.i.d., $C \succ 0$, $n_A, n_k \to \infty$	$\det G \le K(n_k/n_A)^m \det G_A$, 확률 $1-\delta$	점근 스케일링 법칙, $K \to 1$
정리 3	정리 2 + 유한 4차 모멘트	오차 $\sim \mathcal{N}(0, \sigma^2(1/n_A - 1/n_k))$	유한 표본 신뢰구간, 표본 크기 규칙

💡 Key Takeaway “생성 과정이 정상”이라는 최소 가정만 더하면 전체 행렬식은 부분 행렬식에 기하 인자 $(n_k/n_A)^m$ 을 곱한 것과 같아지고, 그 오차는 $\sigma/\sqrt{n_A}$ 로 줄어듭니다. 모니터링 비용과 정밀도가 전체 코퍼스 크기에서 분리된다는 것이 Sigma 의 확장성 주장의 핵심입니다. 과대추정 비율 분석은 정리 1 의 상계가 비등방적 임베딩에서 크게 느슨해짐을 미리 경고합니다.

Sigma-UB: 정리에서 계산 가능한 지표로 가는 두 다리

정리 1 과 2 의 원문은 그대로 쓸 수 없습니다. (i) 결정론적 상계는 미관측 양 $\beta_k = \lambda_{\max}(G_B^{(k)})$ 에 의존하고, (ii) 확률적 스케일링은 미지 상수를 포함하며 추세 수준에서만 의미가 있기 때문입니다. Sigma-UB 의 목표는 관측 요약 통계량 $(G_A^{(k)}, n_A, n_k)$ 만으로 완전히 계산되면서 체크포인트 사이에서 해석적으로 추적 가능한 온라인 진단을 설계하는 것입니다.

🎛️ 1. 정규화된 로그 행렬식

궁극적으로 관심 있는 양은

\[L^{(k)}(\delta) := \log\det\big(G^{(k)} + \delta I_m\big)\]

입니다. 작은 $\delta > 0$ 을 고정하고 모든 세대에서 재사용합니다. $\delta I_m$ 이동은 랭크 결손에서도 로그 행렬식을 정의되게 하고 붕괴 근처의 수치 안정성을 줍니다. PSD 순서와 $\log\det$ 의 Loewner 단조성에 의해 $X \preceq Y$ 이면 $\log\det(X + \delta I_m) \le \log\det(Y + \delta I_m)$ 이고(식 B.1), 이것이 PSD 우세 행렬을 일방향 포락선으로 바꾸는 기본 도구입니다.

🌉 2. Bridge I (정리 1 → Track I): 꼬리 에너지 예산으로 $\beta_k$ 제거

정리 1 로부터 $G^{(k)} \preceq G_A^{(k)} + \beta_k I_m$ 이고 따라서 $L^{(k)}(\delta) \le \log\det(G_A^{(k)} + (\beta_k + \delta)I_m)$ 입니다. 장애물은 $\beta_k$ 가 관측 불가라는 점입니다. 이를 없애기 위해 전처리로 모든 임베딩 열이 $|v_j^{(k)}|2^2 \le \rho$ 를 만족하게 정규화합니다. $G_B^{(k)} \succeq 0$ 이면 $\beta_k \le \mathrm{tr}(G_B^{(k)}) = \sum{j \in B}|v_j^{(k)}|_2^2$ 이므로, 미관측 열 $n_2 := n_k - n_A$ 개에 대한 최악의 꼬리 에너지 예산은

\[\widehat{\beta}_k := (n_k - n_A)\,\rho \;\ge\; \beta_k\]

입니다(식 3.16, B.7). 이를 대입하면 계산 가능한 포락선 $\mathcal{U}_{KF}^{(k)}(\delta) := \log\det(G_A^{(k)} + (\widehat{\beta}_k + \delta)I_m)$ 을 얻습니다. 그런데 이 포락선의 수준은 등방 이동 $(\widehat{\beta}_k + \delta)I_m$ 이 지배하므로, 그 로그 행렬식 $m\log(\widehat{\beta}_k + \delta)$ 를 빼서 관측 스펙트럼이 기여하는 이득만 분리합니다.

\[\mathcal{G}_{KF}^{(k)}(\delta) := \log\det\Big(G_A^{(k)} + (\widehat{\beta}_k + \delta)I_m\Big) - m\log(\widehat{\beta}_k + \delta) = \sum_{i=1}^{m}\log\Big(1 + \frac{\lambda_i(G_A^{(k)})}{\widehat{\beta}_k + \delta}\Big)\]

이 양은 꼬리 예산 스케일에 대한 무차원 이득이며, $G_A^{(k)}$ 의 고유값이 수축하면 감소하고 고유값이 $\delta$ 바닥에 가까울 때 가장 민감합니다. 결정론적이고 보수적이며, 보수성의 정도는 미관측 꼬리 스펙트럼 질량에 대한 명시적 상계 하나로만 결정됩니다. 또한 $\widehat{\beta}_k \ge \beta_k$ 가 느슨하더라도 정규화된 양은 이상적(계산 불가) 포락선의 정규화 값에 의해 균일하게 통제됩니다(식 B.13, B.14).

🌉 3. Bridge II (정리 2 → Track II): 크기 보정과 공분산 정규화

정리 2 아래에서 $\det(G^{(k)}) \approx (n_k/n_A)^m\det(G_A^{(k)})$ 이므로 로그 행렬식은 순수 기하 항 $m\log(n_k/n_A)$ 만큼 이동합니다. 또한 안정된 공분산 $C$ 에 대해 $G_A^{(k)} \approx n_A C$ 이면 $\log\det(G_A^{(k)}) \approx m\log n_A + \log\det(C)$ 입니다. 이로부터 크기 불변 공분산 기하 대리량이 나옵니다.

\[\mathcal{U}_{LLN,cov}^{(k)}(\delta) := \log\det\big(G_A^{(k)} + \delta I_m\big) - m\log n_A = \log\det\Big(\frac{1}{n_A}G_A^{(k)} + \frac{\delta}{n_A}I_m\Big)\]

i.i.d. 가정 아래 $G_A^{(k)}/n_A \to C$ 이므로 큰 $n_A$ 에서 $\mathcal{U}_{LLN,cov}^{(k)}(\delta) \approx \log\det(C)$ 입니다. 자명한 $m\log n_A$ 성장을 제거했기 때문에, 지속적인 음의 드리프트는 표본 크기 변화가 아니라 표현 기하의 진짜 수축을 뜻합니다. 정리 2 의 미지 상수 $K$ 는 추세(차분)를 볼 때 사라집니다.

📉 4. 드리프트와 알고리즘

체크포인트 독립 상수를 제거하고 시간적 수축을 강조하기 위해 기준 체크포인트 $k=0$ 대비 드리프트를 보고합니다.

\[\Delta\mathcal{G}_{KF}^{(k)}(\delta) := \mathcal{G}_{KF}^{(k)}(\delta) - \mathcal{G}_{KF}^{(0)}(\delta),\qquad \Delta\mathcal{U}_{LLN,cov}^{(k)}(\delta) := \mathcal{U}_{LLN,cov}^{(k)}(\delta) - \mathcal{U}_{LLN,cov}^{(0)}(\delta)\]

Algorithm 1 (Sigma-UB Collapse Monitoring)

단계	연산
입력	${G_A^{(k)}}_{k=0}^{K}$, 개수 ${n_k}$, 고정 $n_A$, 하이퍼파라미터 $\delta > 0$, $\rho > 0$
정의	$\mathrm{LogDet}_\delta(X) := \log\det(X + \delta I_m)$
각 $k$	$\widehat{\beta}_k \leftarrow (n_k - n_A)\rho$
	$S_k \leftarrow \mathrm{LogDet}_\delta(G_A^{(k)})$
	$\mathcal{G}{KF}^{(k)} \leftarrow \mathrm{LogDet}\delta(G_A^{(k)} + \widehat{\beta}_k I_m) - m\log(\widehat{\beta}_k + \delta)$
	$\mathcal{U}_{LLN,cov}^{(k)} \leftarrow S_k - m\log n_A$
$k=0$	기준값 저장
$k \ge 1$	드리프트 $\Delta\mathcal{G}{KF}^{(k)}$, $\Delta\mathcal{U}{LLN,cov}^{(k)}$ 계산
출력	$\Delta\mathcal{G}{KF}^{(K)}$, $\Delta\mathcal{U}{LLN,cov}^{(K)}$

$\log\det$ 는 이동된 PSD 행렬에 Cholesky 분해 $S = LL^\top$ 를 적용해 $\log\det(S) = 2\sum_i \log L_{ii}$ 로 효율적으로 계산합니다(식 B.19). 매 체크포인트에서 고정된 관측 블록 크기 $n_A > m$ 으로 $G_A^{(k)}$ 만 만들면 되므로 전체 고유분해 비용을 피합니다.

⚖️ 5. 두 트랙의 상보성

두 지표 모두 $G_A^{(k)}$ 의 고유값이 수축하면 감소하고, 스펙트럼이 정규화 바닥 $\delta$ 로 압축될수록 민감해집니다. 어느 한쪽의 지속적 음의 드리프트는 붕괴 시작을, 바닥에서의 포화는 후기 랭크 결손 상태를 시사합니다.

	Track I $\Delta\mathcal{G}_{KF}$	Track II $\Delta\mathcal{U}_{LLN,cov}$
근거	정리 1 (결정론)	정리 2 (대수법칙)
성격	수학적으로 보수적인 상계. 고정 꼬리 에너지 예산 아래 유효한 상한 보장	데이터셋 크기를 보정한 통계적 추정량. 내재 기하 밀도 추정
약점	임베딩 공간이 소수 고유 방향에 지배되는 비등방적 경우 날카로움이 떨어짐. 스칼라 에너지 상한 $\widehat{\beta}_k$ 가 미관측 꼬리 기여를 크게 과대추정해 초기 수축을 가릴 수 있음	데이터 분포가 블록 크기 $n_A$ 에 비해 복잡하거나 꼬리가 무거우면 LLN 수렴이 느려 추정 분산 발생
해석	느슨하거나 비단조일 수 있음	민감한 추세 탐침

저자들의 핵심 주장은 Track II 가 급락하는데 Track I 이 안정적인 분리가 조기 붕괴의 정보성 있는 신호라는 것입니다. 기하가 수축하고 있지만(민감한 탐침에는 보임) 아직 최악의 에너지 예산을 위반하지는 않았다(Track I)는 뜻입니다.

💡 Key Takeaway Sigma-UB 는 하나의 지표가 아니라 두 트랙의 쌍입니다. Track I 은 “확실히 수축했다”를 보장하는 보수적 상계, Track II 는 “수축하기 시작했다”를 먼저 알리는 민감한 추정량입니다. 두 트랙의 분리 자체가 진단 신호라는 설계는, 하나의 수치로 붕괴를 판정하려는 접근보다 정보가 많습니다.

실험 설계: TECH 벤치마크와 두 가지 재귀 설정

실험의 중심 질문은 “재귀가 출력을 망칠 수 있는가”가 아니라 “관측된 기하적 수축이 여러 프로토콜에 걸쳐 붕괴 메커니즘을 충분히 대변하고 추적하는가” 입니다. 모든 측정은 동결된 평가 프로토콜에서 이루어져, 측정된 드리프트가 평가 드리프트가 아니라 모델 변화에 귀속되도록 했습니다.

🗃️ 1. 데이터 자산

자산	구성
실제 코퍼스 $R$	DecayBench TECH 도메인(소프트웨어·기술 문서). The Rust Book(MIT/Apache-2.0), Kubernetes 문서(CC BY 4.0), PostgreSQL 문서(BSD-style), SQLite 문서(Public Domain), Python 문서(PSF) 등 허용 라이선스 출처에서 수집. 보일러플레이트·코드 블록 제거, 영어 필터, OPT-125M 의 GPT-2 BPE 토크나이저로 토큰화, 고정 stride 슬라이딩 윈도우로 64-토큰 컨텍스트 추출, 정확·근사 중복 제거 후 $N = 1000$ 개 선택
동결 프롬프트 뱅크 $P$	$R$ 과 독립 구성. 안정 프롬프트 ID 와 고정 버킷 분류(Creative, Divergent, Analogy/ELI5, What-if, Neutral). 도메인당 약 163~200 개
임베딩	동결 문장 인코더 sentence-transformers/all-MiniLM-L6-v2, $m = 384$

TECH 를 고른 이유는 (i) 개념 가이드·튜토리얼·운영 문서를 아우르는 크고 이질적인 산문이고, (ii) 체크포인트마다 그대로 재사용할 수 있는 고정 프롬프트 뱅크가 있어 프롬프트 변수로 인한 분포 드리프트가 없기 때문입니다. $m = 384$ 로 안정된 Gram 행렬을 만들기 위해 체크포인트마다 프롬프트당 여러 확률적 응답을 생성합니다.

🔁 2. 재귀 루프와 혼합 규칙

세대 $g \ge 1$ 에서 이전 세대 모델에 각 실제 컨텍스트 $x \in R$ 을 프롬프트로 주어 새 합성 풀 $S^{(g)}$ 를 만듭니다. 컨텍스트당 하나의 합성 연속이므로 $

S^{(g)}

$ 이고 토큰 예산이 세대 간 비슷하게 유지됩니다. 학습 데이터 $D^{(g)}(\alpha)$ 는 $S^{(g)}$ 에서 $(1-\alpha)$, $R$ 에서 $\alpha$ 비율로 뽑은 상수 예산 혼합이며 총 64-토큰 블록 수는 $

$ 로 고정됩니다. 보고된 실행에서는 $\alpha = 0$(순수 합성)으로 두어 실제 데이터 앵커 없이 재귀 동역학만 스트레스 테스트합니다.

🧪 3. S1 과 S2

설정	갱신 규칙	분리하는 효과
S1: restart-from-base (데이터 재귀만)	$M^{(g)} \leftarrow \mathrm{Finetune}(M^{(0)}, D^{(g)}(\alpha))$	합성 데이터 분포는 세대마다 이동하지만 누적 가중치 드리프트는 없음. 합성 데이터 비중 증가의 영향만 분리
S2: true recursion (데이터 + 가중치 재귀)	$M^{(g)} \leftarrow \mathrm{Finetune}(M^{(g-1)}, D^{(g)}(\alpha))$	각 세대가 다음 합성 데이터를 만들고 이전 세대가 빚은 파라미터도 물려받음. 작은 변화를 시간에 따라 증폭하는 피드백 루프. 실제 자기 소비 파이프라인과 일치

두 설정은 재생성 프로토콜과 혼합 규칙을 공유하고 가중치를 세대 사이에 리셋하는지만 다릅니다. S1 대 S2 비교는 가중치 재귀의 증분 효과, 즉 재귀 생성 데이터로 파라미터를 반복 갱신하는 것이 데이터 피드백만으로 생기는 드리프트를 넘어 추가(그리고 가속되는) 수축을 낳는지를 검정합니다.

⚙️ 4. 하이퍼파라미터 (Tables 2~5)

항목	값	비고
기본 모델	facebook/opt-125m	125M 파라미터, S1·S2 동일
세대당 미세조정 epoch	5	고정 예산
배치 크기	16	유효 배치 고정
학습률	$2 \times 10^{-5}$	세대 간 상수
옵티마이저	AdamW	weight decay 0.01
정밀도	FP16	GPU 학습
실제 비율 $\alpha$	0.0	순수 합성
컨텍스트 단위	64 토큰	상수 토큰 예산
실제 코퍼스 크기	도메인당 약 1,000~1,200 컨텍스트	DecayBench 의존
보고 세대	$g = 0, \dots, 50$ (51 체크포인트)	본문 Figures 1~2
디코딩	Nucleus top-$p$ 0.95, temperature 1.0	생성·평가 공통, 세대 간 고정
최대 토큰	학습 64, 평가 256	평가는 기하 계산을 위해 충분히 긴 응답
정규화 $\delta$	$10^{-3}$	Track I/II
에너지 상한 $\rho$	1.0	Track I 최악 꼬리 예산
기준	$g = 0$	드리프트 기준
관측 블록	실행 내 고정 인덱스 집합 $\mathcal{I}_A$	체크포인트 간 측정 드리프트 방지

평가 지표는 Track II($\mathcal{U}{LLN,cov}$, $\Delta\mathcal{U}{LLN,cov}$), Track I($\mathcal{G}{KF}$, $\Delta\mathcal{G}{KF}$), 그리고 같은 생성 출력에서 계산한 표면 대리 지표(distinct-2, 해시 $n$-gram HHI)입니다. perplexity 기반 기준선은 설계상 제외했습니다. 결정성은 고정 시드(컨텍스트별·프롬프트별 결정적 시드)와 고정 디코딩으로 강제합니다.

🔄 5. 드리프트 곡선의 한 점을 만드는 루프

각 $x \in R$ 을 프롬프트로 고정 디코딩·결정적 시드로 고정 길이 연속을 샘플링해 $S^{(g)}$ 재생성
블록 예산 $ R $ 아래 $D^{(g)}(\alpha)$ 구성
S1(초기화 $M^{(0)}$) 또는 S2(초기화 $M^{(g-1)}$)로 고정 하이퍼파라미터 미세조정
동결 프롬프트 뱅크 $P$ 에서 고정 디코딩·프롬프트별 결정적 시드로 $n_k$ 개 응답 생성
동결 인코더로 임베딩, 실행당 한 번 고정 관측 인덱스 집합 $\mathcal{I}_A$ 선택, 두 Sigma-UB 트랙과 (선택적) 표면 대리 지표 계산

💡 Key Takeaway 실험의 설계 원칙은 “평가는 얼리고 모델만 움직인다” 입니다. 고정 프롬프트 ID, 고정 디코딩, 동결 인코더, 고정 관측 인덱스까지 모두 묶어 두었기 때문에 드리프트는 모델 변화에만 귀속됩니다. S1/S2 는 “데이터 재귀”와 “가중치 재귀”를 분리하는 통제 실험이며, $\alpha = 0$ 은 가장 가혹한 조건입니다.

결과: 데이터 재귀(S1) 대 진짜 재귀(S2)

📊 1. 요약 통계 (Table 1)

설정	$g_{\max}$	$\Delta\mathcal{U}$ 최종	기울기 LLN,cov	$\Delta\mathcal{G}$ 최종	기울기 KF	트랙 일치?
S1	50	$-150.986$	$-0.941$	$-142.051$	$-0.918$	예 (둘 다 음)
S2	50	$-1536.562$	$-42.621$	$-2.426$	$2.350$	아니오 (Track II 붕괴, Track I 은 아님)

최종 드리프트와 OLS 기울기는 그려진 드리프트 곡선에서 계산되었습니다.

📉 2. S1: 완만하지만 일관된 수축

restart-from-base 재귀는 $g_{\max} = 50$ 까지 두 트랙 모두 완만하고 일관되게 음의 드리프트를 보입니다. 가중치를 매 세대 리셋해도 진화하는 합성 풀이 점진적 수축을 유도한다는 뜻입니다. 세대별 값(Table 9)을 발췌하면 다음과 같습니다.

$g$	$\Delta\mathcal{U}_{LLN,cov}$ (Track II)	$\Delta\mathcal{G}_{KF}$ (Track I)
0	0.000	0.000
1	$-50.938$	$-42.771$
2	$-87.221$	$-78.286$
5	$-138.690$	$-130.139$
10	$-149.844$	$-140.909$
12	$-181.172$	$-172.237$
18	$-116.985$	$-108.050$
20	$-135.679$	$-126.744$
25	$-108.036$	$-99.101$
30	$-146.391$	$-137.456$
40	$-159.999$	$-151.065$
49	$-174.970$	$-166.035$
50	$-150.986$	$-142.051$

S1 에서는 두 트랙이 거의 상수 오프셋(약 9)을 두고 평행하게 움직입니다. 첫 세대에서 이미 $-50$ 가까이 떨어진 뒤 $-110 \sim -180$ 사이에서 흔들리며, 뚜렷한 가속은 없습니다.

📉 3. S2: 한 자릿수 더 큰 수축과 트랙 분리

진짜 재귀에서는 Track II 가 한 자릿수 이상 더 수축합니다(최종 $\approx -1537$, 기울기 $\approx -42.6$). 가중치를 세대 간 이어받으면 관측 스펙트럼 수축이 크게 가속된다는 뜻입니다. 반면 Track I 은 0 근처에 머물고 같은 구간에서 약간 양으로 기울기도 합니다. KF 포락선이 관측 부분 스펙트럼이 아니라 최악의 꼬리 에너지 예산에 지배되기 때문입니다. 세대별 값(Table 10)을 발췌합니다.

$g$	$\Delta\mathcal{U}_{LLN,cov}$ (Track II)	$\Delta\mathcal{G}_{KF}$ (Track I)
0	0.000	0.000
1	$-51.410$	$-1.041$
5	$-126.845$	$-1.220$
7	$-277.027$	$-1.665$
8	$-482.601$	$-2.313$
11	$-656.250$	$-2.918$
15	$-306.139$	$-1.816$
18	$-459.780$	$-2.044$
19	$-580.088$	$+1920.861$
20	$-1222.622$	$+1011.737$
22	$-1369.047$	$+906.107$
23	$-985.967$	$+1455.366$
28	$-1509.673$	$+671.355$
33	$-1674.100$	$+139.235$
35	$-304.630$	$+1.402$
40	$-2036.525$	$+221.561$
42	$-2191.980$	$+244.398$
46	$-1955.248$	$-2.117$
50	$-1536.562$	$-2.426$

몇 가지 구조가 보입니다. 첫째, Track II 는 $g = 1$ 에서 S1 과 거의 같은 $-51$ 로 출발하지만 $g = 7 \sim 11$ 에서 $-277 \to -656$ 으로 급히 꺾이고, $g = 20$ 부근에서 $-1000$ 을 넘어섭니다. 둘째, Track I 은 $g \le 18$ 동안 $-1 \sim -3$ 에 묶여 있다가 $g = 19$ 에서 $+1920.9$ 로 갑자기 튀어오르고, 이후 수백 단위의 양수를 유지하다 $g = 46$ 이후 다시 0 근처로 돌아옵니다. 셋째, $g = 35$ 는 Track II 가 $-304.6$ 으로 일시 회복하고 Track I 도 $+1.4$ 로 돌아오는 이상점입니다. 저자들은 이 점을 따로 설명하지 않습니다.

🔬 4. 저자의 메커니즘 해석

S2 루프에서 초기 세대는 자기 증류(self-distillation)처럼 작동합니다. 모델이 자기 샘플 연속을 반복해서 모방하도록 학습되면서, 출력이 눈에 띄게 반복적으로 보이기 전에 저확률 의미·문체 대안이 조용히 제거됩니다. 그래서 $\Delta\mathcal{U}_{LLN,cov}$ 는 처음부터 음으로 흐릅니다. 가중치 이월이 누적되면 모델의 조건부 분포가 날카로워지고, 고정된 top-$p$/temperature 샘플링이 사실상 더 결정적으로 변합니다. 그 결과 $g \approx 20$ 부근에서 합성 풀이 모드 전체를 잃기 시작하고 Track II 가 훨씬 빠르게 떨어집니다.

반면 $\Delta\mathcal{G}{KF}$ 는 관측 기하를 최악의 “미관측 에너지” 예산에 상대적으로만 보고하므로, 초기의 완만한 다양성 손실은 가려지고 곡선은 0 근처에 머뭅니다. $g \approx 20$ 부근의 큰 양의 급등은 붕괴가 확률 질량을 소수의 고신뢰 템플릿에 집중시키는 것과 일치합니다. 이는 소수의 지배적 임베딩 방향을 일시적으로 팽창시켜(에너지는 높지만 다양성은 낮은 응답) 전역 다양성이 악화되는 와중에도 $\mathcal{G}{KF}$ 를 키울 수 있습니다. 따라서 두 트랙의 분리는 해석 가능한 조기 붕괴 신호입니다. 폭이 먼저 줄고, 보수적 포락선은 재귀가 임계점을 넘어야 조여집니다.

🧭 5. 두 설정이 말해주는 것

질문	답
데이터 재귀만으로 붕괴하는가	예, 그러나 완만하다. S1 에서 50 세대 동안 Track II 약 $-151$
가중치 재귀가 추가 효과를 내는가	예, 한 자릿수 이상. S2 최종 $-1537$, 기울기 $-42.6$ 대 S1 의 $-0.94$
효과가 가속되는가	예. S2 는 $g \approx 7 \sim 11$ 에서 1차 가속, $g \approx 20$ 에서 2차 가속(모드 손실)
보수적 상계는 언제 반응하는가	늦게, 그리고 비단조로. 임계점 전후에서 오히려 양의 급등

💡 Key Takeaway 같은 합성 데이터 재귀라도 가중치를 이어받느냐에 따라 수축의 규모가 열 배 이상 달라집니다. 데이터만 재귀하는 S1 은 선형에 가까운 완만한 드리프트, 가중치까지 재귀하는 S2 는 두 번의 가속을 거치는 급락을 보였고, 보수적 상계(Track I)는 그 급락을 임계점 이후에야, 그것도 양의 급등이라는 왜곡된 형태로 반영했습니다.

표면 지표와의 정렬, 그리고 프롬프트 버킷별 국소화

Sigma-UB 는 표면 반복이 아니라 Gram 기하를 따르도록 설계됐지만, 기하적 수축이 익숙한 표면 지표와 일치하는지는 확인할 가치가 있습니다. 저자들은 Sigma-UB 임베딩에 쓴 같은 생성 텍스트에서 두 가벼운 대리 지표를 계산합니다. 이 지표들은 붕괴의 정의가 아니라 맥락적 건전성 검사라는 점을 강조합니다.

📏 1. 두 표면 대리 지표

지표	정의	해석
Distinct-2 (Li et al., 2016)	$\dfrac{#{\text{unique bigrams}} }{#{\text{total bigrams}} }$	낮을수록 같은 짧은 구를 더 자주 재사용, 단거리 반복 증가
해시 $n$-gram HHI (Cormode & Muthukrishnan, 2005)	$\mathrm{HHI}n = \sum_j p_j^2$, $p_j = c_j / \sum\ell c_\ell$	높을수록 소수 $n$-gram 이 텍스트의 큰 몫을 차지, 표면 수준 모드 붕괴

HHI 는 장거리·무거운 꼬리의 반복을 포착하기 위한 Herfindahl-Hirschman 지수입니다.

📊 2. 정렬 결과 (Table 11)

설정	distinct-2 ($g=0$)	distinct-2 ($g=50$)	HHI ($g=0$)	HHI ($g=50$)	corr($\Delta\mathcal{U}$, distinct-2)	corr($\Delta\mathcal{U}$, HHI)	Spearman($\Delta\mathcal{U}$, HHI)
S1	0.731	0.334	0.000102	0.013385	0.926	$-0.286$	$-0.318$
S2	0.715	0.254	0.000100	0.097262	$-0.165$	$-0.468$	$-0.685$

상관은 $g = 0$ 을 포함한 세대별 시계열에서 계산되었습니다. 두 설정 모두에서 distinct-2 는 감소하고 HHI 는 증가하지만, S2 의 집중이 훨씬 강합니다(HHI 가 S1 의 약 7 배). S1 에서는 $\Delta\mathcal{U}$ 와 distinct-2 가 강하게 함께 움직여(둘 다 감소) Pearson 0.926 의 높은 양의 상관을 보입니다. S2 에서는 distinct-2 가 더 시끄럽고 강한 수축 중에도 일시적으로 증가할 수 있어 Pearson 이 $-0.165$ 로 떨어지지만, HHI 는 $\Delta\mathcal{U}$ 와 강한 단조 연관(Spearman $\approx -0.69$)을 유지합니다.

⏱️ 3. Figure 3 의 두 가지 실용적 요점

min-max 정규화 오버레이(Figure 3)에서 저자들은 두 가지를 읽습니다. 첫째, S2 에서 Track II 드리프트는 일찍 강하게 음이 되는 반면 HHI 는 더 완만하게 오르다 나중에 급등합니다. 즉 Sigma-UB Track II 는 표면 반복만 볼 때보다 더 이른 수축 지표로 작동할 수 있습니다. 둘째, Track I 은 S2 에서 실행 대부분 동안 정규화 척도의 바닥에 머뭅니다. Track I 은 민감한 추세 탐지기가 아니라, 다른 곳에서 명확한 수축 신호가 있어도 느슨하게 남을 수 있는 보수적 포락선이라는 점을 재확인합니다.

🗂️ 4. 프롬프트 버킷별 국소화 (S1, Table 12)

평가 프롬프트 뱅크에 유형 주석이 있으므로, 평가 틀을 시간에 따라 고정한 채 특정 체제에 붕괴를 귀속할 수 있습니다. 단일 범주 프롬프트만으로 응답 하나씩을 같은 디코딩으로 생성하고, 같은 동결 인코더로 임베딩해 같은 Sigma-UB 드리프트를 계산합니다.

$g$	Creative	Divergent	Analogy/ELI5	What-if	Neutral
1	$-97.949$	$-55.160$	$-3.116$	$-42.928$	$+5.319$
5	$-190.845$	$-86.526$	$-129.090$	$-55.162$	$-83.130$
10	$-206.203$	$-85.443$	$-63.331$	$-93.868$	$-92.089$
11	$-384.827$	$-84.560$	$-76.590$	$-96.869$	$-135.712$
12	$-191.845$	$-114.667$	$-260.149$	$-120.239$	$-223.771$
16	$-357.150$	$-121.594$	$-63.509$	$-90.049$	$-106.138$
20	$-207.613$	$-102.416$	$-51.668$	$-106.350$	$-60.770$
25	$-92.896$	$-50.135$	$-50.367$	$-51.638$	$-75.461$
30	$-245.839$	$-88.216$	$-70.145$	$-107.061$	$-74.803$
37	$-344.774$	$-94.114$	$-56.990$	$-76.943$	$-170.769$
40	$-178.614$	$-101.818$	$-59.327$	$-95.767$	$-151.825$
45	$-267.719$	$-87.940$	$-54.625$	$-98.657$	$-199.816$
49	$-349.255$	$-96.037$	$-73.186$	$-68.535$	$-143.092$
50	$-232.342$	$-78.866$	$-80.803$	$-51.253$	$-69.203$

보고된 S1 실행에서 Creative 버킷이 집계보다 일관되게 큰 Track II 수축을 보입니다(집계 $g=50$ 은 $-151$, Creative 는 $-232$, 중간에 $-385$ 까지). 개방형 프롬프트가 합성 재귀로 유도된 표현 붕괴를 증폭한다는 뜻입니다. Neutral 버킷은 $g=1$ 에서 오히려 $+5.3$ 으로 출발하지만 이후 $-60 \sim -224$ 사이를 오갑니다. 다만 버킷 시계열은 프롬프트 수가 적어 집계보다 시끄럽고, 버킷 크기가 다르므로 프롬프트 수로 정규화하지 않는 한 버킷 간 비교는 정성적으로만 해석해야 합니다. 저자들도 이를 1차 지표가 아니라 “붕괴가 어디에 집중되는가”를 묻는 도구로 봅니다.

💡 Key Takeaway 기하 수축(Track II)은 표면 반복(HHI)과 같은 방향으로 움직이되 더 일찍 반응하고, S2 에서는 순위 상관 $-0.69$ 로 강하게 결합됩니다. 버킷 국소화는 붕괴가 균일하지 않고 고엔트로피 체제(Creative) 에 집중됨을 시사하며, 이는 “꼬리가 먼저 사라진다”는 기존 이론과 결이 같습니다.

한계와 열린 방향

⚠️ 1. 저자가 인정한 한계

정적 기하만 다룸 : 이 논문은 붕괴의 “정적 기하”를 정량화하는 첫걸음이며, 재귀 학습 루프는 본질적으로 시간에 따라 진화하는 분포의 궤적, 즉 동역학이다. 상태 모니터링에서 동역학 예측으로의 전환은 향후 과제로 남긴다.
Koopman 연산자 이론으로의 확장 계획 : 파라미터 상태 공간의 진화는 고도로 비선형이고 불투명하지만, Koopman 연산자는 이 동역학을 무한차원 함수 공간으로 들어 올려 선형으로 만든다. 재귀 학습 사상에 결부된 Koopman 연산자의 고유값을 특성화해 퇴화 고정점으로의 수렴 속도 같은 점근 거동을 예측하고, 붕괴에 저항하는 안정적 “고유 분포(eigen-distributions)”를 식별하는 것이 목표다(Brunton et al., 2022).
Track I 의 느슨함 : 임베딩 공간이 소수 고유 방향에 지배되는 비등방적 경우, 스칼라 에너지 상한 $\widehat{\beta}_k$ 가 미관측 꼬리 기여를 크게 과대추정해 초기 수축을 가릴 수 있음을 저자들이 명시한다. 과대추정 비율 식 (3.7) 이 이를 정량화한다.
Track II 의 추정 분산 : 데이터 분포가 블록 크기 $n_A$ 에 비해 복잡하거나 꼬리가 무거우면 LLN 수렴이 느려 분산이 생긴다.
버킷 분석의 잡음 : 버킷별 시계열은 프롬프트 수가 적어 시끄럽고, 버킷 크기 차이 때문에 정성적 해석에 그친다.
표면 대리 지표는 정의가 아님 : distinct-2 와 HHI 는 맥락적 건전성 검사일 뿐, 붕괴를 어휘 특징으로 재정의하지 않는다.

🔒 2. 외부 관점의 한계

단일 모델·단일 도메인·단일 실행 : 본문 실험은 OPT-125M, TECH 도메인, 시드 하나의 S1/S2 실행뿐이다. 표 3 은 “도메인당” 코퍼스 크기를 언급해 다른 DecayBench 도메인의 존재를 암시하지만 결과는 TECH 만 보고된다. 모델 규모·아키텍처·도메인에 따라 Track I/II 분리 패턴이 유지되는지, 임계점 $g \approx 20$ 이 어떻게 움직이는지는 알 수 없다. 신뢰구간이나 시드 간 분산도 없다.
인코더 의존성 : 모든 기하는 동결된 all-MiniLM-L6-v2($m = 384$) 임베딩 위에서 정의된다. 붕괴를 재는 대상은 엄밀히 말해 “LLM 의 표현”이 아니라 “외부 문장 인코더가 본 LLM 출력의 표현” 이다. 인코더가 포착하지 못하는 다양성 손실(예: 사실적 정확성, 긴 담화 구조)은 보이지 않고, 인코더의 고유한 비등방성이 Track I 의 느슨함에 섞여 들어간다.
$\alpha = 0$ 만 보고 : 혼합 규칙은 일반적으로 정의됐지만 보고된 실행은 순수 합성($\alpha = 0$)이다. 실제 데이터 앵커가 있을 때(Dohmatob et al. 의 강한 붕괴 체제, Alemohammad et al. 의 신선 데이터 주입) 두 트랙이 어떻게 반응하는지는 실험되지 않았다. 완화 방법의 평가 도구로 쓰려면 이 축이 필수다.
Track I 양의 급등에 대한 설명의 사후성 : $g = 19$ 에서 $+1920.9$ 로 튀는 현상을 “소수 지배 방향의 일시적 팽창”으로 해석하지만, 이를 뒷받침하는 고유값 분포 변화는 제시되지 않는다. 실제로 $\lambda_1(G_A)$ 가 커졌는지, 아니면 $n_k$ 변화로 $\widehat{\beta}_k$ 가 변한 것인지 분리되지 않았다. $\widehat{\beta}_k = (n_k - n_A)\rho$ 가 $n_k$ 에 선형이므로, 응답 길이나 개수 변화만으로도 Track I 이 움직일 수 있다.
정리 2·3 의 i.i.d. 가정과 재귀의 긴장 : 스케일링 법칙은 한 체크포인트 내부의 열이 i.i.d. 라고 가정한다. 하지만 붕괴 중인 모델의 출력은 소수 템플릿에 집중되어, 같은 프롬프트의 여러 응답이 강하게 종속된다. 붕괴가 진행될수록 Track II 의 이론적 보장이 약해지는 역설이 있다. 저자들도 “복잡하거나 꼬리가 무거운 분포”에서의 분산을 언급하지만, 종속성 자체는 다루지 않는다.
Table 1 의 기울기 해석 : S2 의 Track II 는 $g \approx 20$ 전후로 체제가 바뀌는데(식 4.2 의 피드백 루프), 전 구간 OLS 기울기 $-42.6$ 은 두 체제를 평균한 값이다. 구간별 기울기나 변화점 검정이 있었다면 “두 번의 가속”이라는 서술이 더 정량적이었을 것이다.
$g = 35$ 이상점 : S2 에서 Track II 가 $-1674$ 에서 $-305$ 로 급회복했다가 다음 세대 $-1285$ 로 돌아가는 점은 설명이 없다. 미세조정의 불안정성인지, 평가 샘플링의 우연인지, 지표의 민감성인지에 따라 “조기 경보”로서의 신뢰도가 달라진다.

❓ 3. 열린 질문

임계점 $g \approx 20$ 은 무엇이 결정하는가? 저자 해석대로 “고정 top-$p$ 가 사실상 결정적으로 변하는 순간”이라면, temperature 나 top-$p$ 를 세대마다 조정해 유효 엔트로피를 유지하면 임계점이 늦춰지거나 사라지는가? 이는 디코딩 수준의 붕괴 완화 가능성을 묻는 질문이다.
$m\log n_A$ 보정이 “건강한 모델”을 전제한다면, 붕괴 중인 모델에서 $\log\det G_A$ 의 $n_A$ 의존성은 더 이상 $m\log n_A$ 가 아닐 것이다. 여러 $n_A$ 에서 Track II 를 계산해 실효 차원 $m_{\mathrm{eff} }(k)$ 를 추정하면, 붕괴를 “로그 행렬식의 하락”이 아니라 “차원의 수축”으로 직접 읽을 수 있지 않은가?
Track I 의 꼬리 예산 $\widehat{\beta}k = (n_k - n_A)\rho$ 는 최악의 경우다. 관측 블록에서 추정한 $\lambda{\max}(G_A)/n_A$ 를 비관측 블록에 외삽하는 준결정론적 예산을 쓰면 Track I 의 민감도를 얼마나 회복할 수 있는가?
외부 인코더 대신 LLM 자체의 은닉 상태로 Gram 행렬을 만들면 결과가 어떻게 달라지는가? 블랙박스 친화성은 잃지만, “표현 붕괴”라는 이름에 더 충실한 측정이 된다.
다중 모델 생태계(LWD)에서는 각 모델의 Gram 행렬이 서로 다른 기하를 가진다. 생태계 전체의 붕괴를 재려면 개별 Gram 행렬의 합인가, 혼합 분포의 Gram 행렬인가, 아니면 모델 간 Gram 행렬의 차이인가?
로그 행렬식은 모든 고유값을 동등하게 로그 합산한다. 의미적으로 중요한 방향과 잡음 방향을 구분하지 않으므로, 잡음 방향의 소실도 “붕괴”로 읽힌다. 가중 로그 행렬식이나 상위 $r$ 개 고유값만의 부분 로그 행렬식이 더 나은 정의가 아닌가?

🧷 4. 내 판단과 연구 연결

판단 : 이 논문의 가장 큰 가치는 결과표가 아니라 “붕괴 측정을 부분 관측 문제로 재정식화” 한 점이다. 정리 3 의 $n_A \gtrsim (z_{\alpha/2}\sigma/\varepsilon)^2$ 규칙은 “모니터링에 몇 개 표본이 필요한가”에 대한 최초의 정량적 답이고, 전체 코퍼스 크기와 무관하다는 점에서 실제 파이프라인에 바로 쓸 수 있다. 반면 실험은 약하다. 모델 하나, 도메인 하나, 시드 하나, $\alpha = 0$ 하나로는 Track I/II 분리가 일반적 신호인지 이 실행의 우연인지 판단할 수 없다.
붕괴 정의 : 내 연구에서 붕괴를 “분포 분산의 수축”으로 정의한다면, Sigma 의 $\log\det C$ 추적은 그 정의의 다변량 일반화다. 분산이 아니라 공분산 행렬의 로그 행렬식(일반화 분산)을 보므로, 단일 축의 분산이 유지되어도 다른 축이 꺼지는 경우를 잡는다. 다만 “꼬리 소실”(Shumailov) 과 “일반화 분산 감소”(Sigma)는 다른 양이다. 꼬리 소실은 분포의 지지 집합이 줄어드는 것이고 Gram 기하는 2차 모멘트만 본다. 붕괴 지도(collapse map)에서 두 양을 별도 축으로 두는 것이 맞다.
측정 지표 : Track II $\Delta\mathcal{U}_{LLN,cov}$ 는 세대별 측정값으로 바로 채택할 만하다. 계산 비용이 $O(n_A m^2 + m^3)$ 이고($G_A$ 구성 + Cholesky), $m = 384$, $n_A$ 수천이면 CPU 로 충분하다. 내 실험 루프에 넣을 때는 (a) 관측 인덱스 $\mathcal{I}_A$ 를 실행당 한 번 고정, (b) $\delta = 10^{-3}$, (c) 프롬프트 뱅크·디코딩·인코더 동결, (d) 여러 $n_A$ 에서 계산해 실효 차원 추정, (e) distinct-2 / HHI 를 같은 출력에서 함께 기록의 다섯 가지를 지켜야 한다. Track I 은 기록은 하되 1차 지표로 쓰지 않는다.
완화 방법 평가 : Sigma 는 완화 방법을 제안하지 않지만, 완화 방법의 공정한 비교 도구로 쓸 수 있다. 실제 데이터 축적(Gerstgrasser et al.), 합성 데이터 탐지·필터링(Drayson et al.), 토큰 편집 같은 방법을 같은 S2 루프에서 돌리고 Track II 의 기울기와 임계점 위치를 비교하면, “붕괴를 막았다”를 perplexity 가 아니라 기하로 판정할 수 있다. 특히 S1/S2 분리 설계는 완화 방법이 데이터 측에서 작동하는지 가중치 측에서 작동하는지를 구분해 준다.
실험 설계 : S1(restart-from-base)과 S2(true recursion)의 통제 비교는 내 실험에도 그대로 가져올 가치가 있다. 많은 붕괴 연구가 S2 만 보고하는데, S1 을 함께 두면 “데이터 분포 이동”과 “파라미터 누적”의 기여를 분리할 수 있다. 추가로 $\alpha \in {0, 0.1, 0.3, 0.5}$ 축과 시드 3 개 이상을 넣어야 이 논문의 약점을 피한다.
실행 항목 :
1. 내 재귀 학습 루프의 평가 단계에 Track II 계산을 추가하고, 기존 perplexity·distinct-n 시계열과 나란히 그린다.
2. 여러 $n_A$ 에서 $\log\det G_A$ 를 계산해 $n_A$ 의존성 기울기를 실효 차원으로 추정하는 보조 지표를 만든다.
3. S1 통제 실행을 하나 추가해 내 설정에서 데이터 재귀 대 가중치 재귀의 비율을 확인한다.
4. 완화 방법 비교 실험에서 Track II 의 OLS 기울기와 변화점을 1차 평가 지표 후보로 검토한다.
5. 외부 인코더(MiniLM)와 LLM 은닉 상태 두 가지로 Gram 행렬을 만들어 결론이 인코더 선택에 민감한지 점검한다.

💡 Key Takeaway Sigma 는 “붕괴를 어떻게 정의할 것인가”보다 “붕괴를 몇 개 표본으로 얼마나 정밀하게 잴 수 있는가” 에 답한 논문입니다. Track II 는 바로 쓸 수 있는 세대별 기하 지표이고, S1/S2 통제 설계는 데이터 재귀와 가중치 재귀를 분리하는 표준으로 삼을 만합니다. 다만 실험 규모가 작아 분리 신호의 일반성은 직접 재현으로 확인해야 합니다.