0. Summary

  • 기본 정보 : ArXiv,2026.10.16, Beyond SAEs: Consistent Concept Discovery with Sparse Coding
  • 연구 배경 : 희소 오토인코더(Sparse Autoencoder, SAE)는 파운데이션 모델의 활성(activation)을 학습된 과완전(overcomplete) 사전(dictionary)의 희소 선형 결합으로 분해하며, 이렇게 얻은 사전 원자(atom)들이 색·질감·객체(비전)나 문자·단어·구문 패턴(언어) 같은 사람이 이해할 수 있는 개념과 자주 대응된다는 점 때문에 기계적 해석가능성의 표준 도구가 되었다. 그러나 같은 데이터·같은 설정으로 학습해도 랜덤 시드가 다르면 SAE가 상당히 다른 사전을 학습한다는 사실(Paulo & Belrose, 2025)이 알려져 있고, 이는 재현성과 신뢰성을 떨어뜨릴 뿐 아니라 SAE가 찾은 특성이 모델 내부 표현을 진짜로 반영하는지, 아니면 학습 절차의 산물인지에 대한 근본적인 의문을 낳는다. 최근에는 통제된 합성 데이터에서조차 SAE가 알려진 정답 특성을 복원하지 못한다는 보고(Korznikov et al., 2026; Pacela et al., 2026)가 이 우려를 키웠다.
  • 제안 방법 : 논문은 Consistent Sparse Dictionary Learning(ConSDL)을 제안한다. 핵심은 SAE의 선형 인코더를 없애고, 각 입력마다 현재 사전 아래에서 $\ell_1$ 정규화 비음수 희소 코딩 문제를 FISTA로 직접 풀어 계수를 얻는 샘플별 희소 코딩(per-sample sparse coding)으로 대체하는 것이다. 단일 인코더 패스로 예측한 계수가 샘플별 최적화로 얻은 계수보다 열등하다는 선행 관찰(O’Neill et al., 2024)에서 출발해, “열등한 계수로 사전을 갱신하는 것이 시드 간 불일치의 원인”이라는 가설을 세운다. 여기에 $\ell_1$ 페널티가 만드는 수축(shrinkage) 편향을 바로잡는 계수 재적합(coefficient refitting)과, 같은 샘플에서 함께 활성화된 원자들끼리만 너무 비슷해지지 않도록 벌점을 주는 공활성 유사도 정규화(co-active similarity regularization)를 더해 학습을 안정화한다.
  • 발견 사실 : 정답 사전을 아는 16개 합성 설정(사전 폭 4×~16×, Zipf 지수 $\beta\in{0,0.5,0.7,1.0}$)에서 기존 SAE들은 사전이 커지고 원자 선택 빈도가 롱테일일수록 복원이 급격히 무너지는 반면, ConSDL은 모든 설정에서 사전과 계수를 거의 완벽하게 복원했다. 또한 사전이 잘 복원된 경우에도 인코더가 뽑은 계수는 사전을 고정한 채 재최적화하면 더 좋아지는 amortization gap이 존재함을 확인했고, 시드 간 일관성이 정답 복원과 강하게 상관(사전 $r=0.90$, 계수 $r=0.99$)함을 보여 정답이 없는 실제 모델에서 일관성을 대리 지표로 쓸 근거를 제시했다. CLIP ViT-B/16, DINOv2-B/14, GPT-2 Small, Pythia-160M의 36개 설정에서 ConSDL은 사전 일관성(DCS) 0.84, 계수 일관성(MCC) 0.78을 기록해 6개 SAE 베이스라인 평균 대비 각각 17.6%, 35.9% 향상했으며, 사용 가능한 원자 비율 1.00을 유지하면서 더 세밀한(finer-grained) 개념을 발견했다.
  • 핵심 기여 :
    1. ConSDL 제안 : 샘플별 희소 코딩 + 계수 재적합 + 공활성 유사도 정규화를 결합한 교대 최적화 방식의 사전 학습 알고리즘으로, 독립 학습 실행 간에 일관된 희소 분해를 산출함
    2. 합성 조건에서의 체계적 복원 분석 : 사전 크기와 원자 선택 불균형이라는 두 축으로 기존 SAE가 언제, 왜 실패하는지 규명하고, amortization gap이 계수 복원 실패의 한 원인임을 보임
    3. 파운데이션 모델 활성에서의 검증 : 비전·언어 백본 4종, 사전 폭 3종, 희소도 3종에 걸쳐 시드 간 사전·계수 일관성이 개선되고, 그 대가로 사전 활용도나 희소 프로빙 성능을 잃지 않음을 보임

논문에서 제안한 ConSDL과 기존 SAE의 차이점

기존 희소 오토인코더(SAE) 프레임워크와 본 논문에서 제안한 ConSDL(Consistent Sparse Dictionary Learning) 프레임워크의 가장 결정적인 차이는 “희소 계수(Coefficients)를 어떻게 도출하고, 이를 통해 딕셔너리(Dictionary)를 어떻게 업데이트하는가”에 있습니다.

두 프레임워크의 구조적 차이점과 작동 메커니즘을 상세히 비교해 드립니다.

🔄 구조적 차이점 비교 요약

기존 SAE는 근사치를 빠르게 계산하는 ‘인코더’ 학습에 의존하는 반면, ConSDL은 최적의 값을 직접 찾아내는 ‘최적화(희소 코딩)’ 방식을 사용합니다.

비교 항목 기존 SAE 프레임워크 제안된 ConSDL 프레임워크
계수 도출 방식 신경망 인코더 추론 ($z = \text{ReLU}(Wx + b)$)
· 빠르지만 수학적 최적해가 아닌 근사치 도출		 샘플별 희소 코딩 최적화 ($\min_z |x - D z|_2^2 + \lambda |z|_1$)
· 연산량은 많으나 수학적으로 정확한 최적해 도출
최적화 구조 엔드투엔드 공동 학습 (End-to-End)
· 인코더와 디코더가 오차 역전파를 통해 동시에 학습됨		 교대 최적화 (Alternating Optimization)
· 계수 최적화(Lasso 등)와 디코더 업데이트를 독립적으로 반복
계수 크기 왜곡
(Shrinkage Bias)		 보정 없음
· $\ell_1$ 손실 함수에 의해 실제 활성화 값 크기가 인위적으로 축소됨		 Coefficient Refitting 적용
· 활성화할 인덱스를 선정한 후, 크기 축소 왜곡 없이 값을 재적합
원자 중복 문제 빈번히 발생
· 서로 다른 시드에서 비슷한 개념 원자가 중복 학습되거나 뭉개짐		 Co-active Similarity 제어
· 동시에 자주 활성화되는 원자 간 유사도를 억제해 고유 개념 유도
난수 시드 민감도 매우 높음
· 초기화 상태에 따라 도출되는 개념 세트가 완전히 달라짐		 매우 낮음
· 수학적 최적화 기반으로 시드 변화에도 극도의 일관성 유지

🛠️ 프레임워크 프로세스 흐름 차이

두 프레임워크의 데이터 처리 및 가중치 업데이트 흐름은 다음과 같은 단계적 차이를 보입니다.

[기존 SAE 흐름]
입력 데이터 (x) ➔ 인코더 예측 (z) ➔ 디코더 복원 (x̂) ➔ 복원 오차 및 L1 손실 계산 ➔ 인코더/디코더 동시 업데이트 (End-to-End)

[ConSDL 흐름]
입력 데이터 (x) ➔ 샘플별 최적화로 정확한 z 도출 ➔ 활성화된 계수 Refitting ➔ 디코더(D)만 업데이트 ➔ (반복)

1. 계수 추정 단계 (Coefficient Inference)

  • 기존 SAE: 입력 벡터 $x$가 선형 레이어와 활성화 함수(ReLU 등)를 단 한 번 통과하면서 잠재 계수 $z$가 결정됩니다. 이 방식은 빠르지만, 입력 분포가 복잡할수록 실제 수학적 최적화 해(Lasso Solution)와 큰 괴리가 생깁니다.
  • ConSDL: 경사하강법(Gradient Descent)이나 Coordinate Descent 등의 최적화 알고리즘을 사용해 각 샘플 $x$를 가장 잘 설명하는 희소 계수 $z$를 직접 찾아냅니다. 인코더의 역량 한계에 갇히지 않고 항상 이론상 최선의 계수를 계산합니다.

2. 학습 패러다임 (Learning Paradigm)

  • 기존 SAE: 디코더(딕셔너리)의 품질이 인코더의 성능에 결합(Coupled)되어 있습니다. 인코더가 초기 무작위 가중치 단계에서 잘못된 방향으로 학습을 시작하면, 디코더 역시 그 왜곡된 신호를 바탕으로 업데이트되며 시드별 분산이 걷잡을 수 없이 커집니다.
  • ConSDL: 계수 추정 단계에서 그래디언트(Gradient)를 인코더로 역전파하지 않습니다. 고전적인 딕셔너리 러닝(Dictionary Learning)처럼, 현재 딕셔너리 기저에서 가장 완벽한 계수를 구한 뒤(Step 1), 이 고정된 계수를 바탕으로 디코더 가중치만 미세 조정(Step 2)하는 독립적 교대 최적화를 취하므로 무작위 노이즈의 전파가 차단됩니다.

3. 규제화 및 정교화 (Regularization)

  • 기존 SAE: 오직 계수의 절대값 합인 $\ell_1$ 노름(Norm)만을 사용해 희소성을 강제합니다. 이 과정에서 필요한 개념의 계수 크기마저 억지로 깎여나가는 왜곡이 발생합니다.
  • ConSDL: 최적화를 통해 활성화될 개념(Non-zero entries)들을 먼저 선별한 뒤, $\ell_1$ 패널티를 제거한 상태에서 최소자승법(Least Squares) 등으로 크기를 다시 맞추는 Refitting 과정을 거칩니다. 또한, 서로 다른 개념 원자들이 겹치는 것을 막기 위해 상호 코사인 유사도를 낮추는 Co-active Regularization을 추가로 적용해 각 원자가 독자적인 의미를 갖도록 강제합니다.

⚖️ 결론 및 트레이드오프 (Trade-off)

ConSDL은 기존 SAE가 풀지 못했던 학습의 재현성과 일관성(Consistent Concept Discovery) 문제를 완벽히 저격한 프레임워크입니다.

다만, 기존 SAE는 단 한 번의 순방향 신경망 연산으로 계수를 뽑아낼 수 있어 학습 및 추론이 매우 빠른 반면, ConSDL은 매 샘플마다 최적화 루프를 내부적으로 실행해야 하므로 연산 비용(Computational Overhead)이 상대적으로 높다는 한계가 있습니다. 따라서 신뢰성 높은 기초 과학 연구나 AI 안전성 정밀 분석에는 ConSDL이 압도적으로 유리하며, 극도의 실시간 처리가 요구되는 대규모 엔지니어링 파이프라인에는 연산 효율화 기법과의 병행이 필요합니다.

관련 개념

희소 오토인코더(SAE)와 사전 학습(Dictionary Learning)

희소 오토인코더(Sparse Autoencoder, SAE)는 모델 활성 $\mathbf{x}\in\mathbb{R}^d$ 를 $m\gg d$ 개의 사전 원자 $\mathbf{w}j$ 의 비음수·희소 선형 결합으로 설명하려는 모델입니다. 수학적으로는 고전적인 사전 학습(dictionary learning) 문제와 같습니다. 데이터 $\mathbf{x}$ 가 주어졌을 때 사전 $W{\mathrm{dec}}\in\mathbb{R}^{d\times m}$ 과 희소 계수 $\mathbf{a}\in\mathbb{R}^m_{\ge 0}$ 를 동시에 찾아 $\mathbf{x}\approx W_{\mathrm{dec}}\mathbf{a}+\mathbf{b}_{\mathrm{dec}}$ 가 되게 하는 것입니다.

🧱 1. SAE의 표준 구조

구성 요소 역할 기호
인코더 입력 한 번의 forward pass로 계수 $\mathbf{a}$ 예측 $\mathbf{a}=\sigma(W_{\mathrm{enc}}\mathbf{x}+\mathbf{b}_{\mathrm{enc}})$
디코더(= 사전) 단위 노름 원자 $\mathbf{w}_j$ 들의 모음 $W_{\mathrm{dec}}\in\mathbb{R}^{d\times m}$
희소성 제약 $\ell_1$ 페널티(ReLU SAE) 또는 상위 $k$ 선택(TopK 계열) $\lambda|\mathbf{a}|_1$, TopK

인코더와 디코더는 재구성 손실로 공동 학습(jointly trained)됩니다. 이렇게 하나의 공유 인코더가 모든 입력의 계수를 예측하는 방식을 상각 추론(amortized inference)이라 부릅니다.

🔁 2. 고전적 사전 학습: 교대 최적화

고전적 사전 학습(Olshausen & Field, 1997; Aharon et al., 2006; Mairal et al., 2010)은 인코더가 없습니다. 대신 두 단계를 번갈아 수행합니다.

  1. 희소 코딩(sparse coding) : 사전을 고정하고 각 샘플의 계수를 최적화 문제로 직접 풂 (ISTA/FISTA, matching pursuit 등)
  2. 사전 갱신(dictionary update) : 계수를 고정하고 사전을 갱신

적절한 가정(충분한 관측, 정답에 가까운 초기화 등) 아래에서는 이 교대 최소화가 과완전 사전과 계수를 복원한다는 이론적 보장(Agarwal et al., 2016)이 있습니다.

  표준 SAE 고전적 사전 학습
계수 추정 공유 인코더 1회 패스 (상각) 샘플별 반복 최적화
속도 빠름, 대규모 학습 용이 느림
계수 품질 현재 사전에 대해 최적이 아닐 수 있음 현재 사전에 대해 (국소) 최적

💡 Key Takeaway SAE는 “사전 학습 + 상각 인코더”입니다. 이 논문은 속도를 위해 도입된 상각 인코더가 일관성을 해치는 원인이라고 보고, 고전적 교대 최적화로 되돌아가되 현대적 규모에서 안정적으로 작동하도록 보강합니다.

SAE의 시드 간 불일치(Cross-seed Inconsistency)와 식별가능성

시드 간 불일치란 동일한 데이터·아키텍처·하이퍼파라미터로 SAE를 학습해도 랜덤 시드만 바꾸면 서로 다른 사전이 나오는 현상입니다. 이는 단순한 재현성 문제를 넘어 식별가능성(identifiability) 문제, 즉 “SAE가 복원한 것이 유일한 정답 분해인가”라는 질문과 직결됩니다.

⚠️ 1. 왜 문제인가

관점 문제
재현성 한 연구자가 찾은 “개념 X 원자”가 다른 시드에서는 존재하지 않을 수 있음
신뢰성 모델 감사·편향 분석·과학 데이터 분석의 결론이 시드에 따라 달라짐
근본적 질문 특성이 모델 표현을 반영하는가, 학습 절차의 산물(artifact)인가

🧩 2. 기존의 대응

연구 접근
Fel et al. (2025), Archetypal SAE 원자를 활성 데이터의 볼록 껍질(convex hull) 안으로 제약
Nelson et al. (2026b), iSAE 사전 기하를 근사 RIP(restricted isometry) 쪽으로 정규화해 희소 코드의 모호성 축소
Song et al. (2025) 일관성이 사전 크기·희소도·학습 절차에 따라 크게 달라짐을 보고

논문은 이 연구들이 서로 다른 실험 설정을 써서 직접 비교가 어렵다는 점을 지적하고, 동일한 평가 프로토콜 아래 넓은 설정 범위에서 비교합니다.

🔬 3. 식별가능성과 합성 데이터

실제 모델 활성에는 정답 분해가 없으므로 식별가능성을 직접 검증할 수 없습니다. 그래서 선행 연구들은 정답 사전과 계수를 알고 있는 합성 데이터로 복원 여부를 측정했고, 상당한 실패를 보고했습니다. 다만 결과가 특정 데이터 분포·학습 설정에 묶여 있어 언제 성공하고 언제 무너지는지가 불분명했습니다. 이 논문의 16개 합성 설정 스윕은 바로 이 공백을 메우기 위한 것입니다.

💡 Key Takeaway “같은 시드에서는 같은 답, 다른 시드에서는 다른 답”이면 그 답을 모델의 성질이라고 주장하기 어렵습니다. 일관성은 해석가능성 도구가 갖춰야 할 최소 조건입니다.

Amortization Gap: 인코더 한 번으로는 계수가 최적이 아니다

Amortization gap(상각 격차)은 공유 인코더가 한 번의 forward pass로 예측한 계수와, 같은 사전 아래에서 샘플마다 최적화 문제를 풀어 얻은 계수 사이의 품질 차이입니다(Marino et al., 2018; O’Neill et al., 2024). 이 논문의 알고리즘 설계는 전적으로 이 격차에서 출발합니다.

📐 1. 논문의 가설

  1. 인코더가 예측한 계수 $\mathbf{a}$ 는 사전 원자 갱신에 쓰이는 그래디언트에 직접 영향을 준다.
  2. 그런데 이 계수는 현재 사전에 대해 최적이 아니다.
  3. 따라서 최적이 아닌 계수로 사전을 갱신하는 것이 실행 간 불일치에 기여한다.
  4. 그러므로 매 사전 갱신 전에 샘플별 희소 코딩으로 계수를 구하면 일관성이 좋아질 것이다.

🧪 2. 검증: 사전을 고정하고 계수만 재최적화 (Table 1)

합성 데이터($\beta=0$)에서 학습이 끝난 디코더를 고정한 채, 인코더 계수(Amortized)와 FISTA로 재최적화한 계수(Re-optimized)를 비교합니다.

아키텍처 원자 수 사전 복원 DCS MCC (Amortized → Re-optimized) 입력 $R^2$ (Amortized → Re-optimized)
ReLU 3K 0.983 0.833 → 0.975 0.659 → 0.885
ReLU 6K 0.970 0.780 → 0.962 0.633 → 0.872
ReLU 9K 0.777 0.555 → 0.672 0.434 → 0.585
ReLU 12K 0.367 0.157 → 0.168 0.268 → 0.249
TopK 3K 0.982 0.862 → 0.947 0.812 → 0.920
TopK 6K 0.810 0.611 → 0.669 0.646 → 0.699
TopK 9K 0.227 0.048 → 0.048 0.403 → 0.427
TopK 12K 0.181 0.023 → 0.023 0.400 → 0.423

두 가지가 보입니다.

  • 사전이 잘 복원된 경우(DCS 높음)에도 인코더 계수는 재최적화 여지가 큽니다 → 인코더가 복원 가능한 오차를 남긴다.
  • 사전 복원이 나쁜 경우에는 계수 재최적화로도 얻는 게 거의 없다 → 근본 해결은 사전 학습 자체를 신뢰성 있게 만드는 것이어야 한다.

💡 Key Takeaway 추론 시점에만 계수를 재최적화하는 것(O’Neill et al., 2024)으로는 부족합니다. ConSDL은 학습 내내 샘플별 희소 코딩을 써서, 좋은 계수로 사전을 갱신하는 선순환을 만듭니다.

ConSDL 1단계: 샘플별 희소 코딩(Per-sample Sparse Coding)과 FISTA

샘플별 희소 코딩은 인코더 없이, 현재 사전 $W_{\mathrm{dec}}$ 아래에서 각 입력 $\mathbf{x}$ 의 계수를 다음 최적화 문제의 해로 정의하는 것입니다.

\[\mathbf{a}^{\mathrm{sc}}(\mathbf{x})=\operatorname*{arg\,min}_{\mathbf{a}\geq 0}\;\frac{1}{2}\left\|\mathbf{x}-W_{\mathrm{dec}}\mathbf{a}-\mathbf{b}_{\mathrm{dec}}\right\|_{2}^{2}+\lambda\|\mathbf{a}\|_{1} \tag{1}\]

여기서 $\lambda>0$ 이 희소성 강도를 조절합니다. 비음수 제약이 있는 LASSO 문제이며, 논문은 FISTA(Fast Iterative Shrinkage-Thresholding Algorithm; Beck & Teboulle, 2009)로 풉니다.

🧮 1. FISTA 반복식 (Appendix B)

$\mathbf{r}=\mathbf{x}-\mathbf{b}{\mathrm{dec}}$, 초기값 $\mathbf{a}_0=\mathbf{a}{-1}=\mathbf{0}$, $t_0=1$ 로 두고,

모멘텀 갱신

\[t_{k+1}=\frac{1+\sqrt{1+4t_k^2}}{2},\qquad \mathbf{y}_k=\mathbf{a}_k+\frac{t_k-1}{t_{k+1}}(\mathbf{a}_k-\mathbf{a}_{k-1})\]

근접 경사(proximal gradient) 갱신

\[\mathbf{u}_k=\mathbf{y}_k-\eta\,W_{\mathrm{dec}}^{\top}\left(W_{\mathrm{dec}}\mathbf{y}_k-\mathbf{r}\right),\qquad \mathbf{a}_{k+1}=[\mathbf{u}_k-\eta\lambda]_{+}\]

즉 재구성 항에 대한 경사 스텝 후 비음수 소프트 임계화(soft thresholding)를 적용합니다. $[\cdot]_+$ 는 원소별로 음수를 0으로 자르는 사영입니다.

⚙️ 2. 스텝 크기

\[\eta=\frac{1}{\sigma_{\max}(W_{\mathrm{dec}})^2}\]

$\sigma_{\max}$ 는 현재 디코더에 대해 32회 거듭제곱 반복(power iteration)으로 추정하며, 디코더가 학습 중 바뀌므로 매번 다시 계산합니다.

📊 3. 반복 횟수

설정 FISTA 반복 $T$
합성 실험 50
파운데이션 모델 실험 30

FISTA가 반환한 지지집합(support)은 수치 임계값 $10^{-8}$ 로 결정합니다.

💡 Key Takeaway 인코더 가중치 $W_{\mathrm{enc}}$ 가 아예 없습니다. 계수는 학습되는 파라미터가 아니라 매 샘플, 매 스텝 현재 사전에 맞춰 새로 푼 최적화 문제의 해입니다.

ConSDL 2단계: 계수 재적합(Coefficient Refitting)으로 수축 편향 교정

계수 재적합은 FISTA가 고른 활성 원자 집합은 그대로 두고, $\ell_1$ 페널티 없이 그 계수들의 크기만 다시 맞추는 단계입니다.

📉 1. 왜 필요한가: $\ell_1$ 의 수축 편향(shrinkage bias)

$\ell_1$ 페널티는 계수 크기 자체에 벌점을 주므로, 활성 원자가 올바르게 식별된 뒤에도 목적함수는 더 작은 비영(nonzero) 계수를 선호합니다(Zou, 2006). 이렇게 줄어든 계수를 그대로 디코더 갱신에 쓰면 선택된 원자들의 기여가 과소평가됩니다(Tolooshams & Ba, 2021).

🔧 2. 정의 (Eq. 2)

지지집합 $S^{\mathrm{sc}}(\mathbf{x})={j:a_j^{\mathrm{sc}}(\mathbf{x})>0}$ 위에서

\[\mathbf{a}^{\mathrm{refit}}(\mathbf{x})=\operatorname*{arg\,min}_{a_j,\ \forall j\in S^{\mathrm{sc}}(\mathbf{x})}\;\frac{1}{2}\left\|\mathbf{x}-W_{\mathrm{dec}}\mathbf{a}-\mathbf{b}_{\mathrm{dec}}\right\|_{2}^{2} \tag{2}\]

$\mathbf{a}^{\mathrm{sc}}(\mathbf{x})$ 에서 시작하는 사영 경사 하강(projected gradient descent)으로 풉니다.

\[\widetilde{\mathbf{a}}^{(q+1)}=\mathbf{a}^{(q)}-\eta W_{\mathrm{dec}}^{\top}\left(W_{\mathrm{dec}}\mathbf{a}^{(q)}-\mathbf{r}\right),\qquad a_j^{(q+1)}=\begin{cases}\max(\widetilde{a}_j^{(q+1)},0), & j\in S^{\mathrm{sc}}(\mathbf{x})\\ 0, & j\notin S^{\mathrm{sc}}(\mathbf{x})\end{cases}\]
항목 설정
스텝 크기 FISTA와 동일한 $\eta$
반복 횟수 $T_{\mathrm{refit}}$ 설정에 따라 5~30회 (파운데이션 모델 비용 분석에서는 5)
새 원자 활성화 불가 — 크기만 조정

📊 3. Ablation에서 드러난 효과 (Table 3, 16×, $\ell_0\approx128$)

백본 변형 $\lambda$ $R^2$ Dead atoms
Pythia-160M 희소 코딩만 3.0 0.69 9,767
Pythia-160M + 재적합 1.5 0.92 0
CLIP ViT-B/16 희소 코딩만 1.2 0.87 0
CLIP ViT-B/16 + 재적합 0.8 0.92 0

재적합이 없으면 같은 희소도를 맞추기 위해 더 큰 $\lambda$ 가 필요하고, Pythia에서는 원자 1만 개 가까이가 죽어 버립니다. 이는 희소 코딩 기반 사전 학습이 규모가 커지면 무너진다는 선행 보고(Pacela et al., 2026)와 일치합니다. 재적합은 이 실패를 제거하고 $R^2$ 를 0.92로 끌어올립니다.

💡 Key Takeaway 재적합은 전체 학습 비용의 약 16%만 차지하지만(Table 5), 대규모에서 희소 코딩 사전 학습을 작동하게 만드는 결정적 요소입니다. “누가 활성인가”는 $\ell_1$ 이 정하고, “얼마나 기여하는가”는 페널티 없이 다시 잽니다.

ConSDL 3단계: 공활성 유사도 정규화(Co-active Similarity Regularization)

공활성 유사도 정규화는 사전 안의 모든 원자 쌍이 아니라, 같은 샘플에서 함께 활성화된(co-active) 원자 쌍에 대해서만 방향이 너무 비슷해지면 벌점을 주는 정규화입니다.

🎯 1. 왜 필요한가: 중복 원자(duplicated atoms)

샘플별 희소 코딩을 학습 내내 적용하면 여러 원자가 비슷한 방향으로 수렴해 중복 사전 원소가 생길 수 있습니다. Ablation(Table 3)에서 “+ 재적합”만으로는 CLIP에서 5,564개, Pythia에서 3,191개의 중복 원자가 남았습니다.

🧮 2. 정의 (Eq. 3–4)

입력 $\mathbf{x}i$ 의 활성 원자 집합을 $A_i={\mathbf{w}_j: a^{\mathrm{refit}}{i,j}>0}$ 라 할 때, 각 $\mathbf{w}_j\in A_i$ 에 대해 가장 유사한 공활성 원자와 그 코사인 유사도를

\[\widetilde{\mathbf{w}}_{i,j}=\operatorname*{arg\,max}_{\mathbf{w}\in A_i\setminus\{\mathbf{w}_j\}}\mathbf{w}_j^{\top}\mathbf{w},\qquad s_{i,j}=\mathbf{w}_j^{\top}\widetilde{\mathbf{w}}_{i,j} \tag{3}\]

로 정의하고(원자가 단위 노름이므로 내적 = 코사인), 마진 기반 대조 목적함수(Hadsell et al., 2006)를 따라

\[\mathcal{L}_{\mathrm{sim}}=\frac{1}{|\mathcal{V}_\mu|}\sum_{(i,j)\in\mathcal{V}_\mu}\left(s_{i,j}-\mu\right)^2,\qquad \mathcal{V}_\mu=\{(i,j):\mathbf{w}_j\in A_i,\ s_{i,j}>\mu\} \tag{4}\]

마진 $\mu\in[0,1)$ 을 넘는 쌍만 벌점을 받습니다.

🔧 3. 구현 디테일 (Appendix B)

항목 내용
실제 손실 형태 마진 위 유사도를 정규화한 뒤 로그 변환: $\phi_\mu(s)=-\log!\left[1-\frac{1}{1+\delta}\left(\frac{s-\mu}{1-\mu}\right)^2\right]$ — 두 원자가 동일 방향에 가까워질수록 벌점이 급격히 커짐
이웃 탐색 효율을 위해 각 원자의 상위 $r=32$ 개 유사 원자만 후보로 두고, 그중 해당 입력에서 공활성인 것만 고려
공활성 후보 없음 해당 원자는 손실에 기여하지 않음; $\mathcal{V}_\mu$ 가 비면 손실 0

📊 4. 효과

백본 변형 중복 원자 수 사용 가능 원자 비율
CLIP ViT-B/16 + 재적합 5,564 0.55
CLIP ViT-B/16 Full ConSDL 1 1.00
Pythia-160M + 재적합 3,191 0.74
Pythia-160M Full ConSDL 0 1.00

”+ 재적합”은 표면적 DCS는 더 높지만 중복 제거(dedup) 후 DCS가 떨어지는 반면, Full ConSDL은 중복이 거의 없는 상태에서 높은 DCS를 유지합니다(Fig. 16). 정규화만 있고 재적합이 없는 변형은 중복은 줄이지만 Pythia의 불안정성(dead atoms 8,652개)은 못 잡습니다. 두 구성 요소 모두 필요합니다.

💡 Key Takeaway 모든 쌍을 밀어내면 비슷하지만 다른 맥락에서 쓰이는 정당한 원자까지 망가뜨립니다. “같은 입력을 설명하려고 동시에 켜졌는데 방향까지 같다”는 조건이 진짜 중복의 신호입니다.

전체 학습 목적과 교대 최적화

ConSDL의 한 학습 스텝은 계수 추정 → 사전 갱신의 두 단계를 번갈아 수행하며, 그래디언트는 계수 추정이나 쌍 선택을 통과하지 않습니다.

🧮 1. 목적함수 (Eq. 5)

\[\mathcal{L}_{\mathrm{rec}}=\frac{1}{2}\left\|\mathbf{x}-W_{\mathrm{dec}}\mathbf{a}^{\mathrm{refit}}(\mathbf{x})-\mathbf{b}_{\mathrm{dec}}\right\|_2^2,\qquad \mathcal{L}=\mathcal{L}_{\mathrm{rec}}+\gamma_{\mathrm{sim}}\mathcal{L}_{\mathrm{sim}}\]

🔁 2. 한 스텝의 흐름 (Fig. 8 의사코드)

단계 연산 그래디언트
1 FISTA로 $\mathbf{a}^{\mathrm{sc}}$ 계산 흐르지 않음
2 지지집합 위에서 재적합 → $\mathbf{a}^{\mathrm{refit}}$, stop_gradient 흐르지 않음
3 디코더(detach)로 공활성 최근접 쌍 탐색 흐르지 않음
4 $\hat{\mathbf{x}}=W_{\mathrm{dec}}\mathbf{a}^{\mathrm{refit}}+\mathbf{b}{\mathrm{dec}}$, $\mathcal{L}{\mathrm{rec}}+\gamma_{\mathrm{sim}}\mathcal{L}_{\mathrm{sim}}$ $W_{\mathrm{dec}},\mathbf{b}_{\mathrm{dec}}$ 로만 역전파
5 옵티마이저 스텝 후 원자 단위 노름으로 재정규화 —

⚙️ 3. 주요 하이퍼파라미터

항목 합성 실험 파운데이션 모델
$T_{\mathrm{FISTA}}$ 50 30
$\gamma_{\mathrm{sim}}$ $10^{-3}$ (모든 설정) Table 19 참조
학습률 $10^{-4}$, 500 warmup $3\times10^{-4}$, 500 linear warmup 후 constant
배치 128 비전 128 images / 언어 4,096 tokens
희소도 선택 설정별 $\lambda$ 조정 목표 $\ell_0$ 의 ±15% 안에서 DCS × 사용 가능 원자 비율이 최대인 설정

💡 Key Takeaway 구조적으로는 고전적 교대 최소화(alternating minimization)와 같습니다. 학습 가능한 파라미터는 $W_{\mathrm{dec}}$ 와 $\mathbf{b}_{\mathrm{dec}}$ 뿐이고, 계수는 매번 “풀어서” 얻습니다.

평가 지표: DCS, MCC, 사용 가능 원자 비율

정답이 있는 합성 데이터에서는 복원(recovery), 정답이 없는 실제 모델에서는 시드 간 일관성(cross-seed consistency)을 같은 지표로 잽니다. 차이는 비교 대상이 정답 사전이냐 다른 시드의 사전이냐뿐입니다.

📏 1. 사전 일관성: Decoder Cosine Similarity (DCS)

정규화된 디코더 원자들 사이에 코사인 유사도 기반 헝가리안(Hungarian) 일대일 매칭 $\pi$ 를 구한 뒤, 매칭된 쌍의 평균 코사인을 계산합니다(Paulo & Belrose, 2025).

\[\mathrm{DCS}_{r,s}=\frac{1}{m}\sum_{j=1}^{m}\cos\!\left(\mathbf{d}_j^{(r)},\,\mathbf{d}_{\pi(j)}^{(s)}\right)\]

모든 시드 쌍에 대해 평균합니다.

📏 2. 계수 일관성: Mean Coefficient Correlation (MCC)

DCS와 같은 디코더 기반 매칭을 쓰되, 매칭된 원자 쌍이 평가 샘플들에 걸쳐 비슷한 계수 패턴을 보이는지 Pearson 상관으로 잽니다(Pacela et al., 2026). 매칭 쌍 전체 평균 → 시드 쌍 전체 평균. 효율을 위해 고정된 토큰 부분집합에서 계산합니다.

📏 3. 사전 활용도(Dictionary Utilization)

지표 정의
Dead atom 활성 빈도 $p_j=\frac{1}{N}\sum_n\mathbb{I}[a_{nj}\neq0]<10^{-6}$
Duplicated atom dead 제외 후 코사인 임계값 $\tau\in{0.6,0.7,0.8,0.9}$ 로 완전 연결(complete-linkage) 클러스터링, 크기 2 이상 클러스터의 원자. 임계값별 개수를 평균
사용 가능 원자 비율 $1-\dfrac{N_{\mathrm{dead}}+\bar N_{\mathrm{dup}}}{m}$

단일 임계값으로 중복을 재던 선행 방식과 달리, 완전 연결은 클러스터 내 모든 쌍이 기준을 만족하도록 보장합니다.

🔄 4. 매칭 기준의 강건성 (Table 6)

디코더 코사인 매칭 $\pi_{\mathrm{dec}}$ 이 기하적 선택의 산물이 아님을 보이기 위해, ImageNet 검증 5만 장에서 각 원자의 평균 활성 크기 벡터(footprint, $\mathbb{R}^{50\mathrm{K}}$)로 독립 매칭 $\pi_{\mathrm{fp}}$ 을 만들어 비교했습니다. CLIP 16×, $\ell_0\approx128$ 에서 두 매칭 모두 같은 순위를 냈고 ConSDL이 6개 열 모두 1위였습니다(DCS 0.780/0.769, footprint cosine 0.838/0.844, MCC 0.744/0.745). $\pi_{\mathrm{dec}}$ 은 데이터 forward pass가 필요 없어 기본값으로 채택되었습니다.

💡 Key Takeaway DCS는 “방향이 같은 원자가 있는가”, MCC는 “그 원자가 같은 입력에서 같은 세기로 켜지는가”를 묻습니다. 둘 다 높아야 “같은 개념을 같은 방식으로 찾았다”고 말할 수 있습니다.

합성 데이터 분석: 언제 SAE가 무너지는가

논문은 정답 분해를 아는 16개 합성 설정을 만들어 기존 SAE와 ConSDL의 복원 능력을 비교합니다.

🧪 1. 데이터 생성

\[\mathbf{x}=\sum_{i=1}^{m}a_i\mathbf{w}_i,\qquad a_i=b_ic_i\]
항목 기본 설정
활성 차원 $d$ 768
사전 폭 $m$ 3072 (4×)
기대 활성 원자 수 $k$ 60
원자 등방 가우시안에서 독립 추출 후 단위 노름 → 근사 비간섭(incoherent) 사전
지지 $b_i$ $\mathrm{Bernoulli}(p_i)$, 기본 $p_i=k/m$
크기 $c_i$ $\mathrm{LogNormal}(\mu=0,\sigma=0.25)$, 기댓값 1

📐 2. 두 축의 확장

축 값 동기
사전 폭 4×, 8×, 12×, 16× ($m=3072$–$12288$) 사전이 클수록 파운데이션 모델에서 더 많은 개념이 발견됨 (Templeton et al., 2026)
원자 선택 불균형 Zipf 지수 $\beta\in{0,0.5,0.7,1.0}$, $p_i=\min(1,Cr_i^{-\beta})$ 웹 규모 데이터의 개념 빈도가 극도로 불균형함 (Udandarao et al., 2024)

$4\times4=16$ 설정, 설정당 $10^6$ 관측, 5 epoch, 3 seed.

🏁 3. 베이스라인 6종

방법 특징
ReLU SAE (Cunningham et al., 2023) ReLU 인코더 + $\ell_1$
TopK (Gao et al., 2025) 상위 $k$ 계수만 유지, AuxK 손실
BatchTopK (Bussmann et al., 2024) 미니배치 단위로 상위 $k$ 선택
Matryoshka SAE (Bussmann et al., 2025) 중첩된 접두 사전들에 각각 재구성 목적
MP-SAE (Costa et al., 2026) 잔차 기반 matching pursuit로 반복적 계수 추정
iSAE (Nelson et al., 2026b) AbsTopK + 근사 RIP 정규화(가중치 0.1), 일관성 지향

Archetypal SAE와 DL-FISTA는 안정적인 동작점을 얻지 못해 정량 비교에서 제외되었습니다.

📊 4. 발견

  • 복원은 데이터 설정에 크게 의존 : 사전이 작고 $\beta$ 가 낮으면 대부분 방법이 잘 복원하지만, 사전이 커지고 롱테일이 심해지면 급격히 무너집니다(Fig. 2B). 이것이 선행 합성 연구들이 “성공”(Song et al., 2025)과 “실패”(Pacela et al., 2026)를 모두 보고한 이유일 수 있습니다.
  • ConSDL은 16개 설정 모두에서 사전·계수를 거의 완벽하게 복원합니다.
  • 일관성 ↔ 복원 상관 : 시드 간 DCS와 정답 DCS는 Pearson $r=0.90$ / Spearman $\rho=0.88$, 시드 간 MCC와 정답 MCC는 $r=0.99$ / $\rho=0.98$ 로 강하게 상관합니다(Fig. 2C).

💡 Key Takeaway 일관성이 곧 정답 복원을 증명하지는 않지만, 합성 데이터에서의 강한 상관은 정답이 없는 실제 모델에서 일관성을 보완적 대리 지표로 쓸 근거가 됩니다.

파운데이션 모델 실험 결과

실제 모델 활성에서는 정답이 없으므로 시드 간 일관성을 1차 평가 기준으로 삼고, 사전 활용도·재구성·희소 프로빙으로 “일관성을 얻은 대가”가 없는지 확인합니다.

🧪 1. 설정

항목 비전 언어
백본 CLIP ViT-B/16, DINOv2-B/14 (penultimate layer) GPT-2 Small, Pythia-160M (layer 9)
학습 데이터 ImageNet 약 1.2M 이미지, class + spatial token, 1 epoch FineWeb 500M tokens, context 1024
평가 데이터 ImageNet validation FineWeb 20M tokens
활성 차원 768 768
사전 폭 4×, 8×, 16× 동일
희소도 $\ell_0\approx32, 64, 128$ 동일

→ 백본 4 × 폭 3 × 희소도 3 = 36개 설정, 각 3 seed.

📊 2. 주요 결과 (Table 8, 백본별 9개 설정 평균)

백본 지표 ReLU TopK BatchTopK Matryoshka MP-SAE iSAE ConSDL vs. Avg vs. Best
CLIP ViT-B/16 DCS 0.61 0.67 0.56 0.37 0.75 0.75 0.78 +26.7% +4.8%
  MCC 0.53 0.63 0.52 0.31 0.45 0.40 0.73 +54.7% +16.8%
DINOv2-B/14 DCS 0.68 0.73 0.65 0.50 0.83 0.77 0.84 +21.4% +1.6%
  MCC 0.61 0.69 0.61 0.47 0.49 0.44 0.78 +42.3% +14.1%
Pythia-160M DCS 0.85 0.74 0.75 0.62 0.85 0.78 0.85 +10.8% −0.8%
  MCC 0.76 0.69 0.70 0.61 0.46 0.43 0.77 +26.0% +1.1%
GPT-2 Small DCS 0.81 0.77 0.77 0.65 0.86 0.78 0.88 +13.7% +2.3%

4개 백본 평균으로 ConSDL은 DCS 0.84, MCC 0.78이며, 6개 베이스라인 평균 대비 +17.6% / +35.9%, 지표별 최강 베이스라인 대비 +1.9% / +13.3%입니다. 핵심 관찰은 어떤 베이스라인도 두 지표에서 동시에 경쟁력이 없다는 점입니다. MP-SAE는 DCS는 비슷하지만 MCC가 크게 낮고, ReLU·TopK는 MCC는 좋지만 DCS가 낮습니다. 가장 큰 이득은 16× 사전에서 나타납니다.

🧮 3. 일관성의 대가는 없는가

항목 결과
사용 가능 원자 비율 ConSDL 1.00 (베이스라인 평균 대비 +5.6%, 최강과 동률). ReLU·MP-SAE는 중복 원자, TopK 계열·iSAE는 일부 설정에서 dead atom 다수
재구성 $R^2$ 베이스라인과 유사한 수준
희소 프로빙 (Table 2, 16×, $\ell_0\approx128$) 비전 6개 데이터셋 AUPRC, 언어 SAE-Probes 113개 이진 과제 AUROC에서 최강 베이스라인과 근접하거나 일부 최고 (예: CLIP @1 0.52 vs ReLU 0.48, MP-SAE 0.49)

🔍 4. 원자 수준 일관성과 더 세밀한 개념

  • 각 원자의 일관성을 “다른 두 시드에서 매칭된 원자와의 평균 코사인”으로 정의하면, ConSDL 원자 대부분이 높은 일관성을 보이는 반면 베이스라인은 특히 비전에서 낮은 원자가 많습니다(Fig. 4A).
  • CLIP 16×에서 일관성 $>0.7$ 인 원자가 ConSDL은 약 9K, ReLU는 약 4K입니다. ReLU의 “맥주병” 원자 하나에 ConSDL 원자 5개가 대응되며, 이들은 병목·거품·잔 속 맥주 같은 더 구체적인 특징을 포착합니다(Fig. 5). Pythia에서는 ReLU의 “야구” 원자가 팀 이름·투구·수비 위치 등으로 갈라집니다.
  • 사전을 4×에서 16×로 키우면 ConSDL의 “골든 리트리버” 원자가 털·꼬리·주둥이·강아지 등 6개 원자로 분화되지만, ReLU·TopK는 거의 동일한 원자를 유지합니다(코사인 0.99/0.98, Fig. 6).
  • 사전 구조 수준에서도 ConSDL은 시드 간 클러스터 크기 순위 상관 0.95(Matryoshka 0.22), 정규화된 중심(centroid) 일치도 1 / 0.96 / 0.94 / 0.88(클러스터당 192/48/12/3 원자)로 가장 높았습니다(Fig. 7).

💡 Key Takeaway ConSDL의 일관성 향상은 사전을 비워 두거나 개념을 뭉뚱그려서 얻은 것이 아닙니다. 오히려 더 많은 원자가 실제로 쓰이고, 큰 사전일수록 개념이 더 잘게 쪼개지며, 그 세밀한 구조가 시드를 바꿔도 재현됩니다.

계산 비용과 한계

ConSDL은 단일 인코더 패스를 반복적 샘플별 최적화로 바꾸므로 비용이 늘어납니다. 논문은 이를 숨기지 않고 정량화합니다.

💸 1. 토큰당 비용 (Table 4, H100 80GB, 지연 µs / MFLOPs)

아키텍처 4× 추론 4× 학습 16× 추론 16× 학습
ReLU (Pythia) 0.04 (4.7) 0.32 (28.3) 0.14 (18.9) 0.97 (113.2)
TopK (Pythia) 0.12 (4.7) 0.36 (28.3) 0.37 (18.9) 1.05 (113.2)
MP-SAE (Pythia) 2.38 (302.0) 2.23 (287.8) 31.06 (4,831.8) 7.14 (1,151.3)
ConSDL (Pythia) 2.28 (325.6) 3.00 (338.6) 8.22 (1,302.3) 10.45 (1,396.7)
  • 단일 패스 SAE 대비 학습 비용은 약 10배 수준입니다.
  • MP-SAE는 추론 시 목표 희소도까지 원자를 하나씩 고르므로 희소도가 높아지면 ConSDL보다 추론 비용이 더 커집니다(16×에서 31 µs vs 8 µs).
  • ConSDL은 $T=30$ FISTA + $T_{\mathrm{refit}}=5$ 로 고정 예산입니다.

🧾 2. 학습 스텝 비용 분해 (Table 5)

구성 요소 비중 (평균)
희소 코딩 (FISTA) 약 69%
계수 재적합 약 16%
유사도 정규화 6~19%
나머지 갱신 2~5%

추가 비용은 고정된 반복 희소 코딩이 지배하며, 사전 폭이 커져도 구성 비율은 비슷합니다. 재적합은 효과 대비 매우 저렴합니다.

⚠️ 3. 저자가 밝힌 한계

한계 내용
합성 vs 실제의 격차 실제 모델에서의 일관성(DCS 0.84)은 합성에서의 거의 완벽한 복원보다 낮음. 더 많은 개념, 더 심한 빈도 불균형, “활성 = 희소 선형 결합” 가정으로부터의 이탈이 원인일 수 있음
선형 가정 일부 개념은 비선형·매니폴드 구조일 수 있음(Bhalla et al., 2026). ConSDL은 희소 선형 가정 안에서 일관성을 높이는 것이지, 모든 개념이 선형이라고 주장하지 않음
규모 비교 실험의 계산 부담 때문에 상대적으로 작은 모델(86M~162M)만 다룸. 수십억 파라미터 모델이나 훨씬 큰 사전으로 이득이 이어지는지는 미확인
비용 더 효율적인 희소 솔버로 오버헤드를 줄이는 것이 향후 과제

💡 Key Takeaway ConSDL은 “효율 ↔ 일관성”의 트레이드오프를 명시적으로 선택한 방법입니다. 해석가능성 분석에서 재현되는 결과가 필요하다면 10배의 학습 비용은 지불할 만한 값일 수 있고, 추론 비용은 반복형 경쟁자(MP-SAE)보다 오히려 유리합니다.