오늘 리뷰는 생각보다 기네요.. compositional generalization을 위한 임베딩 구조는 무엇인가? 에 대한 답변을 찾기위해 고민한 페이퍼입니다.

---

Venue: ICML 2026 Oral
Authors: Arnas Uselis, Andrea Dittadi, Seong Joon Oh
Title: [ICML 2026 Oral] Necessary Conditions for Compositional Generalization of Embedding Models , ICML Poster
GitHub: [Link]

---

0. Background

본격적인 리뷰에 앞서, 이 논문이 다루는 핵심 문제인 compositional generalization이 무엇인지 먼저 설명하면 좋을 것 같습니다.

compositional generalization이란?
모델이 학습 때 본 적 없는 조합을 잘 처리할 수 있는 능력입니다.

여기서 주의해야할 점은 학습 때 본 적 없는 object를 인식하는 능력이 아니라, 본 적 없는 조합을 잘 처리할 수 있는 능력 입니다.

예를 들어, 모델이 cat, person, on 같은 개별 concept은 많이 봤을 겁니다. 그런데 이 개별 concept이 어떻게 구성되느냐에 따라 모델에게 익숙할지 아닐지가 결정됩니다.

왼쪽 이미지처럼 A cat on a person 이라는 조합은 학습 데이터에 비교적 많이 등장하겠죠? 근데 오른쪽 이미지처럼 a person on a cat 같은 조합은 거의 등장하지 않을 겁니다. 다만 사람은 이런 등장 횟수와 같은 통계 정보와는 상관없이, 사람은 이런 새로운 조합도 쉽게 구분하고 이해할 수 있습니다.

이렇게… 익숙한 단어일지언정, 익숙하지 않은 조합들과 함께 등장해도 이걸 잘 이해할 수 있는 능력을 Compositional Generalization이라고 합니다. 제가 이번에 리뷰할 논문은 바로 이 Compositional Generalization능력을 모델이 가지려면, embedding이 어떤 구조를 가져야 하는지를 분석하였습니다.

1. Introduction

기존 연구들 역시 VLM이 compositional generalization에서 자주 실패한다는 것을 보여왔습니다. compositional을 파악하기 위한 데이터셋을 제안하고, 이 데이터셋에서 성능이 낮은거 보니까 compositional generalization이 안된다 라는 식이었죠.

그런데 본 논문의 저자는 그냥 성능이 낮다로 끝나는게 아니고, 구체적으로 만약 어떤 모델이 compositional generalization을 잘한다면, 그 모델의 representation은 반드시 어떤 구조를 가져야 하는가?에 대하여 알아보고자 하였습니다.

결론부터 바로 말하자면 compositional generalization을 하려면 representation은 concept별로 선형적으로 분해되어야 하고, 서로 다른 concept의 방향은 서로 간섭하지 않도록 거의 orthogonal해야 합니다.

구체적인 예를 들어 설명을 하자면, 이미지 embedding 안에서 red, cube, left 같은 정보가 뒤섞여 있으면 새로운 조합으로 일반화하기 어렵습니다. 반대로 embedding이 ‘색상 정보’, ‘객체 정보’, ‘위치 정보’를 각각 따로 더해서 표현하는 구조라면… 학습 대 보지 못한 조합도 더 쉽게 만들고 구분할 수 있겠죠? 따라서 이 논문은 이러한 구조가 단순히 있으면 좋은 성질이 아니라, compositional generalization을 위해 필요한 조건이라고 주장합니다.

2. Setup: A framework for compositionality

Introduction에서 저자들이 “compositional generalization을 잘하려면 representation이 어떤 구조를 가져야 하는가”를 묻는다고 했는데요.

그런데 이 질문을 분석하려면, 먼저 compositional generalization이 무엇인지 조금 더 정확하게 정의해야 합니다. 단순히 ‘본 적 없는 조합을 잘 맞히면 된다’ 라고 말하면 너무 모호하기 때문이죠

저자들은 ‘학습 때 본 적 없는 조합을 잘 처리한다‘는 말을 수학적으로 정의하였습니다.
1) 가능한 모든 조합의 공간 (C)
2) 두 번째는 실제 학습에 등장하는 일부 조합 (T)
3) 세 번째는 embedding에서 concept을 읽어내는 readout (h)

2.1 Concept Space: 가능한 모든 조합 (C)

먼저 저자들은 하나의 이미지를 여러 concept 값들의 조합으로 보았습니다.

예를 들어 이미지 하나가 {color, shape, size}라는 concept으로 설명될 수 있다고 해보겠습니다. 그러면 하나의 이미지는 {‘red’, ‘cube’, ‘small’} 같은 tuple로 표현될 수 있습니다.

이를 수식으로 쓰면 다음과 같습니다.

C = C_1 \times C_2 \times \cdots \times C_k

즉, 논문에서 말하는 concept space C는 가능한 모든 concept 조합의 전체 공간입니다. 만약 color가 3개, shape가 4개, size가 2개라면 가능한 조합은 (3 \times 4 \times 2)개가 됩니다.

이렇게 보면 compositional generalization은 결국 이 전체 조합 공간 C 중에서, 학습 때 보지 못한 조합까지 잘 처리할 수 있느냐의 문제라고 볼 수 있게 됩니다.

2.2 Training Support: 실제 학습에 등장하는 일부 조합 (T)

그런데 현실적으로 학습 데이터가 전체 concept space (C)를 모두 포함할 수는 없습니다.

예를 들어 cat, person, on이라는 개별 concept은 많이 등장하더라도, a person on a cat 같은 조합은 거의 등장하지 않을 수 있습니다. 즉, 전체 가능한 조합이 C라면 실제 학습에 등장하는 조합은 그중 일부인 T \subset C입니다.

논문에서는 이 (T)를 training support라고 합니다.

여기서 조금 헷갈릴 수 있는 표현이 2^C[latex]인 것 같은데, 논문에서 [latex]2^C라고 쓴 이유는, C에서 만들 수 있는 모든 subset 후보를 고려하기 위해서입니다. 즉, 가능한 전체 조합들 중에서 어떤 조합들을 학습 데이터로 선택할 수 있는지를 생각하는 거죠

그리고 이때 어떤 T를 valid한 학습 조합으로 볼 것인지 정하는 규칙이 validity rule R입니다.

R(T) = 1 이면 T는 valid한 training support이고, R(T) = 0 이면 valid하지 않은 training support입니다.

위 Figure 2에서 valid가 무엇인지 그림으로 표현한 것인데요. 파란색은 학습에 사용된 조합이고, 빨간색은 학습에서는 빠졌지만 테스트에서 봐야 하는 조합입니다. 기존 연구마다 파란색 조합을 고르는 방식이 달랐고, 논문에서는 이러한 선택 방식을 validity rule로 정리한 겁니다

2.3 Encoder와 Readout

그다음 저자들은 모델을 encoder f와 readout h로 나누었다고 하는데요

encoder f는 입력 이미지 x_c를 embedding z로 바꾸는 역할을 합니다 : z = f(x_c)

그리고 readout h는 이 embedding z에서 각 concept 값을 읽어내는 역할을 합니다 : h(z) \rightarrow \text{concept prediction}

다시말해, embedding 안에서 이 이미지의 object가 cat인지 person인지, color가 red인지 blue인지, 위치가 left인지 right인지를 읽어내는 것이 readout의 역할입니다.

여기서 중요한 점은, 이 논문에서는 주로 linear readout을 가정한다는 점입니다: h(z) = Wz + b. 즉, embedding을 복잡한 network로 다시 해석하는 것이 아니라, linear layer 정도의 단순한 readout으로 concept을 읽을 수 있는지를 보는 것이죠

이 가정이 중요한 이유는! readout이 너무 강력하면 embedding 자체가 compositional한지 아닌지를 판단하기 어렵기 때문이라고 합니다. readout이 복잡한 non-linear model이면, embedding이 좋은 구조를 가지고 있지 않아도 readout이 외워서 맞힐 수 있게 된다는 뜻이죠

따라서 이 논문은 embedding 자체가 concept을 잘 읽을 수 있는 구조를 가지고 있는가? 를 보기 위해 linear readout을 중심으로 분석했다고 합니다 (어찌보면 변인 통제라고 할 수 있겠네요)

2.4 Three Desiderata for compositional generalization?

정의는 끝난거 같으니, 처음 질문으로 돌아갑시다. "compositional generalization"을 위해 모델이 만족해야하는 조건은 무엇일까요? 저자들은 이 조건에 대해 세 가지를 제안했습니다.

첫 번째, Divisibility

Divisibility는 embedding space가 가능한 모든 concept 조합을 구분할 수 있을 만큼 나뉘어 있어야 한다는 조건입니다. 쉽게 말해, 'red cube', 'blue cube', 'red sphere' 같은 조합들이 embedding space 안에서 각각 들어갈 자리가 있어야 한다는 뜻입니다.

다만 Divisibility는 '정답을 맞힌다'는 뜻은 아니라고 합니다. 그 보다는 애초에 모든 조합을 표현하고 구분할 수 있는 공간적 여지가 있어야 한다는 capacity 조건에 가깝다고 하죠

두 번째, Transferability

Transferability는 일부 조합 T만 보고 학습한 readout이 전체조합 C 에서도 잘 동작해야한다는 조건이라고 합니다. 즉, 학습 때 본 조합에만 맞는 readout이 아니라, 보지 못한 조합에서도 각 concept을 제대로 읽어낼 수 있어야 하죠
확실히 이 조건이 우리가 일반적으로 말하는 compositional generalization에 가장 가까운 조건인 것 같네요

예를 들어 모델이 a cat on a person 은 봤지만 a person on a cat 은 보지 못했다고 가정해봅시다. 그럼에도 불구하고 "person이 있는가" 혹은 "cat이 있는가" 같은 질문에는 제대로 답을 할 수 있어야 합니다. 이것이 Transferability 이라고 합니다.

세 번째, Stability

Stability는 어떤 valid training support T로 학습했는지에 따라 예측이 크게 흔들리면 안 된다는 조건입니다.

예를 들어 같은 이미지를 두고, 어떤 training subset으로 학습했을 때는 cat이라고 강하게 예측하고, 다른 training subset으로 학습했을 때는 dog에 가깝게 예측한다면 안정적인 일반화라고 보기 어렵겠죠?

따라서 Stability는 단순히 정답을 맞히는 것을 넘어서, 어떤 valid 한 학습 조합을 사용하더라도 concept 을 읽는 방식이 일관적이어야 한다 라는 조건입니다.

저는 이 Stability가 이 논문에서 꽤 중요한 조건이라고 생각하는데요, 왜냐하면 뒤에서 저자들이 말하는 orthogonality가 결국 concept들이 서로 간섭하지 않아야 한다는 이야기인데, 이를 위해서는 학습 subset이 바뀌어도 예측 방향이 흔들리지 않는다는 조건이 필요하기 때문입니다,

2.5 CLIP-like Model

여기까지 저자들은 concept space (C), training support (T), encoder (f), readout (h)를 정의했습니다.

그럼 이제 이 정의가 CLIP에서는 어떻게 대응되는지를 봐야 합니다. 왜냐하면 이 논문이 최종적으로 분석하고 싶은 대상은 CLIP, SigLIP, DINO 같은 embedding model이기 때문이죠

CLIP을 예로 들면, image encoder는 이미지를 embedding으로 바꿉니다. z = f(x) 그리고 text encoder는 prompt를 embedding으로 바꿉니다. 예를 들어 a photo of a cat이라는 prompt를 text encoder에 넣으면, cat에 해당하는 text embedding을 얻을 수 있습니다.

w_{\text{cat}} = g(\text{``a photo of a cat''}) CLIP은 이 text embedding과 image embedding의 similarity를 계산해서, 이미지 안에 해당 concept이 있는지를 판단합니다. w_{\text{cat}}^\top z

이때 중요한 점은, 이 계산이 image embedding z에 대해 linear하다는 점입니다. 즉, CLIP의 zero-shot classification은 text embedding을 weight vector처럼 두고, image embedding에서 특정 concept을 읽어내는 방식으로 볼 수 있습니다.

예를 들어 cat인지 dog인지 구분한다고 하면, CLIP은 다음 두 점수를 비교합니다. w_{\text{cat}}^\top z, \quad w_{\text{dog}}^\top z

그리고 더 큰 점수를 가진 class를 선택합니다. 그래서 논문에서는 CLIP의 text prompt embedding을 일종의 readout, 혹은 linear classifier의 weight처럼 해석한 것입니다.

이 관점에서 보면 앞서 정의한 readout h는 CLIP에서 text prompt embedding들로 구성됩니다. 즉, CLIP은 image embedding 안에서 cat, person, red, left 같은 concept을 text prompt 방향으로 읽어내는 모델로 볼 수 있습니다.

이 덕분에 이 논문의 질문은 다음처럼 바뀌게 됩니다.

CLIP에서 같은 text prompt가 학습 때 본 조합뿐 아니라, 보지 못한 새로운 조합에서도 concept을 안정적으로 읽어내려면 image embedding은 어떤 구조를 가져야 하는가?

3. Implications of compositionality on representations

앞선 섹션에서 저자들은 compositional generalization을 위해 Divisibility, Transferability, Stability가 필요하다고 정의했습니다.

그럼 이제 모델이 이 세 조건을 만족하려면, embedding은 어떤 구조를 가져야 할지 알아봐야겠죠?

결론부터 말하면, Compositional generalization을 위해 representation은 concept별로 Linear Factorization (선형 분해) 되어야 하고, 서로 다른 concept 방향은 orthogonal 해야 합니다,.

3.1 Compositional Generalization은 Linear Factorization 필요

저자들은 gradient descent와 cross-entropy loss로 linear readout을 학습하는 상황을 가정했습니다. 이때 Divisibility, Transferability, Stability가 모두 만족된다면, embedding은 다음 형태를 가져야 한다고 보였습니다.

z_c = \sum_{i=1}^{k} u_{i,c_i}

즉, 하나의 embedding z_c는 각 concept value에 해당하는 factor들의 합으로 표현되어야 했습니다. 예를 들어 이미지가 red cube on the left라면, embedding은 대략 다음처럼 분해되어야 합니다.

\text{red factor} + \text{cube factor} + \text{left factor}

이 구조가 필요한 이유는, red와 cube가 하나의 통째 패턴으로만 저장되어 있으면, red sphere 같은 새로운 조합으로 일반화하기 어렵습니다. 반대로 red와 sphere가 각각 factor로 분리되어 있다면, 모델은 보지 못한 조합도 기존 factor를 재조합해 처리할 수 있습니다.

3.2 서로 다른 concept은 orthogonal

그런데 concept별 factor로 나뉘는 것만으로는 충분하지 않았다고 합니다.

저자들은 서로 다른 concept의 변화 방향이 서로 orthogonal해야 한다고 주장했는데요 (이를 수식으로 나타내면 (u_{i,1} - u_{i,0}) \perp (u_{j,1} - u_{j,0}) \quad (i \neq j)

쉽게 말하면, color를 바꾸는 방향과 shape를 바꾸는 방향이 서로 간섭하지 않아야 한다는 뜻입니다.

만약 red → blue 방향이 cube → sphere 방향과 겹친다면, color 변화가 shape 예측까지 흔들 수 있습니다. 반대로 두 방향이 orthogonal하다면, color가 바뀌어도 shape 예측은 유지됩니다.

Figure 5가 이 차이를 보여줍니다. unstable한 representation에서는 training support에 따라 readout이 달라지고, unseen combination으로 transfer되지 않았습니다. 반면 stable한 representation에서는 concept 방향이 일관적으로 정리되어 있어 새로운 조합에도 transfer되었습니다.

즉, orthogonality는 단순한 기하학적 성질이 아니라, concept 간 간섭을 줄이기 위한 조건입니다.

3.3 필요조건 이면서 충분조건

여기서 중요한 점은, linear factorization과 orthogonality가 단순히 '좋은 representation에서 보이는 경향'이 아니라는 것입니다.

저자들은 특정 학습 조건에서 이 구조가 compositional generalization의 필요조건임을 보였고, 반대로 이 구조가 있으면 충분히 informative한 training support만으로 전체 조합에 일반화할 수 있다는 충분조건도 보였습니다.

정리하면, 이 논문이 말하는 이상적인 representation은 다음과 같습니다. \text{Representation} = \text{concept factor들의 합} . 그리고 서로 다른 concept factor들은 서로 간섭하지 않도록 배치되어야 합니다.

3.4 가능한 모든 조합을 위한 최소 차원

마지막으로 저자들은 이런 compositional structure를 embedding space 안에 담으려면 차원이 얼마나 필요한지도 분석했습니다.

결론은 다음과 같습니다: d \geq k . 즉, k개의 concept을 구분하려면 embedding dimension d는 최소한 k 이상이어야 했습니다.

여기서 중요한 점은 최소 차원이 각 concept의 value 개수 n이 아니라, concept의 개수 k에 의해 결정된다는 것입니다.

예를 들어 color, shape, size라는 3개의 concept이 있다면, color 후보가 2개인지 100개인지보다 중요한 것은 서로 독립적으로 읽어야 하는 concept 축이 3개 있다는 점입니다. color를 읽는 방향, shape를 읽는 방향, size를 읽는 방향이 필요하기 때문입니다.

Figure 6이 바로 이 내용을 설명하는데, 왼쪽 그림은 2개의 concept을 가진 경우이고, 오른쪽 그림은 3개의 concept을 가진 경우입니다. 각 concept을 구분하는 boundary들이 embedding space를 나누고, 그 boundary들의 교차를 통해 여러 조합이 만들어집니다.

즉, embedding space는 단순히 datapoint들을 흩뿌려놓는 공간이 아니라, 여러 concept을 독립적으로 읽어낼 수 있도록 나뉘어 있어야 합니다. concept 수가 많아질수록 이런 독립적인 방향을 담기 위한 차원 요구도 커지게 됩니다.

4. Surveying necessary conditions in pretrained models

앞선 섹션에서는 compositional generalization을 위해 representation이 linear factorization과 orthogonality를 가져야 한다고 설명했습니다. 그렇다면 실제 pretrained model들도 이런 구조를 가지고 있을까요?

저자들은 이를 확인하기 위해 CLIP, SigLIP, DINO 계열 모델을 대상으로 embedding 구조를 분석했습니다. 결론부터 말씀드리면, 현재 모델들이 이론에서 말한 이상적인 구조를 완벽히 만족하지는 않지만, 어느 정도는 그 방향으로 정리되어 있다는 것입니다.

4.1 Pretrained model

먼저 저자들은 pretrained model의 embedding이 concept별 factor의 합으로 얼마나 잘 설명되는지 확인했습니다.

Figure 7을 보면, DINOv3 embedding에서 shape, color, size, position 같은 concept이 꽤 일정한 방향으로 변하는 것을 볼 수 있습니다. 즉, 하나의 concept이 바뀔 때 embedding이 아무렇게나 움직이는 것이 아니라, 특정 방향을 따라 이동하는 경향이 있었습니다.

이를 정량적으로 보기 위해 저자들은 R^2 score를 사용했습니다. 이 값이 높을수록 embedding이 concept별 factor의 합으로 잘 설명된다는 뜻입니다.

Figure 9를 보면, 여러 pretrained model의 R^2 score가 random baseline보다 높았습니다. 다만 1.0에 가까운 완벽한 수준은 아니었습니다. 따라서 현재 모델들은 ideal한 linear factorization을 완전히 만족하지는 않지만, concept별 additive structure를 부분적으로 가지고 있다고 볼 수 있습니다.

4.2 Linear factorization과 compositional generalization 사이의 관계

다음으로 저자들은 이 linear factorization 정도가 실제 compositional generalization 성능과 관련이 있는지 확인했습니다.

Figure 8을 보면, [latex]R^2[/latex] score가 높은 모델일수록 unseen combination에 대한 accuracy도 높아지는 경향이 있었습니다. 즉, embedding이 concept별로 더 잘 분해될수록, 학습 때 보지 못한 조합에도 더 잘 일반화했습니다.

저자가 주장했던 것처럼, 단순히 embedding이 선형적으로 예쁘게 정리되어 있다는 것이 아니라, 그 구조가 실제 compositional generalization 성능과도 관련이 있다는 점이 중요했습니다.

4.3 서로 다른 concept factor는 orthogonal한 경향

저자들은 factor들이 서로 얼마나 독립적인지도 확인했습니다.

Figure 10을 보면, 같은 concept 안의 factor들은 서로 유사한 방향을 가지는 반면, 서로 다른 concept 사이의 factor들은 cosine similarity가 낮게 나타났습니다. 즉, color factor와 shape factor처럼 서로 다른 concept은 비교적 orthogonal하게 배치되어 있었습니다.

저자들이 주장한 것처럼 서로 다른 concept 방향이 겹치지 않아야(orthogonal), 한 concept의 변화가 다른 concept 예측을 방해하지 않는다고 합니다.

4.4 Concept factor는 low-rank structure

마지막으로 저자들은 각 concept factor가 얼마나 많은 차원을 사용하는지 분석했습니다.

Figure 12를 보면, size, position, orientation처럼 연속적이거나 순서가 있는 concept은 비교적 낮은 차원으로 설명되었습니다. 예를 들어 size는 거의 한 방향으로 변하고, position도 적은 수의 principal component로 설명되는 경향을 보였습니다.

반면 character나 object처럼 더 복잡한 discrete concept은 더 높은 rank를 보였습니다. 이는 하나의 label 안에 여러 세부 속성이 함께 섞여 있기 때문일 수 있습니다.

정리하면, 실제 pretrained model들은 이론에서 요구한 구조를 완벽히 만족하지는 않았습니다. 하지만 embedding은 concept별로 어느 정도 선형적으로 분해되었고, 서로 다른 concept factor는 비교적 orthogonal했으며, 이러한 구조가 compositional generalization 성능과도 관련이 있었습니다.

따라서 이 섹션은 앞선 이론이 단순한 수학적 주장에 그치지 않고, 실제 CLIP, SigLIP, DINO 같은 모델의 representation에서도 부분적으로 관찰된다는 것을 보여주는 파트라고 볼 수 있습니다.

5. Discussion and conclusion

정리하면, 이 논문은 compositional generalization을 단순히 “새로운 조합을 잘 맞히는가?”라는 성능 문제로만 보지 않고, 그런 일반화가 가능하려면 representation이 어떤 구조를 가져야 하는지를 분석한 연구였습니다. 이를 위해, 저자들은 Divisibility, Transferability, Stability라는 조건을 정의하고, 이 조건들을 만족하려면 embedding이 concept별 factor의 합으로 선형적으로 분해되어야 하며, 서로 다른 concept 방향은 서로 간섭하지 않도록 orthogonal해야 한다고 주장했습니다. 또한 실제 CLIP, SigLIP, DINO 계열 모델에서도 이러한 구조가 완벽하진 않지만 부분적으로 나타나며, linear factorization 정도가 compositional generalization 성능과도 관련이 있음을 보였습니다.