2025 Coling (2)

RoBGuard: Enhancing LLMs to Assess Risk of Bias in Clinical Trial Documents

RoBGuard: Enhancing LLMs to Assess Risk of Bias in Clinical Trial Documents

기여점:

1. RoBGuard 프레임워크 제안
   • RoBGuard는 임상 시험 문서에서 **편향 위험(RoB)**을 평가하기 위해 의료 지식 강화 질문 재구성, 다중 문서 분석 및 다중 전문가 협업을 통합한 자동화된 시스템을 제시함.
   • RoB 2 툴을 자동화하여 임상 시험 문서의 편향을 정확하고 효율적으로 평가하고, 질문 해석과 문서 분석을 개선.
2. 의료 지식 기반 질문 재구성
   • RoB 2 항목에 대한 질문 재구성 과정을 개선하여 정확성과 효율성을 향상시킴. 외부 의료 지식을 활용하여 복잡한 질문을 단순화하고 정확한 평가를 가능하게 함.
3. 다중 문서 파싱 모듈
   • RCT 문서(텍스트, 표, 흐름도 등) 내 중요한 편향 관련 정보를 추출하기 위해 다중 모달 데이터를 처리하는 모듈을 도입. 위치 기반 의사결정 및 다중 모달 협조 메커니즘을 통해 문서의 정확한 이해를 돕습니다.
4. 다중 전문가 협업
   • 연구자, 임상 의사, 검토자 등 다양한 전문가들이 협업하여 객관적이고 일관성 있는 평가를 제공하도록 설계된 시스템을 제시. 이 방법은 주관적인 해석의 영향을 줄여 더 신뢰할 수 있는 결론을 도출.
5. RoB-Item 및 RoB-Domain 데이터셋 개발
   • RoB 2 평가를 위한 새로운 데이터셋을 소개, 의료 문서에 대한 평가를 위한 정교한 항목별 데이터와 도메인별 평가 데이터를 포함한 두 가지 데이터셋을 제공.
6. 실험 결과
   • RoBGuard는 Llama와 GPT-4o와 같은 기존 모델들에 비해 편향 평가에서 우수한 성능을 보였으며, 특히 복잡한 RoB 2 항목에 대한 성능이 뛰어났음.

---

왜 이 논문이 accepted되었는가:

• 의료 임상 연구에서의 RoB 평가를 자동화하는 새로운 접근법을 제시하였으며, 기존의 수동적인 평가 방식을 대체할 수 있는 효율적이고 신뢰할 수 있는 시스템을 제시.
• 다중 모달 데이터 처리 및 전문가 협업을 통해 정확성과 일관성을 높이는 혁신적인 방법론.
• RoB 2 툴을 자연어 처리 모델을 활용하여 자동화하고 개선한 점이 이 논문의 주요 기여로 평가됨.

---

한계점:

1. 복잡한 항목 처리
   • RoB 2 항목 중 복잡한 다단계 질문을 처리하는 과정에서 기계적 해석의 한계로 인해 정확도 저하가 있을 수 있음. 특히, 문서 내 여러 영역에서 발생하는 다양한 편향을 완벽하게 추적하는 데 한계가 있음.
2. 단순한 항목에서 성능 차이
   • 단순한 질문 항목에서는 성능 향상이 미미한 경우가 있었으며, 효율성을 높이기 위한 모듈 최적화가 필요함.
3. 다양한 도메인과 언어에 대한 확장성 부족
   • 현재 연구는 주로 영어 및 의료 도메인에 집중되어 있으며, 다양한 도메인과 다양한 언어로의 확장성에 대한 추가 연구가 필요.

FTFT: Efficient and Robust Fine-Tuning by Transferring Training Dynamics

FTFT: Efficient and Robust Fine-Tuning by Transferring Training Dynamics

기여점:

1. FTFT(Training by Transferring Training Dynamics) 접근법 제안
   • FTFT는 fine-tuning 과정에서 발생하는 훈련 비용을 절감하면서도 모델의 견고성을 향상시킬 수 있는 새로운 방법론을 제시.
   • 기존 dataset cartography의 두 모델 접근법을 개선하여 효율적인 참조 모델을 사용하고, 과도한 훈련 단계 중단을 통해 훈련 속도를 높임.
2. 훈련 동적 전이(Training Dynamics Transferability)
   • 훈련 동적 전이가 모델 크기와 사전 학습 방법을 넘어 효율적으로 전이 가능함을 보여줌. 이로써 소형 모델을 참조 모델로 사용하여 대형 모델을 학습할 수 있게 되며, 모델 효율성을 크게 개선.
   • 훈련 동적 전이가 가능한 경우, 소형 참조 모델은 어려운 학습 사례를 잘 식별할 수 있기 때문에 훈련 효율성이 향상됨.
3. 훈련 속도 개선
   • 훈련 단계가 줄어들 때에도 향상된 성능을 보임. 데이터 선택을 기반으로 학습한 모델은 기존 ERM보다 더 빠르게 성능을 개선하며, 훈련 비용을 50% 이상 절감함.
4. 성능 평가
   • NLI, HSD와 같은 주요 NLP 작업에서 FTFT는 기존 ERM에 비해 Out-Of-Distribution (OOD) 입력에 대해 더 나은 성능을 보였으며, 훈련 비용을 크게 줄였음.
   • 다양한 PLM 모델을 참조 모델로 사용하여, 훈련 동적 전이가 여러 모델 크기와 사전 학습 방법에서도 일관되게 효과적임을 입증.
5. 학습 동적 전이의 조건
   • 약한 참조 모델을 사용할 경우, 훈련 동적 전이가 성공적인 전이로 이어지기 위해서는 참조 모델이 합리적으로 강력해야 함을 명확히 정의.

---

왜 이 논문이 accepted되었는가:

• 훈련 효율성과 모델 견고성을 절반의 훈련 비용으로 향상시키는 새로운 방법론을 제시한 점에서 큰 기여가 있었음.
• 훈련 동적 전이가 모델 크기와 사전 학습 방법을 넘어 훈련 효율성을 개선하는 방식은 실용적이고, 다양한 NLP 작업에서의 성능을 입증함.
• 적극적인 조기 중단을 통해 모델 훈련 효율성을 최적화하며, 훈련 속도를 높인 방법론이 업계와 연구에 실질적인 기여를 할 수 있음.

---

한계점:

1. 참조 모델의 선택
   • 효율적 참조 모델의 선택이 훈련 동적 전이의 성공에 중요한 영향을 미친다고 밝혀졌으며, 더 효율적이고 강력한 참조 모델을 선택하는 구체적인 프로토콜 개발이 필요.
2. 이론적 기초 부족
   • 훈련 동적 전이의 이론적 근거와 데이터 맵(DM)의 전이가 항상 성공적인지에 대한 이론적 검증이 부족함. 이 부분에 대한 추가 연구가 필요.
3. 생성 작업에 대한 확장성 부족
   • 현재 분류 작업에서 성능을 입증했으나, 생성 작업(예: 언어 모델링, 지침 따르기 등)으로의 확장에 대한 연구가 필요.

Relation Logical Reasoning and Relation-aware Entity Encoding for Temporal Knowledge Graph Reasoning

Relation Logical Reasoning and Relation-aware Entity Encoding for Temporal Knowledge Graph Reasoning

기여점:

1. Temporal Knowledge Graph Reasoning (TKGR) 개선을 위한 새로운 모델 제안 (RLLE)
   • 기존의 임베딩 기반 TKGR 모델들은 개별 엔티티와 관계의 구조만을 고려했으나, RLLE는 관계 논리 추론과 관계 인식 엔티티 인코딩을 통해 **시간적 지식 그래프(TKG)**의 예측 정확도를 크게 향상시켰습니다.
   • RLLE는 두 개의 주요 모듈을 포함하여, 관계 논리 추론을 통해 다양한 관계 간의 잠재적 논리적 상관관계를 학습하고, 관계 인식 주의 메커니즘을 통해 쿼리 관계에 맞춘 엔티티 임베딩을 학습합니다.
2. 관계 논리 추론
   • RLLE는 관계 추론 경로를 추출하여 역사적 관계와 예측 관계 간의 논리적 상관관계를 학습합니다. 이를 통해 관계 임베딩을 학습하고, 시간적 정보를 기반으로 미래 이벤트를 예측합니다.
3. 관계 인식 엔티티 인코딩
   • RLLE는 관계별 엔티티 임베딩을 학습하여 엔티티의 역할이 변화하는 상황을 반영합니다. 이를 통해 엔티티가 다양한 관계에서 어떻게 다르게 작용하는지에 대한 정확한 표현을 생성합니다.
4. 기존 모델들과 비교한 성능 향상
   • ICEWS14, ICEWS18, ICEWS0515, WIKI, YAGO 데이터셋을 사용하여 RLLE가 기존 모델들보다 우수한 성능을 보였음을 입증하였습니다. MRR, H@1, H@3, H@10 등 다양한 평가 지표에서 RLLE가 다른 모델들을 초과하는 성과를 기록하였습니다.
5. 시간적 정보와 복잡한 관계 처리
   • RLLE는 시간적 정보와 복잡한 관계를 효과적으로 처리하여, 실제 사건과 미래 사건을 예측하는 데 뛰어난 성능을 보입니다.

---

왜 이 논문이 accepted되었는가:

• TKGR에서 관계 논리 추론과 엔티티 인코딩을 개선하는 새로운 모델을 제시하며, 다중 관계와 시간적 정보를 고려하여 미래 예측을 보다 정확하게 수행할 수 있다는 점에서 큰 기여가 있었음.
• 기존 모델들의 한계를 명확히 지적하고, RLLE가 논리적 상관관계와 시간적 관계를 효과적으로 처리하는 방식은 TKGR 문제 해결에 중요한 발전을 이루었음.
• 다양한 데이터셋에서 우수한 성능을 보였으며, 실험적 결과를 통해 모델의 실용성을 입증함.

---

한계점:

1. 시간적 관계 모델링의 복잡성
   • 시간적 관계를 모델링하는 과정에서 복잡한 시간 추적이나 다양한 시간 단위에 대한 세밀한 처리가 부족할 수 있습니다. 이는 대규모 데이터셋에서 성능 저하를 초래할 수 있습니다.
2. 복잡한 데이터셋에서의 확장성
   • 다양한 관계와 복잡한 데이터셋에서는 RLLE가 여전히 성능을 유지하기 어려운 경우가 있을 수 있으며, 엔티티와 관계 간의 상관관계를 학습하는 과정에서 한계가 있을 수 있습니다.
3. 모델 학습 시간과 자원 소모
   • RLLE의 훈련에는 상당한 계산 자원과 시간이 소요될 수 있으며, 효율적인 학습 방법과 자원 최적화가 필요한 상황이 발생할 수 있습니다.

Awakening Augmented Generation: Learning to Awaken Internal Knowledge of Large Language Models for Question Answering

Awakening Augmented Generation: Learning to Awaken Internal Knowledge of Large Language Models for Question Answering

기여점:

1. Awakening-Augmented-Generation (AAG) 프레임워크 제안
   • AAG는 외부 지식 리소스에 의존하지 않고 LLMs 내부 지식을 활성화하여 **질문 응답(QA)**에서 성능을 향상시키는 새로운 접근법입니다. 이 모델은 단기적 문서 생성(explicit awakening)과 질문에 맞춘 하이퍼네트워크 기반 어댑터 생성(implicit awakening)을 결합하여 효율적인 지식 보강을 실현합니다.
2. 지식 활성화 메커니즘
   • Explicit awakening은 문맥 생성기를 사용하여 압축된 더미 문서를 생성하고, Implicit awakening은 하이퍼네트워크를 사용하여 각 질문에 맞는 매개변수 어댑터를 생성, 이를 LLM에 삽입하여 지식 활성화를 강화합니다.
3. 성능 향상
   • AAG는 기존의 Retrieval-Augmented Generation (RAG) 및 Generation-Augmented Generation (GAG) 방법들과 비교하여 문서 수가 적음에도 불구하고 성능을 상위 수준으로 향상시켰습니다. 또한, 추론 시간과 비용을 크게 절감하면서 정확도를 유지했습니다.
4. 실험 결과
   • NQ, TriviaQA, WebQ 데이터셋에서 AAG는 RAG와 GAG 방법보다 뛰어난 정확도(EM) 성과를 달성했으며, 특히 제로샷 설정에서도 두 가지 모델을 능가하는 성능을 보였습니다.
5. 비교와 장점
   • AAG는 효율적인 문서 처리와 강화된 지식 활용을 통해 컴퓨팅 비용을 절감하며, 다양한 QA 설정에서 강력한 성능을 나타냄. 또한, 지식 활성화를 통한 성능 향상은 RAG나 GAG에서 하드 코딩된 문서를 사용하는 것에 비해 우수한 결과를 도출했습니다.

---

왜 이 논문이 accepted되었는가:

• AAG는 LLMs의 내부 지식 활성화를 통해 외부 리소스에 의존하지 않고 효율적으로 성능을 향상시키는 새로운 방법론을 제시하였음.
• Explicit awakening과 Implicit awakening의 결합으로 질문에 맞는 지식 활성화를 성공적으로 구현하여, 기존 방법들보다 빠르고 효율적인 성능 향상을 보였음.
• 비용 효율성을 강조하며, 기존 모델들을 능가하는 성능을 유지하면서도 추론 시간과 비용을 줄일 수 있는 가능성을 제시한 점이 높이 평가됨.

---

한계점:

1. 외부 지식에 대한 의존성 문제
   • 외부 지식이 필요하지 않다는 장점에도 불구하고, 전문적이고 구체적인 도메인(예: 최신 과학적 발견)에 대한 한계가 있을 수 있음.
   • 모델이 새로운 지식을 빠르게 적응하거나 갱신하는 데 어려움이 있을 수 있음.
2. 멀티모달 확장성 부족
   • 현재 모델은 단일 텍스트 기반의 문서만을 처리하며, 멀티모달 정보(예: 이미지, 비디오 등)를 다루는 데 한계가 있음. 이 부분에 대한 연구가 필요.
3. 복잡한 질문에 대한 처리 한계
   • 단기 문서와 하이퍼네트워크 어댑터가 복잡한 질문에 대해서는 여전히 완벽하지 않은 성능을 보일 수 있으며, 이는 모델의 일관성 부족에서 기인할 수 있음.

ITERATE: Image-Text Enhancement, Retrieval, and Alignment for Transmodal Evolution with LLMs

ITERATE: Image-Text Enhancement, Retrieval, and Alignment for Transmodal Evolution with LLMs

기여점:

1. ITERATE 프레임워크 제안
   • ITERATE는 질문 응답(QA) 과제를 해결하기 위해 이미지-텍스트 모달 간 정렬 및 최적화를 수행하는 혁신적인 방법론입니다. 이 모델은 **진화 알고리즘(EA)**의 개념을 도입하여, 이미지 검색 및 품질 향상을 반복적으로 진행하고, 이미지 클러스터를 계속해서 개선합니다.
   • LLMs(대형 언어 모델)를 진화 연산자로 사용하여 이미지-텍스트 쌍에 대한 최적의 이미지를 선택하고, 멀티모달 모델을 사용하여 이미지 설명을 추출한 뒤 이를 기반으로 이미지 검색을 반복합니다.
2. 진화 알고리즘 기반 이미지 검색
   • 초기에는 키워드 추출을 통해 이미지를 검색하고, 각 이미지에 대한 설명을 통해 새로운 키워드를 생성합니다. 이후 생성된 키워드를 통해 이미지를 검색하고, 기존 이미지 클러스터를 업데이트하며 이미지 품질을 지속적으로 향상시킵니다.
   • 이미지와 텍스트 간의 관계를 기반으로 최적의 이미지를 찾기 위한 반복적인 최적화 과정이 핵심입니다.
3. 다중 모달 학습의 확장성
   • ITERATE는 텍스트-이미지 일치를 통해 모델의 성능을 향상시키며, 특히 단일 텍스트 QA 모델의 성능을 크게 개선할 수 있습니다. 또한, 이미지-텍스트 연관성을 진화적 방법을 통해 강화하여 추론 능력을 높이는 데 기여합니다.
4. 실험 결과
   • ITERATE는 ScienceQA, ARC-Easy, OpenDataEval 데이터셋에서 기존 모델들을 능가하는 성능을 보였으며, 이미지와 텍스트 간의 정확한 정렬이 성능 향상에 기여함을 입증했습니다.
   • 특히, ScienceQA에서 이미지 정보를 추가한 후 모델 성능이 5-7% 향상되었으며, ARC-Easy와 OpenDataEval에서도 성능이 개선되었습니다.
5. 반복적 최적화 및 성능 향상
   • ITERATE는 반복적인 최적화를 통해 성능을 진화적으로 개선하며, 이미지-텍스트 일치를 강화하여 QA 모델의 정확도를 높였습니다. ITERATE가 이미지 품질을 지속적으로 개선하는 과정에서 모델이 이미지와 텍스트 간의 관계를 더 잘 학습합니다.

---

왜 이 논문이 accepted되었는가:

• ITERATE는 진화 알고리즘을 활용하여 이미지 검색과 이미지 품질 개선을 반복적으로 수행하는 혁신적인 방법을 제시하였으며, 다양한 QA 데이터셋에서 기존 모델들보다 뛰어난 성능을 입증함.
• 이미지-텍스트 연관성을 지속적으로 개선하는 방법론은 QA 모델의 성능을 향상시킬 수 있는 효율적인 전략을 제공.
• 반복적 최적화 기법을 통한 진화적 이미지 선택은 모델이 다양한 도메인에서 잘 동작할 수 있도록 도와줌.

---

한계점:

1. 반복적 최적화에 따른 계산 자원 소모
   • ITERATE는 반복적인 이미지 검색과 최적화 과정을 요구하므로, 훈련 시간과 계산 자원 소모가 커질 수 있습니다. 이는 대규모 데이터셋에서는 효율성을 저하시킬 가능성이 있습니다.
2. 이미지-텍스트 일치의 정확도 한계
   • 이미지와 텍스트의 관계를 최적화하는 과정에서 완벽한 일치를 보장하기 어렵습니다. 특히 복잡한 텍스트-이미지 쌍에서 정확한 일치를 찾는 데 어려움이 있을 수 있습니다.
3. 다양한 도메인 적용에 대한 한계
   • ITERATE는 단일 도메인에 대한 성능 최적화에 초점을 맞췄으나, 다양한 도메인(예: 의료, 법률 등)에서의 적용 가능성을 확장하려면 추가적인 연구가 필요합니다.

CAST: Cross-modal Alignment Similarity Test for Vision Language Models

CAST: Cross-modal Alignment Similarity Test for Vision Language Models

기여점:

1. CAST 평가법 제안
   • CAST(Cross-modal Alignment Similarity Test)는 **Vision-Language Models (VLMs)**의 **자기 일관성(self-consistency)**을 평가하는 새로운 방법론입니다. 이 방법은 VLMs가 이미지-텍스트 간에 일관된 출력을 생성하는지 확인합니다.
   • CAST는 이미지와 텍스트 사이의 유사성을 평가하고, 자기 일관성의 결여를 탐지하기 위해 이미지와 텍스트 쌍에 대한 유사성 생성과 평가를 두 단계로 나누어 수행합니다.
2. 자기 일관성 평가
   • VLM이 이미지와 텍스트 간의 유사성을 생성하고 이를 평가하는 과정에서 발생할 수 있는 모달리티 불일치나 편향을 식별합니다.
   • VLMs는 다양한 입력(텍스트 전용, 이미지 전용, 이미지와 텍스트 결합)을 통해 생성된 유사성 진술을 평가하며, 일관성 있는 모델은 여러 입력 방식에 대해 일관된 출력을 제공해야 합니다.
3. 실험 및 결과
   • DOCCI 데이터셋을 사용하여 VLMs의 자기 일관성을 평가한 결과, 대부분의 VLMs가 일관성 결여를 보였으며, VLMs의 상호 모달리티 이해에서 문제를 발견할 수 있었습니다.
   • GPT-4o-Mini와 MiniCPM 모델은 다른 모델보다 일관성이 뛰어난 성능을 보였습니다. 그러나 LLaVA-1.6과 InternVL2는 추가적인 세대 생성(multiple iterations)에서 일관성이 급격히 저하되었습니다.
4. 모델 평가 및 결과 분석
   • 자기 일관성 평가에서 이미지와 텍스트 간의 유사성을 생성하는 자기 평가 방식이 모델 성능의 중요한 평가 기준이 되었으며, 모달리티 간 일관성이 높을수록 모델의 추론 안정성이 강화됨을 보여주었습니다.

---

왜 이 논문이 accepted되었는가:

• **자기 일관성(self-consistency)**을 평가하는 새로운 CAST 방법론은 VLMs가 다양한 모달리티(이미지, 텍스트) 간 일관된 추론을 생성하는지 측정할 수 있는 중요한 도구를 제공합니다. 이 평가 방법은 모델의 견고성과 신뢰성을 평가하는 데 필수적인 요소입니다.
• 기존 VLMs 평가 방법은 정확도에만 초점을 맞추었으나, CAST는 모델이 정확한 출력을 생성하는지뿐만 아니라 생성된 결과가 모달리티 간 일관성이 있는지도 평가합니다.
• 자기 일관성을 강조한 접근법은 기계 학습 모델의 편향과 **허위 생성(hallucination)**을 줄이는 데 중요한 기여를 합니다.

---

한계점:

1. 자기 일관성만으로는 모델의 성능을 완전히 평가할 수 없음
   • CAST는 정확도보다는 자기 일관성에 초점을 맞추지만, 모델의 실제 유용성이나 정확한 답변을 평가하는 데는 한계가 있을 수 있습니다.
2. 이미지-텍스트 간의 잘못된 일치 문제
   • 이미지와 텍스트 간의 불일치가 발생할 수 있으며, 이는 모델 훈련 시 데이터셋의 편향이나 불완전한 라벨링에서 기인할 수 있습니다. 이로 인해 모델의 성능이 떨어질 수 있습니다.
3. 모델의 샘플 크기
   • 실험에서 사용된 100개의 샘플은 충분히 다양한 데이터를 대표하지 않을 수 있으며, 더 많은 샘플이 필요할 수 있습니다.

Investigating the Contextualised Word Embedding Dimensions Specified for Contextual and Temporal Semantic Changes

Investigating the Contextualised Word Embedding Dimensions Specified for Contextual and Temporal Semantic Changes

기여점:

1. SCWE(Sense-Aware Contextualised Word Embeddings)의 차원 분석
   • SCWEs는 **문맥에 따른 의미 변화(contextual semantic change)**와 **시간에 따른 의미 변화(temporal semantic change)**를 반영하여 단어의 의미를 동적으로 학습합니다. 이 논문에서는 SCWE가 문맥적 및 시간적 의미 변화를 어떻게 내포하는지에 대해 분석하였으며, **주성분 분석(PCA)**과 **독립 성분 분석(ICA)**을 통해 의미 변화를 처리하는 차원들을 파악합니다.
2. PCA와 ICA의 비교 분석
   • PCA는 시간적 및 문맥적 의미 변화를 반영하는 축을 잘 발견하는 반면, ICA는 주제 관련 축을 잘 포착한다고 알려져 있지만, 의미 변화와 관련된 차원에서는 PCA가 더 효과적임을 보였습니다. PCA를 통해 상위 10%의 축만 사용하여도 우수한 성과를 얻을 수 있음을 입증했습니다.
3. SCWE와 CWE 차원의 변화
   • 미리 훈련된 CWEs와 fine-tuned SCWEs를 비교한 결과, SCWE는 문맥적 및 시간적 의미 변화에 특화된 축을 fine-tuning 과정에서 비로소 활성화한다는 것을 확인했습니다. PCA를 통해 상위 10% 축만을 사용해도 성능 향상이 가능하다는 점을 강조했습니다.
4. 실험적 결과
   • WiC, XL-WiC, MCL-WiC, AM2iCo 데이터셋을 사용하여, SCWE는 미리 훈련된 CWEs보다 시간적 및 문맥적 의미 변화를 더 잘 반영하며, 상위 10%의 PCA 축이 성능 향상을 가져오며, ICA가 문맥적 의미 변화에는 효과적이지 않음을 보였습니다.
5. 기존 작업과의 차별화
   • PCA가 문맥적 의미 변화를 잘 포착하는 반면, ICA는 주제 관련 차원들을 더 잘 추출하는데 적합하다는 점에서 기존 연구와의 차별화를 보였습니다. 이 연구는 기계 학습 모델에서 의미 변화를 모델링할 때 PCA의 효과성을 입증하였습니다.

---

왜 이 논문이 accepted되었는가:

• 문맥적 및 시간적 의미 변화를 PCA와 ICA를 통해 체계적으로 분석한 점에서 의미 변화에 대한 새로운 통찰을 제공하였으며, PCA의 효율성을 강조하여 Semantic Change Detection (SCD) 작업에서 중요한 기여를 했습니다.
• SCWE 모델의 fine-tuning 과정을 통해 의미 변화를 더 잘 반영하는 방법론을 제시하고, PCA를 활용하여 효율적인 모델 압축 방법을 제공한 점에서 실용적인 기여가 있었습니다.
• SCD 작업에서 PCA를 사용하여 상위 10% 차원으로 성능 향상을 이룬 실험적 결과가 강력한 실용성을 보여주었습니다.

---

한계점:

1. 단어 의미 변화의 일반화 한계
   • PCA가 효과적이지만, ICA와 비교했을 때 모든 도메인에서 문맥적 의미 변화에 대해 항상 우수한 성과를 보이는 것은 아니며, 더 다양한 도메인에 대해 실험이 필요합니다.
2. 데이터셋에 대한 의존성
   • 실험은 WiC, MCL-WiC 등 특정 데이터셋을 사용하여 수행되었으므로, 다양한 언어와 도메인에서의 일반화 가능성에 대한 추가 연구가 필요합니다.
3. 문맥적 의미와 시간적 의미 변화 간의 경계 모호성
   • 문맥적 의미 변화와 시간적 의미 변화의 경계가 모호할 수 있으며, 이를 보다 명확히 구분하는 기술적 접근이 요구됩니다.