논문 리뷰약 17분
논문 리뷰: Zero-Shot Contextual Embeddings via Offline Synthetic Corpus Generation
실제 코퍼스에 접근하지 않고도, LLM이 생성한 합성 프록시 코퍼스만으로 컨텍스트 기반 임베딩 모델을 도메인에 적응시키는 프레임워크
Tags /
2개의 글
실제 코퍼스에 접근하지 않고도, LLM이 생성한 합성 프록시 코퍼스만으로 컨텍스트 기반 임베딩 모델을 도메인에 적응시키는 프레임워크
Qwen3 파운데이션 모델 위에 다단계 학습 파이프라인과 대규모 합성 데이터, 모델 머징을 결합하여 텍스트 임베딩과 리랭킹 모두에서 SOTA를 달성한 오픈소스 모델 시리즈.