kangnlp

Byungha Kang

NLP Researcher · AI Engineer @ Nurimedia(DBpia)

임베딩과 검색, LLM을 다루는 AI 엔지니어입니다. NLP로 석사를 마쳤고, 지금은 Nurimedia(DBpia)에서 일합니다. 읽은 논문이 휘발되는 게 아까워서 여기에 리뷰를 남기고, 일하며 배운 것들을 기록합니다.

Recent Writing

전체 보기 →
논문 리뷰약 58분

논문 리뷰: On the Robustness of LLM-Based Dense Retrievers: A Systematic Analysis of Generalizability and Stability

오픈소스 LLM 기반 dense retriever 6종을 BM25, 인코더 모델 2종과 함께 30개 데이터셋, 5가지 쿼리 변형, 2가지 코퍼스 포이즈닝 위협 모델 위에서 시험해, "리더보드 상위 LLM 리트리버는 실제로 얼마나 강건한가"를 일반화성(generalizability)과 안정성(stability) 두 축으로 해부한 체계적 분석 논문.

논문 리뷰약 27분

논문 리뷰: CharacterBERT and Self-Teaching for Improving the Robustness of Dense Retrievers on Queries with Typos

검색창에 "infromation retrieval"이라고 오타를 낸 적이 있을 것이다. 구글이나 빙이라면 대개 "혹시 이걸 찾으셨나요?"라며 알아서 교정해 준다. 그런데 요즘 검색 시스템의 1차 후보 생성을 책임지는 밀집 검색기(Dense Retriever, DR)는 이 한 글자 오타에 의외로 취약하다. BERT로 쿼리와 문서를 벡터로 바꾸고 벡터 유사도로