우당탕탕 공부중

  • 홈
  • 태그
  • 방명록

2025/06/23 1

[Paper Review] Understanding and Mitigating Language Confusion in LLMs

0. Abstract현황LLM이 사용자가 원하는 언어로 일정하게 텍스트를 생성하지 못함.제안Language Confusion Benchmark(LCB)를 만들어 총 15개의 언어를 대상으로 영어/다국어 프롬프트를 사용하여 테스트 진행실험 결과LLaMA Instruct와 Mistral 모델이 Language confusion이 심함.Base Model과 영어 중심의 instruct 모델이 language confusion에 더 취약복잡한 prompt와 sampling temperature가 높을수록 혼동이 심해짐.few-shot prompt, 다국어 SFT(Supervised Fine-Tuning), 선호 조성(Preference Tuning)을 통해 부분적으로 완화 가능1. Introduction현황 및..

Paper Review 2025.06.23
이전
1
다음
더보기
프로필사진

우당탕탕 공부중

오리 공부하다. 개발자를 꿈꾸는 사람의 개인 공부 블로그입니다.

  • 공부 (73)
    • 개발 (12)
      • 스프링 부트 3 자바 백엔드 개발 입문 (2)
      • Flutter (2)
      • React-native (3)
      • Swift (5)
      • python (8)
    • 2-2 (4)
      • 컴퓨터네트워크 (4)
    • 3-2 (23)
      • 데이터베이스시스템 (19)
      • 기계학습이론 (4)
    • 프론트엔드 (0)
    • Paper Review (20)
    • INTERN (20)

Tag

티스토리챌린지, 스위프트, 편미분, query, 데베시, 한양대학교, Gradient descent, SQL, select, 파이썬, Swift, DATABASE, python, 백준, DB, 데이터베이스, 오블완, 선형회귀, 데이터베이스시스템, 머신러닝,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/06   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바