Chat형식의 lora 파인튜닝

#2
by kfkas - opened

< / s >를 마지막에 넣어도 등장이 된걸 본적이 없습니다. 혹시 한국어 pretraining할때 < / s >토큰을 사용하지 않았나요?

kfkas changed discussion status to closed

@kfkas 안녕하세요 저도 동일한 증상을 겪고있는데 혹시 어떻게 해결하셨을지 여쭤봐도될까요?

@The-matt 직접적으로 < / s > 토큰을 텍스트 마지막에 삽입하였습니다.

kfkas changed discussion status to open
kfkas changed discussion status to closed

@kfkas 감사합니다!

Sign up or log in to comment