파인튜닝
Fine tuning
다른 표기: 미세 조정
이미 학습된 모델을 우리 데이터로 조금 더 학습시켜 우리 일에 맞추는 것.
처음부터 모델을 만드는 일은 데이터와 비용이 큽니다. 파인튜닝은 남이 만든 바탕 위에 우리 데이터를 얹는 방식이라 훨씬 적은 자원으로 우리 일에 맞출 수 있습니다.
말투나 형식을 고정할 때, 특정 분야의 용어를 잘 다루게 할 때 효과가 큽니다. 반대로 최신 사실을 넣는 데는 적합하지 않습니다. 그쪽은 검색을 붙이는 RAG 가 맞습니다.
데이터 품질이 결과를 결정합니다. 양이 적어도 일관된 예시가 낫고, 잘못된 예시는 그대로 학습됩니다.
- 언제형식과 말투를 고정해야 할 때.
- 대안사실을 다루려면 RAG, 간단한 조정이면 프롬프트.