LLaMA-Factory와 Ollama, SpringAI를 활용한 맞춤형 미세조정 모델 구축
초기 설정 및 환경 구성
모델의 전반적인 성능을 향상시키기 위해 전체 사전 학습 파라미터를 재학습하는 것은 비용과 시간 측면에서 부담이 큽니다. 이를 해결하기 위해 LoRA( Low-Rank Adaptation) 기법을 활용한 미세조정이 주목받고 있으며, 이는 특정 도메인에 특화된 지식을 모델에 통합할 수 있게 해줍니다. 예를 들어, 채용 관련 작업에서는 지원자 역량 평가나 직 ...
5월 28일 21:42에 게시됨
WeKnora로 구축하는 즉석 지식베이스 질의응답 시스템
복잡한 문서나 긴 보고서에서 특정 정보를 찾는 데 어려움을 겪은 적이 있습니까? 일반적인 AI 도우미는 종종 잘못된 정보를 제공하거나 맥락에 맞지 않은 답변을 하기도 합니다. 이러한 문제를 해결하기 위해 WeKnora를 소개합니다.
1. 왜 WeKnora인가?
WeKnora는 단순한 챗봇이 아닌, Ollama 프레임워크 기반의 즉시 지식 기반 질의응답 시스템입니다. 주어진 텍스트를 ...
5월 21일 21:23에 게시됨