Spring AI에서 커스텀 Advisor로 인터셉터 구현하기
커스텀 Advisor의 개념과 활용
Servlet 및 Spring AOP를 경험한 개발자라면 요청/응답을 가로채는 기능에 익숙할 것이다. 예를 들어, 로그 기록, 인증 처리 등이 대표적이다.
Spring AI의 Advisor는 이러한 인터셉터 역할을 수행하며, AI 호출 전후에 추가적인 처리를 가능하게 한다. 주요 용도는 다음과 같다:
호출 전: 사용자 입력 검증, 권한 확인, Prompt 변환 등
...
7월 10일 06:00에 게시됨
LLaMA-Factory와 Ollama, SpringAI를 활용한 맞춤형 미세조정 모델 구축
초기 설정 및 환경 구성
모델의 전반적인 성능을 향상시키기 위해 전체 사전 학습 파라미터를 재학습하는 것은 비용과 시간 측면에서 부담이 큽니다. 이를 해결하기 위해 LoRA( Low-Rank Adaptation) 기법을 활용한 미세조정이 주목받고 있으며, 이는 특정 도메인에 특화된 지식을 모델에 통합할 수 있게 해줍니다. 예를 들어, 채용 관련 작업에서는 지원자 역량 평가나 직 ...
5월 28일 21:42에 게시됨