Windows 11에서 Langchain-Chatchat을 활용한 대규모 모델 온라인 배포
Langchain-Chatchat 기반 로컬 검색 증강 생성 시스템 구축
Langchain-Chatchat(구: Langchain-ChatGLM)는 대규모 언어 모델과 랭체인 프레임워크를 결합해 오픈소스이며, 네트워크 없이도 독립 실행이 가능한 검색 기반 생성(RAG) 기능을 제공하는 지식 기반 시스템입니다. 본 문서에서는 Windows 11 환경에서의 설치 및 최적화 과정을 단계별로 설명합니다.
1. 환경 준비 ...
7월 18일 09:07에 게시됨
AI 에이전트와 엔지니어링 통합: 비즈니스 효율화 실전 사례
MCP 기반 지능형 알림 시스템 구축
비즈니스 배경 및 과제
데이터 제품에서 생성된 리포트 모니터링 작업에서 FBI 시스템은 다음과 같은 한계를 보였습니다:
표 형식 데이터를 Excel로만 내보내야 하며 프로그래밍 처리가 복잡
특정 조건 충족 시 선택적 알림 기능 부재
가공된 지표(예: 일간 변동률) 추출 불가
MCP 표준 프로토콜
MCP(Model Context Protocol)는 ...
7월 17일 03:36에 게시됨
강화된 RAG: 벡터 데이터베이스와 지식 그래프의 통합
전통 RAG의 한계
전통적인 RAG 아키텍처는 벡터 데이터베이스(VectorDB)를 중심으로 의미적 유사성 컨텍스트를 검색하여 대규모 언어 모델(LLM)이 재학습 없이 최신 지식을 얻을 수 있게 합니다. 이 아키텍처는 현재 다양한 AI 비즈니스 시나리오에서 널리 사용되고 있으며, 예를 들어 질담봇, 지능형 고객 서비스, 사설 지식库 검색 등이 있습니다.
RAG는 지식 강화를 통 ...
7월 2일 00:33에 게시됨
SpringBoot와 LangChain4j 기반 기업용 RAG 지식 시스템: 다중 도구 통합 솔루션
Spring Boot 4 + LangChain4j 1.11 + Ollama + Qdrant +MCP 기반 통합 다중 에이전트 지능 시스템, RAG 구축
본 기사는 기업급 프로젝트 경험을 바탕으로 재구성하고 개발한, 진정한 "즉시 사용 가능"한 기업용 지식 시스템입니다. 표준 RAG 질의응답을 지원하는 것을 넘어 에이전트 지능 아키텍처, MCP 파일 샌드박스, 금융 전용 연산자 및 하이브리드 모델 ...
7월 1일 18:24에 게시됨
RRF와 Cross-Encoder 재정렬 구현 방법
RRF(Reciprocal Rank Fusion)
다중 검색기(BM25, 임베딩 등)의 결과를 통합할 때 점수 척도가 달라 발생하는 문제를 해결합니다.
RRF 알고리즘 핵심
순위 기반 점수 계산 공식:
document_score = ∑(1 / (k + rank_position))
k는 일반적으로 60으로 설정하며, 상위 순위 문서에 가중치를 부여합니다.
Python 구현 예제
from collections import defaultdict
def combine_r ...
6월 14일 18:20에 게시됨
AWS Bedrock Knowledge Base Retriever를 활용한 RAG 애플리케이션 구축 가이드
서론
클라우드 환경에서 비공개 데이터를 활용해 머신러닝 모델을 빠르고 효율적으로 사용자 정의하는 것이 점점 더 중요해지고 있습니다. AWS는 Knowledge Bases for Amazon Bedrock이라는 강력한 도구를 제공하여 개발자가 RAG(Retrieval-Augmented Generation) 애플리케이션을 쉽게 구축할 수 있도록 지원합니다. 이 글에서는 AWS Bedrock Knowledge Base Retriever를 ...
6월 12일 01:16에 게시됨
에이전틱 RAG 구축 실전: LLM 기반 RAG와 AI 에이전트 통합 아키텍처
개요
본 글에서는 Retrieval-Augmented Generation(RAG)과 AI 에이전트(AI Agent) 개념을 결합한 에이전틱 RAG(Agentic RAG)에 대해 상세히 다룹니다. 먼저 RAG의 검색 증강 생성 원리와 AI 에이전트의 지각-의사 결정 메커니즘을 개별적으로 설명하고, LangChain과 LangGraph 프레임워크를 활용하여 문서 처리, 벡터 저장소 구축, 지능형 질의응답 시스템의 전체 구현 과 ...
6월 5일 23:38에 게시됨
LangChain4j의 RetrievalAugmentor 심층 분석
1. 핵심 개념
LangChain4j에서 RetrievalAugmentor는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 파이프라인의 핵심 진입점 컴포넌트입니다. 이 컴포넌트는 외부 지식 베이스에서 관련 콘텐츠를 동적으로 사용자 쿼리에 주입하여 LLM(대형 언어 모델)에 실시간 컨텍스트 지원을 제공합니다. RetrievalAugmentor의 주요 가치는 LLM의 정적 지식 한계 문제를 해결 ...
6월 5일 21:51에 게시됨
Spring Boot 3 + LangChain4j 통합을 활용한 의료 챗봇 시스템 개발
개요
본 문서는 Spring Boot 3와 LangChain4j를 결합하여 전문 의료 도우미 챗봇을 구현하는 과정을 설명합니다. 이 시스템은 대규모 언어 모델(LLM)의 인지 능력과 외부 데이터 소스 및 비즈니스 로직의 통합을 통해 복잡한 사용자 요청에 응답할 수 있습니다.
기반 기술 스택
Spring Boot 3.2.6: JDK 17 이상을 기반으로 하는 최신 애플리케이션 프레임워크.
L ...
6월 5일 21:10에 게시됨
Milvus 벡터 데이터베이스 실무: Java 연동 가이드
Milvus 핵심 개념
벡터 데이터베이스는 RAG 시스템에서 고차원 벡터를 저장하고 검색하는 핵심 요소입니다. Milvus는 대규모 벡터 처리를 지원하는 대표적인 오픈소스 솔루션입니다.
컬렉션: 벡터 데이터 집합(테이블 개념)
파티션: 쿼리 성능 향상을 위한 논리적 분할
벡터 필드: 다차원 벡터 저장 전용 필드
인덱스: 검색 효율 결정(IVF_FLAT, HNSW 등)
유사도 측정: 코 ...
6월 1일 18:38에 게시됨