Windows 11에서 Langchain-Chatchat을 활용한 대규모 모델 온라인 배포
Langchain-Chatchat 기반 로컬 검색 증강 생성 시스템 구축
Langchain-Chatchat(구: Langchain-ChatGLM)는 대규모 언어 모델과 랭체인 프레임워크를 결합해 오픈소스이며, 네트워크 없이도 독립 실행이 가능한 검색 기반 생성(RAG) 기능을 제공하는 지식 기반 시스템입니다. 본 문서에서는 Windows 11 환경에서의 설치 및 최적화 과정을 단계별로 설명합니다.
1. 환경 준비 ...
7월 18일 09:07에 게시됨
의료 기록 자동 생성을 위한 대형 언어 모델 활용
이 프로젝트는 Python의 transformers 라이브러리를 사용하여 로컬 환경에서 실행되는 ChatGLM-6B 대형 언어 모델을 활용해 환자의 진술 내용을 바탕으로 의료 기록을 자동으로 작성하는 기능을 구현합니다. 입력은 환자가 직접 기술한 증상 및 병력 정보이며, 출력은 JSON 형식의 구조화된 의료 기록입니다.
시스템 목적
환자가 병원에서 진료를 받기 위해 접수할 때, 먼 ...
6월 2일 16:57에 게시됨