Windows 11에서 Langchain-Chatchat을 활용한 대규모 모델 온라인 배포
Langchain-Chatchat 기반 로컬 검색 증강 생성 시스템 구축
Langchain-Chatchat(구: Langchain-ChatGLM)는 대규모 언어 모델과 랭체인 프레임워크를 결합해 오픈소스이며, 네트워크 없이도 독립 실행이 가능한 검색 기반 생성(RAG) 기능을 제공하는 지식 기반 시스템입니다. 본 문서에서는 Windows 11 환경에서의 설치 및 최적화 과정을 단계별로 설명합니다.
1. 환경 준비 ...
7월 18일 09:07에 게시됨
MogFace 얼굴 감지 도커 이미지의 초당 로딩 성능: 5초 내 모델 완전 로드
고성능 얼굴 감지 도커 이미지의 즉시 사용 가능성
본 도구는 CVPR 2022 논문에서 제안된 최신 얼굴 감지 모델을 기반으로 개발된 로컬용 툴입니다. 특히 PyTorch 2.6+ 환경에서 오래된 모델을 로드할 때 발생하는 호환성 문제를 해결하기 위해 최적화된 컨테이너 이미지를 제공합니다. 모든 종속성과 모델 파일이 미리 패키징되어 있어, 설치 후 바로 사용 가능한 완전 ...
5월 28일 12:16에 게시됨