Docker를 이용한 Open WebUI 구축: Ollama 연동 및 데이터 관리 가이드
Open WebUI를 Docker 환경에서 배포할 때 가장 빈번하게 발생하는 세 가지 이슈는 이미지 다운로드 속도, 호스트의 Ollama 서비스 연동, 그리고 컨테이너 재시작 시의 데이터 보존입니다. 이 글에서는 효율적인 배포 프로세스와 설정 최적화 방법을 설명합니다.
1. 최적의 이미지 선택 및 다운로드
Open WebUI 공식 이미지는 GitHub Container Registry(GHCR)를 기반으로 ...
8월 11일 16:15에 게시됨
Dify와 온프레미스 LLM을 활용한 기업용 AI 문서 시스템 구축
기업 환경에서 방대한 내부 문서를 효과적으로 관리하고 필요한 정보를 신속하게 찾아내는 것은 중요한 과제입니다. 특히 민감한 사업 프로세스, 기술 솔루션, 고객 데이터 등이 포함된 문서는 클라우드 기반 서비스 사용 시 데이터 보안 및 규정 준수 문제에 직면할 수 있습니다. 이러한 요구사항을 충족시키기 위해 Dify와 온프레미스 대규모 언어 모델(LLM)을 결합하여 ...
7월 24일 21:30에 게시됨
Ollama를 활용한 DeepSeek-R1-Distill-Qwen-7B 로컬 추론 환경 구축 및 실행 가이드
DeepSeek-R1-Distill-Qwen-7B 모델 개요
DeepSeek-R1-Distill-Qwen-7B는 수학적 추론, 코드 생성, 그리고 논리적 문제 해결에 특화된 고효율 언어 모델입니다. Qwen2.5-Math-7B를 기반으로 지식 증류(Distillation) 기법이 적용되어, 7B라는 비교적 작은 파라미터 규모에서도 대형 모델에 버금가는 추론 성능을 발휘합니다. 이를 통해 고사양 하드웨어 없이도 로컬 환경에 ...
7월 20일 09:24에 게시됨
OpenClaw의 스킬 시스템 통합 가이드
2026년 기준으로, OpenClaw(및 유사 제품인 QClaw)는 구성과 스킬(기능) 시스템이 완성도가 매우 높아졌습니다. 텐센트 워크버디의 '투명한 박스' 방식과 달리, OpenClaw는 로컬에서 실행 가능한 Ollama 모델까지 지원하며 완전한 사용자 정의가 가능합니다.
다음은 OpenClaw에 설정을 추가하고 스킬을 활용하는 단계별 안내입니다.
1. 핵심 아키텍처 이해: 세 가지 주요 ...
7월 19일 19:55에 게시됨
SmallThinker-3B-Preview를 활용한 나만의 AI 초안 생성 엔진 구축하기
SmallThinker-3B-Preview 모델 개요
SmallThinker-3B-Preview는 Qwen2.5-3b-Instruct 모델을 기반으로 미세 조정된 경량 언어 모델입니다. 이 모델은 특히 리소스가 제한된 환경에서 효율적으로 작동하도록 설계되었으며, 두 가지 핵심적인 강점을 가지고 있습니다.
엣지 디바이스 최적화: 낮은 파라미터 수(3B) 덕분에 개인용 PC, 노트북, 심지어 모바일 기기에서도 ...
7월 19일 02:59에 게시됨
OpenClaw와 ollama-QwQ-32B 모델 연동 시 문제 해결 전략
LLM 모델 인터페이스 연동 시 디버깅의 중요성
대규모 언어 모델(LLM)을 자동화 솔루션에 통합하는 과정은 종종 예상치 못한 난관에 부딪히곤 합니다. 특히 OpenClaw와 같은 플랫폼을 사용하여 ollama-QwQ-32B와 같은 로컬 모델을 연동할 때, 연결 실패, 응답 지연, 그리고 예측 불가능한 결과는 개발자에게 큰 어려움을 안겨줍니다.
본 문서는 OpenClaw 환경에서 ollama-Q ...
7월 11일 18:07에 게시됨
OpenClaw 클라우드 샌드박스에서 GLM-4.7-Flash 자동화 체험하기
클라우드 환경을 선택하는 이유
로컬에서 AI 도구를 직접 구성해 본 경험이 있는 개발자라면 누구나 공감할 수 있을 것이다. 처음 OpenClaw를 로컬에 설치하려 했을 때, 단순한 Node.js 버전 충돌 해결만으로도 하루의 시간이 소요된 적이 있다. 하지만 별도 플랫폼에서 제공하는 OpenClaw + GLM-4.7-Flash 이미지를 발견하면서 더 이상 번거로운 설정 없이 바로 검증 가능 ...
7월 11일 17:30에 게시됨
Ollama 환경 변수 설정 가이드
Ollama의 환경 변수는 서비스 주소, 모델 경로, GPU/메모리 설정, 동시성 및 로그 관리 등을 구성하는 데 사용됩니다. 아래는 v0.1.30 이상 버전에서 지원되는 환경 변수와 그 용도에 대한 상세 정보입니다.
1. 필수 기본 설정
변수 이름
기본값
설명
예시
OLLAMA_SERVER
127.0.0.1:11434
서비스가 듣는 IP 주소와 포트를 지정합니다. 네트워크 접근을 허용하려면 0 ...
7월 10일 16:10에 게시됨
SpringBoot와 LangChain4j 기반 기업용 RAG 지식 시스템: 다중 도구 통합 솔루션
Spring Boot 4 + LangChain4j 1.11 + Ollama + Qdrant +MCP 기반 통합 다중 에이전트 지능 시스템, RAG 구축
본 기사는 기업급 프로젝트 경험을 바탕으로 재구성하고 개발한, 진정한 "즉시 사용 가능"한 기업용 지식 시스템입니다. 표준 RAG 질의응답을 지원하는 것을 넘어 에이전트 지능 아키텍처, MCP 파일 샌드박스, 금융 전용 연산자 및 하이브리드 모델 ...
7월 1일 18:24에 게시됨
대규모 언어 모델 기반 웹 스크레이핑: ScrapeGraphAI로 자동화된 데이터 추출 구현하기
AI 기술이 웹 크롤링을 어떻게 혁신하고 있는가?
복잡한 웹사이트에서 필요한 데이터를 추출하는 작업은 오랫동안 개발자의 수작업과 정교한 CSS 선택자, XPath 표현식에 의존해 왔습니다. 하지만 이제 대규모 언어 모델(LLM)의 발전으로 이 과정이 근본적으로 변화하고 있습니다. ScrapeGraphAI는 사용자가 자연어로 원하는 정보를 설명하면, 그에 맞춰 자동으로 스크레이 ...
6월 30일 21:29에 게시됨