Ollama 환경 변수 설정 가이드
Ollama의 환경 변수는 서비스 주소, 모델 경로, GPU/메모리 설정, 동시성 및 로그 관리 등을 구성하는 데 사용됩니다. 아래는 v0.1.30 이상 버전에서 지원되는 환경 변수와 그 용도에 대한 상세 정보입니다.
1. 필수 기본 설정
변수 이름
기본값
설명
예시
OLLAMA_SERVER
127.0.0.1:11434
서비스가 듣는 IP 주소와 포트를 지정합니다. 네트워크 접근을 허용하려면 0 ...
7월 10일 16:10에 게시됨
C++와 GPU 가속을 이용한 그래픽스 렌더링 성능 최적화
고성능 그래픽스 애플리케이션 개발에서 GPU 가속은 필수적입니다. 하지만 하드웨어의 잠재력을 최대한 끌어내기 위해서는 C++ 레벨에서의 정교한 제어와 최적화 전략이 뒷받침되어야 합니다. 다음은 렌더링 파이프라인의 병목 현상을 해결하기 위한 주요 기법들입니다.
1. CPU와 GPU 간의 데이터 전송 최소화
호스트(CPU)와 디바이스(GPU) 간의 데이터 복사는 상당한 지 ...
7월 3일 16:41에 게시됨
딥러닝 최적화를 위한 CUDA 커널 개발: PyTorch 환경에서의 3개월 마스터 로드맵
딥러닝 연구자에게 CUDA 커널 개발 능력은 프레임워크의 제약을 넘어 알고리즘 수준에서 성능 최적화를 달성할 수 있는 핵심 기술입니다. 본 가이드는 PyTorch 사용자들을 위해 메모리 최적화, 병렬 패턴 설계, 하이브리드 프로그래밍 인터페이스를 중심으로 3개월 만에 고성능 컴퓨팅 역량을 확보할 수 있는 학습 경로를 제시합니다.
1단계: GPU 컴퓨팅 패러다임 이해 및 ...
6월 2일 00:03에 게시됨