Ubuntu 초기 설정 및 시스템 관리 가이드
기본 키보드 단축키 정리
화면 잠금: Win + L
터미널 열기: Ctrl + Alt + T
어플리케이션 메뉴 표시: Win + A
열린 창 모두 보기: Win + W
명령 실행창 열기: Alt + F2
터미널 콘솔 전환: Ctrl + Alt + F1 ~ F6 (텍스트 모드), Ctrl + Alt + F7 (그래픽 환경 복귀)
GPU 정보 확인 방법
시스템 내 장치의 VGA 컨트롤러 정보를 조회하려면 다음 명령을 사용합 ...
7월 14일 17:10에 게시됨
PyTorch-CUDA 이미지를 활용한 AutoML 자동 하이퍼파라미터 탐색
PyTorch-CUDA 이미지를 활용한 AutoML 자동 하이퍼파라미터 탐색
AI 개발에서 시간은 모델의 반복 업데이트 속도를 결정하는 중요한 요소입니다 ⏳.
때로는 잘 설계된 하이퍼파라미터 탐색 전략이 첫 번째 실험에서 "CUDA 드라이버 버전이 부족합니다"라는 오류로 중단되곤 합니다 😱. 또는 다른 머신에서 실행 결과가 재현되지 않아 팀 내에서 논란이 발생하기 ...
7월 14일 16:35에 게시됨
PaddleOCR 설치와 이미지 문자 인식 빠른 시작 가이드
1. Python 환경 설정
먼저 Python 3.8.5를 다운로드하여 설치합니다:
wget https://mirrors.huaweicloud.com/python/3.8.5/Python-3.8.5.tgz
다운로드 완료 후 압축을 풀고, 컴파일 및 설치를 진행합니다.
2. PaddlePaddle GPU 버전 설치
참고 문서:
간편 가이드: PaddleOCR Quick Start
공식 문서: PaddlePaddle 설치
GPU 버전을 사용하려면 CUDA가 필요합니다. 먼저 ...
7월 13일 16:39에 게시됨
GPU 서버에서 Miniconda로 대규모 언어 모델 서비스 구축하기
개요
로컬에서는 잘 동작하던 대규모 언어 모델(LLM)이 GPU 서버에 배포할 때 갑자기 오류를 뿜어내는 경험을 해본 적이 있나요? CUDA 버전 불일치, PyTorch 호환성 문제, Transformers 라이브러리 충돌 등 다양한 의존성 문제로 인해 디버깅에 많은 시간을 허비하게 됩니다. 특히 "내 컴퓨터에서는 잘 되는데"라는 말이 팀 내에서 골칫거리가 되곤 합니다.
이러한 문제의 ...
7월 5일 23:28에 게시됨
거대 언어 모델 기술 스택: Qwen과 DeepSeek는 어떻게 지능형 시스템을 구축하나요?
거대 언어 모델 기술 스택 분석: Qwen과 DeepSeek의 지능형 시스템 구축 방법
목차
핵심 답변: 왜 PyTorch가 거대 모델의 우선 선택지인가?
프레임워크 대결: TensorFlow vs PyTorch 심층 비교
PyTorch의 승리 요소: 거대 모델 훈련을 더 효율적으로 만드는 세 가지 특성
CUDA 가속: 왜 GPU가 AI 훈련의 필수 요소인가?
개발자 생태계: 거대 모델 연구개발의 거 ...
7월 5일 04:15에 게시됨
PyTorch-CUDA 환경에서 슬라이딩 윈도우 어텐션 고속화하기
분산 환경에서 Swin Transformer 계열 모델을 훈련할 때 GPU 활용률이 40%에 머무르고, NCCL 통신 오버헤드가 전방 계산 시간을 역전시키는 경험을 해본 적이 있는가? 동일 아키텍처를 사용하면서도 타 팀은 8개 GPU에서 95% 이상의 지속적인 활용률을 달성하며 두 배의 처리량을 내고 있다면, 문제는 모델 코드가 아닌 실행 환경의 차이에 있을 가능성이 높다.
이 글에서 ...
6월 30일 23:49에 게시됨
Conda를 사용하여 PyTorch와 CUDA 설치 문제 해결 방법
PyTorch가 설치되었지만 CUDA가 인식되지 않는 문제 해결
문제 현상:
PyTorch는 설치되어 있고 코드도 정상적으로 실행되지만 GPU가 인식되지 않고 CUDA가 사용 불가능한 상태입니다.
시스템: CentOS
GPU: Tesla V100
배경:
특정 저장소인 NeuralHydrology의 코드를 실행하기 위해 환경을 구성했습니다. 이 저장소의 environment.yml 파일에 따라 환경이 생성되었습니다. ...
6월 29일 17:16에 게시됨
PyTorch에서 모델 학습 속도 향상 전략
성능 분석을 위한 PyTorch Profiler 활용
모델 학습 속도를 최적화하기 전에는 코드의 실제 실행 시간을 정확히 파악해야 합니다. torch.autograd.profiler는 CPU 및 GPU 성능 정보를 세밀하게 측정할 수 있는 강력한 도구입니다. 주요 측정 항목은 다음과 같습니다:
CPU 연산 지연 시간
CUDA 커널 실행 시간
메모리 사용 추이
사용 방법은 간단합니다. 학습 루프를 프로 ...
6월 25일 00:47에 게시됨
Kubernetes Device Plugin 메커니즘 원리와 구현
Kubernetes에서는 기본적으로 CPU와 메모리만을 리소스로 인식하지만, GPU와 같은 특수한 하드웨어 자원을 관리하기 위해 Device Plugin 프레임워크를 제공합니다. 이 문서는 Device Plugin의 작동 원리를 분석하고 간단한 예제를 통해 구현 방법을 설명합니다.
작동 원리
Device Plugin은 두 가지 주요 역할로 구성됩니다:
플러그인 등록: Device Plugin이 시작될 때 Kub ...
6월 17일 20:09에 게시됨
Ollama 로컬 대형 언어 모델 배포 실무: 핵심 명령어와 문제 해결
실행 환경 정보
항목상세 정보
운영체제Windows 11 64비트
GPUNVIDIA GeForce RTX 5070 Ti 노트북 (12GB VRAM)
드라이버 버전591.44 (CUDA 13.1)
Ollama 버전0.20.0
실제 사용 가능 VRAM~11.9 GB (시스템 예약 약 300MB)
모델 관리 명령어
다운로드된 모델 확인
ollama list
실행 중인 모델 모니터링
ollama ps
출력 예시:
모델명 ...
6월 14일 17:22에 게시됨