신경망 기초와 역전파 알고리즘의 수학적 이해
1. 시그모이드 뉴런과 신경망 구조
기본적인 퍼셉트론 모델의 한계를 극복하기 위해 제안된 시그모이드 뉴런은 입력값의 작은 변화가 출력값의 작은 변화로 이어지게 설계되었습니다. 이는 신경망이 점진적으로 학습할 수 있는 기반이 됩니다. 활성화 함수로 사용되는 시그모이드 함수 \(\sigma(z) = \frac{1}{1+e^{-z}}\)는 출력을 0과 1 사이로 매끄럽게 제한합니다.
신 ...
7월 27일 10:03에 게시됨
PyTorch Autograd를 이용한 자동 미분 구현
신경망 학습에서 가장 널리 사용되는 역전파 알고리즘은 매개변수(가중치)를 손실 함수의 기울기에 따라 조정합니다. PyTorch는 이러한 기울기 계산을 위해 torch.autograd 자동 미분 엔진을 제공하며, 임의의 계산 그래프에 대한 미분을 지원합니다.
계산 그래프 구성 예제
import torch
inputs = torch.ones(4) # 입력 텐서
targets = torch.zeros(2) # 예측 ...
6월 9일 23:47에 게시됨