선형 회귀를 위한 미니배치 경사 하강법 구현
경사 하강법(Gradient Descent)은 선형 회귀 모델의 파라미터를 최적화하는 대표적인 방법이다. 전체 데이터를 사용하는 배치 경사 하강법은 계산 비용이 크고, 무작위로 하나의 샘플만 사용하는 확률적 경사 하강법(SGD)은 수렴이 불안정할 수 있다. 이 글에서는 그 중간인 미니배치 경사 하강법을 단계별로 살펴보고, 성능을 개선하는 두 가지 방법을 소개한다.
1. 확률 ...
9월 8일 11:57에 게시됨
선형 회귀와 경사 하강법의 핵심 원리 및 예측 구현
데이터의 패턴을 찾는 과정: 선형 회귀
머신러닝은 수많은 데이터 속에 숨겨진 규칙성을 수학적 모델로 찾아내는 과정입니다. 예를 들어, 2차원 평면에 흩어져 있는 점들을 가장 잘 설명할 수 있는 직선을 찾는 문제를 생각해 보겠습니다. 이 직선이 곧 데이터의 흐름을 대변하는 '모델'이 됩니다.
우리는 흔히 다음과 같은 1차 함수 식으로 모델을 정의합니다.
y = wx + ...
5월 27일 05:38에 게시됨