Autograd TORCH.AUTOGRAD를 사용한 자동 미분 신경망을 학습할 때 가장 자주 사용되는 알고리즘 역전파 매개변수(모델 가중치)는 주어진 매개변수에 대한 손실 함수의 변화도(gradient) 에 따라 조정 이러한 변화도를 계산하기 위해 PyTorch에는 torch.autograd라고 불리는 자동 미분 엔진이 내장되어있음 -> 모든 계...

nn.Module 신경망 모델 구성하기 신경망은 데이터에 대한 연산을 수행하는 계층(layer)/모듈(module)로 구성 torch.nn 네임스페이스는 신경망을 구성하는데 필요한 모든 구성 요소를 제공(PyTorch의 모든 모듈은 nn.Module의 하위 클래스(subclass)) FashionMNIST 데이터셋 이미지 분류 import os i...

Linear Regression 구현 최소 자승법 from numpy import array, mean, sum # data x = array([0, 1, 2]) y = array([1, 3, 2]) n = len(x) xsum = sum(x) ysum = sum(y) xmean = mean(x) ymean = mean(y) xysum = 0 x...

Graident Descent 본질적으로, PyTorch에는 두가지 주요한 특성이 있음 NumPy와 유사하지만 GPU 상에서 실행 가능한 n-차원 텐서(Tensor) 신경망을 구성하고 학습하는 과정에서의 자동 미분(Automatoc differentiation) sin(x) 근사하기 3차 다항식을 사용해, $y=sin(x)$에 근사(fit...

Variable과 AUTOGRAD PyTorch에서 Tensor와 Variabel의 차이 Variabel은 최근 파이토치 버전에서 삭제된 개념으로, 기존에 autograd를 사용하기 위해 사용되던 타입이었으나, 현재는 Tensor 타입과 병합 -> Tensor 타입에서 디폴트로 autograd 기능을 지원하도록 변경됨 TORCH.AUTOGRAD...

TENSOR(텐서) 파이토치(PyTorch)가 무엇인가요? Python 기반의 과학 연산 패키지로 다음 두 가지 목적으로 제공 GPU 및 다른 가속기의 성능을 사용하기 위한 NumPy의 대체제 제공 신경망 구현에 유용한 자동 미분(automatic differntiation) 라이브러리 제공 텐서 (TENSOR) 텐서(tensor)는 배열...

1. 차원축소/군집화 정리 sklearn으로 머신러닝에서의 차원축소와 군집화 개념을 정리했음 2. 회귀 정리 머신 러닝에서 주로 사용했던 분류와 회귀를 모두 정리했음 이제 관련 문제들을 지속적으로 해결해보면서 익숙해지면 될 듯 3. 음향 데이터 비정형 데이터 중 음향 데이터를 처음 사용해봤는데, librosa 라이브러리에 익숙해지고 DSP 개념을 ...

8월 1일 추천 시스템 정보 필터링(IF) 기술의 일종으로, 특정 사용자가 관심을 가질만한 정보를 추천하는 것 콘텐츠 기반(Content-based filtering) 방식 협업 필터링 기반(Collaborative filtering) 방식 연관상품 추천 -> 협업 필터링 ->...

DACON 음향 데이터 COVID-19 검출 AI 경진대회 참고 | [Private 6위, 0.60553] DNN 코드 공유 사용 라이브러리 import numpy as np import pandas as pd import os import librosa import matplotlib.pyplot as plt import seaborn as s...

군집화(Clustering) K-평균 알고리즘 군집화에서 가장 일반적으로 사용되는 알고리즘 군집화의 기준이 되는 중심을 구성하는 임의의 점을 선택 각 데이터는, 가장 가까운 곳에 위치한 중심점에 소속 소속된 데이터의 평균값으로 중심점 이동 위 과정 반복 데이터의 중심점 소속 변경이 없으면 종로 장점과 단점 가장 많이 활용...