My storage My storage

1. 앙상블 앙상블은 여러개의 개별 모델을 결합하여 과적합을 감소시키고 성능을 촉진하는 방법이다. 2. bagging 배깅 앙상블은 bootstrap aggregating의 약자로 bootstrap의 집합을 의미한다. input data를 여러개의 bootstrap으로 쪼개서 개별 학습한 뒤 결합하여 최종 모델을 구축하는 방법이다. import torch import torch.nn as nn import torch.optim as optim import torchvision.datasets as datasets import torchvision.transforms as transforms from torch.utils.data import DataLoader from sklearn.metrics imp..

1. backbone network 백본은 detection, segmentation 등의 인공지능 모델에서 입력데이터로부터 특징 추출을 수행하는 부분이다. 백본은 모델의 사전학습된 가중치를 가지며 백본 네트워크의 성능에 따라 학습속도와 정확도에 영향을 미친다. 2. transfer learning 전이 학습은 미리 학습된 모델을 사용하여 새로운 작업에 사용하는 것을 의미한다. 하나의 모델의 데이터를 구하고 학습을 진행하는데 많은 자원과 환경낭비를 초래할 수 있다. 따라서 많은 사람들이 인공지능 모델의 공개에 찬성하고 있으며 전이학습은 미리 학습된 모델들을 백본으로 사용하여 작업의 목적에 맞게 변경하여 사용하는 것이다. import torch import torch.nn as nn import torch..

1. drop out 드롭아웃은 과대적합을 방지하기 위한 방법이다. 은닉층의 유닛의 일부분을 동작하지 않게 함으로써 랜덤 하게 일부 노드들을 사용하지 않는다. 드롭아웃을 진행하면 노드를 제거하기 때문에 특정 데이터에 대해서 과적합되는것을 막을 수 있다. 또한 일반적으로 미니배치로 학습하게 되면 학습할 때마다 조금씩 다른 가중치로 학습하기 때문에 앙상블 효과를 얻을 수 있다. import torch import torch.nn as nn import torch.optim as optim import torchvision.datasets as datasets import torchvision.transforms as transforms class DropoutNet(nn.Module) : def __init..

1. CNN import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader from torchvision.datasets import MNIST from torchvision import transforms import matplotlib.pyplot as plt from mpl_toolkits.axes_grid1 import make_axes_locatable import os os.environ["KMP_DUPLICATE_LIB_OK"] = "True" device = torch.device("cuda" if torch.cuda.is_available() else "cpu") cl..

1. stride conv import torch import os from torch import nn import matplotlib.pyplot as plt os.environ["KMP_DUPLICATE_LIB_OK"] = "True" input_data = torch.randn(1, 1, 28, 28) conv = nn.Conv2d(in_channels=1, out_channels=16, kernel_size=3, stride=2, padding=1) output = conv(input_data) print(output.shape) plt.subplot(1, 2, 1) plt.imshow(input_data.squeeze(), cmap="gray") plt.title("input") plt.sub..

1. ann import torch import torch.nn as nn class ANN(nn.Module): def __init__(self, input_size, hidden_size, output_size): super(ANN, self).__init__() self.fc1 = nn.Linear(input_size, hidden_size) self.relu = nn.ReLU() self.fc2 = nn.Linear(hidden_size, output_size) def forward(self, x): out_by_input_hidden = self.fc1(x) out_by_relu = self.relu(out_by_input_hidden) out_by_hidden_output = self.fc2(..

1. 데이터로더 데이터로더는 말 그대로 데이터를 따로 로드하는 객체이다. 파이토치에서 데이터로더를 따로 사용하는 이유는 데이터양이 방대해질수록 한 번에 불러와서 처리하는 것이 어렵고 해당 데이터를 내가 원하는 크기로 잘라서 사용할 수 있으므로 병렬처리 및 빠른 속도, 유연성 등의 장점이 있기 때문에 데이터로더를 분리하는 것이 이상적이다. 2. 데이터셋의 함수 사용자 정의 데이터셋은 반드시 __init__, __len__, __getitem__ 3개의 함수를 가진다. __init__은 데이터셋 객체가 생성될 때 한 번만 실행된다. 일반적으로 데이터셋을 로드하고 전처리하는 데 필요한 변수를 설정한다. __len__은 데이터셋의 샘플 개수를 반환한다. __getitem__은 데이터를 로드하고 전처리를 실행한다..

1. pytorch 파이토치는 딥러닝을 위한 프레임워크로 다른 프레임워크들에 비해서 GPU를 이용한 연산이 가능하고 계산 속도가 빠르다는 장점이 있다. 2. 텐서 텐서(tensor)는 배열(array)이나 행렬(matrix)과 매우 유사한 자료구조이다. 텐서는 GPU나 다른 하드웨어 가속기에서 실행할 수 있다는 점만 제외하면 넘파이와 유사하다. 실제로 텐서와 넘파이는 텐서와 동일한 내부 메모리를 공유하기 때문에 데이터를 복사할 필요가 없다. import torch import numpy as np data = [[1,2], [3,4]] print(type(data)) x_data = torch.tensor(data) print(x_data) np_array = np.array(data) x_np = to..