지미뉴트론 개발일기

파이토치 GPU 체크, 지정 및 할당 방법 정리 파이토치에서 GPU 사용 가능 여부 및 연결된 GPU 정보를 확인해보고 특정 GPU만 사용하도록 설정하는 방법과 모델 및 텐서에 원하는 GPU를 할당할 수 있는 방법에 대하여 정리해보도록 하겠습니다. GPU 사용 가능 여부 확인 아래의 명령어의 결과가 True로 반환되면 GPU가 연결되어 사용 가능하다는 의미입니다. import torch # GPU 사용 가능 -> True, GPU 사용 불가 -> False print(torch.cuda.is_available()) 다음과 같이 코드를 작성하면 GPU 여부에 따라서 사용할 디바이스 종류 자동 지정이 가능합니다. # GPU 사용 가능 -> 가장 빠른 번호 GPU, GPU 사용 불가 -> CPU 자동 지정 예..

Pytorch loss.backward() 과정 에러 디버깅 파이토치에서 모델 학습 과정 내 backporpagation을 시도하는 도중, RuntimeError: grad can be implicitly created only for scalar outputs 라는 오류 메시지가 출력되었습니다. loss.backward() # 여기서 오류 발생 오류 원인 loss.backward() 과정은 기본적으로 1개의 스칼라 데이터에 대한 역전파를 수행합니다. 그러나, loss 변수 내에는 배치 내 데이터 각각에 대한 손실 함수 점수들이 벡터 형태로 저장된 점을 확인했습니다.(아래는 3개의 데이터에 대한 loss 점수 예시입니다.) print(loss) # tensor([1.5054, 1.3475, 1.0413]..

파이토치 일부 layer의 파라미터만 freeze하기 파이토치에서 학습을 진행할 때, 특정 layer를 freeze하는 방법을 말씀드려보겠습니다. 이해를 돕기 위해 아래와 같은 매우 간단한 신경망이 있다고 가정해보겠습니다. import torch.nn as nn class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.fc1 = nn.Linear(8, 4) self.fc2 = nn.Linear(4, 2) self.fc3 = nn.Linear(2, 1) def forward(self, x): return self.fc3(self.fc2(self.fc1(x))) my_net = Net() 예를 들어, 위의 신경망에서 fc2에 해당하..

판다스 pivot table 값 추출, 정렬, to dataframe 이번 글에서는 지난 시간에 다루었던 피벗테이블 생성법에 이어서 생성된 테이블 내에서 필터링, 정렬 및 데이터프레임 변환을 진행하는 방법에 대해서 다루어보도록 하겠습니다. pd.pivot_table 함수로 테이블을 생성하는 상세한 방법은 아래 링크의 이전 글을 참고하세요. [Pandas] 파이썬 피벗테이블 생성 : pd.pivot_table 함수 사용법 정리 파이썬 판다스 피벗테이블 조회 예제 파이썬 pandas 모듈의 pd.pivot_table 함수로 피벗테이블을 원하는대로 생성하는 방법을 values, index, columns, fill_value 및 aggfunc 인자의 기능을 위주로 정리해보겠습. jimmy-ai.tistory...

파이썬 판다스 pivot_table 함수 사용 예제 파이썬 pandas 모듈의 pd.pivot_table 함수로 피벗테이블을 원하는대로 생성하는 방법을 values, index, columns, fill_value 및 aggfunc 인자의 기능을 위주로 정리해보겠습니다. 이 글은 판다스의 pd.pivot_table 함수 공식 설명 글의 내용에 기반하여 작성되었습니다. 먼저, 이해를 돕기 위하여 아래와 같이 학생들의 정보와 점수가 적혀있는 데이터프레임 df가 있다고 가정해보도록 하겠습니다. import pandas as pd import numpy as np a = {'반' : [1, 1, 1, 1, 2, 2, 2, 2], '성별' : ['남', '남', '여', '여', '남', '남', '여', '여'..

파이썬 넘파이 배열 data type 선택, 출력 및 변환 Numpy 모듈에서 배열의 자료형을 고르고 확인할 수 있는 dtype과 데이터 타입의 종류를 바꿀 수 있는 astype에 대해서 간략하게 살펴보겠습니다. 참고로, 넘파이에서 지원하는 상세한 자료형 종류에 대한 정보가 필요하시다면 아래 링크의 공식 문서에서 확인하실 수 있습니다. Data types — NumPy v1.22 Manual Array Scalars NumPy generally returns elements of arrays as array scalars (a scalar with an associated dtype). Array scalars differ from Python scalars, but for the most part th..

list 자료형 내 중복 원소 찾기, 제거하기 파이썬의 리스트 자료형에서 2번 이상 등장한 원소들만 추출하는 방법과 중복을 제거하여 고유한 값들만 남기는 방법에 대해서 살펴보겠습니다. 리스트 내 2회 이상 등장 원소만 추출 for문을 통해 각 원소를 순회하며 처음 등장한 값인지 여부를 판별하여 이미 이전에 등장했던 원소들만 솎아내어 중복 원소만 추출이 쉽게 가능합니다. a = [1, 2, 3, 1, 2, 4, 5, 1] x = [] # 처음 등장한 값인지 판별하는 리스트 new_a = [] # 중복된 원소만 넣는 리스트 for i in a: if i not in x: # 처음 등장한 원소 x.append(i) else: if i not in new_a: # 이미 중복 원소로 판정된 경우는 제외 new_a..

파이썬 중첩함수 사용법 및 원리 파이썬에서 함수 내부에 또 다른 함수를 선언하는 중첩함수라는 개념에 대하여 작동 원리 및 변수의 범위를 간단한 예제를 통해 이해해보도록 하겠습니다. 함수 안의 함수 사용 예시 def 내에 def 구문을 사용하는 식으로 중첩함수를 쉽게 선언할 수 있습니다. (lambda 형태를 사용하여 함수 내부 함수를 선언하는 것도 가능합니다.) 숫자 n을 input으로 넣으면 n을 더하는 내부 함수를 반환하는 함수의 예시는 아래와 같습니다. def make_func(n): def add_n(x): return x + n return add_n 참고로, def 내에 lambda를 사용한 케이스, lambda 내 lambda를 활용한 경우의 아래 선언 코드들도 모두 위의 코드와 같은 결과가..

Case 1 : Anaconda Pytorch 설치 에러 디버깅 파이토치 사이트에서 conda를 이용한 명령어를 통해서 설치하는 도중 아래와 같은 오류가 발생하면서 설치 과정이 더이상 진행되지 못하였습니다. Solving environment: / The environment is inconsistent, please check the package plan carefully The following packages are causing the inconsistency: 오류 원인 cuda 라이브러리를 설치한 뒤에는 해당 환경에서 conda 명령어로 파이토치가 정상 설치됨을 확인하였는데, 이것이 원인으로 추측되기는 하였습니다. 오류 해결법(pip으로 설치) Pytorch 사이트에서 conda가 아닌 pi..

파이썬 넘파이 trace, det 구하기 함수 사용법 파이썬에서 각각 행렬의 대각합과 행렬식을 구할 수 있는 함수들인 np.trace와 np.linalg.det의 사용 예제에 대해서 살펴보도록 하겠습니다. 대각합 함수 : np.trace 2차원 정방행렬의 경우 2차원 배열의 trace는 np.trace(배열) 형태로 손쉽게 구할 수 있습니다. 또한, np.trace(배열, 숫자) 형태로 숫자가 양수면 우측으로 해당 칸만큼 이동한 방향의 대각합, 음수면 같은 식으로 왼쪽으로 움직인 방향의 대각합도 구할 수 있습니다. 기본적으로 정방행렬에 대하여 trace를 구해보는 코드는 다음과 같습니다. import numpy as np a = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]]..