티스토리

데이터의 민족

검색하기

블로그 홈

데이터의 민족

bangeunho.tistory.com/m

https://github.com/bbang-bbang

구독자: 1

방명록 방문하기

주요 글 목록

Chapter 1. 데이터 표현 디자인 패턴 1. 간단한 데이터 표현 1 - 1. 수치 입력 스케일링이 필요한 이유 머신러닝 모델(랜던 포레스트, 서포트 벡터 머신, 신경망)은 수치 기반으로 작동하므로 입력값이 수치로 되어 있다면 변경하지 않고 모델에 적용 가능 스케일링이 필요한 이유 경사 하강법 옵티마이저는 손실 함수의 곡률이 증가함에 따라 수렴하는 데 더 많은 단계 필요 특징의 상대적인 크기가 더 크다면 미분도 큰 경향이 있어, 손실 함수의 곡률이 크면 비정상적인 가중치 업데이트로 이어지기 때문 비정상적으로 큰 가중치 업데이트는 수렴하는 데 더 많은 단계가 필요하므로 계산의 부하가 증가 데이터를 [-1, 1] 범위에서 '중앙에 배치'하면 오류 함수가 더 완만 스케일링된 데이터로 학습시킨 모델은 더 빨리 수렴하는 경향, 학습 속도가 더 빨라지거나.. 공감수 0 댓글수 0 2022. 11. 27.
04. 평가 분류 성과 지표 정확도(Accuracy) 오차행렬(Confusion Metrix) 정밀도(Precision) 재현율(Recall) F1 - score ROC AUC 01. 정확도(Accuracy) 예측 결과가 동일한 데이터 건수 / 전체 예측 데이터 건수 앞서 진행한 타이타닉 데이터에서 오류가 있음. 남자보다 여자의 생존률이 높아 여자는 생존, 남자는 사망으로 학습해도 비슷한 결과를 출력 다음 예제에서는 사이킷런의 BaseEstimator 클래스를 상속받아 아무런 학습을 하지 않고, 성별에 따라 생존자를 예측하는 단순한 분류 모델 생성 사이킷런은 BaseEstimator를 사용해 Customized 형태의 estimator를 생성할 수 있음 from sklearn.base import BaseEstima.. 공감수 0 댓글수 0 2022. 10. 31.
03. 데이터 전처리 1. 데이터 인코딩 LabelEncoder를 객체로 생성한 후에 fit(), transform()을 호출 from sklearn.preprocessing import LabelEncoder items = ['TV','냉장고','전자레인지','컴퓨터','선풍기', '선풍기'] encoder = LabelEncoder() encoder.fit(items) items_label = encoder.transform(items) print('변환변 레이블 : ', items_label) # classes_ : 0번부터 순서대로 변환된 인코딩 값에 대한 원본값을 가짐 print('원본 레이블 : ', encoder.classes_) # inverse_transform : 인코딩된 레이블을 다시 디코딩 print('.. 공감수 0 댓글수 0 2022. 10. 25.
02. 사이킷런으로 시작하는 머신러닝 import sklearn print(sklearn.__version__) 1. 첫 번째 머신러닝 만들기 - 붓꽃 품종 예측하기 from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier from sklearn.model_selection import train_test_split import pandas as pd # 붓꽃 데이터 로드 iris = load_iris() # iris.data는 iris 데이터에서 피처만으로 된 데이터를 numpy로 가지고 있음 iris_data = iris.data # iris.targe은 붓꽃 데이터세트에서 레이블 데이터를 numpy로 가지고 있음 iris_label = i.. 공감수 0 댓글수 0 2022. 10. 24.
01. 파이썬 기반 머신러닝과 생태계의 이해 1. Numpy import numpy as np array1 = np.array([1,2,3]) print('array type1:', type(array1)) print('array array 형태: ', array1.shape) array2 = np.array([[1,2,3], [2,3,4]]) print('array2 type:', type(array2)) print('array2 array 형태: ', array2.shape) array3 = np.array([[1,2,3]]) print('array3 type:', type(array3)) print('array3 array 형태: ', array3.shape) 2. ndarray의 데이터 타입 list1 = [1,2,3] print(type(.. 공감수 0 댓글수 0 2022. 10. 24.
< 핸즈온 머신러닝 - 비지도 학습2 - 가우시안 혼합> Chapter9_비지도 학습2 - 가우시안 혼합.ipynb Colaboratory notebook colab.research.google.com 2. 가우시안 혼합 샘플이 파라미터가 알려지지 않은 여러 개의 혼합된 가우시안 분포에서 생성되었다고 가정하는 확률 모델 하나의 가우시안 분포에서 생성된 모든 샘플은 하나의 클러스터를 형성, 일반적으로 이 클러스터는 타원형 가우시안 혼합 모델의 그래프 모형 import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns from sklearn.datasets import make_blobs X1, y1 = make_blobs(n_samples=1000, cente.. 공감수 0 댓글수 0 2022. 6. 14.
< 핸즈온 머신러닝 - 비지도 학습1 - 군집 > Chapter_9 비지도 학습1 군집.ipynb Colaboratory notebook colab.research.google.com 지능: 케이크 비지도 학습: 케이크의 빵 지도 학습: 케이크의 크림 강화 학습: 케이크 위의 체리 군집 비슷한 샘픔을 클러스터로 모음 군집은 데이터 분석, 고객 분류, 추천 시스템, 검색 엔진, 이미지 분할, 준지도 학습, 차원 축소가 해당 이상치 탐지 '정상'데이터가 어떻게 보이는지를 학습 비정상 샘플을 감지하는데 사용 예로 제조 라인에서 결함 제품을 감지하거나 시계열 데이터에서 새로운 트랜드를 찾음 밀도 추정 데이터셋 생성 확률 과정의 확률 밀도 함수를 추청 밀도 추정은 이상치 탐지에 널리 사용 밀도가 매우 낮은 영역에 놓인 샘플이 이상치일 가능성이 높음 데이터 분석과.. 공감수 0 댓글수 0 2022. 6. 14.
< 핸즈온 머신러닝 - 차원 축소 > Chapter_8 차원 축소.ipynb Colaboratory notebook colab.research.google.com 1. 차원의 저주 수백만 개의 특성을 가지고 있는 데이터는 훈련을 느리게함 좋은 솔루션을 찾기 어려움 해결 방법 -> 축소 기법(PCA, 커널 PCA, LLE) 저차원에 비해 고차원 초입방체에 있는 대다수의 점은 경계와 매우 가까움 대부분의 훈련 데이터는 서로 멀리 떨어져 있어, 새로운 샘플도 훈련 샘플과 멀리 떨어져 있을 가능성이 높음 따라서 훈련 샘플의 밀도가 충분히 높아질 때까지 훈련 세트의 크기를 키우는 것 2. 차원 축소를 위한 접근 방법 2 - 1. 투영 모든 훈련 샘플이 평면 형태 --> 고차원 공간에 있는 저차원 부분 모든 훈련 샘플을 이 부분 공간에 수직으로 투영하.. 공감수 0 댓글수 0 2022. 6. 9.
< 핸즈온 머신러닝 - 앙상블 학습과 랜덤포레스트 > Chapter_7 앙상블 학습과 랜덤 포레스트.ipynb Colaboratory notebook colab.research.google.com 앙상블: 훈련 세트로부터 무작위로 각기 다른 서브셋을 만들어 일련의 결정 트리 분류기를 훈련 랜덤포레스트: 결정 트리의 앙상 1. 투표 기반 분류기 각 분류기의 예측을 모아서 가장 많이 선택된 클래스를 예측 다수결 투표로 정해지는 분류기를 직접 투표 분류기 1 - 1 예시 균형이 틀어진 동전을 10번 실험 던진 횟수가 증가할수록 51%에 수렴 import numpy as np heads_proba = 0.51 coin_tosses = (np.random.rand(10000, 10) < heads_proba).astype(np.int32) cumulative_hea.. 공감수 0 댓글수 0 2022. 6. 7.
< 핸즈온 머신러닝 - 결정 트리 > Chapter_6 결정 트리.ipynb Colaboratory notebook colab.research.google.com 분류, 회귀, 다중 출력 작업 가능 매우 복잡한 데이터셋 학습 가능 랜덤 포레스트의 기본 요소 1. 결정트리 학습과 시각화 from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier iris = load_iris() X = iris.data[:, 2:] y = iris.target tree_clf = DecisionTreeClassifier(max_depth = 2, random_state = 42) tree_clf.fit(X, y) from graphviz import Source f.. 공감수 0 댓글수 0 2022. 6. 3.
< 핸즈온 머신러닝 - SVM > Chapter_5 서포트 벡터 머신.ipynb Colaboratory notebook colab.research.google.com 1. 선형 SVM 분류 1 - 1. 라지 마진 분류 왼쪽: 점선으로 나타난 결정 경계를 만든 모델은 클래스를 적절하게 분류하지 못함 오른쪽: 실선(SVM 분류기의 결정 경계), 클래스 사이에 가장 폭이 넓은 도로 찾음 훈련 샘플을 더 추가해도 결정 경계에는 영향 없음 경계에 위치한 샘플에 의해 전적으로 결정 이러한 샘플을 서포트 벡터로 지정 1 - 2. 소프트 마진 분류 하드 마진 분류: 모든 샘플이 도로 바깥쪽에 올바르게 분류 문제점 첫 번째: 데이터가 선형적으로 구분되어야 작동 두 번째: 이상치에 민감 so) 좀 더 유연한 모델이 필요 소프트 마진 분류: 폭을 가능한 넓.. 공감수 0 댓글수 0 2022. 6. 2.
< 핸즈온 머신러닝 - 모델훈련 > Chapter_4 모델 훈련.ipynb Colaboratory notebook colab.research.google.com 1. 선형 회귀 입력 특성의 가중치 합과 편향이라는 상수를 더해 예측을 만듦 선형 회귀 모델을 훈련시키려면 RMSE, MSE를 최소화하는 파라미터를 찾아야함 1 - 1. 정규방정식 비용 함수를 최소화하는 파라미터값을 찾기 위한 해석적인 방법, 수학 공식을 의미 import numpy as np import pandas as pd import matplotlib.pyplot as plt X = 2 * np.random.rand(100, 1) y = 4 + 3 * X + np.random.randn(100, 1) plt.plot(X, y, "b.") plt.xlabel("$x_1$",.. 공감수 0 댓글수 0 2022. 5. 17.
< 핸즈온 머신러닝 - 분류 > Chapter_3 분류.ipynb Colaboratory notebook colab.research.google.com 1. MNIST 1 - 1. 데이터 불러오기 from sklearn.datasets import fetch_openml mnist = fetch_openml('mnist_784', version =1, as_frame = False) mnist.keys() 1 - 2. 배열확인 이미지가 70,000개이며, 각 이미지에는 784개의 특성 존재(28 X 28 픽셀) X, y = mnist['data'], mnist['target'] print(X.shape) print(y.shape) 1 - 3. 이미지 예시 출력 import matplotlib as mpl import matplotlib.. 공감수 0 댓글수 0 2022. 5. 10.
< 머신 러닝 > 데이터를 사용하기 이전에 충분한 도메인 지식이 매우 강조 UCI Machine Learning Repository IMDb Wiki | Fandom / IMDB-WIKI - 500k+ face images with age and gender labels (ethz.ch) ImageNet (image-net.org) Home - CIFAR VQA: Visual Question Answering (visualqa.org) Visual Question Answering visualqa.org 통상적으로 훈련 6 /테스트 2 / 검증 2 사용 비율 말고도 클래스 불균형 문제 고려 필요(데이터간 적절한 균형) 발생 원인 특정 기준에 편향된 경우 발생 빈도가 적은 경우 .. 공감수 0 댓글수 0 2022. 3. 23.
< 머신 러닝 - 비지도 학습> 모델의 정답 없이 데이터만 제공된 상태에서 데이터의 패턴 파악 잠재 변수 : 내재된 패턴을 설명할 수 있는 변수를 추출해 만드는 모델 군집 분석 : 미리 정해진 분류 기준 없이 비슷한 특성의 모임을 생성 차원 감축 : 비지도 학습의 문제점을 해결, 데이터를 표현하는 특성의 수를 줄임 비지도 학습에서는 데이터 셋을 나눌 필요가 없음 차원의 저주 완화 : 데이터의 특성이 많을수록 필요한 데이터의 개수가 급격히 증가하는 현상 정략적 지표는 군집화의 질을 단편적으로 평가 실루엣은 직접적으로 사용해 군집의 질을 단편적으로 추정 모델 학습이 아니라 하이퍼파라미터를 찾는 데 사용 PCA에서 주성분의 개수, GMM에서 가우시안 분포의 개수, k-means에서 군집의 개수 동일한 의.. 공감수 0 댓글수 0 2022. 3. 22.
< 머신러닝 - 지도 학습 > 모델에 과거의 정답을 제공한 상태에서 미래 정답을 예측 지도학습의 주 목표는 일반화 일반화 : 학습에 사용되지 않은 데이터를 예측하고 분류 일반화 오차 : 모델이 얼마나 일반화에 대한 성공, 실패 지표 학습 오차(학습 성능) : 일반화 오차보다 쉬운 개념 (train / test 구분) 알맞은 모델 : 과소, 과대 적합 사이에 있는 편차-분산 트레이드 오프 분산 : 데이터 셋에 따른 모델의 출력의 변화 정도 편차 : 학습 데이터 셋과 모델이 계산한 결과가 엇나가는 정도 편차-분산 트레이드오프는 모델의 편차와 분산을 동시에 충분히 줄이는 것이 불가능한 현상 과적합은 분산이 너무 커져버린 것을 의미+ 편차가 크다는 것은 학습이 충분하게 진행되지 않았음을 의미 과대적합(테스트.. 공감수 0 댓글수 0 2022. 3. 22.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.