생선 분류 문제

  • 이 문제는 박혜선 저자의 혼자 공부하는 머신러닝 + 딥러닝 교제를 보며 코드를 실습한 것입니다. 링크 텍스트

  • 도미의 특성(feature) ..데이터의 특징

  • 산점도 그리기(matplotlib)

1
2
3
4
5
6
7
8
9
10
11
12
13
bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 
                31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 
                35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 
                500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 
                700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

import matplotlib.pyplot as plt

plt.scatter(bream_length, bream_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

png

1
2
3
4
5
6
7
8
smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

png

첫번째 머신러닝 프로그램

  • 두개의 데이터 합치기
1
2
length = bream_length + smelt_length
weight = bream_weight + smelt_weight
1
2
3
fish_data = [[l, w] for l, w in zip(length, weight)] # zip() 함수는 나열된 리스트 각각에서 하나씩 원소를 꺼내 반환.
print(fish_data)
print(type(fish_data))
[[25.4, 242.0], [26.3, 290.0], [26.5, 340.0], [29.0, 363.0], [29.0, 430.0], [29.7, 450.0], [29.7, 500.0], [30.0, 390.0], [30.0, 450.0], [30.7, 500.0], [31.0, 475.0], [31.0, 500.0], [31.5, 500.0], [32.0, 340.0], [32.0, 600.0], [32.0, 600.0], [33.0, 700.0], [33.0, 700.0], [33.5, 610.0], [33.5, 650.0], [34.0, 575.0], [34.0, 685.0], [34.5, 620.0], [35.0, 680.0], [35.0, 700.0], [35.0, 725.0], [35.0, 720.0], [36.0, 714.0], [36.0, 850.0], [37.0, 1000.0], [38.5, 920.0], [38.5, 955.0], [39.5, 925.0], [41.0, 975.0], [41.0, 950.0], [9.8, 6.7], [10.5, 7.5], [10.6, 7.0], [11.0, 9.7], [11.2, 9.8], [11.3, 8.7], [11.8, 10.0], [11.8, 9.9], [12.0, 9.8], [12.2, 12.2], [12.4, 13.4], [13.0, 12.2], [14.3, 19.7], [15.0, 19.9]]
<class 'list'>

1
2
fish_target =  [1] * 35 + [0] * 14 # 도미와 빙어를 구분
print(fish_target)
[1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

KNeighborsClassifier()

  • 가장 가까운 이웃을 참고하여 정답을 예측하는 사이킷런(scikit-learn)
1
from sklearn.neighbors import KNeighborsClassifier
1
kn = KNeighborsClassifier()

훈련 (training)

  • 도미를 찾기 위한 기준을 학습

  • 사이킷런 fit()

    • scikit_learn Training method
1
kn.fit(fish_data, fish_target) # 학습
KNeighborsClassifier()
  • 사이킷런 score()
    • scikit_learn Evaluating method
    • 0 과 1사이의 값을 반환
    • 1은 모든 데이터의 값을 맞춘것이고 0.5는 절반만 맞춤
1
kn.score(fish_data, fish_target) # 정확도 평가 (0 ~ 1.0)
1.0

K - 최근접 알고리즘

  • 어떤 데이터에 대한 답을 구할 때 주위의 다른 데이터를 보고 다수를 차지하는것을 정답으로 사용함.
  • 데이터가 아주 많은 경우 사용하기 어려움.
    • 데이터가 크면 메모리가 많이 필요하고 직선거리를 계산하는 데도 많은 시간이 필요하기 때문
1
2
3
# predict method는 새로운 데이터의 정답을 예측
# fit() method와 마찬가지로 리스트의 리스트를 전달해야 하기때문에 삼각형 포인트를 리스트로 2번 감쌈
kn.predict([[30, 600]])
array([1])

1
print(kn._fit_X) # _fit_X 속성에는 fish_data를 모두 가지고 있음 
[[  25.4  242. ]
 [  26.3  290. ]
 [  26.5  340. ]
 [  29.   363. ]
 [  29.   430. ]
 [  29.7  450. ]
 [  29.7  500. ]
 [  30.   390. ]
 [  30.   450. ]
 [  30.7  500. ]
 [  31.   475. ]
 [  31.   500. ]
 [  31.5  500. ]
 [  32.   340. ]
 [  32.   600. ]
 [  32.   600. ]
 [  33.   700. ]
 [  33.   700. ]
 [  33.5  610. ]
 [  33.5  650. ]
 [  34.   575. ]
 [  34.   685. ]
 [  34.5  620. ]
 [  35.   680. ]
 [  35.   700. ]
 [  35.   725. ]
 [  35.   720. ]
 [  36.   714. ]
 [  36.   850. ]
 [  37.  1000. ]
 [  38.5  920. ]
 [  38.5  955. ]
 [  39.5  925. ]
 [  41.   975. ]
 [  41.   950. ]
 [   9.8    6.7]
 [  10.5    7.5]
 [  10.6    7. ]
 [  11.     9.7]
 [  11.2    9.8]
 [  11.3    8.7]
 [  11.8   10. ]
 [  11.8    9.9]
 [  12.     9.8]
 [  12.2   12.2]
 [  12.4   13.4]
 [  13.    12.2]
 [  14.3   19.7]
 [  15.    19.9]]

1
print(kn._y) # _y속성에 fish_target을 가지고 있음
[1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0
 0 0 0 0 0 0 0 0 0 0 0 0]
  • 매개변수를 49로 했을때 정확도보다 기본값으로 했을때의 정확도가 높기때문에 kn49가 아닌 kn 모델을 채택
1
2
# 기본적으로는 5개의 데이터를 기본값으로 참고, n_neighbors로 매개변수를 바꿀수 있음
kn49 = KNeighborsClassifier(n_neighbors=49) # 참고 데이터를 49개로 한 kn49 모델
1
2
kn49.fit(fish_data, fish_target)
kn49.score(fish_data, fish_target) # 49개 데이터중 도미가 35개로 다수를 차지하므로 어떤 데이터를 넣어도 무조건 도미로 예측
0.7142857142857143

1
print(35 / 49) # 도미 35개, 빙어 14개 중에서 도미가 차지하는 비율
0.7142857142857143
  • 확인 문제

  1. 데이터를 표현하는 하나의 성질로써, 예를 들어 국가 데이터의 경우 인구수, GDP, 면적 등이 하나의 국가를 나타냅니다. 머신러닝에서 이런 성질을 무엇이라고 부르나요? : 특성

  2. 가장 가까운 이웃을 참고하여 정답을 예측하는 알고리즘이 구현된 사이킷런 클래스는 무엇인가요? : KNeighborsClassfier

  3. 사이킷런 모델을 훈련할떄 사용하는 메서드는 어떤 것인가요? : fit()