[혼자 공부하는 머신러닝] K 최근접이웃을 활용한 2class분류 (KNeighborsClassifier)

<문제제시>
2종류(도미, 방어)의 생선의 특징을 알아내고 다음에 새로운 생선이 도착하면
이게 도미인가 방어인가 분류를 하고 싶다.
도미와 방어의 길이, 무게 특징을 학습시킨뒤 K 최근접 이웃 알고리즘을 활용하 분류를 진행해보자


<해당파트 쓸만한 정보/단어>
특성: 데이터를 표현하는 하나의 성질(고유한 특징, 생선무게-생선길이가 아래의 예시)
모델(Model): 알고리즘이 구현된 객체를 의미 (알고리즘 자체를 모델이라고 부르기도 함)
분류(classification): 여러개의 종류(class라고  함)중 이거다! 하고 구별해내는걸 의미 (여러 사람중 내가 보고싶은 사람을 찾는것도 분류!)
이진분류(Binary Classification): 둘중에 클래스 하나 고르는것
산점도(Scatter plot): 흩어진 정도를 점을 이용하여 나타낸 그래프 형태
선형적(Linear): 그래프가 일직선에 가까운 형태로 나타내는 경우
K-최근접이웃(K-Nearest Neighbors) 알고리즘: 입력된 데이터 주변에서 가장 가까운 점들 N개를 살펴본뒤, 가장 많이 있는 클래스를 예측결과로 내보냄(대통령 선거투표라고 생각하면 편함), n_neighbors 변수를 인스턴스 선언시 활용하면 참고하는 이웃 수를 조절할수 있다. (기본적으로 유클리디안 거리측정,  이웃수는 5를 사용함)



전체 코드는아래와 같다.

#%%
import matplotlib.pyplot as plt

# K최근접 이웃 활용 생선 분류 문제 해결 예제
# 도미의 경우
bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

# 방어의 경우
smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]


plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

# %%  K 최근접 이웃 실행을 위한 전체 데이터셋(판) 만들기

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

# 2차원 리스트 형태로 나타내기 [[생선길이, 생선무게]....]
fishdata = [[L,W] for L,W in zip(length, weight)]

# 정답 라벨 만들기
fishtarget = [1]*35 + [0]*14

#%% k 최근접 이웃 실행을 위한 코드 작성 하기
from sklearn.neighbors import KNeighborsClassifier
kn = KNeighborsClassifier(n_neighbors=5)    # 쿼리한 좌표에서 가장 가까운 5개의 점을 보고 여기에 속하는구나 하고 알려주는 기능

# K 촤근접 이웃 인스턴스에 문제지, 정답지를 준 것과 같다
kn.fit(fishdata,fishtarget)

# 정확도 채점 하기 (당연히 1로 나옴같음, 공부했던 문제지 그대로 시시험보것과 같음)
kn.score(fishdata, fishtarget)

#%% 기존에 없는 새로운 데이터 쿼리로 던져보기

print(kn.predict([[30,600]]))   # 2차원 리스트 형태로 던지는거 잊지 말기
print(kn._fit_X)    # 학습시 사용한 Xlist들 보여주기
# %% 참고이웃 수치를 전체로 하는경우 발생하는 문제점

kn49 = KNeighborsClassifier(n_neighbors=49)
kn49.fit(fishdata, fishtarget)
kn49.score(fishdata, fishtarget)     # 해당 데이터를 바탕으로 정답 여부 측정을 실행
print(35/49)   # 당연히 14개의 [0] 데이터까지 [1]로 판별해버림(다수결로 인해서)