비지도학습 — 정답 없이 무리를 짓는다
Article
5강에서 지도학습을 이렇게 그렸다 — 정답(라벨)을 붙인 데이터를 주고, 그 정답과 비교해 손잡이를 돌린다. 그런데 이 방식엔 전제가 하나 깔려 있다. 누군가 미리 정답을 붙여둬야 한다.
현실 데이터는 대부분 그렇지 않다. 어느 쇼핑몰이 백만 명의 구매 기록을 갖고 있다고 해서, 그 옆에 "이 사람은 A그룹, 이 사람은 B그룹"이라는 정답이 달려 있진 않다. 그냥 구매 기록 더미일 뿐이다. 정답이 없는 데이터를 던져주면 기계는 뭘 할 수 있을까. 이번 강은 그 답, 비지도학습(unsupervised learning)이다.
정답 없이 비슷한 것끼리 묶는다
비지도학습이 하는 일은 하나로 요약된다. 비슷한 것끼리 가까이, 다른 것끼리 멀리 모은다. 이걸 군집화(clustering)라 부른다.
- 정답 없는 데이터를 준다구매 기록 백만 건, 라벨은 없다
- 비슷한 것끼리 거리를 잰다구매 패턴이 닮은 사람끼리 가깝다고 본다
- 가까운 것끼리 무리를 짓는다몇 개의 그룹으로 스스로 나뉜다
정답이 없으니 "맞다 틀리다"를 채점할 수 없다. 그 대신 데이터끼리 얼마나 닮았는지를 재서, 닮은 것들을 한 무리로 묶는다. 무리가 몇 개로 나뉠지, 각 무리가 무슨 의미인지는 기계가 알려주지 않는다. 무리를 지어줄 뿐, 그 무리에 이름을 붙이는 건 사람 몫이다.
지도학습과 나란히 놓고 본다
지도학습
정답(라벨)이 있다
- "이건 스팸", "이건 고양이" 처럼 정답이 붙어 있다
- 예측 → 정답과 비교 → 채점 → 손잡이 조정
- 무엇을 맞혀야 하는지 처음부터 정해져 있다
비지도학습
정답이 없다
- 라벨 없이 데이터 더미만 있다
- 닮은 정도를 재서 무리를 짓는다
- 무리가 무엇을 뜻하는지는 사람이 나중에 해석한다
어디에 쓰는가
| 문제 | 무리를 짓는 기준 | 쓰임 |
|---|---|---|
| 쇼핑몰 고객 데이터 | 구매 패턴의 유사도 | 고객 세그먼트 나누기 |
| 신용카드 거래 기록 | 평소 패턴과의 차이 | 이상 거래(사기) 탐지 |
| 뉴스 기사 더미 | 다루는 주제의 유사도 | 비슷한 기사끼리 묶어 추천 |
이상 거래 탐지가 좋은 예다. "이게 사기다"라는 정답을 미리 다 모아두기는 어렵다. 사기 수법은 계속 새로 나오기 때문이다. 대신 "평소 패턴과 크게 다른 거래"를 무리 밖의 이상값으로 잡아내면, 정답 없이도 의심스러운 거래를 골라낼 수 있다.
정리하면
비지도학습은 정답 없이 데이터끼리 얼마나 닮았는지만으로 무리를 짓는다. 그 무리에 뜻을 붙이는 건 사람이 한다.
- 01
비지도학습엔 정답(라벨)이 없다
지도학습과 갈리는 유일한 기준이다.
- 02
닮은 정도로 무리를 짓는다
가까운 것끼리 한 무리, 먼 것끼리 다른 무리. 이걸 군집화라 부른다.
- 03
무리를 짓지, 이름을 붙이진 않는다
무리가 무엇을 뜻하는지는 사람이 데이터를 열어보고 해석한다.
- 04
고객 세그먼트 · 이상 거래 탐지에 쓰인다
정답을 미리 붙일 수 없거나 비용이 큰 데이터에서 특히 쓸모 있다.
지도학습이든 비지도학습이든, 사실 아직 짚지 않은 게 하나 있다. 모델에게 정확히 뭘 먹이는가. 구매 기록이든 사진이든, 원본 그대로 손잡이에 넣을 수는 없다. 다음 강의에서 그 재료 — 특징(feature)과 라벨(label) — 을 본다.