9강에서 층을 쌓으면 신경망이 되고, 은닉층을 깊게 쌓은 걸 "딥"러닝이라 부른다고 했다. 그런데 여기서 자연스러운 질문이 남는다. 왜 굳이 깊게 쌓아야 하나. 층이 두 개든 스무 개든 결국 곱하고 더하는 건 마찬가지 아닌가.

이번 강은 그 질문에 답한다. 그리고 7강에서 미뤄뒀던 문장도 여기서 회수한다 — "딥러닝은 특징 고르는 일 상당 부분을 스스로 한다." 그 일이 정확히 어떻게 가능한지가 오늘의 핵심이다.

층마다 다른 눈높이로 본다

사진에서 얼굴을 찾아내는 신경망을 생각해보자. 층을 하나씩 통과할 때마다, 그 층이 보는 대상의 눈높이가 달라진다.

1. 01

   앞쪽 층 — 선과 모서리

   가장 낮은 눈높이. 픽셀들 사이의 밝기 차이, 즉 선과 모서리 같은 아주 단순한 무늬만 잡는다.

2. 02

   중간 층 — 곡선과 도형

   앞쪽 층이 잡은 선·모서리를 조합해, 곡선이나 동그라미 같은 더 복잡한 모양을 잡는다.

3. 03

   다음 층 — 눈·코·입 같은 부분

   도형들을 다시 조합해, 눈이나 코처럼 의미를 가진 부분을 잡는다.

4. 04

   출력에 가까운 층 — 얼굴 전체

   부분들을 모아 "이건 얼굴이다"라는 판단을 낸다.

앞쪽 층은 단순한 무늬만 보고, 뒤로 갈수록 그 무늬들을 조합해 점점 더 의미 있는 덩어리를 본다. 층 하나하나가 앞 층의 결과물을 재료 삼아 한 단계 더 추상적인 패턴을 짓는 것이다. 이게 "깊게" 쌓는 진짜 이유다 — 층 하나로는 선밖에 못 보지만, 층을 여러 겹 이으면 그 위에 도형이, 그 위에 부분이, 그 위에 전체가 쌓인다.

7강에서 미뤄둔 문장이 여기서 풀린다

7강 끝에서 이렇게 적어뒀다. "딥러닝은 특징 고르는 일 상당 부분을 스스로 한다." 이제 그 문장의 속을 열 수 있다.

얕은 머신러닝

7강에서 본 "특징 공학"

• 사람이 "역까지 거리", "방 개수" 같은 특징을 미리 정한다
• 도메인을 잘 아는 사람의 경험과 감이 성능을 좌우한다
• 새로운 특징이 필요하면 사람이 다시 고민해야 한다

깊은 신경망

층이 특징을 계층적으로 뽑는다

• 앞쪽 층이 스스로 선·모서리 같은 저수준 특징을 찾아낸다
• 뒤쪽 층이 그걸 조합해 더 고수준 특징을 스스로 쌓는다
• 사람은 "역까지 거리를 넣어라"라고 알려줄 필요가 없다

9강에서 층 하나가 "곱하고 더하고 문턱과 비교하는" 단순한 계산이라고 했다. 그런데 그 단순한 계산을 여러 겹 이으면, 층들이 스스로 "이 조합이 예측에 쓸모 있더라"는 걸 학습 과정에서 찾아낸다. 사람이 "이 특징을 봐라"고 알려주지 않아도, 학습이 진행되며 앞쪽 층의 가중치가 저수준 패턴을 잡는 쪽으로, 뒤쪽 층의 가중치가 그걸 조합하는 쪽으로 스스로 자리를 잡는다.

정리하면

신경망을 깊게 쌓으면, 층마다 점점 더 추상적인 특징을 계층적으로 잡아낸다. 예전에는 사람이 하던 특징 고르는 일을, 깊은 신경망은 학습 과정에서 스스로 해낸다.

1. 01

   층마다 보는 눈높이가 다르다

   앞쪽 층은 선·모서리처럼 단순한 무늬를, 뒤쪽 층은 그걸 조합한 더 큰 덩어리를 본다.

2. 02

   이게 "깊게" 쌓는 이유다

   층을 이어야 저수준 패턴 위에 고수준 패턴이 쌓인다. 층 하나로는 이 계층이 안 생긴다.

3. 03

   7강의 특징 공학이 층의 몫으로 넘어갔다

   사람이 특징을 고르던 일 상당 부분을, 깊은 신경망은 학습 중에 스스로 찾아낸다.

4. 04

   그렇다고 무조건 깊을수록 좋은 건 아니다

   가중치와 계산량이 함께 늘어난다. 적당한 깊이를 찾는 일이 따로 필요하다.

이렇게 늘어난 가중치를, 정확히 어느 방향으로 얼마나 조정해야 할지는 아직 안 봤다. 다음 강의에서 Part 3 의 마지막으로, 그 조정의 실제 원리인 경사하강과, 이 무거운 계산을 왜 GPU 에 맡기는지를 그림으로 본다.