조이쓰 2022. 2. 19. 22:27

강의 내용 Review


📍배운내용📍

    • Previous Lecture
    • Backpropagation
    • Chain Rule and Backpropagation 

👉강의내용👈

Ch.02 Jacobian Matrix와 Backpropagation

Lecture 0. Orientation

Previous Lecture

  • 레이블이 들어있는 어떤 이미지가 컨볼루션 레이어 네트워크에 들어왔을 때 어떤 출력을 내나? 
  • 실제 값과 예측값의 차이인 로스 값 계산은 어떻게 되나? 
  • 이미지(X)가 들어왔을때 컨볼루션 레이어로 되어있는 피처 추출 부분 -> 피처 추출됨
  • 이후 덴스 레이어로 이루어져 있는 클레스파이어로 들어감 -> 최종 모델의 예측이 연산됨
  • 이후 데이터에 들어있는 레이블을 이용해 로스율 계산함 
  • 파라미터 라이즈드 러닝 -> Weight, bias와 같은 학습될 파라미터를 가진 모델
  • 우리가 가진 목적에 맞게 Weight와 bias를 학습시켜야 함, 알고리즘
  •  2강에서는 파라미터들이 학습이 되는 원리를 배움 -> backpropagation 

 Backpropagation

  • 뉴럴 네트워크를 학습시키기 위해 사용하는 딥러닝 중추적인 알고리즘
  • 수학적 테크닉도 필요함 
  • 합성함수의 미분에서 다루는 체인 룰을 기반으로 만들어짐 

 Chain Rule and Backpropagation

  • 가중치와 편향에 대해 미분을 해줘야 함
  • 각각 스칼라 값에 대해 미분하는 것이 아니라, 벡터나 메트릭스, 고차원 텐서에 대해 미분
  • 벡터나 메트릭스, 고차원 텐서에 대해 미분하는 도구가 필요함 
  • x데이터가 여러 개의 뉴런을 통과할 때 필터 뱅크를 이룸, 이각각의 뉴런이 각각의 함수가 됨
  • 즉 여러 개의 입력, 여러개의 출력에 대해 미분을 하는 도구가 필요함  

 

공부사진 


강의듣기
강의 필기

 

27일차 후기


2강 backpropagation 연산 오리엔테이션을 들었다.
수식이 많이 나온다고 들어서 걱정이 된다. 얼른얼른 듣자!

 

 

https://bit.ly/37BpXiC

 

패스트캠퍼스 [직장인 실무교육]

프로그래밍, 영상편집, UX/UI, 마케팅, 데이터 분석, 엑셀강의, The RED, 국비지원, 기업교육, 서비스 제공.

fastcampus.co.kr

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성되었습니다.