패스트캠퍼스 챌린지 - 16일차

강의 내용 Review

---

📍배운내용📍

• Dense의 일반적인 표현
• Dense 레이어에서 미니배치 
• Cascaded Dense Layers

👉강의내용👈

Ch.01 딥러닝 네트워크의 연산

Dense의 일반적인 표현

• 덴스 레이어의 일반적인 표현을 잘 익혀둬야함
• 이전 레이어의 출력값을 입력으로 받음

덴스레이어의 미니 배치

• N x Li 행렬이 입력 값으로 들어오면 N x l1의 형태로 출력 값이 출력됨
• 출력값의 가로행 : Batch-wise  
• 출력값의 세로행 : Neuron-wise 

Dense Layer란?

• 고밀도 계층 : 조밀한 계층은 깊이 연결된 신경망 계층, 이전계층의 모든 뉴런으로부터 입력을 받음
• Dense Layer는 행렬 벡터 곱셈을 수행함
• 행렬연산에 사용된 값을 저장해서 수치나 XAI를 접목해서 반영도 가능

실습 코드

• Atificial 뉴런 실습 

import tensorflow as tf 
from tensorflow.keras.layers import Dense
#아티피셜 뉴런, 에파인 평션은 레이어 단위로 구현 

x = tf.constant([[10.]]) 	 # input setting 
print(x.shape)
dense = Dense(units = 1, activation='linear')  # imp. an affine function 
y_tf = dense(x) 		# forward propagation + params initialization
print(' y_tf : {}'.format(y_tf))
W, B = dense.get_weights()
print('W :{}, B:{}'.format(W, B))

• Atificial 뉴런 직접 계산 소스코드

import tensorflow as tf
from tensorflow.keras.layers import Dense

# matricx형태로 만들기
x = tf.constant([[10.]])  # input setting(Note : input -> matrix)

# imp. an affine function (x 의 값에 대한 정보 없음)
dense = Dense(units=1, activation='linear') 

# Dense를 이용해서 y값 연산 
y_tf = dense(x) # 통과 되면 x값을 알고 w,b를 초기화함  forward popagation + params initializtion

W,b = dense.get_weights() # get weight, bias

# y = Wx + b 는 실제 행렬계산 => 검증  # forwaord propagation(manual)
y_man = tf.linalg.matmul(x,W) + B
print('==== Input/Weight/Bias ====')
print('x: {}\n {}\n'.format(x.shape, x.numpy()))
print('W: {}\n {}\n'.format(W.shape, W))
print('b: {}\n {}\n'.format(b.shape, b))

print('==== outputs ====')
print("y(tensorflow) : {} \t {}".format(y_tf.shape, y_tf.numpy()))
print("y(manual) : {} \t {}".format(y_man.shape, y_man.numpy()))

 

공부사진 

---

강의듣기

필기내용

 

16일차 후기

---

계속해서 일반화 된 덴스 표현법을 익히고 이해하는것이 중요하다
매일 매일 정해진 분량이 있지만 분량을 잘 못채우고 있다.
열심히 듣자!! 

https://bit.ly/37BpXiC

패스트캠퍼스 [직장인 실무교육]

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성되었습니다.