목록Naver boostcamp -ai tech/책 (2)

끵뀐꿩긘의 여러가지

[딥러닝 파이토치 교과서] 파이토치 기초

파이토치 특징 및 장점 PyTorch = "GPU에서 텐서 조작 및 동적 신경망 구축이 가능한 프레임 워크" -GPU(Graphics Processing Unit): 딥러닝에서 미분 연산 속도를 빠르게 하는 역할을 한다. 내부적으로 CUDA나 cuDNN이라는 API를 통해 GPU를 연산에 사용할 수 있다 병렬 연산에 있어 CPU보다 강점이 있으므로, 딥러닝 학습에서 필수적이다 -텐서(Tensor): 파이토치의 데이터 형태 -동적 신경망(dynamic computational graph): 훈련을 반복할 때마다 네트워크 변경이 가능한 신경망을 의미한다(ex. 학습 중에 은닉층 추가 가능) static graph를 사용하는 다른 프레임워크들과 차별되는 강점 연산 그래프와 연산을 분리해서 생각할 필요가 없다...
Naver boostcamp -ai tech/책 2022. 9. 29. 05:52
[밑바닥부터 시작하는 딥러닝]활성화 함수, 손실함수 미분 & 구현

시그모이드 함수: $$sigmoid(x) = \frac{1}{1+e^{-x}}$$ 시그모이드 함수의 미분: $$ \frac{\mathrm{d} sigmoid(x)}{\mathrm{d} x} = \frac{\mathrm{d} }{\mathrm{d} x}\frac{1}{1+e^{-x}}\\ =(1)(1+e^{-x})^{-2}(e^{-x})\\ = \frac{e^{-x}}{(1+e^{-x})^2}\\ = \frac{1+e^{-x}-1}{(1+e^{-x})^2}\\ = \frac{1+e^{-x}}{(1+e^{-x})^2} - \frac{1}{(1+e^{-x})^2}\\ = \frac{1}{(1+e^{-x})} - \frac{1}{(1+e^{-x})^2}\\ = \frac{1}{(1+e^{-x})}(1-\frac..
Naver boostcamp -ai tech/책 2022. 9. 26. 07:51
Prev 1 Next