📗강의노트/모두의 딥러닝

    [모두의 딥러닝] RNN Basics
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] RNN Basics

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 활용도가 가장 높은 방법임!이번의 output이 다음의 cell에 연결이 된다! 두 가지 값, outputs, states를 도출하게 된다. “학습"과 “구동"을 나눠서 방법을 자유자재로 변경할 수 있다. 기존의 방법이 마음에 들지 않았을 때, 학습의 방법만 변경하여 그대로 실행할 수 있다. 먼저 one-hot encoding으로 표현하는 것이 좋다. 입력의 dimension은 4가 될 것 이다. output의 dim은 마음대로 설정할 수 있다. Hidden_size를..

    [모두의 딥러닝] NN의 꽃 RNN 이야기
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] NN의 꽃 RNN 이야기

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 단편적인 데이터보다는 연속적인 데이터가 많다. 이전에 것들을 알아야 기존의 것을 이해할 수 있는 것을 sequence data 라고 말한다. 이전의 결과가 영향을 미칠 수 있어야함. 그래야 series가 됨 현재 state가 다음 state에도 영향을 미친다. ( 계산할 때 이전의 연산들이 영향을 미친다. ) 상태를 계산하고, 그것이 자기입력이 되는 것이다. 한 step이전의 state가 들어감. 매 스탭마다 모든 RNN에 대해서 function과 parameters(..

    [모두의 딥러닝] CNN Class, Layers, Ensemble
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] CNN Class, Layers, Ensemble

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 Class & layer를 사용하여 CNN을 조금 간단하게! 초기화를 먼저 해준다. 그리고 네트워크를 빌드하는 모듈을 만든다. High - level의 API이다.이를 layer를 사용함으로써 쉽게 할 수 있다. 똑같은 표현이긴 함! dense를 사용하면 모든 작업을 한 줄에 넣을 수 있다. 여러 개의 모델을 training 시키고, 새로운 데이터가 들어왔을 때 각각 모두가 예측후에 이 결과를 조합하는 것이다. 그리고 이 결과를 최종적으로 내놓게 된다! 모델을 여러개 ..

    [모두의 딥러닝] MNIST 99% with CNN
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] MNIST 99% with CNN

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 10개 중에 1개를 예측하는 시스템을 생각가능 N개의 이미지 784개의 값을 가짐 이를 이미지 입력으로 넣기 위해 reshape을 해줌 -1은 n개를 말한다. x image가 바로 입력이 될 것 이다. 필터의 크기는 3x3, 색상, 32개의 필터를 사용함 conv를 통과시킴 Padding = same해서 w의 크기에 상관없이 출력값은 입력의 이미지 사이즈와 같게 만들어줌 (그대로 28x28 유지) 그 다음 ReLU통과( 값이 변화하지 않음) 그 후 pooling 해줌 ..

    [모두의 딥러닝] TensorFlow CNN Basics
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] TensorFlow CNN Basics

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 Filter를 사용하여 conv 값을 뽑아냄 뽑아낸 값을 양이 많아지기에 작게 sub-sampling을 해준다. 마지막으로 feature extraction의 과정을 거친다. 이런 최종 값들은 FC network를 통해 최종값을 도출할 수 있다. 3x3x1(색상) 이미지 / 필터도 같은 색상을 가짐 tf.InteractiveSession()생성시 자기 자신을 기본 세션으로 설치한다는 것입니다. Tensor.eval()메서드와 Operation.run()메서드는 연산을 ..

    [모두의 딥러닝] ConvNet 활용예
    📗강의노트/모두의 딥러닝

    [모두의 딥러닝] ConvNet 활용예

    Sung Kim 님의 "모두의 딥러닝" 강의노트입니다좋은 강의 감사드립니다!https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5 Case 1 : LeNet-5 5x5 filter & stride =1 Case2 : AlexNet input사이즈가 큼 96개의 필터 ( 크기는 11x11x3이고 stride=4) 35k 의 parameter가 필요함 두 번째 pooling 할 때 3x3필터 사용 계속 깊어짐 새로운 Norm layer가 나옴 : 나온 값들을 normalization해주는 것인데, 최근에 들어서는 굳이 할 필요가 없다라고 말한다. 6*6*256 by 4096 행렬로 차원을 축소해주는 ..

티스토리툴바