티스토리

참신러닝 (Fresh-Learning)
검색하기

블로그 홈

참신러닝 (Fresh-Learning)

leechamin.tistory.com/m

이차민의 iOS/ML/DL 공부 블로그 iOS개발과 Computer Vision에 대한 전반적인 공부를 합니다. "Be The First Penguin"

구독자
42
방명록 방문하기
공지 나는 누구인가, résumé 모두보기

주요 글 목록

  • [CS231n] 14. Deep Reinforcement Learning 강화학습은 에이전트의 보상을 최대화할 수 있는 행동이 무엇인지를 학습하는 것이다. 강화학습의 대표적인 방법인 Q-Learning과 Policy Gradients에 대해서 배워볼 것이다. 에이전트와 환경이 있다. 그리고 환경에서 에이전트에게 상태가 주어진다. 그리고 에이전트는 행동을 하게된다. 그러면 환경은 행동에 따라 에이전트에게 보상을 주고 다음 상태를 부여한다. 계속 반복이된다. 고전적인 문제이다. 게임을 학습시켜 높은 점수를 따게 할 수 있다. 과연 수학적으로는 어떻게 나타낼까? Markov Decision Process를 통해서 강화학습 문제를 수식화 시킬 수 있다. Markov property란 현재 상태만으로 전체 상태를 나타내는 성질이다. 환경은 초기 상태 분포인 p(s_0)에서 상태 s_0.. 공감수 0 댓글수 0 2019. 3. 18.
  • [CS231n] 13. Generative Models 비지도 학습중 세가지의 생성 모델에 대해 볼 것이다. 지금까지 배운 것은 다 지도 학습이었다. Clustering, PCA, Autoencoders 는 비지도이다. 데이터에 대한 비용이 적다. P_data를 통해 P_model을 학습시키고, 이 모델이 P_data와 같은 데이터를 생성하도록 하는 것이다. 색을 칠할수도 있다. 데이터의 잠재적인 특징들(latent features)을 잘 학습시켜 놓으면 추후 다른 테스크에도 아주 유용하게 쓰일 수 있다. 3가지에 대해서 말할 것이다. 이미지 x에 대한 우도(likelihood)인 p(x)를 모델링할 것이다. 체인룰로 p(x)를 1차원 분포들간의 곱의 형태로 분해한다. 분포 p에서 도대체 “모든 이전 픽셀”이 의미하는 바가 무엇일까 Pixel RNN 화살표 .. 공감수 0 댓글수 0 2019. 3. 16.
  • [CS231n] 12. Visualizing and Understanding 필터와 내적한 결과가 first layer에 입력된다. ( 학습된 가중치 ) 우선 가장 많이 찾는 것은 ‘Edge’성분이다. 흰/검으로 길게 늘어선 필터들이 보인다. 보색도 보인다. CNN을 어떤 모델/ 데이터로 학습하건 간에 첫 번째 레이어는 전부 다 이런 식으로 생겼다. 시각화 함으로써, 첫 번째 레이어가 무엇을 찾고 있는지 알 수 있다. 레이어가 깊어질 수록 더 알아보기 힘들다. 적당한 직관을 얻기가 힘들다. 연결이 되어있지 않기 때문이다. T-SNE는 특징공간을 시각화하기 위해서 사용하는 PCA보다는 더 강력한 방법이다. 군집들은 MNIST의 숫자를 의미한다. IMAGE-NET에도 적용 가능하다. 군집으로 나타남 원본 이미지를 CNN으로 4096dim으로 표현하고, 이를 t-SNE로 2dim으로 .. 공감수 0 댓글수 0 2019. 3. 15.
  • [CS231n] 11. Detection and Segmentation Segmentation, Localization, Detection 배울 내용이 다 들어가있는 사진이다. 첫 번째는 Semantic Segmentation이다. 입력은 이미지고 출력으로는 이미지의 모든 픽셀에 카테고리를 정한다. 픽셀로 카테고리를 정해서 암소 두마리를 구분할 수가 없다. 이것이 Semantic Segmentation의 단점이다. 이후에 Instance Segmentation이 이를 해결할 수 있다. 입력 이미지를 아주 작은 단위로 쪼갠다. 해당 영역이 어떤 카테고리에 속하는지 정하는 것이다. 비용이 매우 크다. 다 쪼개고 모든 영역을 forward / backward해야 하기 때문이다. 따라서 개별적으로 적용하는 것은 매우 좋지않다. Fully convolutional이 더 낫다. 이미지.. 공감수 0 댓글수 0 2019. 3. 11.
  • [CS231n] 10. Recurrent Neural Networks Train game 해보기. (1) One to many 단일 입력이지만 출력은 caption같은 가변 출력이다 ( image captioning ) (2) many to One 입력이 가변 입력이다. 감정 분류에 쓰인다. 비디오를 읽을 때도 사용된다. (문장) ( Sentiment Classification ) (3) many to many 입/출력 가변 (Machine Translation ) 번역된 길이는 다를 것이다. (4) many to many 비디오 처럼 가변 입력이고 프레임마다 출력값이 나와야 하는 상황 ( Video classification on frame level ) RNN 으로 input x가 들어감. RNN에는 ‘hidden state’가 있는데 이는 새로운 입력을 불러들일 때마.. 공감수 0 댓글수 0 2019. 3. 9.
  • [CS231n] 9. CNN Architectures 최신 CNN 아키텍쳐에 대해 알아볼 것이다. AlexNet은 최초의 Large scale CNN이다. 출력 차원은 55이다. 55 (wide) X 55 (height) X 96 (number of filters)으로 output volume이 된다. pooling의 경우에는 가중치가 없고 그저 특정 지역에서 큰 값을 뽑아내는 역할만 하기에 “ 파라미터 “ 가 없다. VGGNet 은 더 깊어지고(layers) 더 작은 필터(3x3)를 사용한다는 것이 특징이다. 우선 필터의 크기가 작으면 파라미터의 수가 더 적다. 따라서 큰 필터에 비해 레이어를 조금 더 많이 쌓을 수 있다(Depth). GoogLeNet도 깊은 네트워크다. 22개의 레이어로 구성되어 있다. 계산량을 효율적으로 수행하도록 네트워크를 디자인했.. 공감수 0 댓글수 0 2019. 3. 6.
  • [CS231n] 8. Deep Learning Software 일반적인 딥러닝 프레임워크에 대한 기본적인 개념. Tensorflow는 Computational graph를 그리는 것이 특징 Computational graph는 상대적으로 low level이다. Keras : Tensorflow를 backend로 해서 computational graph를 알아서 만들어준다. 먼저 레이어의 시퀀스로 모델을 구성한다. Optimizer 구성하고 model.compile 하면 그래프가 알아서 만들어지는 것이다. model.fit을 하면 전체 학습 과정이 알아서 진행된다. Pytorch 는 tensorflow와 다르다. 세 가지 추상화 레벨을 정의해 놓았다. Dtype을 floattensor에서 cuda.floattensor 로 바꿔주면 GPU에서 실행할 수 있다. Nump.. 공감수 0 댓글수 0 2019. 3. 4.
  • [CS231n] 7. Training Neural Networks II Batch Normalization을 다시 보자 최적화 문제가 NN에서 중요하다 미니 배치 안에서 데이터 loss를 계산, 그리고 Gradient의 반대 방향을 이용해서 파라미터 벡터를 업데이트 한다. 손실함수의 모양에 따라 영향을 많이 받는다. 위의 경우는 Loss는 수직 방향의 가중치 변화에 훨씬 더 민감하게 반응하는 것이다. SGD의 학습 과정을 보면 “지그재그”로 나타나게 된다. gradient의 방향이 고르지 못하기 때문이다. 가로 방향의 가중치는 느리게 변하는 반면에 수직 방향의 가중치가 빠르게 변화하면서 지그재그 모양으로 지저분하게 나타나는 것이다. ( 고차원 공간에서 더 빈번하게 발생한다 ) 불균형한 방향이 존재한다면 SGD는 잘 .. 공감수 0 댓글수 1 2019. 2. 27.
  • [CS231n] 6. Training Neural Networks I http://cs231n.stanford.edu/2017/handouts/derivatives.pdf : 미분 http://yann.lecun.com/exdb/publis/pdf/lecun-98b.pdf : Backprop 읽어보기 1. Activation Functions 데이터 입력이 들어오면 가중치와 곱한다. FC or CNN 그리고 활성함수, 비선형 연산을 거치게 된다 . 문제점 1. Saturation되는게 gradient를 없앤다. X=-10이면 Gradient가 0이 됨 X=0에서는 잘 동작함 X=10이면 sigmoid가 flat하기 때문에 gradient를 다 죽인다. 문제점 2. sigmoid의 출력이 zero centered하지 않다는 것이다. X가 모두 양수라고 하자. 가중치와 곱해지.. 공감수 0 댓글수 0 2019. 2. 26.
  • [CS231n] 5. Convolutional Neural Networks Fully Connected Layer : 어떤 벡터를 가지고 연산을 하는 것 activation은 이 layer의 출력이다. 기존의 FC Layer가 입력 이미지를 길게 쭉 폈다면 이제는 기존의 이미지 구조를 그대로 유지하게 된다. 그리고 작은 필터가 우리가 가진 가중치가 되는 것이다. 필터를 가지고 이미지 슬라이딩을 하면서 공간적으로 내적을 수행하게 된다, 깊이(3)는 전체 깊이를 전부 취하지만, 32x32중 5x5만을 취한다. 필터의 각 W와 이에 해당하는 이미지의 픽셀을 곱해준다. (각 원소끼리 Convolution을 하는 거나, 그것을 쭉 펴서 내적을 하는거나 똑같은 일을 하는 것이다.) 필터의 모든 요소를 가지고 내적을 수행하게 되면 하나의 값을 얻게된다. conv연산을 수행하는 값들을 다시 .. 공감수 0 댓글수 0 2019. 2. 25.
  • [CS231n] 4. Introduction to Neural Networks Backpropagation and Neural Networks Computational graph를 사용해서 함수를 표현하게 됨으로써 backpropagation이라고 부르는 기술을 사용할 수 있게 된다. backpropagation은 gradient를 얻기위해 computational graph 내부의 모든 변수에 대해 chain rule을 재귀적으로 사용한다. 첫 번째는, 항상 Computational graph로 그리는 것. x+y 덧셈 노드를 q라고 부르자 q,f의 gradient를 구한다 ( 각각 편미분 ) 그리고 우리가 찾기 원하는 것은 x,y,z 각각에 대한 f의 gradient이다. Chain rule에 의거해 뒤에서 부터 gradient 계산을 시작한다. f에 대한 y의 gradient.. 공감수 0 댓글수 0 2019. 2. 21.
  • [CS231n] 3. Loss Functions and Optimization 최적의 W를 구하기 W가 좋은지 나쁜지를 정량화 할 방법이 필요하다. W를 입력으로 받고 각 스코어를 확인하여 평가하는 것이 “ Loss Function(손실 함수) ”이다. 가장 덜 나쁜 W를 구하는 과정이고, 이를 “ 최적화 “ 라고 부른다. “ Hinge Loss “ S_j는 예측된 스코어이다. x축은 S_Yi 로 실제 정답 클래스의 스코어이다. Y 축은 Loss이다. ( 여기서는 Safety margin = 1 이다 ) -> 우리는 스코어가 정확히 몇인지는 신경쓰지 않는다. 스코어간의 상대적인 차이를 알고싶어 한다. (온라인 코스노트) 정답 클래스를 제외한 다른 클래스들에 대해 손실함수를 계산 ( 정답이면 0이기에 ) 여기서 Loss 는 0 ~ ∞ 까지.. 공감수 0 댓글수 0 2019. 2. 20.
  • [CS231n] 2. Image Classification Pipeline Image Classification은 어떻게 하는 것 일까? 우선 입력 이미지를 받는다. 그리고 시스템에는 미리 정해놓은 카테고리 집합이 존재한다. 이미지를 보고 어떤 카테고리에 속할지 고르는 것. 컴퓨터에게는 이미지는 그저 숫자의 집합에 불과하다. 카메라를 조금만 옮겨도 모든 픽셀 값이 달라진 것이다. 그렇기에 우리가 만드는 알고리즘은 이런 상황에데 대해 강인해야한다. ( 조명,자세,가려짐, 배경과 비슷할 때 또한 마찬가지이다. ) 직관적이고 명시적인 알고리즘은 존재하지 않는다. 이미지를 보고 edges를 계산하고 , corners와 edges를 각 카테고리로 분류한다. -> 하지만 이런 알고리즘은 “확장성”이 없는 것이다. 다른 물체를 인식하려면 다시 처음부터 진행해야 하는 것이 문제이다. 그래서 .. 공감수 2 댓글수 2 2019. 1. 21.
  • [CS231n] 1. Introduction to Convolutional Neural Networks for Visual Recognition 1 ~ 16강으로 이루어진 CS231n의 강의를 듣고, 이해한 내용을 토대로 정리할 것이다. 강의를 들으면서 떠오르는 Idea들과 접목시켜 생각해보면 유익할 것 같다. CS231n은 Stanford University에서 진행하는 Computer Vision에 대한 강의이다. Computer Vision은 매우 다양한 분야에서 적용이 되고 있고, 적용이 될 수 있다. 이번 1강에서는 Computer Vision의 간략한 역사와 CS231n의 개요에 대해 알아볼 수 있다. 과거에는 고대 생물들은 시각(비전)이 존재하지 않았다.그래서 시각이 존재하기 이전에는 먹이를 찾아서 먹지 못하고, 수동적으로 살아왔다. 하지만 종이 폭발적으로 늘어난 시기가 있었다. 이러한 발전의 이유를 "시각(비전)"에서 찾았다. 한 .. 공감수 2 댓글수 0 2019. 1. 20.
    문의안내
    • 티스토리
    • 로그인
    • 고객센터

    티스토리는 카카오에서 사랑을 담아 만듭니다.

    © Kakao Corp.