Hyunwoo's DATA

신경망을 통과하는 각 단계에서 첫번째 입력 정보를 잊어버리지 않기 위해 장단기 메모리가 필요합니다. LSTM(장단기 메모리셀)은 RNN이 출력 결과가 이전의 계산결과에 의전한다는 한계를 보완해 만들어 졌다. LSTM(Long Short-Term Memory) 는 은닉층의 메모리 셀에 입력게이트,망각게이트,출력 게이트를 추가하여 불필요한 기억을 지우고, 기억해야할 것들을 절한다. 요약하면 LSTM은 은닉상태를 계산하는 식이 전통적인 RNN보단 복잡해졌으며 셀 상태라는 값을 추가하였다. 특징은 2개의 벡터 (단기 상태 ht/장기상태Ct) 3개의 게이트를 가지고 있다는 점이다. 망각 게이트층 이 단게예서 셀 상태로부터 어떤 정보를 잊거나 지워버리릴지 결정한다. 여기서 ht-1과 x를 전달하고 가중치와 편향 값..

케라스 는 딥러닝 모델을 간편하게 만들고 훈련시킬수 있는 프레임워크입니다. 케라스를 불러오고 선형데이터를 만들기 위해 y = mx + b + noise라는 방정식을 만들었습니다. linspace함수는 선형 함수인데 0부터 50까지 20개의 요소로 된 1차원 배열을 생성합니다. 방정식을 플롯팅 해보면 위와 같은 그림이 나옵니다. 잡음에 의해 완벽한 직선은 아닙니다. 이 모델에 대한 최적의 선을 찾는 신경망을 만드는 것을 목표로 하겠습니다. Sequential()함수는 다수의 층을 추가 할 수 있습니다. dense()를 추가해서 n개의 매개변수를 가질수 있게됩니다. 입력 차원은 1이고 이 신경층 활성화에 대한 함수는 relu 즉 정류 선형 유닛을 입력하였습니다. 지도 학습을 위해 모델을 fit()함수에 넣어..

퍼셉트론이란 퍼셉트론은 인공 신경망으로 다수의 입력으로부터 하나의 결과를 보내는 알고리즘입니다. 실제 뇌를 구성하는 신경 세포 뉴런의 동작과 유사한데, 다수의 입력을 받는 퍼셉트론의 그림은 위와 같습니다. 입력신호와 출력 신호가 퍼셉트론에서 각각 입력값과 출력값에 해당합니다. x는 입력값, w는 가중치, y는 출력값입니다. 각 입력값이 가중치와 곱해져서 인공뉴런에 보내지고 각 입력값과 그에 해당하는 가중치의 곱의 전체합이 임계치를 넘으면 출력신호로서 1을 출력하고 그렇지 않을 경우 0을 출력합니다.이러한 함수를 계단한수라고 부릅니다. 가중치와 편향 b + w1x1 + w2x2 0 b + w1x1 + w2x2 >=0 => 1 위 식에서 b를 편향이라고 할 수 있습니다. 기계학습 분야에서는 모델이 학습 데이..