๐ง Deep Learning/RNN
Sequence-to-sequence model `Seq2Seq` ๋ชจ๋ธ์ words, letters, features of images ๋ฑ์ sequence data๋ฅผ Inputs์ผ๋ก ์ฌ์ฉํ๋ฉฐ Outputs ๋ํ ๋๋ค๋ฅธ sequence data์ด๋ค. ์ฌ๊ธฐ์ ์
๋ ฅ์ ์ฌ์ฉํ๋ sequence์ ํด๋นํ๋ item์ ๊ฐ์์ ์ถ๋ ฅ์ sequence์ ํด๋นํ๋ item์ ๊ฐ์๊ฐ ๋์ผํ ํ์๋ ์๋ค. ์ด๋ฌํ sequence-to-sequence ๋ชจ๋ธ์ ๋ฒ์ญ ๋จธ์ ์ผ๋ก ์ฌ์ฉ๋๋ฉฐ ์ด ๊ฒฝ์ฐ sequence๋ ๋จ์ด๋ค๋ก ๊ตฌ์ฑ๋๋ฉฐ, output ๋ํ ๋ง์ฐฌ๊ฐ์ง๋ก ๋จ์ด๋ค๋ก ๊ตฌ์ฑ๋๋ค. Encoder-Decoder Seq2Seq ๋ชจ๋ธ์ `Encoder`์ `Decoder`๋ก ๊ตฌ์ฑ๋๋ค. ๊ฐ๊ฐ์ ์ญํ ์ ๋ค์๊ณผ ๊ฐ๋ค. Encoder : in..
๐ง Deep Learning/RNN
๊ธฐ์ต์ ๊ฐ๋ ์ ๊ฒฝ๋ง ๋ชจ๋ธ RNN ๊ธฐ์ต์ ์ ๋ฌํ๋ ์ํ ์ ๊ฒฝ๋ง ์๊ฐ๊ณผ ๊ณต๊ฐ์ ์์ ๊ด๊ณ๊ฐ ์๋ ๋ฐ์ดํฐ๋ฅผ `์์ฐจ ๋ฐ์ดํฐ(sequence data)`๋ผ๊ณ ๋ถ๋ฅธ๋ค. ์์ฐจ ๋ฐ์ดํฐ๋ ์๊ณต๊ฐ์ ์์ ๊ด๊ณ๋ก ํ์ฑ๋๋ ๋ฌธ๋งฅ ๋๋ `์ฝํ
์คํธ(context)`๋ฅผ ๊ฐ๋๋ค. ํ์ฌ ๋ฐ์ดํฐ๋ฅผ ์ดํดํ ๋ ์๋ค์ ์๋ ๋ฐ์ดํฐ๋ฅผ ํจ๊ป ์ดํด๋ณด๋ฉด์ ์ฝํ
์คํธ๋ฅผ ํ์
ํด์ผ ํ์ฌ ๋ฐ์ดํฐ์ ์ญํ ์ ์ดํดํ ์ ์๋ค. ์ธ๊ณต ์ ๊ฒฝ๋ง์ด ๋ฐ์ดํฐ์ ์์๋ฅผ ๊ณ ๋ คํ์ฌ ์ฝํ
์คํธ๋ฅผ ๋ง๋ค๋ ค๋ฉด ๋ฐ์ดํฐ์ ์์ฐจ ๊ตฌ์กฐ๋ฅผ ์ธ์ํ ์ ์์ด์ผ ํ๊ณ , ๋ฐ์ดํฐ์ ์ฝํ
์คํธ ๋ฒ์๊ฐ ๋๋๋ผ๋ ์ฒ๋ฆฌํ ์ ์์ด์ผ ํ๋ค. ์ด๋ฐ ์ ๋ค์ ๊ณ ๋ คํ์ฌ ๋ง๋ ์ธ๊ณต ์ ๊ฒฝ๋ง์ด ๋ฐ๋ก `์ํ ์ ๊ฒฝ๋ง(RNN: Recurrent Neural Network)`์ด๋ค. ์๋ฐฉํฅ ์ ๊ฒฝ๋ง์ด๋ ์ปจ๋ฒ๋ฃจ์
์ ๊ฒฝ๋ง๊ณผ๋ ๋ค๋ฅด๊ฒ ์ํ ..
๐ง Deep Learning/RNN
์ํ ์ ๊ฒฝ๋ง ํ์ต ํ์ต์ด๋ ๋ฐ์ดํฐ๋ฅผ ํตํด parameters๋ฅผ ์ถ์ ํ๋ค๋ ๊ฒ์ ์๋ฏธํ๋ค. ์ํ ์ ๊ฒฝ๋ง์ t์์ ๊น์ง์ ๊ณผ๊ฑฐ ์ ๋ณด๋ฅผ ํ์ฉํ์ฌ y๋ฅผ ์์ธกํ๊ฒ ๋๋๋ฐ, ํ์ต ๋์์ด ๋๋ ํ๋ผ๋ฏธํฐ๋ 3๊ฐ์ง์ด๋ค. ์ฒซ ๋ฒ์งธ๋ t ์์ ์ ๋ฐ์ดํฐ๋ฅผ ๋ฐ์ํ W_xh ๊ฐ์ค์น, ๋ ๋ฒ์งธ๋ t ์์ ์ด์ ์ ์ ๋ณด๋ฅผ ๋ฐ์ํ๋ W_hh ๊ฐ์ค์น, ๊ทธ๋ฆฌ๊ณ t ์์ ์ y๋ฅผ ์์ธกํ ๋ ํ์ฉํ๋ W_hy ๊ฐ์ค์น์ด๋ค. ํด๋น ํ๋ผ๋ฏธํฐ๋ ๋งค ์์ ๋ง๋ค ๊ณต์ ํ๋ ๊ตฌ์กฐ์ด๋ฉฐ(parameter sharing), ๋งค ์์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฐ์ด ๊ฐ๋ค. ๋ํ ์ต์ ์ W๋ W๋ฅผ ๋งค ์์ ์ ์ฉํ์ ๋ Loss๊ฐ ์ต์๊ฐ ๋๋ W์ด๋ค. hidden state์ ์์ธก๊ฐ์ ๋ค์๊ณผ ๊ฐ์ด ๊ณ์ฐ๋๋ค. ์ํ ์ ๊ฒฝ๋ง์ด 3๊ฐ์ง์ ๊ฐ์ค์น๋ฅผ ์ถ๋ก ํ๋ ํ์ต๊ณผ์ ์ ๋ค์๊ณผ ๊ฐ๋ค. Los..
๐ง Deep Learning/RNN
์๊ณ์ด ๋ฐ์ดํฐ ์์ธก ๋ถ์ ๋ฐฉ๋ฒ๋ก ํธ๋ ๋ `์๊ณ์ด ๋ฐ์ดํฐ(Time Series Data)`๋, ์๊ฐ์ ํ๋ฆ์ ๋ฐ๋ผ ์์๋๋ก ๊ด์ธก๋์ด ์๊ฐ์ ์ํฅ์ ๋ฐ๊ฒ ๋๋ ๋ฐ์ดํฐ๋ฅผ ๋งํ๋ค. ์ด๋ฌํ ์๊ณ์ด ๋ฐ์ดํฐ์๋ `์๊ณ์ด ๋จ๋ณ๋ ๋ฐ์ดํฐ(Univariate time series data)`, `์๊ณ์ด ๋ค๋ณ๋ ๋ฐ์ดํฐ(Multivariate time series data)`, `์๊ณ์ด ์ด๋ฏธ์ง ๋ฐ์ดํฐ(Time series image data)` ๋ฑ์ด ์๋ค. ์ ํต ํต๊ณ ๊ธฐ๋ฐ ์๊ณ์ด ๋ฐ์ดํฐ ๋ถ์ ๋ฐฉ๋ฒ๋ก ์ด๋ํ๊ท ๋ฒ(Moving average) ์ง์ํํ๋ฒ(Exponential smoothing) ARIMA(Autoregressive integrated moving average) ๋ชจ๋ธ SARIMA(Seasonal ARIMA) ๋ชจ๋ธ ..