Toggle navigation
JUPYTER
FAQ
View as Notebook
View as Code
Python 3 Kernel
View on Gist
Execute on Binder
Download Notebook
Notebook slides
Deep Learning Day 8.
¶
Word2vec
¶
Concept
Code Review
Concept
¶
one hot encoding 시 vector size가 매우 크고 sparse 하므로 neural net 성능이 잘 나오지 않는다.
"주위 단어가 비슷하면 해당 단어의 의미는 유사하다" 라는 아이디어
단어를 트레이닝 시킬 때 주위 단어를 label로 매치하여 최적화
단어를 "의미를 내포한 dense vector"로 매칭 시키는 것이 목표!
In [2]:
Image
(
'./day8/skip_gram.gif.png'
)
Out[2]: