Paper: https://arxiv.org/pdf/1403.6652.pdf
PR113 Facebook group: https://www.facebook.com/groups/565858127904979
1. Word2vec 방법(SkipGram) 가지고 graph 내 node embedding을 해보자!
- Word2vec : DeepWalk = Sentence : Random walk sequence = Word : Node
2. 각 node로부터 여러 번 random walk 돌리고, 적당한 size의 window 내 node끼리 similar하다고 가정
- 해당 노드 간 conditional probability를 높이는 방향으로 embedding update
- 분모 연산량 줄이기 위해 hierarchical softmax 사용
3. (당시)k-means 또는 matrix 기반 방식보다 성능이 우월함. Node label이 굉장히 sparse할 때(1%)도 기존 모델 대비 좋은 성능을 냄. Transductive 방식이긴 하지만 knowledge of the entire graph 없이도 representation을 만들어내는 방식 제안. Network embedding 분야에 있어서 기념비적인 논문이라고 생각함!