GraphTravel
1. GAE와 Autoencoder 응용 이해 2. Amazon Purchase 데이터로 Link Prediction 구매 예측 안녕하세요, GUG 여러분! 그래프 튜토리얼의 가이드 Erica에요 🍹 8번째 여행에서는 GAE, VGAE 모델을 다룰 거에요. GAE는 AutoEncoder의 원리를 응용해서 Node와 Edge의 정보를 활용해 그래프의 구조를 학습합니다. 그래프 복원을 통해 누락된 Edge나 미래의 Edge를 예측하는 Link Prediction task에 특히
GraphOmakase
Graph-Aware Language Model Pre-Training on a Large Graph Corpus Can Help Multiple Graph Applications [https://arxiv.org/pdf/2306.02592.pdf] Graph 활용사례들이 늘어가고 있습니다. LLM 및 ChatGPT 흥행의 여파이지 않을까 하네요. 본 논문의 핵심을 말씀드려보자면, 과연 graph topology 를 활용하는게 Application 에 도움이 될까에 대한 원초적인 문제를
GraphTravel
1. GraphSAGE의 neighbor sampling 2. Inductive Learning 3. Reddit 데이터로 node classification task 수행 안녕하세요, GUG 여러분! 그래프 튜토리얼의 가이드 Erica에요🍏 7번째 여행에서는 GraphSAGE 모델을 다룰 거에요. GraphSAGE는 neighbor sampling 전략을 통해, 학습 중에 본 적 없는 node에 대해서도 추론이 가능한 Inductive Learning 에 특화되어 있답니다. 📢 가독성을 위해 본문에는 코드
GraphOmakase
Paper on graph database schemata wins best-industry-paper award [https://www.amazon.science/blog/paper-on-graph-database-schemata-wins-best-industry-paper-award] 그래프 모델링에 대해 궁금하신 분들께서 보시면 좋을 콘텐츠 입니다. LPG(label property graph)에 대한 개요부터 PG-schema 까지. 그래프 schemata 를 위해 어떤식으로 접근하고
GraphTravel
1. Graph Attention Network 구현 2. Amazon 상품 카테고리 예측하기 안녕하세요, GUG 여러분! 그래프 튜토리얼의 가이드 Erica에요🥁 6번째 여행에서는 GAT 모델을 다룰 거에요. GAT는 Transformer 모델처럼 Attention Mechanism을 활용하고, 그만큼 뛰어난 유용성과 범용성을 지니고 있답니다. 📢 가독성을 위해 본문에는 코드 전문을 임포트하지 않았어요. 튜토리얼 코드 전체를 한번에 실행해 볼 수 있는
GraphOmakase
KHAN: Knowledge-Aware Hierarchical Attention Networks for Accurate Political Stance Prediction [https://arxiv.org/pdf/2302.12126.pdf] Introduction 풍요로운 정보속에서 유의미한 정보에 대해 분별하는 기술이 핵심역량으로 되어가고 있는 요즘입니다. 과도한 정보가 오히려 독이 되어 무언가에 대해 판단할 때, 확신이 생길 때까지 정보들을 분석하느라 의사결정이 늦춰지는 경우가 발생하고 있습니다. 주방장
GraphOmakase
On the initialization of graph neural networks [https://www.amazon.science/publications/on-the-initialization-of-graph-neural-networks] Introduction 딥러닝의 핵심은 label 이 학습됨에 따라, 그 변동되는 weight 를 어떻게 잘 관리하느냐 라고 할 수 있습니다. 이 관리하는 방법을 살펴보면 다양한데요. Epoch, intilization function, activation function, learning rate, optimizer
GraphOmakase
DRew: Dynamically Rewired Message Passing with Delay [https://arxiv.org/pdf/2305.08018.pdf] Introduction MPNN(message passing neural network) , life-science 에서 주로 활용되는 그래프 딥러닝 아키텍쳐입니다. Message passing aggregation 을 변형시켜 task에 맞는 정보들을 update 할 수 있단 점에서 타 아키텍쳐들과 차이점을 보입니다. 다시 말해 , message passing function
GraphOmakase
A heterogeneous graph-based framework for scalable fraud detection [https://www.amazon.science/publications/a-heterogeneous-graph-based-framework-for-scalable-fraud-detection] Introduction 지능범죄의 수법이 고도화됨에 따라, 악의적 의도를 가진 사람들의 횡포가 날이 갈수록 심해지고 있습니다. 이를 사전에 방지하기 위해 오늘도 다양한 곳에서 많은 노력을 기울이고 있습니다. 다양한 곳을
GraphOmakase
Linkedin Graph Database? (industrial session) 소셜 네트워크로 유명한 기업이죠 linkedin, ‘you may know this person’ 이라는 message 가 사용자로 하여금 이목을 끌어, 새로운 관계를 발굴하고 맺어주는 시스템이 핵심 기술이라 할 수 있습니다. 근데, 한번쯤 궁금하지 않으셨나요? 나와 ‘아는사람’ 의 ‘아는사람’ 그리고 ‘아는사람:*..n’ , higher-order relationship 을 실시간으로 어떻게 도출할까?
GraphOmakase
Link prediction for ex ante influence maximization on temporal networks [https://arxiv.org/pdf/2305.09965.pdf] Introduction SNS 다들 한번쯤은 사용해보셨을텐데요. 혹시 ‘언제 게시물을 포스팅해야 조회수와 같은 노출이 잘 될까?”라는 고민 해보시지 않으셨나요? 저는 어렸을 적 싸이월드에 다이어리 작성 , 일촌평 남김 과 같은 행위를 반복하며 자연스레 ‘학생들이 자주
GraphTravel
1. Graph Convolution Network 구현 2. Facebook 데이터셋으로 Link Prediction 좋아요 예측 모델 구현 안녕하세요, GUG 여러분! 그래프 튜토리얼의 가이드 Erica에요🥁 5번째 여행에서는 너무나도 중요하고 유명한 GCN 모델을 다룰 예정입니다. 이 아키텍처를 잘 알아야 하는 이유는, 추후 굉장히 많은 모델에 활용되는 Aggregation 개념이 여기서 처음으로 등장하기 때문이랍니다. 그럼 이제 Graph