Place for sharing the trend and foundation graph technology
GraphOmakase
Social network analysis of Japanese manga: similarities to real-world social networks and trends over decades [https://arxiv.org/pdf/2303.07208.pdf] * 여러분들은 그래프 데이터가 언제 와닿나요? 주변에 있는 사물 혹은 인간 관계등이 직관적으로 표현될 때가 가장 이해하기도 쉽고 재밌었던것 같네요. 데이터 도메인에 대해 무의식적으로 이해하고 있기에 그렇지 않을까
GraphOmakase
Weighted flow diffusion for local graph clustering with node attributes: an algorithm and statistical guarantees [https://arxiv.org/pdf/2301.13187.pdf] * graph clustering 방법론들은 노드 , 엣지의 구조만을 활용한 방식들이 대다수입니다. large graph 에서 conductance 라는 서브 그래프간 tightly connected 를 측정하는 지표를 토대로 clustering 이 잘 되었는지 되지 않았는지를
GraphOmakase
Graph Rewiring: From Theory to Applications in Fairness [https://github.com/ellisalicante/GraphRewiring-Tutorial] * 3월 2주차 그래프 오마카세의 시작은 GNN 고질적인 문제인 ‘over-smoothing , over-squashing and under-reaching 을 어떻게 네트워크 이론으로 해결해볼것인가’라는 관점이 담겨있는 튜토리얼 소개로 시작해보겠습니다. * 기존에는 graph rewiring 이라는 기술을 활용해서 노드간 정보 흐름을 적절하게
GraphOmakase
Identifying critical nodes in complex networks by graph representation learning [https://arxiv.org/pdf/2201.07988.pdf] * 네트워크 데이터에서 중요한 노드,엣지를 찾는것은 복잡계 네트워크 뿐만아니라, 물리 통계 수학 분야를 가리지 않고 많은 학문적 연구가 이루어져 왔습니다. 그 결과로 저희가 자주 활용하는 pagerank, degree centrality 등이 탄생하게 된거죠. 하지만 데이터
GraphOmakase
Breaking the Limit of Graph Neural Networks by Improving the Assortativity of Graphs with Local Mixing Patterns [https://arxiv.org/pdf/2106.06586.pdf] * 오늘 소개해 드릴 네트워크 지식은 동질성(Assortativity)입니다. 먼저 그 정의부터 말씀 드리면 다음과 같습니다. 동질성은 네트워크 내의 노드가 어떤 방식으로든 서로 비슷한 노드에 연결되는 경향을
GraphOmakase
Graph Neural Networks Go Forward-Forward modeling [https://arxiv.org/pdf/2302.05282.pdf] * ‘Backward 를 Forward 로 대체한다’라는 참신한 아이디어를 적용한 논문입니다. 레이어를 거듭하며 파라미터가 갱신되는 기존 학습 방식과 다르게, 오직 한 레이어에서 파라미터가 갱신되는 방식입니다. 그럼 자연스레 체인룰 과정이 생략되며 cost 가 간소화되는 효용을 얻을 수 있습니다.
GraphOmakase
그래프 임베딩 하실 때 데이터에 대해 고민해보신 경험 있으실까요? 오늘 이 시간에는 임베딩 결과에 도움이 될만한 네트워크 지표를 가져왔습니다. 바로 degree 뿐만 아니라, clustering coefficient , path length 등에 대한 요소들입니다. 그럼 이 요소들이 어떻게 도움이 되는가? 라는 의문이 드실텐데요. 활용 사례를 말씀드려볼게요. Table 2.1. 에서 나온 지표들을 모두 고려하면
GraphOmakase
static and dynamic robustness Dynamic 편 * Robustness 기억나시나요? 저번주 오마카세에서는 ‘static’ 맥락을 다루었다면, 이번주차는 ‘dynamic’ 맥락입니다! ‘static 와 dynamic 의 가장 큰 차이점은 바로 ‘역학’ 입니다. 코로나를 역학조사 할 때도 쓰인 개념이죠. SIR 모델. 누군 치료되고 누군 감염되는 등 실시간으로 변화되는 네트워크 상태 예의주시하는게 핵심입니다. 그렇다면 어떻게 우리가 예측을 할
GraphOmakase
Static and dynamic robustness * 오늘 다루어볼 네트워크 지식은 ‘robustness’ 입니다. 딥러닝 분야에서와 복잡계 네트워크 분야에서의 ‘robustness’는 모델의 강건함을 측정한다는 동일한 목적이 있으나, 어떤식으로 측정할지 기준치 사전분포 측정과 같은 요소들 때문에 약간 결이 다르다고 볼 수 있습니다. * ‘robustness’ , 딥러닝 분야에서는 training 데이터셋에 존재치않은 out-of-distribution 데이터를 inference 할 때
GraphOmakase
Examining graph neural networks for crystal structures: limitations and opportunities for capturing periodicity [https://arxiv.org/abs/2208.05039] material 산업에서 gnn 이 활용되고 있다는 사실 알고계실까요? 반도체 디자인을 위해 강화학습과 GNN을 결합하여 진행하는 시나리오도 있는데요. 반도체는 원자 배열에 따라 전하의 이동을 받는데, 원자 배열 또한 원자-원자 간 그래프
GraphOmakase
Anomaly Detection in Multiplex Dynamic Networks: from Blockchain Security to Brain Disease Prediction [https://openreview.net/pdf?id=UDGZDfwmay] * Anomaly detection with GNN 아이디어 입니다. brain , blockchain , 추천 , 협업 에서 발생하는 anomaly edge interaction 을 unsupervised manner 로 해결해본다 가 논문의 노벨티 라고 할 수 있겠습니다. * 저자는 3가지 문제를 제시합니다.
GraphOmakase
Scalable Graph Transformers for Million Nodes • 글 서두부터 graph transformer 와 graph neural network 의 차이점인 “whether is the resorting function the message or not” 을 언급하면서 이야기가 진행됩니다. • message passing 을 hopbyhop으로 진행하며 information resort 가 필요한 gnn 대비(local feature aggregation), all feature aggregation 이 가능한 graph transformer