Place for sharing the trend and foundation graph technology
GraphOmakase
미리보기 [ESN(Echo State Network) , spatio-temporal GNN 에서 큰 한계점이였던 spatio-temporal feature training 에서 발생하는 막대한 연산량을 절감하기 위해 접목한 방식 ESN. 속도와 성능 측면에서 결과를 의심할 정도로 좋은 결과를 보입니다. 그 원리는 무엇인지에 대해 다루어봅니다. ] [Graph 종류는 굉장히 다양합니다. 주로 관계(edge)에 따라 많이 나뉘곤하는데요. 그때마다 task, modeling
GraphOmakase
Twitter Recommendation algorithm [https://github.com/twitter/the-algorithm] twitter graph 알고리즘 특집입니다. 정리 요약본을 보시려면 [https://newsletter.theaiedge.io/p/how-twitter-and-tiktok-recommend] 게시물을 추천드립니다. 트위터에서 알고리즘을 오픈했죠. 이 사례가 무엇을 함의하고 있는가를 고민해본 결과 두 가지 결론을 내리게 되었습니다. 1. [SNS계의 ESG] 자칫하면 정보의 편향성과 왜곡을 불러일으킬 수 있는 SNS에서 알고리즘
GraphOmakase
Neural Graph Databases [https://towardsdatascience.com/neural-graph-databases-cc35c9e1d04f] Completeness. Query engines assume that graphs in classical graph DBs are complete. Preliminary Why useful knowledge graph in question answering task? 1. Structured representation: Knowledge graphs represent information in a structured way, using nodes to represent entities and edges to represent relationships between
GraphOmakase
Graph Neural Networks Inspired by Classical Iterative Algorithms [https://arxiv.org/pdf/2103.06064.pdf] preliminary IRLS , Iterative Reweighted Least Squares suggested resource ; [Medium] IRLS is to iteratively reweight the least-squares regression problem based on the current estimates of the model parameters. The weights are chosen such that points with
GraphOmakase
The dynamic nature of percolation on networks with triadic interactions [https://www.nature.com/articles/s41467-023-37019-5] “preliminary” percolation effect 그들은 3차 상호 작용의 역학을 고려한 모델을 제안하고 이것이 개인 간의 쌍방향 상호 작용만 고려하는 모델과 비교하여 다른 결과를 초래할 수 있음을 보여줍니다. 네트워크 과학에서 퍼콜레이션(percolation)은 노드 또는 에지가
GraphOmakase
Social network analysis of Japanese manga: similarities to real-world social networks and trends over decades [https://arxiv.org/pdf/2303.07208.pdf] * 여러분들은 그래프 데이터가 언제 와닿나요? 주변에 있는 사물 혹은 인간 관계등이 직관적으로 표현될 때가 가장 이해하기도 쉽고 재밌었던것 같네요. 데이터 도메인에 대해 무의식적으로 이해하고 있기에 그렇지 않을까 싶습니다.
GraphOmakase
Weighted flow diffusion for local graph clustering with node attributes: an algorithm and statistical guarantees [https://arxiv.org/pdf/2301.13187.pdf] * graph clustering 방법론들은 노드 , 엣지의 구조만을 활용한 방식들이 대다수입니다. large graph 에서 conductance 라는 서브 그래프간 tightly connected 를 측정하는 지표를 토대로 clustering 이 잘 되었는지 되지 않았는지를
GraphOmakase
Graph Rewiring: From Theory to Applications in Fairness [https://github.com/ellisalicante/GraphRewiring-Tutorial] * 3월 2주차 그래프 오마카세의 시작은 GNN 고질적인 문제인 ‘over-smoothing , over-squashing and under-reaching 을 어떻게 네트워크 이론으로 해결해볼것인가’라는 관점이 담겨있는 튜토리얼 소개로 시작해보겠습니다. * 기존에는 graph rewiring 이라는 기술을 활용해서 노드간 정보 흐름을 적절하게 조절해주곤 했습니다. 여기에서 ‘적절하게’
GraphOmakase
Identifying critical nodes in complex networks by graph representation learning [https://arxiv.org/pdf/2201.07988.pdf] * 네트워크 데이터에서 중요한 노드,엣지를 찾는것은 복잡계 네트워크 뿐만아니라, 물리 통계 수학 분야를 가리지 않고 많은 학문적 연구가 이루어져 왔습니다. 그 결과로 저희가 자주 활용하는 pagerank, degree centrality 등이 탄생하게 된거죠. 하지만 데이터
GraphOmakase
Breaking the Limit of Graph Neural Networks by Improving the Assortativity of Graphs with Local Mixing Patterns [https://arxiv.org/pdf/2106.06586.pdf] * 오늘 소개해 드릴 네트워크 지식은 동질성(Assortativity)입니다. 먼저 그 정의부터 말씀 드리면 다음과 같습니다. 동질성은 네트워크 내의 노드가 어떤 방식으로든 서로 비슷한 노드에 연결되는 경향을
GraphOmakase
Graph Neural Networks Go Forward-Forward modeling [https://arxiv.org/pdf/2302.05282.pdf] * ‘Backward 를 Forward 로 대체한다’라는 참신한 아이디어를 적용한 논문입니다. 레이어를 거듭하며 파라미터가 갱신되는 기존 학습 방식과 다르게, 오직 한 레이어에서 파라미터가 갱신되는 방식입니다. 그럼 자연스레 체인룰 과정이 생략되며 cost 가 간소화되는 효용을 얻을 수 있습니다. * 본
GraphOmakase
그래프 임베딩 하실 때 데이터에 대해 고민해보신 경험 있으실까요? 오늘 이 시간에는 임베딩 결과에 도움이 될만한 네트워크 지표를 가져왔습니다. 바로 degree 뿐만 아니라, clustering coefficient , path length 등에 대한 요소들입니다. 그럼 이 요소들이 어떻게 도움이 되는가? 라는 의문이 드실텐데요. 활용 사례를 말씀드려볼게요. Table 2.1. 에서 나온 지표들을 모두 고려하면