GraphOmakase
A Generalization of Transformer Networks to Graphs [https://arxiv.org/pdf/2012.09699.pdf] Introduction Transformer 의 야성은 어디까지일까요. 가늠하기가 힘드네요. 모든 데이터에서 dominant 한 모델 Transformer, 본 논문에서는 Transformer 구조를 graph 에 활용하기 위한 extended version 을 제안합니다. ** 본 논문은 'CS6208’ 수업을 진행하시는 Xavier Bresson 교수님께서 publish 한
GraphOmakase
💡오마카세 300명을 목전에 두고 있네요. 여러분들의 관심 덕분이라 생각합니다. 감사합니다. 확장성에 힘입어 콘텐츠 다각화를 위해 에디터 4분을 모셨습니다. 더욱 다양하고 양질의 정보로 찾아뵐 수 있도록 노력하겠습니다. Context-Aware Knowledge Graph Chatbot With GPT-4 and Neo4j [https://medium.com/neo4j/context-aware-knowledge-graph-chatbot-with-gpt-4-and-neo4j-
GraphOmakase
미리보기 [ESN(Echo State Network) , spatio-temporal GNN 에서 큰 한계점이였던 spatio-temporal feature training 에서 발생하는 막대한 연산량을 절감하기 위해 접목한 방식 ESN. 속도와 성능 측면에서 결과를 의심할 정도로 좋은 결과를 보입니다. 그 원리는 무엇인지에 대해 다루어봅니다. ] [Graph 종류는 굉장히 다양합니다. 주로 관계(edge)에 따라 많이 나뉘곤하는데요. 그때마다
GraphOmakase
Twitter Recommendation algorithm [https://github.com/twitter/the-algorithm] twitter graph 알고리즘 특집입니다. 정리 요약본을 보시려면 [https://newsletter.theaiedge.io/p/how-twitter-and-tiktok-recommend] 게시물을 추천드립니다. 트위터에서 알고리즘을 오픈했죠. 이 사례가 무엇을 함의하고 있는가를 고민해본 결과 두 가지 결론을 내리게 되었습니다. 1. [SNS계의 ESG] 자칫하면 정보의 편향성과 왜곡을
GraphOmakase
Neural Graph Databases [https://towardsdatascience.com/neural-graph-databases-cc35c9e1d04f] Completeness. Query engines assume that graphs in classical graph DBs are complete. Preliminary Why useful knowledge graph in question answering task? 1. Structured representation: Knowledge graphs represent information in a structured way, using nodes to represent entities and edges to
GraphOmakase
Graph Neural Networks Inspired by Classical Iterative Algorithms [https://arxiv.org/pdf/2103.06064.pdf] preliminary IRLS , Iterative Reweighted Least Squares suggested resource ; [Medium] IRLS is to iteratively reweight the least-squares regression problem based on the current estimates of the model parameters. The weights are chosen such that points
GraphOmakase
The dynamic nature of percolation on networks with triadic interactions [https://www.nature.com/articles/s41467-023-37019-5] “preliminary” percolation effect 그들은 3차 상호 작용의 역학을 고려한 모델을 제안하고 이것이 개인 간의 쌍방향 상호 작용만 고려하는 모델과 비교하여 다른 결과를 초래할 수 있음을 보여줍니다. 네트워크 과학에서 퍼콜레이션(percolation)은
GraphOmakase
Social network analysis of Japanese manga: similarities to real-world social networks and trends over decades [https://arxiv.org/pdf/2303.07208.pdf] * 여러분들은 그래프 데이터가 언제 와닿나요? 주변에 있는 사물 혹은 인간 관계등이 직관적으로 표현될 때가 가장 이해하기도 쉽고 재밌었던것 같네요. 데이터 도메인에 대해 무의식적으로 이해하고 있기에 그렇지 않을까
GraphOmakase
Weighted flow diffusion for local graph clustering with node attributes: an algorithm and statistical guarantees [https://arxiv.org/pdf/2301.13187.pdf] * graph clustering 방법론들은 노드 , 엣지의 구조만을 활용한 방식들이 대다수입니다. large graph 에서 conductance 라는 서브 그래프간 tightly connected 를 측정하는 지표를 토대로 clustering 이 잘 되었는지 되지 않았는지를
GraphOmakase
Graph Rewiring: From Theory to Applications in Fairness [https://github.com/ellisalicante/GraphRewiring-Tutorial] * 3월 2주차 그래프 오마카세의 시작은 GNN 고질적인 문제인 ‘over-smoothing , over-squashing and under-reaching 을 어떻게 네트워크 이론으로 해결해볼것인가’라는 관점이 담겨있는 튜토리얼 소개로 시작해보겠습니다. * 기존에는 graph rewiring 이라는 기술을 활용해서 노드간 정보 흐름을 적절하게
GraphOmakase
Identifying critical nodes in complex networks by graph representation learning [https://arxiv.org/pdf/2201.07988.pdf] * 네트워크 데이터에서 중요한 노드,엣지를 찾는것은 복잡계 네트워크 뿐만아니라, 물리 통계 수학 분야를 가리지 않고 많은 학문적 연구가 이루어져 왔습니다. 그 결과로 저희가 자주 활용하는 pagerank, degree centrality 등이 탄생하게 된거죠. 하지만 데이터
GraphOmakase
Breaking the Limit of Graph Neural Networks by Improving the Assortativity of Graphs with Local Mixing Patterns [https://arxiv.org/pdf/2106.06586.pdf] * 오늘 소개해 드릴 네트워크 지식은 동질성(Assortativity)입니다. 먼저 그 정의부터 말씀 드리면 다음과 같습니다. 동질성은 네트워크 내의 노드가 어떤 방식으로든 서로 비슷한 노드에 연결되는 경향을