Ce que tout data scientist devrait savoir sur les Graph Transformers et leur impact sur les données structurées

J’ai co-créé les Graph Neural Networks pendant mon séjour à Stanford. J’ai reconnu dès le début que cette technologie était incroyablement puissante. Chaque point de données, chaque observation, chaque pièce de connaissance n’existe pas en isolation ; il fait partie d’un graphique connecté à d’autres pièces de connaissance. Il est important de noter que la plupart des données commerciales précieuses, souvent stockées sous forme de tableaux dans des bases de données et des entrepôts de données, peuvent naturellement être représentées sous forme de graphique. Exploiter cette structure relationnelle est essentiel pour construire des modèles d’IA précis et non hallucinants.

Les graph neural networks (GNNs) ont introduit des architectures de passage de messages qui pouvaient raisonner sur des graphiques en capturant les connexions entre les pièces de connaissance.

Mais tout comme les Transformers ont transformé la compréhension du langage, une nouvelle classe de modèles, les Graph Transformers, apporte des gains similaires aux données basées sur des graphiques. Ces modèles combinent la flexibilité des mécanismes d’attention avec des priorités structurelles de graphique pour modéliser des relations complexes plus efficacement que leurs prédécesseurs GNNs.

Pourquoi les graphiques nécessitent plus que le passage de messages

Les graph neural networks (GNNs) traditionnels s’appuient sur le passage de messages, un processus où chaque nœud met à jour son état interne en agrégeant des informations de ses voisins. Pensez-y comme chaque nœud échangeant des résumés avec les nœuds à proximité, puis utilisant ces résumés pour affiner sa propre compréhension. Sur plusieurs couches, cela permet à l’information de se propager à travers le graphique.

Bien que puissant pour apprendre des modèles locaux, le passage de messages a des limites importantes:

• Surchauffe: Au fur et à mesure que les informations sont agrégées sur de nombreuses étapes, elles peuvent devenir compressées, perdant des détails significatifs. C’est particulièrement problématique dans les GNNs profonds.
• Contexte limité: Le passage de messages standard ne peut pas facilement capturer les dépendances à longue portée sans de nombreuses couches, ce qui augmente la complexité et le bruit.
• Expressivité: De nombreuses structures de graphique ne peuvent pas être différenciées en utilisant uniquement des informations de voisinage local, limitant les performances du modèle sur les tâches nécessitant des distinctions structurelles fines.

C’est là que les Graph Transformers interviennent. En remplaçant ou en complétant le passage de messages par des mécanismes d’attention, ils permettent à chaque nœud de s’attacher directement à d’autres nœuds (même éloignés) en fonction de l’importance apprise. Le résultat est des représentations plus riches, une meilleure scalabilité et la capacité de raisonner sur des structures complexes de manière plus flexible.

Des GNNs aux Graph Transformers

Le modèle Transformer original, introduit dans le papier emblématique, Attention Is All You Need, a été conçu pour modéliser les relations entre les jetons dans une séquence. Son succès réside dans l’auto-attention, un mécanisme qui permet à chaque entrée de considérer chaque autre entrée, pondérée par la pertinence apprise.

Les Graph Transformers adaptent ce paradigme en permettant aux nœuds de s’attacher non seulement à leurs voisins mais à n’importe quel nœud du graphique, soit par une attention entièrement connectée, soit par une approche hybride qui équilibre les signaux globaux et locaux. Le défi consiste à introduire une notion de structure dans un modèle conçu pour des séquences non structurées.

Encodages positionnels spécifiques aux graphiques

Contrairement au texte, les graphiques n’ont pas d’ordre inhérent, ce qui rend les encodages positionnels, qui font référence aux techniques d’injection d’informations structurelles ou basées sur l’emplacement dans un modèle, non triviaux. Les Graph Transformers abordent cela avec diverses méthodes:

• Les vecteurs propres du Laplacien: dérivés de la matrice de Laplacien du graphique, ils fournissent une embedding spectrale qui capture la structure globale.
• Les marches aléatoires: capturent la probabilité de parcourir d’un nœud à un autre sur plusieurs étapes.
• Les encodages structurels: incluent des métriques de distance, des degrés de nœud ou des types de bord.

Ces encodages positionnels, qu’ils soient spectraux, probabilistes ou structurels, donnent aux Graph Transformers un moyen de comprendre où chaque nœud se situe dans le graphique plus large. Cette conscience structurelle est essentielle pour permettre aux mécanismes d’attention de fonctionner de manière significative sur des données non ordonnées et irrégulières, permettant finalement au modèle de capturer des relations qui seraient invisibles à des méthodes plus simples et purement locales.

Mises en œuvre et cas d’utilisation dans le monde réel

L’intégration des Graph Transformers dans la production nécessite une infrastructure capable de gérer des tailles de données réalistes. Des bibliothèques comme PyTorch Geometric (PyG) le rendent possible. Basé sur PyTorch, PyG fournit un cadre modulaire pour mettre en œuvre des GNNs et des Graph Transformers dans une gamme d’applications, des modèles de molécules aux systèmes de recommandation. Il prend en charge la formation par mini-lots sur de nombreux petits graphiques et un seul grand graphique, avec une prise en charge multi-GPU et torch.compile, ce qui le rend bien adapté aux flux de travail de recherche et d’entreprise.

Ces outils sont déjà utilisés dans une large gamme d’applications réelles. Dans la découverte de médicaments, les Graph Transformers aident à prédire les propriétés moléculaires en modélisant les interactions atomiques sous forme de graphiques. Dans la logistique et l’optimisation de la chaîne d’approvisionnement, ils peuvent représenter et raisonner sur des réseaux dynamiques de livraisons, d’entrepôts et d’itinéraires. Les entreprises de commerce électronique les utilisent pour améliorer les recommandations en comprenant le comportement de copurchase et de navigation sous forme de graphiques relationnels. Et dans la cybersécurité, les modèles basés sur les graphiques sont utilisés pour détecter les anomalies en analysant les modèles d’accès, la topologie du réseau et les séquences d’événements.

Dans chacun de ces contextes, la capacité d’apprendre à partir de structures complexes et interconnectées, sans s’appuyer uniquement sur des fonctionnalités créées manuellement, s’avère être un avantage majeur.

Considérations techniques

Malgré leur potentiel, les Graph Transformers comportent des compromis réels en termes d’ingénierie. L’attention complète à l’échelle quadratique avec le nombre de nœuds, ce qui rend l’efficacité de la mémoire et du calcul une préoccupation majeure, en particulier pour les graphiques de grande échelle ou denses. De nombreux graphiques du monde réel ont également des arêtes directionnelles, introduisant des asymétries qui compliquent la façon dont les informations structurelles sont encodées. Et dans les déploiements pratiques, les entrées sont rarement uniformes: combiner des données structurées sous forme de graphique avec du texte, des séries chronologiques ou des images exige des choix architecturaux soigneux et une prétraitement robuste des données.

Ces défis ne sont pas insurmontables, mais ils nécessitent une conception de système réfléchie, en particulier lors de la transition de prototypes de recherche à des modèles prêts pour la production.

Qu’est-ce qui vient ensuite: LLMs rencontrent les graphiques

Une direction de recherche majeure est l’intégration de grands modèles de langage (LLMs) avec des structures de graphique. Ces systèmes hybrides utilisent des LLMs pour encoder le contexte textuel ou extraire des entités, puis ancrent ces informations dans un graphique pour la prise de décision et le raisonnement.

Dans la biologie, cela a permis d’outils comme AlphaFold. Dans l’IA d’entreprise, cela permet des systèmes de support client qui combinent la documentation et les graphiques de comportement. Les Graph Transformers jouent également un rôle croissant dans la capacité des agents d’IA à prendre des décisions plus intelligentes et plus actionnables en leur permettant de raisonner sur des représentations d’état structurées et de prioriser les interactions de manière dynamique. Cette fusion aide les agents à mieux comprendre les relations hiérarchiques, à suivre les dépendances dans le temps et à adapter leur comportement dans des environnements complexes.

Le domaine est encore émergent, mais le potentiel est important.

Conclusion

Les Graph Transformers ne sont pas seulement l’itération suivante des GNNs ; ils représentent une convergence de l’attention, de la structure et de la scalabilité. Que vous travailliez dans le domaine de la finance, des sciences de la vie ou des systèmes de recommandation, le message est clair: vos données forment un graphique, vos modèles devraient donc également le faire.