L'utilisation des graphes en représentation des connaissances pour l'IA vient de l'idée de représenter graphiquement des concepts et leurs liens. Le premier outil proposé est le réseau sémantique introduit en 1968 par Quillian. Son modèle de réseau avait pour ambition de constituer un modèle de la mémoire humaine. Par ailleurs, les graphes sont souvent utilisés pour abstraire les informations pertinentes et se concentrer seulement sur la topologie d'un problème, le graphe constituant un espace du problème.
En 1979, Fahlman introduit les réseaux à propagation de marqueurs pour simuler le fonctionnement neurobiologique d'un ensemble d'éléments. Les noeuds sont considérés comme des microprocesseurs rudimentaires qui possèdent une mémoire locale. Un controleur gère le réseau par transmission de messages et diffusion de marqueurs à travers les arcs du graphe.
A la meme époque, Hendrix (1979) propose les réseaux sémantiques partitionnés. Ces réseaux offrent la possibilité de délimiter des sous-ensembles de noeuds et d'arcs appelés des esapces. Une vista est alors une composition de ces espaces, le plus souvent sous forme d'emboitements (traduisant une hiérarchie). Les connaissances situées dans un espace sont locales et non partageables, sauf avec les esapces-fils.
En 1984, Sowa propose les Graphes Conceptuels aujourd'hui largement utilisés en IA et en SC. Sowa prétend que toute forme de représentation pourrait etre écrite sous forme de graphe conceptuel (GC). La conception des GC s'appuie sur l'étude de la perception en psychologie. Le sens d'un concept se réduit à sa position relative par rapport aux autres concepts, il ne prend donc un sens que par rapport à un réseau sémantique modélisant les connaissances générales du système.
Les limites des capacités de représentation des réseaux sémantiques ont conduit au développement de la notion de schéma.