Il est quasiment impossible de déterminer avec précision l'apparition des premiers jardins. On trouve une première trace de l'existence de jardin dans une anthologie de la poésie japonaise réalisée en 760 par Otomo no Yakamochi. Il n'existe aujourd'hui aucun jardin de cette période. Il est toutefois possible de se faire une idée de leur apparence au travers de leur reproduction sur des emakimono (peintures). (Pour avoir un explication de la peinture japonaise, cliquer ici.) Photo de droite jardin de kawasaki.
Ces premiers jardins semblent puiser leur construction et symbolique dans la tradition chinoise. La première codification de "l'art du jardin" apparu pendant l'ère Heian (794-1185) ère "de la paix et de la tranquillité". Le Jardin devait alors comporter des collines artificielles agrémentées de rochers et d'arbres, d'un étang aux contours irréguliers alimenté par un ruisseau dont le sens du cours devait charrier les "bonnes ondes". L'étang devait comporter environ trois petites îles asymétriques reliées entre elles par des ponts puis au rivage sur lequel devait se trouver un pavillon propice à provoquer la contemplation. Le pavillon devait être relié par une allée couverte au bâtiment principal tourné vers le sud.
Durant cette période même si jardins "civils" et jardins "religieux" suivaient les mêmes règles d'organisation, il semble que les jardins "monastiques" suivirent ces règles de manière plus scrupuleuse. Les jardins "religieux" à l'opposé des jardins "civils" ne devaient pas être foulés du pied par le promeneur. Ils étaient simplement admirés par des vérandas dont les ouvertures donnaient sur ces derniers.