Avant la période historique, la musique traditionnelle japonaise (hôgaku) s'est développée comme accompagnement des danses rituelles (kagura) liées aux pratiques religieuses des premiers habitants du Japon.
Cette musique était aussi bien chantée qu'instrumentale. Les instruments d'alors étaient très rudimentaires et se répartissaient entre les instruments de percussion (tambours), à vent (flûtes) et à cordes pincées (cithares).
A partir du 5e siècle, le Japon s'ouvrant aux influences culturelles du continent asiatique, des musiciens venus de Corée et de Chine firent découvrir diverses formes musicales aux nobles de la cour impériale.
L'introduction du bouddhisme dans l'archipel japonais favorisa l'essor d'une musique religieuse. En effet, celle-ci (récitations de sûtras avec accompagnement d'instruments simples) possédant une notation, permit le développement de la composition musicale dans les temples et à la cour de l'empereur.
Bientôt naquit une musique de cour originale: gagaku, ainsi que diverses musiques populaires: sarugaku.
Pendant la période médiévale (12e - 16e siècle), la classe dominante des samouraï délaissa la musique de cour. Elle lui préféra des musiques populaires comme le dengaku: une musique paysanne qui accompagnait certains rituels shintô, notamment ceux qui visaient à obtenir les faveurs des kami (divinités du shintô) pour une bonne récolte.
Pendant l'ère Edo (1603 - 1868), la musique populaire japonaise continua à se développer et prit un caractère national affirmé
grâce à l'arrivée de nouveaux instruments importés de Chine: le shamisen (sorte de luth) et la flûte shakuhachi, et au développement de la musique de scène (nôgaku).
A partir de l'ère Meiji (1868 - 1912), le Japon s'ouvrit aux influences musicales de l'Occident. L'intérêt des Japonais pour leur musique traditionnelle déclina sensiblement au profit des différents genres musicaux occidentaux.
De nos jours un regain d'intérêt pour la musique traditionnelle japonaise se manifeste dans tout le Japon.
Les Japonais d'aujourd'hui, soucieux de réaffirmer une identité proprement japonaise, s'adonne de nouveau à la musique de leurs ancêtres. Ce mouvement se concrétise depuis les années 80 par l'ouverture de sections universitaires d'étude de la musique traditionnelle japonaise.