Fin des années 80, Youth Of Today, l’un des groupes américains de hardcore straight-edge old school les plus influents, décide de jeter l’éponge après une tournée en Europe. Son leader, Ray Cappo, décide de quitter la scène et part en Inde pour découvrir la vie spirituelle et recevoir une initiation vaishnave. Quelques mois plus tard, il revient à New-York et fonde Shelter (rapport à l’abri que trouve un devôt avec son gourou ou plus généralement Dieu) avec son pote de Youth Of Today, John Porcelly a.k.a. Porcell et les gars de 76% Uncertain. Ce projet est une manière, pour Cappo, de parler du mouvement Hare Krishna et de la vie spirituelle. Ainsi, en 1990, sort leur premier album « Perfection Of Desire » sur le label Revelation Records (créé trois avant par Ray Cappo avec Jordan Cooper). Peu de temps après, un EP intitulé « In defense of Reality » (qui sera le titre du livre écrit par Ray Cappo en 1993) sort. Le groupe tourne aux States et en Europe et dort dans les temples et sillonne les rues pour chanter des bhajans (chants dévotionnel de l’hindouisme généralement couplé à la danse). En 1993, Shelter passe sur le label Equal Vision et signe deux opus : « Attaining the Supreme » et « Quest for Certainty ». 1995 est l’année où les New-Yorkais passe un cap en signant chez Roadrunner. Le groupe va être un peu plus exposé au public avec «Mantra » (1995) et « Beyond Planet Earth » (1997). Non content du travail effectué autour du groupe et des faibles ventes des disques, Shelter quitte la major et en profite pour enregistrer un registre de chansons pour la méditation et la dévotion intitulé sobrement « Chanting & Meditations » puis rejoint Victory Records en 2000 pour enregistrer « When 20 Summers Pass ».