Il significato del nome monastico è "unito con Ishwara", uno degli aspetti di Dio secondo la religione indù. Dopo la morte della moglie entrò nell'ordine degli swami e da allora in poi, dedicò la sua vita all'educazione dei discepoli e all'approfondimento delle sacre scritture. Divise il suo tempo tra i suoi due ashram, uno a Puri e l'altro a Serampore, nei pressi di Calcutta.
Grande astrologo e yogi realizzato, preparò Paramahansa Yogananda alla sua missione in occidente di diffusione del kriya yoga. Durante la sua vita, non si spostò mai dall'India. Fu uno dei guru indiani più rispettati dei suoi tempi, benché la stretta disciplina che impartiva ai suoi discepoli fece sì che non avesse moltissimi seguaci.
Nel 1894, su richiesta di Babaji, scrisse un piccolo libro dal titolo "Kaivalya Darshanam", dove descrisse le principali similitudini tra le scritture cristiane e quelle indù (Fonte: "Autobiografia di uno yogi" di Paramahansa Yogananda - edizioni Astrolabio). La Self-Realization Fellowship, fondata da Paramahansa Yogananda nel 1920, pubblicò lo stesso libro decenni dopo con il titolo di "The holy science". In Italia il libro è pubblicato dalle edizioni Astrolabio con il titolo "La scienza sacra".
Il 9 marzo del 1936 il grande maestro abbandonò coscientemente il suo corpo e fu seppellito nel giardino del suo ashram di Puri, dove ora è stato eretto un tempio alla memoria.