1932 jelentős év volt. Rabinarayan ekkor találkozott Swami Shriyukteshwarjival a serampore-i ashramban, ahol beavatást nyert a Kriya Jógába. Swami Shriyukteshwarji kozmikus asztrológiát tanított neki, és kérte, hogy vonuljon be és vezesse az Orissa állambeli híres Karar Ashramot Puriban. Swami Shriyukteshwarji áldott irányítása alatt végigvette a Kriya első szintjének fokozatait. Ezt követően, Paramahamsa Yogananda avatta be a második Kriyába, miután 1935-ben Yoganandaji Indiába történő visszatérésekor szemtanúja volt Yoganandaji samadhijának.
Két évvel Swami Shriyukteshwarji 1938-as mahasamadhija után, Rabinarayan Puriban maradt és egy bérházban lakott közel a tengerparthoz. Sokan számoltak be arról, hogy látták Swami Shriyukteshwarjit azt követően is, hogy elhagyta fizikai testét. Mielőtt Rabinarayan Puriba költözött, megkérte egy barátját, hogy keressen számára egy bérházat ott. Barátja később felismerte, hogy az öreg szerzetes, aki arra utasította, hogy egy bizonyos tengerparti házat béreljen ki, ahol Rabinarayan egy ideig élt, valójában Swami Shriyukteshwarji volt. Később, Swami Shriyukteshwarji utasította Rabinarayant, hogy ezentúl a Karar Ashramban éljen. Ettől a naptól kezdve az ashramban lakott brahmachari Rabinarayanként, aszkéta életet folytatott, eleget téve Swami Shriyukteshwarji legfőbb kívánságának.
