Dopo che il Signore Mei-Oh fu sconfitto in Tenchu: Stealth Assassins, Rikimaru fu lasciato nella fortezza del Signore Mei-Oh, portando un enorme masso per fornire una via di fuga ad Ayame e alla Principessa Kiku. Sembrava essere intrappolato e lasciato per morto. Ayame conficcò la spada di Rikimaru, «Izayoi» (si vede brandire questa spada nella cutscene iniziale di Wrath of Heaven) nella neve come monumento al suo compagno ninja, ora considerato morto. Un anno dopo, Rikimaru riferisce al Signore Gohda di essere riuscito a sopravvivere a questa esperienza al limite della morte; a loro insaputa, il vero Rikimaru è intrappolato nel XX secolo nel tentativo di trovare un modo per tornare al loro tempo. La trama del gioco si svolge in modo diverso a seconda del personaggio scelto, ma si intreccia in determinati punti. La storia ruota principalmente attorno al ritorno di Rikimaru e alla lotta per le Tre Gemme, che si dice conferiscano potere a chi le possiede. Queste sono le Gemme del Cielo, della Terra e della Virtù. Tenrai, un malvagio mago che vuole mettere le mani su di esse, comanda una banda dei suoi uomini di prendere le Gemme da chiunque le possieda. Tuttavia, incontrando Rikimaru, sembra interessato al suo potere e cerca di convincerlo ad unirsi ai suoi uomini. Rikimaru rifiuta, e lui e Ayame affrontano ognuno di loro. Uno dei uomini nell'arsenale di Tenrai è Onikage, che gli serve solo per perseguire il suo piano di riportare in vita Mei-Oh (suo ex maestro) e Tatsumaru (l'ex leader del Clan Ninja Azuma che Tenrai ha riportato in vita). Rikimaru e Ayame seguono Tenrai nella sua fortezza per impedire che distrugga il mondo usando il potere ottenuto da due delle Gemme. Se dovesse essere sconfitto, la pace tornerà nella terra di Gohda.