Rayman 2 si svolge in un mondo chiamato Glade of Dreams. Un esercito di Pirati Robot, guidato dall'Admiral Razorbeard, invade questo mondo e distrugge il Heart of the World, il nucleo del mondo. Questo indebolisce notevolmente il potere della resistenza e disabilita i poteri di Rayman, portandolo alla cattura. Globox, un amico di Rayman, viene poi catturato e messo nella stessa cella di Rayman a bordo della nave-prigione dei Pirati. Globox regala a Rayman un lum argentato, donatogli da Ly la fata, che ristabilisce i suoi poteri. Rayman riesce a fuggire dalla nave-prigione ed è di nuovo separato da Globox. Scopre che per avere una qualche possibilità contro i Pirati, deve trovare quattro antiche maschere magiche per risvegliare Polokus, lo spirito del mondo, nascosto in santuari segreti e misteriosi costituiti dai quattro elementi: acqua/ghiaccio, terra/pietra, fuoco e aria. Viaggia attraverso la Glade of Dreams tramite Hall of Doors, un luogo magico collegato a varie località del mondo, controllato dagli antichi Teensies. Nel corso del gioco, Rayman libera Globox, che era stato catturato di nuovo, e proseguono insieme per un breve periodo finché Globox non parte di nuovo per cercare la sua famiglia. Più avanti, Rayman incontra la moglie di Globox, Uglette, e apprende che lui è stato imprigionato sulla Nave-prigione. Rayman incontra anche il suo amico Clark, un uomo forte che ha problemi di stomaco a causa di aver mangiato pirati arrugginiti; per proseguire nel livello, Rayman deve curare Clark con un elisir. Alla fine Rayman recupera le quattro maschere e risveglia Polokus, che mette a segno una rapida vittoria sui pirati a terra. In aria però non ha poteri, e a Rayman è affidato l'incarico di eliminare la Nave-prigione volante dei Pirati, dove si trova anche la sede dell'Admiral Razorbeard. In un combattimento finale Rayman affronta Razorbeard, che controlla un gigante robot, il Grolgoth. Alla fine Rayman distrugge il robot e mentre Razorbeard fugge in un piccolo pod di salvataggio, la Nave-prigione esplode. Si presume che Rayman sia morto e venga trovata solo una delle sue scarpe, ma durante il suo funerale riappare, camminando con una stampella.