Kiriku Celestines kujul, kus on näha täna, ehitati XV sajandil. Selle ehitus algas 1396 ja viidi läbi peaaegu sada aastat. Esialgu oli tagasihoidlik puidust kabel ehitati üle matmispaik Peetri Luksemburgi. Selle tähistamiseks korraldab matuse kutsuti ja ümbrus kabel - Place de Saint Corp. (ala püha säilmed).

Peter Luksemburgi oli teada, et ta oli saanud kõrgete kirikumees noorpõlves - 15 oli ta piiskopi Metz, siis peagi sai tiitli kardinal ja 18 aastat (1387) suri tarbimist. Pärast tema matmise Avignonis kuulujutud imeline kardinalirüü jääb, ja munkade ordu Celestines otsustas ehitada üle haua kloostri. Autor Peetruse Luksemburgi lisati alles 1527 ja enne seda tema säilmed au ilma ametliku tunnustamise pühadust kirik.

Hiljem Kiriku kõrval Celestines kabel ehitati auks teise Saint - Benezeta, üks austusväärne Avignon. Vastavalt kohaliku legendi maise elu oli lihtne karjane Benezet, mis Kristus ilmus ja ütles talle, et ehitada Avignon sild üle Rhone'i. Kui linna elanikud nõudsid Benezeta näidata neile oma eripärast ja teha mingeid ime, et ta ellu läbi linna jõe, ja suur kivi on määranud neile koha ehitada. Benezet elas XII sajandil ja kanoniseeritud on XIV sajandil.

Kiriku Celestines oli palju väärtusi - religioosse kunsti ja riistad, mis ajal Prantsuse revolutsioon oli põlenud ja kirik ise kujunes kasarmud. Ellujäänud säilmed Celestines leidnud peavarju teistes kirikutes Avignon - näiteks säilmed Püha Benezeta kirikusse maetud Püha Adeodata.

Praegu on kiriku hoovis saab laval ajal aastase juuli festival.