En 1843 la congrégation des Sœurs de Notre-Dame-de-la-Compassion est créée, elle est reconnue officiellement par l'évêque Mgr de Mazenod en 1845.

En 1854, l'ancien bâtiment, datant probablement de la fin du 18e ou du début du 19e siècle, accueillant l'Œuvre des servantes, fondée en 1841 par Mgr Mazenod, est cédé à la congrégation (parcelles 1143 et 1149 du cadastre napoléonien). Ce bâtiment se trouve en fond de parcelle et est précédé d'un grand jardin clos d'un portail donnant sur la rue Saint-Savournin. Entre 1854 et 1866 (date d'érection de l'orgue), ce bâtiment initial est complété par la construction d'un bâtiment sur rue, parallèle au précédent, qui abrite la chapelle. D'abord établissement destiné à abriter des domestiques (femmes et jeunes filles), le lieu devient, avec la disparition de la profession, foyer de jeunes filles étudiantes, le foyer Jean François Régis, du nom du fondateur. Le bâtiment abritant la chapelle possède une porte d'entrée sur la rue Saint-Savournin surmonté d'un niche abritant une statue de la Pietà, dévotion particulière des sœurs. L'accès à la chapelle se fait en empruntant cette porte puis le couloir qui dessert des locaux administratifs, des chambres de pensionnaires, la chapelle et ouvre sur le jardin intérieur.

La chapelle est donc achevée en 1866. Son plan et sa décoration sont traditionnellement donnés à l'abbé Joseph Pougnet (architecte de l’église des Réformés toute proche édifiée de 1862 à 1867), sans ce que cela ait pu être démontré par les sources. Cela semble assez peu cohérent puisque Pougnet n'arrive sur le chantier des Réformés qu'en 1862. On fait effectivement appel à lui dans la chapelle mais ce sera pour dessiner l'orgue. Si un architecte peut être cité pour la chapelle ce serait plutôt le premier architecte des Réformés, celui qui entame le chantier et qui y demeure de 1855 à 1862, soit le marseillais François Reybaud, mais là encore aucune source ne vient corroborer cette hypothèse.

Le sol du chœur a été recouvert de carreaux modernes contrairement à la nef qui a conservé son sol d’origine (carreaux en ciment décorés de motifs géométriques)