Jean Calvin y fonde la paroisse française en 1538. À partir de 1681, l’église héberge la paroisse luthérienne de la cathédrale et prend l’appellation de Temple Neuf. Dans la seconde moitié du XVIIIe siècle  et au XIXe siècle, la vie paroissiale  est marquée par les pasteurs Jean-Laurent Blessig et François Haerter.

En 1835, la prestigieuse bibliothèque municipale de Strasbourg s’installe dans le vaste chœur désaffecté du Temple neuf qui hébergeait déjà la bibliothèque de l’université enrichie par celle de Jean-Daniel Schoepflin. Dans la nuit du 24 au 25 août 1870, l’artillerie prussienne détruit l’église. Plus de trois cent cinquante mille ouvrages disparaissent. Entre 1874 et 1877, l’architecte Émile Salomon reconstruit l’édifice dans le style néo-roman.