Maastricht heeft in de loop van de eeuwen diverse synagogen gehad. In een schepenbrief uit 1295 wordt gesproken over een platea judaeorum, de huidige Jodenstraat, waar volgens een handschrift uit 1377 een synagoge moet hebben gestaan, waarschijnlijk op de hoek met de voormalige Bokstraat, tegenwoordig Kesselskade. Vlakbij bevond zich de Jodenpoort, die toegang gaf tot de Maaskade.
Eind 18e eeuw, in elk geval vanaf 1782, hadden de Maastrichtse Joden de beschikking over een kleine huissynagoge in een achterhuis aan de Markt. Waarschijnlijk vanaf 1797 was de huissynagoge gevestigd boven de inrijpoort van het pand Kleine Gracht 3. Deze ruimte was zo bekrompen dat de Joodse gemeente verzocht de leegstaande kapel van het voormalige Sint-Servaas Gasthuis te mogen gebruiken, maar deze werd in 1821 gesloopt. Soortgelijke verzoeken betreffende de Augustijnenkerk en de Capucijnenkerk leverden evenmin iets op.
De nieuwe synagoge werd gebouwd op een voormalig kloosterterrein van de kapucijnen (de “kleine Capucijnentuin”) op de hoek van de Bogaardenstraat en de Capucijnengang, een terrein dat in 1838 door de gemeente gratis ter beschikking werd gesteld. Het ontwerp van het nieuwe godshuis was van stadsbouwmeester en tekenleraar Mathijs (Mathieu) Hermans (1789-1842). Op 21 augustus 1840 werd de nieuwe hoofdsynagoge in gebruik genomen, waarbij een feestelijke stoet vanaf de Kleine Gracht, onder marechaussee-begeleiding en gadegeslagen door duizenden belangstellenden, naar de Bogaardenstraat trok, terwijl het stadhuiscarillon speelde. In het nieuwe gebouw waren ook leslokalen voor de in 1833 opgerichte Joodse school.
Na de deportatie van de Maastrichtse Joden tijdens de Tweede Wereldoorlog werd het gebouw door de Duitse bezetter geconfisqueerd en als opslagplaats gebruikt. Een groot deel van de inventaris werd vernield. Wel konden de Torarollen tijdig in veiligheid worden gebracht. In 1965 bleek dat ook het archief van de Joodse gemeente Maastricht behouden was. Amerikaanse soldaten hielpen na de bevrijding van Maastricht in september 1944 mee de ergste chaos in de synagoge op te ruimen. De eerste jaren werd de naastgelegen vergaderzaal als gebedsruimte gebruikt. Vanaf 1952 werden weer diensten gehouden in de provisorisch herstelde synagoge. Van 1964-1967 werd de synagoge gerestaureerd, waarna het gebouw op 24 september 1967 opnieuw plechtig in gebruik werd genomen.
