يعد الكنيس العظيم أقدم معبد يهودي في رومانيا، إذ تأسس عام 1670 بمبادرة من الحاخام ناثان بن موسى هانوفر (Natha ben Moses Hannover) الذي كان حاخام الجالية اليهودية في ياش عام 1660، حيث أكد ميثاق منحه المجتمع اليهودي في ياش عام 1666 من قبل إلياس ألكساندرو (Ilias Alexandru) -أمير مولدافيا- حق اليهود المحليين في فتح مدرسة وإقامة كنيس في حيهم، ومنذ تأسيسه في النصف الثاني من القرن السابع عشر، خضع الكنيس العظيم لعدد من التجديدات الرئيسية، وقد تم ترميمه في سبعينيات القرن العشرين، وحتى أوائل القرن التاسع عشر كان يُعد المعبد الوحيد للجالية اليهودية في ياش، وهو اليوم مدرج في السجل الوطني للآثار التاريخية.