يعود أول مكان لتجمع المسلمين الشيعة في فرانكفورت إلى أكثر من ثلاثين سنة، وذلك حينما أخذ جمع منهم بالتفكير في إقامة مجالس خاصة بالمناسبات الدينية من أجل حفظ هويتهم الدينية، فنتج عن ذلك تخصيص سرداب في منطقة من مناطق فرانكفورت بعنوان حسينية وكان يتردد عليها المسلمون الشيعة. وبمرور الزمن ومع التقارب الحاصل بين الجنسيات المختلفة ازداد عدد الرواد وانتهى الأمر بهمة الخيرين إلى شراء مكان في منطقة هاوزن، و كان يُعرف باسم مركز الامام علي(ع) الاسلامي.
خدم في هذا المكان مشايخ متعددون وفي أزمنة مختلفة، أمثال الشيخ اسماعيل سابقي، معين شيرازي، محمود منتظري مقدم، السيد ابراهيم هاشميان وزكريا مشكور، وكان كل واحد منهم قد أدار المكان في فترة زمنية معينة.
عام 2009 قدم سماحة الشيخ محمود خليل زاده بدعوة من المؤمنين المقيمين وتوصية بعض مراجع التقليد بعنوان إمام ومدير مسجد الإمام علي في فرانكفورت، وبعد الإقبال المتزايد وتزايد طلب توسيع الفعاليات الدينية والتعليمية، وبجهود الشيخ خليل زادة تم تسجيل مؤسسة غير حكومية عام 2010 بعنوان مركز الثقافة الاسلامية في فرانكفورت بشكل رسمي في ألمانيا. ومع تأسيس مركز الثقافة الإسلامية أصبح مسجد الإمام علي عليه السلام في فرانكفورت جزءا من فعاليات هذه المؤسسة، بعد أن كان هو العنوان العام.
و مع توسع فعاليات مركز الثقافة الاسلامية من جهة، وتزايد أعداد الجالية الشيعية من جنسيات مختلفة من جهة أخرى كان من الضروري الانتقال إلى مكان أوسع يتناسب مع حجم الفعاليات، لذا تم شراء مكان مناسب عام 2013 بمساعدة الخيرين والمؤمنين ومراجع التقليد وبجهود الشيخ محمود خليل زاده. وبعد سنتين من نهاية بناء المرحلة الأولى من بناء المسجد انتقل مركز الثقافة الإسلامية إلى مكانه الجديد.
عام 2016 وبحضور جمع غفير من المسلمين تمت تسمية القاعة الأساسية في المركز باسم مسجد الإمام علي الجامع، وتمت قراءة صيغة المسجد الشرعية على هذا المكان، وبدأت فعاليات المركز المختلفة في المجال العلمي والتعليمي والثقافي.
