Die traditionsreiche und wechselvolle Geschichte der Schule beginnt 1778, als auf Anregung des Philosophen, Aufklärers und Schriftstellers Moses Mendelssohn die erste jüdische Freischule in Deutschland gegründet wird. Im 18. Jahrhundert werden die Kinder der Jüdischen Gemeinde im Allgemeinen lediglich in Schreiben, Talmud und Bibel unterrichtet, nur wenige reiche Familien leisten sich einen Privatlehrer. Moses Mendelssohn setzt sich dafür ein, dass auch die Kinder aus sozial schwachen Familien Unterricht erhalten, und dies nicht nur in Bibel und Talmud, sondern auch in Deutsch, Mathematik, Biologie, Physik und Französisch. Schon in den ersten Jahren erhalten 500 Jungen kostenlosen Unterricht; auch nichtjüdischen Schülern steht die Schule offen.
Ein Ministerialerlass im Jahr 1860 ermöglicht die Errichtung des Schulgebäudes in der Großen Hamburger Straße 27 in Berlin-Mitte. Hier befindet sich das Jüdische Gymnasium Moses Mendelssohn auch heute, in unmittelbarer Nähe der Neuen Synagoge an der Oranienburger Straße und anderer jüdischer Einrichtungen. Ab 1931 bis zu ihrer Schließung durch die Nationalsozialisten im Jahre 1942 wird die vormals Jüdische Knabenschule auch von Mädchen besucht.
Von 1942 bis 1945 dient das Schulgebäude den Nazis als Deportationslager für die Berliner Juden. Zu DDR-Zeiten beherbergt das Gebäude eine Berufsschule. Nach dem Mauerfall gelangt die Schule zurück in den Besitz der Jüdischen Gemeinde. Nachdem zunächst die Grundschule der Jüdischen Gemeinde hier untergebracht ist, beginnt schließlich im Jahr 1993 für damals 27 Schülerinnen und Schüler der Unterricht an der Jüdischen Oberschule bestehend aus einer Gymnasial- und einer Realschulklasse.
Heute ist das Jüdische Gymnasium Moses Mendelssohn eine staatlich anerkannte Privatschule der Jüdischen Gemeinde zu Berlin mit insgesamt ca. 500 Schülerinnen und Schülern, die nach den Berliner Rahmenplänen unterrichtet werden. Etwa 60% unserer Schülerinnen und Schüler sind jüdisch, ca. 40% nicht-jüdisch. Letztere kommen aus christlichen, einzelne aus bulgarisch-, rumänisch-, russisch-orthodoxen und muslimischen Familien oder sind ohne Konfession aufgewachsen. Ca. 40% der Schülerinnen & Schüler stammen aus Familien nichtdeutscher Herkunft, von denen der größte Anteil aus den ehemaligen GUS-Staaten eingewandert sind. Seit dem Schuljahr 2020/2021 verfügen wir mit der Rabbinerin-Regina-Jonas-Oberschule über eine Integrierte Sekundarschule und können so auch das Abitur in 13 Jahren anbieten. Die Klassenräume befinden sich derzeit neben unserer Sporthalle in der Oranienburger Straße.