Das Alte Rathaus wurde 1827 im klassizistischen Stil an der Pariser Straße direkt neben der katholischen Kirche errichtet.
Ursprünglich diente das Gebäude als Friedensgericht des Kantons Nieder-Olm und bis 1894 als Amtsgericht.
Im Obergeschoss waren zu der Zeit die Räume der Gerichte aufzufinden, während das Erdgeschoss der Gemeindeverwaltung zur Verfügung stand. Das Untergeschoss hingegen lagerte Brandschutzgeräte und diente tatsächlich auch kurzzeitig als Gefängnis, für die in Nieder-Olm Inhaftierten, die nach Mainz weitergeleitet werden sollten. 1894 wurde die Amtsgerichts-Funktion aufgrund eines Neubaus eingestellt.
Daraufhin erfolgten verschiedene Umbauten im Inneren des Gebäudes zu u.A. Lehrerwohnungen, die von 1890 bis 1961 im Obergeschoss zur Verfügung standen.
1918 bis 1977 diente es schließlich als Rathaus.
In der nationalsozialistischen Zeit war im Erdgeschoss eine Gemeindekasse untergebracht, das Sekretariat sowie ein Sitzungs- (auch Trau-) Saal.
Bis zur Neugestaltung des Stadtkerns führte die Pariser Straße direkt am Alten Rathaus vorbei.
Nach 1977 wurden in dem zunächst leerstehenden Gebäude die Gemeindebibliothek, eine Alterstagesstätte und eine Poststelle (bis 2012) untergebracht.
Heute befinden sich im Erdgeschoss Begegnungs- und Veranstaltungsräume der Stadt Nieder-Olm. Im Obergeschoss sind das Stadtarchiv und ein Trausaal aufzufinden.