Ursprünglich hatte „Der Große Rat der Großen Gladbacher Karnevalsgesellschaft" (GGK) die Idee, für sich ein Vereinshaus zu schaffen. Die Vereinsmitglieder Helmut Degen und Peter Ullrich besichtigten mehrere Objekte.

Während der Übergabefeier der renovierten Pumpe an der Weiherstraße im März 1974 fiel den Gästen Helmut Degen und Rolf Terhaag die kleine leerstehende Ruine Weiherstraße 2 auf und Sie erkannten darin das geeignete Objekt für die GGK. Sie unterrichten Peter Ullrich und empfahlen der GGK dieses Häuschen anzukaufen.  Der „Große Rat der GGK" fand das Objekt mehrheitlich nicht akzeptabel und lehnte ab.

Die Befürworter des Planes gaben die Idee jedoch nicht auf und so gründeten7 Herren den Verein „Altes Zeughaus“und legten den Kaufpreis aus eigenen Mitteln zusammen.

von links: 
Heinz Mathar, Toni Brune, 
Peter Ullrich,
 Helmut Degen, 
Rolf Terhaag, 
Heinz Rippen 
und Wolfgang Eßer.

Der Gründungsvorstand bestand aus den Herren Peter Ullrich,
Rolf Terhaag, Helmut Degen und Toni Brune. 
Eine erste Mitgliederversammlung gab dem Verein den Namen „E.V. Altes Zeughaus“ und beantragte eine denkmalswerte Einstufung beim Landeskonservator, um die Gemeinnützigkeit und Steuerbefreiung zu erreichen. Beides wurde bewilligt und man konnte ans Werk gehen. Nachdem alle Formalitäten erledigt waren, begannen die Arbeiten mit eigenen Kräften.

Neue Mitglieder wurden angeworben, besonders Handwerker waren gefragt, die durften alles machen nur keine Rechnung schreiben. Es war eine stolze Gruppe von Idealisten. Man ging mit viel Elan und Eifer an die anfallenden Abbruch-und Aufbauarbeiten, allerdings wurden auch Stimmen laut:"das schafft ihr nie"

Der neue Verein warb die Öffentlichkeit,es gab Werbeveranstaltungen imSparpott, das erste Pumpenfest und einTrödelmarkt wurden abgehalten umEinnahmen für den Aufbau zu erzielen.Im Mai 1977 konnte Richtfest gefeiertwerden, das erste Etappenziel war erreicht.
Der Innenausbau begann und es konnte die feierliche Eröffnung geplant werden. Die Mitgliederzahl war inzwischen auf 25 gestiegen, die natürlich zur Festvorbereitung eingespannt waren. Am 1. Juli 1978 erfolgte der große Augenblick, die Eröffnung des "Alten Zeughaus"

Dazu war ein schönes, interessantes Rahmenprogramm aufgeboten, der „Vitusmarkt“ auf dem Alten Markt und zwei Bühnen unterhalb der Weiherstraße. Alle Gäste waren beeindruckt von den Leistungen des Vereins und bewunderten das schöne, kleine, „neue“ Haus.

Das vorgesehene Karnevalsmuseum war noch im Aufbau, so dass man die Räume zunächst für verschiedene Ausstellungen nutzte. Erwähnenswert ist die damals größte und schönste Ausstellung  „Vom Korn zum Brot“, die Peter Ullrich in Zusammenarbeit mit der Bäckerinnung organisierte. 
Nach dem 1. Betriebsjahr konnte man die laufenden Kosten genau feststellen. Um Einnahmen zu erzielen fand 1980 erstmalig die langjährige wiederkehrende Ausstellung „Gladbacher Frauen stellen, Kunst in der Freizeit. Sie war ein voller Erfolg.

Im Jahre 1985 wurde das 10-jährigeBestehen gebührend gefeiert. Zum Jubiläum wurden bleibende Erinnerungen geschaffen: Die Goldschmiedin und Bildhauerin Heide Jennen schuf die Plastik "Der Optimist", die über der Eingangstüre ihren Platz fand und damit für alle Zeiten das Wesen der Vereinsmitglieder widerspiegeln soll.

"Der Optimist" von H. Jennen

Nach einem gemeinsamen Entwurf des Architekten Eberhard Corcilius und des Kunstschmiedes Franz Köster entstand die „Prinzensäule", die später richtigerweise „Prinzenpaarsäule" genannt wurde. Sie fand ihren Aufstellungsort neben dem Verwaltungsgebäude auf der Wiese des Abteibergs und war schon mit 40 Prinzenpaarnamengeziert. 

Am 15. November 1985 wurde das Jubiläum öffentlich gefeiert mit einem Empfang im Alten Zeughaus und den Enthüllungen „Der Optimist“ und „Prinzensäule“.

Unter der Ära Werner G. Klein als Archivar folgten viele Ausstellungen über den Gladbacher Karneval und die jährlich wiederkehrenden Veranstaltungen „Pumpenfest“ und Frauen stellen aus, Kunst in der Freizeit“, die immer mit großen Erfolg abschlossen.

Im Jahre 1988 schufen wir die Plastik „Der Optimist“ in Miniatur nachbildung des Originals über der Eingangstüre und zeichneten damit Dr. Wolfgang Löhr, aufgrund seiner besonderen Verdienste um die Innengestaltung des Karnevalsmuseum, aus.

1996: Weil die Sessionsorden der rund 40 Karnevalsgesellschaften unserer Stadtmeist aus Katalogen ausgesucht waren und dadurch der künstlerische Aspekt fehlte, erschufen wir den Wettbewerb „Orden des Jahres“. Durch eine unabhängige Jury werden Gladbacher Sessionsorden nach mehreren Kriterien bewertet und in Verbindung mit der Volksbank Mönchengladbach prämiert.

1997: Das Liegenschaftsamt vermittelt den Ankauf des Nachbargrundstücks Weiherstraße 4-6 mit den aufstehenden baufälligen Gebäuden. Nach dem Kaufvertrag am 28. Februar begann eine übergroße Aufgabe für die Vereinsmitglieder, denn vorrangig galt es, die Auflagen des Bauamts und des Denkmalschutzes zur Sicherung der Ruinen kurzfristig zu erfüllen. Der Wiederaufbau wurde in den folgenden Jahren zu allergrößten Teil von den Mitgliedern in Eigenarbeit ausgeführt.

KG Rheybach 1. Preis 2004

2003: Die Stadtverwaltung hatte eine Skulpturenmeile angelegt. Aufgrund einer Empfehlung vom MKV-Vorsitzenden Bernd Gothe, erfand unser Mitglied Eberhard Corcilius das Modell einer dreidimensionalen Clownsfigur, welche sogleich von Werner G. Klein als „Der Hoppediz“ getauft wurde. Ein Großformat des Hoppediz steht gleichneben der Prinzenpaarsäule. Mehrere „Mini-Hoppedize“ wurden gefertigt und von den Vereinsmitgliedern farbig gestaltet. Diese konnten gegen eine Spende erworben werden.

"Der Hoppediz" von E. Corcilius

Am 15. Dezember 2007 feierte das „E.V. Alte Zeughaus, Gladbachs Karnevalsmuseum, den 33. Geburtstag und zeigte nach langen Um- und Ausbauarbeiten seinen neuen Erweiterungsbau und sein neugestaltetes Innenleben .„Ein Meilenstein“, sagt dazu Mönchengladbachs Karnevalschef Bernd Gothe. Der damalige Oberbürgermeister Norbert Bude und Vorsitzender Rolf Terhaag setzten in die denkmalgeschützte Außenwand den „Grundstein“ des Bauprojekts. 

Karikaturist Nik Ebert und die AOK stifteten unter anderem auch verschiedene Karikaturen zum Beispiel der Prinzenpaare die in unserem Hause ausgestellt sind. 
Im Jahr 2010 wurde eine Veränderung im Vorstand notwendig. Der 2. Vorsitzende Achim Kremer musste aus gesundheitlichen Gründen sein Amt aufgeben. Die Mitgliederversammlung wählte Dietmar Wirt zu seinem Nachfolger.

von links: Ehrenvorsitzender Peter Ullrich, Oberbürgermeister: Norbert Bude, 
Vorsitzender: Rolf Terhaag und 
Karikaturist: Nik Ebert

In den Jahren 2008 bis 2012 fanden in der „Galerie im Alten Zeughaus“ verschiedene Ausstellungen Gladbacher Künstler statt.

 
Das Jahr 2013, war ein äußerst trauriges Jahr für den E. V. Altes Zeughaus. Im Abstand von nur wenigen Monaten verstarben der langjährige 1. Vorsitzende Rolf Terhaag und der Ehrenvorsitzende Peter Ullrich. Für ihre außerordentlichen Verdienste, verbunden mit ihrem enormen persönlichen Einsatz um den E. V. Altes Zeughaus und das Karnevalsmuseum, werden wir Ihnen in Dankbarkeit stets ein ehrendes Andenken bewahren.

Zum 40. Geburtstag, der am 09.11.2014 mit einem Jubiläumsempfang gefeiert wurde, kamen viele Gäste in das Alte Zeughaus, unter ihnen das designierte Prinzenpaar, etliche ehemalige Prinzenpaare, Abordnungen vieler Karnevalsgesellschaften, Vertreter aus Politik und Verwaltung und des Mönchengladbacher Karnevalsverbandes, um gemeinsam mit den Zeughausmitgliedern zu feiern. Rappelvoll war das alte Haus. In seiner Ansprache erinnerte der 1. Vorsitzende Dietmar Wirt an die Gründung und Geschichte des Karnevalsmuseums und vor allem daran, dass es der Einsatz von Arbeitskraft und Geldmitteln der Männer der ersten Stunden war, die das Alte Zeughaus zu dem machten, was es jetzt ist. Zahlreiche Bürger und Firmen konnten von der Idee eines Karnevalsmuseums überzeugt werden und trugen mit Geld- und Sachspenden zur Verwirklichung bei. Anlässlich des Geburtstages übergab der damalige Vorsitzende des Mönchengladbacher Karnevalsverbandes eine Edelstahlplatte, die das Alte Zeughaus sowie die Namen der 7 Gründungsmitglieder zeigt. In seinen Grußworten würdigte damals amtierenden Oberbürgermeister Hans Wilhelm Reiners das Alte Zeughaus mit seinem Karnevalsmuseum und vor allem die Mitglieder, die mit ihrem Arbeitseinsatz dafür sorgen, dass auch in Zukunft Vergangenes aus dem heimischen Winterbrauchtum nicht in Vergessenheit gerät.