Als das bisherige Rathaus 1585 einem Stadtbrand zum Opfer fiel, erwirkte der Wipperfürther Magistrat 1591 die Genehmigung des Landesherrn, die ausgebrannte Petrikirche am Markt (heutiger Standort des „Hansecafés) zum „Stadthaus“ umbauen zu dürfen. Man zog eine Zwischendecke ein und fügte einen Uhrenturm hinzu. Das obere Stockwerk, das über eine Außentreppe zugänglich war, diente als Ratsstube, Bürgermeisteramt, Friedensgericht und Gerichtsschreiberei; das „Gefangenenhaus“ war wohl im Turm untergebracht. Das Untergeschoss der ehemals zweischiffigen Kirche wurde geteilt; eine Hälfte blieb Sakralraum, die andere nutzte man jetzt als Spritzenhaus und als Raum zur Aufbewahrung städtischer Geräte. Vor dem Gebäude stand auf dem Markt das Stadtkreuz, vor dem die Bürgermeister ihren Amtseid ablegten.
Beim Stadtbrand vom 3. September 1795 wurde das „Stadthaus“ zerstört. Der Korpus des Marktkreuzes wurde von dem Bürger Melchior Schefeling zu Nagelsbüchel gerettet, galt dann aber als verschollen, bis man 1973 bei Aufräumarbeiten im Keller des Pfarrhauses unter den Briketts einen in Ölpapier gewickelten gotischen Korpus entdeckte, der deutliche Brandspuren trug.
Drei Jahrzehnte lang amtierte der jeweilige Bürgermeister in seinem Wohnhaus. 1826 genehmigte der preußische König Friedrich Wilhelm II. den Antrag der Stadt, ihr das leer stehende Gebäude des ehemaligen Franziskanerklosters (heute „Haus der Familie“) „zur Errichtung eines Rathauses, eines Friedensgerichts-Gefängnisses und eines Sitzungsortes für dieses Gericht, imgleichen einer Mittelschule (Progymnasium)“ zu überlassen. Noch heute erkennt man über dem Eingang den Haken, an dem einst der Preußenadler hing. Als das Progymnasium zu Beginn des 20. Jahrhunderts zum Vollgymnasium ausgebaut wurde, zog zunächst das Gefängnis an die Lenneper Straße um. In den Jahren 1910/11 erhielt die Stadt dann auch wieder ein eigenes Rathaus am Marktplatz, für das man das 1796 erbaute Haus „Unter der Linde“ an der Ecke zur Marktstraße abbrach. Dieses Rathaus wurde am 22. März 1945 durch eine Fliegerbombe zerstört; sieben Menschen starben.
Am 10. Mai 1948 begann man mit dem Abbruch der Ruine. Drei Tage später startete der Ideenwettbewerb für den Bau eines neuen Rathauses; am 16. September tagte das Preisgericht. Am 31. März 1949 beschloss der Rat, dass der Plan des Architekten Bernhard Rotterdam realisiert werden sollte; am 19. April war Baubeginn; am 12. August erfolgte die feierliche Grundsteinlegung. Das neue Rathaus nahm nicht nur die Fläche seines Vorgängers, sondern zusätzlich die des mit ihm zerstörten Nebenhauses („Hotel zur Stadt Elberfeld“) ein. Am 2. Dezember konnte Richtfest gefeiert werden am 9. Dezember 1950 die Einweihung.
