Den Grundstein für das spätere Uhrenmuseum legte die Privatsammlung des Lehrers, Esperantisten und Uhrensammlers Rudolf Kaftan. Dieser brachte seine rund 10.000 Uhren und Uhrwerke vorerst in den Räumlichkeiten des Sanatoriums Görgen von Heinrich Obersteiner in der Billrothstraße 69, Wien 19 unter. Als das Anwesen 1917 verkauft wurde und die Gebäude abgerissen werden sollten, kaufte die Stadt Wien die Sammlung 1917 an und gründete das Uhrenmuseum, das den Städtischen Sammlungen eingegliedert erst am 29. Mai 1921 im ehemaligen Obizzipalais in Wien 1, Schulhof 2 eröffnet werden sollte. Kaftan selbst wurde zum Leiter des Uhrenmuseums bestellt und mit Dienstwohnung und Jahresgehalt ausgestattet. Um die Erweiterung der Sammlung finanziell zu ermöglichen, gründete Kaftan noch im August 1917 den Verein der Freunde des Wiener Uhrenmuseums. Das neue Museum tätigte so noch während der Kriegsjahre 1917 und 1918 umfangreiche Erwerbungen, etwa aus der Sammlung der Schriftstellerin Marie von Ebner-Eschenbach, aus dem Nachlass des jüdischen Fabrikanten Gustav Leiner sowie des bekannten Wiener Uhrmachers und Sammlers Josef Nicolaus. Auch nach Ende des Ersten Weltkrieges und mit finanzieller Unterstützung der nun sozialdemokratisch geführten Stadtregierung konnte das Uhrenmuseum seine Bestände erweitern. In dieser Periode avancierte das Museum durch die rege Vermittlungstätigkeit von Rudolf Kaftan zu einem Medienliebling. Zeitungen quer durch das politische Spektrum berichteten immer wieder über das Uhrenmuseum, das auch eine große Zahl ausländischer BesucherInnen anzog. Die austrofaschistische Machtübernahme 1934 änderte nichts an der Beliebtheit des Uhrenmuseums, das sich unter dem neuen Bürgermeister Richard Schmidt weiterhin finanzieller Unterstützung und medialer Aufmerksamkeit erfreuen konnte.

Mit dem "Anschluss" Österreichs an das nationalsozialistische Deutsche Reich wurde das Uhrenmuseum als selbständiges Amt der neuerrichteten Gruppe VIII – Kulturamt angegliedert, 1939 wieder den Städtischen Sammlungen zugeordnet. Rudolf Kaftan wusste durch seine Kontakte zu UhrmacherInnen und HändlerInnen über deren Sammlungen und Warenbestände Bescheid. In unmittelbarer Nähe zu seinem Dienst- und Wohnort befanden sich am Schulhof 6 die Oberaufsicht der kommissarischen Verwalter, die Zunft und die später gegründete "Arisierungsstelle" der Zunft der Uhrmacher und Juweliere und der Gilde des Uhren- und Juwelenhandels, was für den Kommunikationsfluss und die Beschaffungsmöglichkeiten des Museums sicherlich förderlich war. So besichtigte Kaftan zum Beispiel bereits am 22. März 1938 die 135 Uhren umfassende Sammlung des jüdischen Eisen- und Metallwarenhändlers Paul Schwarzstein. Nach Abschluss der Verkaufsverhandlungen sollte diese im Mai 1939 vom Uhrenmuseum erworben werden. Das Warenlager und die Sammlung des jüdischen Uhrmachers und Antiquitätenhändlers Alexander Grosz wurden vom kommissarischen Verwalter der Firma Josef Berger dem Museum zum Kauf angeboten, woraus das Museum schließlich 70 Uhren erwarb. Weitere Uhren kamen aus den "arisierten" Beständen der Juwelier- und Antiquitätenhändler Emil Politzer und Josef Ungar sowie aus der beschlagnahmten Kunstsammlung von Albert Pollak. Das Uhrenmuseum war Gegenstand zahlreicher Beiträge der NS-Medienberichterstattung. Neben solchen, etwa über den 45.500ten Besucher am 13. Mai 1938, oder den Ersten Großdeutschen Uhrmachertag im Juli 1939, thematisieren diese die zahlreichen Neuerwerbungen des Hauses, wobei unerwähnt blieb, dass diese Ankäufe vielfach aus entzogenem Eigentum stammten. 1942 bemühte sich der Direktor der Städtischen Sammlungen Karl Wagner um Objekte aus dem ehemaligen Besitz der Rothschilds, darunter auch 25 Uhren, die an das Uhrenmuseum gingen. Auf Grund der zunehmenden Gefahr von Bombenangriffen begannen im Juni 1943 Vorbereitungen für eine Bergung des Museumsbestandes. Im Jänner 1944 wurde das Uhrenmuseum geschlossen und der größte Teil der Bestände nach Niederösterreich verlagert. An den Bergungsorten Schloss Thalheim und im Pfarrhof in Klein-Engersdorf kam es zu Kriegsende zu zahlreichen Diebstählen durch Wehrmachtssoldaten, die einheimische Bevölkerung und Sowjetsoldaten. Aus den dort gelagerten Museumsbeständen der Sammlung Grosz gingen so 30 und aus der Sammlung Schwarzstein 78 Uhren verloren.

1948 "widmete" Clarisse Rothschild dem Uhrenmuseum sechs Uhren aus den vom Bundesdenkmalamt verwahrten Rothschild-Sammlungen, die seitens des Museums von ihr als Kompensation für den Erhalt einer Ausfuhrgenehmigung für die anderen im Jahr 1949 rückgestellten Objekte gefordert worden waren. Diese sollten erst nach der Verabschiedung des Kunstrückgabegesetzes 1998 restituiert werden. 2001 stellte das Uhrenmuseum von den ursprünglich 22 Uhren aus dem Eigentum von Oscar Bondy die noch 16 vorhandenen zurück. 2003 erhielt die Witwe von Josef Ungar die Uhren ihres Mannes und 2004 bekamen die ErbInnen nach Emil Politzer von den ursprünglich 25 Uhren 20 zurück. Der Familie von Paul Schwarzstein war es 1949 mit der Hilfe ihres Anwaltes gelungen, 52 der noch vorhandenen Uhren zurück zu erhalten, jedoch hatte das Museum fünf Uhren als "Schenkung" einbehalten. Basierend auf der systematischen Provenienzforschung im Wien Museum wurden diese fünf Uhren aufgrund der Empfehlung der Wiener Restitutionskommission 2009 an die RechtsnachfolgerInnen der Familie Schwarzstein ausgefolgt. Die noch vorhandenen Uhren von Alexander Grosz konnten nach langer ErbInnensuche 2017 an diese übergeben werden.