Am 21. September 1962 eröffnete der damalige Unterrichtsminister Heinrich Drimmel das Museum des 20. Jahrhunderts im adaptierten ehemaligen österreichischen Pavillon für die Brüsseler Weltausstellung (1958) im Schweizergarten in Wien. Gründungsdirektor war der österreichische Kunsthistoriker Werner Hofmann, der das Bundesmuseum bis 1969 leitete. Bis zur Eröffnung hatte er, im Zeitraum von 1959 bis 1962, 90 Werke für das Haus erworben. Ziel war es, die wesentlichen Strömungen der Kunst des 20. Jahrhunderts anhand von charakteristischen Werken aus Malerei, Plastik und Baukunst, unter besonderer Berücksichtigung jener KünstlerInnen, die Österreich durch Herkunft oder Ausbildung verbunden waren, beispielhaft darzustellen. Zu den heutigen Sammlungsbeständen, mittlerweile rund 10.000 Werken, zählen neben Bildern, Skulpturen und Grafiken, auch Architekturmodelle, Möbel, Foto-, Video- und Filmarbeiten. Um die 128 Werke des deutschen Kunsthistoriker- und Industriellenehepaars Irene und Peter Ludwig unterzubringen, die dem österreichischen Staat (vertreten durch Wissenschaftsministerin Hertha Firnberg) 1978, in Folge einer Ausstellung der Sammlung Ludwig im Künstlerhaus (1977) als Leihgaben vertraglich zugesagt worden waren, wurde das Gartenpalais Liechtenstein im 9. Wiener Gemeindebezirk 1979 als zusätzlicher Ausstellungsort des Museums angemietet. Der Name des Museums änderte sich zeitgleich zu Museum moderner Kunst, umgangssprachlich auch 20er Haus genannt. Auf die Gründung der Österreichischen Ludwig-Stiftung für Kunst und Wissenschaft im Jahr 1981 folgte 10 Jahre später die Umbenennung des Hauses in Museum moderner Kunst Stiftung Ludwig Wien. Beiden Ereignissen waren umfangreiche Schenkungen des Ehepaares Ludwig an die Stiftung vorausgegangen, die in Folge ins mumok kamen. 2001 wurden die Sammlungen schließlich in dem von den Architekten Ortner & Ortner neu geschaffenen Gebäude im MuseumsQuartier in Wien zusammengeführt.

Mit Inkrafttreten des Kunstrückgabegesetzes 1998 startete die systematische Provenienzforschung auch im mumok und sie wird – mit Unterbrechungen – bis heute fortgeführt. Da es sich bei den Kunstwerken der Ludwig-Stiftung um Dauerleihgaben an das Museum handelt, sich diese also nicht im Bundeseigentum befinden, sind sie nicht Gegenstand der von der Kommission für Provenienzforschung geleiteten Provenienzforschung. Das Bild Andenken – Das Bündnis von George Grosz, das im Jahr 1986 vom mumok angekauft worden war und sich in den frühen 1930er-Jahren bei dem Kunsthändler Alfred Flechtheim befunden hatte, war in zwei Sitzungen des Kunstrückgabebeirats, am 29. März 2006 und am 8. März 2013, Gegenstand der Beratungen. Eine Empfehlung auf Übereignung an die RechtsnachfolgerInnen nach Alfred Flechtheim bzw. George Grosz erfolgte nicht, weil der Verkauf des Gemäldes aus dem "Nachlass Alfred Flechtheim" – er war 1937 verstorben – im Jahr 1938 in den Niederlanden und somit außerhalb des Herrschaftsgebietes des Deutschen Reiches stattgefunden hatte. Im Fall des 1988 dem mumok geschenkten Gemäldes von Max Oppenheimer Porträt Rosa Kraus, die Schwägerin Karl Kraus' darstellend, deren Wohnungseinrichtung in unmittelbarem Zusammenhang mit ihrer Verfolgung und der darauf folgenden Flucht verloren gegangen war, empfahl der Beirat am 3. Juli 2015 die Restitution an die RechtsnachfolgerInnen nach dem Ehepaar Alfred und Rosa Kraus.