Die Gründung der Akademie der bildenden Künste geht auf eine Privatinitiative des kaiserlichen Kammermalers Peter Strudel (1660–1714) zurück und fand ihre urkundliche Anerkennung durch das Kaiserhaus im Jahr 1692. Nach dem Tod Strudels erfolgte die Neugründung 1726 als öffentliche kaiserliche Hofakademie unter der Leitung von Jacob van Schuppen (1670–1751). Mit der Errichtung einer eigenständigen Kupferstecherakademie unter Jakob Mathias Schmutzer (1733–1811) 1766 wurde der Grundstock für die Sammlung des heutigen Kupferstichkabinetts gelegt. Schmutzers Kupferstecherakademie wurde 1772 in die "k. k. Akademie der vereinigten bildenden Künste", welche die bestehenden Wiener Kunstlehranstalten zu einer Institution zusammenschloss, eingegliedert und der Sammlungsbestand in Folge gezielt ausgebaut. Eine weitere am Haus existierende, ursprünglich als Lehrmittelkabinett gegründete und noch keiner expliziten Sammlungsstrategie unterliegende Bildersammlung erfuhr 1822 mit dem Legat von Anton Franz de Paula Graf von Lamberg-Sprinzenstein (1740–1822) – es beinhaltete u. a. Hieronymus Boschs Weltgerichtstriptychon sowie Werke von Peter Paul Rubens, Anthonis van Dyck und andere Niederländer des 17. Jahrhunderts – eine entscheidende Aufwertung hin zu einer eigenständigen Gemäldegalerie von internationaler Bedeutung. Nach wechselnden Standorten im heutigen 1. Wiener Bezirk und infolge zunehmenden Raummangels wurde 1871 der Neubau des Akademiegebäudes am Schillerplatz genehmigt, der 1877 feierlich eröffnet wurde. Nach dem Ende des Ersten Weltkrieges gingen die Sammlungen der Akademie in das Eigentum der Republik Österreich über.
Bereits während der Jahre des austrofaschistischen Regimes herrschte an der Akademie ein den Nationalsozialismus nicht ablehnendes Klima, das eine rasche "Gleichschaltung" nach dem "Anschluss" 1938 beförderte. Bereits am 12. März 1938 bestellte die Landesleitung Wien der NSDAP ein aus Ferdinand Andri, Wilhelm Dachauer und Alexander Popp bestehendes Leitungsgremium, das in Folge 13 Bedienstete vom Dienst entheben und bis zur Ernennung Popps zum Rektor im Sommer 1941 bestehen sollte. Die Akademie war nun der Abteilung IV des Ministeriums für innere und kulturelle Angelegenheiten unter der Leitung von Kajetan Mühlmann, ab 1940 dem Generalreferat Kunstförderung des Reichsstatthalters in Wien unterstellt. Ab dem Wintersemester 1944/45 fand an der Akademie kein regulärer Unterricht mehr statt – spätestens mit Jänner 1945 erfolgte ihre endgültige Schließung im Rahmen der allgemeinen Stilllegung der Kunsthochschulen.
Der Gesamtbestand der Gemäldegalerie im Jahr 1938 betrug rund 1.900 Werke. Um das Sammlungsinventar zu erweitern, beabsichtigten das kommissarische Leitungsgremium und der Direktor der Gemäldegalerie, Robert Eigenberger, 1939 an der Zuteilung von Kunstgegenständen aus entzogenen Sammlungen zu partizipieren – bei gegenwärtigem Forschungsstand können allerdings keine solchen Zuteilungen nachgewiesen werden. Im August desselben Jahres wurde Eigenberger beauftragt, die Bestände der Gemäldegalerie in die Kategorien A, B und C einzuteilen und angesichts des drohenden Kriegsbeginns die Bergung der Objekte der Kategorie A vorzubereiten. In den folgenden vier Bergungsphasen der Jahre 1939, 1942, 1944 und 1945 wurden mehr als 600 Objekte überwiegend der Kategorien A und B in die Bergungsstellen Stift Heiligenkreuz, Creditanstalt–Bankverein in Wien 1, Schottengasse 6-8, Schloss Schönborn in Niederösterreich und Bergwerk Lauffen bei Bad Ischl verbracht. Beinahe 1.700 Objekte hatte Eigenberger 1939 als drittrangige Bestände kategorisiert, von denen etwa 1.300 im Akademiegebäude zurückgelassen wurden. Durch einen Bombentreffer am 12. März 1945 wurden 520 Werke zerstört bzw. gelten seither als verschollen. Zudem gingen 120 der in externe Bergungsorte ausgelagerten Werke u. a. durch Plünderungen verloren. Ende 1942 waren auch in der Bibliothek und den ihr angegliederten Sammlungen des heutigen Kupferstichkabinetts Bergungsmaßnahmen eingeleitet worden. Die wertvollsten Bestände wurden in einen Banktresor in der Wiener Rockhgasse und weniger wertvolle Objekte in ein Kellerdepot der Akademie umgelagert, während die minderbewerteten Restbestände in den bisherigen Räumlichkeiten belassen wurden. Die aktuelle Quellenlage bietet, mit wenigen Ausnahmen, keinen detaillierten Aufschluss darüber, welche Bestände des heutigen Kupferstichkabinetts tatsächlich geborgen wurden oder kriegsbedingte Verluste erlitten.
Am 19. April 1945, nach dem Ende der Kämpfe im Wiener Stadtgebiet, übernahm Herbert Boeckl die provisorischen Geschäfte des Rektors, die Wiederaufnahme des Unterrichts folgte nur wenige Tage später. Im Zuge der Entnazifizierung des Personalstandes kam es zu 37 Dienstenthebungen unmittelbar nach Kriegsende. Ein Großteil der betroffenen Personen wurde jedoch spätestens mit der Verabschiedung des Nationalsozialistengesetzes 1947 rehabilitiert.
1988 wurde der Gemäldegalerie die Glyptothek der Akademie angegliedert. Im Rahmen des Kunsthochschul-Organisationsgesetzes erfuhr die Akademie 1998, unter Beibehaltung des leicht gekürzten Namens "Akademie der bildenden Künste Wien", die Ernennung zur Universität. 2003 wurde das Kupferstichkabinett als selbständige Organisationseinheit von der Bibliothek getrennt. Die systematische Provenienzforschung in den Sammlungen der Akademie startete im Jahr 2013. Basierend auf deren Forschungsergebnissen empfahl der Kunstrückgabebeirat am 11. Jänner 2019 die Rückgabe von drei Grafiken aus dem Sammlungsbestand des Kupferstichkabinetts, die sich ursprünglich im Eigentum von Moriz Grünebaum befunden hatten und im Februar 2021 an dessen ErbInnen ausgefolgt werden konnten. Im November 2021 sprach sich der Kunstrückgabebeirat zudem für die Restitution von 33 Druckgrafiken aus der Sammlung Sigmund Stiassny sowie von 319 Zeichnungen und Druckgrafiken mit der Provenienz Maria und Rudolf Perlberger aus, die sich aufgrund einer Schenkung in den 1980er-Jahren im Bestand des Kupferstichkabinetts befunden hatten.