Fritz Novotny war als Bibliothekar des Instituts für Kunstgeschichte der Universität Wien tätig und unterrichtete ab 1925 an verschiedenen Wiener Volkshochschulen, während er Kunstgeschichte u. a. bei Josef Strzygowski studierte, dessen Assistent er 1927 wurde. Novotnys lebenslange Beschäftigung mit französischer Kunst dürfte spätestens im Herbst 1928 ihren Ausgang genommen haben, als er für ein Jahr in der Abteilung Französische Graphik des 19. und 20. Jahrhunderts in der Albertina tätig war. 1938 habilitierte sich Novotny mit einer Arbeit über Paul Cézanne an der Universität Wien. Zum stilistisch von Cézanne beeinflussten Maler Gerhart Frankl, den er 1934 kennen gelernt hatte, entstand über die berufliche Kommunikation hinaus eine tiefe Freundschaft. Als der nach dem "Anschluss" Österreichs an das nationalsozialistische Deutsche Reich als Jude geltende Frankl nach England fliehen musste, versuchte er auch Novotny, der politisch der Sozialdemokratie nahestand, die Emigration nahezulegen. Dieser entschied sich aus familiären Gründen gegen diesen Schritt, obwohl er sich gemeinsam mit Otto Demus, Staatskonservator in der Zentralstelle für Denkmalschutz, um ein Paul Sachs-Stipendium in Harvard beworben hatte. Mit der zwangsweisen Pensionierung des Direktors der Österreichischen Galerie Franz Martin Haberditzl und der Dienstenthebung von Kustos Heinrich Schwarz 1938 ergaben sich zudem Karrierechancen für Novotny, die ihn von seinen Auswanderungsplänen Abstand nehmen ließen. Bereits Anfang Dezember 1938 bewarb er sich um eine Position in der Österreichischen Galerie im Schloss Belvedere, wo er 1939 als wissenschaftlicher Beamter angestellt wurde. An seinem neuen Dienstort arrangierte er sich mit den politischen Gegebenheiten, auch um seine beruflichen Möglichkeiten nicht zu beeinträchtigen. Novotny, der weder NSDAP-Mitglied noch Parteianwärter war, wurde von der Gauleitung in Wien bereits 1938 "einwandfreies Verhalten gegen die NSDAP" konzediert. Als "apolitischer Skeptiker", der "vollkommen in der Arbeit für die Galerie und für wissenschaftliche Forschungen" aufgeht, bekenne er sich zu den "weltanschaulichen Grundlagen der nationalsozialistischen Staatsführung". 1942 erfolgte seine Beförderung zum Kustos 2. Klasse, 1948 zum Kustos 1. Klasse. Als Klimt-Experte verfasste er 1943 das Vorwort im Katalogheft zur großen, vom Reichsstatthalter veranstalteten Klimt-Retrospektive in der Wiener Secession.

Nach dem Ende des Zweiten Weltkrieges und der Enthebung des ehemaligen NSDAP-Mitglieds Bruno Grimschitz, der Novotny während seiner Direktorenschaft in Agenden rund um den Museumsbetrieb als Vertretung in seiner Abwesenheit brieflich mitunter exakt instruiert hatte, wurde Novotny mit der interimistischen Leitung des Museums bis zur Bestellung von Karl Garzarolli-Thurnlackh im Jahr 1947 betraut. Ende desselben Jahres setzte sich Novotny beim Bundesministerium für Unterricht für die Wiedereinstellung des Kunsthistorikers und ehemaligen NSDAP-Mitglieds Karl Ginhart an der Technischen Hochschule ein. Novotny lehrte neben seiner Beschäftigung im Belvedere als Privatdozent für Kunstgeschichte und ab 1948 als Extraordinarius an der Universität Wien. Bereits 1946 musste er sich auf Grund der im selben Jahr verabschiedeten Vermögensentziehungs-Anmeldungsverordnung mit 26 in der NS-Zeit entzogenen und von der Österreichischen Galerie erworbenen Kunstobjekten befassen, u. a. aus den Sammlungen von Gertrude Felsöványi, Viktor Ephrussi und Leopold Weinstein; insgesamt zehn Werke wurden in der Nachkriegszeit restituiert, eines im Tausch abgegeben. Die weiteren 15 waren basierend auf dem Kunstrückgabegesetz im Auftrag der Kommission für Provenienzforschung Gegenstand näherer Untersuchung, die bis dato zu Rückgaben zwischen 2001 und 2012 führten. Von 1960 bis 1968 stand er der Österreichischen Galerie als Direktor vor und verantwortete zahlreiche Ausstellungen und Veröffentlichungen aus dem Bereich der großen Meister der klassischen Moderne wie Vincent van Gogh und Paul Cézanne. 1968, im Jahr seiner Pensionierung, wurde er zum ordentlichen Professor ernannt.