Janós Wilde studierte Kunstgeschichte, Archäologie und Philosophie in Budapest und Wien, wo er 1918 bei Max Dvořák und Josef Strzygowski über Die Anfänge der italienischen Radierung promovierte. Er kehrte nach Budapest zurück und beteiligte sich in der kurzen Zeit der ungarischen Sowjetrepublik von Béla Kun im Jahr 1919 an der Beschlagnahmung von Kunstwerken in Privatbesitz "von nationaler Bedeutung". Zwar war er bis 1922 Assistent in der Abteilung für Druckgrafik und Zeichnungen des Museums der Schönen Künste, jedoch hatte er im September 1920 einen sechsmonatigen Studienurlaub gewährt bekommen, um Max Dvořáks Einladung zu einer Vorlesung an der Wiener Universität annehmen zu können. Als Dvořák im Februar 1921 starb, blieb Wilde in Wien, um gemeinsam mit Karl Maria Swoboda, dem Assistenten Dvořáks, die Herausgabe seiner gesammelten Werke vorzubereiten. Im Juni 1923 begann Wilde in der Gemäldegalerie des Kunsthistorischen Museums (KHM) zu arbeiten, zunächst als wissenschaftlicher Hilfsarbeiter, später als Kustos zweiter Klasse. Sein Schwerpunkt war die Italienische Renaissance. Um 1928 setzte Wilde Röntgenstrahlen als systematisches Hilfsmittel in der Gemälderestaurierung ein und galt in diesem Bereich als Pionier. An der Röntgentechnischen Versuchsanstalt forschte er an neuen Bildanalysemöglichkeiten und schließlich richtete er gemeinsam mit seinem Kollegen Sebastian Isepp 1930 ein eigenes Institut im KHM ein. 1930 heiratete Wilde in der Votivkirche die ebenfalls in Budapest geborene Kunsthistorikerin Julia Gyárfás.

Obwohl seine Frau bereits 1919 zum evangelischen Glauben nach Augsburger Bekenntnis und anlässlich ihrer Heirat zum Katholizismus konvertiert war, galt sie nach den Nürnberger Gesetzen als Jüdin und Wilde damit als "jüdisch versippt". Nach dem "Anschluss" im März 1938 stellte der Kommissarische Leiter des KHM Fritz Dworschak im Ministerium für innere und kulturelle Angelegenheiten unter Hinweis auf Wildes "übergewöhnliche Verdienste" einen Antrag auf seine Weiterbelassung im Dienst. Diese wurde jedoch nicht gewährt und Wilde emigrierte, unterstützt von Antoine Seilern, einem österreichisch-britischen Kunsthistoriker und -sammler sowie von Kenneth Clark, Direktor der National Gallery in London, gemeinsam mit seiner Frau im April 1939 nach Großbritannien. Das Ehepaar Wilde lebte in Aberystwyth, Wales, wo Wilde die Kunstsammlung Seilerns und die Bilder der National Gallery, die sich im selben Gebäude befanden, konservatorisch betreute. Weiters katalogisierte Wilde die Sammlung italienischer Zeichnungen des British Museum. 1940 wurde Wilde als "feindlicher Ausländer" in Kanada interniert, da die Lager in Großbritannien überfüllt waren. Er konnte jedoch 1941 nach England zurückkehren und begann eine Lehrtätigkeit am Courtauld Institute, ein zur Londoner Universität gehörendes Institut für Kunstgeschichte mit eigener Kunstsammlung. 1948 wurde er zum stellvertretenden Direktor ernannt, eine Position, die er bis zu seiner Emeritierung 1958 innehatte.