Karl Mayer war zuerst als Gesellschafter in der von seinem Großvater gegründeten Firma V. Mayer & Söhne und später als Industrieller in Wien tätig. Am 3. Juli 1890 heiratete er Monika von Goldschmidt (1862–1908), am 8. Mai 1891 kam der einzige Sohn des Paares zur Welt. Monika Mayer begann, Porzellanfiguren zu sammeln, und ihr Mann übernahm diese Leidenschaft. Erstmals öffentlich gezeigt wurden 70 Porzellane der Wiener Manufaktur aus der Sammlung Mayer in der Ausstellung zum Wiener Kongress, die 1896 im k. k. Österreichischen Museum für Kunst und Industrie stattfand. Nachdem er 1903 60 Stücke an die Ausstellung von Alt-Wiener Porzellan im Kaiser Franz Josef-Museum für Kunst und Gewerbe in Troppau verliehen hatte, stellte er 1904 für die Ausstellung von Alt-Wiener Porzellan im Österreichischen Museum in Wien 303 Porzellane zur Verfügung und war damit mit Abstand der größte Leihgeber. Auch wenn Karl Mayer verschiedene andere Kunstwerke besaß, sein Schwerpunkt lag auf Porzellanen. In diesem Sinne publizierte Josef Folnesics, Kustos am Österreichischen Museum, 1914 das 528 Positionen umfassende Sammlungsverzeichnis Die Wiener-Porzellan-Sammlung Karl Mayer. 14 Jahre später entschloss sich Mayer, seine Porzellansammlung zu verkaufen, ein Grund dafür mag der zunehmende Verlust seiner Sehkraft gewesen sein. Vom 19. bis zum 21. November 1928 hielt das Auktionshaus für Altertümer Glückselig in Wien die Versteigerung Wiener-Porzellan Sammlung Karl Mayer ab. Der reich bebilderte Auktionskatalog umfasste 529 Katalognummern. Zu jenen Stücken, die nicht in der Publikation von Folnesics angeführt waren, stammten die Expertisen von Otto von Falke, dem 1927 pensionierten Generaldirektor der Berliner Museen, der auch das Vorwort zum Katalog verfasst hatte. War die Sammlung eher niedrig, auf 300.000 Schilling, geschätzt worden, ließ die Nachfrage bei den mitsteigernden SammlerInnen und KunsthändlerInnen aus dem In- und Ausland den Gesamterlös auf 824.000 Schilling steigen.

Nach dem "Anschluss" Österreichs an das nationalsozialistische Deutsche Reich im März 1938 wurde Mayer, mittlerweile 83 Jahre alt und vollständig erblindet, als Jude verfolgt und musste seine Vermögenswerte gegenüber den NS-Behörden deklarieren. Seine Vermögensanmeldung vom 29. Juni 1938 listete nur mehr wenige Kunstgegenstände auf. Im Februar 1941 wurde er gezwungen, seine Wohnung in der Operngasse 6 zu verlassen und in eine "Sammelwohnung" in Wien 1, Ebendorferstraße 10/7, zu übersiedeln. Ab dem 9. März 1942 war Karl Mayer im Spital der Israelitischen Kultusgemeinde in Wien 9, Seegasse 9, gemeldet, wo er zehn Tage später starb. Er wurde am 27. April 1942 am Wiener Zentralfriedhof bestattet.