Die Familie Karl Königs stammte aus Pressburg, war aber nach Wien umgesiedelt, wo König im Jahre 1841 geboren wurde. Seine Studien in Wien absolvierte er am Polytechnikum sowie an der Akademie der bildenden Künste, unter anderem bei Friedrich von Schmidt. Ab 1861 war König dessen Meisterschüler. 1866 erhielt König einen Assistenzposten bei Heinrich von Ferstel. 1885 wurde er Ferstels Nachfolger als Professor der Baukunst des klassischen Altertums sowie der Renaissance. Nach einigen Jahren Amtszeit als Dekan am mittlerweile in Technische Hochschule umbenannten Polytechnikum übernahm er hier den Rektorposten.
Zwischen 1868 und 1870 erreichte Karl König Topplatzierungen bei namhaften Wettbewerben. Seine Projekte für das neue Wiener Rathaus sowie für das Vereinsgebäude des Österreichischen Ingenieur- und Architekten-Vereins («Palais Eschenbach») erhielten jeweils den dritten Preis. Seine wichtigsten Bauprojekt ein Wien waren insbesondere der im zweiten Weltkrieg zerstörte Philipphof gegenüber dem Palais Erzherzog Albrecht, die Produktenbörse in der Leopoldstadt und die Synagoge in Rudolfsheim.
Neben mehreren repräsentativen Wohnpalais für illustre Bauherrschaften sind aus Königs späteren Schaffensjahren insbesondere das Haus der Industrie am Schwarzenbergplatz und der grosse Erweiterungsbau der Technischen Hochschule am Karlsplatz zu nennen. Seit 1888 war Karl König Ehrenmitglied der Akademie der bildenden Künste. Zu seinen bedeutendsten Schülern gehörten unter anderem Friedrich Ohmann und Clemens Holzmeister. Karl König starb im April 1915 in Wien.
Bauwerke in Wien (Auswahl):
– Synagoge Rudolfsheim
– Philipphof
– Produktenbörse
– Rotenturm-Hof
– Wohnhaus Zierer
– Palais Landau
– Palais Herberstein
– Palais Böhler
– Palais Redlich
– Palais Friedmann
– Haus der Industrie
– Mozartdenkmal
– Villa Kuffner
– Villa Probst
– Villa Taussig
– Sockel des Erzherzog Albrecht-Denkmals
– Erweiterung der Technischen Hochschule
– Div. Wohn- und Geschäftsbauten
– Div. Grabmäler
Weitere Bauwerke:
– Reichenberg, Synagoge