Deuxième enfant d'une famille de sept, Gustav Klimt est né à Baumgarten le 14 juillet 1862, à côté de Vienne, Autriche. Fils d'Ernest Klimt, orfèvre ciseleur, et Anna Finster, chanteuse lyrique, il suit les cours de la Kunstgewerbeschule de Vienne (École des arts décoratifs) dans les années 1876-1883, où il est l'élève de Ferdinand Laufberger. Klimt est aussi membre honoraire des universités de Munich et de Vienne.

En 1879, il débute sa carrière comme décorateur dans l'équipe de Hans Makart, avec son frère Ernst et Franz Matsch, jusqu'en 1891. Il réalise en particulier de nombreuses fresques dans un style néo-classique académique (comme pour le Burgtheater de Vienne) et la précision de ses portraits est renommée. Ses qualités artistiques sont reconnues officiellement, et il reçoit en 1888 la Croix d'or du mérite artistique de la part de l'empereur.

En 1892, à la mort de son frère, s'amorce la rupture avec l'académisme. Il échoue d'ailleurs à la nomination à la chaire de peinture d'histoire des Beaux-Arts.

À l'occasion de ses premières commandes personnelles (les pendentifs du grand escalier du Kunsthistorisches Museum), il se dégage des modèles académiques, inspiré par les estampes japonaises, et le symbolisme.

Avec notamment Josef Olbrich, Koloman Moser et Rudolph Bacher, il crée le 3 avril 1897 la Wiener Sezession (la Sezession viennoise ou Sezessionstil), groupe d'artistes rompant avec l'académisme. Il fonde également un périodique, Ver Sacrum, reprenant l'activité de ce groupe.

Son œuvre maîtresse de cette époque est une série d'allégories peintes pour illustrer certaines matières de l'université de Vienne : la Philosophie, la Médecine et la Jurisprudence. Ces tableaux offusquent la critique, mais le premier est couronné de la médaille d'or de l'exposition universelle de Paris de 1900. Ces trois œuvres sont détruites par les nazis en 1945.

En 1902, il peint une grande fresque en l'honneur de Ludwig van Beethoven pour la 14^e exposition de la Sécession. Cette frise fait l'objet de nombreuses critiques, mais est appréciée par Auguste Rodin. En 1907, il rencontre le jeune peintre Egon Schiele qu'il va beaucoup influencer ; Klimt sera pour Schiele son modèle et son maître.

Devant les désaccords avec de nombreux artistes du groupe, il quitte la 'Secession' en 1905, accompagné par Koloman Moser, Carl Moll, Otto Wagner et d'autres. Il épure son style, évitant, à partir de 1909, l'or.

Célibataire endurci, il vit avec sa mère et ses sœurs. Il a cependant de nombreuses maîtresses et quelques enfants.

Il décède le 6 février 1918 à Vienne d'une pneumonie et est enterré dans cette même ville au cimetière Hietzing.