Klaus Huber est né à Berne le 30 novembre 1924. Il fréquente le lycée à Bâle et l’École Normale d’instituteurs à Küsnacht. De 1947 à 1949, il étudie au Conservatoire de Zurich et y obtient les diplômes de violon (classe de Stefi Geyer) et de didactique musicale, puis il étudie, de 1947 à 1955, toujours à Zurich, avec son parrain Willy Burkhard et, de 1955 à 1956, avec Boris Blacher, à la Staatliche Hochschule für Musik de Berlin. De 1961 à 1972, il enseigne à la Musikakademie de Bâle et débute ainsi une longue carrière de professeur de composition, qui fait de lui l’un des grands maîtres auprès de qui nombre de compositeurs nés après 1945 viennent étudier. En 1969, il est boursier du DAAD à Berlin et succède à Wolfgang Fortner à la Staatliche Hochschule für Musik de Fribourg en Brisgau, poste qu’il ne quittera plus jusqu’à sa retraite en 1990 (il y a formé entre autres compositeurs Brian Ferneyhough, Wolfgang Rihm ou Michael Jarrell).
En 1955 a lieu la création de Sechs kleine Vokalisen à Bilthoven (Hollande). En 1959, la création de Des Engels Anredung an die Seele, aux Journées Mondiales de la SIMC à Rome, lui apporte une consécration internationale en remportant le premier prix de musique de chambre (figurent dans le jury Luigi Dallapiccola et Wladimir Vogel). En 1961 a lieu, durant les Internationale Ferienkurse für Neue Musik à Darmstadt, la création de Noctes ; à cette occasion, Theodor Adorno demande à rencontrer le compositeur. Une partie de Soliloquia est jouée lors du festival SIMC à Londres, en 1962. Au printemps de 1968, Huber entreprend, avec Constantin Regamey, un voyage en U.R.S.S. et en 1983, un voyage au Nicaragua, où il rencontre Ernesto Cardenal. Toujours en 1983, la création de la version complète de Erniedrigt-Geknechtet-Verlassen-Verachtet a lieu aux Donaueschinger Musiktage. En 1999, il travaille à son opéra Schwarzerde, créé à Bâle en 2001. Il compose Die Seele muss vom Reittier steigen..., créé en 2002 à Donaueschingen et à Paris. En 2003 et 2004, des exécutions de Die Erde tanzt sich auf den Hörnern eines Ochsen ont lieu au Caire et à Drochtersen-Huell. En 2004, la première de À l’âme de marcher sur ses pieds de soie... a lieu aux Wittener Tagen für Neue Kammermusik. De nombreux concerts et manifestations célèbrent le quatre-vingtième anniversaire du compositeur, en Allemagne, au Luxembourg, en Suisse, en France, en Espagne. En 2007, Quod est pax ? – Vers la raison du cœur... est créé durant l’Automne de Varsovie.
Klaus Huber a été professeur invité et compositeur en résidence dans de nombreux lieux. Il a ainsi enseigné à Bilthoven (1966, 1968, 1972), à l’Université McGill et au Brésil (1984), à Sienne (1985), à l’Ircam (1986, 1998, 1990, 1993), au CNSMD de Paris (1987, 1989, 1992), à Radziejowice (1987), à Malmö, à Stockholm et à l’Académie Sibelius (1989), à Royaumont (1990, 1996), à la Royal Academy of Music et au Conservatoire de Genève (1991), au Brandenburgisches Kolloquium Neue Musik à Berlin, au festival Musica de Strasbourg, à la Musikakademie de Bâle et au Huddersfield Festival (1992), à la Scuola Civica di Musica de Milan (1992, 1993), au Centre Acanthes (1993, 2003), aux New Music Concerts de Toronto (1993), aux Internationale Musikfestwochen de Lucerne (1994), au Festival Akiyoshidai au Japon (1995), au CNSMD de Lyon et à Aigion en Grèce (1996), à Sarajevo, à Bremen et à Caracas (1997), à Bergen (1998) et à Trossingen (2004).
Il a reçu de nombreux prix et distinctions : le prix Beethoven, le prix de composition de l’Association Suisse des Musiciens, le prix des arts de la Ville de Bâle, le prix Reinhold Schneider, le prix Italia, le prix de la culture et de la paix de la Villa Ichon à Bremen, le prix de la musique de Salzbourg, le prix allemand des compositeurs de musique (Deutscher Musikautorenpreis 2013). Il est membre de l’Académie bavaroise des Beaux-Arts, de l’Académie des Arts de Berlin et de l’Académie Libre des Arts de Mannheim ainsi que membre honoraire de la SIMC et docteur honoris causa de l’Université de Salzburg. Ses œuvres sont publiées depuis 1975 chez Ricordi (München), chez Schott et ses manuscrits déposés à la Fondation Paul Sacher à Bâle. Ses écrits ont été rassemblés en 1999 dans l’ouvrage Umgepflügte Zeit.