Nació en Austria, en 1940. Inició sus estudios en la Universidad de Música de Viena en 1955. Fue nombrado concertino a los 18 años en la Orquesta Sinfónica de Viena y, a los 21, fue elegido por Herbert von Karajan como concertino de la Filarmónica de Viena. En 1969 fue distinguido con el Premio Mozart de Interpretación.

Desde 1963 ha sido profesor de la Universidad de Música y Artes Escénicas de Viena, y desde 1993 profesor invitado en Colonia. En 2007 fue nombrado Jefe del Departamento de Cuerda del Instituto Internacional de Música de Cámara de Madrid. Además, imparte clases magistrales en varias academias prestigiosas de verano.

Muchos de sus alumnos han ganado premios internacionales, son concertinos en importantes orquestas, profesores en academias y universidades y desarrollan carreras como solistas y músicos de cámara en salas de conciertos internacionales. Entre sus alumnos se encuentran los más importantes y exitosos grupos de música de cámara europeos como, por ejemplo, los Cuartetos Artemis, Belcea, Casals, Meccore, Fauré, Aris, Eliot, Voce, Van Kuijk, Goldmund, Tchalik, Calidore, Notos, Amaryllis, Barbican, Leonkoro, etc.

En 1970 fundó el Alban Berg Quartet, uno de los cuartetos de cuerda más destacados internacionalmente y que ha actuado en las salas de concierto más importantes de todo el mundo como en el Konzerthaus y el Musikverein de Viena, La Scala de Milán, el Théâtre des Champs Elysées de París, el Royal Festival Hall de Londres, el Teatro Colón de Buenos Aires, el Suntory Hall de Tokio, la Filarmónica de Berlín, etc. Las grabaciones del cuarteto han recibido más de 30 premios internacionales y fueron alabados por compositores entre los que se encuentran Berio, Schnittke, Lutoslawski y Bourlez. El Cuarteto es Socio Honorario del Konzerthaus de Viena y el Royal Festival Hall de Londres.