Le travail de compositeur a accompagné toute la vie musicale de Hindemith depuis ses débuts d’étudiant au Dr. Hoch’s Conservatorium à Francfort jusqu’à sa dernière oeuvre, la Messe pour chœur mixte a cappella, achevée quelques semaines avant sa mort, et dont il exécute personnellement la première (1963). Sa carrière de la pratique musicale s’avère remarquable sur le plan de la qualité artistique et unique quant à sa diversité. Le musicien formé initialement comme violoniste d’orchestre, a occupé, alors qu’il avait à peine vingt ans, le poste de violon solo dans l’orchestre de l’opéra de Francfort, qu’il conserve jusqu’en 1923.

Dans les années 1920, sa renommée se développe dans le monde musical et il devient l’un des altistes les plus célèbres de son époque – notamment parce qu’il est à la fois compositeur et instrumentiste. De 1919 à 1939, il compose sept sonates pour alto au total (les Sonates pour alto solo op. 11 n° 5, op. 25 n° 1, op. 31 n° 4 et la Sonate de 1937 ainsi que les Sonates avec accompagnement de piano op. 11 n° 4, op. 25 n° 4 et la Sonate de 1939).

Au cours de l’été 1922, le Quatuor Amar, dans lequel Hindemith joue au pupitre d’alto, commence sa tournée périodique de concerts. Ce quatuor devient une véritable institution,  notamment lors des Journées musicales de Donaueschingen, où Hindemith joue de nombreuses œuvres présentées pour la première fois en public. Il donne alors jusqu’à cent concerts par an dans différents pays européens et part également en tournée en Union Soviétique durant les hivers 1927/28 et 1928/29. Sa participation au Quatuor Amar le conduit  à composer deux Quatuors à cordes, un Trio à cordes et trois Sonates pour violon seul à l’intention des autres membres du Quatuor. Le Quatuor Amar fait bientôt partie des ensembles célèbres de l’époque. Il est salué unanimement et acquiert une grande renommée grâce à son excellente maîtrise technique : « L’intonation objectivée et bien maîtrisée du premier violon Licco Amar est caractéristique de l’esprit qui anime les représentations de cet ensemble et dont la principale attitude est fondée sur la joie profonde de l’art, fort différencié, de jouer ensemble ».

Le Quatuor Amar – grâce à la contribution de Hindemith – se  caractérise par le principe de la « pratique musicale » emphatique et par un engagement inconditionnel à pratiquer de la musique pour la musique elle-même. Ceci se manifeste notamment dans son vaste répertoire de quatuors qui compte plus de deux cents œuvres de la plus classique à la plus moderne. Il est donc possible de présenter des programmes extrêmement variés avec très peu de reprises d’œuvres connues.

Hindemith commence à s’intéresser à « musique ancienne » en 1922 ; il compose la kleine Sonate op. 25 n° 2 (1922) pour la viole d’amour (et comme le décrit Hindemith dans une lettre adressée à une amie, « un instrument merveilleux […], du plus beau timbre que tu puisses imaginer, d’une suavité et d’une douceur totalement indescriptibles »). Il écrit également la Kammermusik n° 6 pour viole d’amour et grand orchestre de chambre op. 46 n° 1 (1927/30), qu’il intègre dans ses programmes de concerts. Il donne de très nombreux concerts de musique baroque avec une claveciniste et le violoncelliste du Quatuor Amar. Plus tard, en collaboration avec le Collegium Musicum de la Yale University, il élabore des programmes de concerts qui présentent des compositions allant de Perotin à Bach. Lorsque cela s’avère nécessaire, Hindemith y joue également la partie du violon, de l’alto, de la vielle, de la viole de gambe ou du basson.

Au printemps 1929, Hindemith quitte le Quatuor Amar, qui continue de se produire avec un nouvel altiste jusqu’en 1933. En 1929, Hindemith fonde un Trio à cordes avec le violoniste Wolfsthal et le violoncelliste Emanuel Feuermann. Jusqu’en 1934, ce Trio donne des concerts dans toute l’Europe (en 1931, Simon Goldberg remplace le poste de Wolfsthal qui est décédé jeune). Désormais, Hindemith joue de plus en plus en tant que soliste. Son répertoire comprend des œuvres de Mozart à William Walton, dont il exécute en 1929 pour la première fois en public le concerto pour alto ainsi que le concerto de Darius Milhaud (1930) qui lui est dédié. Quant à sa propre production musicale, il compose au total trois Concertos pour alto : la Kammermusik n° 5 pour alto solo et grand orchestre de chambre op. 36 n° 4 (dont la première est jouée en 1927 par l’orchestre du Berliner Staatsoper sous la baguette d’Otto Klemperer) ; puis, en 1930, la Konzertmusik pour alto solo et grand orchestre de chambre op. 48 (dont la première est jouée en 1930 par les Berliner Philharmoniker sous la direction de Wilhelm Furtwängler) ainsi que Der Schwanendreher. Concerto d’après d’anciennes chansons populaires pour alto et petit orchestre (dont la première est jouée en 1935 par le Concertgebouw Orkest à Amsterdam sous la baguette de Willem Mengelberg).

Hindemith décide de mettre un terme à sa carrière d’altiste lorsqu’il écoute en 1940 ses derniers enregistrements sur disques : « J’ai décidé de renoncer définitivement à toute exécution en public. Si elle n’est pas plus belle que ce qui en sort du grammophone, alors, elle n’est pas digne d’être jouée ». À partir de la fin de la Deuxième Guerre mondiale, il s’impose de plus en plus en tant que chef d’orchestre. La renommée, dont il jouit, est bâtie sur la qualité de l’ensemble et sur l’importance des concerts qu’il conduit. Il se produit à plusieurs reprises comme chef d’orchestre, invité par l’Orchestre philharmonique de Berlin avec lequel il réalise également plusieurs enregistrements sur disques. Au cours de l’été 1955, il accompagne cet orchestre au Festival d’Édimbourg. En 1953, il est invité à Bayreuth afin d’y jouer la Neuvième Symphonie de Beethoven. Le 27 janvier 1956, il dirige le Royal Philharmonic Orchestra de Londres à l’occasion du concert donné en l’honneur du 200e anniversaire de la naissance de Wolfgang Amadeus Mozart. Il dirige le concert d’inauguration de la Beethovenhalle à Bonn. Il se produit avec les Bamberger Symphoniker et avec les orchestres symphoniques de radio à Brême, Berlin, Francfort, Cologne et  Baden-Baden. Lors de ses concerts donnés aux États-Unis, il dirige notamment le Chicago Symphony Orchestra et le New York Philharmonic. Au printemps 1956, il part pour une tournée de concerts au Japon avec les Wiener Symphoniker. Hindemith est souvent convié par les Wiener Symphoniker. Il joue avec l’Orchestre de chambre de Bâle créé par Paul Sacher, avec l’Orchestre de la Tonhalle de Zurich et avec l’Orchestre de la Suisse Romande. L’Orchestre National de Paris, le London Symphony Orchestra et le Hallé Orchestra l’invitent également. Pendant ses des dix-sept années de carrière de chef d’orchestre, Hindemith occupe le pupitre six cent fois et maîtrise un répertoire de près de troix cents œuvres.