Le 10 mars 1933, Hindemith écrit à son éditeur Willy Strecker: « Avec tout ce que je vois ici dans le monde musical et théâtral, je crois que, bientôt, tous les postes de théâtre seront occupés par de jeunes nationalistes robustes. Au printemps  prochain, une fois les premières difficultés surmontées, on devrait avoir une bonne chance de présenter un opéra de Penzoldt et de moi-même ».

Hindemith se trompe. En avril 1933, les Éditions Schott l’informent que la moitié de ses oeuvres ont été classées sous le vocable de « bolchevisme culturel » et que leur représentation publique est – officieusement  – interdite. En dépit de nombreuses brimades et de plusieurs articles de délation, Hindemith persévère, toujours dans l’espoir que le régime nazi ne sera que de courte durée. Frappé d’interdit d’exécution publique, il part interpréter ses œuvres dans les pays voisins, avec les compagnons juifs de son trio, Szymon Goldberg et Emanuel Feuermann. Une longue réflexion sur le problème de l’inaction face à la création artistique et la politique succède alors à son retrait de la vie publique. Dans l’opéra Mathis der Maler, dont il est lui-même l’auteur, Hindemith s’exprime sur les événements politiques (autodafé de livres), mais ce qui lui importe dans cet opéra, c’est le fort engagement de l’artiste à l’égard de ses prochains et de l’art. Tout ce qui concerne la personne et les événements de l’époque s’effacent devant ces idées morales et éthiques.

Dans l’espoir de pouvoir représenter un jour cet opéra en Allemagne, Hindemith et ses éditeurs restent dans l’attente, mais sont en même temps confrontés à la complexité des différents intérêts de pouvoir que manifestent les diverses organisations nazies.

Hindemith extrait certains morceaux de son opéra avec lesquels il réalise une symphonie en trois mouvements. Le 12 mars 1934, cette Mathis-Symphonie est jouée pour la première fois en public à Berlin par les  Berliner Philharmoniker, sous la baguette de Wilhelm Furtwängler, et remporte un formidable succès. En toute innocence, Hindemith croit désormais qu’il sera possible de clarifier de manière positive sa position face au Troisième Reich. En novembre 1934, Furtwängler publie un article dans le journal, Deutsche Allgemeine Zeitung, intitulé « Der Fall Hindemith » [« Le cas Hindemith »], dans lequel il s’engage avec véhémence en faveur de Hindemith et réclame un espace politique dédié à l’art. Joseph Goebbels réagit immédiatement lors de la réunion de la Chambre de la culture du Reich qui se tient le 6 décembre 1934 au Palais des sports à Berlin. Sans nommer Hindemith par son nom, il le qualifie de « atonaler Geräuschemacher » [« bruiteur atonal »] et proclame : « Le national-socialisme représente la conscience  non seulement politique et sociale mais aussi culturelle de la nation ». Hindemith est congédié, pour une période indéterminée, de sa chaire de professeur de composition à la Berliner Musikhochschule. Afin d’échapper aux diffamations grandissantes à son égard, Hindemith accepte alors une offre du gouvernement turc qui lui demande de transformer la vie musicale en Turquie à l’image de ce qui se pratique en Europe. De 1935 à 1937, il voyage à quatre reprises en Turquie et entame la réorganisation de la vie musicale dans le pays. Désormais, il recherche davantage à travailler à l’étranger.

L’interdiction officielle d’interpréter la musique de Paul Hindemith en Allemagne est promulguée en octobre 1936, à l’issue d’une exécution publique de la Sonate pour violon en mi, créée en 1935, par le pianiste Walter Gieseking et le violoniste Geiger Georg Kulenkampff. Pour Hindemith, la décision de quitter l’Allemagne n’est plus qu’une question de jours.

Le 22 mars 1937, jour de son départ pour son premier voyage en Amérique, Hindemith remet sa démission à la Musikhochschule de Berlin. En septembre 1938, Paul et Gertrud Hindemith s’installent en Suisse, où ils achètent un chalet dans le petit village de Bluche ob Sierre, situé dans la vallée supérieure du Rhône.

Après le déclenchement de la Deuxième Guerre mondiale, Paul et Gertrud Hindemith s’occupent de plus en plus de leur sécurité en Suisse. Averti par des amis du danger qui règne, Hindemith quitte l’Europe en février 1940 et accepte diverses chaires de professeur dans les écoles et les universités américaines. En septembre 1940, son épouse Gertrud le rejoint.