A partir de 1933, plus d'un demi-million d'Allemands menacés pour des raisons religieuses, culturelles, racistes ou politiques par le régime de terreur mis en place par la dictature nazie choisirent la voie de l'exil. Si l'exil représentait pour eux le seul espoir de rester en vie, c'était aussi un déchirement : il leur fallait tout quitter pour tenter de survivre. Ce choix douloureux était parfois compensé par l'espoir de retourner en Allemagne après la chute hypothétique du régime nazi. L'exil, loin d'être une solution de facilité, était un pari risqué, car le destin qui attendait les réfugiés dans leur pays d'accueil restait incertain.

La première difficulté consistait à trouver un pays d'accueil. Les principales destinations des réfugiés allemands furent la France, l'Angleterre, les États-Unis, l'URSS, la Tchécoslovaquie, la Suède, l'Espagne et l'Amérique latine, mais l'obtention d'un visa était souvent problématique ; ainsi, pour être acceptés aux États-Unis, les émigrants devaient prouver qu'ils étaient en mesure de subvenir à leurs besoins. Il leur était de plus nécessaire de connaître un Américain acceptant de les « parrainer » ; c'est pourquoi la plupart des Allemands qui trouvèrent refuge aux États-Unis furent des universitaires, des écrivains ou des scientifiques de renom. Souvent, c'étaient de riches émigrants déjà installés aux États-Unis qui se portaient caution pour leurs compatriotes. L'organisation "Presidential Emergency Advisory Commitee" aida ainsi de nombreux Allemands, notamment Lion Feuchtwanger, Franz Werfel, Heinrich Mann, Max Ernst et Anna Seghers à trouver refuge aux États-Unis.  La Société des Nations (SDN) créa en octobre 1933 une organisation autonome d'aide aux réfugiés, dont le siège était à Lausanne. Le 14 octobre 1933, trois jours après la création de cette organisation, Hitler annonça le retrait allemand de la SDN ainsi que de la Conférence sur le désarmement. McDonald, le haut-commissaire aux réfugiés, démissionna de son poste deux ans après la création du comité d'aide aux réfugiés, en raison du manque de coopération de la part des États membres de la SDN, ainsi que de l'Allemagne, qui refusait de faire des compromis. Après la promulgation des lois de Nuremberg, le problème des réfugiés allemands devint crucial. Après l'annexion de l'Autriche ("Anschluß") en mars 1938 et la "Nuit de Cristal" en novembre 1938, les pays voisins de l'Allemagne fermèrent leurs frontières aux réfugiés allemands en raison de l'exode massif de juifs allemands, et livrèrent les émigrés clandestins à la Gestapo, qui les interna en camp de concentration. En juillet 1938 se réunit sur l'initiative de Roosevelt la conférence internationale d'Evian, dont l'objectif était de trouver des pays d'accueil - hormis les États-Unis, qui n'étaient pas membres de cette conférence - pour 650 000 juifs que l'Allemagne voulait expulser. Cette tentative se solda par un échec ; certes, un comité intergouvernemental pour les réfugiés ("Intergovernmental Comittee for Refugees", ICR), présidé par l'Américain George Rublee, et dont le siège était à Londres, fut créé, mais son champ d'action restait limité. A Berlin eurent lieu des négociations avec le gouvernement allemand, qui permirent d'obtenir du régime nazi un permis d'émigration pour 150 000 juifs allemands, qui durent toutefois laisser en échange une partie de leurs biens aux nazis. Lorsque la guerre éclata, 180 000 juifs, qui n'avaient pu ou voulu s'enfuir ou qui étaient revenus d'émigration, vivaient encore en Allemagne.
Le nombre considérable de réfugiés allemands posait à leurs pays d'accueil, encore profondément touchés par les conséquences de la crise économique des années 30, d'importants problèmes économiques et sociaux, ainsi que des frictions diplomatiques avec l'Allemagne, qui voyait d'un mauvais oeil certains opposants exilés continuer leur combat contre le nazisme à partir de l'étranger. Le régime hitlérien exerça une pression économique, diplomatique et de propagande sur ces pays d'accueil, afin qu'ils lui livrent ces "éléments subversifs", et la Société des Nations dut reconnaître son impuissance à régler ce problème.

Isolés à l'étranger, souvent considérés avec mépris ou rejetés, les exilés avaient le statut juridique précaire de réfugiés ; la plupart d'entre eux furent de surcroît confrontés à des difficultés matérielles. Lorsque la guerre éclata, ceux qui n'avaient pu fuir l'Europe furent internés dans des camps de prisonniers, en tant que ressortissants d'un pays ennemi ; dans les pays vaincus et occupés par les nazis, ils furent livrés à la Gestapo. Ainsi, en France, les réfugiés allemands bénéficièrent de 1933 à 1939 du statut de réfugiés politiques ; mais à partir de septembre 1939, après la déclaration de guerre, la psychose de l'espionnage poussa les autorités à interner dans des camps tous les Allemands résidant en France, en tant que ressortissants d'un pays ennemi. Les camps les plus connus étaient celui de Rieucros, dans l'Ariège, le camp des Milles, dans le Var, et le camp de Gurs, dans les Pyrénées-Atlantiques, où étaient également internés des réfugiés espagnols ayant fui la dictature fasciste de Franco. A partir de juin 1940, leur situation devint désespérée : les réfugiés allemands furent persécutés lors de l'occupation nazie, et furent victimes des rafles de juifs ou des déportations d'opposants politiques. La plupart d'entre eux moururent dans des camps de concentration. Certains parvinrent à s'échapper et fuirent l'Europe, d'autres se cachèrent, furent acculés au suicide ou s'engagèrent dans la lutte antifasciste aux côtés des résistants français.

Tous les exilés allemands ne furent pas des résistants ; certains se retirèrent dans leur sphère d'émigration intérieure ("innere Emigration"), mais d'autres décidèrent de résister activement et entreprirent de combattre le national-socialisme à partir de l'étranger, en dépit de l'obligation de neutralité imposée dans la plupart des pays aux réfugiés bénéficiant de l'asile politique, notamment en Angleterre et en Suisse. Les résistants allemands durent souvent pour cette raison déjouer la surveillance policière de leur pays d'accueil, afin de ne pas être expulsés. Seules la France et la Tchécoslovaquie garantissaient aux réfugiés le droit de continuer à mener des activités politiques ; cette politique d'accueil libérale attira jusqu'aux accords de Munich et l'occupation de la France par les troupes allemandes de nombreux résistants allemands dans ces pays, et tout particulièrement les directions exilées des partis politiques interdits en Allemagne. Lorsque la guerre éclata, les exilés trouvèrent pour la plupart refuge en Angleterre, en Scandinavie et aux États-Unis. Jusqu'en 1939, les exilés résistants eurent encore quelques contacts avec les mouvements de résistance en Allemagne, mais cela fut de plus en plus problématique pendant la guerre, alors que la dictature nazie s'étendait en Europe. Parmi les résistants, on comptait beaucoup d'écrivains, de journalistes, d'hommes politiques, qui dénoncèrent le nazisme et tentèrent de présenter un autre visage de l'Allemagne à l'opinion mondiale, mais également beaucoup d'inconnus, dont de nombreux résistants qui ont lutté pour la liberté aux côtés des antifascistes espagnols et au sein de la Résistance française.