Dès le début des années 30, les communistes se mobilisèrent contre le NSDAP et tentèrent de convaincre les militants nazis de rejoindre le parti communiste. Mais face à la montée du nazisme, ils durent changer de tactique, et organisèrent de grandes manifestations de protestation, qui donnèrent souvent lieu à des affrontements entre les deux camps. L'union des partis de travailleurs était problématique, car même si la base du parti communiste allemand (KPD) et du parti social-démocrate (SPD) avait la volonté de former un front uni contre le nazisme, cette union ne put voir le jour, car les dirigeants communistes traitaient les sociaux-démocrates de "sociaux-fascistes", et les sociaux-démocrates refusaient de se plier aux directives idéologiques de Moscou. Le 30 janvier 1933, le jour de l'arrivée au pouvoir de Hitler, les communistes lancèrent un appel à la grève générale et à des manifestations de masse, qui fut suivi partout en Allemagne. Les nazis réagirent en procédant à des arrestations, des perquisitions et des rafles.

Face aux mesures répressives prises par le gouvernement nazi contre les communistes, ceux-ci durent se résoudre à continuer le combat dans la clandestinité. Des réseaux clandestins se mirent en place, mais la plupart furent démantelés très rapidement par la Gestapo, qui disposait d'un très grand nombre d'informateurs. Dès février 1933, l'incendie du Reichstag fut pris comme prétexte par les nazis pour interdire le parti communiste et procéder à l'arrestation des cadres du parti ; plus de la moitié des dirigeants du parti furent arrêtés ou assassinés par la Gestapo. A la suite de l'arrestation de Ernst Thälmann, chef du parti communiste allemand, au début du mois de mars 1933, Moscou donna l'ordre aux cadres du parti de s'exiler, afin de former une direction du parti à l'étranger, qui avait pour mission d'apporter son soutien à la base du parti restée en Allemagne. Walter Ulbricht, chef provisoire du KPD et futur dirigeant de la RDA, s'exila en 1933 en Tchécoslovaquie pour y fonder une antenne du parti, et rejoignit en 1936 Wilhelm Pieck, lui aussi futur dirigeant de la RDA, à Paris, où avait été créée une autre antenne du KPD. En 1939, ils trouvèrent refuge en URSS, où ils restèrent jusqu'à la fin de la guerre. 

En Allemagne, les membres du parti tentèrent de déjouer la surveillance de la Gestapo pour former des réseaux illégaux. Mais la police disposait de fichiers du parti communiste, qu'elle avait réquisitionnés lors de rafles, et les résistants furent arrêtés par milliers et envoyés dans les premiers camps de concentration, que les prisonniers politiques communistes et sociaux-démocrates furent obligés de construire. 
La presse illégale fut la première activité des résistants communistes, qui diffusèrent clandestinement des tracts et des publications visant à convaincre la population allemande de se soulever contre Hitler et de renverser le régime nazi. D'autre part, un réseau de messagers fut mis en place ; ceux-ci avaient pour mission de faire passer des informations sur le Reich à l'étranger, aux directions exilées du parti, et de transmettre en Allemagne les nouvelles de l'étranger, afin de contrer la propagande hitlérienne. 
Les syndicats communistes essayaient de leur côté de mobiliser clandestinement les travailleurs au sein des entreprises contre le gouvernement nazi. Mais leur tâche était ardue, car certains membres du parti s'étaient résignés à la victoire nazie, d'autres s'étaient engagés dans le NSDAP, et les persécutions dont étaient victimes les communistes en décourageaient plus d'un à continuer le combat. De plus, l'implantation des syndicats communistes était très faible dans les entreprises avant l'arrivée au pouvoir de Hitler, car la majorité des membres du parti étaient alors au chômage, et les activistes ne purent former de véritable contrepoids au nazisme dans les entreprises allemandes.

En 1935, le Komintern et le bureau politique du KPD décidèrent de changer leur tactique contre le national-socialisme, et de tenter de s'unir aux sociaux-démocrates afin de former un front uni contre le nazisme. D'autre part, la structure hiérarchique habituelle du parti, facile à démanteler par la Gestapo, qui avait pu ainsi procéder à des arrestations par milliers, fut abandonnée ; les résistants s'organisèrent en petites cellules, dirigées par des instructeurs qui avaient été formés à cette tâche, et qui fonctionnaient dans la clandestinité au sein des entreprises et à la place des anciennes antennes locales du parti. Ces cellules recevaient leurs directives des centrales du KPD coordonnées par le comité central de Moscou et exilées à Amsterdam, Strasbourg, Luxembourg, Copenhague, Prague, Paris et Stockholm, qui envoyaient clandestinement des messagers en Allemagne. Ceux-ci traversaient la frontière tchécoslovaque grâce à un réseau de passeurs ; cette organisation imprimait également des tracts, qui étaient ainsi acheminés dans le Reich, et aidait des réfugiés à fuir l'Allemagne. Le même type de réseau existait aux frontières belge et néerlandaise, mais la Gestapo parvint à démanteler ces organisations en 1935-36, grâce à l'infiltration d'espions. 

En 1936, lors des Jeux Olympiques de Berlin, qui furent pour les nazis un événement majeur de propagande, les communistes organisèrent une grève dans une usine de Berlin, ce qui contredisait la propagande hitlérienne, selon laquelle toute l'Allemagne soutenait les nazis. La Gestapo fit en sorte que les journalistes étrangers ne soient pas au courant de cette grève, et plaça à la suite de cet incident des espions nazis dans toutes les usines, de façon à ce que de tels mouvements de contestation ne puissent plus se reproduire.

Pendant la guerre, la plupart des pays voisins étant occupés par les troupes allemandes, il devint de plus en plus difficile de maintenir un contact entre les directions exilées du parti et la base restée en Allemagne ; les cellules de résistants communistes furent de plus en plus isolées et ne parvenaient que rarement à recevoir les directives du parti. Les résistants communistes qui travaillaient aux chemins de fer ou dans les compagnies de transport fluvial ou maritime purent toutefois continuer à transmettre des messages. De plus, les communistes disposaient d'un service secret qui collectait des informations et les envoyait par radio aux centrales de renseignements de Paris et Bruxelles, qui avaient des agences dans tous les pays européens. 

Le pacte de non-agression de l'URSS conclu par Hitler et Staline le 23 août 1939 choqua et désorienta les résistants qui luttaient depuis six ans dans la clandestinité ; une direction du parti indépendante de Moscou fut créée en Allemagne en réaction à ce pacte, et son comité central envoya des messagers dans les différentes cellules locales pour donner l'ordre de poursuivre le combat contre le nazisme. Après l'attaque nazie de l'URSS, la section communiste allemande renoua avec Moscou. Mais la volonté de ces résistants communistes de provoquer un soulèvement de la population allemande contre la guerre et le gouvernement nazi n'avait aucune chance de réussir, étant donné qu'une grande partie des Allemands soutenait Hitler, qui remportait une victoire après l'autre. La cote de popularité du dictateur était telle pendant les premières années de la guerre, qu'une révolution était irréalisable. Willi Gall, qui avait commencé à organiser la résistance intérieure, fut arrêté en 1940 ; son successeur, Wilhelm Knöchel, coordonna les activités des différentes cellules à partir d'Amsterdam, puis s'installa à Berlin en 1941 ; il fut arrêté en janvier 1943 et donna sous la torture des informations aux nazis, ce qui mit en danger toute la résistance communiste et fragilisa ses activités.

A la fin de la guerre, alors que les troupes soviétiques s'approchaient de plus en plus de l'Allemagne, des agents communistes furent parachutés dans le pays pour organiser la résistance communiste. Et lorsque la zone d'occupation soviétique donna naissance à la RDA, de nombreux communistes qui s'étaient exilés à Moscou, dont Walter Ulbricht et Wilhelm Pieck, en devinrent les dirigeants.

 

Principaux groupes de résistance communistes :

L'Aide Rouge ("Die Rote Hilfe")
Ce groupe, fondé à Paris par le résistant communiste Wilhelm Beuttel, soutenait des personnes persécutées par le régime national-socialiste. Wilhelm Beuttel, qui était retourné en 1942 en Allemagne, travailla dans le groupe de résistance de Wilhelm Knöchel. Il fut arrêté par la Gestapo en 1943 et exécuté en 1944.
 

Le groupe de Wilhelm Knöchel dans la Ruhr
Wilhelm Knöchel, qui dirigeait depuis 1935 le comité exilé du KPD à Amsterdam, rentra en 1941 en Allemagne pour réorganiser la résistance communiste dans la Ruhr. Son organisation diffusa clandestinement une publication antinazie, Le Combattant de la Paix ("Der Friedenskämpfer"), qui informait les Allemands des crimes commis par les nazis et de la situation internationale, et les incitait à se soulever contre Hitler, afin de renverser eux-mêmes la dictature nazie. Wilhelm Knöchel fut arrêté par la Gestapo en 1943 et fut exécuté en 1944, et son organisation fut démantelée. Une cinquantaine de résistants qui travaillaient dans ce groupe furent également arrêtés, torturés et assassinés.
 

Le groupe de Josef (Beppo) Römer
Josef Römer publia à la fin des années 20 un journal communiste, Élan nouveau ("Aufbruch") ; il fut arrêté en mars 1933 et passa six ans en camp de concentration. Après sa libération, il tenta d'organiser un attentat contre Hitler et prit contact avec le cercle de résistance de Adam von Trott zu Solz et celui de Robert Uhrig. En 1940, il créa un groupe de résistance qui diffusait un journal clandestin, Service de renseignements ("Informationsdienst"). Il fut arrêté en 1942 et exécuté en 1944.
 

Le groupe de Robert Uhrig à Berlin
Robert Uhrig fut arrêté une première fois en 1934, parce qu'il avait diffusé un journal clandestin et qu'il avait récolté des fonds pour les familles de victimes des persécutions nazies. Il fut libéré après 21 mois de travaux forcés et créa une organisation de résistance en 1938 à Berlin ; son objectif était de former des groupes de résistants communistes au sein des entreprises. A partir de 1941, le groupe, qui comptait une centaine de membres en 1940, et le double en 1942, a travaillé avec d'autres mouvements, notamment l'organisation Harnack / Schulze-Boysen, afin de mettre en place un service de renseignements. La Gestapo a démantelé l'organisation en 1942 ; une centaine de résistants, dont Robert Uhrig, furent arrêtés, torturés, déportés en camp de concentration, et furent exécutés en 1944. Leur famille fut également arrêtée. Ceux qui purent échapper aux persécutions se joignirent au groupe de Anton Saefkow.
 

Le groupe de Walter Budeus
En 1936, Walter Budeus créa dans l'entreprise de métallurgie dans laquelle il travaillait une organisation composée d'une cinquantaine de résistants. A la fin des années 30, il prit contact avec Robert Uhrig et Beppo Römer, afin de coordonner les activités des différents groupes. Leur travail consistait à collecter des informations sur l'industrie de guerre, diffuser des tracts et prendre contact avec d'autres groupes de résistance. Walter Budeus fut arrêté en 1942 et condamné à mort en 1944.
 

Le groupe de Bernhard Bästlein, Oskar Reincke et Franz Jacob à Hambourg
En 1941-42, à leur libération de camp de concentration, Bernhard Bästlein, Oskar Reincke et Franz Jacob fondèrent une organisation de résistance au sein des chantiers navals de Hambourg. Ce groupe, qui diffusait des tracts antifascistes et envoyait des lettres aux soldats stationnés au front de l'Est pour les inciter à refuser de combattre, était en contact avec d'autres mouvements de résistance, notamment l'organisation Harnack / Schulze-Boysen. Arrêtés par la Gestapo en 1943, ils purent profiter des bombardements alliés pour s'échapper et entrer dans la clandestinité. Mais arrêtés à nouveau en 1944, une soixantaine de résistants furent exécutés en 1944-45.

Le groupe de Anton Saefkow et Franz Jacob à Berlin
Fondé en 1943, ce groupe diffusa des tracts antifascistes et prit contact en 1944 avec Julius Leber et Adolf Reichwein, des résistants sociaux-démocrates qui prenaient part au complot qui préparait l'attentat du 20 juillet 1944 contre Hitler. La Gestapo, qui avait infiltré un espion dans cette organisation, arrêta le 22 juin 1944 Anton Saefkow, Franz Jacob, Julius Leber et Adolf Reichwein. Des centaines de résistants de ce groupe furent arrêtés et assassinés.
 

Le groupe de Theodor Neubauer et Magnus Poser en Thuringe 
Cette organisation, créée en 1942, était en contact avec d'autres groupes de résistance, par exemple avec un groupe de l'université de Iéna, ainsi qu'avec un groupe du camp de concentration de Buchenwald, et put ainsi envoyer de la nourriture, des tracts, mais aussi des armes aux prisonniers. Theodor Neubauer, qui avait été interné plusieurs années en camp de concentration avant de créer ce groupe de résistance, fut arrêté en 1944 et exécuté en 1945.

Le groupe de Georg Schumann et Otto Engert à Leipzig
Ce groupe était en contact avec des prisonniers de guerre russes et des travailleurs de force étrangers, ainsi qu'avec l'organisation de Harro Schulze-Boysen, celle de Theodor Neubauer et Magnus Poser en Thuringe et celle de Anton Saefkow à Berlin. L'objectif principal du groupe de Leipzig était d'unifier les divers mouvements de résistance communistes, mais cette tentative ne put aboutir en raison de la surveillance qu'exerçait la Gestapo.

Comité national de l'Allemagne libre (Nationalkomitee Freies Deutschland", NKFD)
Ce comité fut fondé en 1943 par la section politique de l'armée soviétique et par le comité central du KPD exilé à Moscou ; ses objectifs étaient, au moyen d'un travail de propagande, de détourner les prisonniers de guerre allemands du nazisme et d'encourager les soldats allemands à déserter. Le NKFD tentait de rallier toutes les tendances politiques à l'union contre Hitler ; dans ses rangs, on ne comptait pas uniquement des communistes, mais aussi, par exemple, une centaine de pasteurs, prêtres et étudiants en théologie de la Wehrmacht, prisonniers dans les camps russes, qui se sont joints au NKFD  en raison des persécutions dont étaient victimes les Églises dans le Reich. Les communistes, notamment Wilhelm Pieck et Walter Ulbricht, futurs dirigeants de la RDA, ont finalement pris la tête du NKFD, qui est devenu un instrument de propagande entre les mains du gouvernement soviétique.
 

L'organisation Allemagne libre ("Freies Deutschland")
Ce groupe, fondé à Cologne en 1943 par un réseau de résistants communistes, comptait plus de deux cents membres, et rassemblait des résistants de tous les horizons politiques et idéologiques. Des tracts incitant la population allemande à commettre des sabotages, afin d'enrayer la machine de guerre nazie, et encourageant les soldats à déserter, furent distribués, et les résistants apportèrent leur aide aux travailleurs de force étrangers prisonniers en Allemagne. La Gestapo arrêta de nombreux membres du groupe, qui se disloqua progressivement.
 

 

Organisations résistantes indépendantes du KPD

Parti communiste allemand oppositionnel ("Kommunistische Partei Deutschlands (Opposition), KPO)
L'aile droite du KPD avait été exclue du parti en 1928 et avait fondé une organisation communiste indépendante, le KPO. Après l'arrivée au pouvoir de Hitler, seuls quelques militants désignés par les cadres du parti s'exilèrent en France, où ils fondèrent un comité exilé ("Auslandskomitee", AK) en contact, grâce à un réseau de messagers, avec la base du parti, qui poursuivait clandestinement ses activités en Allemagne. Un comité du KPO, qui siégeait à Berlin, se chargeait de coordonner les activités des cellules locales du parti. La structure à la fois hiérarchisée et morcelée du parti permit d'éviter les grandes rafles de la Gestapo. Les objectifs principaux du KPO étaient de transmettre des informations sur le régime hitlérien et de travailler en collaboration avec les résistants exilés à l'union des travailleurs contre le nazisme. Des tracts furent distribués, et les membres du parti avaient pour mission de créer des syndicats clandestins dans les entreprises dans lesquelles ils travaillaient. Lorsque le contact avec le comité exilé fut rompu en raison de l'occupation de la France par les troupes allemandes, le KPO prit contact avec d'autres organisations de travailleurs, notamment avec les sociaux-démocrates, afin de créer des syndicats clandestins, et de distribuer des tracts visant à mobiliser la population allemande contre Hitler.
 

L'Orchestre Rouge ("die Rote Kapelle")
A partir de la fin de l'année 1941, l'organisation Harnack / Schulze-Boysen coopéra avec les bureaux des renseignements soviétiques de Paris et Bruxelles, sans que ses membres deviennent pour autant des agents soviétiques et perdent leur indépendance, comme les autorités nazies l'ont prétendu par la suite. La Gestapo nomma ce groupe de résistance L'Orchestre Rouge ("die Rote Kapelle").
 

Le groupe de Herbert et Marianne Baum
Herbert Baum et sa femme Marianne, qui luttaient depuis 1933 au sein des jeunesses communistes, fondèrent en 1938-39 un groupe de résistance, dont les membres, des adolescents juifs proches du communisme, diffusèrent des tracts antifascistes et mirent le feu à une exposition anticommuniste organisée à Berlin dans le cadre de la propagande nazie, Le Paradis soviétique ("Das Sowjetparadies"). Les jeunes gens furent arrêtés en 1942 ; une vingtaine d'entre eux furent exécutés, certains, comme Herbert Baum, se suicidèrent dans leur cellule, et les autres résistants moururent en camp de concentration. Les représailles de la Gestapo ne s'arrêtèrent pas là : 500 juifs berlinois furent déportés en camp de concentration à la suite de cette action.