Tysklands beslut är ett svar på att Moskva skurit ned antalet tyska diplomater i Ryssland.
– Vi har beslutat dra tillbaka tillståndet för fyra av fem ryska konsulat som är verksamma i Tyskland, säger en talesperson för tyska UD.
Ambassaden i Berlin samt ett konsulat får fortsatt tillstånd att verka efter nyår.
– Det är Ryssland som är orsak till den här situationen, säger tyska UD:s Christofer Burger samtidigt som han beklagar utvecklingen.
Moskva fördömer Tysklands beslut att minska Rysslands diplomatiska närvaro och benämner det hela som ett "ogenomtänkt" drag.
"Det bör inte råda några tvivel i Berlin om att dessa ogenomtänkta provokationer inte kommer att fortgå utan konsekvenser", uppger det ryska utrikesdepartementet.
Ryssland satte nyligen 350 som en övre gräns för tyska statsanställda i landet, inklusive personer som arbetar med kultur och utbildning. Det innebär att konsulaten i Jekaterinburg, Novosibirsk och Kaliningrad stängs i november.