Enligt federala åklagare misstänks militären för att ha samarbetat med rysk underrättelsetjänst.
Den misstänkte spionen ska ha "erbjudit sina tjänster till den ryska ambassaden i Berlin" och det ryska konsulatet i Bonn.
Kontaktförsöken gjordes i maj, då mannen vände sig till en rysk general i ett försök att upprätta en kontakt, uppger åklagare.
Mannen identifieras bara med förnamn och efternamnets initial, vilket är brukligt för misstänkta brottslingar i Tyskland. Han arbetade för en underhållsavdelning för internetverksamhet, liksom mer praktiskt underhåll som uniformer, stridsvagns- och flygplansunderhåll.
Den misstänkte greps i Koblenz. En husrannsakan genomfördes samtidigt i mannens hem.
Misstankar om spionage för rysk underrättelsetjänst har ökat sedan den ryska invasionen av Ukraina och påföljande militärt stöd från Tyskland till Ukraina.