Mannen som är född 1933 är på sannolika skäl, vilket är det högre graden, misstänkt för sexbrott mot barn.
Våldtäkten ska ha skett i anslutning till en förskola i Nässjö men har inte ägt rum i närtid utan under en månads tidsrymd under april 2013.
Uppgifter ska nu dock ha kommit fram vilket lett fram till att mannen greps och anhölls i början av veckan. Det är oklart om ett eller flera barn blivit utsatta.
På fredagen häktades han vid Eksjö Tingsrätt. Han har ålagts restriktioner då rätten anser att det finns risk för att han avviker eller undanröjer bevis.