Den 39-årige tennisstjärnan anser inte att kroppen håller för fortsatt spel efter drygt 3,5 timmes spel mot Dominik Koepker som tog schweizaren till fjärde omgången.
"Efter en diskussion med mitt team har jag beslutat att dra mig ur Franska mästerskapen. Efter två knäoperationer och över ett år av rehabiltering är det viktigt att jag jag lyssnar på min kropp och ser till att jag inte pushar mig själv för hårt på vägen tillbaka", säger Federer till turneringens webbplats.
"Jag är mycket nöjd med att ha fått tre matcher. Det finns ingen bättre känsla än att vara tillbaka på banan."
Den tjugofaldiga grand slam-vinnaren har spelat mycket sparsamt de senaste 17 månaderna. Han har dessutom gjort klart att hans främsta mål i år är Wimbledon i London, som startar 28 juni, där han jagar sin nionde titel.
Motståndaren i fjärde omgången, den 19-årige italienaren Matteo Berrettini är klar för kvartsfinal på walk over.