48-åringen, som vann Champions League med klubben 1995 innan han drog vidare till storklubbarna Arsenal och Barcelona, säger att han skäms för sitt beteende.
"Tyvärr, så insåg jag inte att jag passerade en gräns med det här, men det har tydliggjorts för mig de senaste dagarna. Jag kände plötsligt en enorm press. Jag ber om ursäkt", säger han i ett uttalande.
Overmars har varit fotbollschef för Amsterdamklubben sedan sommaren 2012, och hade kontrakt fram till 2026.
Styrelseordförande Leen Meijaard säger att Overmars antagligen är den bästa personen på posten som klubben haft, men att det inte var något alternativ att låta Overmars sitta kvar.
"Det är förödande för kvinnorna som har drabbats av beteendet. När vi hörde om detta agerade vi omedelbart, övervägde noggrant och vägde vad som var bäst att göra", säger Meijaard i uttalandet.