Enligt avtalet som slöts i februari ska USA ha minskat antalet militärer i landet från cirka 12 000 till 8 600 i mitten av juli – men redan nu uppges en minskning till omkring 7 500 ha gjorts.
– Minskningen har accelererats på grund av försiktighetsåtgärder när det gäller covid-19, säger källan.
Avtalet säger att alla utländska styrkor ska lämna landet. I utbyte har talibanerna förbundit sig att hålla rent från terrorgrupper i de områden rörelsen kontrollerar.
I tisdags släppte regeringssidan omkring 1 000 fängslade talibaner, vilket ska följas av att talibanerna också ska släppa fångar.
Under onsdagen löpte ett tre dagar långt avtal om eldupphör ut, utan att några större våldsdåd eller drabbningar rapporterats.