Om det blir verklighet innebär det ett genombrott i försöken att få slut på en komplex konflikt där civila utsatts för våldsamma övergrepp.
"Eritrea har gått med på att dra tillbaka sina styrkor från den etiopiska gränsen", twittrar Abiy dagen efter det att han anlänt till grannlandets huvudstad Asmara för möten med president Isaias Afwerki.
Etiopiska försvaret ska med omedelbar verkan ta över gränsbevakningen, enligt Abiys uttalande.
Ambassadör bekräftar
Det eritreanska informationsdepartementet nämner ingenting om tillbakadragna styrkor. I ett uttalande framgår bara att de två länderna "kom överens om att hålla uppföljande konsulterande möten" i Etiopiens huvudstad Addis Abeba.
Däremot twittrar den eritreanska ambassadören i Japan, Estifanos Afeworki, att "från och med i dag" ska landets styrkor "lämna över alla posteringar" som "utrymdes" av etiopiska styrkor när konflikten inleddes.
Både den eritreanska och den etiopiska ledningen har fram tills nyligen förnekat att Eritrea alls var inblandat i konflikten.
Flyktingläger förstörda
Abiy Ahmed beordrade en offensiv mot den nordliga gränsregionen Tigray i november förra året efter anklagelser om att det etiopiska partiet Tigreanska folkets befrielsefront (TPLF), som styrde delstaten, attackerat arméförläggningar.
Kommunikationerna med Tigray var länge avskurna och invånare i regionen har vittnat om massakrer, omfattande sexuella övergrepp och urskillningslöst dödande.
På fredagen fick ett FN-team tillgång till två läger för eritreanska flyktingar i Tigray, för första gången sedan i november. Båda var totalförstörda, enligt Boris Cheshirkov, talesperson för FN:s flyktingkommissariat UNHCR.
– Alla humanitära inrättningar hade plundrats och vandaliserats, säger han vid en presskonferens i Genève.
Etiopien och Eritrea utkämpade ett blodigt gränskrig i början av 1998 som orsakade tiotusentals människors död.