Under torsdagen öppnade den viktiga gränsövergången Merdare som stängde tidigare i veckan.
Överenskommelsen om att ta bort blockaderna nåddes med ledare för kosovoserber vid ett krismöte sent i onsdags, enligt Serbiens president Aleksandar Vucic.
– Detta betyder att från och med i morgon, från morgontimmarna, kommer borttagningen av barrikader att börja, sade Vucic efter mötet.
Etniska serber i norra Kosovo har under december satt upp vägspärrar på landsvägar nära gränsen mot Serbien.
Spänningarna har förvärrats sedan en före detta polischef greps för tre veckor sedan, misstänkt för terrorism efter att ha misshandlat en Kosovopolis under en tidigare protest.
Beskedet att barrikaderna ska hävas kom efter uppgifter om att han ska släppas ur häkte och i stället placeras i husarrest. Överenskommelsen kan minska de ökande spänningarna som byggts upp under flera veckor mellan länderna och skapat oro för nya sammandrabbningar.
Det har alltid varit spänt mellan Kosovo och Serbien, som aldrig erkänt den nya staten som utropade sin självständighet 2008. Situationen har förvärrats de senaste veckorna och på onsdagen stängde Kosovo den största gränsövergången mot Serbien.
Aleksandar Vucic meddelade på tisdagen att Serbiens militära styrka vid gränsen utökas till 5 000 soldater och sätts i högsta beredskap.
EU och USA har uppmanat länderna att omedelbart agera för att lugna ned situationen.