Skämtet kom efter att Matovic fattat beslutet att beställa det ryska coronavaccinet Sputnik V – ett vaccin som ännu inte har godkänts av EU.
I en efterföljande radiointervju fick han frågan om vad han hade lovat Ryssland i utbyte.
Svaret löd : "Transkarpatien". En region i västra Ukraina som gränsar till Slovakien.
Skämtet föll inte i god jord.
– Det här är totalt oacceptabelt, säger Oleg Nikolenko, talesperson för Ukrainas utrikesdepartement.
Ämnet är speciellt känsligt då Ryssland 2014 intog och annekterade Krim-halvön. Större delen av det internationella samfundet anser att den annekteringen är illegal och betraktar området som ukrainskt.
Matovic gjorde senare avbön.
"Jag ber om ursäkt till alla ukrainare för min opassande reaktion", skriver premiärministern på Twitter.