Ambassadören Petro Vrublevskyj talade i en intervju om att "döda ryssar". Rysslands utrikesdepartement reagerade med kraft på detta och krävde att den kazakiska regeringen skulle sparka ut ukrainaren. Vrublevskyj bad senare om ursäkt.
Kazakstan har försökt balansera mellan Ryssland och väst sedan det storskaliga Ukrainakriget inleddes och det komplicerades av det ukrainska utspelet.
Först kallade kazakerna upp Rysslands ambassadör för ett "allvarligt samtal" med anledning av kraven om att Ukrainas ambassadör skulle sparkas ut.
Sedan meddelade den kazakiska regeringen att den ukrainske ambassadörens kommentarer var oacceptabla och att de kommit överens med Kiev om att han skulle åka hem.
Det framgår inte av Ukrainas besked varför ambassadören får åka hem, eller om han kommer att ersättas av någon annan.