Zelenskyj twittrar att han har haft ett "långt och meningsfullt" samtal med Xi. Det är det första samtalet presidenterna emellan sedan Rysslands fullskaliga invasion av Ukraina i februari i fjol.
Den ukrainske presidenten har upprepade gånger sagt att han är öppen för samtal med den kinesiske presidenten. Enligt hans talesperson Sergij Nykyforov varade samtalet med Xi i nästan en timme.
Efteråt utsåg Zelenskyj en ny Kinaambassadör. Pavlo Ryabikin, som tidigare lett departementet för strategiska industrier, tilldelas posten som varit obesatt sedan februari 2021.
Skickar representant
Onsdagens telefonsamtal tillkom på Ukrainas initiativ, enligt det kinesiska utrikesdepartementet.
Kinesiska medier skriver efter samtalet att "alla berörda parter bör hålla sig lugna och återhållsamma i hanteringen av kärnkraftsfrågan och verkligen se på framtiden, deras eget öde och mänskligheten som en helhet, och arbeta tillsammans för att hantera krisen".
Enligt kinesiska statliga medier kommer Xis regering att skicka en "särskild representant" till Ukraina för samtal om en möjlig "politisk uppgörelse".
I mars träffade Xi Rysslands president Vladimir Putin i Kreml, och höll formella samtal.
Förklarat sig neutralt
Kina har officiellt förklarat sig neutralt i konflikten, men Xi Jinping har aldrig fördömt den ryska invasionen. Bara veckor före invasionen i februari i fjol upprättade Kina och Ryssland ett avtal om ett partnerskap "utan gränser".
I februari manade Kina till fredssamtal och eldupphör i Ukraina och publicerade en lista med tolv punkter för en politisk uppgörelse, som från vissa håll kallades för en grund till en fredsplan. Många experter anser dock att den behöver bli mer konkret.
I en första reaktion på samtalet mellan Zelenskyj och Xi anklagar det ryska utrikesdepartementet Ukraina för att undergräva alla fredsansträngningar med orimliga villkor för förhandlingar.