Besöket var oannonserat. McConnell reste tillsammans med sina republikanska senatskolleger Susan Collins, John Barrasso och John Cornyn.
Zelenskyj kallar i ett inlägg på Instagram påhälsningen "en stark signal" om att den amerikanska kongressens båda partier såväl som det amerikanska folket stöder Ukraina.
Representanthusets talman, demokraten Nancy Pelosi, träffade Zelenskyj i Kiev den 1 maj, och presidenthustrun Jill Biden besökte västra Ukraina för ett möte med landets första dam, Olena Zelenska, några dagar senare.
McConnells besök sker samtidigt som kongressen är på gång att godkänna ett nytt stödpaket för Ukraina värt nästan 40 miljarder dollar.