32 av de 47 länderna i FN:s människorättsråd röstade för att utreda misstänkta kränkningar. Endast två medlemsländer röstade emot – Ryssland och Eritrea. 13 länder, däribland Kina, lade ned sina röster.
Fredagens omröstning innebär att en oberoende internationell undersökningskommission kan tillsättas, vilket är den högsta möjliga utredning som kan beordras av rådet.
Tre utredare ska utses för att samla information och bevis så att skyldiga ska kunna hållas ansvariga.
Den Internationella brottmålsdomstolen (ICC) i Haag har sedan tidigare inlett en utredning om eventuella krigsbrott i Ukraina.
Ukrainas utrikesminister Dmytro Kuleba anklagar ryska trupper för våldtäkter och vill se en specialtribunal för att granska Ryssland. Kuleba kom inte med några bevis för sin anklagelse. Anklagelserna har inte verifieras av oberoende medier.
– Vi har flera fall, tyvärr, när ryska soldater våldtar kvinnor i ukrainska städer, sade Kuleba i ett video-tal till den Londonbaserade tankesmedjan Chatham House.
Internationell lag är "det enda verktyget civilisationen har för att försäkra oss om att alla de som gjorde det här kriget möjligt till sist ställs inför rätta", fortsatte han.
Det är den tidigare brittiska premiärministern Gordon Brown som tillsammans med en rad internationella juridiska experter föreslagit en specialtribunal.