Ytterligare över 170 personer har skadats, nära hundra av dem svårt.
"Åtta personer har bekräftats döda, men den verkliga dödssiffran tros vara mycket högre", skriver Carmela Godeau, IOM:s Mellanöstern- och Nordafrikachef, i ett inlägg på Twitter.
Det är oklart hur branden startade.
Varje år ger sig tusentals migranter ut på den livsfarliga båtresan mellan Afrikas horn och Jemen med målet att ta sig vidare till andra länder kring Persiska viken. Många fastnar i det krigshärjade landet, där den humanitära krisen enligt FN är den värsta i världen.
Förra veckan drunknade minst 20 personer då människosmugglare kastade ett stort antal migranter överbord under överfarten mellan Djibouti och Jemen, enligt IOM.