Talespersoner för Jemens kustbevakning uppger att 26 personer överlevde olyckan. Sökandet pågick ännu på måndagen efter dem som fortfarande saknas.
Jemens statliga nyhetsbyrå Saba rapporterar, med hänvisning till en icke namngiven medarbetare vid kustbevakningen, att båten kapsejsade i hård vind och att alla ombord föll i vattnet.
Söndagens båtolycka är den senaste i en rad som drabbat de tusentals afrikanska migranter som försöker ta sig från Etiopien, Somalia och Djibouti till oljerika gulfstater i jakten på ett bättre liv.