Minst 14 personer uppges ha plockats upp i området. Många av dem beskrivs som medvetslösa, men inga dödsfall har bekräftats. Besättningen ska ha bestått av 14 kinesiska medborgare och åtta från Myanmar.
Kustbevakning och räddningstjänst från både Sydkorea och Japan arbetar med räddningsinsatserna. Ett annat fraktfartyg har också plockat upp människor ur vattnet.
Fartyget, under Hongkongflagg, skickade ut nödsignal redan sent på tisdagskvällen lokal tid. Bara några timmar senare ska fartyget ha sjunkit.
Den sydkoreanska kustbevakningen säger att man talat med kaptenen över satellittelefon och att han bara några minuter innan fartyget sjönk sade att besättningsmedlemmarna skulle överge fartyget.
Räddningstjänst uppges ha haft svårt att nå olycksplatsen – fartyget sjönk cirka 110 kilometer väster om de japanska avlägsna och obebodda Danjoöarna, runt 150 kilometer söder om den sydkoreanska ön Jeju. Det är vilt väder i området, med hårda vindar och höga vågor.