Vid sju på kvällen lokal tid drog Nanmadol in över huvudön Kyosho med full styrka. Staden Kagoshima befann sig nära stormens öga, enligt landets väderinstitut JMA.
Vindar på 65 meter i sekunden har uppmätts, och ovädret har redan på mindre än ett dygn dumpat 500 millimeter nederbörd i delar av regionen.
Enligt public service-bolaget NHK har sju miljoner människor uppmanats av myndigheterna att söka skydd. Evakuering är dock inte obligatoriskt och vid tidigare extrema väderhändelser har myndigheterna kämpat för att övertyga invånarna att ta skydd snabbt nog.
"Det är farligt att evakuera mitt i natten. Var snäll och sök skydd medan det ännu är ljust ute", uppmanade premiärminister Fumio Kishida på Twitter.
Obefintlig sikt
JMA har inför ovädret utfärdat en "speciell varning", något som görs ytterst sällan.
Vädret försämrades snabbt under kvällen. Sikten i det kraftiga regnet var obefintlig, enligt tjänstemän i Kagoshima.
– Det regnar på ett sätt som vi aldrig sett förr i de stormdrabbade områdena, sade Hiro Kato, chef för JMA.
Hittills är dock de inrapporterade skadorna små. En spelhall fick glasväggen krossad av vinden i staden Kanoya. Och i samma prefektur blev en äldre kvinna lättare skadad när hon föll, rapporterar NHK.
Hundratals flyg inställda
Hundratals inrikesflyg har ställts in och mer väntas allteftersom ovädret rör sig mot nordost, uppger Japan Airlines och All Nippon Airlines.
Också tåg och bussar i de berörda regionerna har ställts in under söndagen.
Stormen Nanmadol, en så kallad tyfon eller intensiv tropisk cyklon, väntas vända mot nordost och nå Tokyo tidigt på onsdagen.
Japans tyfonsäsong pågår just nu, och landet drabbas av cirka 20 liknande oväder per år. Landet drabbas återkommande av kraftiga regn som orsakar skred eller översvämningar.
Rättad: I en tidigare version fanns en felaktig uppgift om hur många som blivit strömlösa.