Larmet om branden kom strax efter klockan 10 på fredagsförmiddagen, lokal tid. Det brann då på fjärde våningen i huset, som huserar flera företag och verksamheter på övriga våningsplan. Branden kunde släckas efter en halvtimme, sedan ett stort räddningspådrag dragits i gång.
– Det var massor med svart rök. Det luktade väldigt starkt också, sade en kvinna till public service-bolaget NHK.
Fler personer befaras ha omkommit, men enligt japanska rutiner måste avlidna dödförklaras av läkare, vilket inte gjorts vid samtliga fall ännu.
Enligt lokala medier misstänker polisen mordbrand.
Japans premiärminister Fumio Kishida beklagar händelsen.
– Vi måste fastställa orsaken och hur det hände. Och vi måste vidta åtgärder för att förhindra detta från att ske igen, säger han.