Vittnen berättar för japanska medier om en gärningsman klädd i kamouflage från topp till tå, som också var maskerad och bar solglasögon.
Gärningsmannen högg sina offer med en stor kniv, innan han sköt två manliga poliser med ett jaktgevär. Han greps sedan han i flera timmar barrikaderat sig i ett hus i staden, som ligger i den centralt belägna prefekturen Nagano, rapporterar nyhetsbyrån Kyodo.
Mannen greps sedan han i flera timmar barrikaderat sig i ett hus som tillhörde hans far.
På fredagen meddelade polisen att den fjärde personen, en äldre kvinna som hittades skadad på platsen, också avlidit.
Boende i området uppmanades att hålla sig hemma och skolor i närheten höll eleverna inomhus under polisinsatsen.