Fans klädda i landslagets blå tröjor firade och sjöng den populära ramsan "Vamos Nippon" tidigt på morgonen bland pendlare på väg till jobbet.
36-årige Munehiro Hashimoto, som var en av firarna, berättade för nyhetsbyrån AFP att han trodde att matchen skulle bli svår för Japan att vinna.
– Den började klockan fyra på morgonen här i Japan så jag tittade hemma. När de vann rusade jag ut hit. Vi klarade det!
28-årige Masaki Higuchi, med en japansk flagga över axlarna som en cape, tycker att Japan ställdes inför en del svårigheter i matchen mot Spanien.
– Men jag tycker att de visade samuraj-takter till slut.
Firandet skedde inte bara på Japans gator. Japans premiärminister Fumio Kishida tog till Twitter för att ventilera sin glädje över resultatet.
"Förbundskapten Hajime Moriyasu och spelarna åstadkom detta underbara resultat i den största och mest avgörande matchen någonsin under enorm press", skriver han.
Premiärministern ringde också till Moriyasu, som fick utstå en del kritik efter Japans 0–1-förlust tidigare under gruppspelet mot Costa Rica.
– Hela Japan känner glädjen. Ni har gett oss mod och energi, sade Kishida till förbundskaptenen.